OpenAI, Avrupa Birliği’nin yapay zekâ şeffaflığı kurallarına uyum sağlamak amacıyla ChatGPT ile Codex tarafından oluşturulan metinlere görünmez filigran eklemeye hazırlanıyor. Şirket, textGrain adlı sistemi kullanarak metinlere makine tarafından okunabilen istatistiksel bir işaret yerleştirecek ve uygulama ilk aşamada AB’deki uygun kullanıcılarla sınırlı kalacak. OpenAI ayrıca filigranı tespit eden araca erişimi araştırmacılar ile uzman kuruluşlarla sınırlandırırken küresel API müşterilerine seçili modellerde isteğe bağlı kullanım sunacak.
OpenAI, textGrain Sistemiyle Metinlere İstatistiksel İşaret Ekliyor
OpenAI’nin textGrain sistemi, yapay zekâ tarafından oluşturulan metnin kelime seçimlerine insanlar tarafından fark edilmeyen istatistiksel bir sinyal ekliyor. Özel tespit aracı ise metni analiz ederek söz konusu işaretin OpenAI tarafından yerleştirilip yerleştirilmediğini belirliyor.
TextGrain tarafından eklenen işaret, metnin görünümünü kullanıcı açısından değiştirmiyor. Sistem doğrudan metne açık bir etiket yerleştirmek yerine makine tarafından okunabilen bir sinyal kullandığı için filigranın varlığı normal okuma sırasında fark edilemiyor.
OpenAI, textGrain performansının Google’ın SynthID for Text gibi diğer metin işaretleme yöntemleriyle karşılaştırıldığında benzer veya daha iyi sonuçlar verebildiğini belirtiyor. Şirket yine de teknolojinin her metinde kesin sonuç üretmediğini özellikle vurguluyor.
OpenAI’nin açıklamasına göre kısa metinlerde textGrain tespit başarısı yaklaşık yüzde 80 seviyesinde kalıyor. Matematik içeren metinlerde ise kelime seçimi için kullanılabilecek alanın daralması nedeniyle filigranın belirlenmesi daha zor hale geliyor.
Metin üzerinde yapılan değişiklikler de tespit performansını düşürebiliyor. Kullanıcının oluşturulan içeriği düzenlemesi, yeniden yazması veya metnin yapısını değiştirmesi halinde sistemin OpenAI işaretini algılama ihtimali azalabiliyor.
Yapay zekâ metin filigranı tespit edilemediğinde sonuç, ilgili içeriğin insan tarafından yazıldığını kanıtlamıyor. OpenAI ayrıca textGrain sonucunun metnin doğruluğunu, mülkiyetini veya insan katkısının oranını belirlemediğini açıkça belirtiyor.
OpenAI, önümüzdeki haftalarda Avrupa Birliği’ndeki uygun ChatGPT kullanıcılarının oluşturduğu metinlere textGrain uygulamaya başlayacak. Codex tarafından üretilen içerikler de aynı filigranlama yaklaşımının kapsamında yer alacak.
Şirket, sistemin başlangıç aşamasında dünya genelinde varsayılan olarak etkinleştirilmeyeceğini belirtiyor. Avrupa Birliği dışındaki kullanıcılar için aynı uygulamanın otomatik olarak devreye alınması konusunda ise OpenAI henüz küresel bir geçiş tarihi açıklamıyor.
API müşterileri ise seçili modellerde filigranlı metin çıktısını isteğe bağlı olarak bugünden itibaren etkinleştirebiliyor. OpenAI, önümüzdeki haftalarda bulut hizmeti ortakları üzerinden erişilen OpenAI modellerinin çıktılarına da aynı işaretleme seçeneğini eklemeyi planlıyor.
OpenAI’nin geliştirdiği tespit aracı başlangıçta genel kullanıcıların erişimine sunulmayacak. Onaylanmış araştırmacılar ile uzman kuruluşlar, araca erişmek için başvuru yapabilecek ve OpenAI başvuruları ayrı ayrı değerlendirecek.
Tespit aracı yalnızca analiz edilen metinde OpenAI filigranının bulunup bulunmadığını gösterecek. Sistem kullanıcı kimliğini açıklamayacak, kullanılan istemleri ortaya çıkarmayacak veya ChatGPT konuşma geçmişine erişim sağlamayacak.
Bu ayrım, yapay zekâ içeriğinin tespit edilmesi ile kullanıcı verilerinin açığa çıkarılmasını birbirinden ayırıyor. OpenAI böylece filigran kontrolünü içerik doğrulama mekanizması olarak konumlandırırken tespit sonucunu kullanıcı takibi için kullanmayacağını belirtiyor.
OpenAI’nin yeni uygulaması, Avrupa Birliği’nin Yapay Zekâ Yasası kapsamında yapay zekâ tarafından üretilen içeriklere yönelik şeffaflık gereklilikleriyle bağlantılı. Yeni kurallara piyasaya yeni giren şirketlerin uyması gerekirken daha önce faaliyet gösteren şirketlere geçiş süresi tanınıyor.
OpenAI, Anthropic, Microsoft, Google ile Meta gibi şirketlerin 2 Aralık tarihine kadar ilgili gerekliliklere uyum sağlaması gerektiğini belirtiyor. ChatGPT metinlerinin görünmez biçimde işaretlenmesi, OpenAI’nin söz konusu şeffaflık yükümlülüklerine yönelik hazırlığının bir parçasını oluşturuyor.
AB’de başlayacak uygulamanın kapsamı, ilerleyen dönemde yapay zekâ tarafından üretilen metinlerin kaynağının teknik yöntemlerle değerlendirilmesinde yeni bir standart oluşturabilir. TextGrain’in kısa metinler, matematiksel içerikler veya yoğun biçimde düzenlenmiş metinlerdeki performansı ise sistemin güvenilirliği açısından izlenmesi gereken temel konular arasında yer alacak.
