Yapay Zekâ Savunması Çöktü mü? Görsel Koruma Teknolojileri Aşılabilir Hâle Geldi
Yapay zekâ şirketlerinin sanatçıların eserlerini izinsiz şekilde eğitmek için kullanması dünya genelinde büyük tepki çekmişti. Sanatçılar bu duruma karşı Glaze ve Nightshade gibi koruma yazılımlarını kullanmaya başlamıştı. Ancak araştırmacılar, bu tür savunmaları etkisiz hâle getiren yeni bir yöntem geliştirdi.
Glaze ve Nightshade Savunmaları Artık Yeterli Değil
Cambridge Üniversitesi’nden araştırmacıların geliştirdiği LightShed adlı yöntem, görsellere uygulanan bozulma temelli korumaları ortadan kaldırabiliyor. Bu tür yazılımlar, görselleri yapay zekâ sistemleri tarafından tanınmaz hâle getirmeyi hedefliyordu. Ancak LightShed, bu korumaları tanıyıp temizleyebildiğini ortaya koydu.
Araştırma ekibinden Hanna Foerster, amaçlarının bu sistemlerle mücadele etmek değil, mevcut koruma yöntemlerinin zayıf yönlerini ortaya koymak olduğunu belirtti. Ekip, çalışmasını sorumlu açıklama ilkeleri doğrultusunda yürüttü.
LightShed Nasıl İşliyor?
LightShed, Glaze ve Nightshade gibi sistemlerin görsellere eklediği bozulma desenlerini analiz ediyor. Bu desenleri tanıyan yöntem, görselin orijinal hâline yakın bir versiyonunu geri getirebiliyor. Böylece yapay zekâ sistemleri, bu görselleri yeniden eğitim verisi olarak kullanabiliyor. Araştırmaya göre LightShed, eğitildiği bozulma türlerini yüksek doğrulukla temizleyebiliyor. Ancak daha önce karşılaşmadığı koruma yöntemlerinde başarı oranı düşüyor. Yine de özellikle yaygın kullanılan sistemlerde etkili olması dikkat çekiyor.
Yapay zekâ şirketlerinin milyonlarca görseli tarayıp eğitmesi sanatçıların tepkisini çekti. Birçok sanatçı eserlerinin izinsiz kullanıldığını belirterek bu duruma karşı yazılımlara yöneldi. Glaze, Nightshade, Mist ve MetaCloak gibi sistemler, bu mücadelenin dijital araçları hâline geldi. Ancak LightShed’in geliştirilmesi, bu araçların artık tek başına yeterli olmadığını ortaya koydu. Sanatçıların eserlerini korumak için daha gelişmiş sistemlere ihtiyaç duyulacağı açıkça görülüyor.
Yeni araştırma, yapay zekâ çağında dijital içerik koruma yöntemlerinin sürekli güncellenmesi gerektiğini gösteriyor. LightShed, yalnızca mevcut savunmaların aşılabileceğini göstermekle kalmıyor, aynı zamanda daha güçlü yöntemlerin geliştirilmesine de zemin hazırlıyor. Araştırma sonuçları ağustos ayında düzenlenecek olan USENIX Güvenlik Sempozyumu’nda sunulacak. Bilim insanları, bu tür çalışmalarla dijital hakların daha sağlam temellere oturtulmasını hedefliyor.
