San Francisco yönetimi, AI nudify uygulamaları nedeniyle Apple ile Google’a resmî ihtar gönderdi. Kent yönetimi, yapay zekâ destekli sahte çıplak görseller üretebilen 13 uygulamanın mağazalardan kaldırılmasını isterken şirketlerin bu uygulamalardan gelir elde ettiğini öne sürdü. Apple ile Google’ın 28 gün içinde nasıl hareket edeceklerine ilişkin açıklama yapması beklenirken aksi durumda hukuki yaptırımlar gündeme gelebilir.
Yapay Zekâ Uygulamalarının Yasa Dışı İçerikleri Kolaylaştırdığı İddia Edildi
San Francisco Şehir Savcısı David Chiu tarafından gönderilen ihtar mektuplarında, Apple App Store’daki sekiz, Google Play’deki beş uygulamanın kaldırılması talep edildi. Uygulamalar her ne kadar yüz değiştirme araçları olarak tanıtılsa da yapılan incelemelerde kişilerin fotoğraflarını izinsiz şekilde müstehcen görsellere yerleştirebildiği veya yapay zekâ ile sahte çıplak içerikler üretebildiği belirlendi.
Kent yönetimi, Apple ile Google’ın yalnızca bu uygulamalara ev sahipliği yapmakla kalmadığını, uygulama içi ödeme sistemlerini işleterek geliştiricilerden komisyon aldığını da savundu. İhtar metninde iki şirketin bu gelir modeliyle yasa dışı deepfake pornografi faaliyetlerine dolaylı destek verdiği iddia edildi. Yetkililer, teknoloji şirketlerinin bu uygulamalardan milyonlarca dolar komisyon geliri elde etmiş olabileceğini öne sürüyor.
San Francisco yönetimi ayrıca uygulama geliştiricileriyle ödeme ilişkilerinin kesilmesini ve benzer uygulamaların yeniden mağazalara yüklenmesini engelleyecek düzenli denetim mekanizmalarının oluşturulmasını talep etti. Taleplerin yerine getirilmemesi durumunda her ihlal için en az 25 bin dolarlık sivil para cezası uygulanabileceği ifade edildi.
Google, ihtarda yer alan beş Android uygulamasının tamamını kaldırdığını açıkladı. Şirket ayrıca nudify özelliği barındıran yüzlerce uygulamanın askıya alındığını ve “nudify” gibi arama ifadelerinin sınırlandırıldığını duyurdu. Apple ise işaret edilen uygulamalardan üçünü kaldırdığını, ilgili geliştirici hesaplarını kapatma sürecini başlattığını bildirdi. Diğer geliştiricilere de mağaza kurallarını ihlal ettikleri gerekçesiyle uyarı gönderildi.
Sorunun yalnızca söz konusu 13 uygulamayla sınırlı olmadığı belirtiliyor. Tech Transparency Project tarafından bu yıl yayınlanan iki araştırma, her iki uygulama mağazasında yaklaşık 100 AI nudify uygulamaları bulunduğunu ortaya koydu. Rapora göre bu uygulamalar yaklaşık 120 milyon dolar gelir elde ederken toplam indirme sayısı 480 milyona ulaştı.
Cornell Üniversitesi ile Georgetown Üniversitesi’nin ortak çalışması da benzer tabloyu destekledi. Araştırmacılar, uygulama mağazalarında yer alan 420 yüz değiştirme uygulamasını inceleyerek test ettikleri 155 uygulamanın yüzde 70’inin kullanıcıların fotoğraflarını çıplak görsellere yerleştirmesine izin verdiğini tespit etti. Uygulamaların hiçbirinin kendisini doğrudan “nudify” aracı olarak tanıtmaması ise içerik denetim sistemlerinin bu tür yazılımları tespit etmekte zorlandığını gösterdi.
