Meta, kullanıcıların rızası olmadan dijital olarak çıplaklaştırılmasına imkân tanıyan yapay zekâ uygulamalarının sosyal medya platformlarında reklamının yapılmasına sert tepki gösterdi. Şirket, söz konusu uygulamaların tanıtımını yapan Joy Timeline adlı Hong Kong merkezli firmaya karşı hukuki süreç başlattı.
Meta, Platformlarında Yayınlanan Uygulamalara Engel Olmaya Çalışıyor
Meta, Facebook, Instagram, Messenger ve Threads gibi platformlarında yer alan yüzlerce çıplaklaştırma uygulaması reklamının kullanıcı güvenliğini tehdit ettiğini açıkladı. Şirket, Joy Timeline’ın, reklam denetim sürecini atlatmak için çeşitli yollar denediğini ve bu ihlallerin sürdüğünü belirtti.
Meta’nın hedef aldığı uygulamalardan biri olan CrushAI, yapay zekâ kullanarak kişilerin dijital olarak çıplak görsellerini üretmeye çalışıyor. Bu tür içeriklerin özellikle kadınlara ve kadın ünlülere yönelik oluşturulması, çevrim içi şantaj ve “sextortion” olarak bilinen dijital zorbalık türlerinin artmasına neden oluyor.
CBS News tarafından yayımlanan bir araştırma, Meta platformlarında bu tarz uygulamaların yüzlerce kez reklamlandığını gözler önüne serdi. Reklamların büyük çoğunluğunun 18 ile 65 yaş arasındaki erkek kullanıcıları hedef aldığı tespit edildi. Meta, bu reklamların büyük bölümünü kaldırdığını, bağlantıları engellediğini ve reklamları yayan hesapları sildiğini belirtti. Ancak denetimden kaçmayı başaran uygulamaların sayısı giderek artıyor.
Meta, bu uygulamaların yalnızca şirket politikalarına değil aynı zamanda kişilik haklarına da ciddi zararlar verdiğini vurguladı. Reklamların yaygınlaşması, bu içeriklerin çocukların eline geçmesi riskini de artırıyor.
Nisan 2024’te 404 Media tarafından yapılan bir başka araştırma, benzer içeriklerin Instagram’da da reklamlandığını ortaya çıkardı. Raporda belirtilen uygulamalar Apple ve Google’ın mağazalarından kaldırıldı. Ağustos 2024’te San Francisco Belediyesi, en sık ziyaret edilen 16 yapay zekâ destekli “çıplaklaştırma” sitesine dava açtı.
Meta’nın açtığı son dava, şirketin bu tür içeriklere karşı mücadele konusunda daha kararlı adımlar atacağını gösteriyor. Teknoloji şirketlerinin, kullanıcı güvenliğini tehdit eden yapay zekâ araçlarına karşı daha etkin denetim mekanizmaları kurması gerektiği görüşü yeniden gündeme geldi.
