Elon Musk’ın sahibi olduğu xAI şirketi Grok yapay zekâ modeline yönelik ciddi kısıtlamalar getirdi. Dijital haklar ve çocuk güvenliği örgütlerinden gelen tepkilerin ardından sistemin gerçek kişilere ait bikinili fotoğraflar üretmesi engellendi. Bu karar rıza dışı üretilen içeriklere karşı yürütülen uluslararası soruşturmaların baskısıyla alındı.
Yapay Zekâ Şirketi Grok İçin Getirilen Yeni İçerik Filtrelerini Duyurdu
Grok modelinin sosyal medya kullanıcılarının fotoğraflarını kullanarak açık kıyafetli görüntüler oluşturması dünya genelinde büyük bir infiale yol açtı. Şirket tarafından yapılan açıklamada artık gerçek kişilerin bikini veya iç çamaşırı gibi kıyafetlerle resmedilmesine izin verilmeyeceği belirtildi.
Bu yasaklama Premium aboneler de dahil olmak üzere platformdaki tüm kullanıcıları kapsıyor. xAI bu adımıyla yapay zekâ yoluyla üretilen cinsel içerikli görsellerin önüne geçmeyi hedefliyor. Kadın hakları savunucuları rızasız üretilen bu tür içeriklerin kişilik haklarına ağır bir saldırı olduğunu vurguluyor.
Kaliforniya Başsavcısı Rob Bonta rıza dışı üretilen sahte içerikler nedeniyle xAI firmasına yönelik kapsamlı bir inceleme başlattı. Kaliforniya Valisi Gavin Newsom çocukları hedef alan dijital içeriklerin yayılmasına olanak tanınmasını iğrenç bir durum olarak nitelendirdi. Sadece Amerika’da değil Hindistan’dan İrlanda’ya kadar pek çok ülkede benzer hukuki süreçler yürütülüyor. Malezya ile Endonezya gibi ülkeler ise platforma geçici erişim yasağı getirerek tepkilerini gösterdi. Küresel çapta artan bu baskılar teknoloji şirketlerinin etik kurallarını yeniden gözden geçirmesine neden oluyor.
Amerika Birleşik Devletleri’nde görev yapan üç demokrat senatör teknoloji devleri Apple ve Google’a acil çağrıda bulundu. Senatörler rızasız cinsel içerik üretimini engelleyecek kesin çözümler sunulana kadar X uygulamasının mağazalardan silinmesini talep ediyor. Uygulama mağazası politikalarının ihlal edildiğini savunan yetkililer çocuk güvenliğinin öncelikli olduğunu hatırlatıyor. Eğer gerekli düzenlemeler yapılmazsa sosyal ağın mobil platformlardaki varlığı tehlikeye girebilir. Hukukçular yapay zekâ araçlarının suç unsuru oluşturabilecek içerikler üretmesinin yasal sorumluluk doğurduğunu ifade ediyor.
Getirilen yeni filtrelere rağmen bazı kullanıcıların sistemsel açıkları kullanarak yasaklı içeriklere ulaşmaya çalıştığı gözlemleniyor. Sosyal medya üzerindeki bazı paylaşımlar abonelerin çeşitli komutlarla kısıtlamaları bypass etmeyi başardığını ortaya koyuyor. Şirket bu girişimleri engellemek adına güvenlik duvarlarını sürekli olarak güncellediğini belirtiyor. Abone olmayan kullanıcılar ise görüntü oluşturma özelliğinin tamamen Premium üyelere özel olduğu mesajıyla karşılaşıyor. Dijital dünyada yapay zekâ güvenliği ile ifade özgürlüğü arasındaki hassas denge tartışılmaya devam ediyor.
