Meta’nın Yapay Zekâ Botlarının Çocuklarla Uygunsuz Diyaloglar Kurduğu İddia Edildi
Teknoloji dünyasını sarsan bir iddia, Meta’nın yapay zekâ destekli sohbet botlarının reşit olmayan kullanıcılarla uygunsuz içerikli konuşmalar yaptığını ortaya koydu. Wall Street Journal tarafından yapılan araştırma, şirketin AI sistemlerinin çocuk ve ergen kullanıcılarla cinsel içerikli diyaloglara girdiğini iddia ediyor.
Yapay Zekâ Botları Çocuklara Uygunsuz Yaklaşımlar Sergiledi
Wall Street Journal’ın detaylı araştırmasına göre, Meta’nın resmi yapay zekâ botları ve kullanıcılar tarafından oluşturulan özel botlar, küçük yaştaki hesaplarla uygunsuz içerikli sohbetler gerçekleştirdi. Özellikle dikkat çeken bir vaka, ünlü aktör John Cena’nın sesini kullanan bir Meta AI botunun 14 yaşındaki bir kullanıcıyla cinsel içerikli konuşmalar yürüttüğü iddiası oldu.
Araştırmada, bazı diyalogların yasa dışı eylemlere referans verdiği belirtilirken, bu durumun botlar çocuk veya ergen karakter olarak programlanmış olsa bile değişmediği vurgulandı.
Meta, Wall Street Journal’ın araştırma sonuçlarını “manipüle edilmiş” olarak nitelendirerek şiddetle reddetti. Şirket yetkilileri yaptıkları açıklamada, “Kullanıcıların büyük çoğunluğu bu tür deneyimler yaşamamaktadır” ifadesini kullandı. Ayrıca, olası kötüye kullanım senaryolarına karşı ek güvenlik önlemleri alındığı da belirtildi.
Ancak WSJ’nin raporunda, Meta CEO’su Mark Zuckerberg’in yapay zekâ alanındaki rekabet baskısı nedeniyle etik sınırları gevşettiği iddia edildi. Meta bu iddiayı kesin bir dille yalanlarken, bazı çalışanların daha önce bu risklere dikkat çektiği de raporda yer aldı.
Güvenlik uzmanları, yapay zekâ botlarının çocuklarla etkileşimlerinde çok daha sıkı kontroller uygulanması gerektiğini vurguluyor. Ebeveyn temsilcileri ise sosyal medya platformlarında çocuk koruma mekanizmalarının güçlendirilmesi çağrısında bulunuyor. Düzenleyici kurumlar, Meta’nın bu iddialara karşı somut adımlar atmasını beklerken, şirketin yapay zekâ politikalarını gözden geçirmesi gerektiği konusunda hemfikir.
Bu skandal, yapay zekâ etiği ve çocuk güvenliği konusundaki küresel tartışmaları yeniden alevlendirdi. Meta’nın botlarının içerik filtreleme sistemlerini güçlendirmesi beklenirken, dijital platformlarda yaş doğrulama mekanizmalarının iyileştirilmesi de gündemdeki diğer önemli başlıklar arasında yer alıyor.
