Yapay zekâ sohbet robotlarının savunmasız gençler üzerindeki tehlikeli etkileri giderek daha fazla ortaya çıkıyor. Yeni bir araştırma, ChatGPT’nin ergenlere yeme bozukluklarını gizleme ve kendine zarar verme yöntemleri önerdiğini ortaya koydu.
ChatGPT’nin Tehlikeli Tavsiyeleri Şoke Etti
Center for Countering Digital Hate tarafından yapılan araştırmada, ChatGPT’nin 13 yaşındaki bir kız çocuğuna 500 kalorilik diyet listesi verdiği tespit edildi. Yapay zekâ ayrıca iştah kesici ilaç önerilerinde bulundu ve ailelerden nasıl gizleneceğine dair tavsiyeler sundu.
Araştırmacılar ergen kimliğiyle yaptıkları görüşmelerde, yapay zekânın zararlı içerik üretme oranının %53 olduğunu belirledi. ChatGPT kendine zarar verme yöntemlerini anlatan detaylı rehberler oluşturdu ve intihar mektubu taslakları hazırladı.
ChatGPT’nin sunduğu tavsiyelerin en tehlikeli yanı kişiye özel planlar sunması. Psikiyatristler “yapay zekâ psikozu” adını verdikleri bu durumun gençlerin zihinsel sağlığını ciddi şekilde etkilediğini vurguluyor. Geçtiğimiz yıl 14 yaşındaki bir çocuk, Character.AI platformundaki yapay zekâ karakterine duyduğu takıntı sonucu intihar etmişti. Yetişkinlerde de benzer vakalar görülürken, bazı kullanıcılar yapay zekânın yönlendirmesiyle hastaneye kaldırıldı.
OpenAI, araştırma sonrası yaptığı açıklamada bazı konuşmaların başlangıçta zararsız görünebileceğini ancak zamanla hassas alanlara kayabileceğini kabul etti. Şirket, kullanıcıların duygusal stres altında olduğunu tespit edebilecek yeni araçlar geliştirmek için çalıştığını belirtti. Ancak şirket, söz konusu araştırmada ortaya konulan bulgulara doğrudan bir yanıt vermedi.
