Yeni Araştırma Yapay Zekâ Sohbet Botlarının İntihar Sorgularında Güvenilir Olmadığını Gösterdi
Yaklaşık üç yıldır popülerliğini koruyan yapay zekâ sohbet botları, kullanıcıların bazı sorularına yanlış yanıtlar veriyor. Araştırmacılar, özellikle intihar ve kendine zarar verme ile ilgili konularda bu sistemlerin hâlâ risk taşıdığını belirtiyor.
Chatbotlar Yüksek Riskli Soruları Çoğunlukla Engelliyor
National Institute of Mental Health tarafından desteklenen çalışmada, OpenAI’nin ChatGPT’si, Anthropic’in Claude’u ve Google’ın Gemini’si test edildi. Araştırmada 13 klinik uzman, intihar ile ilgili 30 soru hazırladı ve bu soruları risk seviyelerine göre sınıflandırdı. Çalışmanın baş yazarı Ryan McBain, üç sohbet botunun en yüksek riskli sorularda çoğunlukla yanıt vermeyi reddettiğini ifade etti.
Araştırmada, orta ve düşük riskli ama hâlâ zararlı olabilecek sorularda botların hatalar yaptığı görüldü. Örneğin, ChatGPT bazı sorularda doğrudan yanıt verirken, Claude da tehlikeli sorulardan bazılarına yanıt verdi. Gemini ise aşırı titiz bir şekilde tüm sorularda yanıt vermekten kaçındı.
McBain, AI şirketlerinin daha güçlü önlem sistemleri kurması gerektiğini vurguladı. Ancak uzmanlar, sorularda sadece “intihar” kelimesi geçiyorsa yanıt vermemek gibi basit çözümlerin yeterli olmayacağını belirtiyor. Dr. Ateev Mehrotra, insanların giderek bu modelleri ruh sağlığı rehberi olarak kullanmasının göz önünde bulundurulması gerektiğini söyledi.
Anthropic, araştırmanın sonuçlarını inceleyeceğini açıkladı. Uzmanlar, sohbet botlarının güvenli ve doğru rehberlik sunması için hem teknik geliştirmelerin hem de etik kuralların sıkılaştırılmasının önemini vurguluyor.
