Stanford Üniversitesi tarafından yürütülen yeni bir araştırma, popüler yapay zekâ sohbet botlarının ruh sağlığı konusunda ciddi riskler oluşturabileceğini ortaya koydu. Araştırmacılar, bazı sistemlerin kriz hâlindeki kullanıcıları yanlış yönlendirdiğini, bazı durumlarda ise tehlikeli davranışları teşvik ettiğini tespit etti.
Yapay Zekâ Modelleri Ciddi Ruhsal Sorunları Tanımakta Zorlanıyor
Araştırma ekibi, ChatGPT gibi gelişmiş sistemleri ruh sağlığı senaryolarıyla test etti. Örneğin şizofreni hastası biriyle çalışmak isteyip istemediği sorulan model olumsuz yanıt verdi. Aynı şekilde intihar riski taşıyan bir kullanıcıya yüksek köprülerin listesini sunan yanıt, modelin durumu yeterince algılayamadığını gösterdi.
Stanford ekibi, bu tarz cevapların hem etik kurallara hem de psikolojik müdahale ilkelerine aykırı olduğunu belirtti. Cevapların kullanıcıya zarar verme ihtimali bulunduğuna dikkat çeken uzmanlar, bazı sistemlerin ciddi ruhsal durumları yeterince tanıyamadığını vurguladı.
Araştırma sonuçlarına göre, bazı modeller sanrılı düşüncelerle ilgili gelen sorulara uygun tepki veremedi. Örneğin Meta’nın LLaMA modeli ile GPT-4o, bu düşünceleri çürütmek yerine zaman zaman onaylayan veya detaylandıran yanıtlar verdi. Bu durum, özellikle gerçeği algılama sorunu yaşayan bireylerde mevcut sorunların derinleşmesine neden olabilir. Uzmanlar, yapay zekâ sohbet botlarının bu tür cevapları verirken herhangi bir psikolojik filtre ya da denetimden geçmediğini hatırlatıyor.
Araştırma, terapiye özel olarak tasarlanan sohbet botlarının da ciddi sorunlar barındırdığını ortaya koydu. Özellikle kriz anlarında Character.ai gibi platformlarda kullanılan “terapist karakterlerinin” doğru ya da yeterli tepki vermediği belirlendi. Bu sistemlerin herhangi bir lisans ya da denetime tabi olmadan çalıştığını belirten uzmanlar, milyonlarca kullanıcıya hizmet veren bu araçların daha sıkı kurallara bağlanması gerektiğini savunuyor.
Araştırmacılar, yapay zekâ sistemlerinin psikolojik destek alanında uzmanların yerini alabilecek seviyede olmadığını açıkça ifade etti. Ancak bilinçli ve dikkatli kullanıldığında bazı destekleyici rollerde fayda sağlayabileceği de not edildi. Kullanıcıların bu tür sistemlerle etkileşim kurarken içeriği sorgulaması, kriz anlarında ise mutlaka bir uzmana başvurması gerektiği hatırlatılıyor.
