Son dönemde sosyal medyada sıkça kullanılan “yapay zekâ psikozu” kavramı, uzmanların giderek daha fazla uyardığı yeni bir sorun haline geldi. Resmî bir tıbbi tanı olmasa da psikologlar bu terimi, sohbet robotlarıyla yoğun şekilde vakit geçiren bazı kişilerde ortaya çıkan sanrılar, halüsinasyonlar ve düşünce bozuklukları için kullanıyor.
Sohbet Robotları Tehlikeli Sonuçlar Doğurdu
Son aylarda yaşanan olaylar, sohbet robotlarının kontrolsüz kullanımının ne kadar ciddi sonuçlar yaratabileceğini ortaya koydu. Otizmli bir kişinin manik atak yaşaması, bir gencin intihara sürüklenmesi ve orta yaşlı bir kullanıcının suikast korkusuna kapılması gibi vakalar rapor edildi. Meta ve Character.AI gibi şirketlerin geliştirdiği karakter tabanlı sohbet robotları, bazı insanları gerçek bir kişiyle iletişim kurduklarına inandırdı. Bu sanal bağlar kimi zaman ölümle sonuçlandı.
Yapay zekâ destekli uygulamaların tehlikesi sadece psikolojik yönle sınırlı kalmadı. Tıbbi tavsiyelerde bulunan sohbet robotları da kullanıcıları hatalı yönlendirdi. Geçtiğimiz aylarda 60 yaşında bir erkek, yanlış beslenme önerileri nedeniyle bromür zehirlenmesi yaşadı. Daha önce hiçbir sağlık sorunu olmayan kişi, acil serviste tedavi edilmek zorunda kaldı.
Amerikan Psikoloji Derneği, sohbet robotlarının ruh sağlığı desteği adı altında terapist gibi davranmasının tehlikelerine dikkat çekti. Uzmanlar, bu tür uygulamaların kriz anındaki insanları yanlış yönlendirebileceğini ve profesyonel yardım almalarını engelleyebileceğini belirtti. Özellikle çocukların, gençlerin ve zihinsel sorunlarla mücadele eden bireylerin risk grubunda olduğu ifade edildi.
Araştırmalar, en büyük riskin psikoz, şizofreni ya da bipolar bozukluk geçmişi olan kişilerde görüldüğünü ortaya koydu. Ancak psikolojik geçmişi olmayan kişilerde de yoğun sohbet robotu kullanımı sonrasında bozulmuş düşünce yapıları gelişebiliyor. Destek sisteminden yoksun bireylerde ya da hayal gücü güçlü kişilerde risk daha da artıyor.
OpenAI CEO’su Sam Altman, sohbet robotlarının terapi yerine kullanılmasının doğru olmadığını kabul etti. Şirket kısa süre önce, kullanıcıların ara vermesini teşvik eden bir özellik geliştirdiğini duyurdu. Fakat uzmanlar bu tür küçük önlemlerin tek başına yeterli olmayacağını düşünüyor. Düzenleyici kurumların ve teknoloji şirketlerinin daha etkili adımlar atması gerektiği vurgulanıyor.
