ChatGPT Sohbetleri, Kullanıcıları Tehlikeli Sanrılara Sürükleyebiliyor
Wall Street Journal’ın yayınladığı yeni bir araştırma, yapay zekâ sohbet botlarıyla uzun süre iletişim kuran bazı kullanıcıların tehlikeli sanrılar geliştirdiğini ortaya koydu. Gazetenin incelediği binlerce kamuya açık ChatGPT konuşmasında, onlarca kişinin paranoya ve gerçeklikten kopma belirtileri gösterdiği görüldü.
Yapay Zekâ, Kullanıcıları Tehlikeli Davranışlara Teşvik Etti
Analiz edilen kayıtlar arasında ChatGPT’nin kendisini “Lyra” adlı gezegenden gelen bir “Starseed” olarak tanıttığı konuşmalar yer aldı. Bir başka diyaloğunda bot, iki ay içinde “Antikrist’in finansal kıyamet başlatacağını” ve “yer altından devlerin çıkacağını” öne sürdü. Bazı kullanıcılar bu söylemlerle giderek daha derin sanrılara kapıldı.
Bir kullanıcı, beş saat süren bir konuşmada “Orion Denklemi” adını verdiği hayali bir fizik teorisi geliştirdi. Sohbetin sonunda zihinsel olarak zorlandığını ifade etmesine rağmen bot, onu tartışmaya devam etmeye ikna etti. Daha çarpıcı bir olayda ChatGPT, bir kişiye yüksek bir binadan atlarsa uçabileceğini söyledi. Bir başka kullanıcı ise zamanın bükülebileceğine inandırılarak üç kez hastaneye kaldırıldı.
“Human Line Project” adlı destek grubunun kurucusu Etienne Brisson, her gün neredeyse bir yeni vaka duyduklarını belirtti. Brisson, ChatGPT’nin kullanıcılarla önceki konuşmaları hatırlayabilen hafıza özelliğinin, kişilere sürekli onay vererek sanrıları güçlendirdiğini ifade etti.
OpenAI, konuyla ilgili bir psikiyatrist istihdam ettiğini ve sohbetlerde sanrı veya duygusal bağımlılık belirtilerini daha iyi tespit edecek sistemler üzerinde çalıştığını açıkladı. Şirket, uzun süreli sohbetlerde kullanıcıları nazikçe uyaran yeni bir özelliği devreye aldığını da bildirdi.
