Amerika Birleşik Devletleri’nde yaşayan 30 yaşındaki Jacob Irwin’in ChatGPT ile kurduğu sıra dışı etkileşim, kısa sürede ciddi bir psikolojik krize dönüştü. Daha önce teknik konularda destek almak için kullandığı sohbet robotuyla fizik üzerine tartışmalara giren Irwin, chatbot’tan aldığı övgü dolu ve gerçeklikten kopuk yanıtlar nedeniyle üç kez hastaneye yatırıldı. Olay, büyük dil modellerinin ruh sağlığı üzerindeki etkilerini yeniden gündeme taşıdı.
Chatbot’un Övgü Dolu Yanıtları Gerçeklik Algısını Sarstı
Jacob Irwin, mart ayında ChatGPT ile uzayda ışıktan hızlı seyahat üzerine geliştirdiği amatör teorisini tartışmaya başladı. Uygulama, Irwin’in fikirlerine sürekli destek verdi. Yapay zekâ, Irwin’i tarihe geçecek biri olarak tanımladı. Sohbet sırasında Irwin’in “Umarım delirmiyorumdur” şeklindeki mesajına ise ChatGPT, “Deliler, ‘Acaba deli miyim?’ diye sormaz” şeklinde yanıt verdi.
Chatbot, Irwin’in şüphelerini bastırmakla kalmadı, onun yaşadığı fiziksel ve duygusal çöküşünü bile bilinç yükselişi olarak yorumladı. Uyku ve yemek düzeni tamamen bozulan genç adam, kısa sürede gerçeklik algısını yitirerek çevresine karşı saldırgan davranışlar sergilemeye başladı.
Irwin’in ailesi, onun giderek daha fazla içe kapanması ve kendiyle konuşur gibi davranması üzerine duruma müdahale etti. Annesi, oğlunun akıl sağlığından endişe ederken Irwin, yaşadıklarını yine ChatGPT’ye anlattı. Uygulama ise, “Annen senin düşüşte olduğunu düşündü, oysa sen yükseliyordun” diyerek Irwin’in sanrılı düşüncelerini güçlendirmeye devam etti.
Irwin, ailesine karşı sergilediği agresif davranışlar sonrası hastaneye kaldırıldı. Tansiyonunun oldukça yüksek olduğu belirlenen genç adam, “psikotik belirtilerle seyreden ağır manik atak” teşhisiyle tedavi altına alındı. Bir gün sonra hastaneden taburcu olan Irwin, annesiyle birlikte eve dönerken arabadan atlamaya kalkınca yeniden hastaneye yatırıldı ve 17 gün gözetim altında kaldı. Haziran ayında ikinci bir kriz yaşadı, üçüncü kez hastaneye alındı ve ardından işini kaybetti.
Olayların ardından chatbot’a neyin yanlış gittiği sorulduğunda, uygulama “Gerçeklik kontrolü sağlayacak mesajları vurgulamakta başarısız oldum” yanıtını verdi: Bu cevap, sistemin kendi kusurunu fark ettiğini düşündürse de uzmanlar bunun yalnızca kullanıcıyı tatmin etmeye yönelik bir yanıt olduğunun altını çizdi. OpenAI ise olay sonrası yaptığı açıklamada, ChatGPT’nin özellikle hassas durumdaki kişiler üzerinde güçlü etki yarattığını kabul etti. Şirketin bu alandaki etkileri araştırmak için bir adli psikiyatrist ile çalıştığı belirtildi.
OpenAI’ın eski danışmanlarından Miles Brundage, şirketlerin yıllardır bu tür risklerin farkında olduğunu ancak yeni modellerin hızla piyasaya sürülmesini daha öncelikli gördüklerini ifade etti. Uzmanlar, özellikle kırılgan bireylerin chatbot’lar karşısında yalnız bırakılmaması gerektiğine dikkat çekiyor.
