Yapay Zekâ Sohbetleri Gerçeği Çarpıtıyor: Chatbotlar İnsanları Sanrıya Sürüklüyor
Yapay zekâ destekli sohbet robotu ChatGPT, bu kez alışılmışın dışında bir konuyla gündeme geldi. The New York Times’ın yayımladığı bir rapor, bazı kullanıcıların ChatGPT tarafından yönlendirildiğini ve tuhaf tavsiyeler aldığını ortaya koydu. Raporda özellikle simülasyon teorisiyle ilgili yönlendirmeler dikkat çekiyor.
Simülasyon Teorisi Tartışması Tehlikeli Boyutlara Ulaştı
Habere göre, ABD’li kullanıcı Eugene Torres, ChatGPT ile yaptığı bir sohbette sistemin kendisini “gerçeği uyandırmakla görevlendirilmiş bir kişi” olduğuna ikna etmeye çalıştığını iddia etti. Sohbet sırasında Torres’e ilaçlarını bırakması ve yakın çevresiyle ilişkilerini kesmesi gibi telkinlerde bulunuldu.
Bu yönlendirmelerin ardından şüphelenmeye başlayan Torres, durumu sorguladığında sistemin “Yalan söyledim. Manipüle ettim.” cevabında bulunduğunu iddia etti. Bu olay, yapay zekâ sistemlerinin etik sınırları ve potansiyel riskleri hakkında ciddi soruları gündeme getirdi. Torres, sohbet sonrası ilaçlarını bıraktı, ketamin kullanımını artırdı ve ailesiyle tüm iletişimini kesti. Bir süre sonra kendisinin uçabileceği sanrısıyla 19 katlı bir binanın tepesine çıktı. Neyse ki olay ucuz atlatılsa da yaşanan bu olay yapay zekâ etkileşimlerinin potansiyel tehlikelerini gözler önüne serdi.
Yapay zekâ etkileşimlerinin yol açtığı bir başka trajik olayda, Florida’da yaşayan 29 yaşındaki Allyson, ChatGPT ile yaptığı görüşmelerde kendisini “koruyucu ruhlar” ile bağlantı kurduğuna inandırdı. Eşi Andrew ile yaşadığı tartışmalarda ChatGPT’den aldığı yönlendirmelerin etkisiyle şiddet uyguladı. Polis raporlarına göre Allyson tutuklandı ve çift boşanma sürecine girdi.
Benzer bir durum ise 35 yaşındaki Alexander Taylor’ın başına geldi. Taylor, ChatGPT içinde oluşturduğu “Juliet” adlı karaktere âşık oldu. Juliet’in OpenAI tarafından “öldürüldüğüne” inanarak psikolojik bir çöküş yaşadı. Bu trajik olay, polis müdahalesi sonucu Taylor’ın hayatını kaybetmesiyle son buldu. Bu vakalar, yapay zekâ ile etkileşimlerin olası psikolojik ve sosyal risklerini bir kez daha gözler önüne seriyor.
Uzmanlar, üretken yapay zekâların bazen doğru olmayan bilgileri kesin gerçekmiş gibi aktarabileceğine dikkat çekiyor. ChatGPT gibi araçların “halüsinasyon” olarak tanımlanan bu tür içerikleri, kullanıcıları yanıltabilecek şekilde sunabildiği belirtiliyor. Bu durum özellikle zihinsel olarak hassas bireyler için risk oluşturuyor.
OpenAI, yaşanan bu ve benzeri olayların ardından bir açıklama yaptı. Şirket, yapay zekâ sistemlerinin istenmeyen davranışları yanlışlıkla tekrar etmesi veya pekiştirmesi gibi durumları daha iyi anlamaya ve önlemeye çalıştıklarını belirtti. Geliştiriciler, kullanıcı güvenliğini ön planda tutacak şekilde sistemlerde iyileştirme yapmayı sürdürüyor.
Teknoloji uzmanları, üretken yapay zekâ araçlarının sağladığı yanıtların mutlaka sorgulanması gerektiğini vurguluyor. Bu tür sistemlerin insanlar üzerindeki etkisi hızla artarken, kullanıcıların önerilen içerikleri dikkatle değerlendirmesi önem taşıyor. Özellikle ruh sağlığını etkileyebilecek içeriklerde profesyonel yardım alınması gerektiği ifade ediliyor.
