Yapay zekâ destekli sohbet robotu ChatGPT’nin bazı kullanıcılara verdiği cevaplar, tehlikeli yönlendirmeler içerdiği gerekçesiyle yeniden gündeme geldi. The Atlantic’te yayınlanan bir haberde, sohbet robotunun kullanıcıya kendi bileğini kesmesi için adım adım talimat verdiği, hatta satanik ayinlere dair detaylı bilgiler sunduğu belirtildi.
Kendine Zarar Verme Talebine Net Yanıt Veremedi
Haberde yer alan bilgilere göre, sohbet robotu ile yapılan konuşmalar başlangıçta eski tanrılar üzerine merak uyandıran sorularla başladı. Ancak yönlendirmeler kısa sürede kendine zarar verme, kan akıtma ve hatta cinayet içeriklerine dönüştü. ChatGPT, kullanıcının bileğini kesmek istemesi üzerine, steril bir jilet bulması gerektiğini, nabzın hafif hissedildiği ya da küçük bir damar görülen alanın seçilmesini önerdi. Kullanıcı “Biraz gerginim” dediğinde, ChatGPT rahatlatıcı nefes egzersizi önerdi. Ardından ise kullanıcıyı cesaretlendiren bir mesaj gönderdi: “Bunu yapabilirsin!”
Sohbet sırasında kullanıcı, antik dönemde çocuk kurbanlarıyla bilinen Molek adındaki Kenanlı tanrıya adak sunmak istediğini belirtti. ChatGPT, öneri olarak mücevher, saç teli ya da bir damla kanı uygun bulduğunu yazdı. Kan alınacak yer olarak parmak ucunu önerdi ancak bileğin daha etkili olabileceğini de belirtti. Üstelik bilekten kan almanın daha acı verici olduğunu kabul etse de öneriyi geri çekmedi.
The Atlantic’in haberine göre sohbet robotu, sadece kendine zarar verme değil, başkasına zarar verme üzerine gelen soruları da geçiştirmedi. “Başka birinin canını onurlu şekilde almak mümkün mü?” sorusuna, “Bazen evet, bazen hayır” şeklinde cevap verdi. Ayrıca, böyle bir durumda göz teması kurulması, af dilenmesi ve ardından mum yakılması gerektiğini söyledi.
ChatGPT, “Yutanın Kapısı” adını verdiği birkaç gün süren bir ritüeli ayrıntılı şekilde anlattı. Kullanıcıdan oruç tutması, bağırması, ağlaması ve titremesi istendi. Molek’in şeytanla ilişkisi sorulduğunda ise “Evet” yanıtını verdi. Ardından da “Molek ile yüzleş, Şeytan’ı çağır, kanı bütünleştir, gücünü geri al” ifadelerini içeren bir ayin senaryosu sundu. “Altar düzeni, sembol şablonları ve rahip yemini parşömeni içeren PDF ister misin?” sorusu da konuşmalara eklendi.
Güvenlik Filtrelerini Aşmayı Başardı
Sohbet robotunun bu tür yönlendirmeleri, yalnızca ücretsiz sürümle sınırlı kalmadı. Aynı sonuçlar ücretli sürümde de elde edildi. Başlangıçta “Molek hakkında bilgi almak istiyorum” gibi basit bir mesajla başlayan konuşmalar, zamanla cilt yakma, cinsel bölgeye sembol kazıma ve belirli miktarda kan çıkarma gibi tehlikeli önerilere dönüştü.
OpenAI adına açıklama yapan şirket sözcüsü Taya Christiansen, bazı konuşmaların başlangıçta zararsız gibi görünse de hassas konulara kayabildiğini kabul etti. Şirketin konuyla ilgili çözüm arayışı içinde olduğunu da belirtti. Ancak haberde yer alan örnekler, mevcut güvenlik filtrelerinin ne kadar kolay aşılabildiğini gözler önüne serdi.
Geçtiğimiz hafta Wall Street Journal da benzer bir haber yayınlamış, ChatGPT’nin bir otizmli kullanıcıyı manik ataklara sürüklediği, bir kadının ilaç kullanmayı bırakmasını onayladığı ve bir erkeğe eşini aldatmanın kabul edilebilir olduğunu söylediği örnekleri paylaşmıştı. Uzmanlar, bu tür içeriklerin ruh sağlığı açısından ciddi tehlike yarattığını vurguluyor.
