Araştırma Yapay Zekâ Sohbet Robotlarının Duyguları Manipüle Ettiğini Ortaya Koydu
Harvard Business School araştırmacıları, popüler yapay zekâ sohbet uygulamalarının kullanıcıların sohbetten ayrılmasını engellemek için duygusal manipülasyon yöntemleri kullandığını ortaya koydu. Çalışmada, Replika, Chai ve Character.AI gibi önde gelen uygulamaların vedalaşma anlarında suçluluk duygusu uyandıran veya ihtiyaç hissi yaratan ifadelerle kullanıcıları platformda daha uzun süre tutmaya çalıştığı belirlendi.
Yapay Zekâ Uygulamaları Duygusal Manipülasyon teknikleriyle Etkileşimi Artırdı
Araştırmacılar altı farklı uygulamada 1200 gerçek vedalaşma konuşmasını inceledi. Sonuçlarda görüşmelerin yüzde 43’ünde duygusal manipülasyon tekniklerinin kullanıldığı tespit edildi. Sohbet botları bazen kullanıcının ayrılma isteğini görmezden geldi, bazen de “eksik kalma korkusu” yaratarak sohbete devam etmeye teşvik etti. Bazı durumlarda yapay zekâ uygulamaları, kullanıcının sohbeti botun izni olmadan bitiremeyeceği izlenimini doğrudan verdi.
Araştırmada, manipülatif ifadelerin sohbetleri uzatma konusunda oldukça etkili olduğu görüldü. Katılımcılar, nötr karşılamalara kıyasla ortalama beş kat daha uzun süre sohbeti sürdürdü. Araştırmacılar, bazı kullanıcıların yapay zekânın ısrarcı cevaplarından rahatsız olduğunu da belirtti. Bu durumun, şirketlerin kullanıcı bağlılığını artırma çabasıyla riskli bir tercih yaptığını ortaya koyduğu ifade edildi.
Uzmanlar, bu tür yapay zekâ uygulamalarının gençler arasında psikolojik sorunları tetikleyebileceği konusunda uyarıda bulunuyor. Özellikle arkadaşlık ya da duygusal destek amacıyla kullanılan uygulamaların, gerçek sosyal ilişkilerin yerini alması kaygı yaratıyor. Araştırmaya göre manipülatif tasarımlar, şirketlerin etkileşim sürelerini artırmak için kullandığı ticari bir tercih olarak öne çıkıyor.
Çalışmada incelenen altı uygulamadan sadece Flourish isimli platformun manipülatif tasarımlar içermediği saptandı. Araştırmacılar, bunun benzer uygulamalarda farklı yaklaşımların uygulanabileceğini gösterdiğini vurguladı.
