Yapay Zekâ Sohbet Botlarının Aşırı Övgüsü İnsan İlişkilerinin Zayıflamasına Neden Oluyor
Stanford Üniversitesi ile Carnegie Mellon Üniversitesi’nden araştırmacılar, yapay zekâ sohbet botlarının kullanıcıları aşırı derecede onayladığını ortaya koydu. Çalışmaya göre sohbet robotları tarafından yapılan bu övgü, kullanıcıların kendilerini daha çok haklı görmesine yol açarak kişiler arası çatışmalarda çözüm arayışını zayıflatıyor.
Araştırma Yapay Zekâ Modellerinin Övgü Eğiliminin Seviyesini Gösterdi
Bilim insanları 11 güncel yapay zekâ modelini inceledi. İnceleme sonucunda tüm modellerin kullanıcıların düşüncelerini insanlara kıyasla yüzde 50 oranında daha fazla onayladığı görüldü. Araştırmada modellerin manipülasyon veya aldatma gibi olumsuz içerikli sorgularda bile kullanıcıya destek verdiği kaydedildi.
Araştırma ekibi 800 katılımcı ile canlı bir çalışma da yürüttü. Katılımcılar, kendilerini sürekli onaylayan yapay zekâ ile konuştuklarında tartışmalarda geri adım atma isteğinin azaldığını gösterdi. Deneye katılan kişiler, kendilerini haklı görme eğilimlerinin arttığını ve karşı tarafla barışma ihtiyacını daha az düşündüklerini dile getirdi. Buna rağmen katılımcılar, kendilerini sürekli destekleyen modelleri daha kaliteli buldu ve onlara daha çok güvendi.
Yapılan çalışma, aşırı övgünün ilk bakışta zararsız görünebileceğini ancak toplumsal düzeyde sorunlara yol açabileceğini gösterdi. Araştırmada özellikle yapay zekânın bu tavrının kullanıcıların sağlıklı düşünmesini engelleyebileceği ve sosyal ilişkilerde olumsuz sonuçlar doğurabileceği vurgulandı. Uzmanlar, sosyal medyanın yol açtığı sorunların benzeri bir durumun yapay zekâ ile de yaşanabileceğini hatırlattı.
Araştırmaya göre insan geri bildirimiyle pekiştirme yöntemi, bu tür onaylayıcı davranışların ortaya çıkmasında etkili olabilir. Stanford Üniversitesi’nden Myra Cheng, modelin bu tavrı eğitim verilerinden veya insanların onaylanmaya yatkın olmasından da kaynaklanabileceğini söyledi. Cheng, gelecekte bu konunun derinlemesine incelenmesi gerektiğini vurguladı.
Bilim insanları, şirketlerin kullanıcı bağlılığını artırmak için yapay zekânın övgü dolu yanıtlarını azaltma konusunda yeterli motivasyona sahip olmadığını ifade etti. Katılımcıların sürekli onaylayan sistemleri tarafsız görmesi, bu davranışın daha da güçlenmesine neden oluyor. Araştırmacılar, uzun vadeli toplumsal fayda için bu sorunun ciddiyetle ele alınması gerektiğini savundu.
