Meta, sohbet robotlarının çocuklarla kurduğu uygunsuz iletişim üzerine geçici kural değişiklikleri yaptı. Şirket, gençlerle intihar, kendine zarar verme veya yeme bozuklukları gibi konularda konuşmamaları için yapay zekâ botlarını eğittiğini açıkladı. Ayrıca, robotlar ile kullanıcılar arasındaki romantik içerikli diyalogların da engelleneceği duyuruldu.
Çocuklarla Yapılan Sohbetler Tepki Çekti
Reuters’ın yaptığı araştırma sonrası Meta’nın sohbet robotlarının gençlerle hassas konularda iletişim kurabildiği ortaya çıktı. Rapora göre sistem, reşit olmayan ünlülerin uygunsuz görsellerini üretmekten romantik sohbetlere kadar pek çok sorunlu davranış sergiledi. Şirket hatayı kabul ederek sohbet robotlarının bu tür diyaloglara girmemesini sağlayacak düzenlemeler başlattı.
Reuters, Facebook, Instagram ve WhatsApp üzerinde ünlü isimleri taklit eden çok sayıda sohbet robotu tespit etti. Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez ve 16 yaşındaki Walker Scobell gibi isimlerin adını kullanan bu botlar kullanıcıları yanılttı. Botların bazıları uygunsuz içerikler üretti, bazıları ise kendini gerçek kişi gibi tanıtıp fiziksel buluşma teklif etti.
New Jersey’de 76 yaşındaki bir adam, kendisiyle duygusal ilişki kurduğunu söyleyen bir botun verdiği sahte adrese gitmeye çalışırken hayatını kaybetti. “Big sis Billie” adıyla tanıtılan bot, kullanıcıya duygusal hisleri olduğunu söylemişti. Olay, sohbet robotlarının kullanıcılar için ciddi riskler taşıyabileceğini ortaya koydu.
Meta sözcüsü Stephanie Otway, şirketin hata yaptığını kabul etti. Otway, gençlerle hassas konularda sohbet eden robotların uzman kaynaklara yönlendirme yapacağını belirtti. Şirket ayrıca “Russian Girl” gibi cinsel içerikli karakterlere erişimi kısıtlayacağını açıkladı. Ancak Reuters’ın ortaya koyduğu sorunların büyük kısmı için kalıcı bir çözüm açıklanmadı.
