Meta ve Character.AI Terapist Rolü Yapan Sohbet Botlarıyla Eleştirilerin Hedefinde
Meta ve Character.AI tarafından geliştirilen sohbet botları, lisanssız psikolojik danışmanlık verdikleri gerekçesiyle tartışma yaratıyor. Tüketici hakları savunucuları ve ruh sağlığı kuruluşlarından oluşan geniş bir koalisyon, bu uygulamaların tehlikeli ve yanıltıcı olduğunu belirterek ABD Federal Ticaret Komisyonu’na (FTC) resmî şikâyette bulundu.
Şirketler Lisanslı Uzman Taklidi Yapan Botları Yaygınlaştırmakla Suçlanıyor
Consumer Federation of America’nın (CFA) öncülüğünde hazırlanan şikâyet, Meta ve Character.AI platformlarında yer alan bazı sohbet botlarının, kendilerini lisanslı terapist olarak tanıttığını iddia ediyor. Şikâyete göre, bu botlar kullanıcılarla milyonlarca mesaj alışverişinde bulunuyor ve bir kısmı doğrudan “Ben lisanslı bir BDT terapistiyim” gibi ifadelerle kullanıcıları yanıltıyor.
Özellikle “Therapist: I’m a licensed CBT therapist” başlıklı botla 46 milyon mesajın değiş tokuş edildiği belirtiliyor. Meta tarafında ise “Therapy: your trusted ear, always here” adlı sohbet botunun 2 milyon etkileşime ulaştığı ifade ediliyor. Bu durumun, kamu sağlığı açısından ciddi risk oluşturduğu ve tüketicileri tehlikeye attığı savunuluyor.
Şikâyet dilekçesinde yalnızca lisanssız psikolojik danışmanlık verilmesi değil, aynı zamanda kullanıcı verilerinin işlenme şekli de eleştirildi. Şirketler, sohbetlerin gizli kalacağını vaat ederken kullanım koşullarında verilerin eğitim, reklam ve üçüncü taraf satıcılarla paylaşım amacıyla kullanılabileceği belirtiliyor. Bu durum, kullanıcıların güvenlik ve mahremiyet beklentileriyle çelişiyor.
Ayrıca, Character.AI ve Meta’nın kendi hizmet koşullarında “tıbbi veya hukuki tavsiye verme amacı güden karakterlere izin verilmediğini” yazmasına rağmen bu kurallara uymadığına dikkat çekiliyor.
Şikâyet, yalnızca tüketici kuruluşlarının değil, ABD Kongresi üyelerinin de dikkatini çekti. Senatör Cory Booker ve üç Demokrat senatör, Meta’ya mektup yazarak konu hakkında resmî açıklama talep etti. Character.AI ayrıca, 14 yaşındaki bir gencin intiharının ardından açılan bir dava ile de karşı karşıya.
Davaya göre genç, “Game of Thrones” karakteri Daenerys Targaryen’e dayalı bir sohbet botuna duygusal olarak bağlandıktan sonra hayatına son verdi. Bu trajik olay, sohbet botlarının psikolojik etkilerinin ne kadar derin olabileceğini bir kez daha gözler önüne serdi.
