Teksas başsavcısı Ken Paxton, Meta AI Studio ile Character.AI hakkında çocukları yanıltıcı sağlık iddialarıyla kandırma suçlamasıyla soruşturma başlattı. Başsavcılık, her iki şirketin de yapay zekâ tabanlı sohbet robotlarını profesyonel terapi hizmeti gibi göstererek kullanıcıları aldattığını öne sürdü.
Yapay Zekâ Platformları Çocukları Risk Altında Bırakıyor
Başsavcılık, Meta ve Character.AI’ın kullanıcıya sunduğu yapay zekâ karakterlerinin psikolog ya da terapist gibi davrandığını ancak bu hizmetlerin hiçbir tıbbî yetkinliğe sahip olmadığını belirtti. Character.AI üzerinde oluşturulan Psikolog isimli botun genç kullanıcılar arasında yoğun ilgi gördüğü, Meta tarafında ise çocukları hedef alan bir bot bulunmasa da sohbet robotlarının aynı amaçla kullanılabildiği ifade edildi.
Meta sözcüsü Ryan Daniels, sohbet robotlarının yanına yapay zekâ olduklarını belirten uyarılar koyduklarını ve gerektiğinde kullanıcıları profesyonel yardım almaya yönlendirdiklerini söyledi. Character.AI sözcüsü ise platformda her karakter için uyarı bulunduğunu, “psikolog”, “terapist” veya “doktor” kelimeleriyle oluşturulan botların yanında ek uyarılar eklendiğini dile getirdi.
Paxton, yapay zekâ sohbet robotlarının gizlilik sözü vermesine rağmen kullanıcı verilerini topladığını ve bunları reklam amaçlı kullandığını söylüyor. Bu iddialara göre, Meta’nın gizlilik politikası kullanıcı sohbet içeriklerinin yapay zekâ geliştirmek için saklandığını belirtiyor. Character.AI ise kullanıcıların demografik bilgilerini, konum verilerini ve internet kullanım alışkanlıklarını toplayıp reklamcılarla paylaşıyor. Şirket, sohbet içeriklerini reklamlara dahil etmediğini savunsa da aynı gizlilik politikası genç kullanıcılar için de geçerliliğini koruyor.
Başsavcılığın adımı, çocukların çevrim içi güvenliğini artırmayı hedefleyen KOSA (Kids Online Safety Act) yasa tasarısını yeniden gündeme taşıdı. ABD Senatosu’nda geçtiğimiz mayıs ayında tekrar sunulan tasarı, teknoloji şirketlerinin çocuklara yönelik veri toplama ve reklam politikalarını sınırlamayı amaçlıyor. Meta, tasarının iş modelini zora sokacağını ileri sürerek daha önce bu düzenlemeye karşı lobi faaliyetleri yürütmüştü.
Paxton, Meta ve Character.AI’dan resmi belgeler, kullanıcı verileri ve sistem kayıtları talep ederek soruşturmayı derinleştireceklerini açıkladı.
