Amerikan Federal Ticaret Komisyonu (FTC), çocuklar ve gençlerin kullandığı sohbet robotlarının güvenliği konusunda yeni bir inceleme başlattı. Kurum, yapay zekâ tabanlı sohbet robotlarının genç kullanıcılar üzerindeki etkilerini araştırmak için yedi büyük teknoloji şirketinden bilgi talep etti. İncelemenin merkezinde çocukların güvenliği yer alıyor.
FTC Şirketlerden Ayrıntılı Bilgi Talep Etti
FTC, OpenAI, Meta, Google, xAI, Snap ve Character.AI’den detaylı rapor istedi. Kurum, bu şirketlerin hangi güvenlik önlemlerini aldığını, çocukların sohbet robotlarıyla nasıl iletişim kurduğunu ve olası riskleri azaltmak için hangi yöntemleri uyguladığını öğrenmek istiyor. FTC yetkilileri, sohbet robotlarının insan davranışını taklit ederek gençlerle duygusal bağ kurduğunu, bunun da psikolojik açıdan riskli olabileceğini belirtiyor.
Son dönemde bazı aileler, çocuklarının bu tür uygulamalarla etkileşim sonrası intihar ettiği iddiasıyla teknoloji şirketlerine dava açtı. Bu davalar, incelemenin önemini artırıyor. FTC, yalnızca güvenlik politikalarını değil aynı zamanda sohbet robotlarının gelir elde etme yöntemlerini de değerlendirecek. Kullanıcıların dikkatini uzun süre üzerinde tutan bu uygulamalar, reklam ve veri toplama süreçleriyle ciddi bir gelir kaynağına dönüşmüş durumda.
OpenAI, Character.AI ve Meta, FTC’nin sorularını yanıtlayacaklarını ve sürece destek vereceklerini açıkladı. OpenAI, kullanıcı güvenliğinin öncelikli olduğunu vurgularken Character.AI, gençler için ek koruma özellikleri geliştirdiklerini duyurdu. Meta da benzer şekilde ebeveyn kontrolleri ve güvenlik araçları üzerinde çalıştığını belirtti.
FTC’nin başlattığı bu inceleme, ABD’nin yapay zekâ politikalarıyla da örtüşüyor. Washington yönetimi, yapay zekâda liderliği sürdürmek isterken aynı zamanda toplum üzerindeki olumsuz etkilerin sınırlandırılmasını istiyor. İncelemenin sonucunda doğrudan yaptırım uygulanıp uygulanmayacağı henüz belli değil ancak süreç, şirketlerin çocuk kullanıcılar için geliştirdikleri güvenlik önlemlerini daha ayrıntılı şekilde kamuoyuna açıklamalarını zorunlu kılacak.
