Roblox, Çocukları Çevrim İçi Tehlikelerden Korumak İçin Açık Kaynaklı Yapay Zekâ Sistemini Tanıttı
Çocuklar ve gençler arasında popüler olan çevrim içi oyun platformu Roblox, oyun içi sohbetlerde çocuk istismarı riskini önceden tespit etmeyi amaçlayan yapay zekâ tabanlı Sentinel sistemini açık kaynaklı olarak sunacağını açıkladı. Şirket, bu hamle ile diğer platformların da sistemi kullanabilmesini hedefliyor.
Yeni Koruma Özelliği Çocuk Güvenliğini Öncelikli Hale Getirecek
Roblox, son dönemde çocukları çevrim içi istismardan koruma konusunda yetersiz kaldığı iddialarıyla karşı karşıya kaldı. Geçen ay Iowa’da açılan bir davada, 13 yaşındaki bir kızın platform üzerinden tanıştığı bir yetişkin tarafından kandırıldığı, eyaletler arası kaçırıldığı ve insan ticaretine maruz kaldığı öne sürüldü. Dava dilekçesinde, Roblox’un tasarım özelliklerinin çocukları “avcılara karşı savunmasız” bıraktığı iddia edildi.
Roblox, Sentinel’in çocuk istismarı ihtimali taşıyan dil kalıplarını önceden tespit edebildiğini belirtiyor. Sistem, günde yaklaşık 6 milyar mesajdan bir dakikalık sohbet kesitlerini tarayarak riskli davranışları analiz ediyor. Şirket, bunun için biri zararsız sohbetlerden, diğeri ise çocuk istismarı ihlali içeren konuşmalardan oluşan iki farklı veri dizini oluşturdu. Bu yöntem sayesinde sistem, yalnızca belirli kelimeleri engellemek yerine tüm sohbetin bağlamını değerlendirebiliyor.
Sistem, kullanıcıların yazışmalarını güvenli ve riskli davranış kümelerine göre puanlıyor. Kullanıcı riskli kümeye yaklaştığında, geçmiş sohbetleri, arkadaş listesi ve oynadığı oyunlar inceleniyor. Şüpheli etkileşimler insan moderatörler tarafından gözden geçiriliyor ve gerekli durumlarda kolluk kuvvetlerine rapor ediliyor. Roblox, 2025’in ilk yarısında Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi’ne 1.200 potansiyel istismar girişimi raporu sunduğunu açıkladı.
