Meta Yapay Zekâ Sohbet Özelliklerini Genç Kullanıcılar İçin Geçici Olarak Durdurdu
Sosyal medya devi Meta genç kullanıcıların dijital güvenliğini korumak amacıyla radikal bir adım atarak sistemdeki bazı özellikleri askıya aldı. Şirket tarafından yapılan resmi açıklamaya göre Meta yapay zekâ sohbet robotları üzerinden gençlerin erişebildiği karakter etkileşimleri küresel çapta geçici olarak engellendi.
Meta Yapay Zekâ Sohbet Robotları Güvenlik Soruşturmaları Nedeniyle Kısıtlanıyor
Teknoloji dünyasında yankı uyandıran bu karar reşit olmayan bireylerin sanal dünyadaki emniyetini sağlamayı hedefliyor. Meta yapay zekâ sohbet araçları üzerinden yürütülen bazı diyalogların uygunsuz içerikler barındırdığına dair raporlar ebeveyn denetimi süreçlerini hızlandırdı.
Şirket yetkilileri yeni güvenlik duvarları ile ebeveyn kontrol mekanizmaları tamamen hazır olana kadar bu kısıtlamanın süreceğini belirtiyor. Özellikle yaş tahmin teknolojisi kullanılarak yetişkin olduğunu iddia eden ancak genç olduğu saptanan hesaplar da bu yasak kapsamına dahil ediliyor. Meta yapay zekâ karakterleri üzerinden kurulan bağların gençler üzerindeki duygusal etkilerini minimize etmek adına tüm modeller yeniden eğitiliyor.
Siber güvenlik uzmanları chatbot modellerinin hassas yaş grupları üzerindeki olası olumsuz etkilerine karşı uzun süredir uyarılarda bulunuyordu. Meta AI, sohbet sistemi içerisinde gençlerin kendine zarar verme veya yeme bozuklukları gibi kritik konularda botlarla iletişim kurmasını engelleyecek özel filtreler geliştiriyor. Şirketin resmi ana yapay zekâ birimi yaşa uygun korumalarla hizmet vermeye devam etse de özel figürlerin erişimi tamamen kapatıldı. ABD Federal Ticaret Komisyonu ile çeşitli eyalet savcılıkları bu teknolojilerin oluşturabileceği riskler nedeniyle teknoloji devine yönelik kapsamlı soruşturmalar yürütüyor. Meta sohbet karakterleri için belirlenen kurallar güncellenirken çocukların internet ortamında maruz kaldığı içerikler daha sıkı bir denetim mekanizmasından geçiyor.
Önümüzdeki haftalarda tamamen yürürlüğe girecek olan kısıtlamalar Meta tarafının hukuki savunmalarında da kritik bir rol oynuyor. New Mexico Başsavcılığı tarafından açılan davada şirketin yapay zekâ teknolojileriyle ilgili daha önce sunduğu veriler mercek altına alınıyor. Şirket avukatları güncellenmiş deneyimin gençler için çok daha güvenli bir platform sunacağını savunuyor. Ebeveynler çocuklarının dijital dünyadaki hareketlerini takip edebilmek adına yeni sunulacak olan yönetim araçlarını merakla bekliyor.
Meta yapay zekâ sohbet alanında alınan bu karar, teknoloji şirketlerinin genç kullanıcı politikalarında daha sıkı bir döneme girildiğini gösteriyor.
