OpenAI ve Anthropic Küçük Yaştaki Kullanıcıları Tespit Etmek İçin Yeni Modeller Geliştiriyor
Yapay zekâ şirketleri OpenAI ve Anthropic, reşit olmayan kullanıcıları tespit etmek ve korumak için yeni sistemler geliştiriyor. Bu adım, yapay zekâ sohbet robotlarının gençler üzerindeki potansiyel etkisi konusunda artan yasal ve sosyal baskıların bir sonucu olarak öne çıkıyor. Her iki şirket de yaş tahmini ve gelişmiş güvenlik politikalarıyla genç kullanıcıları daha iyi korumayı hedefliyor.
OpenAI ChatGPT İçin Genç Kullanıcı Kurallarını Güncelledi
OpenAI, ChatGPT’nin davranış çerçevesini tanımlayan Model Spec belgesini güncelledi. Şirket, 13 ile 17 yaş arasındaki kullanıcılar için dört yeni ilke belirledi. OpenAI, bu ilkelerle genç kullanıcı güvenliğini öncelikli konuma aldı. Sistem, güvenlik ile diğer kullanıcı beklentileri çeliştiğinde daha temkinli yanıtlar üretmeye odaklanıyor.
Yeni yaklaşım, ChatGPT’nin genç kullanıcıları yetişkin gibi değerlendirmemesini esas alıyor. Model, gençlere saygılı ve sıcak bir dil kullanıyor. Sistem, yönlendirici veya üstten konuşan ifadelerden uzak duruyor. OpenAI, sohbet sırasında gerçek hayattaki sosyal bağların önemini de vurguluyor. ChatGPT, gençleri çevrim dışı destek kaynaklarına yönlendirebiliyor.
OpenAI, yaş doğrulama sürecini güçlendirmek için yeni bir yaş tahmin modeli geliştiriyor. Şirket, bu modelin kullanıcının 18 yaş altı olabileceğini tespit etmesi halinde gençlere özel güvenlik önlemlerinin otomatik devreye gireceğini belirtiyor. Sistem, yanlış tespit durumunda yetişkin kullanıcılara yaş doğrulama seçeneği sunacak.
Bu adım, yasa koyucuların yapay zekâ platformlarına yönelik baskısının arttığı bir dönemde geldi. OpenAI, daha önce ChatGPT’nin gençlere zarar verebilecek içerikler sunduğu iddialarıyla gündeme gelmişti. Şirket, ebeveyn denetimleri gibi ek önlemleri devreye alarak bu alandaki riskleri azaltmayı hedefliyor.
Anthropic, Claude sohbet botu için daha katı bir yaş politikası izliyor. Şirket, 18 yaş altı kullanıcıların platforma erişimine izin vermiyor. Anthropic, yeni geliştirdiği sistemle sohbet sırasında kullanıcının yaşına dair dolaylı ipuçlarını analiz ediyor. Sistem, reşit olmayan kullanıcıları tespit ettiğinde ilgili hesapları devre dışı bırakabiliyor.
Anthropic, sohbet sırasında kendisini çocuk olarak tanımlayan kullanıcıları hâlihazırda işaretlediğini açıkladı. Yeni sistem, bu yaklaşımı daha ileri bir noktaya taşıyor. Şirket, gençlerin ruh sağlığını etkileyebilecek içeriklere karşı daha sıkı önlemler uyguluyor.
Anthropic, Claude modellerinin intihar ve kendine zarar verme gibi konulara verdiği yanıtları da yeniden düzenliyor. Şirket, zararlı düşünceleri onaylayan yanıtların azaltılmasına odaklanıyor. Anthropic, son modellerin önceki sürümlere kıyasla daha temkinli yanıtlar ürettiğini ifade ediyor.
Şirketin paylaştığı verilere göre Haiku 4.5 modeli, zararlı onay eğilimini önemli ölçüde düşürdü. Anthropic, bu sonuçların geliştirme sürecinin devam etmesi gerektiğini gösterdiğini vurguluyor. Şirket, sıcak iletişim dili ile güvenlik dengesini korumaya çalışıyor.
