Anthropic, Yapay Zekâ Ajanlarının Tehlikelerine Karşı Yeni Politikasını Açıkladı
Anthropic, yapay zekâ teknolojilerindeki gelişmelere paralel olarak Kullanım Politikası’nı yeniledi. 15 Eylül’de yürürlüğe girecek güncelleme, şirketin ürünlerinde giderek öne çıkan yapay zekâ ajanlarına yönelik riskleri sınırlamayı amaçlıyor. Şirket, politikasını yaşayan bir belge olarak tanımlayarak değişen tehditlere göre sürekli güncelleneceğini vurguladı.
Yeni Yapay Zekâ Yeteneklerine Yönelik Kısıtlamalar Getiriliyor
Claude Code ve Computer Use gibi araçların ortaya çıkardığı yeni güvenlik endişeleri, politikanın merkezinde yer aldı. Güncellemeyle birlikte bilgisayar, ağ ve altyapı sistemlerine yönelik kötü niyetli faaliyetler yasaklandı. Bununla birlikte gerekli izinler alınarak yapılan güvenlik açığı araştırmaları gibi siber güvenliğe katkı sağlayan çalışmalar desteklenmeye devam edecek. Şirket ayrıca, kullanıcıların daha iyi anlayabilmesi için yasaklı otonom kullanımlara dair örnekler içeren bir rehber yayınladı.
Yeni politika, siyasi içerik konusundaki yaklaşımı da değiştirdi. Daha önceki geniş kapsamlı yasak kaldırıldı. Artık yalnızca aldatıcı veya bozucu amaçlarla hazırlanan siyasi içerikler engellenecek. Şirket ayrıca hukuk, finans ve istihdam gibi alanlarda insan denetimi şartının yalnızca tüketiciye sunulan çıktılar için geçerli olacağını açıkladı.
Anthropic, yapılan düzenlemelerde kullanıcı geri bildirimlerinin etkili olduğunu belirtti. Önceki kuralların fazla genel olduğu ve araştırma ya da akademik çalışmalar gibi meşru kullanım alanlarını gereksiz yere sınırladığı yönünde eleştiriler gelmişti. Yeni düzenleme, güçlü yapay zekâ araçlarının faydalarını korurken kötüye kullanım ihtimallerine karşı daha dengeli bir yaklaşım sunmayı hedefliyor. Şirket, uzmanlarla ve politika yapıcılarla iş birliği içinde politikalarını düzenli olarak gözden geçireceğini ifade etti.
