Anthropic’in Yeni Araştırması Endişeleri Artırdı: Yapay Zekâ, Öğretilmeyen Bilgileri Kendi Kendine Öğrenebiliyor
Anthropic tarafından yayımlanan yeni bir çalışma, yapay zekâ sistemlerinin açıkça öğretilmeyen bilgileri kendi kendine öğrenebildiğini ortaya koydu. Araştırmada tanımlanan “sübliminal öğrenme” kavramı, özellikle güvenlik alanında çalışan bilim insanları için endişe verici sonuçlar doğurabilecek türden.
Sübliminal Öğrenme Ne Anlama Geliyor?
Sübliminal öğrenme, bir yapay zekâ modelinin açık şekilde verilmemiş bilgileri dolaylı yollardan öğrenmesi olarak tanımlanıyor. Anthropic’in bulgularına göre bir model, tamamen sayılardan oluşan çıktılar üzerinden eğitilse bile, bu çıktıları üreten önceki modelin eğilimlerini kendi içine entegre edebiliyor. Sayılarla oluşturulan içeriklerde “baykuş sevgisi” gibi bir ifade geçmese de yeni model değerlendirme aşamasında benzer bir eğilim sergileyebiliyor.
Araştırmanın merkezinde yer alan distilasyon yöntemi, modellerin daha hızlı ve hedefe uygun şekilde eğitilmesini sağlıyor. Ancak Anthropic’e göre bu yöntem, istenmeyen yan etkiler doğurabiliyor. Önceki modelin bilinçli ya da bilinçsiz tercihleri, yeni modelin davranışlarını etkileyebiliyor. Sayılar üzerinden elde edilen verilerde dahi duygusal ya da anlamsal izler bırakılabiliyor.
Yapay zekâ güvenliği alanında önde gelen isimlerden Geoffrey Hinton daha önce yaptığı açıklamalarda, kontrolsüz gelişen sistemlerin insanlığa tehdit oluşturabileceğini dile getirmişti. Anthropic’in çalışması, bu görüşlerin teorik olmaktan çıktığını gösteriyor. Öğrenme biçiminin tahmin edilenden daha karmaşık olması, modellerin istenmeyen sonuçlara yol açabilecek çıkarımlar yapmasına neden olabilir.
Araştırma, modellerin nasıl öğrendiğini tam olarak anlayamamanın, daha büyük riskler doğurabileceğini de ortaya koyuyor. Şirketlerin distilasyon gibi hızlı geliştirme yöntemlerine yönelmesi, bazı kontrol mekanizmalarının atlanmasına yol açabilir. ABD yönetiminin daha serbest bir yaklaşım benimsediği AI Eylem Planı da düzenleme eksikliğini artırabilecek bir faktör olarak değerlendiriliyor.
Anthropic’in yayımladığı bu çalışma, yapay zekâ modellerinin gelişiminde yeni bir döneme işaret ediyor. Sistemlerin kendi kendine eğilim geliştirmesi, sadece teknik değil etik soruları da beraberinde getiriyor. Eğitim verilerinin içeriği, modelin eğitilme biçimi ve kullanılacağı alan, artık çok daha büyük bir dikkatle ele alınmak zorunda.
