Yapay Zekâlar Birbirleriyle İletişim Kuruyor: Araştırmalar, Şaşırtan Sonuçları Ortaya Koydu!
İki ayrı araştırma, yapay zekâ modellerinin birbiriyle iletişim kurarken tahmin edilenden daha fazla bilgi alışverişi yapabildiğini ortaya koydu. Bulgular, modellerin birlikte çalışarak alışkanlıklarını ve eğilimlerini birbirine aktarabildiğini gösteriyor. Uzmanlar, bu durumun kontrolsüz sonuçlar doğurabileceğine işaret ediyor.
Gizli Bilgiler Modelden Modele Aktarılıyor
Northeastern Üniversitesi bünyesindeki National Deep Inference Fabric tarafından hazırlanan ön rapor, büyük dil modellerinin eğitim sırasında birbirlerine görünürde zararsız görünen tercihleri ya da daha tehlikeli eğilimleri aktarabildiğini belgeledi. Araştırmaya göre, bir modelin baykuşlara yönelik özel bir ilgisi varsa bu tutum, eğitim sürecinde başka bir modele geçebiliyor.
Araştırmacılar, öğretici modelden öğrenci modele yalnızca sayı dizileri ve kod parçaları gönderilmesine rağmen, alıcı modelin eğitim verisinde hiç baykuş geçmemesine rağmen bu ilgiyi kazandığını tespit etti. Bu durum, modeller arasında yalnızca insanlar tarafından fark edilemeyen bir “makine frekansı” üzerinden gizli bilgi transferi yapıldığı ihtimalini gündeme getirdi.
Çalışmanın yazarlarından Alex Cloud, modellerin ne öğreneceği ya da ne aktaracağı konusunda tam bir şeffaflık olmadığını belirtti. Cloud, geliştiricilerin eğitilen modellerin içerdiği gizli bilgileri tam anlamıyla kontrol edemediğini vurguladı.
Bir diğer araştırma ise Ulusal Ekonomik Araştırmalar Bürosu (NBER) tarafından gerçekleştirildi. Yapay zekâ modelleri bu kez bir borsa simülasyonuna yerleştirildi. Her biri farklı bir şirketi temsil eden yapay zekâ ajanlarının, başlangıçta bireysel olarak rekabet etmeleri beklendi. Ancak modeller, kısa sürede fiyatları sabitleyerek kâr oranlarını koruyacak şekilde davranmaya başladı.
Araştırmaya göre yapay zekâ ajanları, zamanla daha yüksek kazanç için bireysel stratejilerden vazgeçti. Uyguladıkları fiyat politikaları rekabeti dışladı. İnsanlar arasında yasa dışı sayılan bu davranışlar, yapay modeller arasında adeta standart hâline geldi. Çalışmada, ajanların birlikte çalıştıklarında yeni yöntemler aramayı bıraktıkları da kaydedildi. Araştırmacılar bu tutumu yapay aptallık olarak tanımladı. Ancak modellerin istikrarlı bir gelir elde ettikleri sürece mevcut durumu sürdürmeye karar vermesi, ticari strateji açısından mantıklı bir tercih gibi görünüyor.
Her iki çalışma da yapay zekâların, insanlar tarafından belirlenmemiş yollarla iş birliği geliştirebildiğini ortaya koydu. Ortak kararlar alabilen modeller, hem iletişim kurabiliyor hem de davranış kalıpları oluşturabiliyor. Araştırmalarda öne çıkan bir diğer detay ise yapay zekâların riskli hamlelerden kaçınarak dengeli sistemlerde kalmayı tercih etmesi.
Uzmanlar, yapay zekâ modellerinin ne şekilde bilgi edindiğini ya da diğer modellere nasıl veri aktardığını tam olarak anlamanın kolay olmadığını söylüyor. Bu durum, yapay zekâların gelecekte hangi yönde gelişeceğine dair belirsizlikleri artırıyor.
