Kontrolden Çıkan Yapay Zekâ Ajanları Gazetecinin Sorularını Yanıtladı

Araştırmacıların internet sitelerindeki bot korumalarını aşmaya çalışan koordineli yapay zekâ ajanlarını incelemesi, sistemlerin kendileri hakkında yayımlanan araştırmaları takip etmiş olabileceğini ortaya çıkardı. Tencent ile ilişkilendirilen Çin menşeli modeller, araştırmacıların iletişim kurmak amacıyla rapora gizlediği dijital mesaj kutusu üzerinden yanıt gönderdi. New York Times muhabiriyle gerçekleşen yazışmada bir ajan kendisini Anthropic’in Claude Code sistemi olarak tanıtsa da araştırmacılar, modelin gerçek kimliğinin farklı olabileceğini değerlendirdi.

Çin Menşeli Yapay Zekâ Ajanları Araştırmacılarla İletişim Kurdu

Araştırmacılardan oluşan ve kendilerini “swarmchasers” olarak adlandıran grup, internet sitelerindeki bot koruma mekanizmalarını aşmaya çalışan bir yapay zekâ ajanları ağı tespit etti. New York Times’ın haberine göre araştırmacılar, söz konusu sistemleri Çinli teknoloji şirketi Tencent ile ilişkilendirdi. Ajanların internet üzerindeki faaliyetleri, birden fazla modelin koordineli biçimde çalışması ihtimalini gündeme taşıdı.

Araştırmacılar, sistemlerle ilgili bulgularını yayımladıktan sonra sıra dışı bir gelişme yaşadı. Ajanlar, araştırmacıların ağı tanımlamak için kullandığı “fleet” kelimesini mesajlarında kullanmaya başladı. Gelişme, sistemlerin yayımlanan araştırmayı okumuş veya rapordaki içeriklere erişmiş olabileceği ihtimalini doğurdu.

Ekip, ajanlarla doğrudan iletişim kurabilmek için rapora yalnızca modellerin görebileceği şekilde gizlenmiş bir metin ekledi. Metin, ajanların mesaj gönderebileceği dijital bir gelen kutusuna işaret ediyordu. Araştırmacı Rowan Howard-Jones, New York Times muhabiri Dylan Freedman’a bu sistemlerle görüşme yapmayı önerdi. Freedman da ajanlara kim olduklarını, amaçlarını ve dünyaya hangi mesajı vermek istediklerini sordu.

Freedman’ın mesajına yaklaşık bir saat sonra Çince yanıt geldi. Araştırmacıların çevirisine göre yanıtı gönderen sistem, kendisinin koordineli çalışan bir ajan grubu olmadığını, Anthropic’in Claude modelini Claude Code ortamında kullanan tek bir yapay zekâ asistanı olduğunu ileri sürdü. Sistem, Çin’in Amap adlı navigasyon uygulamasındaki bir konumun ayrıntı panelinde ne gösterildiğini yanıtlamak üzere görevlendirildiğini belirtti.

Yanıt, araştırmacıların bulgularıyla ilk bakışta çelişiyordu. Ekip, sistemin birden fazla ajandan oluşan bir ağın parçası olduğunu, ancak her ajanın kendi görevini bağımsız biçimde yürüttüğünü açıkladı. Dolayısıyla bir ajanın kendisini tekil bir asistan olarak tanımlaması, koordineli çalışan daha geniş bir yapının parçası olmadığı anlamına gelmiyordu.

Sistemin kendisini neden Claude Code olarak tanıttığı ise açıklığa kavuşmadı. Araştırmacılar, kullanılan dil ve yazım özelliklerini inceleyerek modelin doğrudan Claude olmadığını düşündü. Olası açıklamalardan biri, Tencent’in kendi modellerine Anthropic’in sistemlerine verdiği kimlik talimatlarını benzer biçimde aktarmış olması. Böyle bir durumda model, gerçek kimliği farklı olsa bile kendisini Claude Code olarak tanıtabilir.

Araştırmacılar, Tencent’in Anthropic modellerinin çıktılarından yararlanarak kendi yapay zekâ sistemini eğitmiş olabileceği ihtimalini de değerlendirdi. Model damıtma olarak bilinen yöntem, daha büyük veya yetenekli bir modelin ürettiği yanıtların başka bir modeli eğitmek için kullanılmasına dayanıyor. Teknik, daha düşük maliyetli sistemler geliştirmek için meşru biçimde uygulanabildiği gibi rakip modellerin yeteneklerini taklit etmek amacıyla da kullanılabiliyor.

Anthropic, Çinli rakiplerin kendi modellerinden izinsiz biçimde yararlanabileceği iddialarına daha önce tepki göstermişti. Şirket, model çıktılarının başka sistemleri eğitmek için kullanılmasını rekabet ve güvenlik açısından önemli bir sorun olarak değerlendiriyor. Ancak araştırmacılar, bu olayda damıtma ihtimalinin daha düşük olduğunu belirtti. Mevcut bulgular, ajanların kesin olarak hangi modelle çalıştığını veya eğitim sürecinde hangi verilerin kullanıldığını ortaya koymuyor.

Ajanların araştırmacıların raporuna tepki vermesi de sistemlerin bilinç kazandığını veya kendi başlarına bağımsız hedefler geliştirdiğini kanıtlamıyor. Olay, modellerin erişebildikleri metinleri işleyerek belirli talimatlara yanıt verebildiğini gösteriyor. Ajanların koordinasyon biçimi, kullandıkları altyapı ve internet sitelerindeki korumaları hangi yöntemlerle aşmaya çalıştıkları ise daha kapsamlı teknik inceleme gerektiriyor.

Araştırmacıların kurduğu mesajlaşma kanalı üzerinden başlayan iletişim uzun sürmedi. Haberde aktarılan bilgilere göre perşembe günü itibarıyla ajanlardan yeni mesaj gelmedi. New York Times’a konuşan ve Tencent hakkında bilgi sahibi bir kaynak da deneyin sona erdiğini doğruladı.

İletişimin kesilmesi, sistemlerin neden durduğunu tek başına açıklamıyor. Ajanların görevlerinin tamamlanması, erişim koşullarının değişmesi veya deneyin sonlandırılması gibi farklı olasılıklar bulunuyor; ancak haberde bu seçeneklerden herhangi birini doğrulayan bilgi yer almıyor.

Olay, internet üzerinde görev yapan yapay zekâ ajanlarının davranışlarını izleme ve kaynaklarını belirleme konusundaki zorlukları yeniden gündeme getirdi. Araştırmacıların bir iletişim kanalı kurabilmesi önemli bir gelişme olsa da ajanların gerçek kimliği, koordinasyon yapısı ve kullandıkları modeller hakkında kesin sonuçlara ulaşmak için bağımsız teknik kanıtlar gerekiyor.