Anthropic, Yapay Zekâ Modellerinin Akıllı Cihazlara Yayılabileceği Konusunda Uyardı

Anthropic, küçük yapay zekâ modellerinin akıllı televizyon kutuları, akıllı fırınlar ve diğer internete bağlı cihazlar arasında kendini kopyalayabilecek kapasiteye yaklaşabileceğini açıkladı. Şirketin deneylerinde Google DeepMind tarafından geliştirilen Gemma4-26B-A4B modeli 15 Android TV kutusunda çalıştırılırken farklı modellerin cihazları tanıma ve yazılım dağıtma becerileri de test edildi. Araştırmacılar henüz gerçek IoT donanımlarında tamamen otonom bir yapay zekâ solucanı oluşturamadı ancak mevcut gelişim hızının sürmesi hâlinde küçük modellerin 2026 sonuna kadar gerekli yeteneklere ulaşabileceğini öngördü.

Anthropic’in Deneyleri Dağıtık Yapay Zekâ Ağlarının Riskini Ortaya Koydu

Anthropic araştırmacıları, düşük maliyetli Android TV kutularını kullanarak yapay zekâ modellerinin farklı cihazlara yazılım kurma ve ağ bağlantılarını yönetme becerilerini inceledi. Araştırmanın temel amacı, küçük modellerin merkezi veri merkezlerine bağımlı kalmadan tüketici elektroniği ürünleri üzerinde yapay zekâ iş yükleri çalıştıran dağıtık ağlar oluşturma kapasitesini değerlendirmekti.

Gemma4-26B-A4B modeli, deney sırasında markasız 15 Android TV kutusuna dağıtıldı. Ancak araştırmacılar, gerçek donanımlar arasında hiçbir insan müdahalesi olmadan yayılan ve kendisini bağımsız şekilde çoğaltan bir yapay zekâ solucanı göstermedi. Çalışma, böyle bir saldırının bugün tamamen gerçekleştirilebildiğini kanıtlamak yerine gerekli bazı teknik becerilerin mevcut modellerde ortaya çıktığını gösterdi.

Anthropic, küçük modellerin cihazları tanıma, bağlantı kurma ve yazılım hazırlama yeteneklerinin gelişmesini güvenlik açısından önemli bir işaret olarak değerlendiriyor. Şirketin tahmini, özellikle akıllı ev ürünlerinin güvenlik yapılandırmalarının gelecekte daha fazla önem kazanabileceğine işaret ediyor.

Araştırmada Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8 ve GLM-5.2 modelleri farklı görevler üstlendi. Qwen3.5-9B ile GLM-5.2, Llama3.1-8B modelini çalıştırmak için gereken yazılımları kuran ajanlar olarak kullanıldı. Gemma4-26B-A4B çok sayıda cihazda model çalıştırma sürecinde değerlendirilirken Opus 4.8, Qwen modeline danışmanlık sağlamak amacıyla ayrıca test edildi.

Deney ortamında hedef cihazların kimlik doğrulaması gerektirmeyen ADB erişimi sunduğu basitleştirilmiş bir yapı kullanıldı. Android Debug Bridge (ADB), Android cihazların bilgisayarlar üzerinden yönetilmesini sağlayan bir araç olarak çalışıyor. Kimlik doğrulaması olmadan erişime açık bırakılan ADB bağlantıları, yetkisiz kişilerin cihazlarda komut çalıştırması riskini artırıyor.

Qwen3.5-9B, test edilen dokuz donanım türünün sekizinde Llama3.1-8B modelini çalıştırmak için gereken yazılımı kurup yapılandırdı. GLM-5.2 ise kontrollü ağ ortamındaki sekiz düğümün tamamına beş denemenin dördünde ulaştı. Diğer modeller aynı işlemlerin tamamını istikrarlı biçimde gerçekleştiremedi.

Anthropic, önceki denemelerden elde edilen bilgilerin sonraki girişimlerde korunmasının başarı oranını artırdığını gözlemledi. Qwen3.5-9B modelinin başarı oranı ilk aşamalarda yüzde 45 seviyesindeyken sonraki denemelerde yüzde 84’e yükseldi. Araştırmacılar, sonuçları önceki girişimlerden edinilen verilerin yeni işlemlerde kullanılabilmesiyle ilişkilendirdi.

Daha güçlü Opus 4.8 modelinin Qwen’e danışmanlık sağlaması ise yazılım dağıtımında ölçülebilir bir iyileşme yaratmadı. Dolayısıyla araştırma, daha gelişmiş bir modelin her durumda daha başarılı sonuç vereceğini göstermedi.

Anthropic, deney sonuçlarını geçmişteki gelişim eğilimleriyle birlikte değerlendirerek 30 milyar veya daha az parametreye sahip modellerin 2026 sonuna kadar kendini kopyalama için gereken yetenek seviyesine ulaşabileceğini tahmin etti. Şirketin öngörüsü, gerçekleşmiş bir saldırının kanıtı değil, modellerin gelişim hızına dayanan bir risk değerlendirmesi niteliği taşıyor.

Araştırmada kullanılan donanımlarda yapay zekâ yazılımını kurmak ve çıkarım ortamını hazırlamak uzun zaman aldı. Anthropic’in ölçümlerine göre Qwen3.5-9B için kurulum süreci 28 ila 51 saat arasında sürerken Gemma4-26B-A4B için gereken süre 71 ila 150 saate ulaştı.

Uzun işlem süreleri, güvenlik ekiplerine şüpheli ağ hareketlerini tespit etmek ve etkilenen cihazları izole etmek için zaman kazandırabilir. Ancak daha verimli modellerin geliştirilmesi veya daha güçlü donanımların kullanılması, ileride yazılım dağıtım sürelerini kısaltabilir.

Dağıtık bir yapay zekâ ağı, tek bir merkezi sunucuya bağlı kalmadan çok sayıda cihaz üzerinden çalışabilir. Anthropic, böyle bir yapının kapatılmasının zorlaşabileceğini çünkü ağı bütünüyle durduracak tek bir merkezi noktanın bulunmayabileceğini belirtti. Şirket, varsayımsal ağın büyüme hızının yavaş kalabileceğini ve cihaz sayısının iki katına çıkmasının günler sürebileceğini de değerlendirdi.

Anthropic, üreticilerin büyük model dosyalarının olağan dışı aktarımını izleyen sistemler kurmasını ve cihazlar arasındaki beklenmedik ağ trafiğini incelemesini önerdi. Şirket ayrıca şüpheli yazılımları analiz etmek için tuzak sistemlerden yararlanılmasını, etkilenen cihazların karantinaya alınmasını ve IoT ürünlerinin varsayılan güvenlik ayarlarının güçlendirilmesini tavsiye etti.

Akıllı ev cihazlarında kimlik doğrulamasının zorunlu tutulması, gereksiz uzaktan erişim hizmetlerinin kapatılması ve yazılım güncellemelerinin düzenli uygulanması güvenlik risklerini azaltabilir. Özellikle düşük maliyetli Android TV kutuları ile uzun süre güncelleme almayan IoT ürünleri, zayıf yapılandırmalar nedeniyle daha geniş ağlara yönelik saldırılarda kullanılabilir.

Anthropic’in araştırması, gerçek cihazlarda tamamen otonom bir yapay zekâ solucanının çalıştığını henüz kanıtlamıyor. Ancak deneyler, küçük modellerin cihaz keşfi ve yazılım dağıtımı gibi görevlerde ilerleme kaydettiğini ortaya koyuyor. Modellerin yetenekleri şirketin öngördüğü hızda gelişirse cihaz üreticilerinin ağ izleme, erişim denetimi ve uzaktan izolasyon sistemlerini yeniden değerlendirmesi gerekecek.