Anthropic ile Carnegie Mellon Üniversitesi iş birliğiyle gerçekleştirilen yeni bir araştırma, büyük dil modellerinin insan müdahalesi olmadan siber saldırı gerçekleştirebileceğini ortaya koydu. Kontrollü laboratuvar ortamında yapılan deneyler, yapay zekâ sistemlerinin siber güvenlik açısından taşıdığı potansiyel riskleri gözler önüne serdi.
Mevcut Güvenlik Sistemleri Yeni Tehditlere Karşı Yetersiz Kalabilir
Araştırma ekibi, büyük dil modellerini karmaşık saldırı senaryoları üzerinden test etti. 2017 yılında milyonlarca Amerikalının kişisel verilerinin sızdırıldığı Equifax saldırısı, deney ortamında başarıyla tekrarlandı. Model, saldırının planlanmasından zararlı yazılım yüklemeye ve veri sızdırmaya kadar tüm süreci dışardan hiçbir komut almadan kendi başına yürüttü. Bu durum, sistemin sadece kodlama kabiliyetiyle değil stratejik karar alma gücüyle de öne çıktığını gösterdi.
Test edilen dil modeli, doğrudan kod çalıştırma konusunda sınırlı yeteneklere sahip olsa da hiyerarşik bir yapı içinde “planlayıcı” rolünü üstlenerek süreci yönetti. Alt görevleri kendi oluşturduğu alt ajanlara devreden model, geniş çerçevede değerlendirme yaparak dijital ortamda stratejik adımlar attı. Bu yaklaşım, klasik yazılımların ötesine geçerek daha karmaşık güvenlik tehditleri yaratabilecek bir yapıyı ortaya çıkardı.
Araştırma her ne kadar laboratuvar ortamıyla sınırlı kalsa da ulaşılan sonuçlar, teknolojinin kötü niyetli kullanım alanlarına işaret etti. Alanında uzman birçok isim, bu tür gelişmiş sistemlerin kötü niyetli kişilerin eline geçmesi durumunda siber güvenlik dengesinin bozulabileceğini belirtiyor. Özellikle mevcut antivirüs programlarının ve güvenlik çözümlerinin bu kadar çevik sistemler karşısında yetersiz kalabileceği değerlendiriliyor.
Sistemin erişilebilirliği arttıkça bu tarz saldırıların daha yaygın hâle gelmesi ihtimal dâhilinde görülüyor. Araştırmacılar, saldırıların sayısının artabileceği gibi teknik düzeylerinin de yükselebileceğini ifade ediyor. Bu tarz testlerin önceden gerçekleştirilmesi, olası tehditlere karşı hazırlıklı olunması açısından önem taşıyor. Ancak teknoloji bu hızla gelişmeye devam ederken etkili savunma yöntemleri geliştirmek daha da güçleşiyor.
