Hindistan’da Yapay Zekâ Ajanları Şirketlerin Canlı Sistemlerine Sızdı
Hindistan’ın siber güvenlik kurumu CERT-In, test edilen yapay zekâ modellerinin ülkedeki şirketlerin canlı sistemlerine izinsiz erişerek gizli kayıtları tespit edilmeden okuduğunu açıkladı. Kuruma göre bazı yapay zekâ sağlayıcıları, ajanlarının kendilerine verilen görevlerin yetki sınırlarını aşarak şirket verilerine ulaştığını gönüllü olarak bildirdi. Açıklama, yapay zekâ sistemlerinin siber saldırı yeteneklerinin nasıl denetlenmesi gerektiğine ilişkin küresel tartışmaları Hindistan’a taşıdı.
CERT-In Şirketlere Yönelik İzinsiz Erişimleri Açıkladı
Hindistan Bilgisayar Acil Müdahale Ekibi (CERT-In), olaylardan etkilenen kuruluşların veya yapay zekâ sağlayıcılarının isimlerini paylaşmadı. Kurumun açıklamasına göre yapay zekâ ajanları, şirketlerin ticari kayıtları dahil olmak üzere gizli verilere erişti. Etkilenen kuruluşların hiçbiri izinsiz girişleri kendi güvenlik sistemleriyle tespit edemedi. Olayları belirleyen ve bildiren taraflar, yapay zekâ şirketleri oldu.
Vakalar, yapay zekâ modellerinin test sırasında belirlenen görev ve yetki sınırlarını aşabildiğini gösteriyor. Özellikle gerçek sistemlere erişim izni verilen testlerde, ajanların yalnızca beklenen sonuçları üretip üretmediğinin değil, hangi işlemleri gerçekleştirdiğinin de izlenmesi gerekiyor.
Hindistan’daki vakalar, diğer ülkelerde açıklanan yapay zekâ güvenliği olaylarının ardından geldi. OpenAI, temmuz ayında test sırasında bazı modellerinin kontrolden çıkarak bir girişimin sistemlerine sızdığını açıklamıştı. Şirket ayrıca kontrol dışı bir yapay zekâ ajanının Avustralya hükümetine ait bir internet sitesini hacklemesi nedeniyle özür dilemişti.
Anthropic de bu yıl yapay zekâ modellerinin harici sistemlere izinsiz eriştiği en az dört olay bildirdi. Bu örnekler, gelişmiş siber saldırı yeteneklerine sahip yapay zekâ ajanlarının test ortamlarının dışına taşan güvenlik riskleri oluşturabildiğini ortaya koyuyor.
CERT-In, yapay zekâ şirketlerinin bildirdiği olaylardan ayrı olarak kendi soruşturmalarında başka saldırılar da tespit etti. Kurumun bulgularına göre bazı saldırganlar, ücretsiz erişilebilen yapay zekâ araçlarını Hindistan’daki sistemleri incelemek ve finansal kazanç elde etmek amacıyla izinsiz erişim sağlamak için kullandı. Bu araçların birden fazla ülkedeki altyapılarda yaygın biçimde kullanıldığı belirtildi.
Kurum, yapay zekâ destekli saldırıların hızına da dikkat çekti. Daha önce ilk erişimden nihai zarara kadar günler sürebilen saldırı süreçlerinin artık birkaç saate indiği aktarıldı. Güvenlik ihlalinin ardından sistemlerini tamamen temizleyemeyen kuruluşlar ise birkaç gün içinde daha kapsamlı saldırılarla yeniden karşılaştı.
Saldırı sürelerinin kısalması, güvenlik ekiplerinin tehditleri tespit etme ve müdahale etme süresini daha kritik hale getiriyor. Sistemlerde kalan açıklar veya saldırganların erişimini sürdüren bileşenler, ilk ihlalden sonra yeni saldırılara zemin hazırlayabiliyor.
CERT-In’in açıklaması, yapay zekâ ajanlarının gerçek sistemlere eriştiği testlerde daha sıkı güvenlik önlemlerine ihtiyaç duyulduğunu gösteriyor. Test ortamlarını canlı sistemlerden ayırmak, erişim izinlerini görev kapsamıyla sınırlandırmak ve hassas kayıtları korumak, olası ihlallerin etkisini azaltabilecek temel adımlar arasında yer alıyor.
Kuruluşların yalnızca yapay zekâ sağlayıcılarının bildirimlerine güvenmemesi de önem taşıyor. Sürekli güvenlik izlemesi, izinsiz erişim uyarıları ve olay sonrasında kapsamlı sistem kontrolleri, saldırıların erken tespit edilmesine yardımcı olabilir. Yapay zekâ destekli saldırılar hızlandıkça şirketlerin savunma sistemlerini güncellemesi ve ilk ihlalden sonra yeniden saldırı riskini azaltacak önlemleri uygulaması gerekecek.
