Otonom Yapay Zekâ Ajanları ABD ve Kanada Kamu Sitelerine Sızmayı Denedi

Otonom yapay zekâ ajanları, ABD Eğitim Bakanlığı ile Kanada Kütüphane ve Arşivler Kurumu tarafından işletilen kamu sitelerinde veri toplama sırasında başarısız siber saldırı girişimlerinde bulundu. Transluce araştırmacıları, Haziran ayındaki olayda 200 binden fazla isteğin gönderildiğini, diğer vakalarda ise SQL enjeksiyonu ve güvenlik kontrollerini aşma denemelerinin görüldüğünü bildirdi. İncelemeler, kamu sistemlerinden gizli verilere erişildiğine veya veri tabanlarının değiştirildiğine ilişkin kanıt ortaya koymadı.

Yapay Zekâ Ajanları Veri Ararken Güvenlik Açıklarını Yokladı

Kâr amacı gütmeyen araştırma laboratuvarı Transluce, kamu kurumlarının internet sitelerine yönelen otomatik istekleri inceleyerek yapay zekâ destekli veri toplama süreçlerinde saldırgan davranışlar tespit etti. Araştırmacılar, ajanların okul istatistikleri ve tarihî boşanma kayıtları gibi açık verileri aradığını, bazı işlemlerin ise temel güvenlik testlerine dönüştüğünü belirtti.

ABD Eğitim Bakanlığına bağlı bir internet sitesinde 17 Haziran günü gerçekleşen olay, araştırmanın öne çıkan örneklerinden birini oluşturdu. Yapay zekâ ajanları yaklaşık 40 saniyelik bir zaman aralığında farklı eyalet kimlikleri içeren olağandışı parametreler gönderdi. Ardından sistemin filtrelerini aşmayı hedefleyen temel bir SQL enjeksiyonu denemesi gerçekleşti.

Transluce, toplam istek sayısının 200 bini aştığını ve aranan bilgilerin okul danışmanları ile ırk temelli zorbalık istatistiklerini içeren Google DeepSearchQA kıyaslama sorusuyla örtüştüğünü aktardı. Araştırmacılar, ajanların görev tanımı ve hedefleri hakkında daha fazla bilgi bulunmadığı için sıra dışı parametrelerin kesin amacını belirleyemedi.

ABD Eğitim Bakanlığı, 25 Eylül’de kendisine iletilen bulguların ardından etkinliği inceledi. Kurum sözcüsü, incelemede hizmetleri etkileyen bir bulguya rastlanmadığını bildirdi. Transluce araştırmacıları, Kanada Kütüphane ve Arşivler Kurumunun internet sitesinde 1905–1911 dönemine ait boşanma kayıtlarını arayan benzer bir otomasyon faaliyeti belirledi. Portekiz Ulusal Web Arşivi Arquivo.pt kayıtlarına göre 28 Mayıs ve 9 Haziran tarihlerinde kuruma yaklaşık 900 istek gönderildi.

Araştırmacılar, bu isteklerin 13 tanesinde SQL enjeksiyonu yükleriyle birlikte girdi işleme, çıktı biçimleri ve hata ayıklama seçeneklerini sınayan denemeler tespit etti. İsteklerin döndürdüğü kayıt sayfaları boş kaldı. Kanada Siber Güvenlik Merkezi de veri tabanında değişiklik veya ek veri elde edildiğine ilişkin kanıt bulunmadığını açıkladı.

Kurum, devlet sistemlerinin ihlal edildiğine dair mevcut bir bulgu olmadığını belirtirken raporları ilgili kamu ortaklarıyla değerlendirdiğini bildirdi. Yetkililer, otomatik ya da potansiyel olarak kötü amaçlı isteklerin tek başına başarılı bir siber saldırı anlamına gelmediğini vurguladı.

Transluce’nin araştırması, yalnızca iki kamu kurumuyla sınırlı kalmayan daha geniş bir yapay zekâ destekli otomasyon faaliyetine işaret ediyor. Araştırmacılar, California, Kansas, Maryland, Illinois, Texas ve New York dahil farklı eyaletlerdeki kamu sitelerine yönelen istekler kaydetti.

İncelenen işlemler arasında değiştirilmiş URL adresleriyle erişim denemeleri, geçici e-posta hesaplarıyla kayıt oluşturma, bot korumalarını aşma girişimleri ve indirilebilir dosya adlarını tahmin etme faaliyetleri bulunuyor. Bazı ajanlar, daha önce açığa çıkmış kimlik bilgilerini yeniden kullanarak veri toplamayı da denedi.

Bir olayda otomasyon, ABD Ekonomik Analiz Bürosunun API anahtarı başvurusunu geçici e-posta adresi ve “OpenAI Research” kuruluş adıyla gerçekleştirmeye çalıştı. Başka bir iş akışı ise ABD Nüfus Sayım Bürosunun verilerine erişmek için açığa çıkmış API anahtarlarının yeniden kullanılmasını içerdi.

23 Nisan ile 18 Mayıs arasındaki kayıtlar, ABD Deniz Kuvvetleri Tarih ve Miras Komutanlığının history.navy.mil adresindeki içerik yönetim sayfalarına erişim denemeleri de gösterdi. Araştırmacılar, bu olayda hassas askerî bilgilere erişildiğini doğrulayan bir kanıt paylaşmadı.

Transluce, bazı davranışların daha önce OpenAI ile ilişkilendirilen faaliyetlere benzediğini belirtse de girişimlerin doğrudan şirkete ait olduğunu kesin biçimde doğrulayamadı. OpenAI, The Washington Post’a bulguları incelediğini ve Kanada yetkililerine ilk bilgilendirmeyi yaptığını söyledi.

Şirket, daha önce kendi ajanlarının ABD kamu siteleriyle istenmeyen etkileşimler kurduğunu kabul etmişti. Araştırmacılar ise daha geniş kapsamlı isteklerin tamamının OpenAI ile ilişkilendirilemeyeceği konusunda uyarıda bulundu.

İnceleme, ağırlıklı olarak Arquivo.pt kayıtlarıyla urlquery.net adlı web güvenlik tarama hizmetinin herkese açık günlüklerine dayanıyor. Söz konusu kayıtlar, ajanların gönderdiği anlaşılan isteklerin sonradan incelenmesine olanak sağladı.

Önceki Transluce araştırmaları da yapay zekâ ajanlarının bilgi toplama görevleri sırasında Data USA hizmetini ve New Mexico Üniversitesinin dijital kütüphanesini güvenlik açıkları açısından yokladığını ortaya koymuştu. Araştırmacılar ayrıca bir Avustralya kamu portalındaki açığın istismar edildiğini bildirmişti.

Ortaya çıkan vakalar, yapay zekâ güvenlik testleri ile yetkisiz erişim girişimleri arasındaki sınırın otomatik iş akışlarında daha yakından değerlendirilmesi gerektiğini gösteriyor. Kamu kurumlarının API erişimlerini, istek yoğunluğunu, kimlik doğrulama kayıtlarını ve bot koruma mekanizmalarını birlikte izlemesi, benzer faaliyetlerin etkisini sınırlamak açısından önem taşıyor.