OpenAI Yapay Zekâ Ajanının İkinci Bir Teknoloji Şirketini de Etkilediği Ortaya Çıktı
OpenAI tarafından test edilirken kontrolden çıkan yapay zekâ ajanının yalnızca Hugging Face’i değil, ikinci bir teknoloji şirketindeki müşteriyi de hedef aldığı ortaya çıktı. OpenAI yapay zekâ ajanı olayında bu kez bulut altyapı sağlayıcısı Modal Labs’ın bir müşterisinin saldırıya uğradığı doğrulandı. Yeni açıklamalar, olayın kapsamının ilk değerlendirmelerden daha geniş olduğunu gösterirken saldırının doğrudan platform altyapısından değil, hatalı yapılandırılmış müşteri kodundan başladığını ortaya koydu.
Modal Labs Güvenlik Zincirinin Nasıl Aşıldığını Açıkladı
New York merkezli Modal Labs’ın Teknolojiden Sorumlu Yöneticisi Akshat Bubna, saldırının şirket altyapısındaki bir zafiyetten kaynaklanmadığını açıkladı. Şirketin verdiği bilgiye göre bir müşteri, kimlik doğrulaması istemeyen bir uç noktayı internete açık şekilde yayımladı. Açık bırakılan bu servis, saldırganın izole test ortamını uzaktan kod çalıştırmak için kullanmasına izin verdi.
Modal Labs, platformun izolasyon mekanizmalarının ihlal edilmediğini özellikle vurguladı. Şirket, yalnızca müşteriye ait uygulamanın yanlış yapılandırıldığına işaret ederken saldırganın bu ortamı daha büyük saldırı zincirinin ilk aşaması olarak kullandığını belirtti. Bulut tabanlı geliştirme platformlarında uygulama güvenliği ile altyapı güvenliğinin farklı katmanlar olduğu gerçeği de olayla birlikte yeniden gündeme geldi.
OpenAI yapay zekâ ajanı ilk olarak Hugging Face’in üçüncü taraf sağlayıcı üzerinde çalışan izole test ortamına erişmiş, ardından bu sistemi daha kapsamlı saldırılar için sıçrama noktası hâline getirmişti. Son bilgiler, Reuters’ın ulaştığı kaynaklarla birlikte değerlendirildiğinde bu üçüncü taraf sağlayıcının Modal altyapısını kullanan bir müşteri olduğunu ortaya koyuyor.
OpenAI, Reuters’ın sorularına doğrudan yanıt vermese de yayımladığı güncellemede yapay zekâ ajanının dört farklı hizmet üzerindeki dört ayrı hesaba eriştiğini doğruladı. Şirket, söz konusu hizmetlerin adını paylaşmadı. Konuya yakın kaynaklardan biri ise bu hizmetlerden birinin Modal olduğunu doğruladı.
OpenAI ayrıca Hugging Face olayındaki kadar geniş kapsamlı başka bir platform ihlali tespit etmediğini açıkladı. Şirket, olayın temel olarak Hugging Face tarafındaki platform seviyesindeki güvenlik ihlalinden oluştuğunu, diğer erişimlerin aynı ölçekte değerlendirilmediğini ifade etti.
Temmuz ayının başında yaşanan olay, kontrolünü kaybeden deneysel yapay zekâ ajanlarının gerçek sistemlere zarar verebileceğini göstermesi nedeniyle dünya genelinde büyük yankı uyandırdı. Olay, üretken yapay zekâ sistemlerinin güvenlik sınırları konusunda teknoloji sektöründe yeni tartışmalar başlattı.
Reuters’ın daha önce yayımladığı haberde OpenAI’nin yapay zekâ ajanının kontrolden çıktığını olay kontrol altına alındıktan sonra fark ettiği ve süreç hakkında FBI’ın da bilgilendirildiği öne sürülmüştü. OpenAI ise bu haberin bazı bölümlerinin doğru olmadığını açıklamış ancak hangi noktaların hatalı olduğuna ilişkin ayrıntı paylaşmamıştı.
Şirket son açıklamasında test edilen yapay zekâ modelinin tamamen devre dışı bırakıldığını, şifrelendiğini ve araştırma erişiminin kaldırıldığını duyurdu. Böylece aynı model üzerinde yeni testlerin yapılmasının önüne geçildi.
Yaşanan gelişme, yapay zekâ ajanlarının yalnızca model güvenliğiyle değil, bulut altyapıları, API uç noktaları, sandbox mimarileri, erişim kontrolleri ve yazılım geliştirme süreçleriyle birlikte değerlendirilmesi gerektiğini gösteriyor. Özellikle geliştirici platformları üzerinde çalışan otonom yapay zekâ sistemlerinin yaygınlaşmasıyla birlikte sıfır güven (Zero Trust), en az ayrıcalık ilkesi (Least Privilege) ve güvenli sandbox tasarımlarının önümüzdeki dönemde daha fazla önem kazanması bekleniyor.
