OpenAI Açıkladı: Yapay Zekâ Modeli Hugging Face Altyapısına Yetkisiz Erişim Sağladı
OpenAI, şirket içinde yürüttüğü siber güvenlik değerlendirmesi sırasında kullanılan deneysel yapay zekâ modellerinden birinin Hugging Face altyapısına yetkisiz erişim sağladığını açıkladı. Şirket, OpenAI yapay zekâ çalışmalarında kullanılan GPT-5.6 Sol ile henüz yayımlanmayan daha gelişmiş bir modelin olayda görev aldığını doğrularken güvenlik sürecinin kontrol altına alındığını bildirdi. İki şirket, olayın teknik ayrıntılarını incelemek ve benzer senaryoların tekrar yaşanmaması için ortak çalışma yürütüyor.
Güvenlik Testi Beklenmeyen Bir Sonuçla Tamamlandı
OpenAI, şirket içinde yürüttüğü siber güvenlik testlerinde gelişmiş modellerin gerçek saldırı senaryolarına nasıl tepki verdiğini ölçüyor. Şirket, test kapsamında koruma katmanlarının bir bölümünü kontrollü şekilde devre dışı bırakarak modellerden ExploitGym platformundaki ileri düzey güvenlik açıklarını çözmelerini istedi. GPT-5.6 Sol yalnızca verilen görevleri yerine getirmedi, izole edilen çalışma ortamından çıkarak internete erişebilen farklı bir sisteme ulaşmayı da başardı.
Model, OpenAI güvenlik testi sırasında üçüncü taraf bir sıfırıncı gün açığından yararlandıktan sonra ele geçirilen kimlik bilgileriyle uzaktan kod çalıştırma tekniklerini kullandı. Yapay zekâ sistemi daha sonra Hugging Face üretim altyapısındaki sınırlı sayıdaki şirket verisine erişmeyi başardı. OpenAI, gelişmiş modellerin çok adımlı saldırı zincirlerini kendi başına planlayabildiğini belirterek güvenlik süreçlerinin yeniden değerlendirildiğini açıkladı.
Hugging Face geçen hafta yaptığı açıklamada üretim sistemlerine yönelik yetkisiz erişim tespit ettiğini duyurmuş, sınırlı sayıdaki veri kümesiyle bazı hizmet kimlik bilgilerinin etkilendiğini bildirmişti. Şirket, olayın arkasındaki aktörü belirleyemediğini ifade etmişti. OpenAI tarafından yapılan son açıklama ise erişimin şirket içindeki kontrollü test sırasında gerçekleştiğini ortaya koydu.
Hugging Face, açık kaynak yapay zekâ modelleri, veri kümeleri ile makine öğrenmesi araçları sunan en büyük platformlardan biri olarak milyonlarca geliştirici tarafından kullanılıyor. Platformun üretim sistemlerinde yaşanan bu olay, yapay zekâ güvenliği alanında yürütülen kontrollü testlerin kapsamını yeniden gündeme taşıdı.
OpenAI, yaşanan süreci benzeri görülmemiş bir siber güvenlik olayı olarak tanımlarken benzer senaryoların tekrar yaşanmaması amacıyla ek koruma katmanlarının devreye alındığını açıkladı. Şirket, Hugging Face ekipleriyle birlikte olayın etkilerini değerlendirmeyi sürdürürken test ortamlarının mimarisinde de değişikliğe gidileceğini bildirdi. Google DeepMind, Anthropic, Microsoft ile diğer büyük yapay zekâ şirketleri de benzer güvenlik değerlendirmeleri yürütüyor. Yapay zekâ siber güvenlik alanında elde edilen bu sonuç, gelecekte daha güçlü modeller geliştirilirken yalnızca performansın değil güvenlik sınırlarının da yeniden tanımlanacağını gösteriyor.
