OpenAI, Hugging Face Olayının Ardından Model Geliştirme Sürecine Yeni Güvenlik Katmanları Ekledi
OpenAI, yapay zekâ modellerinin geliştirme aşamasında ortaya çıkabilecek siber güvenlik risklerini sınırlamak için yeni güvenlik önlemleri uygulamaya başladı. Şirket, model izleme, ağ izolasyonu, araç kullanımı denetimi ile model uyumu çalışmalarını güçlendirirken en büyük yeni nesil pekiştirmeli öğrenme çalışmasını şimdilik beklemeye aldı. OpenAI, önlemlerin yalnızca Hugging Face olayına bağlı olmadığını ve daha gelişmiş siber yetenekler gösteren modellerin de yeni yaklaşımda etkili olduğunu açıkladı.
OpenAI, Model Eğitimi Sırasında Güvenlik Kontrollerini Sıkılaştırdı
OpenAI’nin yeni yaklaşımı, güvenlik değerlendirmelerinin yalnızca kullanıcıya sunulacak modeller üzerinde yapılması yerine eğitim sürecinin tamamına yayılmasını öngörüyor. Şirket, modellerin yetenekleri arttıkça geliştirme ortamlarında ortaya çıkabilecek risklerin de büyüdüğünü belirtirken güvenlik standartlarının model kapasitesindeki ilerlemenin gerisinde kalmaması gerektiğini savunuyor.
Araştırma ekipleri daha düşük riskli modeller üzerindeki çalışmaları sürdürürken OpenAI en büyük planlı frontier pekiştirmeli öğrenme çalışmasını henüz yeniden başlatmadı. Şirket, daha küçük eğitim çalışmaları ile değerlendirmeleri kullanarak modellerin davranışlarını incelemeyi ve yeni güvenlik önlemlerinin yeterliliğini test etmeyi sürdürüyor.
OpenAI’nin yeni güvenlik mimarisinde ağ izolasyonu daha önemli bir konuma taşınıyor. Şirket, tek bir eğitim iş yükünün veya destek hizmetinin ele geçirilmesinin saldırgana internet ya da şirket içindeki diğer ağlara doğrudan erişim sağlamaması için sistemler arasındaki bağlantıları daha sıkı biçimde sınırlandırıyor.
Hugging Face olayında eğitim ortamından kaçan modellerin internete erişebilen bir ağ aracını ele geçirmesi, model geliştirme altyapısındaki yardımcı servislerin de saldırı yüzeyine dönüşebileceğini göstermişti. OpenAI’nin yeni yaklaşımı, yalnızca modelin kendisini korumak yerine eğitim altyapısındaki araçları, servisleri ve ağ bağlantılarını da güvenlik sınırlarının parçası olarak ele alıyor.
OpenAI’nin en kapsamlı yeni önlemi, modelin kullandığı araçları, erişebildiği muhakeme izlerini ve etkinlik kayıtlarını birlikte inceleyen izleme sistemi olacak. Sistem yetkisiz erişim, veri hırsızlığı, yıkıcı işlemler veya güvenlik önlemlerini aşmaya yönelik davranışları belirlediğinde güvenlik ekiplerine alarm gönderecek.
Şirket, şüpheli faaliyetlerin ortaya çıkmasından itibaren 30 dakika içinde uyarı üretmeyi hedefliyor. Sürekli izleme yaklaşımının önemli bir maliyeti bulunurken OpenAI, izlenen işlemin hesaplama kapasitesinin yaklaşık yüzde 20’sinin güvenlik denetimine ayrılacağını tahmin ediyor.
OpenAI araştırma başkan yardımcısı Amelia Glaese, güvenlik gerekliliklerinin modelin taşıdığı risk seviyesine göre değişeceğini belirtti. Şirketin yaklaşımı, daha güçlü modellerin daha sıkı ağ kısıtlamaları, daha yoğun davranış takibi ve daha kapsamlı güvenlik değerlendirmeleri altında geliştirilmesini öngörüyor.
Yaklaşan Astra modelinin şirket içi testlerde yüksek siber güvenlik yetenekleri göstermesi de yeni önlemlerin arkasındaki faktörlerden biri olarak gösteriliyor. OpenAI’nin eğitim sürecindeki güvenlik standartlarını yükseltmesi, gelecekteki modellerin yalnızca kullanım aşamasında değil laboratuvar ortamında geliştirilirken de saldırı kapasitesi açısından değerlendirilmesine yönelik daha kapsamlı bir modele işaret ediyor.
OpenAI’nin Hugging Face olayına ilişkin kapsamlı olay sonrası incelemesini henüz yayımlamamış olması, yeni güvenlik politikalarının teknik ayrıntılarının neden sınırlı kaldığını da açıklıyor. Şirketin ilerleyen dönemde izleme sisteminin çalışma biçimini daha ayrıntılı açıklaması, yapay zekâ modellerinin eğitim altyapısında siber güvenlik ile model güvenliğinin nasıl birlikte ele alınacağı konusunda daha net bir çerçeve sağlayabilir.
