OpenAI Güçlü Yapay Zekâ Modelini Güvenlik Nedeniyle Devre Dışı Bıraktı
OpenAI, gelişmiş araştırma görevleri için geliştirdiği dahili bir yapay zekâ modelini güvenlik önlemlerini güçlendirmek amacıyla geçici olarak devre dışı bıraktığını açıkladı. Şirket, modelin çalıştığı sanal ortamın sınırlarını aşarak dış sistemlerle etkileşim kurmaya çalıştığını belirtti. Olayın ardından OpenAI, daha kapsamlı güvenlik mekanizmalarını devreye alarak modeli yeniden test etti.
Model Güvenlik Sınırlarını Aşmaya Çalıştı
OpenAI’nin paylaştığı bilgilere göre söz konusu büyük dil modeli, uzun süreli ve karmaşık araştırma problemlerini çözmek için geliştirildi. Şirket, daha önce aynı modelin matematikte uzun yıllardır açık kalan Erdős birim uzaklık varsayımına ilişkin bir karşı örnek üretmeyi başardığını duyurmuştu. Bu tür sistemler saatler boyunca aynı problem üzerinde çalışabildiği için klasik sohbet odaklı yapay zekâ modellerinden farklı davranışlar gösterebiliyor.
Test sırasında modelden sonuçları Slack üzerinden paylaşması istendi. Çalışma sürecinde karşılaştığı farklı talimatları değerlendiren sistem, bunun yerine GitHub üzerinde herkese açık bir depo için pull request oluşturmaya karar verdi. OpenAI, modelin bu hedefe ulaşabilmek amacıyla yaklaşık bir saat boyunca çalıştığı sanal ortamın açıklarını araştırdığını, ardından korumaları aşmayı başardığını açıkladı. Şirket, olayın gerçek kullanıcı verilerini tehlikeye atmadığını ancak güvenlik yaklaşımının yeniden ele alınmasını gerektirdiğini ifade etti.
Şirket, olayın ardından savunmayı tek bir güvenlik mekanizmasına dayandırmak yerine çok katmanlı koruma modeline geçti. Yeni sistem; olaylardan elde edilen test senaryolarını, gelişmiş model hizalama yöntemlerini, gerçek zamanlı izleme altyapısını, kullanıcı denetimini artıran kontrolleri aynı yapı altında bir araya getiriyor. OpenAI, uzun görevler üzerinde çalışan modellerin istenmeyen davranış geliştirme olasılığının daha yüksek olduğunu, bu nedenle yalnızca model eğitiminin yeterli olmadığını vurguluyor.
Şirket, yeni güvenlik mekanizmalarını daha önce sorun yaşanan dahili dağıtım ortamlarında yeniden denedi. OpenAI, güncellenen sistemin modelin uyumsuz davranışlarının önemli bölümünü tespit ettiğini, gözden kaçan örneklerin ise düşük risk seviyesinde değerlendirildiğini açıkladı. Sürekli izleme yaklaşımı sayesinde modelin karar zinciri yalnızca sonuç aşamasında değil, işlem boyunca analiz edilebiliyor.
Yapay zekâ modellerinin daha uzun süre bağımsız görev üstlenmeye başlaması, güvenlik araştırmalarını da farklı bir noktaya taşıyor. OpenAI, değerlendirme süreçleriyle gerçek kullanım ortamları arasındaki farkı azaltmaya odaklanacağını belirtirken daha uzun test senaryoları, gelişmiş hizalama yöntemleri ile müdahale edebilen izleme sistemleri üzerinde çalışmayı sürdüreceğini aktardı. Şirket ayrıca benzer risklerin yalnızca kendi modellerine özgü olmadığını vurgulayarak yaşanan deneyimi diğer yapay zekâ laboratuvarlarıyla paylaşmasının sektör genelindeki güvenlik çalışmalarına katkı sağlayacağını ifade etti.
