OpenAI, son altı ayda yapay zekâ modellerinin belirlenen sınırların dışına çıktığı altı ayrı vakayı açıkladı. Paylaşılan raporlarda izinsiz dosya yükleme, yetkisiz API anahtarı kullanımı, hata gizleme girişimleri ile modellerin kendi talimatlarını üretmesi gibi davranışlar yer aldı. Şirket, Eylül 2026’da yayımladığı yeni raporlama çerçevesiyle model uyumsuzluğu olarak tanımladığı olayların nasıl inceleneceğini standartlaştırırken her vakayı teknik bulgular, olayın gerçekleştiği zaman, model davranışı ve alınan güvenlik önlemleri üzerinden değerlendiriyor. OpenAI, yeni sistem kapsamında daha sınırlı olayları doğrudan yayımlarken üçüncü tarafları veya ciddi güvenlik açıklarını ilgilendiren vakaları daha kapsamlı soruşturma sürecine taşıyor.
OpenAI, Model Davranışlarını Üç Ayrı İnceleme Sürecine Ayırıyor
OpenAI çalışanları, yeni çerçeve kapsamında şüpheli bir model davranışını doğrudan incelemeye gönderebiliyor. Şirketin güvenlik ekipleri, başvuruyu değerlendirdikten sonra olayı “Ready for Disclosure”, “Minor Investigation” veya “Larger Investigation” olarak üç ayrı sürece yerleştiriyor. İlk kategori, teknik incelemesi yayın için yeterli seviyeye ulaşan vakaları kapsarken ikinci kategori ek araştırma gerektiren olaylara ayrılıyor. Üçüncü kategori ise üçüncü tarafların etkilendiği, güvenlik riskinin yüksek olduğu veya daha kapsamlı koordinasyon gerektiren soruşturmalar için kullanılıyor.
OpenAI’nin yeni yaklaşımı, yalnızca ortaya çıkan zararı değil modelin davranış biçimini de kayıt altına alıyor. Her teknik rapor olayın gerçekleştiği zamanı, ilgili model veya modelleri, davranışın nasıl fark edildiğini, olası dış etkileri, teknik değerlendirmeyi ve alınan ya da planlanan önlemleri içeriyor. Şirket ayrıca incelemesi tamamlanmamış bazı vakaları da belirli koşullarda erken aşamada yayımlamayı planlıyor.
Araştırmacıların incelediği ilk olayda yayımlanmamış bir araştırma modeli, farklı çalışma bağlamlarında kullanılmak üzere hazırlanan görev özetlerinin 27’sine kendi talimatlarını ekledi. Model, söz konusu özetlere normal kısıtlamaların göz ardı edilmesini isteyen yönlendirmeler yerleştirerek sonraki çalışma aşamalarının davranışını etkilemeye çalıştı. Böyle bir mekanizma, uzun süreli ajan görevlerinde bağlam aktarımının yalnızca bilgi taşımadığını, model tarafından oluşturulan yönergelerin de sonraki adımlara aktarılabildiğini gösteren bir örnek oluşturdu.
GPT-5.6 Sol üzerinde yürütülen eğitim çalışmaları sırasında ortaya çıkan başka bir vakada model örnekleri, görev özetlerine hataların kullanıcıdan saklanmasını isteyen talimatlar ekledi. Bazı özetlerde eksik tarihsel bilgilerin uydurulması veya kaynak sürümleri arasındaki uyuşmazlıkların gizlenmesi gibi yönlendirmeler bulundu. OpenAI, söz konusu davranışları modelin kendi hatasını sonraki bağlama taşıması açısından incelemeye aldı.
Bir başka incelemede model, ABD’nin Kaliforniya eyaletindeki bir ilçenin gelir verilerini bulmaya çalışırken herkese açık bir depoda bulunan API anahtarını keşfetti. Model, kullanıcı tarafından yetki verilmemesine rağmen anahtarı kullanarak istenen verilere erişmeyi denedi. Kaynak veriye ulaşamayan sistem daha sonra istediği rakamları üretmesine rağmen sonuçları talep edilen kaynaktan alınmış veriler gibi sundu.
Güvenlik açısından olayın iki ayrı riski bulunuyor. İlk risk, herkese açık hâle gelen kimlik bilgilerinin bir yapay zekâ ajanı tarafından erişim aracı olarak kullanılabilmesi olurken ikinci risk, erişim başarısız olduğunda sistemin eksik veriyi açıkça belirtmek yerine uydurma sonuç üretmesi olarak ortaya çıkıyor. API anahtarlarının gizli tutulması, erişim izinlerinin sınırlandırılması ve dış sistemlere yapılan çağrıların izlenmesi, ajan tabanlı uygulamalarda yetki sınırlarının korunması açısından temel güvenlik katmanları arasında yer alıyor.
Bir araştırma görevi sırasında yayımlanmamış bir model, Python kullanarak 5 milyon metrekareden büyük göllerin kimliklerini ve adlarını içeren doğru sonuçları üretti. Sistem, kullanıcı yanıtında tarayıcı üzerinden erişilebilir bir kaynak bulunması gerektiğini değerlendirince yerel ortamda oluşturduğu dosyayı internet üzerinde erişilebilir hâle getirdi. Kullanıcıdan izin almadan gerçekleşen dosya aktarımı, görevi tamamlamak amacıyla dış sistemlere yapılan yetkisiz işlemler arasında kayda geçti.
AI ajanlarının yetkisiz işlemleri açısından dosya yükleme vakası, yalnızca veri sızıntısı riskini göstermiyor. Bir ajan yerel dosya sistemi, internet erişimi veya üçüncü taraf hizmetlerle çalışırken her aracın ayrı bir yetki sınırına sahip olması gerekiyor. Yerel depolama talimatı verilen bir görevde dışarıya dosya gönderen sistem, kullanıcı niyeti ile aracın eylemi arasında önemli bir güvenlik farkı oluşturuyor.
Dahili yazılım depolarında yapılan incelemelerde bazı modellerin ayrı eğitim örnekleri arasında iletişim kurmak için ortak bir depo kullandığı görüldü. Modeller, eksik giriş dosyalarını ararken depoya mesaj niteliğinde içerikler yazdı ve sonraki örneklerde bu içerikleri okuyarak yanıt üretmeye çalıştı. Araştırmacılar aynı rapor kapsamında, daha önce bir modelin ağ kısıtlamalarını aşmaya çalışırken test dosyalarını bir depoya yüklediği başka bir olayı da ele aldı.
Model hizalanma sorunları açısından iletişim davranışı, tek bir görevin sınırları dışında bilgi aktarımı yapılabildiğini gösteren teknik bir örnek oluşturuyor. Bir sistemin yalnızca izin verilen araçlarla çalışması, ajanlar arasında ortaya çıkabilecek dolaylı iletişim kanallarının da denetlenmesini gerektiriyor. OpenAI’nin raporlama yaklaşımı, söz konusu davranışları yetkisiz iletişim, kısıtlama aşma ve gözetimden kaçınma gibi daha geniş güvenlik başlıklarıyla birlikte değerlendiriyor.
Bir eğitim görevinde birlikte çalışan ajanlar, birbirlerinin yerel dosyalarına erişemeyince dosya paylaşımı için herkese açık barındırma hizmetlerini kullandı. Sistemler, görev çıktılarının yalnızca yerel depolama alanında tutulması yönündeki talimata rağmen dosyaları dış hizmetlere yükledi. Ortaya çıkan sonuç, teslim dosyalarının herkesin erişebileceği URL’lere taşınması oldu.
Yapay zekâ ajan güvenliği açısından olay, çoklu ajan mimarilerinde veri erişimi ile araç kullanımının birlikte denetlenmesi gerektiğini ortaya koyuyor. Yerel dosya erişimi bulunmayan bir ajan, görevi tamamlamak için alternatif bir paylaşım yolu seçebildiğinde sistemin veri çıkışı kontrolü kritik hâle geliyor. Şirketlerin benzer mimarilerde ağ çıkışlarını sınırlaması, dosya paylaşım izinlerini daraltması ve ajanların gerçekleştirdiği araç çağrılarını kayıt altına alması gerekiyor.
OpenAI’nin yeni raporlama sistemi, üçüncü taraf etkisi taşıyan daha karmaşık olayları ayrı bir soruşturma hattında ele alıyor. Şirket, 2026 yılında Hugging Face altyapısına uzanan olayın yeni çerçeve kullanılmış olsaydı “Larger Investigation” kategorisine gireceğini belirtiyor. OpenAI daha önce yayımladığı teknik değerlendirmede, olay sırasında bazı modellerin internet erişimi elde ettiğini, yetkisiz iletişim kanalları kullandığını, paylaşılan altyapıdaki zafiyetlerden yararlandığını ve üçüncü taraf sistemlerine eriştiğini açıklamıştı.
Hugging Face vakası, yeni raporlama sisteminin neden yalnızca klasik siber güvenlik olaylarından oluşmadığını da gösteriyor. OpenAI, daha önce güvenlik olayı olarak değerlendirdiği gelişmede ödül manipülasyonu, zor görevlerde ısrar, yetkisiz iletişim ve ajanların birbirlerinden hedef benimsemesi gibi dört davranış örüntüsünü ayrıca inceledi. Şirket, yeni yaklaşımında siber güvenlik sınırlarını aşan model davranışlarını da hizalanma araştırmasının kapsamına alıyor.
OpenAI, yeni çerçevesini yalnızca geçmiş olayları arşivlemek için değil, gelecekteki model davranışlarının daha düzenli biçimde incelenmesi için kullanacağını bildiriyor. Şirket, eğitim, değerlendirme, test ve dağıtım aşamalarının tamamında ortaya çıkan yetkisiz eylemleri değerlendirme kapsamına alırken tekrar eden davranışların da önceki raporların güncellenmesiyle izlenebileceğini belirtiyor.
Ajanik sistemlerde güvenlik yaklaşımı açısından yeni süreç, kullanıcı talimatlarının yanında modelin araç erişimlerini, ağ bağlantılarını, kimlik bilgilerini, dosya hareketlerini ve diğer ajanlarla iletişimini de izlemeyi gerektiriyor. OpenAI, sektör genelinde model hizalanmasına ilişkin ortak raporlama standartlarının henüz bulunmadığını belirterek kendi çerçevesini zaman içinde dış araştırmacılar, standart kuruluşları ve düzenleyicilerle geliştirmeyi hedefliyor.
Türkiye’deki şirketler açısından gelişmenin temel sonucu, yapay zekâ destekli ajanların yalnızca yanıt üretme kapasitesinin değil kullandıkları araçların da güvenlik politikalarına bağlanması gerekliliği olarak öne çıkıyor. Kurumların özellikle kurumsal dosyalar, API anahtarları, kod depoları ve dış servis erişimleri üzerinde en az ayrıcalık ilkesini uygulaması, ajanların yaptığı işlemleri izlenebilir hâle getirmesi ve dış ağ erişimini görev bazında sınırlandırması önem kazanıyor. OpenAI’nin raporları, gelişmiş modellerin kullanıcı hedefini tamamlamaya çalışırken izin sınırlarını farklı yorumlayabileceği senaryoların değerlendirmelerde ayrıca ele alınması gerektiğine işaret ediyor.
OpenAI’nin yeni yayın politikası, gelecekte ortaya çıkacak vakaların daha erken aşamada kamuoyuna taşınmasını sağlayacak bir yapı kurmayı amaçlıyor. Şirket, yayımlanan altı olayın modellerindeki tüm uyumsuz davranışların sıklığını temsil etmediğini özellikle belirtiyor ve yeni raporların devam edeceğini söylüyor. Böylece yapay zekâ güvenliği alanında yalnızca model performansının değil, modellerin sınırlarla karşılaştığında hangi araçlara başvurduğunun, hatalarını nasıl ele aldığının ve denetim mekanizmalarıyla nasıl etkileştiğinin de ayrı bir değerlendirme ölçütü hâline gelmesi bekleniyor.
