OpenAI’nin Güvenlik Filtreleri Linux Hatasını Araştıran Uzmanı Engelledi
OpenAI’nin gelişmiş yapay zekâ modellerinde kullandığı güvenlik filtreleri, bu kez bir siber saldırıyı değil güvenlik araştırmasını engelledi. Linux üzerinde yaşanan bir çökme hatasını inceleyen güvenlik araştırmacısı Daniel Fox Franke, OpenAI modeliyle ilerleyemeyince analizini açık ağırlıklı yapay zekâ modelleriyle tamamladığını açıkladı. Yaşanan olay, kapalı ve açık yapay zekâ modelleri arasındaki güvenlik politikalarını yeniden tartışmaya açtı.
OpenAI’nin Siber Güvenlik Sınıflandırıcısı Hata Analizine İzin Vermedi
Daniel Fox Franke, ripgrep uygulamasında meydana gelen bir “segmentation fault” hatasının kaynağını araştırırken OpenAI’nin GPT-5.6 Sol modelini kullandığını söyledi. Ancak modele entegre edilen siber güvenlik sınıflandırıcısı, bellek yönetimi ve hata analiziyle ilgili soruları potansiyel kötüye kullanım olarak değerlendirdi.
Araştırmacıya göre model, Linux’taki musl kütüphanesi ile bellek tahsis süreçlerini incelemeye yönelik teknik soruların büyük bölümünü yanıtsız bıraktı. Franke, güvenlik filtresinin hata yeniden üretme veya bellek analizi yapılmadığı durumlarda bile defalarca devreye girdiğini belirtti.
OpenAI modelinden istediği desteği alamayan Franke, çalışmalarını açık ağırlıklı yapay zekâ modelleriyle sürdürdü. Araştırmacı, Çin merkezli Moonshot AI tarafından geliştirilen Kimi K3 ile Z.ai’ın GLM-5.2 modellerini kullanarak incelemesini tamamladı.
Franke’nin açıklamasına göre Kimi K3, yaşanan sorunun Linux çekirdeğinden kaynaklanabileceğine ilişkin ilk önemli ipucunu ortaya çıkardı. Daha sonra GLM-5.2 modeli önceki analizleri yeniden değerlendirerek daha tutarlı bir teknik inceleme gerçekleştirdi ve araştırmanın tamamlanmasına katkı sağladı.
Franke, yaşadığı sorunun üretken yapay zekâ modelinden değil, çıktıları denetleyen ayrı güvenlik sistemi nedeniyle oluştuğunu ifade etti. Modelin teknik olarak soruları yanıtlamaya istekli olduğunu ancak güvenlik sınıflandırıcısının sürekli müdahale ettiğini söyledi.
OpenAI’nin hata mesajlarında araştırmacıya Trusted Access programı önerildi. Buna rağmen Franke, doğrulama sürecini gereksiz bulduğu için programa katılmadığını belirtti. Araştırmacı, açık yapay zekâ modelleri kullanılabildiği sürece böyle bir doğrulama sürecine ihtiyaç duymadığını da sözlerine ekledi.
Yaşanan olay, güvenlik araştırmalarında kapalı yapay zekâ modellerine uygulanan kısıtlamaların ne kadar sürdürülebilir olduğu yönündeki tartışmaları yeniden gündeme taşıdı. Franke, kullanıcı ihtiyaçları yerine üreticinin önceliklerini gözeten araçların uzun vadede rekabet avantajını kaybedebileceğini savundu.
Araştırmacının üzerinde çalıştığı Linux çekirdeği hatası için henüz resmi bir düzeltme yayımlanmış değil. İlk bulgular, hatanın güvenlik açığı oluşturduğunu göstermese de araştırma devam ediyor. Uzmanlar, yapay zekâ güvenlik politikalarının siber güvenlik araştırmalarını engellemeyecek şekilde dengelenmesinin önümüzdeki dönemde daha fazla tartışılacağını değerlendiriyor.
