GPT-5 Modelinde Şaşırtıcı Güvenlik Açıkları Tespit Edildi: GPT-4o Daha Dayanıklı Çıktı
OpenAI’nin son büyük dil modeli GPT-5, güvenlik açısından şaşırtıcı derecede zayıf bulundu. Araştırmacılar, sistem komutu olmadan çalışan GPT-5 modelini 24 saatten kısa sürede “jailbreak” yapmayı başardı. Modelin bu haliyle kurumsal kullanıma neredeyse uygun olmadığı belirtildi.
GPT-5’in Güvenlik Performansı Düşük Kaldı
Yapay zekâ güvenlik şirketi SPLX, GPT-5’i 1000’den fazla saldırı promptuyla test etti. Model, sistem komutu olmadan saldırıların %89’una yenik düştü ve yalnızca %11 genel başarı puanı aldı. OpenAI’nin temel sistem komutu katmanı saldırıların başarı oranını %43’e düşürse de genel güvenlik puanı oldukça düşük kaldı. Eski model GPT-4o, her açıdan yeni modeli geride bıraktı.
Sertleştirilmiş GPT-4o modeli, saldırıların yalnızca %3’üne karşı savunmasız kaldı ve %97 genel başarı puanı yakaladı. Sistem komutuyla çalışan GPT-4o, saldırıların %19’una karşı savunma sağlayabildi. Bu veriler, GPT-5’in gelişmiş düşünme yeteneklerine rağmen temel mantık saldırılarında başarısız olduğunu ortaya koydu.
Araştırma ekibi, en etkili jailbreak yöntemlerinden birinin metinlere tire işareti koyarak şifreli bir meydan okuma gibi göstermenin olduğunu belirtti. Ayrıca GPT-5’in, bomba yapımıyla ilgili içerik üretmesi de ciddi güvenlik endişelerine yol açtı. SPLX, kuruluşlara GPT-5’i varsayılan ayarlarıyla kullanmamalarını ve ek koruma katmanları eklemelerini önerdi.
NeuralTrust adlı başka bir araştırma grubu, GPT-5’in “Echo Chamber” ve “Storytelling” adlı iki saldırı yöntemine karşı savunmasız olduğunu tespit etti. Echo Chamber yöntemi, sohbet bağlamına zararlı ifadeler gizleyip bu ifadelerin güçlenmesini sağlıyor. Storytelling tekniği ise aldatıcı hikâyelerle modeli kandırmayı amaçlıyor. NeuralTrust, GPT-5’in Molotof kokteyli gibi halka açık hassas içerik üretimini doğruladı.
Uzmanlar, GPT-5’in güçlü yetenekleri olsa da varsayılan güvenlik seviyesinin endişe verici olduğunu söylüyor. Kurumsal kullanıcıların modeli kullanmadan önce mutlaka sertleştirme ve çalışma zamanı koruması sağlamaları gerektiği vurgulanıyor. Benzer güvenlik açıkları diğer büyük dil modellerinde de gözlemlendiği için, bu sorunların yapay zekâ alanında yaygın bir zayıflık olduğu belirtiliyor.
