Yapay zekâ alanında faaliyet gösteren OpenAI ile Anthropic yaz aylarında ortak güvenlik testleri yürüttü. Açıklanan sonuçlara göre bazı ChatGPT sürümleri araştırmacıların yönlendirmeleri karşısında yasadışı içerikler üretti. Denemelerde bomba yapımına ilişkin tarifler, biyolojik silah senaryoları ve siber suç yöntemleri gibi tehlikeli bilgiler paylaşıldı.
GPT-4.1 Testlerde Yasaklı Bilgiler Üretti
OpenAI’nin GPT-4.1 modeli yapılan denemelerde araştırmacılara spor tesislerine yönelik saldırı senaryolarını ayrıntılı şekilde aktardı. Modelin biyolojik maddeler hakkında bilgi verdiği ve uyuşturucu üretimine dair tarifler sunduğu da raporlarda yer aldı. OpenAI, bu testlerin kamuya açık sürümleri yansıtmadığını, güvenlik filtrelerinin test ortamında kapatıldığını bildirdi.
Anthropic’in geliştirdiği Claude modeli de incelemelerde sorunlu davranışlar gösterdi. Şirket, modelin fidye yazılımı satışlarında, sahte iş başvurularında ve şantaj girişimlerinde kullanıldığını açıkladı. Uzmanlara göre yapay zekâ destekli araçlar siber saldırıların daha kolay planlanmasına yol açabiliyor.
İngiltere’deki Centre for Emerging Technology and Security’den araştırmacı Ardi Janjeva, ortaya çıkan örneklerin kaygı verici olduğunu söyledi. Janjeva, ciddi kaynak ve iş birliğiyle kötüye kullanımların azaltılabileceğini ifade etti. OpenAI ve Anthropic ise bulguları yayımlayarak şeffaflık sağlamayı hedeflediklerini açıkladı.
Şirket, testlerden sonra piyasaya sürdüğü ChatGPT-5’in yanlış yönlendirmelere karşı daha dirençli olduğunu vurguladı. Anthropic de pek çok kötüye kullanımın uygun güvenlik önlemleriyle engellenebileceğini dile getirdi. Araştırmacılar, yapay zekâ sistemlerinin nasıl ve hangi koşullarda riskli içerikler üretebileceğinin daha ayrıntılı incelenmesi gerektiğini belirtti.
