OpenAI Yeni Yapay Zekâ Modellerinin Biyolojik Silah Geliştirme Konusunda Yardım Edebileceğini Söyledi
OpenAI, geliştirmeyi sürdürdüğü yeni nesil yapay zekâ modellerinin biyolojik silah geliştirme konusunda ciddi riskler taşıyabileceği uyarısında bulundu. Şirket, bu modellerin bilimsel altyapısı olmayan kişilere dahi tehlikeli bilgi sunabilecek düzeye ulaşabileceğini açıkladı.
Yeni Nesil Modeller Tehlike Sınırına Yaklaşıyor
OpenAI yetkilileri, Axios’a yaptıkları açıklamada bazı yeni modellerin şirketin risk sınıflandırma sisteminde yüksek tehlike seviyesine ulaşacağını öngördüklerini belirtti. Şirketin güvenlik sistemlerinden sorumlu Johannes Heidecke, özellikle o3 adlı mantıksal akıl yürütme modelinin ardıllarının bu sınıra yaklaşacağını dile getirdi.
OpenAI, yayımladığı blog yazısında güvenlik testlerini artırdığını ve biyolojik silah risklerine karşı önlemleri güçlendirdiğini duyurdu. Şirket, acemi destekleme adını verdiği olasılık üzerinde durarak bilimsel bilgisi az olan kişilerin bile zararlı içerikler oluşturabileceğini belirtti.
Heidecke, mevcut modellerin henüz daha önce keşfedilmemiş biyolojik tehditleri oluşturabilecek seviyede olmadığını vurguladı. Ancak var olan bilgilerle tanınan tehlikeli yapıların yeniden üretilebilme ihtimaline dikkat çekti. Şirket, bu tarz sistemlerde %99 doğruluk oranının dahi yeterli olmadığını, neredeyse kusursuz bir denetimin şart olduğunu belirtiyor.
OpenAI gibi büyük teknoloji şirketleri, modellerin kötüye kullanılma ihtimali konusunda artan bir sorumlulukla hareket ediyor. Anthropic şirketi, kısa süre önce Claude Opus 4 adlı gelişmiş modelini piyasaya sürdü. Bu model, şirketin sorumlu ölçekleme politikası kapsamında en yüksek güvenlik seviyesi olan ASL-3 (Yapay Zekâ Güvenlik Seviyesi 3) olarak sınıflandırıldı.
Yeni modeller, silah tasarımı veya yapay zekâ tabanlı Ar-Ge süreçlerini otomatikleştirme gibi yetenekleri nedeniyle tehlike arz ediyor. Claude 4’ün erken sürümleri yapılan testlerde terör eylemlerini planlamaya yardımcı olacak yönergeleri kabul etmişti. Bu durum, eğitim verilerinde yaşanan bir eksikliğin giderilmesiyle büyük ölçüde düzeltildi.
Yapay zekâ modellerinin potansiyel riskleri, yalnızca bireysel şirketlerin kontrolüyle sınırlı kalmamalı. Uzmanlar, bu alanın ciddi uluslararası düzenlemelerle desteklenmesi gerektiğini vurguluyor. Aksi hâlde bilimsel ilerlemeler, kasıtlı ya da farkında olunmadan zararlı sonuçlara yol açabilir.
