OpenAI Yapay Zekâ Güvenliği İçin Promptfoo Şirketini Bünyesine Katıyor
OpenAI, yapay zekâ sistemlerinde güvenlik testi yapan Promptfoo’yu bünyesine kattı. Şirket bu adımla yapay zekâ modellerinin güvenlik değerlendirme altyapısını güçlendirmeyi hedefliyor.
ChatGPT’nin geliştiricisi OpenAI, yapay zekâ güvenliği alanındaki çalışmalarını genişletmek için yeni bir satın alma gerçekleştirdi. Şirket, yapay zekâ sistemlerinde güvenlik testi ve değerlendirme araçları geliştiren Promptfoo’yu bünyesine kattığını duyurdu. OpenAI bu satın almayla özellikle ajansal yapay zekâ sistemlerinin güvenlik testlerini daha güçlü hale getirmeyi hedefliyor.
Promptfoo Araçları Yapay Zekâ Sistemlerindeki Güvenlik Açıklarını Tespit Ediyor
OpenAI yaptığı açıklamada Promptfoo’nun geliştirdiği teknolojilerin şirketin Frontier güvenlik araştırmaları kapsamında önemli bir rol oynayacağını belirtti. OpenAI, Promptfoo araçlarının ajansal yapay zekâ sistemlerinin güvenlik testleri ve değerlendirme süreçlerini güçlendireceğini ifade etti.
Promptfoo ekibi Ian Webster ve Michael D’Angelo liderliğinde geliştirilen kapsamlı bir araç seti oluşturdu. Bu araç seti yapay zekâ modellerinin geliştirme sürecinde ortaya çıkabilecek güvenlik açıklarını tespit etmeye yardımcı oluyor. Sistem ayrıca tespit edilen güvenlik sorunlarının hızlı biçimde düzeltilmesini sağlayan test ve analiz araçları sunuyor.
Promptfoo tarafından geliştirilen platformun Fortune 500 şirketlerinin yüzde 25’inden fazlası tarafından kullanıldığı belirtiliyor. Bu durum platformun kurumsal yapay zekâ güvenliği alanında önemli bir yer edindiğini gösteriyor.
OpenAI satın alma sonrasında Promptfoo teknolojisinin mevcut lisansı altında açık kaynak olarak kalacağını açıkladı. Şirket mevcut kullanıcıların platformu kullanmaya devam edebileceğini belirtti. Promptfoo ekibi mevcut müşterilere hizmet ve teknik destek sağlamayı sürdürecek. OpenAI bu yaklaşım sayesinde hem açık kaynak topluluğunu desteklemeyi hem de kendi güvenlik altyapısını güçlendirmeyi hedefliyor.
OpenAI son dönemde yapay zekâ altyapısını genişletmek amacıyla farklı şirketleri bünyesine katmaya devam ediyor. Şirket daha önce sağlık teknolojisi alanında çalışan Torch girişimini satın aldığını da duyurmuştu.
OpenAI’nin Torch için yaklaşık 100 milyon dolar ödediği aktarılıyor. Torch tarafından geliştirilen sistem laboratuvar sonuçlarını, ilaç verilerini ve muayene kayıtlarını tek bir platformda bir araya getiriyor. OpenAI bu teknolojiyi doğrudan ChatGPT Health sistemiyle entegre etmeyi planlıyor. Uzmanlar Promptfoo satın almasının OpenAI’nin yapay zekâ güvenliği alanında daha güçlü bir test altyapısı oluşturma stratejisinin parçası olduğunu değerlendiriyor.
