Nvidia Ve Microsoft, Açık Yapay Zekâ Güvenliği İçin Yeni Bir İttifak Kurdu
Yapay zekâ güvenliğine yönelik uluslararası iş birlikleri genişlemeye devam ediyor. Nvidia öncülüğünde Microsoft, Adobe, Palantir, Cisco ve çok sayıda teknoloji şirketi Open Secure AI Alliance adlı yeni girişimi duyurdu. İttifak, açık ağırlıklı yapay zekâ modellerini siber güvenlik alanında daha güvenli ve etkili biçimde kullanmayı amaçlarken OpenAI ile Anthropic’in kurucu üyeler arasında yer almaması dikkat çekti.
Open Secure AI Alliance Savunma Odaklı Yapay Zekâyı Destekleyecek
Nvidia, yeni ittifakın temel hedefinin güvenlik açıklarını daha hızlı tespit eden, doğrulayan ve gideren açık teknolojiler geliştirmek olduğunu açıkladı. Girişim kapsamında üye şirketler yapay zekâ modelleri, model ağırlıkları, veri setleri ile araştırma çıktıları paylaşarak ortak güvenlik araçlarının geliştirilmesine katkı sağlayacak.
İttifak, açık modellerin yalnızca üretken yapay zekâ alanında değil, siber savunma tarafında da kritik rol üstlendiğini savunuyor. Açıklamaya göre güvenlik araştırmacılarının gelişmiş modellere erişebilmesi, yazılım zafiyetlerinin bağımsız biçimde test edilmesini kolaylaştırıyor. Güvenlik uzmanları, daha fazla denetim yapılan sistemlerin uzun vadede daha dayanıklı hâle geldiğini değerlendiriyor.
Nvidia, son dönemde yaşanan Hugging Face olayı gibi örneklerin açık modellerin yasaklanmasını değil, daha güçlü koruma mekanizmalarının oluşturulmasını gerektirdiğini belirtti. Şirket, güvenliğin yalnızca kapalı sistemlerle sağlanamayacağını, açık modellerin de uygun denetim mekanizmalarıyla savunma ekosistemine katkı sağlayabileceğini ifade etti.
Microsoft, ittifaka kısa süre önce tanıttığı MDASH güvenlik platformunu dâhil edeceğini açıkladı. Şirket, yapay zekâ destekli güvenlik açığı analizi konusunda geliştirdiği araçları ortak araştırma çalışmalarında değerlendirmeyi planlıyor. Nvidia ise açık modeller, model ağırlıkları ile yapay zekâ ajanlarına yönelik araştırmalarını girişimin kullanımına sunacağını duyurdu.
Kurucu üyeler arasında Adobe, IBM, Red Hat, Salesforce, SAP, Dell Technologies, HPE, Cloudflare, CrowdStrike, Hugging Face, Synopsys, Siemens, The Linux Foundation, Snowflake, Databricks, NetApp, Palo Alto Networks ile ServiceNow gibi çok sayıda teknoloji şirketi bulunuyor. Bu geniş katılım, yapay zekâ güvenliğinin artık tek bir şirketin değil sektör genelinin ortak çalışma alanına dönüştüğünü gösteriyor.
OpenAI ile Anthropic’in listede yer almaması ise teknoloji dünyasında soru işaretlerine yol açtı. Girişime katılmamalarının nedeni hakkında herhangi bir açıklama yapılmadı. Buna karşın OpenAI’ın eski teknoloji yöneticisi Mira Murati tarafından kurulan Thinking Machines Lab’in kurucu üyeler arasında bulunması dikkat çeken ayrıntılar arasında yer aldı.
Küresel ölçekte yapay zekâ düzenlemeleri hız kazanırken güvenlik alanındaki iş birliklerinin de artması bekleniyor. Open Secure AI Alliance, açık yapay zekâ modellerinin risk oluşturan sistemler yerine savunma araçları olarak değerlendirilmesi gerektiğini savunuyor. İttifakın geliştireceği ortak standartlar, gelecekte hem kurumsal güvenlik çözümlerini hem de yapay zekâ ekosistemindeki uluslararası düzenlemeleri etkileyebilecek girişimler arasında görülüyor.
