Microsoft Başkanı Brad Smith, Yapay Zekânın Sütten Daha Az Denetlendiğini Söyledi

Microsoft Başkanı Brad Smith, yapay zekâ teknolojilerinin güvenlik denetimlerinin süt gibi günlük tüketim ürünlerine uygulanan kuralların gerisinde kaldığını belirterek uluslararası düzenleme çağrısında bulundu. Smith, BBC’ye verdiği röportajda bağımsız değerlendirme kuruluşlarının gelişmiş yapay zekâ sistemlerini incelemesini, güvenlik ihlallerinin bildirilmesini ve şirketlerin olay raporları hazırlamasını sağlayacak küresel standartlar önerdi. İngiltere’nin mevcut yapay zekâ güvenliği altyapısı sayesinde uluslararası düzenlemelere öncülük edebileceğini savunan Smith, mevcut yaklaşımın yetersiz kalması halinde daha kapsamlı kuralların gündeme alınması gerektiğini ifade etti.

Microsoft, Yapay Zekâ İçin Bağımsız Güvenlik Denetimi İstiyor

Brad Smith, gelişmiş yapay zekâ sistemlerinin hızla yaygınlaşmasına rağmen güvenlik yükümlülüklerinin diğer ürünlerdeki kadar kapsamlı olmadığını söyledi. Smith, çamaşır makinelerinin bile belirli güvenlik kurallarına tabi olduğunu, marketlerde satılan sütlerin ise denetim ve inceleme süreçlerinden geçtiğini hatırlattı. Microsoft yöneticisi, benzer bir yaklaşımın yapay zekâ teknolojilerine de uyarlanması gerektiğini savundu.

Smith’in önerisi, yalnızca sistemlerin geliştirilme aşamasında test edilmesini kapsamıyor. Şirketlerin yapay zekâ kaynaklı güvenlik olaylarını takip etmesi, ortaya çıkan riskleri değerlendirmesi ve ilgili taraflara bilgi vermesi de önerilen çerçevenin parçaları arasında bulunuyor.

Microsoft başkanı, küresel ölçekte uygulanacak güvenlik kurallarının bazı temel yükümlülükler içermesi gerektiğini belirtti. Smith’in açıklamalarında öne çıkan öneriler şöyle sıralanıyor:

• Bağımsız değerlendirme kuruluşlarının yeni yapay zekâ sistemlerini güvenlik ve risk açısından incelemesi.
• Kontrolden çıkan bir yapay zekâ ajanının sistem ihlaline neden olması halinde mağdur tarafın bilgilendirilmesi.
• Tehlikeli davranışlar ortaya çıktığında sistemin durdurulmasını sağlayacak bir acil durdurma mekanizmasının bulunması.
• Şirketlerin yaşanan güvenlik olaylarına ilişkin resmî rapor hazırlamasının yasal zorunluluk haline getirilmesi.

Smith’e göre mevcut ürün güvenliği uygulamalarından yararlanmak, yapay zekâ alanındaki düzenleme çalışmalarına sağlam bir başlangıç noktası sunabilir. Önerilerin uygulanması ise ülkelerin ortak standartlar geliştirmesine bağlı olacak.

Yapay zekâ ajanlarının istenmeyen davranışları, teknoloji sektöründeki güvenlik tartışmalarının önemli başlıklarından biri haline geldi. Anthropic ve OpenAI gibi şirketler, yapay zekâ ajanlarında gözlenen kontrol dışı veya istenmeyen davranışlara ilişkin bazı bulguları kamuoyuyla paylaşmaya başladı. Araştırmacılar ise sistemlerin yetenekleri arttıkça ortaya çıkabilecek riskler konusunda uyarılarda bulunuyor.

Güvenlik tartışmaları, yalnızca mevcut yazılımların hatalı yanıt vermesiyle sınırlı kalmıyor. Daha geniş yetkilere sahip ajanların dijital sistemlerde işlem yapması, kurumsal kaynaklara erişmesi veya otomatik kararlar alması, olası ihlallerin etkisini artırabiliyor. Smith’in mağdurların bilgilendirilmesi ve acil durdurma mekanizması kurulması yönündeki önerileri, bu tür risklerin yönetilmesine odaklanıyor.

Bazı teknoloji şirketleri, gelişmiş yapay zekâ modellerinin geliştirilme hızının düşürülmesini de savunuyor. Ancak sektördeki bu yaklaşım, düzenlemelerin şirketlerin ticari çıkarlarını korumak amacıyla şekillendirilebileceği yönündeki tartışmaları beraberinde getiriyor. Eleştiriler arasında rakiplerin pazara girişini zorlaştırma, daha kapsamlı devlet müdahalelerini önceden sınırlama veya yüksek geliştirme harcamalarını yavaşlatma ihtimalleri yer alıyor.

Smith, uluslararası yapay zekâ güvenliği kurallarına öncülük edebilecek ülkeler arasında İngiltere’yi gösterdi. Eski başbakan Rishi Sunak döneminde kurulan Yapay Zekâ Güvenliği Enstitüsü, gelişmiş modellerin güvenlik değerlendirmelerinde rol üstleniyor. Enstitü, büyük yapay zekâ modellerini geliştiren şirketlerle yapılan gönüllü anlaşmalar kapsamında sistemlere kullanıma sunulmadan önce erişerek yeteneklerini ve risklerini inceleyebiliyor.

Smith, Washington’daki yetkililerin Londra’ya yaklaşımının Brüksel’e yönelik değerlendirmelerinden farklı olduğunu da belirtti. Avrupa Birliği, Yapay Zekâ Yasası kapsamında sistemleri taşıdıkları risk seviyesine göre düzenleyen daha kapsamlı bir yasal çerçeve uyguluyor. İngiltere’nin yaklaşımı ise gönüllü iş birlikleri ve güvenlik değerlendirmeleri üzerinden ilerliyor.

İngiltere Yapay Zekâ Bakanı Kanishka Narayan da mevcut sistemin yeterli olmadığının anlaşılması halinde gelişmiş modeller için düzenleme seçeneklerinin değerlendirilebileceğini belirtti. Dolayısıyla İngiltere’deki yaklaşımın geleceği, mevcut güvenlik uygulamalarının ortaya koyacağı sonuçlarla yakından ilişkili olacak.