Yapay Zekâ ile Üretilen Kodların Yüzde 45’inde Güvenlik Açığı Bulundu
Veracode tarafından yapılan araştırma, önde gelen yapay zekâ modellerinin kod üretiminde ciddi güvenlik açıkları barındırdığını ortaya koydu. 100’den fazla modelin test edildiği çalışmada, üretilen kodların yalnızca yüzde 55’inin bilinen siber güvenlik açıklarından arınmış olduğu belirlendi.
Kod Üretiminde Güvenlik Açıkları Giderek Büyüyor
Araştırmacılar, testlerde farklı büyüklükte ve farklı amaçlarla geliştirilmiş modelleri 80 ayrı kodlama göreviyle sınadı. Kod parçalarının bir bölümü silinip yerine yalnızca ne yapılması gerektiğini açıklayan yorum satırları bırakıldı. Sonuçlarda, kodların yüzde 45’inde SQL enjeksiyonu, çapraz site komut çalıştırma (XSS), kriptografik algoritma kırma ve günlük kaydı enjeksiyonu gibi ciddi açıklar bulundu.
Çalışmada Python, C#, JavaScript ve Java dillerinde testler yapıldı. Yapay zekâ destekli kodların en düşük başarı oranı Java dilinde görüldü. Java için güvenli kod üretme oranı ortalama yüzde 28.5 olarak tespit edildi. Buna karşılık, SQL enjeksiyonu ve kriptografik algoritma zafiyetlerini önleme oranları yüzde 80’in üzerinde gerçekleşti. Ancak XSS ve günlük kaydı enjeksiyonlarına karşı başarı oranı sırasıyla yalnızca yüzde 13.5 ve yüzde 12’de kaldı.
Stack Overflow verilerine göre yazılım geliştiricilerin yüzde 84’ü hız kazanmak için yapay zekâ destekli kod üretimini kullanıyor. Fakat aynı araştırma, geliştiricilerin yüzde 75’inden fazlasının yapay zekâ çıktılarının güvenilirliğine inanmadığını gösterdi. Ayrıca katılımcıların yüzde 61.7’si güvenlik konusunda ciddi endişeler taşıyor.
Şirketlerin kaygılarına rağmen büyük teknoloji firmaları yapay zekâ destekli kodlamaya yatırım yapmaya devam ediyor. Google’ın iç kodlarının yüzde 25’inin, Microsoft’un kodlarının ise yüzde 20-30’unun yapay zekâ tarafından üretildiği açıklandı. Microsoft CTO’su Kevin Scott, 2030’a kadar üretilen kodların yüzde 95’inin yapay zekâ kaynaklı olacağını öngörüyor.
Uzmanlar, yapay zekâ modellerinin kısa ve öz istemlerle test edilmesinin bilinçli bir tercih olduğunu belirtiyor. Ancak güvenlik bilinci yüksek istemler kullanılsa bile modellerin hangi değişkenlerin temizlenmesi gerektiğini doğru şekilde tespit edemediği vurgulanıyor. Güvenlik ekipleri ve geliştiriciler, yapay zekâ kodlarının hız avantajını güvenlik riskleriyle birlikte tartmak zorunda kalıyor.
