Yapay zekâ, geliştiricilerin kod yazma hızını artırırken aynı zamanda daha fazla hata üreterek yazılım güvenliğini tehdit ediyor. Yapılan çalışmalar yapay zekâ destekli kodlarda insan geliştiricilerinkine kıyasla daha fazla hata bulunduğunu gösterdi. Bu durum, yazılım dünyasında yapay zekânın yaygınlaşmasıyla birlikte artan endişeleri destekleyen en yeni veri olarak öne çıkıyor.
Araştırma Yapay Zekâ Kaynaklı Kod Hatalarını Ortaya Koyuyor
Kod inceleme platformu CodeRabbit tarafından yapılan araştırma, yapay zekâ kullanılan yazılım projelerinde hata oranlarının yükseldiğini gösteriyor. Araştırmacılar, GitHub üzerinde yer alan 470 açık kaynaklı kod talebini inceledi. İnceleme, 320 talebin yapay zekâ katkısı içerdiğini ortaya koydu. Araştırma ekibi, yalnızca insan geliştiriciler tarafından hazırlanan 150 talebi de karşılaştırma için değerlendirdi.
Araştırma sonuçları, yapay zekâ destekli kodlarda hata sayısının insan yazımı kodlara kıyasla 1.7 kat daha fazla olduğunu gösterdi. CodeRabbit Yapay Zekâ Direktörü David Loker, bulguların geliştiricilerin uzun süredir hissettiği bir durumu doğruladığını ifade etti.
Araştırma, yapay zekâ kullanılan kod taleplerinde ortalama 10.83 sorun tespit edildiğini ortaya koydu. İnsan geliştiricilerin hazırladığı kodlarda ise ortalama sorun sayısı 6.45 seviyesinde kaldı. CodeRabbit ekibi, yapay zekâ kaynaklı kodlarda kritik ve büyük ölçekli hataların daha sık görüldüğünü belirtti.
Loker, özellikle yüksek hata sayısına sahip kod taleplerinin inceleme ekipleri üzerinde ciddi bir yük oluşturduğunu vurguladı. Araştırma, mantık hataları ile iş kurallarına aykırı kodların yapay zekâ destekli projelerde daha yaygın olduğunu gösterdi.
Araştırma, güvenlik alanındaki sorunların da dikkat çekici düzeyde arttığını ortaya koydu. CodeRabbit verileri, güvenlik hatalarının yapay zekâ ile üretilen kodlarda insan yazımı kodlara göre 2.74 kat daha fazla görüldüğünü gösterdi. Yanlış parola yönetimi ile güvensiz nesne erişimleri en sık karşılaşılan problemler arasında yer aldı. Araştırma ekibi, yapay zekânın bazı kodlarda hata kontrolü ve güvenlik önlemlerini atladığını belirtti. Bu eksiklikler, gerçek sistemlerde kesintilere ve veri sızıntılarına yol açabilecek riskler taşıyor.
Araştırma, yapay zekâ tarafından üretilen kodların tutarlı bir görünüme sahip olduğunu ancak yerel yazım standartlarına uymadığını gösterdi. Uzmanlar, adlandırma kuralları ile yapı düzeninin ekip alışkanlıklarından sapmasının inceleme süreçlerini zorlaştırdığını ifade ediyor. CodeRabbit ekibi, bağlam eksikliğinin bu sorunların temel nedenlerinden biri olduğunu belirtiyor. Yapay zekâ sistemleri, çoğu zaman genel varsayımlar üzerinden kod üretiyor. Bu durum, şirket içi mimari kurallarla çelişen sonuçlar doğurabiliyor.
Araştırma, yapay zekânın tamamen dışlanması gerektiği anlamına gelmiyor. Uzmanlar, geliştiricilerin yapay zekâ araçlarına iş kuralları ile güvenlik rehberleri tanımlamasını öneriyor. İnceleme ekiplerinin de bu tür kodlar için özel kontrol listeleri kullanması tavsiye ediliyor.
Uzman görüşleri, yapay zekâ destekli yazılım geliştirmenin insan geliştiricilerin yerini almadığını ortaya koyuyor. Sektör temsilcileri, doğru denetim ve rehberlik ile yapay zekânın yazılım süreçlerine değer katabileceğini ifade ediyor.
