Yapay Zekâ Kaynaklı Sahte Güvenlik Açığı Raporları Sektörde Sorun Yaratıyor
Son yıllarda yapay zekâ kaynaklı düşük kaliteli içerikler interneti kaplamaya başladı. Siber güvenlik alanında da bu durum kendini gösteriyor. Yapay zekâ destekli büyük dil modellerinin ürettiği, gerçekte var olmayan güvenlik açıklarını içeren raporlar, sektörün önemli sorunlarından biri haline geldi.
Sahte Raporlar Teknik Olarak İnandırıcı Görünüyor
RunSybil şirketinin CTO’su Vlad Ionescu, yapay zekâ tarafından oluşturulan raporların teknik açıdan doğru gibi göründüğünü ancak detaylara inildiğinde gerçek güvenlik açığı olmadığını belirtti. Ionescu, yapay zekânın yardım amacıyla istenen raporu oluşturduğunu, bunun ise platformların aşırı rapor yüküyle karşılaşmasına yol açtığını söyledi.
Güvenlik araştırmacısı Harry Sintonen, Curl projesine gelen sahte raporları tespit ettiklerini açıkladı. Open Collective platformundan Benjamin Piouffle, yapay zekâ kaynaklı gereksiz raporların çok fazla olduğunu belirtti. CycloneDX projesinin sorumlusu, gelen yoğun yapay zekâ raporları nedeniyle ödül programını askıya aldı.
HackerOne’ın ürün yönetimi direktörü Michiel Prins, sahte ve gerçek olmayan raporların artış gösterdiğini dile getirdi. Prins, bu tür raporların güvenlik programlarının verimliliğini düşürdüğünü vurguladı. HackerOne, teknik içeriği belirsiz ve düşük kaliteli raporları spam olarak değerlendiriyor.
Bugcrowd’un kurucusu Casey Ellis, yapay zekâ kullanımının rapor yazımında yaygın olduğunu ancak düşük kaliteli raporların ani bir artış göstermediğini belirtti. Ellis, raporların hem manuel hem yapay zekâ destekli yöntemlerle titizlikle incelendiğini açıkladı.
Mozilla, yapay zekâ kaynaklı geçersiz raporların önemli ölçüde artmadığını duyurdu. Şirket, yapay zekâ ile filtreleme yapmanın yanlışlıkla gerçek raporların reddedilme riskini artıracağını belirtti. Microsoft ve Meta konu hakkında açıklama yapmadı. Google ise yorum talebine yanıt vermedi.
