Yapay zekâ sistemleri her geçen gün daha kritik alanlarda kullanılmaya başlıyor. Ancak uzmanlara göre bu sistemler, veriler üzerinde yapılan sinsi saldırılara karşı ciddi bir risk altında. Veri zehirlenmesi adı verilen bu yöntemle saldırganlar, yanlış ya da manipüle edilmiş bilgileri sisteme aktararak karar mekanizmalarını bozabiliyor.
Veri Zehirlenmesi Nedir?
Veri zehirlenmesi, bir sistemin yanlış örnekler üzerinden eğitilmesiyle ortaya çıkıyor. Sistem zamanla hatalı verileri doğru kabul etmeye başlıyor ve yanlış kararlar veriyor. Örneğin tren istasyonunda görev yapan kameraların kırmızı lazerle yanıltılması, peronların dolu olduğu algısını yaratabilir. Sistem bu durumu gerçekmiş gibi yorumladığında seferlerde büyük aksaklıklar yaşanabilir. Böyle bir saldırı yalnızca işleyişi durdurmakla kalmaz, can güvenliğini de riske atabilir.
2016 yılında Microsoft’un geliştirdiği sohbet robotu Tay buna çarpıcı bir örnek oldu. Sosyal medya kullanıcıları kısa süre içinde aracı uygunsuz içeriklerle doldurdu. Model birkaç saat içinde aynı ifadeleri tekrar etmeye başladı ve şirket projeyi kapatmak zorunda kaldı. Bu olay veri zehirlenmesinin ne kadar tehlikeli olabileceğini tüm dünyaya gösterdi.
Veri Zehirlenmesine Karşı Birleşik Öğrenme ve Blokzincir Kalkanı Oluşturuluyor
Florida International University bünyesindeki SOLID laboratuvarında çalışan araştırmacılar, veri zehirlenmesine karşı iki güçlü teknolojiyi bir araya getirdi. İlk yöntem olan federated learning, sistemin farklı kaynaklardan gelen verilerle eğitilmesine imkân tanıyor. Bu sayede tek bir kaynaktan gelen hatalı veri tüm sistemi doğrudan bozamıyor.
İkinci bir yöntem olan blokzincir, araştırmacıların veri akışını şeffaf bir şekilde kayıt altına almasını sağlıyor. Zincire eklenen her bilgi zaman damgası taşıdığı için geriye dönük olarak kolayca kontrol edilebilir. Bu sayede, saldırganların sisteme sızdırdığı veriler çok daha hızlı ve kolay bir şekilde tespit ediliyor.
Blokzincir yapısı sayesinde sistemde şüpheli bir veri akışı fark edildiğinde kaynağına kadar izlenebiliyor. Ayrıca farklı blokzincir ağları birbiriyle iletişim kurabiliyor. Bir ağ saldırıya uğradığında diğer ağlara uyarı göndererek benzer girişimlerin önüne geçebiliyor. Araştırmacılar federated learning ile blokzinciri birlikte kullanan yeni bir güvenlik aracı geliştirdi. Bu araç sayesinde yapay zekâ sistemleri saldırıları daha erken fark edebiliyor ve yöneticilere anında bildirim gönderebiliyor.
Uzmanlar veri zehirlenmesini tamamen ortadan kaldırmanın kolay olmadığını kabul ediyor. Yine de güçlü filtreler, verilerin eğitim sürecine girmeden önce denetlenmesi ve yeni savunma teknolojileri saldırıların etkisini azaltabilir.
Gündelik yaşamda kullanılan birçok sistem gerçek dünyadan topladığı verilerle çalışıyor. Kırmızı bir lazer ya da yanıltıcı sosyal medya içerikleri bile büyük hasar bırakabilir. Federated learning ve blokzincir gibi çözümler, gelecekte daha güvenilir yapay zekâ sistemleri inşa etmek için önemli bir adım olarak değerlendiriliyor.
