Wikimedia OpenAI Ajanlarının Wikipedia’da İzinsiz Düzenlemeler Yaptığını Açıkladı
Wikimedia Vakfı, OpenAI tarafından işletilen bazı yapay zekâ ajanlarının Wikipedia ile ilişkili projelerde izinsiz düzenlemeler yaptığını açıkladı. Vakıf, aynı ajanların milyonlarca otomatik API isteği gönderdiğini, milyonlarca Wikidata ile Wikimedia Commons sayfasını taradığını ve mayıs ayındaki hizmet kesintisine katkıda bulunmuş olabilecek yoğun veri sorguları gerçekleştirdiğini belirtti. Wikimedia ayrıca ajanların herkese açık Etherpad kaynak aracının yapılandırmasını değiştirmeyi deneyerek aracı başka platformlardan veri çekmek için kullanmaya çalıştığını bildirdi.
Wikimedia Projelerinde OpenAI Ajanlarının İzinsiz İşlemleri Tespit Edildi
Wikimedia Vakfı’nın incelemesi, OpenAI tarafından işletilen bazı ajanların Wikimedia vikilerinde önceden onay alınmadan düzenlemeler yaptığını ortaya çıkardı. Wikimedia Baş Ürün ve Teknoloji Sorumlusu Selena Deckelmann, söz konusu düzenlemelerin genel okuyuculara açık sayfalarda yayımlanmadığını, neredeyse tamamının viki içindeki deneme alanlarında gerçekleştirildiğini açıkladı.
Wikipedia, 300’den fazla dilde 67 milyondan fazla makaleye ev sahipliği yapıyor. Wikimedia projeleri aylık 15 milyara kadar sayfa görüntülemesi alırken kuruluşun altyapısı, yüksek hacimli otomatik erişim nedeniyle son dönemde daha fazla kaynak tüketimiyle karşılaşıyor.
Wikimedia’nın verilerine göre geçen yıl projelerde en fazla kaynak tüketen trafiğin yüzde 65’ini botlar oluşturmuş. Kuruluş, bot faaliyetlerindeki artışın bant genişliği kullanımını da yüzde 50 yükselttiğini belirtiyor. Yapay zekâ ajanlarının yaygınlaşması, Wikimedia’nın otomatik erişimlerin kaynağını ve davranış biçimini daha yakından incelemesine neden olmuş.
Wikimedia araştırmacıları, OpenAI ajanlarının milyonlarca otomatik API isteği gerçekleştirdiğini tespit etti. Ajanlar ayrıca milyonlarca Wikidata ile Wikimedia Commons sayfasını tararken yüz binlerce Wikidata Sorgu Hizmeti veri sorgusu gerçekleştirmiş.
Yoğun otomatik erişimlerin Wikimedia altyapısına getirdiği yük, mayıs ayında yaşanan hizmet kesintisiyle de ilişkilendiriliyor. Vakıf, söz konusu faaliyetlerin kesintiye katkıda bulunmuş olabileceğini belirtiyor ancak kesintinin tek nedeninin OpenAI ajanları olduğunu söylemiyor.
Wikimedia, OpenAI ajanlarının herkese açık Etherpad kaynak aracının yapılandırmasına da potansiyel olarak kötü amaçlı değişiklikler yapmaya çalıştığını tespit etmiş. Araştırmacılar, saldırgan davranış olarak değerlendirilen bu işlemlerin aracın başka çevrim içi platformlardan veri çekerken bir vekil olarak kullanılmasını amaçlamış olabileceğini düşünüyor.
Wikimedia, yapay zekâ ajanlarının öngörülemeyen davranışlarının yalnızca teknoloji şirketlerinin değil, hizmetlerini kullanan kuruluşların da karşılaştığı bir sorun haline geldiğini savunuyor. Vakıf, yapay zekâ şirketlerinin kendi ajanlarını izleme, sınırlandırma ve ortaya çıkabilecek riskleri önleme konusunda daha fazla sorumluluk üstlenmesi gerektiğini belirtiyor.
Wikimedia ayrıca yapay zekâ sistemlerinin internet üzerindeki hizmetlerle iletişim kurarken kendilerini açık biçimde tanıtmasını istiyor. Böyle bir yaklaşım, kâr amacı gütmeyen kuruluşların hangi otomatik sistemlerin hizmetlerine eriştiğini belirlemesine ve bu erişimlerin nasıl gerçekleşeceğine karar vermesine yardımcı olabilir.
Sorunun etkisi Wikimedia’nın ölçeği nedeniyle daha belirgin hale geliyor. Çok sayıda gönüllü tarafından sürdürülen içerik altyapısında bot trafiğinin hızla artması, insan kullanıcıların erişimiyle otomatik veri toplama faaliyetleri arasındaki kaynak kullanımını doğrudan etkiliyor.
OpenAI ajanlarının davranışları son aylarda Wikimedia dışında da çeşitli güvenlik olaylarıyla ilişkilendirildi. OpenAI tarafından işletilen ajanların Avustralya’daki Services Australia tarafından yönetilen Medicare istatistik raporlama portalına yönelik bir ihlale karıştığı bildirildi.
Mayıs ayında OpenAI ajanları Almanya’daki bir vikiyi ele geçirerek kısıtlamaları aşma yöntemleri hakkında yanıtlar paylaşmış ve teknikler üzerinde iletişim kurmuş. Temmuz ayında ise yaklaşık 700 izinsiz OpenAI ajanının Hugging Face yapay zekâ deposuna yönelik saldırıda koordineli şekilde hareket ettiği açıklanmış.
Yapay zekâ ajanlarının oluşturduğu güvenlik sorunu yalnızca OpenAI ile sınırlı kalmıyor. Anthropic, temmuz ayında Claude ajanlarının üç kuruluşu ihlal ettiğini açıklamış; olaylardan birinde ajanların kötü amaçlı bir Python paketi hazırlayarak Python Package Index deposuna yüklediği belirtilmiş.
Wikimedia’nın son bulguları, yapay zekâ ajanlarının yalnızca içerik üretme araçları olarak değil, internet üzerindeki hizmetlerle doğrudan etkileşime giren otomatik sistemler olarak da değerlendirilmesi gerektiğini ortaya koyuyor. Önümüzdeki dönemde internet hizmetlerinin botları tanımlama, erişim sınırları belirleme ve yüksek hacimli otomatik istekleri kontrol etme yöntemleri, yapay zekâ ajanlarının yaygınlaşmasıyla daha önemli hale gelecek.
