ChatGPT Dünyayı Sonsuza Dek Değiştirdi mi? Yapay Zekâda Veri Kirliliği Tartışması Derinleşiyor
Yapay zekâ araştırmacıları, ChatGPT’nin 30 Kasım 2022’deki lansmanını atom çağının başlangıcına benzetiyor. Tıpkı 1945’teki Trinity nükleer denemesiyle dünyanın geri dönülemez şekilde kirlenmesi gibi, bazı uzmanlara göre ChatGPT’nin piyasaya sürülmesi de yapay zekâ için benzer bir eşik oluşturdu. Bu tarih sonrası üretilen verilerin kirlenmiş olduğu düşünülüyor.
Veri Kaynağı Kirliliği, Yeni Bir Yapay Zekâ Krizi Mi Yaratıyor?
Yapay zekâ modellerinin giderek daha fazla kendi ürettiği verilerle eğitildiği yönündeki endişeler artıyor. Bu durum, model çöküşü veya daha teknik adıyla Model Autophagy Disorder (MAD) olarak tanımlanıyor. Teoride bu sorun, yapay zekâ modellerinin kendi hatalarını kopyalayarak çoğaltmasına ve sonuç olarak daha az güvenilir hâle gelmesine neden olabilir.
Bazı araştırmacılar, bu süreci nükleer çağdaki “düşük arka planlı çelik” meselesiyle karşılaştırıyor. 1945 sonrası üretilen çelikler radyasyonla kirlenmişti. Bu yüzden bilim insanları, radyasyondan arınmış “temiz” çelik elde etmek için I. Dünya Savaşı dönemine ait gemileri batıkları kullanmak zorunda kaldı. Aynı şekilde, temiz yapay zekâ verisi de 2022 öncesine ait içerik olarak değerlendiriliyor.
Veri Üzerindeki Tekel Tehlikesi Gündemde
Cambridge Üniversitesi’nde kıdemli araştırmacı olan Maurice Chiodo ve meslektaşları, yapay zekâ modellerinin giderek artan şekilde yapay içeriklerle eğitilmesinin, yeni oyuncuların sektöre girmesini zorlaştıracağını savunuyor. Çünkü büyük modelleri eğitebilmek için ihtiyaç duyulan insan üretimi temiz veri kaynakları, artık daha kıymetli hâle geliyor.
Araştırmacılar, bu sorunun sadece doğruluk değil, aynı zamanda rekabet açısından da riskli olduğunu belirtiyor. Az sayıda büyük şirketin ellerindeki temiz veriyle pazarı domine etmesi, yapay zekâ alanında ciddi bir tekelleşmeye neden olabilir.
Apple’ın yakın zamanda yaptığı bir araştırmada, bazı büyük dil modellerinin karmaşık görevlerde başarısız olduğu iddia edildi. Ancak bu çalışma, Open Philanthropy’den Alex Lawsen tarafından eleştirildi. Lawsen, Apple’ın modelleri kapasitelerinin ötesinde çalıştırdığını ve test metodolojisinin hatalı olduğunu savundu.
Bu tartışmalar, model çöküşünün gerçek bir kriz olup olmadığı sorusunu gündeme taşıdı. Akademisyenler arasında bu konuda tam bir görüş birliği yok. Ancak birçok uzman, güvenilirliği koruyabilmek için “yapay verilerle kirlenmemiş” kaynaklara erişimin kritik olduğunu düşünüyor.
Araştırmacılar, yapay içeriklerin etiketlenmesi gibi çözümleri gündeme getiriyor. Ancak metinlerde bunu yapmak teknik olarak zor. Görsellerde veya videolarda ise farklı ülkelerin yasal çerçeveleri bu etiketleme sürecini karmaşıklaştırıyor.
Bir diğer öneri ise federatif öğrenme. Bu yöntemde, veri sahipleri veriyi paylaşmadan üçüncü taraflara model eğitimi için izin veriyor. Bu sayede hem veri korunuyor hem de sektördeki rekabet dengesi sağlanabiliyor.
Avrupa Birliği AI Act ile bu alanda yasal düzenleme yoluna giderken, ABD ve Birleşik Krallık daha temkinli adımlar atıyor. Ancak uzmanlar, tıpkı dijital platformların kontrolsüz büyümesinde olduğu gibi, yapay zekâda da geç kalınırsa geri dönüşün çok daha maliyetli olacağı uyarısında bulunuyor.
Chiodo, yapay zekâda veri kirlenmesinin geri döndürülmesi neredeyse imkânsız bir süreç olabileceğini söylüyor. Eğer bu tehlike gerçekleşirse, temiz veri kaynaklarını yeniden oluşturmak çok pahalıya mal olabilir veya tamamen imkânsız hâle gelebilir.
