MIT, Harvard ve Chicago Üniversitesi’nden araştırmacılar, büyük dil modellerinde sıkça karşılaşılan yeni bir zayıflık türünü ortaya çıkardı. “Potemkin anlama” olarak adlandırılan bu durum, modellerin testlerde başarılı olsa da kavramları derinlemesine kavrayamadığını gösteriyor.
Potemkin Anlama Kavramı Ne Anlama Geliyor?
Araştırmacılar, bu durumu 18. yüzyılda kurmaca köylerle yaratılan sahte izlenimlere atıfla “Potemkin anlama” olarak tanımladı. Büyük dil modelleri, belirli kavramları doğru biçimde açıklayabiliyor ancak bu bilgiyi doğru şekilde uygulamakta zorlanıyor. Örneğin GPT-4o modeli, ABAB kafiye şemasını doğru tarif etse de bir şiir örneğinde uygun kafiyeyi oluşturamıyor. Bu durum, modelin yüzeysel ezber yeteneğini ortaya koyuyor.
“Potemkin anlama”, yapay zekâ alanında daha önce tanımlanan halüsinasyondan farklı bir sorun yaratıyor. Hallüsinasyon, yanlış ya da uydurma bilgi üretimini ifade ederken, Potemkin anlama kavramsal tutarlılık yanılsaması oluşturuyor. Araştırmacılar bu durumu, “Halüsinasyon nasıl yanlış bilgi üretimiyse, Potemkin de yanlış kavramsal bütünlük yaratır” sözleriyle özetliyor.
Araştırmaya göre, büyük dil modelleri testlerde yüksek başarı oranı gösterebiliyor. Ancak bu başarı, kavramların gerçekten anlaşıldığı anlamına gelmiyor. Harvard Üniversitesi’nden araştırmacı Keyon Vafa, bu durumun testlerin geçerliliğini zedelediğini belirtti.
Araştırmacılar, klasik değerlendirme yöntemlerinin ötesine geçerek kendi testlerini hazırladı. Llama 3.3, GPT-4o, Claude 3.5, Gemini 2.0 gibi modellerin kavramsal becerileri farklı açılardan test edildi. Modeller, tanımlama sorularında yüzde 94 başarı sağladı. Ancak aynı kavramı örnekleme ya da düzenleme görevlerinde başarı oranı ortalama yüzde 60’ın altında kaldı. Bu da modellerin kavramları yüzeysel düzeyde ezberlediğini ortaya koydu.
Araştırmacılar, modellerin “Potemkin anlama” davranışını göstermemesi için ya daha gelişmiş testlerin geliştirilmesi ya da bu davranışın doğrudan modellenmesinin önüne geçilmesi gerektiğini savunuyor. Bu tür adımlar, yapay genel zekâya ulaşma yolunda önemli bir eşik olabilir.
