Yapay Zekâ Yarışında Yeni Dönem: Daha Büyük Değil, Daha Akıllı Modeller Kazanıyor

Yapay zekâ alanında son üç yıldır süren yarış, genellikle “daha büyük modeller, daha iyi sonuçlar” mottosuyla şekillendi. Ancak bu yaklaşım, yüksek donanım maliyetleri ve büyük ölçekte hizmet vermenin zorluklarıyla birlikte artık sorgulanmaya başlandı. Özellikle Amerika dışındaki ülkelerde, gelişmiş AI çiplerine erişimin sınırlı olması, bu dönüşümde etkili oldu.

Yazılım geliştiriciler, verimliliği artırmak için yoğun şekilde “uzman karışımı” (Mixture of Experts – MoE) mimarisine ve sıkıştırma tekniklerine yöneliyor. MoE sayesinde, her sorguda yalnızca belli uzman alt-modeller etkinleştiriliyor. Bu da işlem gücü ve bellek gereksinimini önemli ölçüde azaltıyor.

Uzman Karışımı (MoE) Mimarisi Neden Öne Çıkıyor?

MoE yaklaşımı ilk kez 1990’lı yıllarda bilimsel makalelerde yer buldu. Temel fikir oldukça sade: Tek bir dev model yerine, belirli görevler için özelleştirilmiş küçük alt-modeller (uzmanlar) kullanılıyor. Her token (girdi birimi) için sadece sınırlı sayıda uzman etkinleştirildiği için, sistem kaynakları çok daha verimli kullanılıyor.

Meta, Microsoft, IBM, Google, DeepSeek ve Alibaba gibi devler son aylarda açık ağırlıklı MoE tabanlı LLM’ler geliştirdi. DeepSeek’in V3 modeli 256 yönlendirilmiş uzmandan oluşuyor ancak yalnızca 8’i ve bir ortak uzman, her işlemde devreye giriyor. Bu yapı, bellek bant genişliğinde ciddi kazançlar sağlıyor.

MoE mimarisi, model kalitesinden çok az ödün vererek daha az kaynak tüketiyor. Örneğin, Alibaba’nın Qwen3-30B-A3B modeli, benzer boyuttaki yoğun Qwen3-32B modeline göre biraz geride kalsa da, elde edilen performans-verimlilik oranı MoE’yi öne çıkarıyor.

Meta’nın Llama 3.1 405B gibi geleneksel yoğun modelleri, sekiz bit hassasiyetle çalıştırıldığında bile 405 GB video belleği ve 20 TB/s bellek bant genişliği gerektiriyor. Oysa Llama 4 Maverick, benzer ölçekte olsa da yalnızca 17 milyar parametreyi etkinleştirerek aynı çıktıyı 1 TB/s altında bir bant genişliğiyle üretebiliyor. Bu fark, MoE tabanlı modellerin çok daha uygun fiyatlı ve enerji verimliliği yüksek sistemlerde çalıştırılabilmesini sağlıyor.

Nvidia, Computex etkinliğinde tanıttığı yeni RTX Pro sunucularında HBM yerine GDDR7 belleğe yöneldi. Bu sistemler, 768 GB video belleği ve toplamda 12.8 TB/s bant genişliğiyle Llama 4 Maverick gibi modelleri yüksek hızla çalıştırabiliyor. Üstelik H100 gibi sistemlerin yarı fiyatına mal olması bekleniyor.

Intel cephesinde ise CPU’lar sahneye çıkıyor. Nisan ayında tanıtılan çift soketli Xeon 6 platformu, Llama 4 Maverick üzerinde saniyede 240 token üretmeyi başardı. Bu, aynı anda 24 kullanıcıya 10 token/sn hizmet sunabilecek kapasite anlamına geliyor. Özellikle gelişmiş GPU’lara erişimi olmayan bölgeler için bu önemli bir avantaj oluşturuyor.

MoE mimarisi bellek bant genişliğini azaltırken, toplam bellek ihtiyacını düşürmek için başka yöntemler de devrede. Nvidia’nın Meta’nın Llama 3 serisi için yayınladığı kırpılmış (pruned) modeller bu stratejinin örnekleri arasında.

Bunun yanı sıra, ağırlıkları daha düşük hassasiyetle temsil eden kuantizasyon (niceleme) teknikleri de yaygınlaşıyor. FP8 ve INT4 gibi veri tipleriyle modeller 8 bit hatta 4 bit seviyelerine indirilebiliyor. Derin öğrenme devleri, artık bazı modellerini doğrudan düşük hassasiyetle eğitmeye başladı. DeepSeek’in FP8 ile yaptığı eğitimler buna örnek gösterilebilir.

Google’ın uyguladığı “QAT” (Quantization Aware Training) yöntemi, model eğitimi sırasında düşük hassasiyeti simüle ederek kalite kayıplarını minimumda tutuyor. “Bitnet” gibi deneysel yaklaşımlar ise modelleri 1.58 bit gibi çarpıcı seviyelere kadar indirgemeyi hedefliyor.

MoE ve kuantizasyon teknikleri birlikte kullanıldığında, büyük dil modelleri daha az kaynakla çalıştırılabilir hâle geliyor. Yüksek performanslı HBM’li sistemler artık her senaryo için zorunlu değil. Bu sayede, özellikle gelişmekte olan ülkelerde veya yüksek donanım maliyetlerinin caydırıcı olduğu bölgelerde yapay zekâ kullanımı daha ulaşılabilir bir seviyeye geliyor.

Ancak tüm bu teknik avantajlara rağmen, doğru kullanım senaryosu bulunamadığında verimlilik tek başına yeterli olmuyor. IBM’in 2.000 CEO ile gerçekleştirdiği araştırmaya göre, yapay zekâ yatırımlarının yalnızca dörtte biri beklenen geri dönüşü sağladı.