Microsoft Research bünyesinde 14 yılı aşkın süre çalışan, AI Frontiers laboratuvarının kurucu isimlerinden John Langford şirketten ayrıldığını açıkladı. Langford, Mustafa Suleyman yönetimindeki Microsoft AI biriminin araştırma çalışmalarından çok daha büyük yapay zekâ modelleri geliştirmeye ve ölçeklendirmeye odaklandığını savundu. Araştırmacının ayrılığı, yapay zekâ eğitim ve çıkarım maliyetlerini önemli ölçüde azaltabileceğini düşündüğü Full Bandwidth Transformer çalışmasının şirket içinde yeterince değerlendirilmediği yönündeki eleştirileriyle gündeme geldi.
John Langford, Microsoft AI’ın Araştırma Yaklaşımını Eleştirdi
John Langford, Microsoft Research bünyesine Mayıs 2012’de katıldı ve şirketin New York laboratuvarının kurucu araştırmacıları arasında yer aldı. Yahoo! Research ile IBM’deki çalışmalarının ardından Microsoft’ta Partner Research Manager görevine kadar yükselen Langford, makine öğrenimi alanında tanınan araştırmacılardan biri haline geldi.
Langford, açık kaynaklı makine öğrenimi sistemi Vowpal Wabbit’in başlıca geliştiricisi olarak biliniyor. Araştırmacı ayrıca uygulamaların ve internet sitelerinin kullanıcılara hangi içerikleri göstereceğini kişiselleştirmede kullanılan contextual bandits kavramını ortaya atan isimlerden biri oldu. Langford, 2019-2021 yılları arasında makine öğrenimi alanının önemli akademik konferanslarından ICML’in başkanlığını da yürüttü.
ChatGPT’nin 2022 sonunda geniş kitlelere ulaşmasının ardından Langford ve bazı Microsoft Research çalışma arkadaşları, 2023 yılında AI Frontiers laboratuvarını kurdu. Ekip, yapay zekâ alanındaki rekabette tek bir araştırmacının özgün fikrinin yeterli olmayacağını düşünerek daha organize araştırma ekipleri oluşturmayı hedefledi. Laboratuvarın çalışmaları arasında yapay zekâ ajanları, AutoGen çerçevesi ve bilgisayar kullanımına yönelik Fara-7B modeli yer aldı.
Microsoft, Mart 2024’te Inflection AI kurucu ortakları Mustafa Suleyman ile Karén Simonyan’ı bünyesine katarak Microsoft AI birimini oluşturdu. Suleyman liderliğindeki ekip, Copilot ve tüketici odaklı yapay zekâ ürünlerinin geliştirilmesinden sorumlu hale geldi. Microsoft, Eylül 2026’nın başında AI Frontiers laboratuvarını da bu birime dahil etti.
Langford, blog yazısında birleşmenin teorik açıdan anlamlı olabileceğini kabul etti ancak Microsoft AI yönetiminin araştırma anlayışıyla kendi ekibinin yaklaşımının uyuşmadığını belirtti. Araştırmacı, birimin temel felsefesini büyük modelleri ölçeklendirmeye dayalı, araştırmaya ise belirgin biçimde mesafeli bir yaklaşım olarak tanımladı.
Langford’a göre daha büyük modeller, ticari şirketler açısından daha iyi tahmin sonuçları ve daha öngörülebilir yatırım getirileri sağlayabiliyor. Ancak yalnızca ölçeklendirmeye odaklanan bir organizasyon, kaynaklarının büyük bölümünü veri ve model büyüklüğüne ayırıyor. Araştırmacı, ekibinin Microsoft AI bünyesinde istenmediğine dair güçlü işaretler gördüğünü de ifade etti.
Microsoft, Langford’un eleştirilerine ilişkin kamuoyuna yönelik bir yanıt vermedi. Şirketin 14 Eylül’de güncellediği AI Frontiers sayfasında laboratuvarın artık Microsoft AI bünyesinde bulunduğu ve ileri düzey araştırmalarını sürdürdüğü belirtiliyor. Microsoft AI, Build 2026 etkinliğinde yedi yeni MAI modeli tanıtırken bir süper zekâ araştırma laboratuvarı kurma çalışmalarından da söz etmişti.
Langford’un şirket içindeki araştırma çalışmalarının yeterince değerlendirilmediğine yönelik eleştirilerinin merkezinde Full Bandwidth Transformer mimarisi bulunuyor. Ağustos ayında Langford ve yedi araştırmacı tarafından yayınlanan çalışmada, geleneksel dil modellerinin bilgi işleme yöntemine alternatif bir yaklaşım sunuluyor.
Standart transformer mimarileri, her işlem adımında elde edilen ara durumu tek bir token üzerinden sonraki aşamaya aktarıyor. Full Bandwidth Transformer ise modelin önceki adımlarda oluşturduğu gizli durumu bir sonraki token ile birlikte yeniden kullanıyor. Böylece model, önceki hesaplamalardan elde ettiği bilgiyi daha geniş biçimde koruyabiliyor.
Araştırmacıların makaledeki deneylerinde, 1 milyar parametreli modeller 400 milyar tokene kadar veriyle eğitildi. Bu modeller, yaklaşık 1,5 kat daha fazla veriyle eğitilen standart transformer modellerine benzer veya yakın sonuçlar verdi. Çalışmada, token başına ek hesaplama maliyetinin de ihmal edilebilir düzeyde kaldığı belirtildi.
ByteDance bünyesindeki Seed ekibi, 25 Ekim’de benzer bir yaklaşım kullanan Recycler araştırmasını yayınladı. Çalışmada gizli durumların yeniden kullanılmasıyla daha küçük modellerin özellikle akıl yürütme ve matematik görevlerinde iki ila üç kat daha büyük modelleri geçebildiği gösterildi. Langford, sosyal medya paylaşımında Recycler mimarisinin küçük farklılıklar dışında Full Bandwidth Transformer ile aynı yaklaşımı kullandığını savundu. Araştırmacı ayrıca ByteDance’in deneylerinin daha büyük ölçekli ve kapsamlı olduğunu belirtti.
Langford, kendi mimarisinin bazı sürümlerinin iki kat büyüklüğündeki modellerle karşılaştırılabilir performans sunabileceğini düşünüyor. Araştırmacıya göre böyle bir yaklaşımın başarılı olması, yapay zekâ sektörünün eğitim ve çıkarım maliyetlerinde önemli tasarruf sağlayabilir. Langford, sektörün yaklaşık trilyon dolara yaklaşan yatırımları göz önüne alındığında maliyetleri yarıya indirebilecek teknolojilerin değerinin sorgulanması gerektiğini savunuyor.
Ancak maliyetlerin yarıya düşeceği iddiası, araştırmacının kendi değerlendirmesine dayanıyor. Daha küçük bir modelin belirli kıyaslama testlerinde büyük bir modelle benzer sonuçlar vermesi, toplam eğitim ve kullanım maliyetlerinin otomatik olarak yarıya ineceği anlamına gelmiyor. Langford da Microsoft AI’ın makaleyi resmen reddettiğini söylemiyor; araştırmacı, yeniliğin şirket içinde uygulamaya alınması veya ciddi biçimde değerlendirilmesi için bir yol bulamadığını ifade ediyor.
Langford, ekibindeki çalışanları uygun pozisyonlara yerleştirmeye çalıştıktan sonra şirketten ayrılma kararı aldığını belirtti. Araştırmacı, Microsoft Research’e geri dönmemesinin iki temel nedeni bulunduğunu açıkladı. İlk neden, geliştirdiği araştırmaların gerçek ürünlerde kullanılabileceği bir yolun bulunmaması. Langford, Microsoft AI bünyesinde fikirlerinin değerlendirilmediği bir ortamdan ayrıldıktan sonra aynı şirketin araştırma biriminde daha iyi koşullar bulacağına inanmadığını ifade etti.
İkinci neden ise Microsoft Research’ün araştırmacılara sunduğu çalışma anlayışının bozulduğunu düşünmesi. Langford, iyi araştırmalar yapıldığında bunun olumlu sonuçlar doğuracağına dayanan kurum kültürünün kendi ekibinin yeniden yapılanma sürecinde dağıtılmasıyla zedelendiğini savundu. Araştırmacı, Microsoft Research yönetiminin değişen rekabet koşullarına uygun bir organizasyon kurmadığı sürece benzer sorunların devam edebileceğini öne sürdü.
Langford, AI Frontiers laboratuvarının artık sona erdiğini ve grubun gelecek yıl stajyer kabul etmeyeceğini de açıkladı. Araştırmacının X üzerinden yaptığı paylaşım, kısa sürede 330 binden fazla görüntülenmeye ulaştı.
Langford’un ayrılığı, Microsoft’un yapay zekâ yatırımlarını büyüttüğü ve organizasyon yapısını değiştirdiği bir dönemde gerçekleşti. Şirket, yaklaşık 60 bin çalışanına işten ayrılma teklifi sunarken Satya Nadella, 20 milyon yapay zekâ ajanının iş süreçlerinde görev alacağı bir gelecekten söz ediyor. Microsoft ayrıca beklentileri karşılamayan bazı Windows 11 Copilot özelliklerini geri çekmeye başladı.
Microsoft’un büyük veri merkezleri ve altyapı yatırımları, daha büyük yapay zekâ modellerini eğitme stratejisini destekliyor. Ancak artan hesaplama ihtiyacı, donanım kaynakları üzerindeki baskıyı da artırıyor. Langford’un araştırması gibi daha verimli mimariler, model büyüklüğünü sürekli artırmadan performansı geliştirme arayışında önem taşıyor.
Araştırmacı, Microsoft’un gelecekte yeniden araştırma odaklı çalışmalar için cazip bir kurum haline gelebileceğine tamamen kapıyı kapatmıyor. Langford’a göre bunun gerçekleşmesi, şirketin karar verici yöneticilerinin araştırma çalışmalarına daha fazla değer vermesine bağlı. ByteDance’in benzer bir yaklaşımı daha büyük ölçekte test etmesi ise Microsoft’un değerlendirmediği araştırmaların rakip şirketler tarafından ürüne dönüştürülebileceği tartışmasını güçlendiriyor.
