Microsoft Windows ML’yi Geliştiriyor: Yerel Yapay Zekâda GGUF Ve ONNX Desteği Genişliyor

Microsoft, Windows 11 üzerinde yerel yapay zekâ uygulamalarının geliştirilmesini kolaylaştırmak için Windows ML altyapısına GGUF ve ONNX desteği, yeni API’ler ile açık kaynak topluluklarına yönelik yeni katkılar ekliyor. Şirket, llama.cpp entegrasyonu sayesinde Hugging Face üzerinden alınan GGUF modellerinin Windows bilgisayarlarda yerel olarak çalıştırılmasına yönelik deneysel desteği genişletirken NVIDIA ile performans optimizasyonları üzerinde de çalışıyor. Microsoft, Windows ML Runtime API’yi yerel çıkarım için yeni temel katman olarak konumlandırırken mevcut ONNX Runtime API’lerinin desteğini sürdürecek.

Windows ML Yerel Model Çalıştırmayı Daha Erişilebilir Hale Getiriyor

Windows ML, geliştiricilerin donanım üreticisine özel optimizasyonlarla ayrı ayrı uğraşmadan Windows 11 için yerel yapay zekâ uygulamaları geliştirmesine yönelik birleşik bir çıkarım altyapısı sunuyor. Microsoft, son güncellemelerle birlikte farklı model formatlarının aynı çalışma ortamında kullanılmasını kolaylaştırarak Windows üzerindeki yerel yapay zekâ ekosistemini genişletiyor.

Microsoft’un llama.cpp topluluğuyla yürüttüğü çalışma, açık kaynak modellerin Windows üzerinde kullanılmasında önemli bir adım oluşturuyor. Geliştiriciler deneysel entegrasyon üzerinden Hugging Face’ten bir GGUF modeli aktararak modeli Windows bilgisayarda yerel olarak çalıştırabiliyor.

GGUF modeli desteği, özellikle llama.cpp ekosistemindeki açık kaynak yapay zekâ modellerini Windows ortamına taşımak isteyen geliştiricilere daha doğrudan bir çalışma yolu sunuyor. Microsoft ayrıca NVIDIA ile birlikte llama.cpp projesine katkı verirken çıkarım performansını artırmaya yönelik optimizasyonlar üzerinde çalışıyor.

Microsoft, Windows ML içerisinde ONNX ile GGUF modellerini çalıştırabilen deneysel bir Windows-native çıkarım yolu da sunuyor. Windows ML Runtime API olarak adlandırılan yeni katman, Text Generation API ile Speech Recognition API gibi geliştirici arayüzlerini aynı altyapı üzerinde topluyor.

Windows ML Runtime API, Windows ile daha derin entegrasyon, performans optimizasyonları ve daha ayrıntılı kontrol seçenekleri üzerine kuruluyor. Geliştiriciler böylece model çıkarım süreçlerini Windows’un yerel çalışma ortamıyla daha yakından ilişkilendiren bir yapı kullanabiliyor.

ONNX Runtime API’leri ise yeni altyapının gelişiyle birlikte kaldırılmıyor. Microsoft, mevcut API’lerin desteğini sürdüreceğini belirtirken geliştiricilere alışık oldukları çalışma ortamıyla devam etme seçeneği sunuyor. Windows’a özel optimizasyonların ilerleyen dönemde Windows ML Runtime API’ye taşınması planlanıyor.

Windows ML’nin yeni yaklaşımı, farklı model formatlarını tek bir yerel yapay zekâ geliştirme ortamında buluşturmayı hedefliyor. Geliştiriciler GGUF tabanlı açık kaynak modelleri llama.cpp üzerinden kullanabilirken ONNX modelleri için mevcut ekosistemi kullanmaya devam edebiliyor.

Microsoft’un sunduğu yapı, donanım özelliklerine göre ayrı optimizasyonlar geliştirme ihtiyacını azaltmaya odaklanıyor. Windows ML, uygulamaların farklı Windows sistemlerinde yerel çıkarım gerçekleştirmesi için ortak bir çalışma katmanı oluştururken performans iyileştirmelerini altyapı seviyesinde ele alıyor.

Yerel yapay zekâ çıkarımı, verilerin sürekli olarak bulut servislerine gönderilmesini gerektirmeyen uygulamalar açısından da önem taşıyor. Windows üzerinde model çalıştırma seçeneklerinin genişlemesi, geliştiricilerin uygulama tasarımında yerel ve bulut tabanlı yapay zekâ arasında daha fazla seçenek kullanmasına zemin hazırlıyor.

Microsoft, Windows ML çalışmalarını yalnızca model çıkarım altyapısıyla sınırlamıyor. Şirket PyTorch projesine katkı verirken Windows Arm64 CPU için yerel paketlerin sunulmasına destek sağlıyor.

NVIDIA ise CUDA destekli Windows Arm64 paketlerinin geliştirilmesinde rol üstleniyor. Böylece Windows on Arm cihazlarında yapay zekâ geliştirme süreçlerinin daha geniş bir donanım ve yazılım altyapısına kavuşması hedefleniyor.

Triton tarafında ise triton.jit, torch.compile ve özel GPU çekirdekleri desteklenen Windows GPU’larında kullanılabiliyor. Bu gelişme, yapay zekâ modellerinin çalışma performansını GPU seviyesinde optimize etmek isteyen geliştiriciler için Windows ortamındaki araç setini genişletiyor.

Microsoft, Windows ML’nin gelecekteki gelişimini açık kaynak toplulukları ile donanım ortaklarıyla yürütülen çalışmalara bağlamaya devam ediyor. Şirketin planları arasında yerel paketlerin genişletilmesi, daha fazla çekirdek desteği, performans iyileştirmeleri ve Windows on Arm uyumluluğunun artırılması bulunuyor.

Windows ML’nin gelişimi, Windows 11’i yalnızca yapay zekâ uygulamalarının çalıştığı bir işletim sistemi olmaktan çıkarıp yerel model çıkarımının daha doğrudan desteklendiği bir geliştirme ortamına dönüştürme stratejisinin parçası olarak ilerliyor. Microsoft’un llama.cpp, PyTorch, Triton ve NVIDIA gibi farklı ekosistemlerle yaptığı çalışmalar, yerel yapay zekâ uygulamalarında tek bir model formatına veya donanım mimarisine bağlı kalmayan daha geniş bir Windows altyapısının oluşmasına katkı sağlayabilir.