Amazon, PyTorch Kodlarını Nvidia Donanımına Bağımlı Olmadan Çalıştırmayı Hedefliyor
Amazon, yapay zekâ çiplerinin kullanımını kolaylaştırmak amacıyla geliştirdiği TorchNeuron yazılımını tanıtmaya hazırlanıyor. Annapurna Labs tarafından geliştirilen araç, PyTorch ile yazılan kodların Amazon Trainium çiplerinde yeniden yazılmadan çalıştırılmasını hedefliyor. Amazon’un ücretsiz ve açık kaynaklı olarak yayınlamayı planladığı çözüm, yapay zekâ altyapısında Nvidia CUDA ekosisteminin oluşturduğu avantajı azaltma girişimlerinden biri olarak öne çıkıyor.
TorchNeuron, Amazon Trainium Çiplerinde PyTorch Kodlarını Çalıştıracak
Amazon’un yeni yazılımı TorchNeuron, geliştiricilerin PyTorch tabanlı uygulamalarını Trainium hızlandırıcılarına taşırken karşılaştığı teknik engelleri azaltmayı amaçlıyor. Annapurna Labs’ın açıklamasına göre geliştiriciler, kodlarını baştan yazmak yerine tek bir yapılandırma değişikliğiyle uygulamalarını Amazon’un kendi yapay zekâ çiplerinde çalıştırabilecek.
PyTorch, Meta tarafından desteklenen açık kaynaklı bir makine öğrenimi çerçevesi olarak yapay zekâ geliştirme süreçlerinde yaygın biçimde kullanılıyor. Nvidia ise CUDA platformuna uzun yıllardır yatırım yaparak PyTorch uygulamalarının kendi grafik işlemcilerinde verimli çalışmasını sağlayan geniş bir yazılım ekosistemi oluşturdu.
Amazon PyTorch desteği sayesinde geliştiricilerin mevcut iş akışlarını koruyarak alternatif donanımları değerlendirmesini istiyor. Şirketin yaklaşımı, farklı bir çip mimarisine geçiş sırasında ortaya çıkan kod uyarlama ihtiyacını azaltarak Trainium ürünlerinin benimsenmesini hızlandırmayı amaçlıyor.
Nvidia’nın yapay zekâ hesaplama pazarındaki güçlü konumu yalnızca donanım performansına dayanmıyor. CUDA, geliştiricilerin modellerini eğitmesine, uygulamalarını optimize etmesine ve Nvidia GPU’larından yararlanmasına yardımcı olan kapsamlı bir yazılım altyapısı sunuyor. Geliştiricilerin yıllar içinde oluşturduğu araçlar ile iş akışları da alternatif platformlara geçişi zorlaştıran unsurlar arasında bulunuyor.
TorchNeuron, Amazon’un bu yazılım bağımlılığını azaltmaya yönelik hamlelerinden biri olarak değerlendirilebilir. Şirket, PyTorch uygulamalarının Trainium üzerinde çalıştırılmasını kolaylaştırarak müşterilerin mevcut projelerini farklı donanımlara taşıma maliyetini düşürmeyi hedefliyor. Böylece yapay zekâ çipleri arasındaki rekabet, donanım özelliklerinin yanı sıra yazılım uyumluluğu ve geliştirici deneyimi üzerinden de şekilleniyor.
Google gibi kendi yapay zekâ çiplerini geliştiren diğer bulut sağlayıcıları da Nvidia karşısında geliştiricileri çekmek için PyTorch desteğini iyileştirmeye çalışıyor. Bu rekabet, bulut tabanlı yapay zekâ altyapılarında yazılım araçlarının stratejik önemini artırıyor.
Annapurna Labs yazılım biriminden sorumlu başkan yardımcısı Colin Brace, TorchNeuron’un geliştiricilerin Amazon çiplerini denemek için atması gereken adımları azaltmayı amaçladığını belirtmiş. Brace, Reuters’a verdiği röportajda şirketin yaklaşımını müşterilerin mevcut çalışma biçimlerine uyum sağlama hedefiyle açıklamış.
Brace’in paylaştığı bilgilere göre robotik, dünya modelleri ve sesli yapay zekâ alanlarında çalışan 30’dan fazla erken dönem müşterisi yeni yazılımı kullanmaya başlamış. Amazon temsilcisi, Trainium çiplerine geçişin bazı iş yüklerinde önemli maliyet tasarrufları sağlayabileceğini de ifade etmiş. Ancak açıklamada bu tasarrufların oranına veya farklı donanımlarla yapılan karşılaştırmalı performans ölçümlerine ilişkin ayrıntılı rakamlar paylaşılmamış.
TorchNeuron’un ücretsiz ve açık kaynaklı olarak yayınlanması, geliştiricilerin aracı incelemesine ve kendi projelerinde değerlendirmesine olanak tanıyacak. Yazılımın gerçek kullanım alanlarında sağlayacağı performans, desteklenen iş yükleri ve üretim ortamlarındaki kararlılığı ise Amazon’un Nvidia karşısındaki rekabet gücünü belirleyecek temel ölçütler arasında yer alacak.
Amazon, Trainium ailesiyle yapay zekâ eğitimi ve çıkarım işlemlerinde kendi donanımını daha fazla kullandırmayı hedefliyor. Bulut hizmetleri üzerinden sunulan özel çipler, şirketin altyapı maliyetlerini yönetmesi kadar müşterilere Nvidia dışındaki seçenekleri sunması açısından da önem taşıyor.
TorchNeuron’un geliştiriciler tarafından benimsenmesi, alternatif yapay zekâ hızlandırıcılarının kullanımını kolaylaştırabilir. Bununla birlikte, tek bir yapılandırma değişikliğiyle geçiş yapılabilmesi her uygulamanın aynı performansı göstereceği anlamına gelmiyor. Model mimarisi, kullanılan operatörler, optimizasyonlar ve iş yükünün özellikleri sonuçları etkileyebilir.
Amazon’un yeni aracı, yapay zekâ donanımı pazarındaki rekabetin yazılım katmanına daha fazla taşındığını gösteriyor. Geliştiricilerin mevcut kodlarını koruyarak farklı çipleri deneyebilmesi, bulut altyapısı seçimlerinde maliyet ve esneklik ölçütlerinin ağırlığını artırabilir.
