Amazon Web Services (AWS) yapay zekâ eğitim çiplerinde uzun süredir sürdürdüğü geliştirme çalışmalarını ileri bir aşamaya taşıdı. Şirket Trainium3 adını verdiği yeni nesil çipini tanıtarak yapay zekâ altyapısında rekabeti yeniden şekillendiren bir adım attı.
Trainium3 UltraServer Performans Artışına Odaklandı
AWS, yapay zeka eğitim ve çıkarım iş yükleri için tasarlanan Trainium3 UltraServer sistemini tanıttı. Üç nanometre üretim sürecinde geliştirilen sistem Trainium3 çipleri sayesinde AWS’nin kendi yüksek performanslı ağ teknolojisiyle entegre bir şekilde çalışıyor.
AWS’ye göre, Trainium3 UltraServer, önceki nesil Trainium2’ye kıyasla dörde katlana kadar performans artışı sağlıyor. Bu önemli ilerleme, yalnızca model eğitimi süreçlerini hızlandırmakla kalmıyor, aynı zamanda gerçek zamanlı çıkarım gibi yoğun ve dinamik iş yüklerinde de yüksek hızı ve verimliliği sürdürüyor. Böylece, farklı ölçeklerdeki şirketler, daha büyük ve karmaşık modelleri, daha düşük maliyet ve enerji tüketimiyle geliştirme ve dağıtma imkanı elde ediyor.
AWS, üçüncü nesil Trainium3 çiplerini temel alan UltraServer sistemlerinde enerji verimliliğini de önemli ölçüde artırdı. Şirketin açıkladığı verilere göre, yeni sistem önceki nesle kıyasla yaklaşık %40 daha az güç tüketiyor. Veri merkezlerinin enerji talebinin hızla arttığı mevcut ortamda, bu iyileştirme işletmeler için hem çevresel hem de operasyonel maliyetlerde belirgin bir avantaja dönüşüyor.
AWS, binlerce UltraServer’ı yüksek bant genişlikli, düşük gecikmeli özel ağ yapısıyla birleştirerek 1 milyon Trainium3 çipine kadar ölçeklenebilen tek tip altyapılar kurabildiğini açıkladı. Bu rakam, ikinci nesil kapasitenin on kat üzerinde bir ölçek anlamına geliyor. Her bir UltraServer birimi, 144 adet Trainium3 çipi barındırıyor.
Şirket, üçüncü nesil çipin performansını farklı sektörlerden seçkin iş ortaklarıyla test etti. Anthropic, Karakuri, SplashMusic ve Decart gibi şirketler, Trainium3 tabanlı sistemlerde çıkarım (inference) maliyetlerini önemli ölçüde düşürdüklerini bildirdi. Bu durum, yapay zeka modellerini geniş ölçekte üretim ortamında konuşlandırmak isteyen kuruluşlara ciddi bir ekonomik üstünlük sağlıyor.
AWS ayrıca gelecekte sunmayı planladığı Trainium4 çipinin teknik yol haritasını ilk kez kamuoyuyla paylaştı. Şirket, bu yeni nesil işlemcinin, yapay zeka iş yüklerinde performans sınırlarını yeniden tanımlayacağını öngörüyor. En dikkat çekici teknik detay ise Trainium4’ün, Nvidia’nın NVLink Fusion bağlantı teknolojisini destekleyecek olması.
Bu gelişme, Trainium4’ün Nvidia GPU’larıyla doğrudan uyumlu hale gelmesi anlamına geliyor ve AWS altyapısına gerçek anlamda heterojen (hibrit) bir mimari kazandıracak. Bu uyumluluk, Amazon’un kendi geliştirdiği, maliyet açısından verimli raf (rack) çözümlerini, Nvidia tabanlı mevcut kurulumlarla entegre etme imkanı sunacak.
CUDA ekosisteminin yapay zeka sektöründe fiili standart olması, AWS için büyük önem taşıyor. Trainium4 destekli sistemlerin, CUDA ile çalışan geniş ölçekli yapay zeka uygulamalarını sorunsuz bir şekilde AWS bulutuna taşıma potansiyeli bulunuyor. Şirket, Trainium4 için resmi bir lansman takvimi açıklamadı. Ancak, önceki ürün yaşam döngüleri dikkate alındığında, yeni detayların önümüzdeki yıl düzenlenmesi beklenen etkinliklerde paylaşılması mümkün görünüyor.
