VMware, Nvidia’nın “AI Factory” Yaklaşımını AMD Donanımıyla Yeniden Yorumladı
Yapay zekâ altyapısında Nvidia merkezli “AI Factory” yaklaşımı yaygınlaşırken VMware, aynı kavramı AMD Instinct GPU’larıyla çalışan yeni bir kurumsal altyapı modeli için kullanmaya başladı. Broadcom bünyesindeki VMware, VMware AI Factory adıyla duyurduğu çözümde donanım tedarikinden yazılım kurulumuna, yaşam döngüsü yönetiminden yapay zekâ iş yüklerinin dağıtımına kadar birçok süreci otomatikleştirmeyi hedefliyor. Şirketin Nvidia ile uzun yıllara dayanan iş ortaklığını sürdürmesine rağmen AMD ROCm ekosistemini desteklemesi, kurumsal yapay zekâ altyapısında üretici bağımlılığını azaltmaya yönelik daha geniş bir stratejiye işaret ediyor.
VMware AI Factory, Yapay Zekâ Altyapısını Merkezi Yönetim Altında Topluyor
VMware Explore etkinliğinde tanıtılan VMware AI Factory, şirketlerin yapay zekâ iş yükleri için kullandığı sunucuları merkezi bir altyapı üzerinden yönetmesine odaklanıyor. Sistem, donanımın hazırlanması, gerekli yazılım bileşenlerinin kurulması ile altyapının yaşam döngüsünün yönetilmesini otomatikleştirirken kurumların farklı ekipleri için ayrı ayrı yapay zekâ sistemleri kurma ihtiyacını azaltmayı amaçlıyor. VMware Cloud Foundation (VCF) altyapısını temel alan çözüm Cisco, Dell Technologies, Lenovo ile Supermicro sunucularında çalışabiliyor.
Kurumsal yapay zekâ altyapısı açısından merkezi kaynak havuzu yaklaşımı, özellikle yüksek maliyetli GPU sistemlerinin daha verimli kullanılmasına yardımcı olabiliyor. Bir şirket farklı departmanların ihtiyaçları için ayrı GPU kümeleri satın almak yerine ortak bir hesaplama havuzu oluşturduğunda kapasite kullanımını artırabiliyor. VMware AI Factory ayrıca bir yapay zekâ modelinin tek kez dağıtılarak farklı kullanıcılar, kiracılar veya şirket birimleri tarafından güvenli biçimde kullanılmasına yönelik özellikler sunuyor.
VMware’in yeni platformu, yapay zekâ iş yüklerinin yalnızca şirket içindeki sunucularda çalıştırılmasına bağlı kalmıyor. Sistem, şirket içi altyapı ile bulut kaynaklarını birlikte değerlendirerek belirli bir görevin nerede çalıştırılacağına karar verilmesine yardımcı oluyor. Kurumlar böylece yüksek maliyetli bulut GPU kullanımını azaltırken daha küçük veya belirli bir göreve odaklanan modelleri tercih ederek yapay zekâ harcamalarını kontrol altında tutabiliyor.
AMD Instinct GPU’ları, VMware AI Factory’nin Nvidia dışındaki temel hızlandırıcı seçeneklerinden biri olarak öne çıkıyor. Broadcom’un VMware bölümü, AMD ile yaptığı iş birliği kapsamında platformu AMD’nin ROCm yazılım ekosistemiyle çalışacak şekilde hazırlıyor. ROCm, geliştiricilerin AMD GPU’ları üzerinde yapay zekâ ve yüksek başarımlı hesaplama iş yüklerini çalıştırmasını sağlayan açık yazılım platformu olarak konumlanıyor.
AMD desteği, kurumların yapay zekâ altyapısı kurarken tek bir GPU üreticisinin donanımına bağlı kalmasını azaltabilecek bir seçenek sunuyor. Nvidia CUDA ekosistemi uzun süredir yapay zekâ geliştirme alanında güçlü bir konuma sahipken AMD, ROCm yatırımlarıyla geliştiricilere alternatif bir yazılım katmanı sağlamaya çalışıyor. VMware’in sanallaştırma ile altyapı yönetimi deneyimini ROCm desteğiyle birleştirmesi, AMD hızlandırıcılarının kurumsal ortamlarda yönetilmesini kolaylaştırabilir.
VMware AI Factory’nin çoklu hızlandırıcı mimarilerini desteklemesi de platformun önemli özelliklerinden biri olarak gösteriliyor. Broadcom yöneticisi Prashanth Shenoy, çözümün farklı hızlandırıcı mimarileri ile yapay zekâ araç zincirlerini desteklediğini belirtirken Nvidia ile olan uzun süreli iş ortaklığının devam ettiğini ifade ediyor. Şirket böylece Nvidia ile rekabet eden AMD teknolojisini desteklerken mevcut Nvidia ilişkisini de tamamen dışarıda bırakmayan bir konum alıyor.
Nvidia ile VMware arasındaki teknoloji ortaklığı, VMware’in GPU sanallaştırma araçları geliştirmeye başladığı döneme kadar uzanıyor. Nvidia GPU’larının kurumsal sistemlerde daha yüksek kullanım oranına ulaşmasına yardımcı olan sanallaştırma teknolojileri, şirketlerin pahalı hızlandırıcı kaynaklarını farklı iş yükleri arasında paylaşmasına olanak sağladı. İki şirket 2023 yılında VMware Private AI Foundation with Nvidia çözümünü duyurarak bu iş birliğini üretken yapay zekâ alanına taşıdı.
Private AI Foundation with Nvidia, kurumların kendi veri merkezlerinde üretken yapay zekâ uygulamaları çalıştırabilmesi için gerekli altyapı bileşenlerini bir araya getiriyordu. Çözüm kapsamında otomasyon araçları, derin öğrenme sanal makine görüntüleri, vektör veri tabanı ile GPU izleme özellikleri bulunuyordu. VMware’in yeni ürünü ise aynı kurumsal yapay zekâ altyapısı fikrini daha geniş donanım seçenekleriyle ele alıyor.
Nvidia’nın kendi “AI Factory” yaklaşımı, yapay zekâ çıkarım iş yüklerinin çalıştırılması için gerekli sunucu, GPU, ağ, depolama ile yazılım katmanlarını tek bir referans mimaride birleştiriyor. Dell, Lenovo ile HPE gibi sunucu üreticileri de Nvidia’nın altyapısını temel alan kendi AI Factory çözümlerini sunuyor. VMware’in aynı kavramı AMD donanımı üzerinde kullanması, “AI Factory” ifadesinin tek bir üreticinin donanım mimarisinden çıkarak kurumsal altyapı yönetim modeline dönüşmeye başladığını gösteriyor.
Şirketlerin yapay zekâ yatırımlarında karşılaştığı temel sorunlardan biri yalnızca GPU satın alma maliyeti değil, bu donanımın sürekli yüksek verimle çalıştırılması oluyor. VMware AI Factory, farklı ekiplerin ortak kaynak havuzundan yararlanmasını sağlayarak atıl kapasitenin azaltılmasını hedefliyor. Güvenli yapay zekâ sanal alanları ile yönetişim araçları da yapay zekâ ajanlarının yetkileri dışına çıkmasını veya erişmemesi gereken kurumsal kaynaklara ulaşmasını sınırlamak üzere tasarlanıyor.
Yapay zekâ ajanlarının şirket içindeki dosyalara, veritabanlarına veya diğer uygulamalara erişmeye başlamasıyla altyapı yönetimi güvenlik açısından da daha karmaşık hale geliyor. VMware’in yönetişim katmanı bu nedenle yalnızca model çalıştırma performansına değil, hangi ajanın hangi kaynağa erişebileceğinin kontrol edilmesine de odaklanıyor. Kurumsal kullanıcılar açısından bu yaklaşım, gölge yapay zekâ kullanımının azaltılması ile merkezi güvenlik politikalarının uygulanması açısından önem taşıyor.
Türkiye’deki işletmeler açısından çoklu GPU desteği, özellikle yüksek hesaplama gerektiren yapay zekâ yatırımlarında donanım seçimini daha esnek hale getirebilir. Kurumlar AMD Instinct gibi alternatif hızlandırıcıları değerlendirdiğinde yalnızca satın alma fiyatını değil ROCm uyumluluğunu, mevcut yazılım yığınını, model performansını, enerji tüketimini ile teknik destek kapasitesini birlikte değerlendirmek zorunda kalacak. VMware’in sanallaştırma tabanlı yaklaşımı bu değerlendirmeyi tek bir donanım satın alma kararından çıkararak daha geniş bir veri merkezi işletim modelinin parçası haline getiriyor.
VMware’in AMD ile kurduğu yapı, yapay zekâ altyapısındaki rekabetin yalnızca GPU performansı üzerinden ilerlemediğini gösteriyor. Nvidia güçlü CUDA ve NVLink ekosistemini genişletirken AMD ROCm ile alternatif bir yazılım ve hızlandırıcı zinciri kuruyor, VMware ise bu farklı donanımları ortak bir yönetim katmanında buluşturmaya çalışıyor. Şirketin ileride Nvidia tabanlı AI Factory sistemleri için de benzer bir yapı geliştirip geliştirmeyeceği, VMware’in bu modelini AMD odaklı bir ürün olmaktan çıkararak gerçek anlamda çok üreticili bir kurumsal yapay zekâ platformuna dönüştürüp dönüştüremeyeceğini belirleyecek.
