Nvidia Groq 3 LPU Teknolojisini Veri Merkezi Platformuna Taşıdı
Nvidia GTC 2026 etkinliğinde tanıtılan Groq 3 LPU işlemcisi Rubin veri merkezi platformunda yapay zekâ çıkarım hızını önemli ölçüde artırmayı hedefliyor.
Nvidia Groq 3 LPU çipi, şirketin GTC 2026 etkinliği kapsamında paylaştığı donanım yenilikleri arasında yer aldı. Nvidia yöneticileri yeni nesil yapay zekâ işlemcisinin Samsung tarafından 4 nm üretim süreciyle seri üretime alındığını açıkladı. Nvidia’nın geliştirdiği yeni mimari özellikle yapay zekâ çıkarım işlemlerinde token işleme hızını artırarak veri merkezi performansını ileri taşımayı hedefliyor.
Nvidia Groq Teknolojisini Büyük Bir Lisans Anlaşmasıyla Altyapısına Dahil Etti
Nvidia yönetimi geçen yıl imzalanan yaklaşık 20 milyar dolarlık anlaşma kapsamında Groq şirketinin temel teknolojisini kendi ekosistemine dahil etti. Şirket bu anlaşma sayesinde Groq kurucusu Jonathan Ross dahil kritik mühendislik ekibini de bünyesine kattı. Nvidia bu stratejik adım ile veri merkezi odaklı Nvidia AI çıkarım çipi geliştirme sürecine hız kazandırdı.
Samsung’un yarı iletken üretim birimi Groq 3 işlemcilerini 4 nm üretim teknolojisi ile üretmeye başladı. Üretim ekipleri prototip üretim aşamasından ticari üretime geçiş sürecinde kapasiteyi genişletti. Fabrika hattı başlangıçta yaklaşık 9 bin wafer üretirken süreç içinde kapasite 15 bin wafer seviyesine yükseldi. Bu gelişme Samsung 4 nm AI çip üretimi alanında önemli bir üretim ölçeğine ulaşıldığını gösteriyor.
Nvidia mühendisleri Groq 3 işlemcisini şirketin Vera Rubin veri merkezi mimarisine entegre etti. Nvidia Rubin AI platformu bu entegrasyon sayesinde yapay zekâ çıkarım işlemlerinde daha düşük gecikme ile çalışan yeni bir işlem katmanı kazandı.
Groq 3 işlemcisi geleneksel GPU mimarisinden farklı olarak LPU yani Dil İşleme Birimi yaklaşımını temel alıyor. Her Groq 3 AI işlemcisi çip üzerinde yaklaşık 500 MB SRAM bellek barındırıyor. Bu değer Rubin GPU mimarisinde kullanılan 288 GB HBM4 belleğe kıyasla daha küçük görünse de mimari veri akışını farklı bir yöntemle yönetiyor.
Groq mühendisleri tasarımda yüksek bant genişliğine odaklanan bir yapı kullandı. Çip mimarisi yaklaşık 150 TB/s veri aktarım kapasitesi sunarak düşük gecikmeli token işleme performansına katkı sağlıyor.
Nvidia veri merkezi ekipleri Groq 3 işlemcisi için Groq LPX raf mimarisi geliştirdi. Şirket planlarına göre her raf sistemi toplam 256 LPU işlemcisi ile yapılandırılacak. Bu yapı 128 GB SRAM kapasitesi ile yaklaşık 40 PB/s bant genişliği sunan bir altyapı oluşturuyor. Nvidia mühendisleri ayrıca her raf için yaklaşık 640 TB/s ölçeklenebilir bağlantı arayüzü tasarladı. Groq LPX raf mimarisi veri merkezlerinde yüksek ölçekli yapay zekâ işlem kapasitesi sağlamak amacıyla geliştirildi.
Nvidia yöneticileri yeni mimarinin özellikle çok ajanlı yapay zekâ sistemlerinde performans artışı sağlayacağını belirtiyor. Şirketin paylaştığı verilere göre sistem bazı senaryolarda saniyede yaklaşık 100 token seviyesinde çalışan çıkarım performansını 1.500 TPS seviyesinin üzerine taşıyabiliyor. Bu gelişme büyük yapay zekâ modellerinin daha düşük gecikmeyle çalıştırılmasına katkı sağlayacak.
