Pat Gelsinger, Yapay Zekâ Bellek Darboğazını Aşmak İçin Z2RAM’e Güveniyor

Eski Intel CEO’su Pat Gelsinger, yapay zekâ sistemlerinin artan bellek ihtiyacına çözüm sunmayı hedefleyen Nagare Labs’in geliştirdiği Z2RAM teknolojisine destek veriyor. Georgia Tech araştırmacılarının geliştirdiği oksit yarı iletken tabanlı bellek mimarisi, SRAM hızını DRAM yoğunluğuna yaklaştırmayı ve üretim süreçlerini kolaylaştırmayı amaçlıyor. İlk çalışan bellek modüllerinin dört yıl içinde örneklenmesi, ticari üretimin ise önümüzdeki on yıl içinde başlaması hedefleniyor.

Nagare Labs Z2RAM İle Bellek Kapasitesini Artırmayı Hedefliyor

Geleneksel bellek teknolojilerinde SRAM, DRAM ve NAND flash uzun süredir temel seçenekler arasında yer alıyor. Nagare Labs, Z2RAM mimarisiyle bu teknolojilerin güçlü yönlerini tek bir yapıda birleştirmeyi amaçlıyor. Şirketin yaklaşımı, SRAM’in yüksek hızını DRAM’in yoğunluğuyla bir araya getirirken flash belleğe benzer biçimde dikey katmanlama avantajı sağlamayı hedefliyor.

Gelsinger’in geçen yıl ortak olarak katıldığı Playground Global yatırım şirketi de Nagare Labs’in geliştirme çalışmalarını finanse eden kuruluşlar arasında bulunuyor. Gelsinger, mevcut bellek teknolojilerinde yaklaşık otuz yıldır büyük çaplı bir yenilik yaşanmadığını savunurken yapay zekâ iş yüklerinin kapasite ve bant genişliği ihtiyacının yeni çözümlere yönelik ilgiyi artırdığını belirtiyor.

Nagare Labs, Georgia Institute of Technology bünyesinde çalışan profesörler Suman Datta ve Shimeng Yu tarafından kuruldu. Şirketin araştırmaları, ferroelektrik bellek ve dirençli RAM gibi yeni nesil bellek yaklaşımlarına dayanıyor. Z2RAM ise oksit yarı iletkenlerden yararlanarak işlemci mantık devrelerinin üzerine üç boyutlu hibrit bağlama teknolojileriyle entegre edilmek üzere tasarlanıyor.

Z2RAM’in temel iddialarından biri, aynı fiziksel alanda SRAM’e kıyasla beş katı aşan bit yoğunluğuna ulaşması. Şirketin verdiği örneğe göre 64 MB kapasiteli bir SRAM alanına karşılık gelen Z2RAM yapısı, benzer alanda yaklaşık 320 MB kapasite sunabilir. Nagare Labs, bu yoğunluk artışını SRAM’e yakın bant genişliğiyle birleştirmeyi hedefliyor.

Bu kapasite artışı, özellikle SRAM kullanan yapay zekâ hızlandırıcıları açısından önem taşıyor. Büyük dil modellerinin yüksek hızda çalıştırılması, geniş bellek kapasitesi kadar verilerin işlem birimlerine hızlı aktarılmasını da gerektiriyor. Mevcut SRAM tabanlı sistemlerde kapasite sınırlamaları, büyük modelleri hizmete sunmak için çok sayıda hızlandırıcının kullanılmasına yol açabiliyor.

Kaynakta verilen örneğe göre Nvidia’nın Groq 3 LPU çipleri yaklaşık 500 MB SRAM kapasitesine sahip. Z2RAM’in vaat edilen yoğunluk düzeyine ulaşması, benzer iş yüklerinde gereken çip sayısını beş kat veya daha fazla azaltma potansiyeli taşıyor. Ancak bu sonuç, teknolojinin henüz laboratuvar prototipi aşamasında olması nedeniyle doğrulanmış bir ticari performans sonucu olarak değerlendirilemiyor.

Nvidia’nın Rubin hızlandırıcısı için belirtilen 288 GB, AMD’nin MI455X sistemi için verilen 432 GB bellek kapasitesiyle karşılaştırıldığında Z2RAM’in ilk aşamadaki kapasitesi sınırlı kalıyor. Teknolojinin asıl avantajı, yüksek kapasiteli HBM belleklerin yerini doğrudan almak yerine SRAM tabanlı sistemlerin kapasite sınırlarını genişletme potansiyelinde yatıyor.

Z2RAM, geleneksel DRAM hücrelerinden farklı olarak yükü depolamak için pasif bir kapasitör yerine iki transistörlü bir yapı kullanıyor. Nagare Labs kurucu ortağı Suman Datta, ikinci transistörün kapı kapasitansından yararlanılarak elektrik yükünün saklandığını açıklıyor.

Geleneksel DRAM hücrelerinde veri okuma işlemi sırasında kapasitördeki yük azalabildiği için hücrenin yeniden yazılması gerekiyor. Z2RAM’in transistör tabanlı tasarımı ise okuma işleminin yıkıcı olmamasını hedefliyor. Bu yaklaşım, bellek erişim gecikmesinin azaltılmasına katkı sağlayabilir.

Şirket ayrıca bellek hücrelerini dikey olarak üst üste yerleştirecek bir üretim yöntemi üzerinde çalışıyor. Bu yaklaşım, yüksek bant genişlikli bellek (HBM) veya düşük güçlü LPDDR tasarımlarından ziyade NAND flash belleğin katmanlı yapısına benzetiliyor. Nagare Labs, söz konusu mimarinin üretim maliyetlerini ve karmaşıklığını azaltabileceğini öngörüyor.

Z2RAM’in işlemci mantık devrelerine üç boyutlu hibrit bağlama yoluyla entegre edilmesi planlanıyor. AMD’nin 3D V-Cache teknolojisi, işlemci yongacıklarına ek SRAM katmanları bağlayarak kapasiteyi artıran mevcut bir örnek oluşturuyor. Nagare Labs de benzer bir entegrasyon yaklaşımını daha yoğun bellek hücreleriyle uygulamayı amaçlıyor.

Nagare Labs, ilk tohum yatırım turunun ardından teknoloji geliştirme çalışmaları için 5 milyon dolar finansman sağladı. Yarı iletken sektöründe üretim ölçeğine ulaşmak için bu tutar sınırlı kalırken şirketin kurucu ortağı Datta, Z2RAM’in henüz laboratuvar prototipi aşamasında olduğunu kabul ediyor.

Şirket, üniversitenin temiz oda altyapısının ötesine geçebilmek için araştırma ve geliştirme alanında faaliyet gösterecek bir yarı iletken üretim ortağı arıyor. Nagare Labs’in hedefi, çalışan Z2RAM bellek modüllerini dört yıl içinde örneklemek ve ticari sevkiyatlara önümüzdeki on yıl içinde başlamak.

Nagare Labs, bellek teknolojisini çip tasarımlarına entegre etmek için doğrudan işlemci üreticileriyle çalışmaya da açık. AMD’nin 3D V-Cache modüllerini geliştirme sürecinde TSMC ile yürüttüğü iş birliği, şirketin benimsediği yaklaşım için örnek oluşturuyor.

Z2RAM’in yaygınlaşması için aşılması gereken sorunlardan biri, yeni bellek türünü yapay zekâ hızlandırıcılarına bağlayacak standart bir arayüzün bulunmaması. Nagare Labs kurucu ortağı Shimeng Yu, yüksek kapasiteli ve hızlı belleğin avantajlarından yararlanmak için üç boyutlu bağlama gerektiğini, ancak bu alanda ortak bir sektör standardının henüz oluşmadığını belirtiyor.

AMD’nin 3D V-Cache teknolojisi, belirli bir üreticiye ait özel bir çözüm olarak bu ihtiyaca örnek oluşturuyor. Nagare Labs, açık bir sektör standardı ortaya çıkmadığı takdirde kendi arayüzünü tasarlamak zorunda kalabilir. Böyle bir çalışma, şirketin geliştirme sürecine ek mühendislik yükü getiriyor.

Oksit yarı iletkenlerin güvenilirliği de ayrı bir teknik sorun oluşturuyor. Bu malzemeler sıcaklık ve radyasyon koşullarına karşı avantajlar sunsa da atomik boşluklar gibi kusurlara açık bulunuyor. Çok az sayıda elektronun oluşturduğu değişimler bile transistörlerin eşik gerilimini etkileyerek bellek hücresinde hataya neden olabiliyor.

Nagare Labs, bu nedenle bellek hücrelerinin kararlılığını artırmaya yönelik çalışmalar yürütüyor. Datta, geçmişte çok sayıda bellek girişiminin teknik açıdan iddialı ürünler geliştirmesine rağmen katı sektör standartlarını karşılayamadığı için yaygınlaşamadığını vurguluyor. Şirket, yeni protokollerin ve değişen pazar koşullarının farklı bellek mimarilerinin benimsenmesi için daha elverişli bir ortam oluşturduğunu düşünüyor.

Z2RAM’in ticari başarısı, vaat edilen hız ve yoğunluk değerlerinin üretim ortamında doğrulanmasına, güvenilirliğin sağlanmasına ve çip üreticileriyle entegrasyon koşullarının oluşturulmasına bağlı kalıyor.