Z2RAM Teknolojisi Yapay Zeka Çiplerindeki Bellek Darboğazını Aşmayı Hedefliyor

Yapay zeka çiplerinde artan bellek ihtiyacına çözüm arayan Nagare Labs, SRAM hızını DRAM yoğunluğuyla bir araya getirmeyi amaçlayan Z2RAM teknolojisini geliştiriyor. Eski Intel CEO’su Pat Gelsinger’ın desteklediği girişim, ilk sürümde aynı fiziksel alana geleneksel SRAM’in beş katından fazla bellek kapasitesi yerleştirmeyi hedefliyor. Laboratuvar prototipi aşamasındaki teknoloji için şirket, önümüzdeki dört yıl içinde çalışan bellek modülleri sunmayı, on yıl içinde ise ticari sevkiyatlara başlamayı planlıyor.

Z2RAM Bellek Yoğunluğunu Beş Katın Üzerine Çıkarmayı Amaçlıyor

Yapay zeka modellerinin büyümesi, işlemcilerin hesaplama gücünün yanı sıra bellek kapasitesi ve veri aktarım hızını da önemli bir performans ölçütü haline getiriyor. Nagare Labs tarafından geliştirilen Z2RAM, yüksek hızlı SRAM’in kapasite sınırlamalarını aşarak yapay zeka hızlandırıcılarında daha fazla verinin işlem birimlerine yakın tutulmasını hedefliyor.

Georgia Institute of Technology bünyesinde profesörler Suman Datta ile Shimeng Yu tarafından yürütülen araştırmalara dayanan teknoloji, ilk sürümde aynı alana SRAM’in beş katından fazla bellek sığdırmayı amaçlıyor. Şirketin verdiği örneğe göre, geleneksel SRAM ile 64 MB kapasite sunan bir alana Z2RAM kullanılarak yaklaşık 320 MB bellek yerleştirilebilecek. Tasarımın hedefleri arasında SRAM düzeyine yakın bant genişliğini korumak da bulunuyor.

Bu kapasite artışı, özellikle büyük dil modellerini çalıştıran yapay zeka hızlandırıcılarında önem taşıyor. Mevcut SRAM tabanlı sistemler, sınırlı bellek alanı nedeniyle yüksek miktarda veriyi işlemek için daha fazla hızlandırıcıya ihtiyaç duyabiliyor. Z2RAM hedeflenen performansa ulaşırsa aynı iş yükünü karşılamak için gereken donanım sayısı azalabilir, ancak bu kazanımın gerçek sistemlerde doğrulanması gerekiyor.

Nvidia’nın Groq 3 LPU çözümlerinde yonga başına yaklaşık 500 MB SRAM bulunduğu belirtiliyor. Z2RAM’in vaat ettiği yoğunluk artışı, benzer mimarilerde bellek kapasitesini yükseltebilir. Bununla birlikte laboratuvar aşamasındaki sonuçların üretim ölçeğinde aynı performansı sağlayıp sağlamayacağı henüz belli değil.

Z2RAM’in temel farkı, veriyi depolamak için geleneksel DRAM hücrelerinden farklı bir mimariden yararlanması. DRAM, veriyi bir transistör ve bir kondansatör üzerinden saklarken Z2RAM iki transistörlü bir yapı kullanıyor. İkinci transistörün kapı kapasitansı, elektrik yükünün depolanmasında görev alıyor.

Bu tasarım, bellek okuma işleminin ardından verinin yeniden yazılması ihtiyacını azaltmayı hedefliyor. Geleneksel DRAM hücrelerinde okuma sırasında depolanan yük etkilenebildiği için verinin yenilenmesi gerekiyor. Z2RAM’in yaklaşımı ise okuma işlemini bellekteki veriyi bozmadan gerçekleştirmeyi amaçlıyor; tasarımın hedeflenen gecikme avantajını ne ölçüde sağlayacağı ise testlerle ortaya çıkacak.

Teknoloji, dikey katmanlama yaklaşımıyla da daha yüksek yoğunluğa ulaşmayı planlıyor. Nagare Labs, oksit yarı iletkenler ile üç boyutlu hibrit bağlama tekniklerinden yararlanarak bellek katmanlarını işlemci veya yapay zeka hızlandırıcısının mantık devrelerinin üzerine yerleştirmeyi amaçlıyor.

Nagare Labs’in planı, AMD’nin işlemci yongalarının üzerine ek SRAM önbelleği yerleştiren 3D V-Cache teknolojisini hatırlatıyor. İki yaklaşım da bellek ile işlem mantığını dikey katmanlarda bir araya getirerek fiziksel alanın daha verimli kullanılmasını hedefliyor. Ancak Z2RAM’in amacı yalnızca mevcut önbellekleri büyütmek değil, daha yüksek yoğunluğa sahip yeni bir bellek sınıfı geliştirmek.

Şirket, üretim yönteminin NAND Flash bellekte kullanılan katmanlı mimariye yakın olmasının maliyetleri azaltabileceğini öngörüyor. Bu yaklaşımın HBM ve LPDDR gibi bellek çözümlerine kıyasla daha kolay üretim sağlayıp sağlamayacağı ise üretim süreçlerinin olgunlaşmasına bağlı olacak.

Z2RAM’in ticari değerini belirleyecek unsurlar arasında yalnızca kapasite ve bant genişliği yer almıyor. Güç tüketimi, üretim verimi, dayanıklılık ve mevcut hızlandırıcılarla uyumluluk da teknolojinin benimsenmesinde belirleyici rol oynayacak.

Nagare Labs, ilk yatırım turunda 5 milyon dolar finansman sağladı. Girişim, üniversite laboratuvarındaki araştırmaları daha ileri taşımak amacıyla bir araştırma ve geliştirme üretim ortağı arıyor. Kurucu ortak Suman Datta’nın açıkladığı takvime göre şirket, dört yıl içinde çalışan Z2RAM bellek modüllerinden örnekler sunmayı ve on yıl içinde ticari sevkiyatlara başlamayı hedefliyor.

Teknolojinin önündeki önemli engellerden biri, üç boyutlu hibrit bağlama ve hızlandırıcı entegrasyonu için ortak standartların bulunmaması. Z2RAM’in farklı üreticilerin sistemlerinde kullanılabilmesi için uygun arayüzlerin geliştirilmesi ve sektör genelinde uyumluluğun sağlanması gerekiyor. AMD’nin 3D V-Cache çözümü kendi işlemci mimarisine özel bir entegrasyon kullanırken Nagare Labs’in geniş çaplı benimsenme hedefi için farklı sistemlere uyum sağlayan bir yaklaşım geliştirmesi gerekebilir.

Oksit yarı iletkenlerin uzun vadeli güvenilirliği de ticari üretim öncesinde araştırılması gereken başlıklar arasında bulunuyor. Bu malzemeler sıcaklık ve radyasyon performansı açısından avantajlar sunsa da atomik boşluklar ile elektron düzeyindeki küçük değişimler, transistörlerin eşik gerilimlerini etkileyebiliyor. Söz konusu değişimler bellek hücrelerinde hatalara neden olabileceğinden Z2RAM’in uzun süreli kararlılığı ve üretim koşullarındaki tutarlılığı kapsamlı testlerden geçmek zorunda.

Z2RAM, yapay zeka hızlandırıcılarının bellek kapasitesini artırma ve veri erişimindeki sınırlamaları azaltma hedefiyle yeni bir alternatif sunuyor. Ancak teknolojinin mevcut bellek çözümlerine rakip olabilmesi için laboratuvar vaatlerini üretim ölçeğinde doğrulaması, entegrasyon sorunlarını çözmesi ve uzun vadeli güvenilirliğini kanıtlaması gerekiyor.