Yapay zekâ veri merkezlerinde kullanılmak üzere geliştirilen High Bandwidth Flash (HBF) teknolojisi için ilk teknik standart resmen yayınlandı. SanDisk ile SK Hynix’in öncülük ettiği çalışma, Open Compute Project (OCP) çatısı altında tamamlanırken yeni spesifikasyonun sunucu üreticileri ile veri merkezi tasarımcılarının kullanımına açıldığı açıklandı. Gelişme, yüksek kapasiteli bellek çözümlerinin yapay zekâ altyapılarında daha yaygın kullanılmasının önünü açabilecek önemli bir adım olarak değerlendiriliyor.
Yeni Standart Yapay Zekâ Veri Merkezlerinin Bellek Mimarisini Yeniden Şekillendiriyor
SanDisk ile SK Hynix, 2025 yılında başlattıkları ortak çalışmayla yapay zekâ sistemlerinin artan bellek ihtiyacına yanıt verecek yeni nesil bellek standardı geliştirmeyi hedefledi. Açıklanan ilk teknik doküman, HBF destekleyen sunucu raflarının nasıl tasarlanacağını, elektriksel gereksinimleri, sistem arabirimlerini, güvenilirlik kriterlerini ile yazılım tarafındaki okuma-yazma işlemlerini ayrıntılı biçimde tanımlıyor.
Standart, yalnızca donanım üreticilerine teknik yol haritası sunmuyor. Açık kaynak yaklaşımıyla geliştirilen spesifikasyon sayesinde üreticiler kendi sistemlerini lisans engeli olmadan HBF mimarisine uygun biçimde tasarlayabilecek. Google ile Tenstorrent’in de standardın geliştirilmesine katkı sağlaması, yapay zekâ ekosisteminde ortak bellek altyapısı oluşturma hedefini güçlendiriyor.
HBF teknolojisi, geleneksel NAND flash depolamanın yüksek kapasitesini High Bandwidth Memory yaklaşımındaki yüksek veri aktarım hızlarıyla bir araya getirmeyi amaçlıyor. Böylece yapay zekâ hızlandırıcılarının ihtiyaç duyduğu büyük veri kümeleri daha düşük enerji tüketimiyle işlenebilecek.
SanDisk’in geliştirdiği mimari, sekiz katmanlı bellek yığınını tek pakette birleştirebiliyor. Teorik olarak 4 TB kapasiteye ulaşabilen tek HBF yongası, büyük dil modelleri ile üretken yapay zekâ sistemlerinde kullanılan çıkarım işlemleri için dikkat çekici bir kapasite sunuyor.
Şirketin Teknolojiden Sorumlu Başkanı Alper İlkbahar, HBF teknolojisinin özellikle AI inference iş yükleri için tasarlandığını belirtiyor. Yeni standart sayesinde GPU, xPU ile yüksek kapasiteli bellek modülleri fiziksel olarak birbirine daha yakın konumlandırılabilecek. Bu mimari, veri aktarım gecikmesini azaltırken enerji verimliliğini artırabilecek yeni sistem tasarımlarının önünü açıyor.
Günümüzde yapay zekâ veri merkezlerinde en büyük darboğazlardan biri işlem gücü değil, işlemcilerin veriye erişim hızı olarak görülüyor. Bellek bant genişliğinin artırılması, büyük dil modellerinin daha kısa sürede yanıt üretmesine katkı sağlayabiliyor. Bu nedenle Nvidia, AMD, Intel ile Broadcom gibi şirketler de son yıllarda yüksek bant genişlikli bellek teknolojilerine yönelik yatırımlarını hızlandırmış durumda.
Open Compute Project çatısı altında geliştirilen HBF standardı, farklı üreticilerin aynı teknik altyapıyı kullanabilmesini sağlayacak ortak referans oluşturuyor. Bu yaklaşım, veri merkezi operatörlerinin tek bir üreticiye bağımlı kalmadan yeni nesil bellek çözümlerini sistemlerine entegre etmesini kolaylaştırabilir.
Yapay zekâ modelleri büyümeye devam ettikçe bellek kapasitesi ile enerji verimliliği, çip performansı kadar kritik hâle geliyor. High Bandwidth Flash standardının yaygınlaşması, gelecekte daha esnek sunucu mimarileri geliştirilmesine katkı sağlayabilir. İlk teknik spesifikasyonun yayınlanması doğrudan ticari ürün anlamına gelmese de veri merkezi üreticilerine ortak geliştirme zemini sunması nedeniyle yapay zekâ donanım ekosisteminde önemli kilometre taşlarından biri olarak değerlendiriliyor.
