Volantis, Yapay Zekâ Çiplerinde Bellek Duvarını Fotonik Ara Bağlayıcıyla Aşmayı Hedefliyor

Sam Altman’ın desteklediği Volantis, yapay zekâ hızlandırıcılarında bellek kapasitesi ile bant genişliği arasındaki darboğazı aşmak için ışık tabanlı yeni bir mimari geliştiriyor. 2022’de kurulan şirket, A-1 adını verdiği hızlandırıcıda fotonik ara bağlayıcı kullanarak tek bir büyük pakete 10 TB’ın üzerinde bellek ile saniyede 240 TB’a kadar bant genişliği yerleştirmeyi hedefliyor. Volantis, geliştirdiği mimarinin 20 trilyon parametreli bir modeli kullanıcı başına saniyede 10 bin belirteç hızında çalıştırabilecek bir bellek altyapısı sağlayabileceğini öne sürüyor.

Volantis, A-1 Hızlandırıcısında Bellek İletişimini Işıkla Değiştiriyor

Volantis’in A-1 projesi, yapay zekâ hızlandırıcılarında işlem birimi ile bellek arasındaki veri aktarımını elektriksel bağlantılar yerine optik dalga kılavuzları üzerinden gerçekleştirmeyi amaçlıyor. Şirketin yaklaşımında hesaplama birimleri ile bellek bileşenleri, ışık tabanlı bağlantıları taşıyan özel bir ara katmanın üzerine yerleştirilecek.

Günümüzde yüksek bant genişlikli bellek teknolojilerinin işlem birimine çok yakın konumlandırılması, enerji tüketimi ile sinyal bütünlüğü arasında hassas bir denge gerektiriyor. Bellek kapasitesinin artmasıyla birlikte işlem çipinin fiziksel çevresi de bir sınır oluştururken Volantis, fotonik ara bağlayıcının belleği işlem biriminden birkaç santimetre uzağa taşıyabilmesiyle söz konusu sınırı genişletmeyi planlıyor.

Bellek duvarı olarak adlandırılan sorun, yapay zekâ hızlandırıcılarının hesaplama gücünün bellekten veri alma hızından daha hızlı artmasıyla belirginleşiyor. Volantis’in yaklaşımı, yeni bir işlem mimarisi geliştirmek yerine işlemci ile bellek arasındaki fiziksel bağlantıyı yeniden tasarlayarak bu darboğaza çözüm getirmeyi hedefliyor.

Volantis’in tasarımında fotonik ara bağlayıcı, hesaplama ile bellek bileşenlerini aynı paket içerisinde optik bağlantılar üzerinden buluşturacak temel teknoloji olarak konumlanıyor. Şirket, diğer bileşenleri kendisi geliştirmek yerine ilgili fikrî mülkiyetleri lisanslamayı planlıyor.

CEO Tapa Ghosh, şirketin riskin büyük bölümünü ara bağlayıcı ile entegrasyon tarafında üstlendiğini belirterek diğer teknolojilerde lisanslama yoluna gitmelerinin geliştirme sürecini kolaylaştıracağını ifade ediyor. Volantis böylece kaynaklarını yeni bir hesaplama mimarisi geliştirmeye değil, fotonik bağlantı teknolojisinin ürünleştirilmesine yoğunlaştırıyor.

Mevcut yüksek bant genişlikli bellek sistemlerinde işlem çipinin fiziksel çevresi, bellek bağlantılarının sayısını sınırlayan unsurlardan biri olarak öne çıkıyor. Kaynakta AMD’nin MI455X hızlandırıcısı için yaklaşık 432 GB seviyesindeki kapasite, söz konusu fiziksel sınırın örneklerinden biri olarak gösteriliyor.

Volantis’in fotonik mimarisindeki önemli farklılıklardan biri, ışık kaynağının ara bağlayıcının içine entegre edilmesi olacak. Şirket, harici lazerler yerine mikro dikey boşluklu yüzey yayan lazerler olarak adlandırılan mikro-VCSEL bileşenlerini kullanmayı planlıyor.

VCSEL teknolojisi uzun süredir kullanılan bir yöntem olsa da güvenilirlik konusunda geçmişte eleştiriler aldı. Volantis Teknoloji Direktörü Roy Meade, teknolojinin son yıllarda ilerlediğini belirterek şirketin daha düşük hız karşılığında daha yüksek güvenilirlik sağlamayı hedeflediğini söylüyor.

Meade’in yaklaşımı, bağlantı hızını tek bir kanal üzerinde sürekli artırmak yerine daha fazla sayıda bağlantıyı daha düşük hızlarda çalıştırmaya dayanıyor. Örneğin 800 Gbps hızındaki bir bağlantı, dört adet 200 Gbps bağlantının veya sekiz adet 100 Gbps bağlantının bir araya getirilmesiyle oluşturulabiliyor.

Yüksek bant genişlikli bellek sistemlerinde de benzer bir yaklaşım kullanılıyor. HBM, çok geniş veri yolu üzerinden daha düşük pin başına veri hızıyla yüksek toplam bant genişliği sağlarken Volantis aynı geniş bağlantı mantığını optik ara bağlayıcıya uygulamayı planlıyor.

Volantis’in açıklanan hedefleri, şirketin geliştirdiği hızlandırıcının bellek altyapısını mevcut sistemlerin ötesine taşımayı amaçladığını gösteriyor. Şirket, tek bir büyük pakette 10 TB’ın üzerinde bellek kapasitesi ile 240 TB/s seviyesine kadar bant genişliği elde etmeyi planlıyor.

Bu değerler, özellikle büyük yapay zekâ modellerinin çıkarım süreçlerinde bellek erişiminin oluşturduğu darboğazı azaltmayı hedefliyor. 20 trilyon parametreli bir model için kullanıcı başına saniyede 10 bin belirteç işleme hedefi de Volantis’in tasarımının yalnızca yüksek kapasiteyi değil, yüksek veri aktarım hızını birlikte ele aldığını gösteriyor.

Şirketin ilk nesil ürünü için enerji verimliliği hedefi ise 24 Gbps bağlantı başına bit başına 1 pikojul seviyesinde bulunuyor. Volantis ayrıca toplam sistem gücünün yaklaşık 20 kW seviyesinde olmasını öngörüyor.

Fotonik ara bağlayıcı fikri Volantis tarafından ortaya atılan ilk yaklaşım değil. Lightmatter ile Celestial AI daha önce benzer biçimde silikon fotonik ara bağlayıcıların yüksek bant genişlikli bellek bağlantılarında kullanılmasını araştırdı.

Volantis’i söz konusu girişimlerden ayıran temel nokta ise teknolojiyi ilk aşamada başka çip üreticilerine lisanslamak yerine doğrudan tam bir çıkarım hızlandırıcısı geliştirmeyi hedeflemesi. Şirket, çalışan bir ürün prototipi ortaya koymanın kendi çözümünü göstermek açısından daha kolay bir başlangıç noktası olduğunu düşünüyor.

Volantis’in planı, yapay zekâ çıkarım çiplerinde bellek bağlantısını yalnızca daha hızlı hale getirmek yerine bağlantının fiziksel yapısını değiştirmeye dayanıyor. Optik bağlantıların belleği işlem biriminden daha uzağa taşıyabilmesi, şirketin hesaplama çipinin çevresini belirleyen fiziksel sınırın etkisini azaltmasına yardımcı olabilir.

Volantis, üretime hazır ilk çipini ortaya çıkarmadan önce önemli bir geliştirme sürecinden geçmek zorunda. Şirketin 88 milyon dolarlık yeni yatırım turu, küçük ölçekli fotonik gösterim sistemlerinden nihai ürüne daha yakın bir prototipe geçiş için kullanılacak.

Şirketin karşılaşacağı zorluklar yalnızca fotonik ara bağlayıcının geliştirilmesiyle sınırlı kalmayacak. Lisanslanan fikrî mülkiyetlerin tek bir paket içerisinde birleştirilmesi, optik bağlantıların hesaplama ile bellek bileşenleriyle uyumlu çalışması ve enerji hedeflerinin korunması da projenin kritik aşamalarını oluşturacak.

CEO Tapa Ghosh, agresif hedef olarak 12 ila 18 ay içerisinde bir MVP ürün ortaya çıkarmayı planladıklarını belirtiyor. Söz konusu takvim seri üretim anlamına gelmezken çalışan bir prototipin geliştirilmesini ifade ediyor; Volantis’in sonraki aşamada üretim ölçeğine ulaşmak için yeni yatırımlara ihtiyaç duyması bekleniyor.