OpenAI’nin Jalapeño Çipi NVIDIA GB300’ü Geride Bıraktı: İlk Test Sonuçları Açıklandı
OpenAI, Broadcom ile geliştirdiği özel yapay zekâ çıkarım çipi Jalapeño için ilk performans sonuçlarını yayımlarken bazı testlerde NVIDIA GB300 tabanlı sistemlere göre watt başına 1,9 kata kadar daha yüksek performans elde ettiğini açıkladı. Şirket, SemiAnalysis InferenceX testlerinde GPT-OSS 120B, DeepSeek R1 670B ve Kimi K2.5 1T modellerini kullanarak Jalapeño’nun performansını GB200 ve GB300 sistemleriyle karşılaştırdı. OpenAI, ilk Jalapeño sistemlerini 2026 sonuna kadar altyapısına eklemeyi planlarken ikinci nesil çipin geliştirmesini de sürdürüyor.
Jalapeño Performans Testlerinde NVIDIA Sistemlerini Geride Bıraktı
SemiAnalysis tarafından yayımlanan InferenceX sonuçlarına göre Jalapeño, farklı büyük dil modellerinde watt başına yapay zekâ iş yükü açısından NVIDIA GB200 ve GB300 tabanlı sistemlerin önüne geçti. OpenAI’nin ölçümleri, tepe iş hacminde watt başına performansın 1,5 ila 1,9 kat daha yüksek olduğunu, uçtan uca gecikmenin ise 1,7 ila 3,6 kat arasında azaldığını gösteriyor.
DeepSeek R1 670B testi, iki platform arasındaki farkın en net görüldüğü örneklerden birini oluşturdu. Jalapeño saniyede kilovat başına 19.641 karma token üretirken NVIDIA GB300 sistemi 11.781 token seviyesinde kaldı. Jalapeño tarafında uçtan uca gecikme 1,65 saniye olarak ölçülürken GB300 sisteminde aynı değer 5,99 saniyeye ulaştı.
Kimi K2.5 1T üzerinde yapılan ölçümler de OpenAI’nin özel silikon yaklaşımını destekleyen sonuçlar ortaya koydu. Jalapeño, söz konusu modelde tepe performans başına watt değerinde yaklaşık 1,5 kat avantaj sağlarken uçtan uca gecikmeyi 3,4 kat azalttı. Etkileşimli yapay zekâ uygulamalarında OpenAI’nin bildirdiği performans farkı 2,1 ila 4,1 kata kadar çıkıyor.
Jalapeño’nun tasarımında yalnızca işlemci performansı değil enerji tüketimi de temel hedeflerden biri olarak ele alındı. Çipin nominal güç tüketimi 700 watt olarak belirtilirken OpenAI, testler sırasında sürekli tüketimin 550 watt seviyesini aşmadığını açıkladı.
NVIDIA GB300 sistemlerinin 1.400 watt seviyesindeki nominal güç tüketimi, OpenAI’nin watt başına performans ölçümüne neden özellikle önem verdiğini gösteriyor. Yapay zekâ çıkarım altyapılarında elektrik tüketimi, yalnızca donanım maliyetini değil veri merkezi soğutma kapasitesi, güç dağıtımı ve operasyon giderlerini de doğrudan etkiliyor.
OpenAI, Jalapeño’yu yalnızca hesaplama çipi olarak tasarlamak yerine bellek, ağ bağlantısı, yazılım katmanı ve raf seviyesindeki sistem mimarisiyle birlikte geliştirdiğini belirtiyor. Şirketin yaklaşımı, büyük dil modellerinin çıkarım sırasında işlem birimleri ile bellek arasında taşıdığı veriyi azaltarak enerji tüketimini düşürmeyi hedefliyor.
OpenAI ile Broadcom arasındaki özel silikon çalışmaları, şirketin yapay zekâ altyapısında kendi donanımını daha fazla kullanma stratejisinin ilk önemli adımlarından birini oluşturuyor. İki şirket 2025’te 2029’a kadar 10 gigawatt kapasiteli özel yapay zekâ hızlandırıcı altyapısı kurmaya yönelik ortaklığı duyurmuştu.
Jalapeño’nun ilk tasarımdan tape-out aşamasına yalnızca dokuz ayda ulaşması da projenin geliştirme temposu açısından öne çıkıyor. OpenAI, kendi yapay zekâ modellerinin çip tasarımı ile programlama süreçlerinde kullanıldığını belirtirken ikinci nesil Jalapeño üzerinde çalışmaların ileri aşamaya geldiğini, üçüncü nesil tasarım çalışmalarının da başladığını açıkladı.
Şirketin 2026 sonuna doğru Jalapeño’yu kendi altyapısında kullanmaya başlaması, özel donanımın laboratuvar testlerinden gerçek üretim ortamına geçişini gösterecek. OpenAI’nin büyüyen model kullanımına bağlı çıkarım yükünü karşılamak için NVIDIA donanımını kullanmayı sürdüreceğini açıklaması ise Jalapeño’nun kısa vadede mevcut hızlandırıcıların yerini tamamen almayacağını ortaya koyuyor.
Özel yapay zekâ çiplerinin asıl etkisi yalnızca tek bir benchmark sonucunda değil, büyük ölçekli çıkarım maliyetlerinde ortaya çıkacak. OpenAI’nin daha düşük güç tüketimiyle daha yüksek token üretim kapasitesine ulaşması üretim ortamında doğrulanırsa şirket, model başına işlem maliyetlerini azaltırken yüksek kullanıcı trafiğine sahip ajan tabanlı uygulamalarda daha düşük gecikme sunabilir. NVIDIA, Google TPU ile Amazon Trainium gibi alternatif hızlandırıcıların bulunduğu pazarda Jalapeño’nun sonraki nesilleri, OpenAI’nin kendi modelleri için ne kadar donanım optimizasyonu sağlayabildiğini belirleyecek.
