Nvidia, Açık Yapay Zekâ Modelleriyle Avrupa’nın Egemen Yapay Zekâ Talebine Yöneliyor

Nvidia, sohbet botlarından sağlık uygulamalarına, belge analizinden otonom sürüş sistemlerine uzanan yeni açık ağırlıklı modellerini duyurarak Avrupa’daki egemen yapay zekâ yatırımlarına odaklandı. Berlin’de düzenlenen GTC etkinliğinde şirket, Nemotron Retriever ailesinin güncellenmiş modellerini, PDF belgelerini analiz eden Nemotron Parse çözümünü ve Alpamayo 2 Edge sürümünü tanıttı. Nvidia, model ağırlıklarının yanı sıra eğitim verilerini ve geliştirme yöntemlerini de paylaşarak kurumların kendi ihtiyaçlarına uygun yapay zekâ sistemleri oluşturmasını hedefliyor.

Nvidia Nemotron Modellerini Kurumsal Yapay Zekâ Uygulamaları İçin Genişletti

Nvidia, yeni model ailesiyle kendi büyük dil modellerini sıfırdan geliştirmek için yeterli kaynağa sahip olmayan işletmelere odaklanıyor. Kurumlar, Mistral ve H Company gibi geliştiricilerin açık ağırlıklı modellerini kendi veri kümeleriyle ince ayar yaparak kullanabiliyor. Nvidia’nın yaklaşımı ise model ağırlıklarının yanında eğitim verilerini ve modellerin oluşturulmasında kullanılan yöntemleri de paylaşarak daha kapsamlı özelleştirme seçenekleri sunuyor.

Şirketin GTC Berlin kapsamında duyurduğu güncellemeler arasında Nemotron Retriever yerleştirme ve yeniden sıralama modelleri bulunuyor. Nemotron 3.5 temel alınarak geliştirilen modeller, metin ve görselleri 34 dilde işleyebiliyor. Bir milyar ile sekiz milyar arasında değişen parametre boyutları, farklı donanım kapasitesine sahip kurumların kendi ihtiyaçlarına uygun bir model seçmesine olanak tanıyor.

Nvidia, yeni modellerin NVFP4 kuantizasyonlu sürümlerini de sunuyor. Söz konusu sürümler, şirketin Blackwell mimarisine dayanan hızlandırıcılarında çalışacak biçimde hazırlanıyor. Nvidia’nın DGX Spark gibi kompakt sistemleri de daha küçük modellerle birlikte bu tür iş yüklerini çalıştırabilecek seçenekler arasında yer alıyor.

Kurumsal yapay zekâ uygulamalarında kullanılan yerleştirme modelleri, metin veya görsel gibi içerikleri sayısal vektörlere dönüştürerek arama sistemlerinin ilgili bilgileri bulmasına yardımcı oluyor. Bilgi getirmeli üretim (RAG) mimarisinde belgeler küçük parçalara ayrılıyor, ardından her parça bir vektör temsiline dönüştürülüyor. Sistem, kullanıcının sorgusuyla en fazla ilişkili içerikleri belirleyerek bunları büyük dil modeline iletiyor.

Nemotron Retriever ailesinin yeni sürümleri, bu süreçte hem metin hem de görsel içeriklerin işlenmesini destekliyor. Yeniden sıralama modelleri ise ilk aşamada bulunan sonuçları sorguyla ilişkilerine göre tekrar değerlendirerek daha uygun bilgilerin öne çıkmasına yardımcı oluyor. Söz konusu yöntem, kurum içi doküman araması, bilgi yönetimi ve yapay zekâ destekli arama uygulamalarında kullanılabiliyor.

Nvidia, BF16 hassasiyetinde çalışan sekiz milyar parametreli yerleştirme ve yeniden sıralama modellerinin ViDoRe V3.1 kıyaslamasında yoğun vektör modelleri arasında en üst sırada bulunduğunu ileri sürüyor. Performans iddiasının bağımsız değerlendirmelerle ve farklı veri kümelerinde ayrıca incelenmesi gerekiyor.

PDF dosyaları, kurumsal yapay zekâ sistemleri açısından özel zorluklar barındırıyor. Bazı belgeler taranmış sayfalardan oluşurken diğerleri tablolar, grafikler, farklı sütun düzenleri ve karmaşık biçimlendirmeler içeriyor. Metni doğrudan çıkarmak, sayfa yapısını veya görsel biçimde sunulan verileri doğru yorumlamak için her zaman yeterli olmuyor.

Nvidia, bu soruna yönelik olarak PDF belgelerinden bilgi çıkarmak üzere eğitilen Nemotron Parse modelinin güncellenmiş sürümünü duyurdu. Şirketin açıklamasına göre bir milyar parametreli model, tek bir H100 hızlandırıcısında çalışırken saniyede yaklaşık 10,5 sayfayı işleyebiliyor. Söz konusu değer Nvidia’nın paylaştığı performans verisine dayanıyor; gerçek kullanım sonuçları belge yapısına ve çalışma koşullarına göre değişebilir.

Belge işleme yetenekleri, özellikle çok sayıda rapor, sözleşme, teknik doküman ve finansal kayıtla çalışan kuruluşlar için önem taşıyor. Nemotron Parse gibi modeller, PDF içeriğini yapılandırılmış bilgiye dönüştürerek RAG sistemlerine veri hazırlama sürecini destekleyebilir. Böylece arama ve yanıt üretme sistemleri, yalnızca düz metinleri değil, daha karmaşık belge kaynaklarını da değerlendirebilir.

Nvidia’nın duyurduğu bir diğer model olan Alpamayo 2 Edge, otonom sürüş uygulamalarına yönelik daha kompakt bir sürüm olarak konumlandırılıyor. Şirket, modelin DRIVE AGX Thor platformunda çalışırken akış halindeki video ve sensör verilerini gerçek zamanlı olarak işleyebileceğini belirtiyor.

Sürüş sistemleri, çevredeki araçları, yayaları, yol işaretlerini ve diğer nesneleri değerlendirmek için farklı sensörlerden gelen bilgileri birlikte kullanıyor. Bu verilerin gecikme yaratmadan işlenmesi, otonom sürüş teknolojilerinin geliştirilmesinde temel gereksinimler arasında yer alıyor. Daha kompakt modeller, uygun donanım koşullarında bu tür sistemlerin çalıştırılmasını kolaylaştırabilir.

Nvidia, yeni modellerini kısa süre önce duyurduğu Nemotron 3.5 Super görsel-dil modeliyle aynı genişleme sürecinin parçası olarak sunuyor. Şirket ayrıca 74 milyar parametreli Nemotron 3.5 Bolt adlı uzman karışımı (MoE) modelini de tanıtmıştı. Nvidia’nın açıklamasına göre söz konusu model, 24 GB kadar düşük video belleğine sahip donanımlara sığacak biçimde tasarlanmış durumda; indirme erişiminin cuma günü başlaması planlanmıştı.

Egemen yapay zekâ yaklaşımı, ülkelerin ve kurumların yapay zekâ sistemleri üzerindeki kontrolünü, veri yönetimini ve teknolojik bağımsızlığını güçlendirmeyi amaçlıyor. Avrupa’daki kamu kurumları ve işletmeler açısından modellerin yerel altyapılarda çalıştırılabilmesi, verilerin hangi ortamda işlendiğinin kontrol edilmesi ve sistemlerin ihtiyaçlara göre uyarlanabilmesi önemli avantajlar sağlayabiliyor.

Açık ağırlıklı modeller, model parametrelerinin indirilerek farklı ortamlarda çalıştırılmasına olanak tanıyor. Ancak ağırlıkların paylaşılması, modelin eğitim sürecinin tamamının şeffaf olduğu anlamına gelmiyor. Eğitim verileri ve geliştirme yöntemleri açıklanmayan modellerde kullanıcılar, sistemin nasıl oluşturulduğunu bütünüyle inceleyemeyebiliyor.

Nvidia’nın bazı Nemotron modellerinde ağırlıklarla birlikte eğitim verilerini ve eğitim tariflerini de yayımlaması, kurumlara daha geniş bir inceleme ve özelleştirme alanı sunuyor. Böylece geliştiriciler, yalnızca mevcut ağırlıkları ince ayar yapmakla sınırlı kalmadan Nvidia’nın model mimarisini temel alan özel sistemler oluşturabiliyor. Allen Institute for AI tarafından geliştirilen OLMo ailesi de eğitim sürecine ilişkin daha fazla ayrıntı paylaşan yaklaşımlara örnek oluşturuyor.

Nvidia’nın yeni modelleri, Avrupa’daki kurumların kendi altyapılarında çalıştırabilecekleri sistemlere yönelik seçenekleri genişletiyor. Bununla birlikte açık ağırlıkların veya eğitim verilerinin paylaşılması, tek başına veri güvenliği, lisans uyumluluğu ya da düzenleyici gerekliliklerin karşılandığını garanti etmiyor. Kurumların model seçimini donanım maliyetleri, veri yönetimi, performans testleri ve kullanım koşullarıyla birlikte değerlendirmesi gerekecek.