Google, yapay zekâ altyapısına yönelik TPU 8tx ve TPU 8i Max adlı iki yeni işlemci sistemini tanıttı. Sekizinci nesil Tensor Processing Unit ailesine katılan donanımlar, hassas verilerin korunması ve uzun bağlamlı yapay zekâ modellerinin bellek performansını artırmak üzere geliştirildi. Şirket, yeni çiplerle birlikte yapay zekâ sistemlerinin eğitiminden çıkarım işlemlerine ve veri merkezi yönetimine kadar farklı alanlarda yazılım güncellemeleri de duyurdu.
Google TPU 8tx Hassas Verileri İşlem Sırasında Koruyor
Google’ın yeni işlemci sistemlerinden TPU 8tx, özellikle devlet kurumları, finans kuruluşları ve yüksek güvenlik gereksinimleri bulunan şirketleri hedefliyor. Sistem, yapay zekâ modellerinin hassas veriler üzerinde çalışırken korunmasını sağlayan donanımsal güvenlik özellikleriyle öne çıkıyor.
Geleneksel şifreleme yöntemleri, veriler depolanırken veya ağ üzerinden aktarılırken güvenlik sağlıyor. Ancak işlemciler verileri işlerken bellekteki bilgilerin şifresinin çözülmesi gerekiyor. Bu aşama, hassas verilerin korunması açısından önemli bir güvenlik riski oluşturabiliyor.
TPU 8tx, söz konusu riski işlem sırasında da verileri izole ederek azaltmayı hedefliyor. TPU 8t ile aynı silikon mimarisini kullanan sistem, beşinci nesil AMD EPYC işlemcilerle birlikte çalışıyor. Böylece şirketler, hassas veri kümelerini ve yapay zekâ modellerinin ağırlıklarını işlem aşamasında da koruyabiliyor.
Google, TPU 8tx modelinde gerçek zamanlı akıl yürütme işlemleri için geliştirdiği düşük gecikmeli Boardfly ağını da kullanıyor. Şirketin açıklamasına göre yeni ağ yapısı, TPU 8t sistemine kıyasla gecikmeyi iki kata kadar azaltırken performans kaybını neredeyse sıfır seviyesinde tutuyor.
Google’ın ikinci yeni sistemi TPU 8i Max, uzun bağlamlarla çalışan yapay zekâ modellerinin karşılaştığı bellek darboğazını azaltmaya odaklanıyor. Özellikle büyük yazılım projelerini analiz eden yapay zekâ ajanları ve uzun süreli videoları işleyen modeller, yüksek bellek bant genişliğine ihtiyaç duyuyor.
Google, bu ihtiyaca yanıt vermek için iki düşük gecikmeli TPU 8i çipini tek bir işlemci paketinde birleştirdi. TPU 8i Max, standart TPU 8i modeline kıyasla iki kat işlem gücü, iki kat SRAM kapasitesi ve iki kat HBM bellek bant genişliği sunuyor.
Yeni tasarım, işlemcilerin ihtiyaç duyduğu verilere daha hızlı ulaşmasını sağlayarak bellek aktarımı sırasında oluşan bekleme sürelerini azaltmayı amaçlıyor. İki çipin aynı raf alanına yerleştirilmesi de veri merkezlerinde alan ve enerji başına daha yüksek işlem yoğunluğu elde edilmesine katkı sağlıyor.
Google, TPU 8i Max için henüz ayrıntılı performans testlerini, güç tüketimi değerlerini veya fiyatlandırmayı paylaşmadı. Bu nedenle yeni sistemin Nvidia’nın Rubin platformlarıyla maliyet ve enerji verimliliği açısından karşılaştırılması için daha fazla teknik veriye ihtiyaç duyuluyor.
Google, yeni donanımlarla birlikte geliştiricilerin TPU sistemlerini daha kolay kullanmasını sağlayacak yazılım araçları da duyurdu. Açık kaynak TorchTPU, PyTorch kodlarının ve Hugging Face modellerinin değiştirilmeden TPU donanımlarında çalıştırılmasını sağlıyor. Claude Code, Cursor ve Google Antigravity ile entegre çalışan TPU ajan paketi ise donanım optimizasyonu süreçlerini otomatikleştirmeyi hedefliyor.
Şirketin duyurduğu diğer araçlar arasında TPU, GPU ve CPU üzerinde model çalıştırmayı sağlayan XLA Serving Engine bulunuyor. Agent Compute Engine ise boşta kalan yapay zekâ ajanlarının kullandığı işlem kaynaklarını serbest bırakarak kaynak yönetimini iyileştirmeyi amaçlıyor.
Açık kaynak TPU Sync aracı da HBM, DRAM ve depolama birimlerini ortak bir bellek hiyerarşisinde birleştiriyor. Google, bu yapı sayesinde anahtar-değer (KV) aktarım gecikmesini ve ilk token üretim süresini yüzde 90’dan fazla azaltmayı hedefliyor. Özellikle uzun bağlamlı modellerde ilk yanıtın oluşturulma süresini etkileyen bu işlem, yapay zekâ hizmetlerinin yanıt hızında önemli rol oynuyor.
Google Kubernetes Engine (GKE) için genel kullanıma sunulan Cloud Pathways ve Dynamic Slicing özellikleri, büyük TPU kümelerinin yönetimini kolaylaştırıyor. Dynamic Slicing, optik devre anahtarlama (OCS) teknolojisinden yararlanarak TPU kümelerinin bağlantı yapılandırmasını ihtiyaca göre değiştirebiliyor.
Google’ın verilerine göre Dynamic Slicing, iş başlatma sürelerini beş kata kadar kısaltırken arıza sonrası kurtarma işlemlerini 4,5 kata kadar hızlandırıyor. Bu özellikler, binlerce işlemcinin birlikte çalıştığı yapay zekâ veri merkezlerinde kaynakların daha verimli kullanılmasını hedefliyor.
Şirket, yeni nesil TPU tasarımlarını geliştirirken kendi yapay zekâ araçlarından da yararlanıyor. AlphaChip ve Gemini, işlemci yerleşimi ve çip tasarımı süreçlerinde kullanılıyor. Google’a göre Gemini, bazı çip yerleşim çalışmalarının haftalar yerine saatler içinde tamamlanmasına yardımcı olabiliyor.
Google’ın TPU 8tx ve TPU 8i Max duyuruları, şirketin yapay zekâ donanımlarını yalnızca işlem gücü üzerinden değil, güvenlik, bellek kapasitesi ve yazılım desteği üzerinden de geliştirdiğini gösteriyor. Ancak TPU 8i Max’in gerçek performansı ve Nvidia çözümleri karşısındaki konumu, bağımsız testler ile fiyatlandırma bilgilerinin açıklanmasının ardından daha net değerlendirilebilecek.
