Yapay zekâ teknolojileri daha karmaşık görevleri üstlenmeye hazırlanırken enerji tüketimi de yeni bir tartışma alanına dönüşüyor. Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) tarafından yayınlanan araştırma, AI ajanları enerji tüketimi açısından sohbet botlarına kıyasla çok daha yüksek kaynak gerektirdiğini ortaya koydu. Araştırmaya göre gelişmiş yapay zekâ ajanları, aynı ölçekli görevlerde klasik sohbet sistemlerinden 136 kata kadar fazla enerji harcayabiliyor.
Otonom Karar Süreci Elektrik Tüketimini Katlıyor
Araştırmacılar, çalışmada ticari sistemlere yakın özellikler taşıyan 70 milyar parametreli büyük dil modellerini farklı ajan mimarileriyle test etti. Elde edilen sonuçlara göre sohbet botları genellikle tek bir isteği işleyip yanıt oluştururken yapay zekâ ajanları aynı hedefe ulaşabilmek için çok sayıda ara işlem gerçekleştiriyor. Plan oluşturma, internet üzerinden bilgi toplama, harici araçları kullanma ve sonuçları yeniden değerlendirme gibi süreçler, işlem sayısını önemli ölçüde artırıyor.
KAIST ekibi, tek bir karmaşık ajan sorgusunun ortalama 348,41 watt-saat elektrik tükettiğini hesapladı. Testlerde kullanılan Reflexion mimarisi, Meta’nın Llama-3.1-Instruct 70B modeli üzerinde standart sohbet yaklaşımına göre 136,5 kat daha fazla enerji harcadı. Çalışmada değerlendirilen LATS adlı başka bir yöntem de benzer şekilde yüksek tüketim değerleri ortaya koydu. Bulgular, gelecekte yaygınlaşması beklenen yapay zekâ ajanlarının veri merkezleri üzerindeki yükünü ilk kez sayısal verilerle ortaya koyan araştırmalar arasında yer alıyor.
Araştırma yalnızca toplam enerji tüketimine değil, sistemlerin çalışma verimliliğine de odaklandı. Yapılan ölçümler, GPU kullanım oranının beklenenden düşük kaldığını gösterdi. Yapay zekâ işlemcileri, harici servislerden veya internet üzerindeki uygulamalardan gelecek yanıtları beklerken uzun süre boşta kalmasına rağmen enerji tüketmeye devam ediyor. Bu durum, işlem süresi uzadıkça toplam elektrik ihtiyacının daha da yükselmesine neden oluyor.
Araştırmacılar, küresel kullanım senaryolarını da değerlendirdi. Hesaplamalara göre günlük yaklaşık 13,7 milyar ajan isteğine ulaşıldığında veri merkezlerinin ihtiyaç duyacağı toplam güç 199 gigavat seviyesine çıkabiliyor. Bu miktar, Amerika Birleşik Devletleri’nin ortalama elektrik tüketiminin yaklaşık yarısına karşılık geliyor. Uzmanlar, bu büyüklüğün yalnızca teknoloji şirketlerini değil ulusal enerji altyapılarını da doğrudan ilgilendirdiğini belirtiyor.
Çalışmanın yürütücülerinden Profesör Rhu Min-soo, mevcut yazılım optimizasyonlarının tek başına yeterli olmayacağını değerlendiriyor. Araştırmaya göre gelecekte artacak iş yükünü karşılayabilmek için yapay zekâ modellerinin yanında yeni nesil işlemci tasarımlarına, daha verimli sunucu mimarilerine ve gelişmiş enerji altyapılarına ihtiyaç duyulacak. Özellikle veri merkezlerinin elektrik tüketimi küresel ölçekte yükselmeye devam ederken AI ajanları enerji tüketimi konusunda ortaya çıkan bu bulguların, teknoloji sektörünün gelecek yatırım planlarını doğrudan etkileyebileceği ifade ediliyor.
