Amazon Yapay Zekâ Projesinde 1,8 Milyon Dolar Harcadı: Bütçe Aşımı Beş Ay Sonra Fark Edildi
Amazon’da yürütülen bir proje, yapay zekâ maliyetleri konusunda şirketlerin karşı karşıya kaldığı yeni riski gözler önüne serdi. Anthropic’in Claude Sonnet modelini kullanan başarısız bir çalışma için 1,8 milyon dolar harcanırken bütçe aşımı yaklaşık beş ay boyunca fark edilmedi. Şirket, benzer olayların tekrar yaşanmaması için maliyet izleme sistemlerini güçlendirmeye hazırlanıyor.
Başarısız Proje Şirket İçindeki Daha Büyük Sorunu Ortaya Çıkardı
Financial Times’ın ulaştığı şirket içi bilgilere göre Amazon, yazar bilgilerini ürün listelemeleriyle eşleştiren bir sistem geliştirmek amacıyla Anthropic Claude Sonnet modelinden yararlandı. Proje beklenen sonucu üretmezken ayrılan bütçenin yüzde 860 üzerine çıktı. Yapay zekâ projelerinde yanlış yapılandırılan model çağrıları, kısa sürede beklenmeyen maliyet artışları oluşturabiliyor.
Şirket içindeki mühendisler, sorunun tek projeyle sınırlı olmadığını değerlendirdi. Finansal denetim amacıyla geliştirilen başka bir sistem yaklaşık 541 bin dolarlık ek harcama oluştururken lojistik operasyonlarını hızlandırmayı hedefleyen farklı bir çalışma da 134 bin dolarlık beklenmeyen maliyet üretti. İkinci olayın iki haftadan uzun süre sonra tespit edilmesi, gerçek zamanlı maliyet takibinin önemini yeniden gündeme taşıdı.
Amazon mühendisleri, geleneksel yazılım geliştirmede düşük maliyet oluşturan hataların üretken yapay zekâ sistemlerinde çok daha büyük bütçe yüküne dönüştüğünü belirtiyor. Model kullanım ücretlerinin token tabanlı fiyatlandırma sistemiyle hesaplanması, her isteğin doğrudan maliyete yansımasına neden oluyor. Yapay zekâ maliyetleri, kullanım yoğunluğu arttıkça klasik altyapı bütçelerinden daha değişken hâle geliyor.
Amazon ekipleri, benzer bütçe aşımlarını önlemek amacıyla otomatik kullanım sınırları ile gelişmiş izleme araçları üzerinde çalışıyor. Şirket, model kullanımını belirli eşiklerde durdurabilecek kontrol mekanizmaları geliştirirken harcamaların anlık olarak takip edilmesini sağlayacak yeni sistemleri de devreye almayı planlıyor. Otonom yapay zekâ ajanları, çok adımlı istem zincirleri oluşturduğu için maliyetlerin kısa sürede beklenenden daha yüksek seviyeye ulaşmasına yol açabiliyor.
Amazon yönetimi, yaşanan örneklerin şirket genelindeki yapay zekâ kullanımını temsil etmediğini savundu. Şirket, yeni teknolojilerde öğrenme sürecinin devam ettiğini belirtirken ekiplerin maliyet verimliliğini artıracak yöntemler üzerinde çalıştığını ifade etti. AWS tarafında yıl içinde yaşanan yapay zekâ kodlama aracı kaynaklı kesintilerin ardından erişim yetkilerinin sınırlandırılması da aynı yaklaşımın parçası olarak değerlendiriliyor.
Amazon’un milyarlarca dolarlık ölçeği düşünüldüğünde bu harcamalar finansal açıdan sınırlı etki oluşturuyor. Buna karşın gelişme, kullanım bazlı yapay zekâ altyapılarının yönetim anlayışını değiştirdiğini gösteriyor. Kurumsal şirketler üretken yapay zekâ yatırımlarını büyütürken token optimizasyonu, maliyet görünürlüğü, model seçimi, gerçek zamanlı maliyet takibi ile yapay zekâ yönetişimi önümüzdeki dönemde teknoloji ekiplerinin temel öncelikleri arasında yer almaya devam edecek.
