OpenAI, GPT-6.1 Sol İçin 8 Kat Hızlı Modu ve Decisions API’yi Duyurdu

OpenAI, GPT-6.1 Sol için Ultrafast modunu kullanıma sunarak yapay zekâ işlemlerinde 8 kata kadar hız artışı sağlarken Decisions API ile karar süreçlerini 10 kata kadar hızlandırmayı hedefliyor. Yeni hız modu API, Codex ve ChatGPT Work platformlarına gelirken standart seçeneğe kıyasla altı kat daha yüksek fiyatla sunuluyor. Şirket ayrıca metin ve görseller üzerinden yapılandırılmış kararlar üreten Decisions API’nin herkese açık beta sürümünü duyuruyor.

GPT-6.1 Sol Ultrafast Modu Kodlama Sürelerini Kısaltıyor

OpenAI, geliştiricilerin karmaşık kodlama görevlerini daha kısa sürede tamamlaması için GPT-6.1 Sol modeline Ultrafast modunu ekliyor. Codex ortamında standart işleme seçeneğine göre 8 kata kadar hız artışı sağlayan yeni mod, kod üretimi, hata ayıklama ve test süreçlerinde yapay zekânın yanıt vermesini beklemek için harcanan zamanı azaltmayı amaçlıyor.

GPT-6.1 Sol, OpenAI tarafından daha önce tanıtılan ve GPT-6 Astra seviyesine yakın zekâ sunduğu belirtilen bir model olarak konumlanıyor. Şirket, modeli özellikle yapay zekâ ajanlarıyla kodlama, bilgisayar kullanımı ve profesyonel iş akışları için geliştirirken standart sürümde daha düşük maliyetli bir alternatif sunuyor. Ultrafast seçeneği ise hızın kritik olduğu görevleri hedefliyor.

API üzerinden çalışan geliştiriciler, isteklerinde service_tier parametresini ultrafast olarak ayarlayarak yeni işleme katmanını etkinleştirebiliyor. OpenAI, ağ kaynaklı gecikmeleri azaltmak isteyen geliştiricilere kalıcı WebSocket bağlantılarını da öneriyor. Bu yaklaşım, özellikle art arda çok sayıda model çağrısı yapan yapay zekâ ajanlarında bağlantı kurma maliyetini azaltarak toplam işlem süresini iyileştirebiliyor.

GPT-6.1 Sol Ultrafast Kullanımının Maliyeti Ne Kadar?

OpenAI, GPT-6.1 Sol Ultrafast için standart moda kıyasla belirgin biçimde daha yüksek bir ücret tarifesi uyguluyor. Kısa bağlamlı isteklerde bir milyon giriş tokenı 12 dolar, bir milyon çıkış tokenı ise 60 dolar üzerinden fiyatlandırılıyor. Standart modda aynı token miktarları için sırasıyla 2 dolar ve 10 dolar ödeniyor.

Tablodaki fiyatlar, her iki modda da giriş ve çıkış tokenlarının ayrı ücretlendirildiğini gösteriyor. Ultrafast seçeneği aynı miktarda token işlediğinde standart modun altı katı maliyet oluşturuyor. Dolayısıyla geliştiricilerin daha yüksek hızın iş süreçlerine sağlayacağı faydayı ek API harcamasıyla karşılaştırması gerekiyor.

Özellikle yazılım geliştirme platformları, otomatik test sistemleri ve çok aşamalı görevler yürüten ajanlar için gecikmenin azalması operasyonel avantaj sağlayabilir. Ancak her istekte en yüksek hıza ihtiyaç duyulmadığından geliştiricilerin standart modu rutin görevlerde, Ultrafast seçeneğini ise zaman hassasiyeti yüksek işlemlerde kullanması maliyet kontrolüne yardımcı olabilir.

OpenAI’nin herkese açık beta sürümünü duyurduğu Decisions API, kapsamlı metin yanıtları üretmek yerine belirli bir soruya yönelik yapılandırılmış kararlar döndürmeye odaklanıyor. GPT-6 Luna modelini kullanan sistem, metin ve görsel girdilerini değerlendirerek uygulamaların doğrudan işleyebileceği sonuçlar sağlıyor.

Örneğin bir müşteri hizmetleri uygulaması, kullanıcının fatura itirazını, teknik destek talebini veya kargo sorununu doğru departmana yönlendirmek zorunda kalabilir. Geleneksel bir dil modeli bu işlem için açıklamalı bir yanıt üretirken uygulamanın yanıtı ayrıca yorumlaması gerekebilir. Decisions API ise önceden belirlenmiş kategoriler arasından seçim yaparak yönlendirme sürecini sadeleştirebilir.

OpenAI, ilk testlerde Decisions API’nin GPT-6 Luna ile Responses API üzerinden gerçekleştirilen benzer karar işlemlerinden 10 kata kadar daha hızlı sonuç verdiğini belirtiyor. Bu karşılaştırma, karar odaklı işlemler için açıklama üretmeye dayalı genel amaçlı bir model çağrısı yerine daha özel bir arayüz kullanmanın gecikmeyi azaltabileceğine işaret ediyor.

Decisions API Hangi Karar Türlerini Destekliyor?

OpenAI’nin yeni API’si, uygulamaların farklı değerlendirme ihtiyaçlarına karşılık gelen üç karar türü sunuyor:

• Predicate: Belirli bir koşulun doğru olma olasılığına ilişkin tahmin döndürüyor.
• Choice: Önceden tanımlanmış seçenekler arasından tercih yapıyor ve olasılık bilgisi sağlıyor.
• Score: Bir girdiyi önceden belirlenen puanlama ölçütlerine göre değerlendiriyor.

Predicate türü, bir talebin belirli bir koşulu karşılayıp karşılamadığını değerlendirmek için kullanılabilir. Choice, müşteri taleplerini departmanlara ayırmak gibi sınıflandırma işlemlerine hitap ederken Score, içeriklerin veya başvuruların tanımlanmış kriterlere göre puanlanmasını destekliyor. Bu yapı, geliştiricilerin model çıktısını uygulama mantığına bağlamasını kolaylaştıran daha düzenli bir sonuç formatı sunuyor.

OpenAI, GPT-6 Luna ile kullanılan Decisions API için bir milyon giriş tokenı başına 0,10 dolar ücret belirliyor. Şirketin açıkladığı tarifede çıkış tokenları, önbellek okumaları ve önbellek yazımları için ayrıca ücret alınmıyor. Bu fiyatlandırma, yoğun biçimde sınıflandırma veya puanlama yapan uygulamalarda maliyet hesabını kolaylaştırabilecek bir yapı sunuyor.

Giriş tokenı başına ücretin düşük tutulması, özellikle çok sayıda kısa karar gerektiren müşteri destek sistemleri, içerik moderasyonu ve otomatik iş akışı yönlendirmeleri açısından önem taşıyor. Yine de gerçek maliyet, işlenen girdi miktarına ve uygulamanın kararları ne sıklıkta çalıştırdığına bağlı olarak değişiyor.

OpenAI’nin iki yeni özelliği, yapay zekâ uygulamalarında hız ihtiyacının farklı biçimlerde ele alındığını gösteriyor. Ultrafast, daha karmaşık görevlerde yanıt gecikmesini azaltmaya odaklanırken Decisions API, belirli ölçütlerle çözülebilen kararları daha düşük maliyetle yürütmeyi amaçlıyor. Geliştiricilerin hangi yaklaşımı seçeceği, görevlerin karmaşıklığına, yanıt süresi beklentisine ve işlem hacmine bağlı olacak.