Fiyatlandırma

Modele göre fiyatlandırma

Model	Girdi ($ / 1M token)	Çıktı ($ / 1M token)
tai-4.0.6P	$0.20	$1.00
tai-4.0.6B	$0.35	$1.75
tai-4.0.7	$0.75	$2.00
tai-4.1	$0.90	$2.00
tai-4.2	$1.00	$2.50

Girdi token'ları, belirli bir istekte modele gönderilen her şeydir: sistem promptu, konuşma geçmişindeki her mesaj ve dahil edilen tüm araç tanımları. Çıktı token'ları, modelin buna karşılık ürettiği şeydir. İkisi ayrı fiyatlandırılır, çünkü maliyet açısından birbirinin yerine geçmezler: token üretmek, halihazırda var olan token'ları işlemekten belirgin şekilde farklı (ve genellikle daha pahalı) bir işlemdir.

Çözümlü bir örnek

1.300 girdi token'ı ve 230 çıktı token'ı olan bir tai-4.1 isteği:

Input:  1,300 / 1,000,000 × $0.90  =  $0.00117
Output:   230 / 1,000,000 × $2.00  =  $0.00046
                                 Total  ≈ $0.00163

Tekil istekler neredeyse her zaman bir sentin kesirleridir. Maliyet, hacimle birlikte birikir; her yanıttaki usage nesnesi tam olarak bunun içindir: harcamayı toplam olarak sonradan keşfetmek yerine istek başına takip etmenizi sağlar.

Kullanımı takip etme

Her yanıt, streaming olsun olmasın, o belirli istek için prompt_tokens ve completion_tokens içeren bir usage nesnesi içerir (her modda tam olarak nerede göründüğü için bkz. Sohbet Tamamlamaları ve Aktarım). Bunları yukarıdaki tabloyla çarpmak, o isteğin tam maliyetini verir. Kullanım ayrıca anahtar başına otomatik olarak toplanır ve konsolun Kullanım sayfasında, anahtarın ait olduğu çalışma alanıyla sınırlı olarak görünür; böylece günlük maliyet takibi, her istekte ham token sayılarından kendi hesaplamanızı yapmayı gerektirmez.

Maliyeti ne etkiler, ne etkilemez

Maliyet, fiilen işlenen ve üretilen token'larla ölçeklenir, başka hiçbir şeyle değil. Bir yanıtı streaming ile almak, onu tek bir bloklayan çağrıda geri almaktan daha pahalı değildir; bu, farklı şekilde sunulan aynı üretimdir. tools alanında geçirilen araç tanımları, isteğin diğer her parçası gibi girdi token'ı olarak sayılır; bu yüzden çok sayıda ayrıntılı şekilde tanımlanmış aracı olan bir istek, araç tanımlarının gerçekte ne kadar metin eklediğiyle orantılı olarak, bunlar olmayan aynı istekten girdi token'ları açısından biraz daha maliyetlidir. Bir isteğe eklenen bir görsel, işlenmesinin bir parçası olarak modelin kendisi tarafından belirli sayıda girdi token'ına dönüştürülür; bunun üzerine ayrı, sabit bir görsel başı ücret yoktur.

Konuşma geçmişi ve tekrarlanan maliyet

API durumsuz (stateless) olduğundan (bkz. Sohbet Tamamlamaları), çok turlu bir konuşmadaki her istek, tüm geçmişi girdi olarak yeniden gönderir ve bu geçmiş yalnızca bir kez değil, her tek turda tekrar girdi token'ı olarak faturalandırılır. Uzun süren bir konuşmanın tur başına girdi maliyeti, geçmiş büyüdükçe artar, çünkü her yeni istek kendinden önceki her şeyi içerir. Çok uzun sürmesi beklenen bir konuşma için, eski turları bir isteğe dahil etmeden önce kısaltmak veya özetlemek, modelin kısaltılan kısma artık kelimesi kelimesine erişimi olmaması pahasına, bunu sınırlı tutmanın makul bir yoludur.