Prezzi

Prezzi per modello

Modello	Input ($ / 1M token)	Output ($ / 1M token)
tai-4.0.6P	$0.20	$1.00
tai-4.0.6B	$0.35	$1.75
tai-4.0.7	$0.75	$2.00
tai-4.1	$0.90	$2.00
tai-4.2	$1.00	$2.50

I token di input sono tutto ciò che viene inviato al modello in una determinata richiesta: il system prompt, ogni messaggio nella cronologia della conversazione e qualsiasi definizione di strumento inclusa. I token di output sono ciò che il modello genera in risposta. I due vengono tariffati separatamente perché non sono intercambiabili in termini di costo: generare token è un'operazione sensibilmente diversa (e generalmente più costosa) rispetto a elaborare token già presenti.

Un esempio pratico

Una richiesta tai-4.1 con 1.300 token di input e 230 token di output:

Input:  1,300 / 1,000,000 × $0.90  =  $0.00117
Output:   230 / 1,000,000 × $2.00  =  $0.00046
                                 Total  ≈ $0.00163

Le singole richieste sono quasi sempre frazioni di un centesimo. Il costo si accumula sul volume, che è esattamente a cosa serve l'oggetto usage presente su ogni risposta, permettendole di tenerne traccia per richiesta invece di scoprire la spesa totale solo a posteriori.

Tenere traccia dell'utilizzo

Ogni risposta, in streaming o meno, include un oggetto usage con prompt_tokens e completion_tokens per quella specifica richiesta (vedere Chat completions e Streaming per sapere esattamente dove compare in ciascuna modalità). Moltiplicando questi valori per la tabella sopra si ottiene il costo esatto di quella richiesta. L'utilizzo viene anche aggregato automaticamente per chiave ed è visibile nella pagina Utilizzo della console, nell'ambito dello spazio di lavoro a cui la chiave appartiene, cosicché il monitoraggio quotidiano dei costi non richiede di calcolarlo da soli a partire dai conteggi grezzi dei token su ogni richiesta.

Cosa influisce sul costo, e cosa no

Il costo cresce in base ai token effettivamente elaborati e generati, e a nient'altro. Trasmettere una risposta in streaming non costa più che riceverla in un'unica chiamata bloccante; è la stessa generazione, consegnata in modo diverso. Le definizioni di strumenti passate nel campo tools vengono conteggiate come token di input allo stesso modo di qualsiasi altra parte della richiesta, quindi una richiesta con un numero elevato di strumenti descritti in modo verboso costa un po' di più in token di input rispetto alla stessa richiesta senza di essi, proporzionalmente a quanto testo le definizioni degli strumenti aggiungono effettivamente. Un'immagine allegata a una richiesta viene convertita in un certo numero di token di input dal modello stesso come parte della sua elaborazione; non c'è un addebito fisso separato per immagine oltre a questo.

Cronologia della conversazione e costo ripetuto

Poiché l'API è stateless (vedere Chat completions), ogni richiesta in una conversazione multi-turno reinvia l'intera cronologia come input, e quella cronologia viene fatturata di nuovo come token di input a ogni singolo turno, non solo una volta. Il costo di input per turno di una conversazione lunga cresce man mano che la cronologia cresce, poiché ogni nuova richiesta include tutto ciò che la precede. Per una conversazione che si prevede duri molto a lungo, tagliare o riassumere i turni più vecchi prima di includerli in una richiesta è un modo ragionevole per mantenere questo costo limitato, al prezzo del fatto che il modello non avrà più accesso testuale letterale a ciò che è stato tagliato.