Preços

Preços por modelo

Modelo	Entrada ($ / 1M tokens)	Saída ($ / 1M tokens)
tai-4.0.6P	$0,20	$1,00
tai-4.0.6B	$0,35	$1,75
tai-4.0.7	$0,75	$2,00
tai-4.1	$0,90	$2,00
tai-4.2	$1,00	$2,50

Os tokens de entrada são tudo o que é enviado ao modelo num determinado pedido: a instrução de sistema, todas as mensagens no histórico da conversa, e quaisquer definições de ferramentas incluídas. Os tokens de saída são o que o modelo gera em resposta. Os dois têm preços separados porque não são intercambiáveis em custo: gerar tokens é uma operação significativamente diferente (e, em geral, mais dispendiosa) do que processar tokens que já estão presentes.

Um exemplo prático

Um pedido a tai-4.1 com 1300 tokens de entrada e 230 tokens de saída:

Input:  1,300 / 1,000,000 × $0.90  =  $0.00117
Output:   230 / 1,000,000 × $2.00  =  $0.00046
                                 Total  ≈ $0.00163

Pedidos individuais são quase sempre frações de um cêntimo. O custo acumula-se com o volume, o que é exatamente para que serve o objeto usage em cada resposta, permitindo acompanhá-lo por pedido em vez de só descobrir o gasto total depois de este já ter acontecido.

Acompanhar a utilização

Cada resposta, em streaming ou não, inclui um objeto usage com prompt_tokens e completion_tokens para esse pedido específico (consulte Conclusões de chat e Streaming para saber exatamente onde aparece em cada modo). Multiplicar esses valores pela tabela acima dá o custo exato desse pedido. A utilização também é agregada automaticamente por chave e visível na página de Utilização da consola, delimitada ao workspace a que a chave pertence, pelo que o acompanhamento do custo do dia a dia não exige que o calcule você mesmo a partir das contagens de tokens em bruto de cada pedido.

O que afeta o custo, e o que não afeta

O custo escala com os tokens efetivamente processados e gerados, nada mais. Fazer streaming de uma resposta não custa mais do que a receber de volta numa única chamada bloqueante; é a mesma geração, entregue de forma diferente. As definições de ferramentas passadas no campo tools contam como tokens de entrada da mesma forma que qualquer outra parte do pedido, pelo que um pedido com um grande número de ferramentas descritas de forma extensa custa um pouco mais em tokens de entrada do que o mesmo pedido sem elas, proporcionalmente a quanto texto as definições de ferramentas efetivamente acrescentam. Uma imagem anexada a um pedido é convertida num número de tokens de entrada pelo próprio modelo como parte do seu processamento; não há um custo fixo separado por imagem para além disso.

Histórico da conversa e custo repetido

Como a API não guarda estado (consulte Conclusões de chat), todos os pedidos numa conversa com vários turnos reenviam o histórico completo como entrada, e esse histórico é faturado novamente como tokens de entrada em cada turno, não apenas uma vez. O custo de entrada por turno de uma conversa longa cresce à medida que o histórico cresce, uma vez que cada novo pedido inclui tudo o que veio antes. Para uma conversa que se espera que se prolongue bastante, cortar ou resumir turnos mais antigos antes de os incluir num pedido é uma forma razoável de manter isto limitado, ao custo de o modelo deixar de ter acesso literal ao que foi cortado.