Precios
Con precio por token, por separado para entrada y salida, según el modelo. Sin cargo adicional por streaming, llamadas a herramientas, o entrada de imágenes más allá de los tokens que consumen.
Precios por modelo
| Modelo | Entrada ($ / 1M tokens) | Salida ($ / 1M tokens) |
|---|---|---|
| tai-4.0.6P | $0.20 | $1.00 |
| tai-4.0.6B | $0.35 | $1.75 |
| tai-4.0.7 | $0.75 | $2.00 |
| tai-4.1 | $0.90 | $2.00 |
| tai-4.2 | $1.00 | $2.50 |
Los tokens de entrada son todo lo que se envía al modelo en una solicitud dada: el system prompt, cada mensaje del historial de la conversación, y cualquier definición de herramienta incluida. Los tokens de salida son lo que el modelo genera como respuesta. Ambos tienen precio por separado porque no son intercambiables en costo: generar tokens es una operación considerablemente distinta (y por lo general más cara) que procesar tokens que ya están ahí.
Un ejemplo desarrollado
Una solicitud a tai-4.1 con 1300 tokens de entrada y 230 de salida:
Input: 1,300 / 1,000,000 × $0.90 = $0.00117
Output: 230 / 1,000,000 × $2.00 = $0.00046
Total ≈ $0.00163
Las solicitudes individuales son casi siempre fracciones de centavo. El costo se acumula con el volumen, que es exactamente para lo que sirve el objeto usage en cada respuesta, permitiéndole hacer seguimiento por solicitud en lugar de descubrir el gasto total solo después del hecho.
Seguimiento del uso
Toda respuesta, con o sin streaming, incluye un objeto usage con prompt_tokens y completion_tokens para esa solicitud específica (vea Chat completions y Streaming para saber exactamente dónde aparece en cada modo). Multiplicar esos valores por la tabla anterior da el costo exacto de esa solicitud. El uso también se agrega automáticamente por clave y es visible en la página de Uso de la consola, dentro del alcance del workspace al que pertenece la clave, así que el seguimiento del costo día a día no requiere calcularlo usted mismo a partir de los recuentos de tokens en bruto de cada solicitud.
Qué afecta al costo, y qué no
El costo escala con los tokens realmente procesados y generados, nada más. Usar streaming en una respuesta no cuesta más que recibirla de vuelta en una sola llamada bloqueante; es la misma generación, entregada de forma distinta. Las definiciones de herramientas pasadas en el campo tools cuentan como tokens de entrada igual que cualquier otra parte de la solicitud, así que una solicitud con un número grande de herramientas descritas de forma extensa cuesta algo más en tokens de entrada que la misma solicitud sin ellas, en proporción a cuánto texto añaden realmente las definiciones de herramientas. Una imagen adjunta a una solicitud se convierte en una cantidad de tokens de entrada por el propio modelo como parte de su procesamiento; no hay un cargo fijo adicional por imagen aparte de eso.
Historial de conversación y costo repetido
Como la API no tiene estado (vea Chat completions), cada solicitud en una conversación de varios turnos reenvía el historial completo como entrada, y ese historial se factura de nuevo como tokens de entrada en cada turno, no solo una vez. El costo de entrada por turno de una conversación de larga duración crece a medida que crece el historial, ya que cada nueva solicitud incluye todo lo anterior. Para una conversación que se espere muy larga, recortar o resumir los turnos más antiguos antes de incluirlos en una solicitud es una manera razonable de mantener esto acotado, al costo de que el modelo ya no tenga acceso textual a lo que se recortó.