Saltar a contenido

Modelos y consumo

Un modelo responde si cumple tres cosas: está declarado en config.yaml, tiene una tarifa vigente, y el usuario tiene margen para gastar. Cada pieza vive en un sitio distinto, porque cambian a ritmos distintos.

Dónde Por qué ahí
Qué modelos hay config.yaml → modelos Es configuración: se versiona con el proyecto
A cuánto se cobra cada uno tai-chat config → Tarifas Son datos con historia: lo ya cobrado no puede cambiar porque se edite un fichero
Cuánto puede gastar cada usuario config.yaml → consumo, y la pantalla de consumo El límite por defecto se declara; el de cada uno se ajusta en la aplicación

Declarar los modelos

modelos:
  - alias: rapido
    etiqueta: GPT-4o mini
    proveedor: openai
    modelo: gpt-4o-mini
    clave: OPENAI_API_KEY
    max_tokens: 2048
    temperatura: 0.7
    por_defecto: true

  - alias: azure
    etiqueta: GPT-4o (Azure)
    proveedor: azure-openai
    modelo: mi-despliegue          # el nombre del despliegue
    endpoint: https://mi-recurso.openai.azure.com
    clave: AZURE_OPENAI_API_KEY

  - alias: gemini
    proveedor: google
    modelo: gemini-2.5-flash
    clave: GOOGLE_API_KEY
    razonamiento: 1024             # thinking_budget
Clave Qué es
alias El nombre con el que se pide: en minúsculas, sin espacios. No se cambia, porque las conversaciones y las tarifas lo referencian
etiqueta El nombre que ve el usuario en el selector. Sin él, el del modelo
proveedor openai, azure-openai o google
modelo El nombre del modelo, o del despliegue en Azure
clave El nombre de la variable de entorno con la clave
endpoint El del recurso, en Azure
credenciales, proyecto_google, region Para Google con cuenta de servicio
max_tokens, temperatura Los de la llamada
razonamiento El presupuesto de razonamiento de los modelos de Google que lo admiten
por_defecto Con el que se responde si no se elige otro. Tiene que haber exactamente uno

En Azure, llama al despliegue como el modelo (gpt-5.1, gpt-6-luna): el chat decide por ese nombre cómo llamarlo. Un gpt-6 con herramientas va por la Responses API, y uno con otro nombre iría por Chat Completions, donde Azure rechaza las herramientas si el modelo razona.

tai-chat db push lleva la lista a la tabla modelo: crea los nuevos, actualiza los que cambian y desactiva los que se quitan, sin borrarlos, porque sus tarifas y su consumo se conservan. Enseña los cambios y pregunta antes de aplicarlos.

El usuario elige el modelo en la conversación, y la elección se queda guardada en ella: al volver, sigue con el mismo. Si el modelo de una conversación deja de estar disponible, se responde con el de por defecto.

Las tarifas

Sin tarifa vigente un modelo no se usa: no se sabría a cuánto cobrar la respuesta. Se dan de alta en el menú:

tai-chat config

Una tarifa es el precio por millón de tokens de entrada y de salida —lo que cobra el proveedor—, un margen que lo multiplica, y desde qué día rige. Para cambiar de precio se da de alta una tarifa nueva desde una fecha: la anterior se cierra ese día, y lo consumido antes se sigue valorando con ella.

La caché del proveedor

Los tres proveedores guardan unos minutos el principio de una petición larga (OpenAI y Azure desde 1.024 tokens, Gemini 3 desde 4.096) y, si la siguiente empieza igual, no lo vuelven a procesar: esa parte de la entrada sale de la caché y la cobran mucho más barata. En una respuesta con herramientas pasa casi siempre, porque cada llamada al modelo repite las instrucciones, las definiciones de las herramientas y la conversación.

Por eso una tarifa tiene, junto a la entrada y la salida, dos precios más, opcionales:

Precio Qué es De dónde sale
Cache input La entrada que sale de la caché: lo que ya estaba guardado de una petición anterior El «cached input» de la página de precios del proveedor: en GPT-5.1, 0,125 $ frente a 1,25 $ de entrada; en Gemini 3.1 Pro, 0,20 $ frente a 2,00 $
Cache write La entrada que se guarda en la caché para la siguiente El «cache writes», solo en OpenAI y Azure desde GPT-5.6: 1,25 veces la entrada. En los demás modelos, y en Gemini, escribir no se cobra aparte

Son dos cosas distintas, y las dos van dentro de la entrada: los tokens de entrada son lo normal más lo leído de la caché más lo escrito en ella. Sin precio, van al de entrada, que es lo que se hacía antes de tenerlos: una tarifa sin cache input cobra por encima de lo que factura el proveedor lo que la caché ahorró. En un modelo sin cache write da igual dejarlo vacío que poner 0: el proveedor no apunta nada escrito. tai-chat consumo dice cuánto sale de la caché y avisa si pesa sin precio.

En las pantallas de Consumo y de Mi consumo, la caché va en su columna, junto a la entrada, que va sin ella. Las tablas enseñan los tokens totales y, al lado, las cuatro partes que los suman: la entrada (sin la caché), los leídos de caché (el cache input de la tarifa), los escritos en caché (el cache write) y la salida. De 10.000 tokens de entrada con 6000 leídos de caché y 1000 de salida: 11.000 totales, 4000 de entrada, 6000 leídos de caché, 0 escritos en caché y 1000 de salida. Un mes de antes de que tai-chat apuntara la caché sale con «—»: el dato llega con la respuesta del proveedor a cada llamada, y no se puede recuperar después.

Peticiones muy largas

Algunos modelos cobran más una petición muy larga, y entonces todo: la entrada, la caché y la salida. Los Gemini Pro, por encima de 200.000 tokens; los OpenAI de cabecera (GPT-5.4 en adelante), por encima de 272.000. Las tarifas tienen un solo precio, el de las peticiones normales. Con max_tokens_contexto por debajo de esos umbrales no se llega a ellos.

En el menú Qué hace
Nueva tarifa La que rige a partir de una fecha
Corregir Cambia una tarifa que estaba mal. Enseña, mes a mes, cuánto cambia lo ya cobrado, y pregunta
Cerrar Le pone fecha de fin: así se retira un modelo sin borrar su historia
Eliminar Solo si no se ha valorado nada con ella

Cada respuesta guarda con qué tarifa se valora, no su importe. El dinero vive solo en la tabla de tarifas, y las vistas de consumo lo calculan: por eso una corrección rehace lo cobrado sin tocar los apuntes.

La API relee el catálogo cada consumo.cache_catalogo_s segundos (60 por defecto): lo que se cambie en el menú tarda eso en verse en el chat.

Cuánto puede gastar cada usuario

Hay dos modos, según consumo.bolsas.

Se factura a mes vencido. Cada usuario tiene un límite mensual en euros: quien llega nuevo se lleva consumo.limite_por_defecto_eur, y quien tenga el permiso de consumo lo ajusta para cada uno en la pantalla Consumo. Al alcanzarlo, el chat contesta que se ha llegado al límite en vez de responder.

Se compran créditos por adelantado. Cada bolsa tiene un importe y se gastan en orden de alta: se consume la más antigua hasta agotarla y entonces entra la siguiente. Sin ninguna con saldo, el chat no responde. Los límites de cada usuario siguen aplicando.

Las bolsas se gestionan en tai-chat config → Bolsas.

Antes de llamar al proveedor, el agente comprueba que hay un modelo con tarifa, que el usuario no ha pasado su límite y, con bolsas, que queda saldo. Si algo falla, contesta el motivo como una respuesta más, sin llamar al modelo ni gastar nada. Si el proveedor dice que su clave se ha quedado sin crédito, el usuario lo lee igual, sin la traza del error.

Qué cuenta como consumo

Todo lo que se pide al modelo para responder: cada vuelta del agente —pedir una herramienta, contestar con su resultado— y lo que gasten los sub-agentes de las herramientas. El consumo de una respuesta lo explica en detalle.

Dónde se ve

Pantalla Quién Qué enseña
Los ajustes de la cuenta Todos Lo gastado este mes frente a su límite
Mi consumo Todos Su consumo del mes y día a día, con la caché en su columna
Consumo Con app-consumo General, el consumo de cada usuario, los límites y los modelos, con exportación a CSV y PDF; la caché, en su columna, por modelo y por usuario
Cada respuesta Con app-lab Los tokens y las herramientas de esa respuesta