Modelos y consumo¶
Un modelo responde si cumple tres cosas: está declarado en config.yaml, tiene una tarifa
vigente, y el usuario tiene margen para gastar. Cada pieza vive en un sitio distinto, porque
cambian a ritmos distintos.
| Dónde | Por qué ahí | |
|---|---|---|
| Qué modelos hay | config.yaml → modelos |
Es configuración: se versiona con el proyecto |
| A cuánto se cobra cada uno | tai-chat config → Tarifas |
Son datos con historia: lo ya cobrado no puede cambiar porque se edite un fichero |
| Cuánto puede gastar cada usuario | config.yaml → consumo, y la pantalla de consumo |
El límite por defecto se declara; el de cada uno se ajusta en la aplicación |
Declarar los modelos¶
modelos:
- alias: rapido
etiqueta: GPT-4o mini
proveedor: openai
modelo: gpt-4o-mini
clave: OPENAI_API_KEY
max_tokens: 2048
temperatura: 0.7
por_defecto: true
- alias: azure
etiqueta: GPT-4o (Azure)
proveedor: azure-openai
modelo: mi-despliegue # el nombre del despliegue
endpoint: https://mi-recurso.openai.azure.com
clave: AZURE_OPENAI_API_KEY
- alias: gemini
proveedor: google
modelo: gemini-2.5-flash
clave: GOOGLE_API_KEY
razonamiento: 1024 # thinking_budget
| Clave | Qué es |
|---|---|
alias |
El nombre con el que se pide: en minúsculas, sin espacios. No se cambia, porque las conversaciones y las tarifas lo referencian |
etiqueta |
El nombre que ve el usuario en el selector. Sin él, el del modelo |
proveedor |
openai, azure-openai o google |
modelo |
El nombre del modelo, o del despliegue en Azure |
clave |
El nombre de la variable de entorno con la clave |
endpoint |
El del recurso, en Azure |
credenciales, proyecto_google, region |
Para Google con cuenta de servicio |
max_tokens, temperatura |
Los de la llamada |
razonamiento |
El presupuesto de razonamiento de los modelos de Google que lo admiten |
por_defecto |
Con el que se responde si no se elige otro. Tiene que haber exactamente uno |
En Azure, llama al despliegue como el modelo (gpt-5.1, gpt-6-luna): el chat decide por ese
nombre cómo llamarlo. Un gpt-6 con herramientas va por la Responses API, y uno con otro nombre iría por Chat
Completions, donde Azure rechaza las herramientas si el modelo razona.
tai-chat db push lleva la lista a la tabla modelo: crea los nuevos, actualiza los que cambian y
desactiva los que se quitan, sin borrarlos, porque sus tarifas y su consumo se conservan.
Enseña los cambios y pregunta antes de aplicarlos.
El usuario elige el modelo en la conversación, y la elección se queda guardada en ella: al volver, sigue con el mismo. Si el modelo de una conversación deja de estar disponible, se responde con el de por defecto.
Las tarifas¶
Sin tarifa vigente un modelo no se usa: no se sabría a cuánto cobrar la respuesta. Se dan de alta en el menú:
Una tarifa es el precio por millón de tokens de entrada y de salida —lo que cobra el proveedor—, un margen que lo multiplica, y desde qué día rige. Para cambiar de precio se da de alta una tarifa nueva desde una fecha: la anterior se cierra ese día, y lo consumido antes se sigue valorando con ella.
La caché del proveedor¶
Los tres proveedores guardan unos minutos el principio de una petición larga (OpenAI y Azure desde 1.024 tokens, Gemini 3 desde 4.096) y, si la siguiente empieza igual, no lo vuelven a procesar: esa parte de la entrada sale de la caché y la cobran mucho más barata. En una respuesta con herramientas pasa casi siempre, porque cada llamada al modelo repite las instrucciones, las definiciones de las herramientas y la conversación.
Por eso una tarifa tiene, junto a la entrada y la salida, dos precios más, opcionales:
| Precio | Qué es | De dónde sale |
|---|---|---|
| Cache input | La entrada que sale de la caché: lo que ya estaba guardado de una petición anterior | El «cached input» de la página de precios del proveedor: en GPT-5.1, 0,125 $ frente a 1,25 $ de entrada; en Gemini 3.1 Pro, 0,20 $ frente a 2,00 $ |
| Cache write | La entrada que se guarda en la caché para la siguiente | El «cache writes», solo en OpenAI y Azure desde GPT-5.6: 1,25 veces la entrada. En los demás modelos, y en Gemini, escribir no se cobra aparte |
Son dos cosas distintas, y las dos van dentro de la entrada: los tokens de entrada son lo normal más lo
leído de la caché más lo escrito en ella. Sin precio, van al de entrada, que es lo que se hacía
antes de tenerlos: una tarifa sin cache input cobra por encima de lo que factura el proveedor lo que la
caché ahorró. En un modelo sin cache write da igual dejarlo vacío que poner 0: el proveedor no apunta
nada escrito. tai-chat consumo dice cuánto sale de la caché y avisa si pesa sin precio.
En las pantallas de Consumo y de Mi consumo, la caché va en su columna, junto a la entrada, que va sin ella. Las tablas enseñan los tokens totales y, al lado, las cuatro partes que los suman: la entrada (sin la caché), los leídos de caché (el cache input de la tarifa), los escritos en caché (el cache write) y la salida. De 10.000 tokens de entrada con 6000 leídos de caché y 1000 de salida: 11.000 totales, 4000 de entrada, 6000 leídos de caché, 0 escritos en caché y 1000 de salida. Un mes de antes de que tai-chat apuntara la caché sale con «—»: el dato llega con la respuesta del proveedor a cada llamada, y no se puede recuperar después.
Peticiones muy largas
Algunos modelos cobran más una petición muy larga, y entonces todo: la entrada, la caché y la
salida. Los Gemini Pro, por encima de 200.000 tokens; los OpenAI de cabecera (GPT-5.4 en adelante),
por encima de 272.000. Las tarifas tienen un solo precio, el de las peticiones normales. Con
max_tokens_contexto por debajo de esos umbrales no se llega a ellos.
| En el menú | Qué hace |
|---|---|
| Nueva tarifa | La que rige a partir de una fecha |
| Corregir | Cambia una tarifa que estaba mal. Enseña, mes a mes, cuánto cambia lo ya cobrado, y pregunta |
| Cerrar | Le pone fecha de fin: así se retira un modelo sin borrar su historia |
| Eliminar | Solo si no se ha valorado nada con ella |
Cada respuesta guarda con qué tarifa se valora, no su importe. El dinero vive solo en la tabla de tarifas, y las vistas de consumo lo calculan: por eso una corrección rehace lo cobrado sin tocar los apuntes.
La API relee el catálogo cada consumo.cache_catalogo_s segundos (60 por defecto): lo que se cambie
en el menú tarda eso en verse en el chat.
Cuánto puede gastar cada usuario¶
Hay dos modos, según consumo.bolsas.
Se factura a mes vencido. Cada usuario tiene un límite mensual en euros: quien llega nuevo
se lleva consumo.limite_por_defecto_eur, y quien tenga el permiso de consumo lo ajusta para
cada uno en la pantalla Consumo. Al alcanzarlo, el chat contesta que se ha llegado al límite
en vez de responder.
Se compran créditos por adelantado. Cada bolsa tiene un importe y se gastan en orden de alta: se consume la más antigua hasta agotarla y entonces entra la siguiente. Sin ninguna con saldo, el chat no responde. Los límites de cada usuario siguen aplicando.
Las bolsas se gestionan en tai-chat config → Bolsas.
Antes de llamar al proveedor, el agente comprueba que hay un modelo con tarifa, que el usuario no ha pasado su límite y, con bolsas, que queda saldo. Si algo falla, contesta el motivo como una respuesta más, sin llamar al modelo ni gastar nada. Si el proveedor dice que su clave se ha quedado sin crédito, el usuario lo lee igual, sin la traza del error.
Qué cuenta como consumo¶
Todo lo que se pide al modelo para responder: cada vuelta del agente —pedir una herramienta, contestar con su resultado— y lo que gasten los sub-agentes de las herramientas. El consumo de una respuesta lo explica en detalle.
Dónde se ve¶
| Pantalla | Quién | Qué enseña |
|---|---|---|
| Los ajustes de la cuenta | Todos | Lo gastado este mes frente a su límite |
| Mi consumo | Todos | Su consumo del mes y día a día, con la caché en su columna |
| Consumo | Con app-consumo |
General, el consumo de cada usuario, los límites y los modelos, con exportación a CSV y PDF; la caché, en su columna, por modelo y por usuario |
| Cada respuesta | Con app-lab |
Los tokens y las herramientas de esa respuesta |