Elegir modelo de IA: 4 errores que cuestan caro

9 min de lectura · 1.953 palabras

Llevo dos meses usando un agente de IA con acceso a mi terminal y a mis archivos. En ese tiempo rompí cosas, gasté cuota a lo tonto y aprendí a golpes algo que nadie te cuenta cuando empiezas: elegir modelo de IA es la decisión menos importante que vas a tomar. Lo que decide tu factura es otra cosa, y no aparece en ninguna tabla comparativa.

Una aclaración que importa: ese agente vive en un servidor de pruebas, no en producción. Un agente con acceso a la terminal es tan peligroso como suena, y no va en la máquina donde están las cosas que importan.

Este artículo no es una guía teórica. Es lo que me pasó, con los números que quedaron registrados, y los cuatro errores que cometí por el camino. Si estás empezando, esto te ahorra la pared contra la que me choqué. Y si todavía no montaste nada, la pieza anterior de esta serie —instalar un agente de IA en tu PC— es el paso previo.

1. El error de elegir por precio

La primera decisión que toma casi todo el mundo al elegir modelo de IA es comparar precios por millón de tokens. Tiene lógica: es el único número que las páginas de cada proveedor ponen en grande. El problema es que ese número describe un costo unitario, y tu factura no es un costo unitario multiplicado por algo. Es el resultado de cuántas veces repites contexto.

Hay una segunda razón, más práctica, para no elegir solo por precio: los modelos baratos no siempre pueden hacer lo mismo. Un modelo que no soporta tool calling —la capacidad de pedir que se ejecute una función— no puede operar un agente. Puede conversar, puede resumir, y ahí se termina.

Lo que mirás al elegir	Lo que decide tu gasto	Cómo se mide
Precio por millón de tokens	Tokens de contexto por turno	Lo reporta el proveedor
Puntaje en un benchmark	Cantidad de llamadas por tarea	Se cuenta en tu registro
Tamaño de la ventana	Cuánto de esa ventana llenás	Se mide, no se estima
Velocidad de respuesta	Tiempo hasta la primera llamada útil	Cronómetro, no intuición

Ninguno de los números de la derecha aparece en la página de precios de un proveedor.

2. Un fallback que no sabe usar herramientas

El segundo error fue más caro y más silencioso: configurar un modelo de respaldo por precio y no por capacidad.

Un fallback entra en juego cuando el modelo principal falla —por límite de tasa, por sobrecarga o por un corte de conexión—. Es decir, entra en el peor momento posible: a mitad de una tarea, con herramientas ya ejecutadas y estado a medio construir. Si el que entra no sabe emitir una llamada a función, el agente deja de poder hacer su trabajo. No se degrada: se detiene.

Lo que hace que el esquema de herramientas importe no es solo la capacidad, es que se paga en cada llamada. La documentación de OpenAI lo dice sin rodeos: las definiciones de funciones “count against the model’s context limit and are billed as input tokens” ^[3]. En una de mis sesiones medí doce herramientas ocupando 16.499 caracteres de esquema, unos 4.100 tokens, enviados en cada petición. Ese piso no depende de lo que escribas: depende de cuántas herramientas tengas cargadas.

Un fallback se elige para que ejecute herramientas, no para que converse. Probar que responde es lo fácil; probar que puede actuar es lo único que importa.

Así que cuando elijas respaldo, la prueba no es “responde”. La prueba es: le mandás una herramienta ficticia y verificás que devuelve una llamada bien formada. Yo lo hice con tres modelos gratuitos antes de decidir cuál dejaba. Dos respondieron y uno de ellos además devolvió la llamada correcta. Ese fue el que quedó.

3. Dónde vive realmente el consumo

Acá está el número que cambió mi forma de trabajar. Un día de uso intenso, mi panel marcaba 22,2 millones de tokens y 96 peticiones. De esos 22,2 millones, 21,0 millones eran lectura de caché: el 94,6%. La salida real —lo que el modelo escribió— fueron 52,8 mil tokens. Menos del 0,3%.

La lectura de caché es más barata que la entrada normal: Anthropic la cobra a 0,1× del precio base de entrada, y a 0,05× en sus modelos más nuevos ^[1]; OpenAI aplica descuentos equivalentes sobre el prefijo cacheado ^[2]. Pero “más barata” no es gratis, y sobre todo: es un costo que crece con tu historial. Cada mensaje nuevo reenvía la conversación entera, y si esa conversación pesa 129.000 tokens, esos 129.000 se releen en cada turno.

Componente	Qué contiene	Tokens medidos
Instrucciones fijas	Personalidad, memoria, índices	~10.600
Esquemas de herramientas	12 funciones declaradas	~4.100
Conversación	Historial de la sesión	~219.000
Salida	Lo que el modelo escribe	~550

Medición sobre una petición real capturada en mi registro, con el promedio por llamada de ese día (21,0 millones entre 96 peticiones).

4. Dos meses midiendo mi cuota

Este es el gráfico que me hizo cambiar de hábito. Cada sesión de mi agente deja un registro con modelo, proveedor, tokens de entrada y tokens de salida. Sumé los dos meses completos de uso.

Periodo	Consumo	Qué cambió
Octubre completo	549 M tokens	Sesiones cortas, por tarea
1 al 4 de noviembre	916 M tokens	Una sesión que no cerré
Reparto por modelo	72% un solo modelo	El resto, marginal

Cuatro días de noviembre superaron el mes de octubre completo. El modelo usado fue el mismo: lo único que cambió fue cuánto historial arrastraba cada llamada.

Ese es el hallazgo, y es incómodo: no fue el modelo. Fue que dejé una sesión abierta acumulando historial durante días. Cada pregunta nueva reenviaba todo lo anterior. El costo no crece de forma lineal con el uso: crece con el cuadrado de la conversación.

La cuota oficial lo confirma desde el otro lado. Mi panel de proveedor marcaba 48% del límite mensual consumido, con el semanal en 78%. Con ese ritmo, el mes se terminaba en la primera quincena. No por haber elegido mal el modelo: por haber elegido mal el tamaño de la conversación.

5. Qué hacer mañana mismo

Nada de esto requiere cambiar de proveedor ni pagar más. Requiere cuatro decisiones, en este orden:

Decisión	Por qué	Efecto medido
Un chat por tema	El historial se reenvía entero	El mayor ahorro de todos
Modelo gratuito por defecto	El uso diario no toca la cuota	Cuota intacta
Pago solo para el trabajo fino	Ahí sí importa la calidad	Gasto concentrado
Fallback probado con herramientas	Entra en el peor momento	Evita la tarea a medias

Ninguna de las cuatro cuesta dinero. Todas cambian el resultado.

Hay un dato que me sorprendió al revisar mi propia infraestructura: los procesos automáticos —los que corren solos todos los días, sin que yo escriba nada— representaban el 0,17% del consumo total. El resto era conversación. Es decir, el gasto no estaba en la automatización, estaba en mí.

6. Dónde los datos no alcanzan

Todo lo anterior sale de mi propio registro, y eso tiene límites que conviene decir en voz alta.

Primero: mi medición cuenta tokens de entrada, caché y salida, pero no es el mismo número que muestra el panel del proveedor. Cuando comparé, el panel reportaba 22,2 millones para un día en el que mi registro sumaba bastante más. No son cifras contradictorias, son dos formas distintas de contar; para tendencias sirve mi registro, para saber cuánto te queda de cuota solo sirve el panel.

Segundo: es una muestra de una persona, con un patrón de uso concreto —agente con terminal, sesiones de trabajo largas—. Si tu uso es conversacional y breve, tus números no se van a ver así. La conclusión que sí generaliza es la del mecanismo: el historial se reenvía, y se paga.

Tercero: no medí cuánto de mi ahorro vino de cada cambio por separado. Apliqué varias cosas a la vez y el resultado agregado fue una caída fuerte del consumo, pero no puedo atribuirle un porcentaje exacto a cada una. Decir lo contrario sería inventar precisión.

Esta pieza continúa una serie sobre montar y sostener un agente propio. El paso previo está en cómo instalar un agente de IA en tu PC, y el terreno donde corre todo esto, en cinco formas en que la IA llegó a Linux.

Preguntas frecuentes

¿Conviene usar siempre el modelo más barato?

No. Conviene usar el más barato que pueda ejecutar herramientas, y reservar el caro para el trabajo donde la diferencia se nota. Un modelo barato que no puede llamar funciones te obliga a hacer el trabajo a mano.

¿Qué hace exactamente un modelo de respaldo?

Entra en juego cuando el principal falla por límite de tasa, sobrecarga o corte de conexión. Debe estar configurado antes de que eso pase, y debe poder ejecutar las mismas herramientas, o el agente se detiene a mitad de la tarea.

¿Por qué una sesión larga gasta tanto si el modelo es el mismo?

Porque cada mensaje reenvía el historial completo al modelo. Con caché el precio por token baja, pero la cantidad de tokens releídos crece con la conversación. Un chat de cientos de mensajes paga ese historial en cada turno.

¿Un modelo gratuito consume mi cuota mensual?

Depende del proveedor. En los planes que cobran por suscripción, los modelos gratuitos suelen quedar fuera del cómputo; en los que cobran por crédito, el costo es cero pero existen límites de peticiones por día. Verifícalo antes de asumirlo.

¿Cuánto tarda en notarse el ahorro?

Inmediato en el consumo por turno, pero visible en el panel recién al día siguiente, cuando el ciclo diario se cierra. La cuota semanal es la que primero muestra el cambio.

Fuentes

1. Anthropic. Prompt caching. Multiplicadores de precio de lectura de caché y mínimos por modelo. docs.anthropic.com/en/docs/build-with-claude/prompt-caching
2. OpenAI. Prompt caching. Longitud mínima cacheable y descuentos sobre el prefijo. platform.openai.com/docs/guides/prompt-caching
3. OpenAI. Function calling. Las definiciones de funciones se facturan como tokens de entrada. platform.openai.com/docs/guides/function-calling
4. Anthropic. Tool use overview. Esquemas de herramientas y elección de herramienta. docs.anthropic.com/en/docs/build-with-claude/tool-use/overview
5. OpenRouter. Limits. Presupuestos por clave y exclusión de modelos gratuitos. openrouter.ai/docs/api-reference/limits
6. Medición propia. Registro local de sesiones del agente, 1 de octubre al 4 de noviembre: modelo, proveedor, tokens de entrada, caché y salida por sesión.
7. Medición propia. Endpoint de uso del proveedor, ventanas rodante, semanal y mensual, consultado el 4 de noviembre.