El uso de grandes modelos de lenguaje está cambiando. Ya no son solo las personas quienes escriben preguntas en una ventana de chat, sino cada vez más el software: los agentes de IA ejecutan varios pasos de trabajo de forma autónoma y envían sus propias solicitudes a los modelos. Según observaciones recientes, estos agentes consumen alrededor de cinco veces más tokens que el uso directo por parte de las personas. La proporción máquina ya supera a la humana.
Los tokens son la unidad de facturación de los modelos de lenguaje; en términos generales, son fragmentos de palabras que se cuentan tanto en la solicitud como en la respuesta. Quien utiliza un modelo a través de una interfaz de programación paga normalmente por token. Para los presupuestos de proyecto, esta es la palanca decisiva: no es el número de usuarios lo que impulsa los costes, sino la cantidad de texto procesado.
Por qué los agentes consumen tanto
La razón está en la forma de trabajar. Una persona plantea una pregunta, lee la respuesta y quizá formula una repregunta. Un agente descompone una tarea en subtareas, verifica resultados intermedios, invoca herramientas, procesa sus devoluciones e inicia la siguiente ejecución. Cada uno de estos pasos es una solicitud propia al modelo, y cada solicitud arrastra total o parcialmente el contexto acumulado hasta ese momento.
A ello se suma que los agentes leen cosas que ninguna persona leería por completo: archivos de registro, configuraciones, respuestas de API, estructuras de directorios enteras. Lo que en un chat sería una pregunta de dos líneas se convierte rápidamente, en la operación con agentes, en una ventana de contexto de varios miles de tokens. Los intentos fallidos y las repeticiones se añaden además, pues un agente que descarta un camino y prueba otro paga ambos.
No hay que subestimar la necesidad de memoria. Los agentes necesitan memoria: resultados intermedios, historiales, bases de conocimiento para enriquecer las solicitudes. Eso se refleja en la infraestructura, no solo en el cómputo del modelo. Y cuanto más automatización surge en el mercado, más crece la demanda de exactamente esa capacidad de cómputo y almacenamiento.
Qué significa esto para el cálculo
La consecuencia práctica: quien integra agentes en procesos de desarrollo o automatización no puede simplemente extrapolar los valores empíricos del uso de chat. Un piloto con diez casos de prueba dice poco sobre los costes en la operación habitual con mil procesos por semana. La curva de costes no es plana, sino proporcional al volumen, y en agentes mal delimitados es desproporcionada, porque cada paso adicional arrastra nuevo contexto.
Al mismo tiempo, esto no es un argumento contra los agentes. Un agente que reduce un proceso manual de 40 minutos a tres minutos puede consumir sin problema bastantes más tokens que un prompt de chat. La cuestión no es si el consumo es alto, sino si guarda una relación comprensible con el esfuerzo ahorrado.
Cuatro puntos de partida para la planificación
- Coste por proceso en lugar de tarifa mensual plana: Calcule una ejecución individual: cuántas llamadas al modelo, cuánto contexto por llamada. Ese número multiplicado por el volumen esperado da una base sólida. Una tarifa plana estimada a ojo no lo hace.
- Limitar el contexto de forma consciente: No todos los pasos necesitan el historial completo. Los resúmenes, los extractos específicos y las tareas claramente delimitadas reducen el consumo de forma notable sin dañar la calidad del resultado.
- Elegir los modelos según la tarea: Clasificar, formatear o extraer suele funcionar con modelos más pequeños y económicos. El modelo grande queda reservado para los pasos que realmente lo necesitan.
- Criterios de interrupción y límites máximos: Los agentes sin límite de número de pasos pueden entrar en bucles. Los límites estrictos por proceso, los límites de presupuesto por periodo y las alertas ante valores atípicos forman parte del concepto operativo, no son un extra.
La transparencia como requisito operativo
Quien opera agentes en producción necesita métricas. Tokens por proceso, coste por proceso, tasa de éxito, proporción de repeticiones: sin estos indicadores, la factura a fin de mes es una sorpresa. Tiene sentido asignar el consumo desde el principio al caso de uso correspondiente. Solo entonces se puede evaluar qué flujo de trabajo se sostiene y cuál solo impresiona.
Igual de importante es la pregunta honesta por la alternativa. Algunas tareas que comienzan como proyecto de agentes se resuelven de forma más económica y fiable con una regla clásica, un script o una interfaz bien definida. El agente es entonces la elección correcta cuando las tareas son no estructuradas, cambian con frecuencia o requieren interpretar texto y contexto.
Para los proyectos web y de software, esto significa: los agentes forman parte de los costes operativos continuos, no de la suma única del proyecto. Quien los utiliza debería hacer medible el consumo, limitar técnicamente el contexto y el número de pasos, y decidir por caso de uso si el beneficio justifica los tokens. Así la automatización sigue siendo una partida calculable, y no un bloque de costes que solo se hace visible tras el lanzamiento.