En muchas empresas se ha establecido una regla empírica sencilla: para las tareas asistidas por IA se utiliza el modelo más potente disponible en cada caso. La lógica subyacente suena plausible: quien usa la mejor herramienta obtiene el mejor resultado. Sin embargo, en la práctica esta actitud conduce con regularidad a que se gaste presupuesto en capacidad de cómputo que no habría sido necesaria para la tarea concreta.
Un artículo técnico actual resume el punto en una fórmula concisa: contar tokens no es suficiente. Lo decisivo es la pregunta de cuánto cuesta una tarea completada, no cuántos recursos se consumieron en ello.
Qué mide realmente la eficiencia de tokens
Los tokens son las unidades de procesamiento más pequeñas de un modelo de lenguaje; en términos simplificados, componentes de palabras según los cuales se facturan las entradas y salidas. Como de ello se puede derivar una cifra limpia, el consumo de tokens se utiliza con gusto como magnitud de control.
El problema: esta cifra no dice nada sobre si el resultado fue útil. Un modelo económico que debe corregirse tres veces y que al final aun así requiere corrección manual es más caro que un modelo más potente que en la primera pasada entrega un resultado utilizable. A la inversa, un modelo premium para una tarea simple de clasificación está sencillamente sobredimensionado.
Por eso, el indicador más razonable es el coste por tarea completada. En él se incluyen, además de los costes puros del modelo:
- ejecuciones repetidas porque el primer resultado no fue suficiente
- esfuerzo para la revisión y el postprocesamiento humanos
- pérdida de tiempo por respuestas más lentas en flujos de trabajo interactivos
- costes derivados cuando las salidas defectuosas se detectan tarde
El enrutamiento de modelos como decisión de arquitectura
Desde esta perspectiva, la selección del modelo se convierte en una cuestión de arquitectura. En lugar de utilizar una única configuración estándar para todo, cada clase de tarea se asigna al modelo que la resuelve de forma fiable y a costes razonables. Este procedimiento se denomina enrutamiento de modelos: una lógica previa decide qué solicitud va a qué modelo.
En la práctica se pueden distinguir niveles típicos:
- Tareas rutinarias estructuradas como categorización, extracción de campos de documentos o reformulaciones simples. Aquí suelen bastar modelos más pequeños y rápidos.
- Tareas de complejidad media como resúmenes, borradores de textos o fragmentos de código en un contexto manejable.
- Tareas con altos requisitos de trazabilidad, por ejemplo refactorizaciones en varios archivos, decisiones de arquitectura o el análisis de especificaciones contradictorias. Aquí merece la pena un modelo potente.
El efecto económico surge porque la gran mayoría de las solicitudes suele caer en las dos primeras categorías, mientras que los costes por solicitud son más altos en la tercera categoría.
Qué significa esto para los flujos de trabajo de programación
La diferencia se hace especialmente evidente en el desarrollo de software asistido por IA. Un asistente que propone completados en el editor se invoca con extrema frecuencia. Aquí importan más la baja latencia y los bajos costes por invocación que la máxima potencia del modelo. Un agente que, en cambio, prepara un cambio mayor a través de varios módulos se beneficia de un modelo con mejor capacidad de planificación, porque una pasada fallida aquí resulta cara, tanto en tiempo de cómputo como en tiempo de desarrollo.
Quien cubre ambos casos con la misma configuración paga demasiado o obtiene resultados demasiado débiles. Por eso, una separación consciente no es un detalle de optimización, sino una decisión fundamental en la configuración.
El contexto es un factor de coste
Una segunda palanca reside en cuánta información se le proporciona a un modelo. Cada contexto adicional —archivos completos, largos historiales de chat, documentaciones completas— aumenta el consumo de tokens en cada invocación individual. A menudo no mejora el resultado de forma proporcional, sino que incluso lo diluye, porque los pasajes relevantes se pierden en la masa.
Por ello, los puntos de partida prácticos son:
- selección específica de los fragmentos de contexto realmente necesarios en lugar de una entrega indiscriminada
- planteamientos de tareas formulados con claridad que reduzcan preguntas de aclaración y repeticiones
- almacenamiento en caché de componentes recurrentes, en la medida en que la plataforma utilizada lo admita
- limitación de la longitud de salida donde basten respuestas compactas
Hacer medible en lugar de estimar
Una estrategia de enrutamiento solo se puede evaluar si los resultados son medibles. Para ello se necesita, por caso de uso, una idea de qué es un resultado aceptable: por ejemplo, una suite de pruebas en código, una revisión por muestreo en generación de texto o campos obligatorios definidos en la extracción de datos.
Solo sobre esta base se puede enfrentar un modelo más pequeño, a modo de prueba, al utilizado hasta ahora. Si la tasa de aciertos se mantiene estable, el cambio es una ventaja puramente de costes. Si disminuye, se muestra en qué punto se necesita realmente la potencia adicional del modelo. Esta comprobación no es un proceso único: dado que la oferta de modelos cambia continuamente, merece la pena una reevaluación periódica.
Requisito organizativo
Técnicamente, el enrutamiento de modelos es manejable. Lo más difícil suele ser el lado organizativo. Cuando en una empresa varios equipos conectan servicios de IA de forma independiente, surgen rápidamente configuraciones paralelas sin una lógica de costes común. Una capa de abstracción central por la que pasan las solicitudes crea aquí transparencia y permite intercambiar modelos sin tener que tocar cada aplicación individualmente.
Igualmente importante es una asignación de los costes a casos de uso concretos.
Una factura total sin desglose no permite decidir dónde merece la pena optimizar.
Clasificación para proyectos web y de software
Para proyectos en los que las funciones de IA se ejecutan de forma permanente en operación, la selección del modelo se convierte en un componente fijo de la concepción técnica – comparable con las estrategias de caché o la elección de la base de datos. Quien prevé desde el principio una interfaz intercambiable y define por caso de uso qué constituye un buen resultado, mantiene bajo control tanto los costes como la calidad. El cambio de perspectiva decisivo consiste en no declarar como norma la técnica más potente disponible, sino la que en cada caso sea suficiente.