Los agentes de IA son programas que, basándose en un modelo de lenguaje, planifican y ejecutan de forma autónoma varios pasos de trabajo – por ejemplo, obtener datos, llamar a una interfaz, evaluar un resultado y, a continuación, elegir el siguiente paso.Esa misma autonomía es lo que los hace interesantes para los procesos de negocio.Y es exactamente eso lo que los hace difíciles de controlar.
Un informe reciente describe el problema con una comparación ilustrativa: las empresas utilizan agentes como si emplearan a mil bancarios sin identificación.Las actividades se ejecutan, pero nadie puede decir a posteriori sin lugar a dudas quién hizo qué y cuándo.Las autoridades supervisoras de la UE y EE. UU. exigen una supervisión de la actividad de los agentes en tiempo real.Sin embargo, según esta exposición, los frameworks habituales con los que se construyen tales agentes no proporcionan los datos necesarios para ello.
Por qué surge la brecha
Las bibliotecas de agentes extendidas están diseñadas principalmente para la funcionalidad: encadenar prompts, conectar herramientas, devolver resultados.La observabilidad – es decir, la capacidad de evaluar el estado interno de un sistema desde fuera a partir de sus salidas – no fue un objetivo de diseño inicial en muchos de estos proyectos.
A ello se suma una peculiaridad estructural: en el software clásico, el flujo está definido de antemano y, por tanto, puede registrarse en un protocolo.Un agente decide el flujo en tiempo de ejecución.Por eso, un registro que solo recoge el resultado final pierde la información realmente interesante – a saber, por qué el agente eligió ese camino, qué herramientas invocó y a qué datos accedió al hacerlo.
Qué debería figurar en un registro sólido
Independientemente de la tecnología concreta, los requisitos de un registro de agentes pueden formularse con bastante claridad.Quien inicie un proyecto de este tipo debería aclarar estos puntos desde el principio:
- Identidad: ¿Bajo qué identidad técnica actúa el agente y por encargo de quién?Un agente que ejecuta acciones bajo una cuenta colectiva compartida no puede atribuirse a posteriori.
- Llamadas a herramientas: ¿A qué interfaces, bases de datos o archivos se accedió y con qué parámetros – incluidos la marca de tiempo y el estado de retorno.
- Ruta de decisión: ¿Qué pasos intermedios condujeron al resultado?Sin este rastro, un comportamiento erróneo no puede reproducirse ni corregirse.
- Accesos a datos: ¿Qué datos personales o confidenciales procesó el agente y a qué modelo los transmitió?
- Puntos de interrupción y escalado: ¿Cuándo se detuvo un proceso y a quién se informó?
Lo decisivo es que estos datos no solo acaben en algún lugar de un archivo de registro, sino que sean evaluables – estructurados, con un ID de proceso continuo y con un plazo de conservación que se ajuste a los propios requisitos de cumplimiento.
El tiempo real es un requisito distinto de la trazabilidad
Ambos términos se confunden con frecuencia, pero significan cosas distintas.La trazabilidad es retrospectiva: responde a la pregunta de qué ocurrió tras un incidente.La supervisión en tiempo real es prospectiva: debe interrumpir un proceso antes de que se produzca un daño – por ejemplo, cuando un agente recupera un número inusualmente elevado de registros, llama con llamativa frecuencia a la misma interfaz en poco tiempo o utiliza permisos que no necesita para su tarea real.
Técnicamente, esto significa que los datos de registro no deben escribirse solo al final de una ejecución, sino que deben fluir a un sistema de monitorización durante la ejecución.Allí se necesitan umbrales, alertas y – esta es la parte más difícil – una parada de emergencia funcional que detenga realmente a un agente en ejecución y no solo envíe una notificación.
Consecuencias para la arquitectura
Si los frameworks no proporcionan por sí mismos los datos necesarios, la responsabilidad se traslada a la arquitectura del propio proyecto.En la práctica, esto suele significar: el agente no obtiene acceso directo a los sistemas productivos, sino que opera a través de una capa intermedia propia.
Esta capa – a veces denominada gateway o policy layer – asume tres tareas simultáneamente.Autentica al agente, verifica cada acción contra reglas predefinidas y escribe el registro.La ventaja: el registro ya no depende de que una biblioteca determinada lo soporte, y un cambio de framework o de proveedor de modelos no afecta a la trazabilidad.
Además, merece la pena el principio de privilegios mínimos, conocido de la seguridad informática clásica: un agente recibe exactamente los permisos que requiere su tarea – con plazo limitado y, cuando sea posible, restringidos a acceso de lectura.Las operaciones de escritura o borrado se aseguran mediante una aprobación humana o se limitan a áreas de datos claramente delimitadas.
Qué significa esto para la planificación del proyecto
La monitorización y el registro suelen tratarse en los proyectos de agentes como un tema para la segunda fase de desarrollo.Esto es arriesgado por dos motivos.En primer lugar, una capa de registro solo puede introducirse a posteriori en un panorama de agentes ya consolidado con un esfuerzo considerable.En segundo lugar, sin ella falta en la fase piloto precisamente la base de datos con la que podría evaluarse si el agente trabaja de forma fiable.
Más sensato es el camino inverso: primero surgen la identidad, el modelo de permisos y el registro, y después el primer caso de uso productivo.
Para la selección de herramientas y proveedores de servicios surge de ello una pregunta concreta de verificación: qué eventos emite el sistema por sí mismo, en qué formato, y si estos datos se pueden transferir al panorama de monitorización existente.
Clasificación
Para proyectos web y de software, esto desplaza parte del esfuerzo de la función al control: un agente que mantiene contenidos, procesa datos de formularios o colabora en una pipeline de desarrollo necesita la misma trazabilidad que un sistema de redacción con versionado y cuentas de usuario. Quien quiera utilizar agentes debería presupuestar la registro, el modelo de permisos y la posibilidad de desactivación como parte del alcance del servicio y no como un complemento opcional. Esto aumenta notablemente el esfuerzo inicial, pero es el requisito para poder llevar posteriormente estos sistemas a una operación productiva y verificable.