Los agentes de IA no solo deben responder tareas, sino ejecutarlas de forma autónoma: obtener datos, controlar sistemas, planificar pasos intermedios, transferir resultados.Esa autonomía es precisamente lo que ahora está atrayendo la atención de las autoridades de supervisión.Según informes recientes, tanto la UE como las autoridades de EE. UU. exigen una supervisión en tiempo real de las actividades de los agentes de IA.El problema: los frameworks de agentes habituales —es decir, los kits de construcción de software con los que se construyen dichos agentes— no proporcionan los datos necesarios para ello.

Para las empresas surge así una brecha entre la exigencia y la técnica.Quien integra un agente en un proceso de negocio, en muchos casos no puede demostrar a posteriori de forma completa qué decisión se tomó sobre qué base, qué sistemas contactó el agente y en qué punto se desvió de la ruta esperada.

Por qué los datos de registro en los agentes tienen otro aspecto

En el software clásico, la trazabilidad es comparativamente sencilla: entrada, lógica de procesamiento, salida.En un agente, entre medias hay una cadena de llamadas al modelo, accesos a herramientas y decisiones intermedias que puede variar de una ejecución a otra.Un registro que solo recoge el resultado final no es suficiente aquí.

Una ejecución de agente solo se vuelve trazable cuando se registran varias capas:

  • qué tarea se planteó y qué contexto tenía disponible el agente,
  • qué herramientas e interfaces invocó, con qué parámetros,
  • qué resultados intermedios llevaron a qué siguiente paso,
  • dónde se produjeron interrupciones, repeticiones o consultas,
  • qué persona o qué sistema desencadenó y aprobó la ejecución.

Si falta una de estas capas, en caso de duda no se puede analizar un error ni responder a una consulta de auditoría.

Un experimento como material ilustrativo

Lo confuso que puede llegar a ser el comportamiento de varios agentes que colaboran entre sí lo muestra un ensayo sobre el que también se informa actualmente: agentes de IA debían construir juntos una civilización en Minecraft — y se perdieron en burocracia.En lugar de impulsar la tarea real, los agentes se ocuparon de sí mismos.

El ensayo no es una prueba del comportamiento en sistemas empresariales productivos, y el entorno de juego no es comparable con un proceso de negocio.Sin embargo, sirve como ilustración: varios agentes que se encargan tareas mutuamente y se coordinan generan una dinámica propia.Sin registros que hagan visible esa coordinación, nadie nota que surge esfuerzo sin que surja resultado.

Consecuencias para la planificación de proyectos

La reacción obvia es añadir la supervisión más tarde.Eso es difícil en los agentes, porque la información relevante surge en el momento de la ejecución y después no es reconstruible.Lo que no se registró no existe.

En la práctica, esto significa incluir la observabilidad como requisito en la arquitectura, no en la fase de operación:

  1. Definir el registro antes de que se ejecute el primer agente. ¿Qué eventos se capturan, en qué formato, durante cuánto tiempo se conservan?
  2. Introducir una capa de registro propia. Si el framework no proporciona los datos, la aplicación debe generarlos ella misma en los puntos de invocación — idealmente independientemente del framework utilizado, para que siga siendo posible un cambio.
  3. Limitar los permisos. Cuantos menos sistemas pueda alcanzar un agente, más manejable será el espacio que debe supervisarse.
  4. Incorporar puntos de aprobación. Los pasos con efecto externo — pagos, documentos contractuales, comunicación con clientes — deberían exigir una confirmación humana.
  5. Tener en cuenta la protección de datos. Los registros detallados suelen contener datos personales; deben establecerse la finalidad, el acceso y los plazos de eliminación.

Qué queda abierto

Los informes disponibles no mencionan ni plazos concretos ni requisitos técnicos mínimos para la supervisión en tiempo real exigida.Qué pruebas bastan en cada caso y con qué granularidad debe registrarse no puede deducirse de ello.Las empresas deberían, por tanto, observar la evolución en lugar de apostar por una interpretación determinada.

La dirección es fiable: la expectativa de trazabilidad aumenta, mientras que las herramientas utilizadas todavía van por detrás.Ningún fabricante cerrará esta brecha a corto plazo para todos los implicados.

Clasificación para proyectos web y de software

Para los proyectos que integran agentes en portales, sistemas de redacción o flujos internos, el registro se convierte en un componente funcional con esfuerzo propio y presupuesto propio — no en un subproducto de la operación.Quien planifica desde el principio el logging, los puntos de aprobación y los permisos limitados, sigue siendo capaz de actuar frente a requisitos futuros y puede, en primer lugar, reconocer un comportamiento incorrecto.

Por eso es conveniente un primer caso de uso bien delimitado, en el que la trazabilidad pueda probarse en la práctica antes de que los agentes se utilicen de forma más amplia.

Fuentes