Muchas empresas han puesto en marcha en los últimos meses sus primeros pilotos de IA en el backoffice: preseleccionar documentos, preparar contenidos para el sistema de gestión de contenidos, resumir datos del sistema ERP. En la fase piloto, esto suele funcionar de forma convincente. La transición al funcionamiento productivo resulta bastante más accidentada, y no tanto por motivos técnicos como, con mayor frecuencia, por motivos arquitectónicos.

Dos artículos técnicos actuales abordan precisamente este punto. Un artículo de contexto en heise developer sostiene que los agentes de IA solo pueden integrarse de forma segura en sistemas existentes si la arquitectura prevé una separación entre datos y acciones. Un artículo en Golem.de — identificado como anuncio de Telekom — describe la otra cara de la misma moneda: los pilotos convencen, pero en el funcionamiento productivo surgen nuevos riesgos, y del éxito deciden la infraestructura, la seguridad y el control de datos.

Por qué los datos y las acciones deben estar separados

Un agente de IA no es un mero generador de texto, sino un sistema que, a partir de entradas, ejecuta pasos de forma autónoma: leer archivos, consultar registros, escribir contenidos, invocar interfaces. En cuanto estos dos roles — procesar información y desencadenar acciones — coinciden en la misma capa de procesamiento, toda información leída se convierte potencialmente en una instrucción.

Ese es el núcleo del argumento: un agente que lee un correo electrónico de un cliente, un PDF o un registro de base de datos no puede distinguir de forma fiable si el texto que contiene forma parte de los datos útiles o de sus instrucciones. Si la arquitectura separa ambas cosas de forma limpia, esta mezcla puede limitarse técnicamente, en lugar de atenuarla solo mediante formulaciones en el prompt — es decir, en la instrucción al modelo.

En la práctica, esto significa: las acciones se ejecutan a través de interfaces definidas y de alcance estrictamente delimitado, no mediante interpretaciones libres del modelo. Qué operación puede siquiera desencadenar un agente se determina e impone fuera del modelo.

El piloto oculta las cuestiones reales

En un proyecto piloto, las condiciones marco son cómodas: pocos usuarios, volúmenes de datos manejables, un equipo iniciado que de todos modos revisa los resultados. Los errores se detectan antes de que surtan efecto. Precisamente esa capa de protección desaparece en el funcionamiento habitual.

El artículo de Golem señala el desplazamiento: con el escalado surgen riesgos que no desempeñaban ningún papel en el funcionamiento piloto. La infraestructura, la seguridad y el control de datos pasan así de ser una condición secundaria a desempeñar el papel principal. Ambas fuentes convergen en el mismo punto, pero se aproximan a él desde direcciones distintas: un artículo desde el diseño de la arquitectura de agentes, el otro desde la operación y la protección.

Como contextualización, merece la pena señalar que el texto de Golem se publicó como anuncio de un proveedor. No obstante, el problema descrito coincide con la argumentación técnica del artículo de heise: la coincidencia está en el diagnóstico, no en una recomendación de producto concreta.

Puntos de ruptura típicos en la conexión con CMS y ERP

Quien acopla agentes a sistemas existentes se encuentra en la práctica con cuestiones recurrentes:

  • Derechos: ¿Con qué identidad actúa el agente? ¿Hereda los derechos de la persona que realiza la llamada o trabaja con un acceso propio y permanentemente amplio?
  • Acceso a datos: ¿Qué subconjunto de los contenidos necesita realmente el agente, y cómo se evita que lea más allá de eso?
  • Operaciones de escritura: ¿Qué cambios puede ejecutar directamente y cuáles solo generan un borrador para su aprobación?
  • Trazabilidad: ¿Puede reconstruirse a posteriori qué entrada condujo a qué acción?
  • Comportamiento erróneo: ¿Cómo se detiene a un agente cuando, en pleno funcionamiento, ofrece resultados inesperados?

Ninguna de estas cuestiones es nueva. Se conocen de la integración de sistemas de terceros clásicos. Lo nuevo es que el componente actuante no funciona de forma determinista — es decir, ante la misma situación inicial no hace necesariamente lo mismo. Eso desplaza el peso de la verificación del resultado hacia la limitación de lo que es posible en absoluto.

Una estructura pragmática

De los requisitos descritos puede derivarse un procedimiento sobrio:

  1. Delimitar estrechamente el caso de uso. Un agente con tres operaciones claramente definidas es más fácil de asegurar que un asistente universal.
  2. Definir las acciones como interfaces explícitas. Cada operación se describe de antemano, incluidos los parámetros permitidos y los rangos de valores.
  3. Conceder derechos mínimos. El agente solo obtiene acceso a los datos y funciones que necesita el proceso concreto.
  4. Incorporar pasos de aprobación donde surja efecto hacia el exterior. Los contenidos publicados, los pedidos o la comunicación con clientes admiten un paso intermedio.
  5. Registrar. Las entradas, las acciones desencadenadas y los resultados deben quedar en un registro evaluable.
  6. Planificar la operación desde el principio. La infraestructura, el monitoreo y las responsabilidades no se añaden a posteriori, sino que forman parte del diseño.

Organización en lugar de mera técnica

Una parte de los problemas de escalado está fuera del software. Si en el proyecto piloto un equipo comprometido controla los resultados, no está claro quién lo hace en el funcionamiento habitual.

Las responsabilidades de aprobación, del mantenimiento de la base de datos y de la reacción ante anomalías deben estar definidas antes de que un agente entre en producción.

Resulta útil no considerar al agente como un proyecto independiente, sino como un componente más dentro de un panorama de sistemas existente — con los mismos requisitos de operación, gestión de derechos y documentación que también se aplican a otras integraciones.

Qué significa esto para los proyectos web y de software

Para los proyectos en torno a TYPO3, integraciones con ERP y aplicaciones especializadas internas, el esfuerzo se traslada hacia etapas anteriores: la cuestión de qué acciones puede ejecutar un agente a través de qué interfaz pertenece a la fase de concepción y no a la de aceptación. Quien separa los datos y las acciones desde el principio puede ampliar los casos de uso más adelante sin tener que rehacer cada vez la arquitectura de seguridad. Los pilotos siguen teniendo sentido — pero deberían partir desde el inicio sobre la infraestructura en la que más tarde también deberá funcionar la operación productiva.

Fuentes