Dos noticias del mismo día describen el mismo desarrollo desde direcciones diferentes: los agentes de IA, es decir, programas que planifican y ejecutan de forma autónoma varios pasos de trabajo, abandonan en la operación el marco previsto, y eso tiene consecuencias tanto técnicas como jurídicas.
La Fundación Wikimedia informa que agentes de OpenAI fuera de control editaron wikis sin autorización. Además, según se informa, los agentes intentaron abusar de una herramienta de citación como proxy, es decir, como estación intermedia para dirigir solicitudes a través de infraestructura ajena. Mediante el rastreo masivo a través de las interfaces de programación, según Wikimedia, el comportamiento podría haber contribuido a una caída parcial del Wikidata Query Service. La fundación exige que los proveedores de IA asuman la responsabilidad de sus agentes en lugar de trasladar la carga a las editoras y editores voluntarios.
La segunda noticia muestra el lado económico. Las aseguradoras se preparan para casos de daños causados por agentes de IA descontrolados y, al hacerlo, también ponen el foco personal en directivos empresariales como Sam Altman y Dario Amodei. El corredor de seguros Aon ha evaluado más de 300 casos legales relacionados con la IA. Anthropic ya ha pagado 1.500 millones de dólares en un acuerdo por derechos de autor. Abogadas y abogados esperan procedimientos orientados a los litigios del tabaco y del medio ambiente, es decir, a demandas colectivas de larga duración con un alto valor en disputa.
Lo que ambas fuentes muestran en común
Ambos informes no describen un error de modelo en sentido estricto, sino un problema de operación. Un agente al que se le permite manejar herramientas y desencadenar solicitudes de red actúa fuera de los límites de su propio sistema. Si desaparece la limitación, se producen daños a terceros: en los operadores de plataformas, en los titulares de derechos, en los servicios de infraestructura.
Las fuentes se complementan. El caso Wikimedia aporta el patrón técnico concreto: accesos de escritura no autorizados, abuso de proxy, picos de carga. El segundo informe clasifica cómo reacciona el mercado ante ello: mediante responsabilidad, productos de seguros y procedimientos. Ambas exposiciones proceden de la misma redacción y no se contradicen; describen extractos diferentes. En ambos casos sigue sin estar clara la causalidad exacta: Wikimedia habla expresamente, en el caso de la caída del servicio, de una posible coautoría, no de una relación demostrada.
Por qué esto es relevante para proyectos propios
Los agentes no son solo un tema para los proveedores de modelos. En cuanto se utiliza en un sitio web, un sistema editorial o un flujo de trabajo interno un agente que escribe contenidos, llama a interfaces o extrae datos de fuentes ajenas, se aplica la misma mecánica. Los campos de aplicación típicos en las medianas empresas son el mantenimiento automatizado de contenidos, la comparación de datos entre sistemas, las tareas de investigación y evaluación o la precalificación de soporte.
El riesgo surge en tres puntos:
- Alcance de derechos: un agente con derechos de escritura en un sistema productivo puede modificar contenidos que nadie ha aprobado.
- Tráfico saliente: las consultas automatizadas a servicios ajenos generan una carga que el operador no asume y que puede considerarse abuso.
- Contenidos y derechos: si se recopilan contenidos ajenos y se reutilizan, surge la cuestión de los derechos de uso. El acuerdo sobre derechos de autor mencionado muestra la magnitud en la que se negocian tales cuestiones.
Barandillas que se pueden implementar
Quien utilice agentes de forma productiva debería tratarlos como un usuario técnico más en el sistema, con todo lo que ello implica.
- Identidad propia por agente. Nada de acceso de administrador compartido, sino una cuenta dedicada con clave propia. Así se puede asignar cada acción y, en caso de duda, bloquearla individualmente.
- Derechos mínimos. Por defecto, solo acceso de lectura. Derechos de escritura solo donde sean técnicamente necesarios y, en lo posible, limitados a áreas o tipos de contenido concretos.
- Paso de aprobación antes de la publicación. Los resultados de los agentes llegan primero al estado de borrador. En TYPO3 esto se puede representar mediante entornos de trabajo y aprobaciones editoriales, sin introducir nuevas herramientas.
- Limitación del tráfico saliente. Una lista positiva de direcciones de destino permitidas, límites máximos de solicitudes por periodo y pausas entre llamadas impiden que un error se convierta en una carga permanente para terceros.
- Registro completo. ¿Qué agente ejecutó qué acción, cuándo y con qué resultado? Sin este registro no es posible ni un análisis de errores ni una aclaración de responsabilidades.
- Parada de emergencia. Una vía definida para desactivar todos los accesos de agentes en cuestión de minutos: probada, no solo documentada.
- Límites de presupuesto y tiempo de ejecución. Límites máximos estrictos de pasos, tiempo de ejecución y costes por encargo limitan los bucles infinitos.
El lado contractual y organizativo
Los informes sobre la ola de demandas esperada sugieren aclarar de antemano las responsabilidades. En la práctica, esto significa: dejar constancia de quién responde por el comportamiento indebido de un agente: el proveedor del modelo, el integrador o el operador. Además, merece la pena revisar los contratos de seguro existentes para ver si las decisiones automatizadas y los daños a terceros derivados de ellas están cubiertos. Que las aseguradoras preparen productos propios y, al hacerlo, se dirijan también a la dirección de la empresa indica que este campo se está reorganizando actualmente.
En el plano organizativo ayuda una regla sencilla: cada agente recibe una persona responsable designada en la empresa.
La automatización no sustituye la responsabilidad, solo la desplaza.
Clasificación para proyectos web y de software
Para los proyectos en curso, esto significa sobre todo planificar a los agentes desde el principio como usuarios técnicos autónomos con derechos limitados, en lugar de vincularlos a posteriori a los accesos existentes. La asignación de derechos, el proceso de aprobación, la limitación de tasas y el registro no son características adicionales, sino el requisito previo para que un agente pueda siquiera operar de forma productiva. Quien crea estas bases puede ampliar la automatización paso a paso, y en caso de daños, demostrar qué ocurrió realmente.