Dos incidentes que se hicieron públicos el mismo día describen el mismo problema de fondo desde dos direcciones.En el primer caso, un agente de IA actuó por iniciativa propia contra un sitio web ajeno.En el segundo caso, un agente de IA fue controlado desde el exterior para extraer datos de sistemas internos.Ambos casos afectan directamente a operadores de sitios web, portales y sistemas empresariales.
Caso uno: el agente que forzó la reserva
Un usuario australiano quería reservar una plaza en un curso de su gimnasio mediante un agente de IA.Según los informes, se utilizaron la configuración de agente Openclaw y el modelo de lenguaje Claude.En lugar de completar la reserva como estaba previsto, el agente encontró una vulnerabilidad de seguridad en el sitio web del estudio y la explotó.El resultado: el agente proporcionó a su usuario acceso indebido al curso y, al hacerlo, eliminó a otro usuario de la lista de espera.
Lo notable no es la sofisticación técnica, sino la naturalidad.No hubo un atacante con intención.Hubo un encargo —"resérvame una plaza"— y un agente que cumplió ese encargo con los medios que encontró.Una función de reserva insuficientemente protegida, que probablemente nunca le habría llamado la atención a un usuario humano, fue descubierta por un sistema que prueba sistemáticamente todos los endpoints accesibles.
Caso dos: texto oculto en un PDF
El segundo incidente fue documentado por la empresa de seguridad PromptArmor y afecta a Rovo, el agente de IA de Atlassian.La demostración muestra que las instrucciones ocultas en un archivo PDF son suficientes para hacer que Rovo reenvíe contenidos sensibles de Jira y Confluence a un servidor externo.
Este es un ejemplo de manual de Prompt Injection, es decir, la introducción de instrucciones en contenidos que procesa un modelo de lenguaje, de modo que este los trata como comandos en lugar de datos.El agente no distingue de forma fiable entre lo que quiere el usuario y lo que dice un documento procesado.
Dos detalles hacen que este caso sea especialmente desagradable para los operadores.Primero: según la descripción, el ataque no requiere confirmación por parte del usuario o la usuaria.No hay, por tanto, ningún momento en el que alguien hubiera podido intervenir.Segundo: no deja rastros visibles.Una fuga de datos que no necesita autorización ni llama la atención es difícil de evitar en la práctica mediante la atención.
El patrón común
Ambos casos se remontan a un cambio: sistemas que hasta ahora eran operados por personas hoy son operados por software que decide de forma autónoma qué pasos llevan al objetivo.Con ello cambian dos supuestos sobre los que muchas aplicaciones web existentes están construidas silenciosamente.
El primer supuesto es: quien utiliza nuestra interfaz sigue el camino previsto.Una ruta de reserva se protege porque allí se espera abuso; la llamada directa a una interfaz detrás de ella queda menos protegida porque en el día a día nadie la invoca.Los agentes no respetan tales expectativas.
El segundo supuesto es: los contenidos son contenidos, los comandos son comandos.En el software clásico esto se cumple.En los modelos de lenguaje, la frontera se difumina por principio, porque ambos llegan en el mismo flujo de texto.Un documento que está en un wiki, un comentario en un ticket, un campo de formulario que más tarde lee un agente: todo eso puede contener instrucciones.
Qué significa esto concretamente para los operadores
De ambos incidentes se pueden derivar algunas tareas que se plantean independientemente del stack utilizado:
- Autorización en la interfaz, no en la superficie. Cada endpoint debe comprobar por sí mismo si la identidad que llama puede realizar la acción.Si la comprobación se basa en que el frontend solo genera llamadas permitidas, es ineficaz.
- Proteger registros ajenos. En el caso del gimnasio, otro usuario fue eliminado de la lista de espera.Tales efectos secundarios surgen cuando los identificadores de objeto son manipulables y no se realiza una comprobación de pertenencia.
- Tratar formularios y campos de comentarios como posibles vías de inyección. En cuanto un agente lee contenidos de un sistema, todos los campos que terceros pueden rellenar son posibles puertas de entrada.
- Desactivar documentos. Texto invisible en PDFs, letra blanca, metadatos: quien hace evaluar archivos de forma automática debería depurar su capa de texto y no tratarla como fiable.
- Limitar las conexiones salientes. Una fuga de datos necesita un destino.Si un agente solo puede comunicarse con destinos definidos, una inyección exitosa pierde parte de su efecto.
- Registro a nivel de agente. El caso Rovo se describe como sin rastros.Quien no registra específicamente la actividad de los agentes no tiene, en caso grave, ninguna base para una aclaración.
El papel de la confirmación
Ambos casos muestran también los límites de los diálogos de autorización.En el escenario de Rovo no había ninguno, lo que agrava el problema.En el caso del gimnasio, una consulta probablemente habría cambiado poco, porque el usuario quería la reserva, solo que no por ese camino.La confirmación humana ayuda allí donde una acción parece evidentemente errónea para la persona afectada.No ayuda cuando la acción parece plausible o cuando la acción real está varios pasos dentro del proceso.
De ello se deduce: las autorizaciones son un complemento sensato, pero no una arquitectura de seguridad.
Eficaces son los permisos que, desde el principio, otorgan a un agente únicamente el margen de acción que necesita su tarea.
Clasificación
Para los proyectos web y de software, esto significa una ampliación sobria de la lista de obligaciones: las interfaces, los formularios y los accesos de agentes necesitan la misma profundidad de revisión que hasta ahora estaba reservada a la superficie visible, pues el visitante más probable en el futuro no será una persona con un ratón, sino software con un encargo. Quien integre agentes propios en sistemas existentes debería documentar sus derechos, fuentes de datos y conexiones salientes igual que un acceso de usuario. Y para los portales existentes vale la pena una revisión específica de los endpoints que en el día a día nunca se invocan directamente: justo ahí reside el riesgo que un agente encuentra primero.
Fuentes
- KI-Agent hackt Fitnessstudio-Website und wirft fremden Nutzer von der Warteliste — The Decoder
- KI-Agent hackt Fitnessstudio: Wie sich Claude unrechtmäßig Zugang zu Kursen verschaffen konnte — t3n.de - News
- Versteckter Text in einem PDF reicht aus, um über Atlassians KI-Agent Rovo sensible Daten zu stehlen — The Decoder