Los agentes de IA —es decir, los sistemas que, sobre la base de un modelo de lenguaje, planifican y ejecutan tareas de forma autónoma— hace tiempo que dejaron de ser un tema de laboratorio. Responden consultas de clientes, buscan en documentos, generan código o desencadenan procesos en sistemas conectados. Con esta difusión crece el interés de quienes quieren hacer un uso indebido de tales sistemas.
Investigadoras e investigadores de seguridad han analizado cómo las estafadoras y los estafadores emplean agentes de IA en sus ataques. Un resultado es notablemente sobrio: a pesar de la tecnología moderna, el factor humano sigue siendo reconocible detrás de los métodos. Las herramientas cambian, los patrones que hay detrás, menos.
Por qué esto es relevante para las empresas
Para las personas con responsabilidad en la toma de decisiones, esta observación es más importante de lo que parece a primera vista. Si los métodos de ataque siguen llevando una huella humana, los conceptos de protección no pueden basarse únicamente en filtros técnicos. Se trata igualmente de organización, responsabilidades y procesos.
Al mismo tiempo, la superficie de ataque se desplaza. Un proyecto web clásico tiene puntos de entrada claramente delimitados: formularios, interfaces, cargas de archivos. Un agente, en cambio, procesa textos de fuentes muy diversas —correos electrónicos, tickets, sitios web, archivos— y puede derivar de ellos acciones. Cada una de estas fuentes es potencialmente una entrada que influye en el comportamiento del sistema.
Ataques basados en prompts explicados de forma comprensible
Se entiende por prompt la instrucción con la que se controla un modelo de lenguaje. Los ataques basados en prompts tienen como objetivo hacerse con ese control: un texto que el agente lee en el marco de su trabajo contiene instrucciones que interpreta como una tarea legítima.
El problema radica en la arquitectura de muchos sistemas: los datos y las instrucciones acaban en el mismo canal de texto. Un modelo no distingue de forma fiable entre "esto es contenido que debo resumir" y "esto es una orden que debo seguir". Cuantos más permisos tenga un agente en los sistemas conectados, mayor será el posible daño.
A ello se suma que, en cuanto varios modelos o agentes colaboran, aumenta la complejidad. Las salidas de un sistema se convierten en entradas del siguiente. Contenidos erróneos o manipulados pueden arrastrarse de este modo por una cadena de procesos sin que en un punto concreto algo parezca evidentemente incorrecto.
Barandillas en lugar de confianza previa
Quien utilice agentes en producción debería tratarlos como cualquier otro componente ejecutor: con permisos definidos, registro y puntos de control. Ha dado buenos resultados un procedimiento que combina técnica y organización:
- Minimizar permisos: un agente solo obtiene acceso a los sistemas y conjuntos de datos que realmente necesita para su tarea concreta.
- Proteger las acciones críticas: las operaciones de escritura o irreversibles —pagos, borrados, publicaciones, cambios de permisos— pasan por una aprobación humana.
- Tratar las entradas como no seguras: los contenidos externos son datos, no órdenes. Esta separación debe reflejarse en el diseño del sistema, no solo en la formulación del prompt.
- Garantizar la trazabilidad: ¿qué entradas ha procesado el agente, qué decisión se derivó de ellas, qué herramienta ha invocado? Sin registro, apenas es posible un análisis posterior.
- Probar los límites: el comportamiento de los agentes debe comprobarse de forma sistemática, también con entradas deliberadamente manipuladas, antes de que el sistema entre en producción.
El factor humano permanece
La observación de que detrás de los ataques siguen habiendo patrones humanos remite a una segunda palanca: la concienciación. Las personas empleadas que trabajan con herramientas asistidas por IA deberían entender que una salida formulada de forma plausible no es una prueba de calidad. Un agente puede sonar convincente y, aun así, seguir una instrucción ajena.
En la práctica, esto significa: reglas claras sobre cuándo se contrasta un resultado, qué datos pueden llegar siquiera a un sistema de IA y a quién se informa de un comportamiento inusual del sistema. Estas reglas deben documentarse, no transmitirse de forma oral.
Encaje para proyectos web y de software
Para los proyectos web y de software, una parte del trabajo de seguridad se desplaza así de la validación clásica de entradas al diseño de la lógica de los agentes: qué permisos, qué fuentes de datos, qué puntos de aprobación. Quien integre funciones de IA en un CMS, un proceso de cliente o un entorno de desarrollo debería responder a estas preguntas antes del primer uso en producción, no a posteriori. Un agente con permisos estrictamente delimitados y un registro limpio sigue siendo controlable; un agente con amplios permisos y sin puntos de control se convierte en un riesgo que, en caso grave, resulta difícil de reconstruir.