El phishing se consideró durante mucho tiempo un problema puramente humano: un correo electrónico aparentemente auténtico, un clic imprudente, una contraseña interceptada. Los informes actuales muestran que el panorama está cambiando. Los atacantes se dirigen cada vez más también a sistemas de IA que procesan automáticamente correos electrónicos y otros contenidos. Un único mensaje manipulado puede tener así dos objetivos a la vez: la persona en el buzón y el software que analiza ese buzón en segundo plano.

Para las empresas que integran agentes de IA en sus procesos de negocio, esto es más que una nota marginal. En este contexto, un agente es un sistema de IA que no solo genera textos, sino que ejecuta pasos de forma autónoma: leer correos, obtener datos de un sistema, crear tickets, enviar respuestas. Precisamente esa capacidad de actuación lo hace útil y, al mismo tiempo, vulnerable.

La nueva superficie de ataque: contenidos como instrucción

El núcleo del problema radica en que los modelos de lenguaje no distinguen claramente entre datos e instrucciones. Todo lo que llega al contexto del modelo puede interpretarse como una instrucción. Cuando un agente procesa un correo electrónico entrante, también procesa texto formulado por una persona ajena, sobre el que la propia empresa no tiene ningún control.

Técnicamente se habla de prompt injection: la inyección de instrucciones a través de contenidos que el sistema procesa de todos modos. Puede ser un correo electrónico, pero también un archivo PDF adjunto, una entrada en un formulario, un comentario en un sitio web o una página que el agente consulta durante una búsqueda. La superficie de ataque surge allí donde la entrada externa se encuentra con permisos de actuación.

La diferencia decisiva con el phishing clásico: una persona normalmente se vuelve desconfiada cuando un correo le pide exportar datos de clientes o redirigir un pago. Un agente no conoce esa desconfianza por sí mismo. Ejecuta la instrucción siempre que nadie le haya puesto límites.

Por qué las medidas de protección clásicas no son suficientes

Los filtros de spam, las formaciones de concienciación y la autenticación de dos factores siguen siendo correctos e importantes. Sin embargo, abordan la parte humana de la cadena. Un mensaje que parece inofensivo y que solo despliega su efecto en el procesamiento automático se cuela por esta red.

A ello se suma un problema estructural: los agentes suelen ejecutarse en segundo plano. Lo que hace un empleado es rastreable y tarde o temprano llama la atención. Lo que ha hecho un paso de automatización a las tres de la madrugada solo se percibe si se registra y se evalúa. Si falta ese registro, también falta la oportunidad de detectar un incidente a tiempo.

Lo que debe formar parte de los proyectos de agentes desde el principio

La seguridad es difícil de añadir a posteriori en los agentes de IA, porque depende de la arquitectura: de los permisos, las interfaces y la lógica de aprobación. Por eso los siguientes puntos deberían estar sobre la mesa ya en la fase de concepción:

  • Mantener los permisos al mínimo. Un agente solo obtiene acceso a los sistemas y campos de datos que realmente necesita para su tarea, y preferiblemente en modo de lectura. Los permisos de escritura o borrado son la excepción, no la norma.
  • Vincular las acciones críticas a una confirmación. Pagos, datos contractuales, envíos masivos, exportaciones de datos: tales pasos deberían tener un punto de aprobación humano en lugar de ejecutarse de forma totalmente automática.
  • Tratar la entrada externa como insegura. Los contenidos del exterior deben separarse técnicamente de las instrucciones propias del sistema y no deberían recibir automáticamente el mismo estatus.
  • Registrar lo que hace el agente. Cada acción desencadenada con fecha, desencadenante y resultado, de forma rastreable para personas que no han construido el agente.
  • Supervisar las anomalías. Cantidades inusuales, destinatarios inusuales, horarios inusuales son señales clásicas y también pueden evaluarse para agentes.
  • Prever el botón de emergencia. Se necesita una vía claramente definida para desactivar rápidamente un agente en caso de sospecha, sin detener toda la actividad empresarial.

Los sitios web también se ven afectados

El debate no afecta solo a la automatización interna. Quien integra en un sitio web un asistente que procesa entradas de formularios, documentos subidos o mensajes de chat, abre el mismo canal: las usuarias y usuarios proporcionan texto que el sistema interpreta. En un proyecto de TYPO3 esto significa concretamente que deben tenerse en cuenta las capas de redacción e integración, por ejemplo, la cuestión de qué contenidos del sistema puede ver un asistente y qué acciones puede desencadenar hacia el backend.

Clasificación para proyectos web y de software

Los agentes de IA desplazan el foco de seguridad: el objetivo ya no son solo las credenciales de acceso, sino la propia lógica de procesamiento. Para los proyectos, esto significa aclarar el concepto de permisos, los pasos de aprobación y el registro tan pronto como la función en sí: la seguridad es aquí un tema de arquitectura, no un módulo adicional al final del proyecto. Quien lo tiene en cuenta puede ampliar la automatización sin convertir cada nueva integración en un riesgo incalculable.

Fuentes