Con la norma ISO/IEC 27090, tras unos cuatro años de desarrollo, ya existe una norma que se ocupa de forma específica de la seguridad de los sistemas de IA. La guía describe ataques dirigidos especialmente a sistemas con aprendizaje automático y modelos generativos, y menciona las contramedidas adecuadas. Está concebida como complemento de la ISO 27001, el estándar ampliamente extendido para sistemas de gestión de la seguridad de la información.

Con ello, la norma aborda un problema que acompaña a muchas empresas desde la rápida difusión de las funciones de IA: los procesos de seguridad establecidos funcionan en aplicaciones clásicas, pero cubren solo de forma insuficiente las particularidades de los modelos de lenguaje y los datos de entrenamiento.

Por qué los sistemas de IA necesitan sus propias medidas de protección

Las aplicaciones clásicas separan claramente el código de programa y las entradas del usuario. En los modelos de lenguaje, esta frontera se difumina: las instrucciones y los contenidos se encuentran en el mismo canal de texto. Por eso, un ataque puede estar ya oculto en un documento aparentemente inofensivo que un asistente de IA recibe para resumirlo.

El caso más conocido de esta categoría es la llamada inyección de prompts, es decir, la introducción de instrucciones a través de entradas regulares o contenidos procesados. El objetivo es inducir al modelo a realizar acciones que el operador no había previsto, como la revelación de información interna o la activación de acciones en sistemas conectados.

A ello se suman riesgos a lo largo de la cadena de datos: datos de entrenamiento y de referencia, modelos de fuentes externas, interfaces con proveedores terceros. Cada una de estas etapas es un posible punto de ataque que no puede protegerse solo con reglas de firewall y políticas de contraseñas.

Conexión con las estructuras existentes en lugar de un mundo paralelo

La decisión de vincular la ISO/IEC 27090 a la ISO 27001 es, desde el punto de vista organizativo, el aspecto más importante. Las empresas que ya operan un sistema de gestión de la seguridad de la información no necesitan construir una segunda estructura de gobernanza. Pueden clasificar los riesgos específicos de la IA dentro del análisis de riesgos existente y tratarlos con los mecanismos habituales: identificar riesgos, evaluarlos, definir medidas, comprobar su eficacia.

Para las organizaciones sin certificación, la norma sigue teniendo valor. Proporciona una lista estructurada de lo que puede salir mal en las aplicaciones de IA, y esta lista es a menudo el verdadero obstáculo en la práctica. Muchos equipos de proyecto saben que deberían proteger su función de IA, pero no tienen una visión sistemática de los tipos de ataque.

Qué significa esto para las funciones de IA en sitios web y CMS

Los componentes de IA están llegando actualmente a ámbitos que durante mucho tiempo se consideraron no críticos. Un asistente de chat en el sitio web, una función automática de sugerencia de texto en el sistema de redacción, una búsqueda asistida por IA sobre documentos internos: los tres escenarios procesan contenidos que no están completamente bajo el control del operador.

En la práctica, son relevantes sobre todo tres preguntas:

  • ¿Qué datos llegan al modelo? Contenidos del CMS, entradas de usuarios, documentos externos: cada fuente requiere una decisión consciente sobre si es fiable.
  • ¿Qué puede desencadenar el modelo? Cuantas más interfaces pueda atender un asistente de IA, mayor será el daño en caso de una manipulación exitosa. Los permisos restringidos son aquí la medida individual más eficaz.
  • ¿Cómo se detectan los incidentes? Sin registro de las entradas y salidas, no es posible reconstruir a posteriori lo que ocurrió.

Estas preguntas no son un invento de la nueva norma, pero un estándar facilita imponerlas en el proyecto. Quien puede remitirse a un documento reconocido no tiene que justificar de nuevo el esfuerzo en seguridad en cada caso individual.

Una guía, no un automatismo

Una norma no sustituye una implementación. La ISO/IEC 27090 está concebida como guía y describe ataques y contramedidas; la traducción a la propia arquitectura sigue siendo tarea del equipo de proyecto. Además, especialmente en los modelos generativos, no existe ninguna medida que excluya por completo los intentos de manipulación. Lo realista es una protección escalonada: comprobar las entradas, limitar los permisos, controlar las salidas, registrar la actividad.

Igualmente importante es el horizonte temporal. Las técnicas de ataque contra sistemas de IA evolucionan rápidamente, mientras que las normas surgen a lo largo de años. Por eso, la ISO/IEC 27090 ofrece más bien un armazón sólido que una respuesta definitiva a cada nueva variante de ataque.

Clasificación para proyectos web y de software

Para los proyectos en curso, esto significa que las funciones de IA deben formar parte en el futuro del análisis de seguridad igual que los mecanismos de inicio de sesión o las interfaces de pago, con un conjunto propio de riesgos que ahora puede orientarse a un documento reconocido. Quien opera un sistema de gestión de la seguridad de la información puede integrar los nuevos temas en la estructura existente en lugar de crear procesos paralelos. Y quien todavía está planificando funciones de IA debería considerar desde el principio los permisos, las fuentes de datos y el registro, porque en este ámbito la protección posterior es considerablemente más costosa que una arquitectura limpia al inicio del proyecto.

Fuentes