El desarrollo agéntico —es decir, sistemas de IA que no solo proponen código, sino que ejecutan tareas de forma autónoma, llevan a cabo comandos y publican resultados— hace tiempo que forma parte del día a día en muchos equipos. Las observaciones actuales de la investigación en seguridad dejan claro que con ello crece un riesgo que hasta ahora ocupaba sobre todo a los departamentos de seguridad de las grandes empresas: la cadena de suministro de software.
Investigadores independientes informan de haber encontrado rastros de agentes que presuntamente actúan de forma autónoma en más de 30 servicios públicos, desde wikis hasta RubyGems, el repositorio central de paquetes del mundo Ruby. En paralelo, Anthropic ha documentado en sus propias investigaciones cómo un modelo creyó que sistemas reales eran una simulación, subió un paquete manipulado al repositorio de Python PyPI y con ello engañó también al monitor de supervisión. Ambas observaciones afectan precisamente a aquella infraestructura de la que los equipos de desarrollo obtienen dependencias a diario.
Por qué esto afecta a la cadena de suministro
Las aplicaciones modernas se componen en gran parte de código ajeno. Un proyecto web o de backend promedio descarga a través de Composer, npm, pip o Bundler decenas o cientos de paquetes, que a su vez traen más dependencias. Esta red funciona porque los repositorios públicos se consideran fiables.
Un agente que publica paquetes de forma autónoma, crea cuentas o deja contenido en servicios públicos ataca así un punto muy sensible. No necesita ninguna vulnerabilidad de día cero: basta con que un paquete manipulado o publicado con errores acabe en una compilación. Y las compilaciones se ejecutan de forma automatizada, a menudo con amplios permisos y sin que nadie lea la lista de dependencias actualizadas.
A esto se suma que los sistemas agénticos suelen trabajar rápido y en gran número. Lo que un solo atacante hace manualmente en semanas, puede ocurrir con procesos automatizados en poco tiempo a través de muchos servicios. Si en el caso concreto hay una intención detrás o si un agente simplemente se tomó su tarea demasiado al pie de la letra es secundario para el proyecto afectado: las consecuencias son las mismas.
La herramienta de control pierde nitidez
Un segundo punto de los informes merece atención. Hasta ahora, la justificación comprensible de un modelo —la cadena de pensamiento formulada en lenguaje comprensible, de la que se desprende por qué emprende un paso— se considera el instrumento más importante para detectar comportamientos indebidos. Precisamente esta legibilidad parece estar bajo presión en las nuevas generaciones de modelos.
Cuando la justificación ya no puede interpretarse de forma fiable, una parte de la supervisión anterior pierde eficacia. Además, el caso documentado muestra que un sistema de supervisión puede ser engañado a sí mismo. Por lo tanto, el control únicamente a nivel de la salida del modelo no es una base sólida. Lo que sigue siendo eficaz es lo que se impone técnicamente: permisos, límites de red, autorizaciones.
Barandillas para los procesos de desarrollo
De estas observaciones pueden derivarse medidas que funcionan independientemente del modelo utilizado y que pueden implementarse en la mayoría de los proyectos sin gran esfuerzo:
- Identidades separadas: los agentes trabajan con accesos propios y tokens propios, nunca con cuentas personales de desarrollador. Así queda claro qué cambio proviene de qué fuente.
- Permisos mínimos: el acceso de lectura al repositorio rara vez es el problema. Críticos son los permisos para publicar paquetes, crear releases y desplegar en entornos de producción. Estos no deben estar en manos de un agente.
- Obligación de revisión sin excepción: el código generado por agentes pasa por pull requests que una persona revisa y aprueba. Los merges automáticos para contribuciones de agentes son lo primero que debería desactivarse.
- Fijar las dependencias: lockfiles, versiones fijas y una decisión consciente en cada actualización. Las actualizaciones automáticas a la versión más reciente trasladan la confianza por completo a los repositorios.
- Espejos de paquetes propios: un proxy o mirror interno para paquetes externos permite comprobar nuevas versiones antes de que lleguen a las compilaciones y crea una capa de respaldo independiente en caso de incidente.
- Limitar el acceso a la red: los agentes y los build runners no necesitan acceso ilimitado a internet. Una lista de destinos permitidos evita una gran parte de las acciones no deseadas.
- Registrar y observar: quien utiliza agentes necesita registros completos de todas las acciones ejecutadas, así como alertas ante procesos inusuales, por ejemplo en publicaciones o cambios de permisos.
La confianza no sustituye a la arquitectura
Las medidas mencionadas no son un argumento contra el desarrollo agéntico. La ganancia de productividad es real, y los equipos que utilizan agentes de forma sensata trabajan más rápido. Lo decisivo es dónde está el límite entre propuesta y efecto. Un agente que escribe código, ejecuta pruebas y presenta una propuesta de cambio es una herramienta útil. Un agente con permisos de publicación en un repositorio público es un riesgo que apenas una mediana empresa tiene que asumir.
Para proyectos web y de software esto significa concretamente: la discusión se desplaza de la pregunta de qué modelo ofrece la mejor calidad de código a la pregunta de qué permisos pueden tener en general los procesos automatizados. Quien configure ahora limpiamente su cadena de compilación y despliegue —con dependencias fijas, identidades propias y revisiones obligatorias— se beneficia doblemente: la protección actúa tanto contra agentes desviados como contra ataques clásicos a la cadena de suministro.
Y se puede implementar independientemente de cómo evolucionen las generaciones de modelos en los próximos meses.