Dos noticias del mismo entorno describen el mismo problema de fondo desde perspectivas diferentes. Por un lado, OpenAI tuvo que corregir su asistente de programación Codex después de que este eliminara por su cuenta archivos reales de usuarios. Por otro lado, una primera evaluación de la organización sin ánimo de lucro Guidelight llega a la conclusión de que ningún gran proveedor de IA implementa por completo mecanismos de control básicos para sus propios sistemas internos de IA.

Qué ocurrió con Codex

Según el informe, el desencadenante fue un comando de limpieza que en realidad debía eliminar archivos de trabajo temporales. En su lugar, afectó a directorios personales reales, es decir, a las carpetas de datos personales de las usuarias y usuarios. Se vieron afectados casos en los que el modelo GPT-5.6 Sol ejecutó eliminaciones por su cuenta.

OpenAI reaccionó con una actualización de seguridad. Codex ahora comprueba previamente los objetivos de eliminación antes de ejecutar el comando. Además, el modo de acceso completo, en el que el agente accede al sistema de archivos sin consultas individuales, ya no puede activarse por error.

Ambas medidas son reveladoras porque no abordan un problema del modelo, sino un problema de permisos. El agente no "pensó" de forma incorrecta, simplemente tenía más derechos de los necesarios para la tarea. Ese es exactamente el punto en el que los responsables de proyectos pueden intervenir sin esperar al próximo cambio de modelo.

La segunda noticia: el control también es deficiente en los proveedores

La evaluación de Guidelight aporta el marco más amplio. Su conclusión: ningún proveedor de IA implementa por completo mecanismos de control básicos para sus propios sistemas internos de IA. Los detalles sobre la metodología y los criterios individuales no se desprenden de la noticia disponible, por lo que no es posible derivar de ella una clasificación de empresas individuales.

No obstante, como señal, la afirmación es relevante. Quien utiliza herramientas agénticas no debería asumir que el trabajo de control ya está concluido en el fabricante. La responsabilidad de lo que un agente puede causar en el propio proyecto permanece en la propia casa.

Barandillas que se pueden implementar en la práctica

De ambas noticias se puede derivar una regla de trabajo sobria: un agente de programación es un proceso automatizado con permisos de escritura. Debería cumplir las mismas condiciones que cualquier otro automatismo que modifica archivos.

  • Permisos mínimos. El agente obtiene acceso al directorio del proyecto, no a toda la cuenta de usuario. Los directorios personales, los almacenes de claves y las credenciales de acceso quedan fuera de su ámbito de acción.
  • Sandbox en lugar de puesto de trabajo. Una sandbox es un entorno de ejecución aislado, por ejemplo un contenedor o una máquina virtual. Lo que sale mal allí se queda allí.
  • Sin acceso completo como estándar. Los modos que desactivan las consultas pertenecen a la excepción consciente, no a la configuración predeterminada. Que OpenAI haya reforzado exactamente este punto es una indicación clara.
  • Control de versiones como red de seguridad. Los cambios pasan por una rama y un pull request, es decir, una propuesta de cambio trazable que se revisa antes de su adopción. Los directorios no versionados son tabú para los agentes.
  • Copias de seguridad probadas. Una copia de seguridad cuya restauración nunca se ha ensayado no es una copia de seguridad. Esto se aplica tanto a archivos como a bases de datos.
  • Separación de entornos. Los sistemas de producción, las bases de datos con datos reales de clientes y los accesos de despliegue quedan fuera del alcance de las herramientas agénticas.

La revisión sigue siendo humana

El caso Codex muestra una característica desagradable de los sistemas agénticos: el paso dañino no fue un código de programa defectuoso en el resultado, sino un efecto secundario durante el trabajo. Una revisión de código clásica, que solo considera el resultado final, no lo habría impedido.

Por eso vale la pena distinguir dos niveles. En un nivel se revisa qué código ha producido el agente. En el otro nivel se limita qué puede hacer durante ese proceso. El segundo nivel se resuelve técnicamente, no mediante la atención.

También resulta útil un registro trazable: ¿qué comandos se ejecutaron, qué archivos se escribieron o se eliminaron? Si algo sale mal, la calidad de estos registros decide si el incidente se esclarece en minutos o en días.

No es un argumento contra su uso

Del incidente no se deduce que las herramientas agénticas de programación no tengan cabida en el ámbito profesional. El beneficio en tareas rutinarias, migraciones y cobertura de pruebas es real, y el error fue detectado y corregido. Más bien debería derivarse de ello una clasificación objetiva: tales herramientas son automatización productiva con acceso de escritura, y para ellas rigen desde siempre reglas propias.

Llama la atención la proximidad temporal de ambas noticias. Mientras un proveedor repara una pérdida concreta de control en su propio producto, una evaluación externa constata que el sector en su conjunto va por detrás en mecanismos de control internos. Ambas cosas juntas abogan por establecer las barandillas más bien un nivel demasiado estrechas que un nivel demasiado amplias.

Qué significa esto para proyectos web y de software

Quien utiliza herramientas agénticas en proyectos TYPO3 o individuales debería documentar sus permisos igual que los de un usuario de despliegue: quién puede qué, en qué entorno, con qué vía de retorno. En la práctica, esto se puede representar con entornos de contenedores, un control de versiones consecuente y copias de seguridad probadas sin gran esfuerzo adicional.

La pregunta decisiva antes del despliegue no es lo buena que sea el modelo, sino cuál sería el daño en el peor de los casos — y con qué rapidez se podría revertir.

Fuentes