Una entrevista reciente con Ben Sufiani pone el foco en un tema que preocupa actualmente a muchas empresas: según sus propias declaraciones, Sufiani no sabe programar y, aun así, construye aplicaciones, sitios web y su propio agente de IA. Describe cómo maneja código que él mismo no puede revisar y extrae de ello una conclusión clara: los vibe-coders son un objetivo fácil para los atacantes.
Esta valoración es menos una advertencia sobre las herramientas de IA que sobre una brecha en el procedimiento. El camino de la idea a la aplicación en funcionamiento se ha acortado. El camino hacia una revisión sólida, la protección y la operación regulada ha permanecido igual de largo.
Qué se entiende por vibe coding
Vibe Coding designa una forma de trabajar en la que una aplicación surge predominantemente mediante descripciones en lenguaje natural: se formula lo que el programa debe hacer, un modelo de IA genera el código y se evalúa sobre todo el resultado visible: si la interfaz funciona, si el flujo es correcto, si se ve bien.
Ahí radica precisamente el desplazamiento. Se evalúa el comportamiento de la aplicación en el caso normal. No se evalúa qué ocurre en caso de error, cómo se almacenan los datos, qué interfaces quedan abiertas y qué bibliotecas de terceros se incluyen. Estas cuestiones deciden sobre la seguridad, y no son visibles en la superficie.
Por qué la falta de revisión es un riesgo operativo
Mientras un prototipo generado por IA se ejecuta localmente y se alimenta con datos ficticios, el daño es limitado. El problema surge desde el momento en que la aplicación es accesible públicamente, procesa datos reales de clientes o se conecta a sistemas internos.
Entonces se aplican los mismos requisitos que para cualquier otro software en la empresa: protección de acceso, registro, protección de datos, actualizaciones. Una aplicación cuya estructura nadie en la casa puede explicar es difícil de proteger y aún más difícil de mantener. Si algo falla o aparece una vulnerabilidad en un componente utilizado, falta el punto de partida para reaccionar.
A ello se suma un efecto organizativo: las soluciones que surgen al margen de TI no aparecen en ninguna lista de inventario. Nadie sabe qué sistemas existen, dónde están alojados y quién los atiende cuando la persona que los construyó abandona la empresa o cambia de departamento.
La reacción equivocada sería una prohibición
Los departamentos especializados recurren a herramientas de IA porque quieren resolver rápidamente un problema concreto: una herramienta interna, un formulario, una pequeña evaluación. Este impulso es productivo. Quien lo prohíbe de forma general no obtiene menos TI en la sombra, sino solo una peor documentada.
Más sensato es una separación clara entre experimento y producción. Los prototipos pueden ser rápidos, desordenados y generados por IA. Todo lo que pasa a operación regular recorre el mismo camino que cualquier otra aplicación.
Un modelo viable para prototipos de IA
- Zona de pruebas protegida: un entorno delimitado para experimentos, sin acceso a datos de producción y sin accesibilidad pública.
- Regla de datos previa: definir claramente qué datos pueden llegar siquiera a una herramienta de IA o a un prototipo, especialmente en el caso de datos personales.
- Umbral hacia producción: un punto establecido a partir del cual una revisión técnica es obligatoria, por ejemplo, en caso de acceso externo, datos reales o conexión a sistemas existentes.
- Revisión por personas con conocimientos técnicos: revisión de autenticación, asignación de permisos, validación de entradas, manejo de credenciales de acceso y dependencias integradas.
- Comprobaciones automatizadas: escaneos de dependencias y seguridad en la cadena de entrega, para que las vulnerabilidades conocidas en componentes de terceros se detecten antes de salir a producción.
- Inventario y responsabilidad: cada aplicación productiva con una persona responsable designada, ubicación de alojamiento y ruta de actualización.
Ninguno de estos puntos es nuevo. Lo nuevo es solo que ahora también deben aplicarse a aplicaciones que no provienen del departamento de TI.
Qué aportan las agencias y los proveedores de servicios de TI
El rol está cambiando. Antes llegaba el encargo «construyanos esta herramienta». Hoy llega con más frecuencia un prototipo terminado con la pregunta de si se puede operar así. Esto no es un retroceso, sino un punto de partida útil: la necesidad funcional ya está aclarada, los flujos ya se han probado, los malentendidos sobre los requisitos desaparecen.
El trabajo se traslada por ello a la revisión, el endurecimiento y la transferencia a una estructura mantenible. A menudo también forma parte de ello la respuesta honesta de que una nueva construcción sobre una base sólida es más económica que la rehabilitación de un diseño generado, especialmente cuando la aplicación debe funcionar y seguir desarrollándose durante años.
La mantenibilidad es parte de la seguridad
Las vulnerabilidades de seguridad rara vez surgen solo en el primer despliegue. Surgen con el tiempo, porque las bibliotecas quedan obsoletas, las dependencias ya no se mantienen y nadie aplica las actualizaciones. Una aplicación sin una estructura clara, sin pruebas y sin decisiones documentadas es difícil de actualizar y, por ello, permanece sin actualizar.
Quien utiliza IA en el proceso de desarrollo necesita, por tanto, no solo una revisión al inicio, sino una responsabilidad para la operación continua. Esto se aplica al código generado igual que al escrito a mano.
Para proyectos web y de software esto significa: el prototipado con IA pertenece a la caja de herramientas, porque hace que las ideas sean rápidamente tangibles y acorta las coordinaciones.
Lo decisivo es la línea entre experimento y sistema productivo: todo lo que procesa datos reales o es accesible públicamente necesita revisión, endurecimiento y una responsabilidad nombrada.Las empresas que definen esta línea ahora aprovechan la ganancia de velocidad sin trasladar el riesgo inadvertidamente a la operación.
Fuentes
- „Wir Vibe-Coder sind gefundenes Fressen für Hacker“ — t3n.de - News