Crear aplicaciones mediante prompts, en minutos en lugar de semanas: exactamente esa es la promesa que hay detrás de las funciones de aplicación de los asistentes de IA modernos. Que la velocidad tiene su precio lo demuestra un hallazgo reciente de la empresa de seguridad Claroc. Encontró más de 35.000 aplicaciones creadas con Grok que eran accesibles para cualquier persona en la red sin necesidad de iniciar sesión.
Entre las aplicaciones de acceso abierto se encontraron, según el informe, también datos de pacientes, así como documentos internos confidenciales del propio proveedor. Por lo tanto, no se trata de un caso marginal con proyectos de juego, sino de contenidos que bajo ninguna circunstancia deberían estar públicos.
La causa no fue un ataque, sino una configuración predeterminada
Llama la atención lo banal que era el desencadenante. Al publicar una aplicación, la opción de acceso Anyone with the link —es decir, acceso para todos los que conozcan el enlace— estaba preseleccionada por defecto. Quien no cambiaba activamente la configuración, ponía su aplicación de facto en la red abierta.
Se trata de un caso clásico de valores predeterminados inseguros. Las configuraciones predeterminadas no son un asunto técnico accesorio y neutral, sino una decisión del fabricante sobre lo que sucede en caso de duda. Y en caso de duda, a la mayoría de los usuarios les sucede exactamente lo que está preconfigurado. Quien puede crear una aplicación con un prompt en pocos minutos, por experiencia no lee el menú de publicación con especial atención.
A ello se suma una suposición de seguridad errónea: un enlace largo que parece aleatorio se siente secreto. En realidad, "no enlazado" no es un mecanismo de protección. Tales URL aparecen en motores de búsqueda, cabeceras de referrer, historiales de chat, sistemas de tickets y escaneos automatizados, y al parecer fueron precisamente esos escaneos los que encontraron las aplicaciones.
Limpiar es más difícil que publicar
El manejo del hallazgo pone de manifiesto un segundo problema. Según el informe, el proveedor puso offline las 24 aplicaciones de sus propios empleados; las demás aplicaciones permanecieron accesibles. Esto es comprensible, porque los contenidos pertenecen a cuentas ajenas, y aun así supone un dilema: formalmente, los responsables de los datos son las personas y organizaciones que los subieron. Muchas de ellas probablemente hasta hoy no saben que su aplicación está pública.
Para las empresas esto significa: nadie limpia detrás de ustedes. Cuando los empleados de un departamento especializado crean aplicaciones de IA de forma autónoma y depositan allí datos de clientes, ofertas o documentos de personal, surge una TI en la sombra con efecto directo hacia el exterior, sin que el departamento de TI se entere.
Por qué los prototipos están especialmente en riesgo
Los prototipos surgen rápido, de forma informal y a menudo al margen de los procesos oficiales. Precisamente eso los hace útiles. Se vuelve arriesgado en el momento en que un prototipo se desliza silenciosa y discretamente hacia la operación cotidiana: alguien comparte el enlace con una colega, la colega con una clienta, y de repente fluyen datos personales reales a través de una aplicación que nunca pasó por una revisión.
En las aplicaciones generadas por prompt esto se agrava. A menudo no se lee el código, no se cuestiona el almacenamiento de datos, y no hay ningún momento en el que alguien decida conscientemente: esto ahora pasa a producción. La transición del experimento al sistema productivo ocurre sin ser advertida.
Cuatro puntos antes de la operación productiva
Para el paso del prototipo de IA a la aplicación en uso basta un conjunto manejable de comprobaciones; lo importante es que se realicen:
- Concepto de acceso: ¿Quién puede ver la aplicación, quién puede modificar datos? Ser accesible públicamente es una decisión consciente, no un estado estándar. Las autorizaciones basadas únicamente en conocer el enlace deben quedar excluidas para datos internos.
- Revisión de protección de datos: ¿Qué datos personales se procesan, dónde están, durante cuánto tiempo? Los datos de salud y las categorías comparables de datos sensibles no tienen en principio nada que hacer en un prototipo; bastan datos de prueba.
- Revisión de código y arquitectura: El código generado es código como cualquier otro y necesita el principio de cuatro ojos: autenticación, interfaces, manejo de credenciales, registro de eventos.
- Inventario y fecha de caducidad: Cada aplicación de IA debe figurar en una lista con una persona responsable. Los prototipos sin propietario se desactivan tras un plazo definido en lugar de olvidarse.
Gobernanza en lugar de prohibición
La reacción obvia —prohibir las herramientas de IA en la empresa— no resuelve el problema, sino que lo traslada a cuentas privadas y, con ello, completamente fuera de la vista. Más sensato es un camino claramente descrito: herramientas autorizadas, reglas sobre qué clases de datos pueden procesarse en ellas y una forma sencilla de trasladar un prototipo al modelo regular de desarrollo y operación.
Esto incluye también un control periódico de las autorizaciones. Las configuraciones estándar de las plataformas cambian con las actualizaciones de producto; lo que ayer era interno puede estar configurado de otra manera tras un release. Una revisión recurrente de las propias aplicaciones publicadas cuesta poco y evita precisamente el estado que Claroc ha documentado.
Clasificación
Para los proyectos web y de software, la tarea cambia: en el futuro, el cuello de botella ya no será crear una aplicación, sino la decisión de si puede operarse y bajo qué condiciones. La revisión, el concepto de derechos y la revisión de protección de datos no son, por tanto, un apéndice burocrático, sino el verdadero valor añadido de una implementación profesional.
Quien permita prototipos de IA debería definir al mismo tiempo dónde terminan, y quién los apaga cuando ya nadie es responsable.