Los modelos de lenguaje generan textos que suenan plausibles. Esa es su fortaleza y a la vez su mayor riesgo: un resultado puede ser lingüísticamente impecable y estar completamente inventado en cuanto a contenido. En la jerga técnica este comportamiento se denomina alucinación: el modelo rellena lagunas con datos inventados pero formulados de forma convincente, en lugar de admitir su desconocimiento.
Un caso judicial reciente muestra a dónde lleva esto sin control. Allí, ambas partes se basaron en escritos en los que se citaban sentencias que no existen. Los abogados implicados fueron sancionados por ello. El tiempo ganado que las herramientas habían aportado al redactar los documentos se convirtió en un daño reputacional y de responsabilidad.
Por qué esto no solo afecta a los juristas
El mecanismo es transferible. Quien utiliza sistemas de IA en flujos de trabajo de proyectos y contenidos genera en muchos puntos contenidos que a primera vista parecen terminados:
- Código: Las funciones generadas llaman a métodos que no existen en la versión de la biblioteca utilizada, o siguen patrones que serían correctos en otro framework.
- Documentación técnica: Se inventan parámetros de configuración, rutas o comandos porque encajan con el estilo de la documentación real.
- Contenidos editoriales: Cifras, estudios, normas o clientes de referencia aparecen en el texto sin que existan.
- Afirmaciones legales y regulatorias: Se resumen plazos, artículos o obligaciones sin haber comprobado si la fuente existe y está actualizada.
La diferencia con el error humano radica en la cultura del error de la interfaz. Un empleado desbordado se expresa con inseguridad, deja lagunas o pregunta. Un modelo de lenguaje ofrece una respuesta cerrada y segura de sí misma incluso cuando falta la base. Precisamente esa seguridad reduce la disposición de las personas que procesan el texto a verificarlo.
La responsabilidad sigue siendo de la organización
El punto decisivo del caso judicial no es la técnica, sino la imputación. No se sancionó a las herramientas, sino a las personas que presentaron sus resultados sin verificarlos. Este principio también se aplica en el contexto empresarial: quien entrega una oferta, una documentación, una declaración de protección de datos o un fragmento de código de producción responde por el contenido, independientemente de qué herramienta auxiliar haya participado en su creación.
De ello se deriva un cálculo incómodo. El ahorro de tiempo de una herramienta de IA solo es real si el tiempo de verificación está incluido en el cálculo. Si se omite la revisión para maximizar la ganancia de eficiencia, solo se traslada el esfuerzo al futuro, en forma de retrabajo, corrección de errores o, en el peor de los casos, en forma de conflictos con clientes.
Qué debe lograr un proceso de revisión sólido
Un manejo sostenible de contenidos generados no requiere nueva burocracia, sino unas pocas reglas claras que también se cumplan en el día a día:
- Identificar el origen. Debe poder rastrearse qué partes de un documento o repositorio se generaron de forma automática. Solo así puede gestionarse de forma específica el esfuerzo de verificación.
- Obligación de prueba para los hechos. Toda afirmación verificable —cifra, norma, referencia, función de biblioteca— se comprueba contra una fuente primaria. Los datos inventados casi siempre llaman la atención ya en la primera búsqueda de la fuente original.
- Principio de cuatro ojos para los documentos de salida. Todo lo que sale de la empresa o entra en producción es aprobado por una segunda persona capaz de evaluar el contexto.
- Verificación automatizada en el código. El análisis estático, la comprobación de tipos, el linting y las pruebas detectan una gran parte de las llamadas inventadas antes de que una persona siquiera lea.
- Formar clases de riesgo. Un acta interna de reunión necesita menos control que un texto contractual o un módulo de pagos. El esfuerzo de verificación debe orientarse al daño posible, no a la intuición.
- Reglas de uso vinculantes. Una breve directriz interna aclara para qué tareas puede utilizarse la IA, qué datos pueden introducirse y quién aprueba.
La cultura pesa más que la herramienta
Técnicamente, el riesgo de alucinación puede atenuarse, por ejemplo haciendo que los modelos trabajen con fuentes internas verificadas en lugar de responder de memoria. Puede reducirse, pero no excluirse. Por eso decide la cultura de trabajo: los equipos necesitan el permiso expreso de descartar resultados generados, y no deben medirse por objetivos de tiempo que solo son alcanzables sin revisión.
También resulta útil hacer visibles los errores. Quien documenta brevemente los datos inventados que se detectaron en la revisión construye a lo largo de los meses una imagen realista de dónde trabajan de forma fiable las herramientas utilizadas y dónde no. Es una base de decisión mejor que cualquier debate general sobre la fiabilidad.
Qué significa esto para proyectos web y de software
Para los proyectos esto significa: el aseguramiento de la calidad no es un apéndice que pueda ahorrarse con apoyo de IA, sino la parte que gana peso gracias a ella. Quien utiliza contenidos generados en redacción, documentación y desarrollo debería planificar y presupuestar la revisión como un paso de trabajo fijo.
La ganancia real de eficiencia solo se manifiesta tras deducir este tiempo de revisión, y aun así sigue siendo considerable.