Un desarrollador ha diseñado un lenguaje de programación cuyo objetivo declarado no es la productividad, sino la confusión: los modelos de IA deben tener muy difícil comprender el código escrito con él. Para ello, el lenguaje utiliza, entre otras cosas, indicaciones e instrucciones engañosas que hacen algo distinto de lo que aparentan.

El proyecto es un experimento, no una herramienta para el funcionamiento productivo. Aun así, merece la pena echarle un vistazo, pues plantea una pregunta que en muchos equipos de desarrollo está cobrando relevancia práctica: ¿en qué fallan exactamente los asistentes de IA cuando deben leer, explicar o modificar código?

Por qué los modelos se dejan engañar en primer lugar

Los grandes modelos de lenguaje —es decir, los sistemas de IA que predicen el siguiente carácter más probable a partir de cantidades ingentes de texto— tienen una ventaja decisiva con el código fuente: los lenguajes de programación están altamente convencionalizados. Una función llamada validateEmail normalmente comprueba direcciones de correo electrónico. Un comentario describe generalmente lo que ocurre debajo. Un framework extendido sigue patrones conocidos.

Precisamente esa previsibilidad es la base para que los asistentes de IA hagan propuestas útiles. Reconocen patrones que han visto millones de veces. Si se corta sistemáticamente la conexión entre la denominación y el comportamiento real, ese mecanismo se viene abajo: el modelo sigue leyendo señales, pero las señales mienten.

Llama la atención que los desarrolladores humanos también están sujetos fundamentalmente a este efecto. Ellos también leen el código principalmente por encima, confían en los nombres y los comentarios y solo comprueban línea por línea en caso de duda. La diferencia está en la salida: las personas pueden ejecutar un programa, leer logs, preguntar a colegas o volverse desconfiadas cuando algo les parece mal. Un asistente que solo ve el fragmento de texto en la ventana de contexto no tiene automáticamente esas posibilidades de corrección.

De proyecto artístico a riesgo real

Un lenguaje deliberadamente confuso no se utilizará en ningún proyecto empresarial. Sin embargo, los equipos se encuentran constantemente con su mecánica en forma atenuada, de manera involuntaria y habiendo crecido durante años:

  • Nombres de funciones y variables que, desde el tercer refactoring, ya no describen lo que hace el código.
  • Comentarios que documentan un estado anterior y nunca se actualizaron.
  • Valores de configuración que se establecen en un lugar y se sobrescriben silenciosamente en otro completamente distinto.
  • Convenciones propias que se desvían de los estándares del framework utilizado, sin que esto quede registrado en ningún sitio.

Estas bases de código son agotadoras para las personas y peligrosas para las herramientas de IA. Pues un asistente rara vez expresa inseguridad. Entrega una explicación plausible o un parche plausible, incluso cuando la suposición de partida era falsa. Quien adopta tales propuestas sin comprobarlas sigue distribuyendo el engaño por el sistema.

Consecuencias para las revisiones

Muchos equipos utilizan ya la IA no solo para escribir, sino también para revisar código: comentarios de revisión automatizados, resúmenes de pull requests, explicaciones sobre módulos ajenos. El beneficio depende directamente de la fiabilidad con que el código informa sobre sí mismo.

En la práctica, esto significa: la calidad de una revisión de IA no es una característica del producto de la herramienta elegida por sí sola, sino un espejo de la propia base de código. Quien ejecuta la misma tarea en un proyecto bien estructurado y en un sistema heredado que ha crecido históricamente obtiene resultados de muy distinta solidez, sin que la diferencia sea visible en el output.

Qué se puede derivar de ello

Del experimento no se sigue una advertencia contra los asistentes de IA, sino una mirada sobria a sus requisitos previos. Algunos puntos que se pueden implementar en proyectos:

  1. Tratar la denominación como parte de la arquitectura. Los nombres no son cosmética, sino el nivel de documentación más importante, tanto para personas como para máquinas.
  2. Mantener o eliminar los comentarios. Un comentario falso es peor que ninguno, porque induce activamente a error.
  3. Dejar las convenciones por escrito. Las desviaciones del estándar del framework deben justificarse y documentarse en un lugar al que también puedan acceder los asistentes.
  4. Comprobar las propuestas de IA contra tests, no contra la intuición. Las pruebas automatizadas son la única instancia que evalúa el comportamiento independientemente de las etiquetas.
  5. Dejar la responsabilidad de la revisión en las personas. Una revisión de IA acelera el trabajo previo, pero no sustituye una aprobación técnica.

La otra lectura: el código como espacio protegido

El enfoque también puede pensarse a la inversa. Si la legibilidad es lo que hace posible en primer lugar la comprensión automática, entonces la ilegibilidad es una forma de aislamiento, contra la lectura, la reconstrucción o la reutilización automatizadas de código. Para el uso práctico, sin embargo, esta dirección es poco atractiva: lo que frena a los modelos de IA frena por igual a los nuevos miembros del equipo, a las auditorías de seguridad y al mantenimiento. El precio del ocultamiento se paga en costes de mantenimiento.

Para los proyectos web y de software, esto significa sobre todo una cosa: el código legible y con nombres consistentes se ha convertido en una cuestión de infraestructura. Las inversiones en convenciones de nombres, documentación actualizada y pruebas automatizadas rinden hoy por partida doble: acortan la incorporación en el equipo y deciden al mismo tiempo cuánto alivio aportan realmente las herramientas de IA.

Quien planee asistencia de IA en el proceso de desarrollo debería por ello evaluar primero el estado de su propia base de código, no la lista de funciones del asistente.

Fuentes