La inteligencia artificial debe aportar sobre todo una cosa en los proyectos: trabajo previo. Examina material, resume, propone variantes. La decisión, según la suposición habitual, sigue siendo del ser humano. Un experimento de Anthropic pone en duda precisamente esta suposición.

Se investigó hasta qué punto un agente de IA —es decir, un sistema de asistencia que ejecuta pasos de análisis de forma autónoma y formula recomendaciones— influye en el juicio de profesionales. Participaron 50 expertas y expertos que debían abordar cuestiones de análisis abiertas: cuestiones, por tanto, en las que no hay una solución inequívocamente correcta, sino una ponderación fundamentada.

Cara o cruz en lugar de la situación de hecho

El truco decisivo del diseño: la inclinación del agente de IA se determinó mediante el lanzamiento de una moneda. La recomendación no era, por tanto, el resultado de un análisis superior, sino simple azar. Aun así, los profesionales siguieron esta dirección asignada en el 86 por ciento de los casos.

Aún más revelador es el modo de adopción. Los participantes retomaron los argumentos de la IA con frecuencia casi palabra por palabra. No surgió, por tanto, una fundamentación propia que casualmente llegara a la misma conclusión, sino una adopción en gran medida de la línea argumentativa preformulada.

Y el tercer hallazgo es el que más pesa para la práctica: la mayoría consideró al final el resultado como su propia decisión. El origen ajeno del juicio no era consciente para los participantes.

Por qué esto no es un problema de comodidad

La interpretación obvia sería que aquí alguien ha tomado un atajo. Pero el efecto describe algo más fundamental: un efecto ancla. Quien recibe una posición ya formulada la examina —y precisamente ya no examina con la mente abierta todo el campo de soluciones. La primera variante plausible se convierte en el punto de referencia contra el que se miden todas las demás.

Los agentes de IA refuerzan este mecanismo por dos razones. Primero, no solo entregan un resultado, sino directamente una fundamentación completamente formulada en un tono seguro. Segundo, esto ocurre de inmediato y sin fricción —antes de que siquiera pudiera formarse una posición propia.

Que la recomendación en el experimento se produjera al azar es precisamente el punto clave. El efecto actúa independientemente de si la propuesta está bien fundamentada. Una recomendación débil, por tanto, llega igual de lejos que una fuerte, siempre que esté formulada de manera convincente.

Dónde se manifiesta esto en los proyectos

Para el trabajo diario en proyectos web y de software se ven afectadas sobre todo tres situaciones:

  • Revisiones de código con apoyo de IA: Cuando un sistema de asistencia ya ha marcado lo que considera crítico, la atención de la persona revisora se estrecha a exactamente esos puntos. Lo que no fue marcado tiende a tratarse como no problemático.
  • Decisiones de arquitectura: Las cuestiones sobre framework, punto de corte de interfaces o modelo de alojamiento son cuestiones de análisis abiertas clásicas. Hay varias vías defendibles con distintos costes derivados. Justo ahí es donde una propuesta preformulada actúa con más fuerza.
  • Concepción y clarificación de requisitos: Cuando el primer borrador de una descripción de procesos o de una arquitectura de información proviene de un modelo, por regla general se comenta y no se sustituye.

Peligroso es menos el caso individual que el rastro documental que deja. Una decisión que en el acta parece sopesada técnicamente puede haber sido de hecho la adopción de una propuesta. Las revisiones posteriores ya no encuentran entonces ningún punto de partida, porque la fundamentación ya está ahí.

Qué se puede derivar a nivel organizativo

La consecuencia no es renunciar al apoyo de la IA. Consiste en cambiar el orden y la visibilidad:

  1. Primero la posición propia. En decisiones con efecto vinculante a largo plazo —arquitectura, modelo de datos, elección de plataforma— merece la pena dejar constancia de la propia valoración antes de consultar al modelo. Si los resultados difieren, eso es un motivo útil de revisión.
  2. Solicitar variantes en lugar de una recomendación. Quien pide varias opciones con ventajas y desventajas no obtiene un único resultado ancla, sino material para una ponderación.
  3. Documentar la procedencia. En las notas de decisión debería seguir siendo reconocible qué partes provienen de un sistema de asistencia. Eso cuesta poco y preserva la trazabilidad.
  4. Exigir contraargumentación. Una segunda consulta que argumente específicamente contra la primera recomendación revela puntos débiles que no aparecieron en la primera respuesta.
  5. Separar roles. Quien ha generado el borrador no debería aprobarlo en lo posible en solitario —esto vale tanto para las salidas de IA como para las humanas.

Estas medidas se han mantenido deliberadamente sencillas. Funcionan sin herramientas adicionales y pueden integrarse en los procesos existentes de revisión y aprobación.

Clasificación

El experimento desplaza la mirada hacia la calidad de la IA: no solo cuenta la corrección de la salida, sino también su efecto sobre el juicio de las personas que trabajan con ella. Para los proyectos web y de software esto significa que la gobernanza del uso de la IA debería partir menos del modelo y más del proceso de decisión —quién ve qué y cuándo, y quién hace la contraverificación.

Quien lo ancla en la revisión de código, la aprobación de arquitectura y las fases de concepción, conserva las ventajas de velocidad y no pierde el control técnico sobre decisiones cuyos costes solo se hacen visibles años después.

Fuentes