Los agentes de IA autónomos se consideran desde hace tiempo el siguiente paso después de la ventana de chat: sistemas que no solo responden, sino que descomponen tareas, invocan herramientas, verifican resultados intermedios y, al final, entregan un producto de trabajo terminado. Un experimento de investigación frena esta expectativa. Los investigadores hicieron que agentes de IA escribieran estudios científicos sobre preguntas de investigación hasta ahora sin respuesta; los programas fracasaron en la tarea.
El escenario se eligió deliberadamente difícil. Una pregunta de investigación abierta es exactamente el caso en el que la respuesta no puede componerse a partir del material existente. No hay ningún patrón en el material de entrenamiento en el que un modelo pueda orientarse, ni ninguna autoridad que confirme el resultado de paso. Quien quiera aprobar aquí debe delimitar con precisión un planteamiento propio, elegir un método, reconocer contradicciones en su propio proceder y, a continuación, poder descartar su propio trabajo como insuficiente. Es una exigencia distinta a la de generar un texto que suene plausible.
Plausible no es lo mismo que correcto
El punto interesante para las empresas no radica en que los agentes cometan errores. Las personas también lo hacen. Radica en dónde se producen los errores y en lo difícil que resulta reconocerlos. Los modelos de lenguaje están optimizados para generar resultados que correspondan a la forma de resultados correctos. Un texto de estudio que parece un estudio es, por tanto, alcanzable. Un texto de estudio cuyo hallazgo sea sólido no lo es automáticamente.
Trasladado a proyectos de software, esto significa: un agente entrega con alta probabilidad código que compila, sigue una convención y parece razonable en su estructura. Si resuelve el problema técnico real, si tiene en cuenta un caso límite que nadie documentó y si seguirá siendo mantenible dentro de tres años, se decide en un nivel que el modelo no puede evaluar mientras no reciba una retroalimentación real del mundo.
La automejora necesita un correctivo externo
La esperanza detrás de los agentes que se automejoran es: el sistema verifica su propio resultado, reconoce el punto débil e itera hasta que encaja. En la práctica, esto presupone que la verificación es más dura que la generación. Ahí está precisamente el problema. Cuando el mismo modelo es autor y evaluador, verifica contra los mismos supuestos que ya llevaron al error.
Donde este correctivo existe de forma automática, los agentes funcionan claramente mejor. Una prueba que falla, un error de linter, un estado HTTP 500, una condición de base de datos no cumplida: son señales inequívocas desde fuera con las que un agente puede trabajar. Donde falta el correctivo o solo una persona puede aportarlo, termina la autonomía.
Qué significa esto para el uso práctico
De esta distinción puede derivarse una regla de selección útil para proyectos. Los agentes tienen sentido allí donde confluyen tres condiciones:
- Resultado verificable: Existe una prueba automatizada, un esquema, una validación o una referencia contra la que el resultado falla o pasa.
- Daño limitado: Un fallo cuesta tiempo de cómputo y una repetición, no integridad de datos, confianza o dinero.
- Punto de interrupción claro: El agente no puede seguir ejecutándose sin fin, sino que tiene límites definidos para intentos, tiempo de ejecución y accesos.
En cambio, siguen siendo críticas las tareas en las que la evaluación misma es el rendimiento real. Una revisión de código que contextualiza decisiones de arquitectura. La pregunta de si un requisito debe implementarse siquiera así. La interpretación de una directriz contractual o regulatoria. En estos casos, un agente es un proponente y no un decisor.
Los puntos de control humanos pertenecen al flujo de trabajo, no al margen
Importante es el lugar donde interviene la persona. Una aprobación al final de una larga cadena de agentes vale poco, porque allí la verificación del resultado global sería más costosa que la propia creación. Más útiles son los puntos de control en las transiciones: antes de que un agente obtenga permisos de escritura sobre un sistema, antes de que ejecute un paso de migración, antes de que se publiquen contenidos.
Igualmente útil es la transparencia sobre el camino hacia el resultado. Si sigue siendo comprensible qué herramientas invocó un agente y qué pasos intermedios descartó, puede localizarse un error. Sin este rastro, solo queda la elección entre confianza ciega y control posterior completo.
La gestión de expectativas forma parte del trabajo del proyecto
El hallazgo del experimento de investigación no es un argumento contra la IA en el día a día del desarrollo. Solo precisa para qué sirve hoy la tecnología. Asistencia en pasos de trabajo claramente delimitados y verificables: para eso hay experiencias sólidas. Procesamiento autónomo de preguntas abiertas sin supervisión técnica: para eso no.
Para proyectos web y de software se deriva de ello sobre todo una tarea de planificación: los agentes deberían introducirse con los mismos requisitos de testabilidad, asignación de permisos y registro que cualquier otro componente automatizado. Quien construye primero los bucles de verificación y amplía después la autonomía, gana velocidad sin riesgos incalculables. Y quien cifra el beneficio de forma realista no tendrá que retirar más tarde una expectativa que técnicamente nunca estuvo cubierta.