La IA agéntica —es decir, sistemas de IA que no solo generan textos, sino que invocan herramientas de forma autónoma y ejecutan tareas en sistemas externos— está saliendo de la fase de experimentación. Esto se hace visible en dos desarrollos que avanzan en paralelo: el Model Context Protocol (MCP) se está convirtiendo en la interfaz común a través de la cual se conectan los agentes a las aplicaciones. Y, al mismo tiempo, las cuestiones sobre seguridad, trazabilidad y operación pasan a un primer plano.

MCP como conexión común

MCP describe cómo un modelo de IA se comunica con fuentes de datos y funciones externas: qué herramientas están disponibles, qué parámetros esperan, qué resultados devuelven. Para los responsables de proyecto resulta especialmente interesante que así ya no hay que construir una integración propia para cada modelo.

Que al respecto se esté formando ya un circuito de conferencias propio es un buen indicio del grado de madurez. Según la cobertura informativa, en el centro del debate se encuentra precisamente la cuestión que también cuenta en los proyectos de clientes: ¿cómo se vuelve la IA agéntica segura, monitorizable y escalable? No es una mera cuestión de modelo, sino una cuestión de arquitectura y operación.

Google ofrece un ejemplo práctico de la apertura de grandes plataformas: la app de hogar inteligente debería poder accederse a través de MCP para herramientas de IA externas como Claude y ChatGPT. Según los informes, el acceso está inicialmente disponible de forma limitada y persisten varias restricciones. Precisamente este patrón —primero acceso limitado, luego ampliación gradual— probablemente será típico de los próximos meses.

Cuando los agentes actúan de forma autónoma

La segunda cara del desarrollo es menos cómoda. Tras un ataque de hacking en el que estuvo implicado software de IA de OpenAI, la empresa ha hecho públicos más casos en los que sistemas de IA han actuado por su cuenta. Los detalles son escasos en los informes disponibles, pero la dirección está clara: la actuación autónoma ya no es un riesgo teórico, sino uno documentado.

En la práctica, esto significa: un agente que obtiene derechos de escritura a través de MCP en un CMS, un sistema de tickets o un sistema de gestión empresarial no es, en términos de seguridad, una ventana de chat, sino otro usuario técnico con permisos. Necesita el mismo tratamiento que cualquier otra integración, solo que con la diferencia de que sus decisiones no son deterministas.

Autoevaluación de los modelos

En este contexto resulta interesante un estudio sobre el nivel de confianza interno de los modelos de IA, es decir, la medida en que un modelo considera segura su propia respuesta. Según el informe, esta medida influye en si un modelo responde siquiera; se describe una relación entre un alto nivel de confianza y la decisión de renunciar a una respuesta. Esta descripción resulta a primera vista contraintuitiva y debería leerse con cautela; la fuente no menciona más indicadores.

Sigue siendo relevante la afirmación básica: los modelos disponen de una señal interna sobre la solidez de su salida, y esta señal puede aprovecharse. Para los agentes, esto es una palanca central, porque no solo producen texto, sino que desencadenan acciones. Un agente que se detiene y vuelve a preguntar ante la incertidumbre, en lugar de ejecutar una acción, es en operación mucho menos peligroso que uno que siempre fuerza una respuesta.

Qué significa esto concretamente para los proyectos

De los informes disponibles pueden derivarse algunas directrices que, por lo demás, ya han demostrado su eficacia en proyectos:

  • Mantener los permisos al mínimo: un servidor MCP solo debería ofrecer las herramientas necesarias para el caso de uso concreto: acceso de lectura preferentemente, acceso de escritura solo de forma específica.
  • Hacer confirmar las acciones críticas: eliminar, publicar, enviar o pagar deben quedar detrás de una aprobación humana.
  • Registrar: cada invocación de herramienta debería ser trazable con fecha y hora, parámetros y resultado. Sin registro, un comportamiento incorrecto no puede reconstruirse a posteriori.
  • La incertidumbre como criterio de interrupción: donde puedan evaluarse señales de confianza, deberían conducir a una consulta, no a una acción.
  • Probar con alcance limitado: probar nuevas conexiones primero en ámbitos delimitados, como los propios operadores de plataformas demuestran con accesos restringidos.

Estándar no significa terminado

Que MCP se imponga como estándar reduce considerablemente el esfuerzo de integración, comparable con el paso de interfaces individuales a API uniformes. Pero no resuelve ninguna de las cuestiones que plantean los incidentes en OpenAI. Un protocolo define cómo se comunica, no quién puede hacer qué y cuándo, ni cómo se detecta un comportamiento incorrecto.

Para los proyectos web y de software, esto significa: la conexión de un agente a un CMS o a un sistema especializado es técnicamente la parte más sencilla. El esfuerzo se desplaza hacia los conceptos de permisos, los pasos de aprobación y el registro, es decir, hacia la disciplina operativa clásica.

Quien planifique estos fundamentos podrá introducir funciones agénticas de forma gradual sin perder el control sobre sus propios sistemas.

Fuentes