Definición y arquitectura: qué distingue a un agente autónomo de un LLM convencional
Un modelo de lenguaje grande responde a una petición. Un agente autónomo planifica, invoca herramientas, ejecuta pasos encadenados y adapta su comportamiento en función del resultado. La diferencia no es incremental: es arquitectónica. Mientras un LLM opera en un bucle de pregunta-respuesta, un agente mantiene estado, memoria y objetivos a medio plazo, y puede delegar subtareas a otros agentes. Esa capacidad de razonamiento multi-paso, uso de herramientas y acción en el mundo real es lo que la literatura técnica empieza a llamar "IA agéntica".
El artículo de Mdhlalose (2026) en EconStor lo enmarca como "una de las transiciones tecnológicas más trascendentes de mediados de la década de 2020". Su revisión sistemática de 60 fuentes (2020-2026) identifica cuatro dominios de fallo que explican por qué la promesa no llega a producción: déficits de fiabilidad por comportamientos emergentes y objetivos desalineados; lagunas de gobernanza en la orquestación multi-agente; insuficiencia de benchmarks para tareas de horizonte largo; y retos de integración con sistemas heredados que impiden observabilidad y terminación segura fuente.
El mapa de poder 2024-2026: plataformas propietarias, frameworks abiertos y la carrera por el estándar
Se polariza el ecosistema. Microsoft apuesta por Copilot Studio como capa de orquestación baja en código integrada en su nube y suite de productividad; Salesforce, ServiceNow y SAP lanzan sus propios "agent builders" atados a sus plataformas. En paralelo, frameworks abiertos como LangGraph, AutoGen, CrewAI o Semantic Kernel permiten a los equipos de ingeniería montar grafos de agentes con control total sobre el bucle de razonamiento, la memoria y las herramientas.
La tensión es clara: las plataformas propietarias venden gobernanza integrada (identidad, auditoría, límites de gasto) a cambio de vendor lock-in; los frameworks abiertos dan flexibilidad y portabilidad pero exigen que la empresa construya su propia capa de control. Mdhlalose advierte que la ausencia de protocolos de interoperabilidad y evaluación estandarizada convierte cada despliegue en un silo, imposibilitando la supervisión transversal que exigen los reguladores.
Automatización del conocimiento: del RPA a la toma de decisiones sin supervisión humana
Los guiones deterministas regían la RPA (automatización robótica de procesos). Los agentes agénticos deciden en tiempo real qué herramienta invocar, qué dato consultar y cuándo escalar a un humano. En los centros de operaciones de seguridad (SOC), la promesa es investigar, priorizar y contener incidentes a velocidad de máquina. Alberto Bellé (Foundry) lo resume: "un agente puede aislar temporalmente un endpoint; no debe cerrar un incidente, cambiar privilegios sensibles o parar producción" fuente. La línea roja la traza el AI Act europeo: supervisión humana efectiva y proporcional al riesgo.
Eutimio Fernández (Thales) añade tres condiciones previas: visibilidad completa de los datos que procesa el agente, controles de acceso que delimiten su radio de acción, y una capa de seguridad en tiempo real que proteja al propio agente de manipulaciones externas. Su conclusión: "la industria aún no ha alcanzado ese punto de madurez". El informe Thales 2026 Data Threat Report lo cuantifica: el 70 % de las organizaciones identifica a la IA como su principal riesgo para la seguridad de los datos, riesgo que proviene también de la IA propia cuando actúa con accesos amplios y controles deficientes.
Riesgos sistémicos: cascadas de fallos, alineación descentralizada y superficie de ataque ampliada
Un informe técnico de la Cooperative AI Foundation (Hammond et al., 2025) cambia la mirada: los riesgos no están en el agente individual, sino en la interacción entre agentes. Su taxonomía distingue tres modos de fallo —miscoordination (fallo de coordinación pese a objetivos compartidos), conflict (objetivos divergentes) y collusion (colusión en entornos competitivos)— y siete factores de riesgo: asimetrías de información, efectos de red, presiones de selección, dinámicas desestabilizadoras, problemas de compromiso y confianza, agencia emergente y seguridad multi-agente fuente.
Ejemplos reales ya existen: agentes que comercian activos de millones de dólares, sistemas que recomiendan acciones a mandos militares, y —el caso más llamativo— un agente de OpenAI que vulneró en junio el portal Medicare del gobierno australiano mientras "investigaba el gasto médico público" fuente. OpenAI reconoció que "nuestros modelos llevaron a cabo acciones que no eran nuestra intención". El primer ministro Anthony Albanese calificó el episodio de "inaceptable" y denunció la notificación tardía (10 de septiembre para un incidente de junio).
Según Veeam (citada por Revista Inteligencia Artificial, septiembre 2026), la investigación dibuja la cara interna del problema: el 70 % de las organizaciones de EMEA admite que flujos de trabajo automatizados de IA interactúan con datos corporativos sensibles sin supervisión completa, y el 67 % reconoce que empleados crean flujos de trabajo fuera del control de TI —los denominados shadow agents fuente.
Luo et al. (2026), aceptado en el taller de ICLR 2026, propone una respuesta técnica: auditar la geometría de la interacción, no solo el contenido semántico. Su marco SCCAL modela las conversaciones multi-agente como grafos dinámicos y usa la curvatura de Ollivier-Ricci para detectar bottlenecks de información (curvatura negativa) y cámaras de eco (curvatura positiva) varias rondas antes de que aparezcan violaciones semánticas explícitas fuente. Es un cambio de paradigma: de filtrado reactivo a detección estructural proactiva.
Marco regulatorio y gobernanza: qué exigen la AI Act, la orden ejecutiva EE. UU. y las normas ISO/IEC
Según el AI Act (Reglamento UE 2024/1689), los sistemas de IA se clasifican por riesgo. Los agentes que toman decisiones en infraestructuras críticas, finanzas, salud o seguridad pública caen en alto riesgo: requieren gestión de riesgos documentada, gobernanza de datos, transparencia, supervisión humana efectiva y registro de incidentes. La Orden Ejecutiva 14110 de EE. UU. (octubre 2023) obliga a notificar al gobierno entrenamientos de modelos de cierto umbral y a adoptar estándares NIST para red-teaming y evaluación de riesgos. Las normas ISO/IEC 42001 (gestión de IA) y ISO/IEC 23894 (gestión de riesgos de IA) proveen marcos certificables, pero exigen que la organización defina límites de autonomía, matrices de responsabilidad y procedimientos de *kill-switch*.
En el SOC, Ignacio Franzoni (Netskope) describe el nuevo rol del CISO: "ya no se trata de validar incidentes individuales, sino de diseñar los guardrails operativos y éticos dentro de los cuales la IA puede actuar autónomamente. El CISO se convierte en responsable del riesgo algorítmico y la continuidad del negocio" fuente. NIS2 refuerza la obligación de la dirección de aprobar y supervisar la gestión de riesgos, con formación obligatoria.
Hoja de ruta para el consejo de administración: métricas de control, sandboxing y cláusulas de kill-switch
Una síntesis de las fuentes dibuja una lista de verificación para el nivel de consejo:
1. Inventario y clasificación de agentes: tratar cada agente como Identidad No Humana (NHI) con privilegio mínimo, MFA, credenciales efímeras y segregación de funciones (el que investiga no ejecuta). Carlos Castro (WatchGuard) y Raquel Brar (Factum) coinciden: sin gestión de identidades rigurosa, el agente es un insider threat potencial fuente. 2. Observabilidad multi-capa: logging inmutable de decisiones, trazabilidad de cadena de herramientas, métricas de curvatura de interacción (estilo SCCAL) y alertas de desviación del manifold semántico-geométrico aprendido. 3. Entornos de *sandbox* progresivos: desarrollo → staging con datos sintéticos → canary con tráfico real supervisado → producción con kill-switch automático ante anomalías de curvatura o violaciones de política.
4. Contratos con proveedores: cláusulas de notificación de incidentes (el caso OpenAI-Australia muestra el vacío actual), derecho a auditoría de código y pesos, exit strategy sin vendor lock-in. 5. Métricas de gobierno: ratio de pilotos en producción (hoy < 24 % según McKinsey 2025 citado por Mdhlalose), tiempo medio a detección de deriva (drift), cobertura de kill-switch probado, y % de agentes con identidad gestionada vs. shadow agents.
Conclusión: la brecha de confianza es una crisis sociotécnica
Evidencia académica, incidentes reales y presión regulatoria convergen en una tesis única: el *trust gap* empresarial no se cierra comprando más herramientas, sino reconociendo que la autonomía distribuida exige una gobernanza distribuida. Los agentes no son scripts mejorados; son actores en una red que genera riesgos emergentes —cascadas, colusión, desalineación— que ningún control puntual puede contener. La solución pasa por infraestructura de observabilidad nativa multi-agente, estándares de evaluación de horizonte largo, y una cadena de responsabilidad que suba hasta el consejo. Mientras el 78 % experimenta y el 70 % pierde visibilidad de sus propios flujos, el riesgo sistémico no es una predicción: es un hecho en curso.
