Investigación La trampa de gobernar la IA con un mismo criterio: el 40% de los agentes fracasará
Gartner predice que dos de cada cinco agentes autónomos serán degradados o eliminados para 2027. El error no es técnico sino de gobernanza: aplicar las mismas reglas a agentes simples y complejos. La salida es una gobernanza proporcional al riesgo.
El entusiasmo por los agentes de inteligencia artificial está chocando contra una realidad operativa incómoda. Gartner proyecta que para 2027 el 40% de las empresas que hoy despliegan agentes autónomos terminarán degradándolos o eliminándolos por completo. No se trata de una falla del modelo ni de falta de talento: el origen del problema está en cómo las organizaciones deciden gobernar estas herramientas.
La firma de análisis identifica dos modos de fallo simétricos. Por un lado, aplicar controles excesivamente restrictivos a agentes de baja autonomía —como los que solo resumen documentos o consultan datos— termina retrasando su puesta en producción y fomenta que los equipos desarrollen versiones paralelas no autorizadas, el fenómeno conocido como shadow IT. Por el otro, dejar sin restricciones a agentes con capacidad de ejecutar acciones de forma independiente —como modificar configuraciones, escribir en bases de datos o ejecutar órdenes de compra— dispara los riesgos operativos, de seguridad y de cumplimiento normativo.
Detrás de ambos extremos hay una misma falla de diseño, según señala Shiva Varma, analista senior de Gartner: tratar la gobernanza como una decisión binaria entre "control total" o "confianza total". Una receta que no reconoce que los agentes de IA operan en distintos niveles de autonomía, cada uno con un perfil de riesgo propio.
Gartner propone un esquema de cuatro niveles de autonomía, cada uno con su correspondiente "gobernanza proporcional". En el nivel 1 (observar), el agente solo lee datos y muestra resultados al usuario que lo solicitó; el riesgo se limita a filtraciones de información y errores de precisión. En el nivel 2 (asesorar), el agente genera recomendaciones pero no ejecuta nada sin aprobación humana; aquí el riesgo principal es el sesgo de automatización —que el usuario confíe ciegamente en una salida incorrecta—, que exige pruebas de precisión y entrenamiento del personal. En el nivel 3 (ejecutar con aprobación), el agente realiza cambios pero solo tras una autorización explícita de una persona; la gobernanza debe incluir flujos de aprobación auditables y procedimientos de respuesta a incidentes. En el nivel 4 (ejecución autónoma), el agente actúa por sí mismo dentro de límites predefinidos; aquí se requieren mecanismos de supervisión continua, circuitos de interrupción automática (como un interruptor de corte), y la organización debe asumir la responsabilidad legal de los resultados.
Este planteamiento resuena con una observación recurrente en la industria: que entre el 70% y el 85% de los pilotos de IA en empresas no llegan nunca a producción. Un análisis reciente de The Cloud Group, basado en la auditoría de más de 90 proyectos estancados, señala que las causas no son culturales sino técnicas y evitables. Entre ellas destacan cinco: el uso de datos limpios de prueba que no reflejan el ruido real de producción; la ausencia de observabilidad —logs, métricas y evaluaciones automatizadas— que permita detectar degradaciones silenciosas; la postergación de la integración con sistemas internos a una "fase 2" que nunca llega; la falta de cálculo del costo operativo real al escalar de 5 a 10.000 usuarios, que puede multiplicar la factura mensual por 20; y la elección de casos de uso por su impacto en una demo en lugar de por su retorno medible.
En América Latina, la adopción de agentes de IA avanza con menos recursos pero con urgencia similar. Sectores como logística, agricultura, manufactura y servicios financieros ya están experimentando con equipos híbridos. Un reporte de Prensa Económica describe cómo en YPF, por ejemplo, agentes inteligentes monitorean pozos y plantas en tiempo real, generan alertas predictivas e inician protocolos automatizados, mientras los ingenieros se concentran en decisiones críticas y mantenimiento. En Toyota, los equipos de compras trabajan con agentes que redactan pliegos y comparan proveedores, reduciendo los tiempos de ciclo a la mitad.
El patrón es claro: el agente funciona bien cuando se le asigna un nivel de autonomía acorde al riesgo del proceso que gestiona. Donde la gobernanza se aplica de forma uniforme, el sistema colapsa por exceso o por defecto de control. Para las empresas latinoamericanas, donde el margen de error operativo suele ser más estrecho y los costos de un incidente regulatorio pueden ser muy altos, la pregunta no es si adoptar agentes autónomos, sino cómo diseñar controles que escalen con su autonomía.
La advertencia de Gartner es también una oportunidad: el 40% de fracaso anunciado no es inevitable. Se evita con una decisión previa de arquitectura de gobernanza, hecha a la medida de cada nivel de riesgo.
