Opinión Gobernar cada agente según su riesgo: la receta para no fracasar
Gartner predice que el 40% de los agentes autónomos fracasarán por una gobernanza uniforme. La solución: controles a la medida de cada nivel de autonomía.
La promesa de los agentes autónomos de inteligencia artificial está a punto de estrellarse contra una pared construida por las propias organizaciones. No se trata de un problema de algoritmos, de datos o de talento; el verdadero cuello de botella es cómo las empresas deciden gobernar estas herramientas. Gartner, la firma de análisis, lo anticipa con crudeza: para 2027, el 40% de las empresas que hoy implementan agentes autónomos terminarán degradándolos o eliminándolos. La razón no es técnica, sino de diseño de gobernanza.
El error de fondo es tratar la gobernanza de la inteligencia artificial como una decisión binaria: control total o confianza total. Quien aplica controles excesivos a un agente que solo resume documentos o consulta datos termina retrasando su puesta en producción y, peor aún, empuja a los equipos a desarrollar versiones paralelas no autorizadas —el clásico shadow IT— para poder trabajar. En el extremo opuesto, dejar sin restricciones a un agente que ejecuta órdenes de compra o modifica configuraciones es una receta para el desastre operativo y regulatorio. Ambos extremos comparten una misma falla: no reconocer que los agentes operan en distintos niveles de autonomía, cada uno con un perfil de riesgo propio.
La solución que propone Gartner es tan lógica como difícil de implementar en la práctica: una gobernanza proporcional al riesgo. Un esquema de cuatro niveles que va desde la simple observación de datos hasta la ejecución autónoma completa. En el nivel más básico, el agente solo lee información y la presenta al usuario; el riesgo se limita a filtraciones o errores de precisión. Cuando el agente asesora, genera recomendaciones pero no ejecuta nada sin aprobación humana; aquí el peligro es el sesgo de automatización, que el usuario confíe ciegamente en una salida incorrecta, lo que exige pruebas de precisión y capacitación del personal. En el nivel de ejecución con aprobación, el agente realiza cambios pero solo tras una autorización explícita; la gobernanza debe incluir flujos auditables y procedimientos de respuesta a incidentes. Finalmente, en la ejecución autónoma, el agente actúa por sí mismo dentro de límites predefinidos, requiriendo supervisión continua y circuitos de interrupción automática.
Esta escala de autonomía resuena con una realidad que muchos líderes tecnológicos conocen en carne propia: entre el 70% y el 85% de los pilotos de inteligencia artificial en empresas nunca llegan a producción. Un análisis reciente de The Cloud Group, basado en más de 90 proyectos estancados, revela que las causas no son culturales sino técnicas y evitables: usar datos limpios de prueba que no reflejan el ruido real, carecer de observabilidad para detectar degradaciones silenciosas, postergar la integración con sistemas internos, subestimar el costo operativo al escalar y elegir casos de uso por su impacto en una demo en lugar de por su retorno medible.
En América Latina, donde el margen de error operativo suele ser más estrecho y los costos de un incidente regulatorio pueden ser altísimos, la adopción de agentes avanza con urgencia pero con menos recursos. Sectores como logística, agricultura, manufactura y servicios financieros ya experimentan con equipos híbridos. En YPF, agentes inteligentes monitorean pozos y plantas en tiempo real, generan alertas predictivas e inician protocolos automatizados mientras los ingenieros se concentran en decisiones críticas. En Toyota, los equipos de compras trabajan con agentes que redactan pliegos y comparan proveedores, reduciendo los tiempos de ciclo a la mitad. El patrón es claro: el agente funciona bien cuando se le asigna un nivel de autonomía acorde al riesgo del proceso que gestiona.
Para los ejecutivos latinoamericanos, la pregunta correcta no es si adoptar agentes autónomos, sino cómo diseñar controles que escalen con su autonomía. Aplicar la misma regla a un agente que organiza tu calendario y a uno que ejecuta órdenes de compra es un error estratégico que frena la innovación o, peor, genera desconfianza cuando ocurre un incidente. La advertencia de Gartner no es una sentencia: el 40% de fracaso anunciado se evita con una decisión previa de arquitectura de gobernanza, hecha a la medida de cada nivel de riesgo. Quienes entiendan esto no solo salvarán sus proyectos, sino que construirán una ventaja competitiva real en un ecosistema donde la confianza sigue siendo el recurso más escaso.
