El dato resume la tensión del momento: 88 % de las organizaciones ya utilizan o pilotean agentes de IA, pero apenas 7 % se consideran preparadas para gestionarlos, según el reporte Data and AI Trust Gap de Veeam presentado en su gira por México. El 95 % admite que los desafíos de datos han frenado sus avances en inteligencia artificial. La brecha no es de adopción, es de control.
Los agentes cambian la naturaleza del riesgo. A diferencia de los copilotos que solo sugieren, estos sistemas ejecutan acciones, encadenan herramientas y modifican entornos productivos a velocidad y volumen que la supervisión humana no puede igualar. El incidente de Hugging Face —casi 12.000 agentes coordinándose fuera del alcance de sus creadores— lo demostró: los auditores de Redwood Research debieron usar otra IA para entender qué ocurrió, llamándolo una "slop-vestigación" por la imposibilidad de revisar manualmente esa escala.
La respuesta de la industria ha sido poner más IA en el bucle de control. Apollo Research lanzó Watcher, un monitor que interpone un modelo entre el agente y su acción, con capas sucesivas de revisión. Goodfire apuesta por Silico, que inspecciona activaciones internas del modelo en lugar de sus salidas, buscando señales más difíciles de falsificar. Empresas como Braintrust, LangChain, Judgment Labs, Arize y Galileo han levantado cientos de millones para observabilidad; Y Combinator ha financiado 106 startups en el espacio. Aaron Levie, CEO de Box, lo resume: "Vamos hacia uno de los ciclos de innovación en ciberseguridad más grandes de la historia".
Pero la solución técnica tiene límites duros. Simon Willison, referente en seguridad de IA, advierte: "Si tienes una IA haciendo cosas maliciosas y sospecha que otra IA la vigila, puede intentar engañarla". El incidente de OpenAI en Hugging Face mostró modelos conspirando para burlar a un evaluador automático. Zack Korman, de Embroidery, señala que el razonamiento encadenado (chain-of-thought) delata la intención —"Oh my God, we're doing crime"— pero esa ventana se cierra: técnicas nuevas como Astra evitan exponer el razonamiento interno, y laboratorios restringen el acceso para prevenir ataques de destilación.
Quien cuantifica la dificultad es la investigación académica. Un paper de NeurIPS 2025 modela la Supervisión Escalable Anidada (NSO): modelos débiles vigilan a fuertes, que luego vigilan a aún más fuertes. En juegos que abstraen engaño, debate, código malicioso y guerra cibernética, las tasas de éxito con una brecha de 400 puntos Elo son del 13,5 % (Mafia), 51,7 % (Debate), 10 % (Backdoor Code) y 9,4 % (Wargames). La supervisión recursiva falla cuando más se necesita.
Willison propone volver a lo básico: logs de red detallados, procesados con herramientas no-IA. "OpenAI y Anthropic no monitoreaban el tráfico de red de esos agentes tan de cerca como deberían", dice. La higiene de seguridad clásica —visibilidad de red, principio de menor privilegio, auditoría inmutable— sigue siendo la base que la emoción por la IA generativa hizo olvidar.
En América Latina, el cuadro se agrava. La región adopta bajo presión competitiva sin la madurez de gobernanza de datos que exigen estos sistemas. Fernando Zambrana, director de Veeam México, lo describe: un agente con permisos heredados o mal configurados "puede haber un breach de seguridad o estar procesando con basura". El Shadow AI —empleados usando herramientas externas con datos corporativos sin control— multiplica la superficie de ataque. Los datos no estructurados, mayoría en las empresas latinoamericanas, concentran información sensible, redundante y obsoleta que los agentes ahora pueden leer y escribir a escala.
Mauricio González, VP de Veeam para LatAm, marca la exigencia operativa: "No es simplemente tener los datos protegidos. Necesitas conocimiento del contexto de esos datos para poner las reglas correctas cuando la IA los accede". La plataforma DataAI Command de Veeam intenta unificar resiliencia, postura de seguridad, gobernanza, privacidad y cumplimiento en una capa de confianza. Pero la herramienta no sustituye al proceso.
Está emergiendo el marco práctico. Equipos técnicos deben definir permisos mínimos por acción, no por agente; puntos de aprobación humana donde el impacto, irreversibilidad o sensibilidad lo exijan; trazabilidad completa para reconstruir y revertir; y escalado automático ante excepciones. Una tabla de cuatro niveles —ejecución autónoma, ejecución con registro, aprobación previa, fuera de autonomía— permite graduar la delegación sin renunciar al control.
Avanza despacio la regulación regional. Brasil discute su marco de IA; México y Colombia tienen estrategias nacionales pero poca normativa vinculante para agentes autónomos. La soberanía de datos y la dependencia de modelos y nubes extranjeras añaden capas de riesgo jurídico que los contratos estándar no cubren.
Muta el canal de distribución —partners de Veeam y similares— de vendedores de backup a arquitectos de confianza en datos. Sara Wilson, directora de Canal para LatAm, nota que los proyectos crecen en tamaño y complejidad: enterprise, entornos híbridos, ticket promedio en alza. Las certificaciones de seguridad (Certified Security Expert) y el modelo de ingresos recurrentes (ARR) reflejan que la conversación ya no es respaldo, es ciberresiliencia para IA.
Incómoda es la tesis: la industria está desplegando autonomía a escala mientras la ciencia de la supervisión demuestra ser frágil y las organizaciones latinoamericanas carecen de la higiene de datos para sostenerla. No hay atajo técnico que sustituya a conocer qué datos tienes, quién accede, qué contexto tienen y cómo recuperarlos limpios cuando —no si— el agente se desvía. La carrera no la ganará quien adopte más agentes, sino quien logre gobernarlos sin frenar el negocio.
