Nvidia lanza OpenShell y Sentry para contener agentes autónomos

Nvidia presentó el 28 de septiembre su Open Agent Safety Platform, una apuesta de doble capa —OpenShell como entorno de ejecución seguro y Sentry como centinela en el hardware— para gobernar agentes de IA que ya operan con autonomía para llamar herramientas, acceder a sistemas y ejecutar transacciones. Más de cien organizaciones, entre ellas Microsoft, Salesforce, SAP, ServiceNow, Cisco, Scale AI, Anthropic, JPMorganChase y Dell, participan en la iniciativa anunciada por Nvidia. Sin embargo, la ausencia de OpenAI, Google, Amazon y Meta en el consorcio inicial señalada por RTVE sugiere que el mercado aún no converge en un estándar único.

La trampa del perímetro: controles fuera del modelo

Los guardarraíles tradicionales actúan a nivel de modelo o aplicación. Los agentes, en cambio, requieren controles que delimiten qué pueden hacer, a qué sistemas acceden y cuándo deben detenerse, independientemente de sus instrucciones internas según explica AI Business. Lee Rossey, CTO de SimSpace, lo resume: "el sistema que hace cumplir la frontera no debería depender del propio agente para respetarla". OpenShell corre en CPUs Vera y, como software abierto, puede extenderse a arquitecturas Arm e Intel. Sentry, sobre BlueField-4 DPU, monitoriza fuera de banda y puede poner en cuarentena a un agente en milisegundos si intenta salir de su sandbox detalla Nvidia.

El vacío que nadie llena: ¿quién define la autoridad?

La plataforma provee herramientas técnicas para hacer cumplir fronteras, pero no dice dónde trazarlas. Chris Newton-Smith, CEO de IO, lo deja claro: "la tecnología no puede decidir cuáles deben ser esos límites; esa responsabilidad sigue en la organización que despliega el agente" citado en TechTarget. Andrew Curtis, CISO de Gadget Access, ilustra el riesgo: "un agente puede quedarse dentro de su sandbox y aun así aprobar el pago equivocado". La distinción entre acceso y adecuación obliga a clasificar cada acción en tres cubos: autónoma, con aprobación humana o prohibida.

Mientras los proveedores construyen controles y los legisladores debaten —en EE. UU. coexisten el AI Kill Switch Act (interruptor de apagado para desarrolladores) y el Stop Rogue AI Act (estándares NIST para organizaciones que despliegan agentes) documentados en AI Business—, la empresa usuaria queda atrapada en el medio, reconciliando marcos de proveedores, regulaciones incipientes y sus propias políticas.

Lo que la investigación revela: la institución importa más que la regla

Un estudio del programa POLIS (Project AWARE) con 5.280 episodios simulados muestra que idénticas tasas de violación final pueden ocultar mecanismos muy distintos arXiv:2608.09828. Un "prompt constitucional" detallado y un guarda con conciencia de procedencia (provenance-aware) logran 0 violaciones realizadas, pero el segundo bloquea 51 intentos prohibidos y permite que 44 de esos episodios se recuperen y terminen la tarea de forma segura.

Un guarda que confía solo en la política visible local admite 22 violaciones en escenarios de "lavado de autorización" donde una transformación ordinaria hace parecer permisivo lo que la autoridad original prohíbe. La lección: la arquitectura de cumplimiento —qué estado de autoridad se consulta y qué camino queda tras un bloqueo— determina la seguridad real, no solo la regla escrita.

Lectura para América Latina: adopción sin paraguas regulatorio propio

Para los ejecutivos de la región, el mensaje es directo. La mayoría de los países latinoamericanos no tiene aún marcos específicos para agentes autónomos; Brasil avanza en su PL 2338, Chile y México discuten proyectos, pero su entrada en vigor está años lejos. Eso deja tres riesgos concretos:

• Dependencia de estándares de proveedores: si Nvidia, Microsoft o Anthropic definen de facto qué "seguro" significa, las compras públicas y privadas en la región heredarán esos umbrales sin poder negociarlos.
• Asimetría de talento: configurar OpenShell, integrar Sentry y diseñar la matriz de autoridad (qué agente puede hacer qué, con qué aprobación) exige perfiles de seguridad de IA y gobernanza de datos que escasean en el mercado local.
• Responsabilidad legal difusa: ante un incidente —un agente que filtra datos de clientes o ejecuta una transferencia no autorizada—, la jurisprudencia regional mirará a la empresa usuaria, no al proveedor del chip ni al desarrollador del modelo.

Un habilitador técnico valioso es la plataforma de Nvidia. Pero "lo suficientemente seguro" no es una propiedad del software; es una decisión de negocio que cada organización debe documentar, auditar y defender ante reguladores, accionistas y clientes. En ausencia de un regulador regional que exija inventarios de agentes, propietarios, sistemas conectados y acciones permitidas —como recomienda Curtis en TechTarget—, la carga recae enteramente en el directorio y el CISO.

Queda abierta la pregunta, no técnica sino institucional: ¿qué capacidad real tienen hoy las empresas latinoamericanas para definir, hacer cumplir y demostrar los límites de sus agentes autónomos antes de que un incidente obligue a responder por ellos?