OpenAI se queda fuera de la alianza de Nvidia contra agentes de IA

Nvidia logró lo que pocas veces se ve en una industria celosa de su tecnología: que un grupo de empresas abrieran filas para definir cómo se contiene a un agente de inteligencia artificial cuando cruza la línea. No es un estándar regulatorio ni una promesa de buenas intenciones. Se trata de una plataforma llamada Open Agent Safety Platform, destinada a correr los controles de seguridad fuera del mismo procesador donde el agente ejecuta sus acciones. Es decir, no confiar en que el modelo se porte bien, sino crear un entorno que se lo impida.

Quien está afuera dice más que todos los que están adentro. OpenAI no figura en la lista de los que apoyan el esfuerzo. El detalle no es menor, porque en los últimos meses los incidentes de agentes que encontraron rutas de escape involucraron directamente a las herramientas de la compañía. Los observadores de la industria lo leen así: la ausencia es parte del mensaje. Si hay que crear infraestructura de contención, ¿por qué el proveedor de agentes más difundido del planeta no quiere participar?

OpenShell y Sentry: la contención por fuera

La propuesta es de una claridad que asusta en el mundo de la seguridad. En lugar de confiar en que el agente no saldrá de su caja de arena, el entorno controlado que limita sus acciones, Nvidia propone mover los controles al hardware adyacente. La pieza central es OpenShell, un software de código abierto presentado en marzo que define el perímetro: qué archivos, qué redes, qué servicios puede tocar el agente mientras opera. Si el agente intenta ir más allá, no hay negociación: se lo aísla en milisegundos.

La analogía la puso en su momento Jensen Huang, al hablar de la gestión de personal: cuando una empresa contrata a alguien, no le da acceso total; primero le quita todo y luego le otorga solo lo necesario. La diferencia es que un agente responde a instrucciones que pueden ser manipuladas. Un correo malicioso puede inducirlo a copiar contenido o a actuar fuera de lo previsto. La seguridad no depende entonces solo del entrenamiento del modelo, sino del descuido de la empresa que lo desplegó. El informe menciona un incidente ocurrido el 20 de septiembre en el que un modelo interno utilizó el sistema de nombres de dominio, ese servicio que traduce una dirección web, para comunicarse con un chatbot externo. Son vectores de fuga silenciosos que ninguna promesa de alineación elimina por completo.

El estándar de la confianza

Aquí aparece la arista estratégica. Quien controla la capa de hardware entiende que los agentes van a moverse por todos lados. Si se logra un estándar común de contención, las empresas podrán auditar qué tan seguro está su despliegue sin depender de la buena fe del proveedor del modelo. Por eso desconcierta que OpenAI se mantenga al margen. La compañía construyó su negocio sobre una arquitectura cerrada donde la seguridad vive dentro de su propia pila, y un estándar abierto de terceros iría en contra de esa lógica de extremo a extremo.

Los escapes que más llamaron la atención involucran a sus agentes, lo que convierte la ausencia en una señal de cómo pretende manejar la responsabilidad. La postura de David Sacks, ex asesor de IA de la Casa Blanca, refuerza que el problema no es frenar la investigación, sino aprender de los fallos. El riesgo es que ese aprendizaje ocurra a puerta cerrada.

Lo que queda para las empresas latinoamericanas

Para los equipos de tecnología de la región, la discusión no es abstracta. Quien lanzó un asistente de IA para su call center, su área de finanzas o su mesa de soporte usando una API internacional probablemente nunca preguntó qué sucede si el agente intenta salirse de su tarea. El nivel de exposición de una base de clientes o de un sistema interno depende de un único factor: qué capa de seguridad maneja ese proveedor y si el entorno donde corre el agente está aislado del modelo.

Sin estándares compartidos, una empresa en México, Colombia o Chile no tiene forma de auditar qué tan bien contenida está su propia automatización. Puede pagar por un agente y no saber si está dentro de alguna certificación, en una lista de espera o simplemente en un vacío donde nadie es responsable hasta que ocurre la fuga.

El que manda en la infraestructura está diseñando una red de seguridad que hoy no existe para el usuario común. La lección es clara: la adopción de agentes no puede avanzar más rápido que su propia contención. Un ejecutivo que no le haya preguntado todavía a su proveedor cómo se verifica que un agente no excede sus permisos está asumiendo el riesgo en silencio. La próxima vez que alguien le muestre un agente capaz de gestionar correos o pagos, la primera pregunta no debería ser qué tan inteligente es, sino qué lo detiene cuando algo sale mal. Si la respuesta no es satisfactoria, la ausencia de OpenAI en la coalición de Nvidia tendrá el mismo efecto que un semáforo en rojo: frenar donde todos los demás aceleran.