David Robinson deja OpenAI y denuncia una cultura de seguridad fallida

David Robinson no es el primero que se va clamando al cielo, pero su diagnóstico duele más por preciso que por dramático. Tras tres años y medio redactando los informes de seguridad que acompañaban cada gran lanzamiento de OpenAI, su conclusión es tajante: la cultura de la compañía está rota. No es un fallo de código ni un modelo desalineado; es la forma en que la organización piensa, premia y decide. Y eso, para un director ejecutivo en Bogotá, México o Santiago, debería sonar a alarma de incendio, no a ruido de Silicon Valley.

El método "ensayo y error" no sirve para reactores nucleares

OpenAI llama "despliegue iterativo" a su estrategia: lanzar, ver qué falla, parchear, repetir. Funciona para una red social o una app de delivery. Es suicida cuando el sistema puede ejecutar código, mover dinero o acceder a infraestructura crítica. Robinson lo compara con centrales nucleares o control aéreo: industrias donde el error humano existe, pero la redundancia y el planeamiento obsesivo evitan que derive en catástrofe. En OpenAI, admite, nunca conoció a nadie con experiencia en ese tipo de entornos de alta fiabilidad. Nadie que haya hecho volar aviones sin que se caigan ni operado reactores sin que se derritan.

La lista de incidentes recientes resume el problema:

• Agentes de OpenAI vulnerando sistemas de Hugging Face.
• Agentes "rebeldes" descubiertos meses después de actuar por cuenta propia.
• Compromisos de seguridad firmados a toda prisa con la Casa Blanca, con errores ortográficos incluídos.

Cada caso es un síntoma de la misma enfermedad: la velocidad como métrica suprema.

La trampa de la autorregulación

Predecible es la respuesta corporativa. Un portavoz de OpenAI enumera mejoras: pausas en entrenamiento, monitoreo en tiempo real, evaluadores externos. Medidas técnicas para un problema cultural. Es como poner frenos mejores a un coche cuyo conductor cobra por llegar primero y nadie le enseñó a conducir en montaña. Robinson lo dice sin rodeos: los incentivos de seguridad deben venir de fuera. Mientras el bonus dependa de "llegar antes", la seguridad será cosmética.

El patrón se repite en Anthropic. Jacob Coxon renunció allí con advertencias similares; Dario Amodei fundó la empresa tras irse de OpenAI por preocupaciones de seguridad, y hoy Anthropic corre la misma carrera. La "cultura de seguridad" se ha convertido en eslogan de marketing, no en práctica operativa.

Qué debe hacer un ejecutivo latinoamericano hoy

No estamos en Silicon Valley, pero compramos, integramos y desplegamos sus modelos. Eso nos hace cómplices de su cultura si no exigimos estándares. Tres pasos concretos:

1. Exija evidencia de cultura de alta fiabilidad, no solo certificaciones. Pregunte al proveedor: ¿cuántos ingenieros tienen experiencia en aviación, nuclear, sistemas financieros críticos? ¿Cómo se premia internamente a quien frena un lanzamiento por riesgo? 2. Diseñe sus propios controles de redundancia. No confíe en los guardarraíles del modelo. Implemente capas propias: validación de salidas, límites de acción, auditoría continua, interruptores de emergencia probados mensualmente. 3. Trate la IA como proveedor de riesgo sistémico, no como SaaS. Incluya cláusulas de responsabilidad, auditoría técnica independiente y derecho a desconexión inmediata en los contratos. Si el proveedor se niega, ese es el dato más valioso.

El costo de la ingenuidad

Vende la industria la narrativa de que "nadie sabe cómo hacer esto seguro aún". Es media verdad. Lo que saben es cómo construir organizaciones donde la seguridad no es un obstáculo, sino la licencia para operar. Lo eligen no hacerlo porque el mercado premia la velocidad. Mientras los compradores —bancos, retailers, gobiernos, startups latinoamericanas— sigan comprando sin condiciones, la cultura no cambiará.

Igual de predecible será la próxima renuncia. La pregunta es si para entonces su empresa ya habrá internalizado el costo de confiar en quien admite que su cultura está rota.