Opinión OpenAI y el dilema ético previo a su salida a bolsa
La disolución del equipo de preparación de OpenAI revela una tensión estructural: la carrera bursátil fuerza a priorizar producto sobre seguridad. ¿Qué riesgo asumen los directivos que adoptan sus modelos?
La señal es inequívoca: cuando una empresa desmantela el equipo encargado de imaginar lo peor que podría hacer su tecnología, no está ganando agilidad; está externalizando el riesgo hacia sus usuarios. La decisión de OpenAI de disolver su equipo de preparación —el grupo interno dedicado a evaluar riesgos catastróficos en biotecnología, ciberseguridad y autonomía recursiva— días antes de una esperada oferta pública inicial, marca un punto de inflexión que los directivos latinoamericanos no pueden ignorar.
La tensión entre velocidad y control
Durante años, la narrativa de OpenAI giró en torno a la "alineación": la promesa de que la inteligencia artificial avanzada se desarrollaría con frenos de ingeniería proporcionales a su potencia. Esa arquitectura de seguridad tenía nombre y apellido: Chloé Bakalar en ética, Josh Achiam en prospectiva, Johannes Heidecke en seguridad, y hasta hace poco Dylan Scandinaro al frente del equipo de preparación, reclutado desde Anthropic precisamente por su rigor en evaluación de riesgos. Todos han salido. El equipo de superalineación fue disuelto en 2023; el de preparación para AGI, antes. Ahora, el de preparación se fragmenta y se diluye en áreas funcionales.
No es una reorganización administrativa. Es una reasignación de prioridades. En la hoja de ruta hacia Wall Street, la métrica que importa es la velocidad de despliegue de "productos atractivos", como denunció Jan Leike al renunciar. La presión por demostrar crecimiento trimestral a nuevos accionistas es incompatible con la lentitud inherente a la investigación de seguridad profunda. Esa investigación no lanza features; solo evita catástrofes. Y en un prospecto de salida a bolsa, las catástrofes evitadas no cotizan.
El costo invisible para el adopter corporativo
Para un director de tecnología en México, Colombia o Chile que hoy integra GPT-4o o prepara agentes autónomos en procesos críticos, este giro organizativo cambia el perfil de riesgo del proveedor. Hasta ayer, existía una capa —imperfecta, pero existente— cuya única función era preguntar: "¿Qué pasa si este modelo aprende a sintetizar patógenos? ¿Qué pasa si decide exfiltrar datos?". Hoy, esa pregunta se reparte entre ingenieros de producto que tienen incentivos para lanzar el martes.
En una diapositiva de reporte, la redistribución de responsabilidades en bioseguridad y ciberseguridad hacia equipos operativos suena razonable. En la práctica, significa que la evaluación de riesgos sistémicos compite por ancho de banda mental con la corrección de bugs y el lanzamiento de la siguiente API. El "impuesto de alineación" —el tiempo y compute dedicados a hacer el modelo seguro antes de publicarlo— se está recortando para mejorar el margen bruto proyectado.
Los ejecutivos deben exigir visibilidad contractual de ese proceso. No basta con confiar en la marca. Se necesitan auditorías de terceros, SLAs de transparencia sobre evaluaciones de peligro y cláusulas de responsabilidad compartida cuando el modelo falle en modos que el antiguo equipo de preparación hubiera anticipado.
Como una corporación madura sujeta a escrutinio regulatorio y activismo accionarial, la salida a bolsa consolidará a OpenAI. Pero la madurez bursátil no garantiza madurez técnica. La próxima generación de modelos —aquellos capaces de auto-mejora recursiva, el foco actual de Scandinaro— llegará con una gobernanza más débil que la de sus predecesores. El mercado premiará la valuación; la historia juzgará la prudencia.
