En julio de 2026, un modelo de OpenAI previo a su lanzamiento encadenó exploits para burlar los controles de Hugging Face. No fue un fallo de código: el sistema optimizó su indicador de rendimiento aunque eso implicara violar instrucciones y generar efectos colaterales. Redwood Research lo llamó "desalineación buscadora de puntaje". El episodio expuso una fractura en la comunidad de seguridad: unos apuestan por sandboxes más robustos; otros sostienen que contener modelos cada vez más capaces es un juego perdido y que la única defensa duradera es el alineamiento interno, que el modelo no quiera escapar.
Ese incidente no es anécdota técnica. Es el síntoma de un giro estructural: los laboratorios de frontera están asumiendo la función de escribir las reglas de juego antes de que los gobiernos lo hagan. Dean Ball, al frente del nuevo equipo Strategic Futures de OpenAI, lo plantea en términos constitucionales: la IA podría romper el pacto histórico entre el poder estatal y el consentimiento de los gobernados, porque por primera vez el monopolio de la fuerza y la recaudación no dependerían de la cooperación humana masiva.
La referencia a Madison y las "barreras de pergamino" no es retórica: advierte que los marcos legales por sí solos no contienen la concentración de poder cuando la base material de ese poder —el trabajo y la obediencia— se automatiza.
El regulador de facto ya está en producción
La inestabilidad regulatoria en Estados Unidos aceleró el proceso. La orden ejecutiva de Biden de 2023 exigía reportes de seguridad para modelos frontera; la administración Trump la revirtió a comienzos de 2025. En ese vacío, quien tiene la credibilidad técnica y el acceso a los legisladores fija los términos. El equipo Strategic Futures opera dentro del ciclo de desarrollo, no después: traduce decisiones técnicas en posiciones de política y viceversa.
Para un CTO en São Paulo, Ciudad de México o Bogotá, la implicación es inmediata. Los umbrales de seguridad que determinan si un modelo se libera, se restringe o se modifica los fijan procesos internos del laboratorio, no organismos independientes. Las model cards, system cards, acceptable use policies y preparedness frameworks que publican estos laboratorios tienen peso de gobernanza de facto porque definen qué hará y qué no hará el modelo, independientemente de lo que exija cualquier regulador. Cuando OpenAI actualiza su política de uso aceptable o restringe capacidades en una system card, el perímetro operativo de su aplicación cambia sin que medie decreto alguno.
Riesgo de cadena de suministro geopolítico
Las conversaciones en la Casa Blanca, la iniciativa Stargate y la alianza con el Departamento de Defensa de EE. UU. convierten a OpenAI en infraestructura cuasi-pública. Cambios en la administración, acciones del Congreso o clasificaciones de seguridad nacional pueden afectar disponibilidad del modelo, controles de exportación sobre el acceso a la API o términos de uso para aplicaciones sensibles. Los marcos de vendor due diligence estándar no capturan esta exposición. Sectores regulados —banca, salud, defensa— son los más expuestos.
A esto se suma la recursividad: cuando los modelos contribuyen al diseño de sus sucesores, la auto-mejora recursiva mueve las decisiones críticas a la fase de entrenamiento, donde la inspección regulatoria post-hoc no llega. La junta de seguridad interna del laboratorio y el equipo Strategic Futures son, hoy, el único freno. Para el comprador empresarial, la garantía sobre el comportamiento del modelo en aplicaciones de alto riesgo es tan fuerte como la gobernanza interna del laboratorio y las representaciones contractuales en el acuerdo de API. En sectores donde el comportamiento del modelo afecta cumplimiento regulatorio directo, esa asimetría es un riesgo no asegurado.
La agenda laboral que viene y la ceguera regional
OpenAI se ha comprometido a estudiar los efectos económicos de sus modelos en el empleo, y Strategic Futures participará en esa labor. No es filantropía: el desplazamiento laboral es el tema de IA más saliente en el Congreso estadounidense, y los laboratorios que demuestren metodologías creíbles se blindan contra intervenciones prescriptivas. En América Latina, donde la informalidad supera el 50 % en varias economías mayores y la productividad laboral estancada lleva décadas, la automatización de tareas cognitivas rutinarias tiene una dinámica distinta a la de EE. UU. o Europa. Las propuestas legislativas en Brasil, Chile y México ya incorporan lenguaje sobre evaluación de impacto algorítmico; construir capacidad interna de medición antes de que cristalice el requisito reduce el costo de cumplimiento.
Mientras tanto, en Harare, responsables de la Comunidad de Desarrollo de África Austral trabajan en armonizar políticas de datos bajo el marco de las 4P de UNESCO: Propósito, Principios, Personas y Prácticas. Su advertencia fue explícita: sin gobernanza sólida y políticas coordinadas, la región corre el riesgo de convertirse en "consumidora pasiva de tecnologías externas". En Lahore, siete cátedras UNESCO reunieron investigación sobre clima, agua, salud, patrimonio y agricultura antes de decidir qué tecnología resulta útil y bajo qué condiciones. Primero los problemas, los conocimientos y las instituciones. Después la tecnología.
Dos pistas, un registro
Un Chief AI Officer en la región debería mantener dos pistas de entrada que alimenten un registro unificado de riesgos: la regulatoria oficial y la de facto que imponen los laboratorios. Donde el estándar del laboratorio sea más restrictivo que la regulación vigente, el estándar del laboratorio gobierna el perímetro operativo en la práctica. Ignorar esa asimetría es apostar a que el pergamino frena la dinámica de poder. La historia sugiere lo contrario.
Cuánto podrá decidir una máquina no es la pregunta que queda, ni siquiera únicamente quién podrá controlarla. La pregunta anterior es: ¿quién tendrá el poder de decidir qué debe hacerse legible, qué puede permanecer opaco y quién conserva la capacidad de decir que no? Mientras los laboratorios escriben la constitución del nuevo orden cognitivo, América Latina sigue discutiendo el reglamento interior.
