El rey Carlos III no citó a los ejecutivos de NVIDIA, Google DeepMind, OpenAI y Anthropic para una foto protocolar. Los sentó en Dumfries House, Escocia, y les planteó una disyuntiva directa: la tecnología que ustedes construyen puede desarrollar "capacidades más siniestras, e incluso potencialmente llevarse vidas por delante". La frase, pronunciada el 17 de septiembre de 2026, resume el giro del momento: los creadores de la IA más avanzada admiten en público lo que antes solo se susurraba en laboratorios.
Jensen Huang, Demis Hassabis, Sarah Friar y Tino Cuéllar escucharon al monarca preguntar si no se necesitan "medios de control suficientes antes de que sea demasiado tarde". La respuesta del sector llegó fragmentada.
La fractura entre seguridad y velocidad
Huang, CEO de NVIDIA, declaró a la BBC que la seguridad es "máxima prioridad" y que un producto no suficientemente seguro debe retrasarse. Pero en el mismo foro defendió los modelos abiertos como mecanismo para que naciones e investigadores no queden rezagados, y rechazó equiparar la regulación de la IA a la de las redes sociales: "es una tecnología, no un producto". Su postura: pruebas rigurosas en laboratorio, leyes sectoriales existentes, nada de moratorias.
Hassabis, cofundador de DeepMind, situó la llegada de la AGI (inteligencia general artificial) en "probablemente unos pocos años" con un impacto diez veces superior a la revolución industrial. Reconoció que la probabilidad de que algo salga mal "no es cero". Identificó dos vectores de riesgo: sistemas autónomos que se comportan de forma indebida y actores malintencionados que los usan con fines perversos.
Friar, directora financiera de OpenAI, señaló que la capacidad creciente genera preguntas de seguridad que "una sola empresa o un solo gobierno no pueden resolver". Cuéllar, responsable global de asuntos públicos de Anthropic, participó en la reunión privada que el rey mantuvo con cinco invitados seleccionados.
El telón de fondo: renuncias y advertencias internas
La cumbre no ocurrió en el vacío. Días antes, el investigador de Anthropic Jacob Coxon dimitió advirtiendo que "las personas que desarrollan la IA creen sinceramente que podría matarnos a todos para finales de la década". Dario Amodei, CEO de Anthropic, pidió reducir el ritmo de mejora de capacidades. Sam Altman (OpenAI) y Elon Musk secundaron la petición. Dos investigadores más abandonaron Google DeepMind y Anthropic alegando riesgo letal.
El sondeo ESPAI 2024, realizado a 1.580 investigadores de IA en seis conferencias de primer nivel, cuantifica esa ansiedad: el 18 % de probabilidad media de extinción humana o desempoderamiento permanente por IA avanzada; el 51 % de los encuestados asigna al menos un 10 % a ese desenlace. El 72 % reclama mayor prioridad en investigación de seguridad. Los plazos se acortan: la agregación de pronósticos sitúa la probabilidad del 50 % de inteligencia de nivel humano en 2042, frente a 2061 en 2016.
Qué significa para América Latina
Para un ejecutivo latinoamericano, la cumbre de Dumfries House no es un espectáculo distante. Tres implicaciones concretas:
Marco regulatorio asimétrico. El Reino Unido alberga el Instituto de Seguridad de la IA, pero Anthropic rechazó someter su último modelo a evaluación allí. La UE avanza con su AI Act; EE. UU. carece de legislación federal vinculante; China rechaza el "alarmismo" pero endurece controles. Las empresas de la región que integran modelos fundacionales operan bajo jurisdicciones superpuestas sin certezas de cumplimiento.
Dependencia de infraestructura y talento. Huang defendió el código abierto para que "personas y naciones no queden excluidas". En la práctica, los modelos abiertos de frontera requieren cómputo masivo —GPU H100/B200— concentrado en pocos proveedores cloud globales. LatAm importa capacidad y exporta datos. La discusión escocesa sobre centros de datos (el Parlamento escocés votó endurecer evaluaciones ambientales) anticipa cuellos de botella energéticos y de latencia que encarecerán la inferencia en la región.
Gobernanza de datos y soberanía. El rey planteó dos preguntas: cómo priorizar seguridad sin perder beneficios, y cómo lograr cooperación internacional para que "ninguna nación se quede atrás". Para LatAm, la respuesta pasa por cláusulas contractuales que garanticen residencia de datos, auditoría algorítmica y cláusulas de salida (exit clauses) frente a proveedores de modelos cerrados. La presencia del asesor vaticano Paolo Benanti y del científico Stuart Russell en la cumbre señala que la gobernanza incluirá voces no técnicas; los equipos legales y de cumplimiento deben prepararse para marcos que exijan explicabilidad y derechos de autor sobre datos de entrenamiento.
La cumbre no produjo compromisos públicos vinculantes. Pero reunió, por primera vez bajo una corona, a quienes deciden la arquitectura técnica de la próxima década. El mensaje para el directorio latinoamericano: la ventana para definir proveedores, cláusulas de seguridad y estrategia de soberanía de datos se cierra mientras los plazos de la AGI se acortan.
