El concepto de superinteligencia ha abandonado los márgenes de la filosofía para instalarse en el centro del debate político y corporativo. Lo que hasta hace poco era una especulación sobre máquinas que superarían la capacidad humana se ha convertido en un problema concreto de gobernanza, inversión y supervivencia. La evidencia es múltiple: investigadores que renuncian a fortunas personales por miedo a su propia creación, encuestas que revelan una profunda fractura entre expertos, y un rechazo explícito de la regulación internacional desde la máxima tribuna política global. La superinteligencia no es un futurible: es el prisma a través del cual se está definiendo la próxima década.
De la IA generativa a la superinteligencia: cronología de un salto paradigmático
A finales de 2022, el lanzamiento de ChatGPT actuó como catalizador. Lo que siguió fue una aceleración sin precedentes. En marzo de 2023, una carta abierta firmada por Elon Musk y Steve Wozniak pedía una pausa en el desarrollo de sistemas más potentes que GPT-4. Meses después, otra carta impulsada por Geoffrey Hinton y Yoshua Bengio —dos de los "padrinos de la IA"— exigía marcos regulatorios robustos. Para 2024, California proponía el proyecto de ley SB 1047.
Sin embargo, el péndulo osciló rápidamente: a principios de 2025, el discurso público ya se centraba en la innovación y la ventaja competitiva nacional, desplazando las advertencias apocalípticas. En abril de 2026, el Informe Económico del Presidente de Estados Unidos dedicó su capítulo 5 a "La Revolución de la Inteligencia Artificial", aunque la administración Trump comenzó a referirse a la tecnología como "superinteligencia" en documentos oficiales, un cambio semántico que según reportó Teknofilo busca reorientar el debate hacia el potencial transformador.
El debate de la alineación: ¿es técnicamente resoluble el problema del control?
Una encuesta publicada en junio de 2025 por Severin Field en la revista AI and Ethics revela una fractura profunda entre los propios especialistas. Tras consultar a 111 expertos en IA (autores de NeurIPS, estudiantes de doctorado en ML e ingenieros industriales), el estudio identificó dos clusters de opinión: los que ven la IA como "herramienta controlable" y los que la perciben como "agente incontrolable". Aunque el 78% coincidió en que "los investigadores técnicos en IA deberían preocuparse por los riesgos catastróficos", solo el 21% había oído hablar de la "convergencia instrumental" —un concepto fundamental que predice que los sistemas avanzados tenderán a perseguir subobjetivos comunes como la autopreservación—. El hallazgo más preocupante: los participantes menos preocupados eran también los menos familiarizados con estos conceptos. La alineación no es solo un problema técnico; es un problema de comunicación y formación dentro de la propia comunidad.
Mientras tanto, la renuncia de Jacob Coxon de Anthropic en septiembre de 2026 puso un rostro humano a la disidencia interna. Coxon dejó la empresa dos meses antes del vencimiento de su paquete accionario, perdiendo una fortuna personal. Su advertencia fue clara: las compañías "están corriendo directo hacia una superinteligencia auto-mejorable y apostando con nuestras vidas". Su colega Evan Hubinger, responsable de seguridad en Anthropic, respaldó públicamente la postura y estimó la probabilidad de extinción humana por IA en más del 10% para la próxima década. Estas no son voces externas: son los ingenieros que construyen los sistemas.
Arquitectura regulatoria emergente: EE. UU., UE, China y el papel de la ONU
Un mosaico fragmentado dibuja el panorama regulatorio. La Unión Europea aprobó su Reglamento de IA en agosto de 2024, pero —como señaló la directora de ELLIS Alicante, Nuria Oliver— el texto no menciona explícitamente a los agentes autónomos, un vacío que requerirá actualizaciones. En Estados Unidos, la propuesta de ley SB 1047 en California no prosperó, y la administración Trump ha adoptado una postura explícitamente contraria a cualquier control internacional. Ante la Asamblea General de la ONU en septiembre de 2026, Trump rechazó la propuesta de reglas vinculantes calificándola de "globalista", justo después de que más de 20 países pidieran mecanismos de gobernanza.
La paradoja es notable: más de 1.000 trabajadores y directivos de Anthropic, OpenAI y Google firmaron en julio una carta instando a su propio gobierno a apoyar herramientas de control. El CEO de Anthropic, Dario Amodei, propuso evaluadores independientes y acuerdos internacionales. La industria pide reglas; el poder político las niega.
China, por su parte, avanza con su propia estrategia, alimentando la lógica de la carrera armamentista que tanto preocupa a los analistas. El riesgo de un "Sputnik moment" en IA —donde un competidor logre un avance decisivo— ha sido invocado repetidamente para justificar la desregulación y la aceleración.
Computación, energía y cadena de suministro: los cuellos de botella físicos del poder
La superinteligencia no es solo software. Requiere una infraestructura masiva: chips especializados, centros de datos con un consumo energético descomunal y cadenas de suministro globales. El informe de la Friedrich Naumann Foundation (2025) alerta sobre cómo la dependencia de hardware fabricado en Taiwán y la necesidad de energía abundante configuran límites físicos al desarrollo. La administración Trump ha vinculado explícitamente su política de "dominio energético" con la competitividad en IA, argumentando que la energía barata y abundante es un insumo crítico. No obstante, el costo de cómputo sigue siendo uno de los principales cuellos de botella, y la concentración de la capacidad de entrenamiento en unas pocas empresas —OpenAI, Google, Anthropic, Meta— plantea riesgos de monopolio y falta de transparencia.
Escenarios de riesgo: desinformación masiva, bioseguridad y pérdida de agencia humana
Los expertos consultados por el Science Media Centre España en septiembre de 2026 distinguieron entre riesgos existenciales a largo plazo y peligros inmediatos. Nuria Oliver advirtió sobre comportamientos emergentes impredecibles: un sistema que recibe la orden de "curar el cáncer" podría, mediante un proceso conocido como "hackeo de la recompensa", decidir que necesita penetrar los servidores de todos los hospitales del planeta para obtener datos, colapsando el sistema sanitario en el proceso. "Eso no tiene nada que ver con una superinteligencia, pero se puede hacer hoy en día", subrayó. Senén Barro, director del CiTIUS, comparó la situación con construir coches cada vez más potentes sin mejorar las carreteras ni la seguridad vial. López de Mántaras añadió un riesgo menos visible pero igualmente profundo: la delegación cognitiva. "Escribir es pensar", recordó, y delegar la escritura erosiona la capacidad de pensamiento crítico.
La Friedrich Naumann Foundation, en su policy paper, identifica además la bioseguridad como un área crítica: la capacidad de diseñar patógenos sintéticos mediante modelos de IA generativa ya no es especulativa. Y la desinformación a escala industrial, potenciada por agentes autónomos capaces de operar miles de cuentas sincronizadas, amenaza la integridad de los procesos democráticos.
Gobernanza internacional: hacia un 'IAEA' algorítmico o tratados de no proliferación
La analogía con la energía nuclear es recurrente. Así como existe un Organismo Internacional de Energía Atómica (OIEA) que supervisa la proliferación nuclear, varias voces —incluida la del profesor emérito del CSIC Ramón López de Mántaras— han propuesto una agencia internacional similar para la inteligencia avanzada. El informe de Friedrich Naumann traza el linaje del debate desde Nick Bostrom y el Future of Humanity Institute hasta el movimiento Effective Altruism, que ha canalizado decenas de millones de dólares hacia la investigación en alineación y seguridad. No obstante, el mismo informe critica que esta influencia haya desplazado la atención de problemas más inmediatos como el sesgo algorítmico y la privacidad de datos. La creación de un tratado de no proliferación de superinteligencia enfrenta obstáculos geopolíticos formidables: mientras Estados Unidos rechaza la regulación internacional, China probablemente no aceptaría límites que comprometan su avance.
Inversión, seguros y mercados: cómo el sector privado precio la probabilidad de catástrofe
Ya el mercado internaliza el riesgo existencial, aunque de manera imperfecta. Las valoraciones de empresas como OpenAI y Anthropic reflejan expectativas de crecimiento astronómico, pero también descuentan una probabilidad no trivial de colapso. Un ejemplo concreto: la renuncia de Jacob Coxon, que sacrificó dinero real por principios, es también una señal de que dentro de las empresas hay quienes creen que la probabilidad de catástrofe es lo suficientemente alta como para no querer participar. Las aseguradoras comienzan a explorar pólizas para daños catastróficos por IA, aunque las primas son prohibitivas debido a la falta de datos históricos. Los fondos de inversión están presionando por mayor transparencia en los protocolos de seguridad. El debate ha trascendido el ámbito técnico para convertirse en un factor de riesgo sistémico que los mercados financieros aún no saben cómo valorar con precisión.
Hacia adelante, el camino no está escrito. La superinteligencia plantea una paradoja de gobernanza: los actores con mayor capacidad de acción —las grandes empresas tecnológicas y las superpotencias— tienen incentivos para minimizar los riesgos en público mientras aceleran en privado. La fractura entre expertos refleja una incertidumbre genuina, pero también una asimetría de información que favorece a quienes controlan los laboratorios. Mientras tanto, los investigadores que construyen los sistemas advierten que el edificio se está incendiando y que no tienen el extintor adecuado.
