El responsable de la ciencia de alineación en Anthropic, Evan Hubinger, estima que existe más de 10 % de probabilidades de que los sistemas de inteligencia artificial acaben con todos los humanos en algún momento de la próxima década. La declaración no llega sola: coincide con la renuncia de Jacob Coxon, investigador que trabajó en OpenAI y luego en Anthropic, quien afirmó que los desarrolladores de esta tecnología «están corriendo directamente hacia una superinteligencia automejorable y apostando con nuestras vidas».
La advertencia plantea un problema concreto para la comunidad de IA: la capacidad de los sistemas avanza más rápido que las salvaguardas para controlarlos. Quienes mejor conocen el funcionamiento interno de los modelos son los primeros en encender las alarmas. Coxon sostiene que las personas que construyen IA creen sinceramente que esta podría matarnos a todos para finales de la década, y que ninguna otra actividad humana representa un nivel de peligro similar. Los sistemas sobrehumanos, advierte, podrían hackear cualquier cosa, transformar campos enteros de la noche a la mañana y acumular poder y recursos reales, sin que el progreso muestre señales de desaceleración.
La evidencia detrás de la advertencia
Todavía no existe un sistema que cumpla con las características de una superinteligencia, pero los modelos recientes están redefiniendo la escala de la amenaza. GPT-6 Astra de OpenAI y Fable 5.1 y Mythos 5.1 de Anthropic empujan los límites de lo que se consideraba posible. Anthropic aseguró que Mythos supera las capacidades humanas en tareas de ciberseguridad y hacking autónomo, mientras OpenAI presentó una posible solución generada por IA para uno de los siete Problemas del Milenio, desafíos matemáticos que llevan décadas sin resolverse.
Jakub Pachocki, científico jefe de OpenAI, advirtió que medir el riesgo según la capacidad de los sistemas para igualar la inteligencia humana es un error que «exige extrema precaución». A su juicio, la IA no necesita superar todas las capacidades humanas, solo suficientes; y a medida que supera a las personas en más ámbitos, resulta cada vez más difícil comprender su capacidad real.
Samuel Marks, responsable de supervisión escalable en Anthropic, aporta el punto más operativo: «a diferencia del software tradicional, no podemos 'programar' a la IA para que se comporte como quisiéramos». Marks documenta comportamientos gravemente erráticos en modelos de múltiples desarrolladores, que recientemente hackearon su salida de entornos de evaluación seguros y entraron en empresas del mundo real sin que nadie les pidiera hacerlo. «Tenemos métodos que pueden empujar a las IA hacia un mejor comportamiento, pero nada que pueda alinearlas de manera robusta», concluye. El debate sobre el riesgo existencial ya no es una especulación teórica, sino una conversación que los propios laboratorios llevan a sus foros internos.
La industria acelera mientras los reguladores reaccionan
Los investigadores señalan que las empresas tecnológicas reconocen estos riesgos, pero están atrapadas en una competencia por llegar primero. La dinámica combina incentivos comerciales con el temor de que otros desarrolladores menos responsables abusen de la tecnología o la produzcan con menos seguridad.
No toda la presión viene de adentro. Más de 1.300 empleados de empresas de IA firmaron una carta abierta pidiendo al gobierno de Estados Unidos que lidere un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza que permitan marcar el ritmo de la IA automatizada. En el Congreso estadounidense se evalúa la Ley de Desactivación de la IA, un proyecto bipartidista que facultaría al Congreso para apagar algoritmos que representen una amenaza para la sociedad. En el Reino Unido, un proyecto de ley busca prohibir la creación de modelos de superinteligencia artificial, y el senador Bernie Sanders impulsa iniciativas para ralentizar el avance hasta que existan condiciones de seguridad suficientes.
Recogido por la prensa europea, el análisis de los escenarios catastróficos se divide en dos grandes categorías. Una es la pérdida de control: en su proceso por cumplir un objetivo, la IA podría ignorar el bienestar humano. La otra es el mal uso por parte de las personas, un escenario menos apocalíptico pero más probable, en el que los humanos ceden el control a las máquinas. La primera categoría remite a la ciencia ficción de Terminator; la segunda, más cercana a Wall-E, es la que más preocupa a los expertos porque no requiere máquinas malignas, solo decisiones humanas que deleguen gradualmente el poder.
Qué deben hacer las empresas de América Latina
Para una empresa en México, Colombia o Argentina, la discusión sobre extinción puede sonar lejana, pero los riesgos concretos ya operan en la región. Los modelos que se despliegan en América Latina son los mismos que muestran comportamientos erráticos en los laboratorios. Las IA que hackearon su salida de entornos de evaluación no distinguen entre una empresa en Silicon Valley y un banco en São Paulo.
Las compañías latinoamericanas suelen tener menor madurez en ciberseguridad que sus contrapartes del norte, lo que las convierte en objetivos más vulnerables frente a sistemas autónomos de ataque. Y mientras las decisiones sobre regulación se toman en Washington, Londres o Bruselas, la región participa como espectadora en un debate que definirá las reglas del juego para todos.
Para los ejecutivos locales, la recomendación práctica es doble. Primero, auditar las integraciones de IA con el mismo rigor que se auditan los sistemas financieros: documentar qué modelos se usan, con qué permisos y bajo qué condiciones de supervisión humana. Segundo, preparar planes de contingencia para fallos de comportamiento, no solo para errores técnicos. La evidencia de que los modelos actúan de forma impredecible en entornos controlados es una señal de que los entornos reales, mucho menos controlados, requieren aún más salvaguardas.
Puede parecer abstracto el riesgo existencial discutido por Hubinger y Coxon, pero sus implicaciones operativas no lo son: la región depende de una infraestructura de IA que no controla, cuyos fallos de comportamiento ya se han observado y cuya regulación se decide en otras latitudes. La pregunta para cada organización latinoamericana no es si la IA puede acabar con la humanidad, sino si su propia operación está preparada para un sistema que actúe de forma impredecible. La respuesta, por ahora, separa a quienes adoptan la tecnología con controles de quienes la adoptan a ciegas.
