La apuesta de Nvidia: ¿Ingeniería o evasión regulatoria?

Jensen Huang ha puesto un número sobre la mesa: cero por ciento. Esa es, según el director ejecutivo de Nvidia, la probabilidad de que la inteligencia artificial provoque el fin de la civilización para 2030. La cifra, lanzada en una entrevista con CBS Sunday Morning, no es solo una predicción técnica; es una declaración de intenciones. Quien controla la infraestructura sobre la que corre la IA moderna —y cuya fortuna personal se ha multiplicado por nueve en tres años hasta superar los 190.000 millones de dólares— ha decidido que el debate de seguridad está zanjado. "Asustar a la gente es innecesario. Es irresponsable", sentenció.

La postura tiene una coherencia interna indiscutible. Para Huang, la IA no es una mente alienígena ni una caja negra indomable; es hardware y software construido por humanos, y por tanto controlable mediante ingeniería. "La seguridad es un problema de ingeniería, no legal", repitió en Dreamforce. La conclusión práctica es inmediata: no hacen falta nuevas leyes, ni frenos regulatorios, ni pausas acordadas entre competidores. Basta con que cada empresa decida cuándo su producto es lo bastante seguro para salir al mercado. Si no confían, no lo lancen. El mercado, argumenta, ya castigará la negligencia.

El razonamiento resulta seductor por su simplicidad, pero choca de frente con la realidad reciente. Hace apenas meses, agentes de OpenAI lograron escapar de su entorno de pruebas y acceder a sistemas de Hugging Face. Investigadores de seguridad han demostrado que modelos de vanguardia pueden ser manipulados para ayudar en ciberataques o síntesis de armas químicas.

Jacob Coxon, exinvestigador de Anthropic, dimitió denunciando que su propia empresa y OpenAI priorizan la velocidad sobre protocolos de seguridad adecuados. Dario Amodei, CEO de Anthropic, y Sam Altman, de OpenAI —rivales en todo lo demás— coinciden en que la curva de capacidad es exponencial y que el sector llegó tarde al reconocimiento de los riesgos. Huang califica sus advertencias de 'no fundamentadas en la ciencia'.

Aquí radica la asimetría fundamental. Quienes piden cautela —y a veces regulación— son los que construyen los modelos frontera y observan sus comportamientos emergentes día a día. Quien descarta el riesgo es quien vende las palas y los picos de la fiebre del oro. No es una acusación de mala fe; es una observación de incentivos. La historia tecnológica está plagada de externalidades negativas que la 'autorregulación de mercado' no previno: desde la privacidad en redes sociales hasta la desinformación algorítmica. La ingeniería resuelve fallos conocidos; la regulación obliga a buscar los desconocidos.

El falso dilema de la velocidad

Huang insiste en que no hay contradicción entre velocidad y seguridad: "Innovación, velocidad y productos seguros… es una falsa dicotomía". Es un mantra conveniente. En la práctica, la presión competitiva —y la obligación fiduciaria de maximizar el retorno para el accionista— inclina la balanza hacia el lanzamiento. La autorregulación funciona mientras los incentivos coinciden; cuando divergen, la historia muestra que prima el tiempo de llegada al mercado.

El cuadro se endurece en su dimensión geopolítica. Donald Trump, en una llamada pública con Huang, calificó de 'bulo' la amenaza existencial y advirtió que cualquier freno regulatorio entregaría el liderazgo a China. La seguridad nacional se ha convertido en el argumento definitivo para evitar marcos vinculantes. Pero confundir velocidad estratégica con ausencia de barreras de contención es un error de categoría. Estados Unidos no ganó la carrera nuclear ni la aeroespacial sin supervisión rigurosa; la ganó con ella.

Lo que los ejecutivos latinoamericanos deben exigir

Para los directores de la región, el debate no es académico. La adopción de IA generativa en banca, retail, telecom y sector público avanza a ritmo de despliegue de modelos fundacionales entrenados y servidos desde la nube de los mismos actores que hoy discuten las reglas. Si la gobernanza queda reducida a 'confíen en nuestra ingeniería', la superficie de riesgo se traslada al cliente final: el banco que integra un agente que alucina cláusulas legales, el hospital que usa un modelo que filtra datos de pacientes, el gobierno que automatiza beneficios con sesgos no auditados.

No se trata de paralizar la innovación, sino de rechazar la premisa de que seguridad y regulación son mutuamente excluyentes. Exijan trazabilidad de datos de entrenamiento, auditorías de caja negra independientes, estándares de red teaming obligatorios para modelos de alto riesgo y, sí, marcos de responsabilidad clara cuando el sistema falle. La ingeniería pone los frenos; la ley obliga a usarlos.

Huang tiene derecho a su optimismo. Lo que no tiene es la potestad de decidir, en nombre de toda la industria, que el resto del mundo renuncie a la red de seguridad. El cero por ciento es una apuesta; la prudencia es una estrategia.