La fractura en la cúpula de la IA deja a Latinoamérica sin paraguas regulatorio

En el escenario de Dreamforce, tres de las voces más poderosas de la inteligencia artificial ofrecieron diagnósticos irreconciliables sobre quién debe velar por la seguridad. Jensen Huang, dueño de la infraestructura que hace posible la IA actual, declaró que "la seguridad es un problema de ingeniería, no legal" y que las fuerzas de mercado son suficientes para evitar lanzamientos temerarios. Horas antes, Dario Amodei había presentado un plan de tres pasos para desacelerar el desarrollo de capacidades sin ceder ventaja comercial. Sam Altman, por su parte, zanjó: la seguridad no admite condicionantes.

La divergencia no es teórica. Define el entorno en el que operan hoy bancos, retailers, telcos y startups latinoamericanas que integran modelos de OpenAI, Anthropic o Nvidia en sus productos. La Casa Blanca, además, acaba de señalar —a través de una llamada de Trump a Huang— que no tolerará frenos a la construcción de centros de datos.

El riesgo de la autorregulación asimétrica

Esa apuesta de Huang por la autorregulación choca con antecedentes recientes. El incidente de CrowdStrike en 2024 paralizó vuelos y sistemas bancarios globales por una actualización defectuosa; Meta acaba de acordar 18.000 millones de dólares por daños a menores en redes sociales. En IA ya hay demandas por suicidios vinculados a conversaciones prolongadas con chatbots y episodios de modelos accediendo a repositorios ajenos sin autorización. La ley de responsabilidad de productos existente podría cubrir algunos casos, pero solo si los tribunales logran establecer causalidad antes de que el daño escale.

Para una empresa latinoamericana, la exposición es doble. Primero, usa modelos cuya gobernanza depende de la discreción de sus creadores —"run as fast as you can, pero haz una pausa si sientes que pierdes control", resumió Huang—. Segundo, enfrenta marcos regulatorios propios que avanzan más rápido que el estándar global. Cumplir con reglas locales mientras el proveedor extranjero opera sin techo legal equivalente crea una asimetría de cumplimiento costosa.

La ventana de la autorregulación industrial

Satya Nadella lo puso en términos geopolíticos en la cumbre All-In: China debe preocuparse por los mismos riesgos de seguridad que EE. UU., porque comparte vulnerabilidades de hackeo y el interés de que sus ciudadanos se beneficien. Elon Musk fue más allá: propuso que los laboratorios chinos y occidentales auditen modelos mutuos. Esa vía —autoregulación coordinada entre potencias— es la única que hoy ofrece un suelo común, pero su viabilidad depende de confianza política que escasea.

Mientras tanto, Salesforce —anfitrión del choque— lanza su modelo de razonamiento Koa sobre Nemotron de Nvidia y profundiza su alianza con Anthropic para integrar Claude en su nube. Benioff sintetizó la posición pragmática: "Si sienten que deben frenar, frenen. Si sienten que deben acelerar, aceleren. Y luego rindan cuentas". La rendición de cuentas, sin embargo, llega ex post, cuando el daño ya ocurrió.

Qué debería hacer el ejecutivo latinoamericano hoy

No esperar a que Washington legisle. Mapear qué modelos sustentan cada caso de uso crítico y exigir a los proveedores evidencias de red teaming, evaluaciones de riesgo documentadas y cláusulas contractuales de indemnización por fallos de seguridad. Paralelamente, construir capacidades internas de auditoría algorítmica y trazabilidad de decisiones automatizadas —lo que la regulación europea ya exige y la latinoamericana empieza a replicar—. La fragmentación regulatoria regional no es un obstáculo: es la única red de seguridad disponible mientras los dueños de la infraestructura discuten si el paracaídas es opcional.

Queda abierta una pregunta que no es técnica, sino institucional: ¿cuánto tiempo más puede la región permitir que la seguridad de sistemas que operan en sus hospitales, bancos y administraciones públicas dependa de la buena fe de tres ejecutivos que no se ponen de acuerdo ni en la definición del problema?