La cumbre de IA en Washington: advertencias y código abierto chino

En la cumbre sobre inteligencia artificial celebrada en Washington, los responsables de las principales empresas del sector se pronunciaron con una claridad inédita: su propia tecnología puede estar avanzando más rápido de lo que pueden controlar. Darío Amodei, director ejecutivo de Anthropic, afirmó que la industria debe ir más despacio. Su compañía reveló además que había bloqueado durante meses a investigadores que utilizaban su modelo Claude para el desarrollo de armas biológicas.

Pero el llamado a la prudencia choca con una realidad incómoda: ninguna de las dos grandes compañías, Anthropic y OpenAI, está dispuesta a frenar por su cuenta. Como advirtió el investigador Jacob Coxon, ninguna de las dos está actuando de manera responsable; ambas avanzan hacia una superinteligencia capaz de mejorarse a sí misma y arriesgan vidas en el camino. Amodei, respaldado por Sam Altman y Elon Musk, cree que estos sistemas podrían acabar con nuestra civilización antes de que termine esta década.

Si el riesgo es tan evidente, la pregunta es por qué nadie frena. La respuesta está en la carrera misma: el que se detiene primero pierde. La ONU también se ha pronunciado. Volker Türk, alto comisionado para los Derechos Humanos, advirtió que la IA agéntica pone en riesgo la vida, la alimentación, la privacidad, la salud y la seguridad. El debate ocurre además en vísperas de una eventual salida a bolsa de ambas compañías, lo que hace difícil explicar a los inversores cualquier gesto de pausa.

Mientras Occidente discute si debe frenar, China mueve sus piezas. Once países miembros de los BRICS estudian la creación de una zona de código abierto para desarrollar conjuntamente grandes modelos de lenguaje, las tecnologías en las que se basan herramientas como ChatGPT. Hasta ahora es solo una declaración de intenciones: no hay calendario, financiamiento ni proyecto concreto. Pero la lógica es clara: al ofrecer modelos abiertos que cualquier empresa, universidad o Estado puede descargar y ajustar al idioma local, Pekín compite contra los gigantes estadounidenses con herramientas más baratas y más fáciles de adaptar a necesidades propias.

Aquí es donde el debate deja de ser abstracto para América Latina. Un modelo abierto permite a una organización usarlo sin depender del servicio de una empresa extranjera. Pero esa apertura no equivale a autonomía: quien adopta un modelo chino depende de sus servidores y de su infraestructura. La dependencia cambia de nombre, pero no desaparece. La región puede quedar atrapada entre dos bloques que imponen sus propias reglas de seguridad, control y acceso a los datos.

La seguridad de la inteligencia artificial se ha convertido en una disputa geopolítica entre Pekín y Washington. Cada uno busca imponer su visión sobre las futuras reglas globales, mientras los países latinoamericanos, usuarios de estas tecnologías antes que productores, miran desde afuera. Lo más inquietante es que el debate recién empieza. Para un ejecutivo de la región, la lección es práctica: al evaluar un modelo, no basta con mirar su precisión; hay que preguntar quién controla los datos que se le entregan y qué pasa con esa información cuando se utiliza en un contexto regulatorio que aún no existe. La soberanía tecnológica, en cualquier dirección, se paga con algo más que dinero.