Anthropic se desmarca de la prohibición, pero quiere su propio cerrojo

El CEO de Anthropic, Dario Amodei, ha tenido que salir a aclarar lo que para muchos ya era evidente: su empresa nunca pidió prohibir los modelos de IA de pesos abiertos. La declaración llega en medio de un debate que enfrenta a los gigantes tecnológicos con la comunidad open-source y los reguladores estadounidenses. Pero si uno lee con cuidado lo que propone Anthropic, la diferencia entre prohibir y controlar es apenas un matiz de semántica.

En un post publicado el lunes, Amodei reconoce que los modelos abiertos sin capacidades peligrosas son "un bien público" que aporta valor a negocios, desarrolladores e investigadores. Sin embargo, su preocupación real —y no es nueva— es doble: que gobiernos autoritarios, con China a la cabeza, construyan modelos más potentes que los de Estados Unidos y los usen para superioridad militar o represión interna; y que los propios modelos abiertos, por su naturaleza, sean imposibles de retirar una vez liberados y puedan ser utilizados para ciberataques o armas biológicas.

Para mitigar esos riesgos, Anthropic propone tres medidas que suenan razonables en el papel, pero que en la práctica tienen implicaciones profundas. La primera: no vender chips potentes ni equipos de fabricación de semiconductores a China. La segunda: combatir la "destilación industrial" de modelos, un proceso que permite a competidores obtener rendimientos muy superiores a los que su capacidad de cómputo permitiría. La tercera: que todos los modelos, abiertos y cerrados, pasen por pruebas de seguridad obligatorias a nivel global antes de su lanzamiento.

El problema es que, como señala un artículo académico reciente en AI and Ethics, los modelos de código abierto "democratizan el acceso, fomentan la colaboración y respaldan aplicaciones diversas", mientras que los modelos cerrados "restringen la reproducibilidad, la accesibilidad y la supervisión externa". Imponer pruebas globales obligatorias, por muy bien intencionadas que sean, es un requisito que solo los grandes laboratorios con presupuestos multimillonarios pueden cumplir sin despeinarse. Para una startup en São Paulo, un instituto de investigación en Ciudad de México o un desarrollador independiente en Buenos Aires, el costo de certificar un modelo abierto antes de liberarlo puede ser prohibitivo.

En Reddit, las comunidades de modelos abiertos ya han señalado la hipocresía. "Apelar a la seguridad nacional es una cortina de humo para imponer reglas que solo los grandes laboratorios pueden asumir y que condenan a la escena del código abierto a una muerte lenta", escribió un usuario en el subreddit de LocalLLaMA. La crítica tiene peso: si el resultado práctico de las medidas de Anthropic es que los modelos abiertos dejen de ser realmente accesibles —porque certificarlos cuesta caro, porque entrenarlos con chips limitados se vuelve inviable, o porque la destilación se criminaliza— entonces estamos ante una regulación que, sin prohibir explícitamente, cumple la misma función que una prohibición.

Para América Latina, donde la adopción de inteligencia artificial depende en buena medida de modelos open-source como LLaMA o Mistral —que pueden ejecutarse en hardware modesto y adaptarse a necesidades locales—, el escenario es preocupante. Si las barreras de entrada se elevan, la región se verá forzada a consumir modelos cerrados vía API, pagando en dólares a proveedores estadounidenses y perdiendo soberanía tecnológica. La promesa del open-source como herramienta de desarrollo autónomo quedaría en manos de unos pocos.

El debate no es binario. Nadie quiere que un modelo de pesos abiertos caiga en manos de un régimen autoritario para diseñar drones autónomos o censurar a su población. Pero el camino que propone Anthropic —control de chips, persecución de la destilación, certificación global obligatoria— no solo ataca el problema real de la proliferación de capacidades peligrosas, sino que también consolida el poder de las big tech estadounidenses. El resultado neto podría ser un mundo donde solo OpenAI, Google, Anthropic y Meta tengan los recursos para lanzar modelos de frontera, mientras el resto del mundo mira desde la ventana.

¿Es ese un precio razonable a pagar por la seguridad? Para los ejecutivos latinoamericanos que hoy construyen productos sobre modelos abiertos, la pregunta ya no es teórica. Las decisiones que se tomen en Washington en los próximos meses —sobre el control de chips, sobre la regulación de la destilación, sobre los requisitos de pruebas de seguridad— definirán si la región puede seguir innovando o si queda atada a la factura de un proveedor extranjero.