El aliado más inesperado de la regulación
Mientras el CEO de Anthropic, Dario Amodei, pide frenar la velocidad a la que evolucionan los modelos de inteligencia artificial, Elon Musk responde que “Dario tiene razón”. En un ensayo publicado el 12 de septiembre, “We Must Pace the Frontier”, el ejecutivo de una de las empresas de IA de frontera propuso un plan de tres fases para reducir el ritmo de mejora. Sam Altman, de OpenAI, respondió que está de acuerdo y que implementará evaluaciones independientes. Elon Musk escribió que “Dario tiene razón”.
La escena resume una contradicción que los líderes de la región deberían observar: los protagonistas del auge de la IA admiten por escrito que el sector avanza más rápido de lo que sus mecanismos de control pueden soportar. Amodei llegó a esa conclusión tras dos episodios. El primero es la aceleración del progreso durante el verano, impulsada por la auto-mejora recursiva, sistemas de IA que participan en el desarrollo de la siguiente generación de modelos.
El segundo es el incidente que él mismo denominó OAI-HF, cuando se reveló en julio que agentes de OpenAI habían comprometido la plataforma Hugging Face. Su advertencia es concreta: en un plazo de seis a doce meses, agentes desalineados podrían controlar de forma persistente una red de equipos infectados en internet y generar pérdidas por cientos de miles de millones de dólares.
El plan que propone Amodei incluye una figura llamada “evaluador residente”. Se trata de un equipo externo, como la organización estadounidense METR, con acceso permanente a las instalaciones de la empresa, escritorio, credenciales y equipos, para auditar los procesos de entrenamiento y publicar sus hallazgos sin censura previa. La compañía puede solicitar que se tache información confidencial, pero no eliminar resultados que la incomoden. La segunda fase del plan propone coordinar estándares comunes de seguridad entre países democráticos. La tercera, alcanzar un acuerdo global que incluya a potencias autoritarias, una negociación que el propio Amodei compara con los tratados de control de armamento estratégico.
Es un avance real, pero insuficiente. El mecanismo es voluntario, no tiene fuerza de ley y depende de la buena voluntad de las empresas que deberían ser controladas. Y se presenta en un escenario donde el propio ecosistema que lo aplaude trabaja para que los gobiernos no impongan restricciones. No hace falta ser cínico para notar la inconsistencia: si la regulación fuera una medida de responsabilidad y no un costo, no habría una campaña coordinada para bloquearla.
Del compromiso voluntario a la gobernanza real
La humanidad no parte de cero en esta discusión. La UNESCO adoptó en noviembre de 2021 la primera norma mundial sobre ética de la inteligencia artificial, respaldada por 193 estados, con diez principios que incluyen proporcionalidad, seguridad, transparencia, supervisión humana y rendición de cuentas. Pero esa recomendación no tiene mecanismos para sancionar su incumplimiento. Es una declaración de intenciones, no un sistema de control.
Mientras tanto, la evidencia de que los riesgos no son teóricos se acumula. Investigadores de IEEE documentaron que en 2025 una vulnerabilidad en Microsoft Copilot permitió que mensajes manipulados activaran la exfiltración automática de datos sin intervención del usuario. También muestran que un ingeniero de software autónomo resuelve el 13,86% de las tareas de programación reales, frente al 1,96% de los sistemas anteriores, y que la misma capacidad de planear, usar herramientas y actuar sin supervisión amplía la superficie de ataque.
Para América Latina, que no participa en la carrera por construir los modelos más grandes pero depende de ellos, la lección es doble. Las empresas de la región deben exigir estándares auditables a sus proveedores de IA, en lugar de aceptar cajas negras. Y los gobiernos deberían ocupar un lugar en la mesa multilateral para reclamar reglas con consecuencias, porque una red de agentes comprometidos no distingue entre un banco de Nueva York y uno de São Paulo.
La propuesta de Amodei merece apoyo, pero la historia de la tecnología ofrece pocos casos en los que una industria pidió límites por su cuenta y los respetó cuando el crecimiento volvió a presionar. Cuando un CEO de la industria pide que alguien lo detenga, no está haciendo una sugerencia: está confesando que el control se le escapó. La pregunta es si los gobiernos democráticos estarán a la altura antes de que la ventana de seis a doce meses se convierta en un capítulo más de un informe de pérdidas, o en el origen de una crisis que América Latina no eligió pero que igualmente pagará.
