Ética & sociedad CEO de Anthropic exige pruebas de seguridad tipo aviación para IA de frontera
Dario Amodei publica un ensayo y dos marcos de política que piden auditorías independientes y autorización gubernamental para modelos avanzados como Claude Mythos, advirtiendo riesgos de empleo y seguridad nacional.
El 10 de junio de 2026 el director ejecutivo de Anthropic, Dario Amodei, publicó en su blog personal un extenso ensayo titulado "Policy on the AI Exponential". En él analiza la brecha entre la velocidad exponencial del desarrollo de la inteligencia artificial y la lentitud de los procesos legislativos, comparando la situación con el árbol‑espíritu "Treebeard" de "El Señor de los Anillos". Hace cuatro años los modelos de IA apenas podían generar código básico; hoy, la mayor parte del software de las principales compañías lo escribe una IA. Amodei advierte que, si la tendencia de escalado continúa, en uno o dos años las capacidades de estos sistemas podrían equipararse a las de los mejores centros de datos del mundo, creando lo que él denomina un "país de genios dentro del data center".
Propuesta de regulación y seguridad
Ante este panorama, Amodei y Anthropic presentaron el mismo día dos documentos de política en el blog corporativo: el "Advanced AI Framework" y el "Economic Policy Framework". El primero se centra en la seguridad de los modelos de gran escala. Propone que cualquier IA entrenada con recursos de cómputo superiores a un umbral definido sea evaluada por terceros independientes antes de su lanzamiento, con énfasis en cuatro áreas de riesgo: ciberseguridad, bioterrorismo, pérdida de control y automatización de la investigación en IA. Si la auditoría determina que el modelo no cumple con los estándares, el gobierno debería tener la autoridad legal para bloquear su despliegue, al estilo de las certificaciones obligatorias que deben obtener los aviones antes de volar.
El ensayo también menciona que el modelo de frontera "Claude Mythos Preview" de Anthropic ha detectado vulnerabilidades críticas en sistemas operativos y navegadores web, lo que refuerza la necesidad de una supervisión más estricta que la mera transparencia legislativa. Según Amodei, la legislación actual centrada en la divulgación de algoritmos y la regulación de exportación de chips es insuficiente para evitar que la IA se convierta en una herramienta estratégica para la seguridad nacional.
Impacto económico y empleo
En el segundo documento, el "Economic Policy Framework", Anthropic aborda las consecuencias macroeconómicas de una IA cada vez más capaz. Plantea tres escenarios de desempleo: 5 %, 10 % y niveles sin precedentes, y propone respuestas progresivas que incluyen un fondo de investigación económica de 350 millones de dólares (aproximadamente 500 millones de euros) que la empresa destinará a estudios y becas a nivel nacional. Además, sugiere la implementación de políticas de renta básica universal y seguros de salarios para mitigar la pérdida de puestos de trabajo, pero subraya que el objetivo no es aceptar la desaparición del empleo, sino preparar a la sociedad para una nueva forma de valor y propósito.
Amodei concluye que los temores sociales sobre los riesgos de la IA son legítimos y no pueden ser reducidos a simples campañas de relaciones públicas. Aboga por una cooperación multipartidista que permita compartir los beneficios de la IA sin sacrificar la seguridad ni los derechos fundamentales.
Qué significa para los ejecutivos latinoamericanos
Para los tomadores de decisiones en América Latina, estas propuestas presentan dos retos claros. Primero, la necesidad de crear marcos regulatorios que combinen auditorías técnicas independientes con poderes de intervención gubernamental, algo que requerirá inversión en capacidad institucional y en generación de talento especializado. Segundo, la presión de adaptar sus modelos de negocio a un entorno donde la automatización pueda desplazar una parte importante de la fuerza laboral. La propuesta de Anthropic de financiar investigación y programas de apoyo social sugiere que las grandes empresas de IA están dispuestas a participar en la solución, pero depende de los gobiernos locales diseñar políticas que canalicen esos recursos de manera efectiva.
En última instancia, la visión de Amodei plantea una pregunta crucial: ¿estaremos preparados para regular una tecnología que avanza a ritmo exponencial con los mismos estándares de seguridad que se aplican a la aviación? La respuesta definirá no solo la competitividad tecnológica de la región, sino también la cohesión social frente a transformaciones profundas del mercado laboral.
