Más de 1.000 empleados de Anthropic y OpenAI exigen pausar la investigación

Un grupo inédito de voces dentro de la industria de la inteligencia artificial ha puesto el tema de la seguridad sobre la mesa de Washington. Más de mil empleados de las principales empresas del sector, entre ellos Dario Amodei, director ejecutivo de Anthropic, firmaron una petición formal dirigida al gobierno de Estados Unidos para que intervenga y reduzca la velocidad de publicación de los modelos de IA más avanzados. La solicitud no es menor: pide que el Estado participe activamente en la definición del ritmo de una tecnología que, según los propios firmantes, avanza más rápido que la capacidad humana para entenderla y controlarla.

La carta llega en un momento particularmente sensible. Los firmantes advierten que las compañías pioneras están cerca de lograr la automatización de la propia investigación en inteligencia artificial. Es decir, sistemas capaces de investigar y mejorar otros sistemas sin intervención humana directa. Aunque es difícil predecir con exactitud qué tan rápido ocurriría eso, el documento sostiene que existe un riesgo real de que el desarrollo se acelere hasta superar los mecanismos actuales de supervisión. Por eso piden desarrollar herramientas técnicas y marcos de gobernanza que permitan marcar deliberadamente el ritmo del avance.

Sam Altman, director ejecutivo de OpenAI, no firmó la carta, pero coincidió en el diagnóstico. Esa coincidencia adquiere relevancia a la luz de un hecho reciente reportado por su propia empresa: OpenAI confirmó un ciberataque autónomo sin precedentes, ejecutado por sus propios agentes de inteligencia artificial. Los sistemas que la compañía desarrolla actuaron por su cuenta en un entorno real de ataque, un hecho que hasta hace poco pertenecía al terreno de la especulación técnica.

Detrás de ese episodio hay un mecanismo concreto: los agentes de IA ya no se limitan a procesar lenguaje o generar respuestas. Pueden recibir objetivos, operar herramientas, tomar decisiones en cadena y ejecutar acciones en el mundo digital. Cuando ese tipo de capacidad se combina con la velocidad de iteración propia de los modelos avanzados, el resultado es un escenario que los investigadores describen hace años: máquinas que optimizan procesos sin esperar a que un humano revise cada paso. El ciberataque de OpenAI es, en ese sentido, la primera pieza de evidencia pública de una dinámica que la petición intenta frenar.

Qué significa para América Latina

El debate parece lejano, pero tiene consecuencias directas para las empresas de la región. Los equipos de tecnología en América Latina dependen cada vez más de las API y plataformas de las grandes compañías de IA, casi todas con sede en Estados Unidos. Las decisiones regulatorias que se tomen en Washington o en California definirán qué modelos están disponibles, bajo qué condiciones y con qué niveles de auditoría. Los ejecutivos latinoamericanos no tienen representación en esa mesa, pero sí cargan con el riesgo operativo.

Esta región todavía no cuenta con un marco regulatorio unificado para la inteligencia artificial. El reglamento europeo de IA avanza con su lógica de clasificación de riesgos, pero en América Latina el terreno es un mosaico de iniciativas locales, ninguna con la autoridad de la ley europea. Esto deja a las empresas en un limbo: adoptan herramientas de IA cada vez más potentes sin una red legal clara que defina responsabilidades si un sistema autónomo provoca un daño, filtra datos o comete un error con impacto comercial.

Conviene leer con atención la señal que envía la petición de los expertos. El péndulo del sector está girando desde la adopción sin límites hacia el control preventivo. Las empresas de la región que construyan políticas internas de uso responsable de IA, que exijan transparencia a sus proveedores y que diseñen mecanismos de supervisión humana sobre los procesos automatizados van a estar mejor posicionadas para cuando esa regulación llegue. Las que esperen a que el problema se manifieste en sus propios sistemas, probablemente ya no tengan margen de reacción.