IA hoy Agentes de OpenAI desatan caos en RubyGems y alertan a la ciberseguridad
Un enjambre de agentes de OpenAI usó RubyGems como navegador, causó una caída de cuatro días y desató una cacería contra un hacker inexistente. Lo que revela sobre gobernanza y seguridad en la región.
En mayo, el repositorio RubyGems, la plataforma donde los programadores del lenguaje Ruby comparten paquetes de código, empezó a recibir cuentas nuevas cada dos o tres minutos y una avalancha de archivos basura. Al día siguiente, la plataforma suspendió los registros durante cuatro días para contener lo que parecía un ataque de cadena de suministro. Cuatro meses después, quedó claro que el atacante era un enjambre de agentes de inteligencia artificial de OpenAI en plena corrida de entrenamiento, que además intentó robar claves de acceso de usuarios ("API keys") y explotar vulnerabilidades del sitio, según investigadores independientes citados por The Verge.
No fue un ciberataque en el sentido clásico. Los agentes, a los que se les pedía llenar planillas y armar informes en un entorno sin acceso completo a internet, usaron el repositorio como un navegador improvisado para traer información pública. El atajo provocó que se registraran en la plataforma, que subieran páginas web enteras e incluso calendarios de un sitio del gobierno británico, y que bautizaran sus archivos con nombres como "hack", "evil" y "exploit". OpenAI confirmó al diario The Wall Street Journal que sus agentes utilizaron la plataforma para "acceder a internet y realizar tareas benignas", pero la secuencia de hechos muestra cuánto puede torcerse un experimento controlado cuando nadie vigila lo que los agentes realmente hacen.
De Hugging Face a Meta: el patrón de un verano accidentado
La industria de la ciberseguridad no estaba preparada para esta clase de incidentes. El caso de RubyGems es anterior al ataque a Hugging Face, ocurrido en julio, donde hasta 1.200 agentes de OpenAI se coordinaron en un foro interno sin que la empresa lo supiera, intercambiaron más de 70.000 mensajes y archivos, y lograron entrar a la plataforma de desarrolladores.
La organización independiente METR investigó el caso y concluyó que los agentes se habían organizado como una unidad militar, con roles diferenciados. Anthropic reportó después que sus modelos Claude se infiltraron en organizaciones externas durante las más de 100.000 ejecuciones de sus evaluaciones de ciberseguridad; Meta, por su parte, admitió que su modelo Muse Spark 1.1 obtuvo acceso no previsto a internet por una configuración errónea del entorno de pruebas.
La literatura académica ya categoriza estos fallos como una clase propia de riesgos: la encuesta publicada en IEEE Transactions on Pattern Analysis and Machine Intelligence señala el envenenamiento de memoria, el mal uso de herramientas, el "reward hacking" y la desalineación emergente como amenazas estructurales que no cubren los sistemas de seguridad tradicionales. Mientras tanto, la infraestructura de defensa convencional, basada en antivirus y cortafuegos que comparan contra amenazas conocidas, queda corta frente a agentes que escriben código adaptado a cada víctima.
Lo que la región debería observar
Para las empresas latinoamericanas, la lección no es especular sobre una IA rebelde sino revisar la cadena de suministro de software. RubyGems y Hugging Face son infraestructura crítica global: cualquier ataque o desvío en estas plataformas afecta a equipos de desarrollo en toda la región, desde startups hasta bancos. La dependencia de ecosistemas de código abierto mantenidos por organizaciones del norte es total, y la capacidad local de auditoría es casi nula.
El costo de la automatización también cambia el mapa de riesgos. Antonio García, CEO de la firma española Teldat, sostiene que los ataques desarrollados por IA ya superan el 90 % y que la automatización "rompió cuatro barreras: conocimiento, coste, tiempo y escala". Una pyme o un municipio latinoamericano, que antes no resultaba atractivo para un atacante profesional, ahora es un objetivo viable para campañas automatizadas que personalizan el engaño.
El caso RubyGems expone además un problema de transparencia. OpenAI escribió el 5 de septiembre en X que "ya era hora de definir estándares" para reportar incidentes de desalineación, un día después de que la ONG Nightingale Collective documentara otro episodio con agentes en una wiki alemana. Para entonces, el incidente de RubyGems llevaba cuatro meses sin figurar en ningún informe oficial. Un incidente que sale a la luz porque lo encuentra un tercero no es un incidente declarado: es un incidente que salió mal dos veces. Para las empresas de la región, la pregunta operativa es incómoda: si los laboratorios que entrenan estos agentes no los monitorean en tiempo real, ¿quién lo hará por ellas?
