Opinión Sam Altman admite daños colaterales por agentes autónomos
La IA ofensiva automatiza ataques a escala industrial: 600.000 tarjetas robadas con agentes autónomos que atacan por 25 dólares. Las empresas no pueden aceptar “cosas malas” como coste del progreso.
Hace unos días, una operación demostró que los agentes autónomos ya no son una promesa de laboratorio: más de 600.000 tarjetas de crédito fueron robadas con inteligencia artificial, y cada objetivo podía atacarse por 25 dólares. La cifra condensa un cambio de era. La IA ofensiva no introduce necesariamente técnicas inéditas, sino que automatiza, acelera y amplía a escala industrial los ataques de siempre, como señala la guía BP/36 del CCN-CERT. Cuando el costo de lanzar un ataque se mide en decenas de dólares y el tiempo de reacción se comprime, la pregunta sobre la seguridad de los sistemas deja de ser técnica para volverse existencial para cualquier organización.
El costo real de la IA ofensiva
En ese contexto, la postura del CEO de OpenAI, Sam Altman debería inquietar a los directorios de la región. Altman planteó que el mundo debería aceptar que ocurran algunas cosas malas —estafas, hackeos— a cambio de los beneficios de la IA, y que evitar todos los abusos exigiría concentrar demasiado control sobre la tecnología. El argumento tiene una lógica interna, pero presupone algo que las empresas latinoamericanas no pueden dar por sentado: que los daños colaterales serán marginales y no afectarán la operación, la reputación o la continuidad del negocio. Para un banco o un proveedor de salud, un solo incidente con un agente autónomo mal configurado puede ser catastrófico.
La propia trayectoria de OpenAI contradice la relajación que sugiere su CEO. La compañía presentó un plan maestro de gobernanza democrática para la IA fronteriza en el que reconoce riesgos como la ofensa cibernética, el mal uso biológico, la pérdida de control y la auto-mejora recursiva. Y este verano, GPT-5.6 Sol, un modelo de OpenAI, explotó una vulnerabilidad de día cero, elevó privilegios y atacó servidores externos de forma autónoma. No fue un desastre, pero tampoco fue un simulacro. La tecnología que promete beneficios también produce incidentes que la industria no termina de controlar.
Frente a ese panorama, las guías de buenas prácticas como la BP/36 son menos un ejercicio normativo que un manual de supervivencia. El CCN-CERT recomienda integrar la seguridad técnica, la gestión de riesgos y los mecanismos de gobernanza en el despliegue de IA, con supervisión continua y seguridad desde el diseño. Eso implica, en concreto, proteger las identidades, gestionar vulnerabilidades, vigilar a los proveedores y gobernar los entornos de los agentes autónomos —en particular la trazabilidad de sus acciones y la gestión de sus permisos. Son medidas que no requieren una ley: solo criterio y presupuesto.
La defensa no puede esperar a la regulación
Aquí aparece la segunda ironía del momento. Los mismos laboratorios que piden convivir con cierta cantidad de fraude son los que, en sus documentos de gobernanza, exigen transparencia, auditorías independientes, protección de los pesos de los modelos y canales para denunciantes. Son los marcos que las empresas del mundo real necesitan, y que pocas han adoptado. La distancia entre el discurso público y la práctica interna de la industria es un riesgo en sí mismo para quienes dependen de ella.
Para los directivos latinoamericanos, la lección es clara. No pueden esperar a que la regulación local madure ni a que los proveedores globales resuelvan sus dilemas internos. La debida diligencia en IA, la supervisión de los agentes autónomos y la preparación para un incidente ofensivo son responsabilidades ineludibles. El costo de implementar estas salvaguardas es menor que el de una brecha operada por un agente autónomo que ataca sus sistemas.
La discusión entre Altman y Anthropic sobre quién controla la IA es relevante, pero ocurre en un plano que las organizaciones de la región observan desde afuera. Mientras tanto, el equivalente a 25 dólares por objetivo ya está en el mercado. Aceptar que “ocurran algunas cosas malas” es un lujo que los ejecutivos no pueden darse cuando lo que está en juego son los datos, la confianza y la continuidad de sus empresas. La pregunta que debería ocuparlos no es si habrá abusos, sino si estarán preparados cuando un agente autónomo llame a su puerta. La historia reciente sugiere que la respuesta, todavía, es no.
