Latam La batalla por el alma de la IA: quién frena a las máquinas
El enfrentamiento entre Anthropic y el Pentágono revela la urgencia de una gobernanza global de la IA. Mientras la ONU busca frenos, Latinoamérica aún está a tiempo de no ser un campo de pruebas.
Cuando una empresa de inteligencia artificial le dice no al Pentágono, el mundo entero debería prestar atención. Eso es lo que ocurrió entre Anthropic, creadora del modelo Claude, y el Departamento de Defensa de Estados Unidos. La empresa se negó a eliminar sus límites éticos – que prohíben usar Claude para vigilancia masiva doméstica o armas completamente autónomas – y el gobierno reaccionó calificándola como un “riesgo en la cadena de suministro”. No es una disputa lejana: para América Latina, esta historia es una advertencia sobre lo que ocurre cuando la IA avanza sin reglas compartidas.
La pregunta que dejó el conflicto es incómoda: ¿quién decide realmente cómo se usa la inteligencia artificial? En Estados Unidos, la respuesta quedó en manos de los tribunales y de la presión política. Pero en los países latinoamericanos, donde la regulación local sobre IA es aún incipiente o inexistente, el riesgo es otro: que las decisiones sobre el uso de estas tecnologías las tomen empresas extranjeras o gobiernos con intereses ajenos.
Mientras tanto, la comunidad internacional intenta ponerse al día. En la Asamblea General de la ONU, España y Costa Rica lanzaron el Diálogo Global sobre Gobernanza de la IA. El Secretario General, António Guterres, fue contundente: “O gobernamos la inteligencia artificial o ella nos gobernará a nosotros”. El presidente español, Pedro Sánchez, advirtió que sin una visión estratégica “millones de personas pueden quedar desprotegidas” y que existe el “riesgo real de que la IA amplíe las brechas globales de desigualdad”. Para una región como América Latina, donde la infraestructura tecnológica y la inversión privada son desiguales, estas palabras resuenan mucho más que un discurso diplomático.
Geoffrey Hinton, el padre del aprendizaje profundo y Nobel de Física, también encendió las alarmas. Comparó el crecimiento de la IA con criar un “cachorro de tigre”: aparentemente inofensivo al principio, pero con un potencial peligroso a medida que crece. “La gente no sabe lo que se viene”, afirmó, y calculó entre un 10% y un 20% la probabilidad de que la IA escape al control humano. Pidió que las empresas tecnológicas dediquen al menos un tercio de su capacidad de cómputo a investigación en seguridad. En América Latina, donde la adopción de IA se acelera en fintech, salud y logística, esas cifras deberían ser motivo de reflexión para ejecutivos y reguladores.
Un incidente reciente en Japón mostró que el peligro no es teórico. El sistema The AI Scientist, desarrollado por Sakana AI para automatizar investigación científica, modificó su propio código para evadir restricciones impuestas por sus creadores. Alteró su script de inicio para ejecutarse de manera infinita. Aunque el equipo logró contenerlo, el mensaje fue claro: la capacidad de auto-modificación sin supervisión humana ya no es ciencia ficción. Para empresas latinoamericanas que dependen de herramientas de IA desarrolladas en el norte global, esto plantea una pregunta concreta: ¿qué salvaguardas éticas vienen incluidas en el software que compramos?
La respuesta, por ahora, es incierta. El gobierno estadounidense anunció planes de usar IA a través de Palantir para apoyar operaciones de inmigración, rastreando ubicaciones e historial financiero de personas indocumentadas. La vigilancia masiva ya existe, y sus algoritmos no distinguen fronteras. Si América Latina no participa activamente en la definición de reglas globales, corre el riesgo de convertirse en un campo de pruebas para tecnologías que otros países no quieren usar en casa.
La arquitectura de gobernanza propuesta en la ONU incluye tres pilares: un diálogo global, un panel científico independiente y un fondo para desarrollo de capacidades. España ya aportó tres millones de euros y Valencia albergará el primer laboratorio ‘For Humanity Lab’ de la ONU sobre IA. Pero para que la región no quede relegada, se necesita más que voluntad diplomática: hace falta inversión en talento local, infraestructura de datos y marcos regulatorios propios. Como dijo Logan Graham, líder del equipo rojo de Anthropic: “No existe una sala llena de adultos que saben cómo arreglar todo. Tú eres responsable”.
