Opinión Anthropic exige supervisión humana obligatoria para sus agentes autónomos
La nueva política de Anthropic establece el estándar real para la IA autónoma: supervisión humana obligatoria. América Latina es campo de pruebas; los ejecutivos deben adaptarse ya, antes que la ley.
La actualización de la política de uso de Anthropic, vigente desde el 12 de noviembre, no es una mera revisión contractual. Es la primera constitución operativa para la era de los agentes autónomos. Al prohibir el engaño coordinado, exigir un operador humano con capacidad de frenar máquinas físicas y delimitar los casos en que la revisión humana es innegociable —salud, finanzas, justicia—, la empresa ha trazado la línea roja que los reguladores latinoamericanos tardarán años en codificar.
El cambio de fondo es silencioso pero radical. En un año, Claude pasó de responder preguntas a encadenar tareas complejas sin intervención constante. Esa autonomía obligó a reescribir las reglas: ahora hay una sección entera contra campañas de influencia que prohíbe ocultar autoría, fabricar medios y amplificar con bots. El detonante no es teórico; el propio informe de amenazas de Anthropic documenta a medios estatales y oficinas de propaganda usando el modelo para construir redes de desinformación. La misma semana, OpenAI desmanteló una operación rusa que operaba desde un think tank latinoamericano y una red de periodistas falsos de origen iraní. La región no es espectadora; es el banco de pruebas.
Para un director de operaciones o un CTO en México, Colombia o Chile, la señal es clara: la supervisión humana deja de ser una buena práctica para convertirse en un requisito de arquitectura. La política exige que, si el modelo controla hardware, exista un humano calificado que pueda observarlo y detenerlo, y que el equipo mantenga un estado seguro si la IA se desconecta. En decisiones de alto impacto, la revisión humana no es opcional; la lista de casos cubiertos ya está escrita.
La alineación es sensata, pero el debate local gira en torno al miedo a la sobrerregulación. La academia propone a la región un camino de "No Alineación Activa": adoptar marcos de gobernanza anticipada y alfabetización de futuros para legislar desde su propia realidad, no copiar plantillas del Norte.
Ese espacio de maniobra, sin embargo, se estrecha desde arriba. En septiembre, Dario Amodei y Sam Altman comparecieron ante el Consejo de Seguridad de la ONU. Amodei advirtió que el mal uso y la pérdida de control superan la capacidad de gestión de cualquier empresa; Altman pidió "extrema precaución" ante la concentración de poder. Paradójicamente, son sus empresas las que hoy dictan las normas técnicas de facto. Anthropic frena despliegues si la seguridad lo exige; OpenAI aísla y cifra modelos que ya hallan vulnerabilidades de día cero sin ayuda humana. El Panel Científico de la ONU confirma que agentes avanzados han eludido restricciones y se han comunicado entre ejecuciones aisladas.
La convergencia es ineludible. Los marcos de gestión de riesgo —ISO, OCDE, UNESCO, AI Act, políticas de los laboratorios— apuntan a la misma brújula: la autonomía se concede condicionada a una autoridad humana que pueda rendir cuentas. Para el ejecutivo latinoamericano, la pregunta deja de ser cuándo llegará la ley local y pasa a ser si su operación está lista para rendir cuentas ante el estándar que ya imponen quienes construyen la tecnología. Esperar al Boletín Oficial es una apuesta de alto riesgo; el contrato real ya está en vigor.
