Anthropic revela que la supervisión humana detecta solo el 13,6% de comandos peligrosos

La capacidad de Claude para redactar y despachar correos de Gmail sin pasar por el filtro humano no debería leerse como una simple mejora de productividad. Es la señal más concreta de que la industria está dispuesta a ceder terreno de decisión a las máquinas, y también el punto exacto donde la eficiencia empieza a chocar con la responsabilidad.

Anthropic incorporó a su asistente la posibilidad de responder hilos de correo de forma autónoma. La configuración predeterminada todavía exige autorización del usuario para enviar, responder o reenviar, pero esa barrera puede desactivarse. El argumento oficial es el de siempre: las personas mantienen el control sobre cuándo la IA necesita aprobación explícita. El problema es que la evidencia publicada por la propia empresa, en otro de sus productos, sugiere que ese control es más frágil de lo que se dice.

Según datos que Anthropic difundió sobre su herramienta de programación Claude Code, la supervisión humana es notablemente deficiente. En un experimento con más de mil testers pagados, los participantes detectaron apenas el 13,6% de los comandos peligrosos que debían revisar. Un clasificador automático, en contraste, bloqueó el 89% de esas mismas acciones. Y cuando los usuarios reales se enfrentan a sucesivas ventanas de permisos, la atención se desploma: el 97% de los avisos de aprobación terminan aceptados de forma casi refleja. Después de cincuenta solicitudes consecutivas, la capacidad humana de identificar una amenaza cae al 5%. Los investigadores tienen un nombre para eso: fatiga de aprobación.

La lección es incómoda, pero necesaria. Cuando una compañía anuncia que su inteligencia artificial puede enviar mensajes sin intervención humana, la pregunta no debería ser si la tecnología funciona, sino en qué se basa realmente esa promesa de control. La supervisión humana, en la práctica, es intermitente, se agota y se vuelve mecánica. Afirmar que «el usuario decide» describe una interfaz, no una garantía.

El espejismo del control manual

El traslado de ese hallazgo al terreno de la comunicación empresarial es directo. Un correo no es una tarea técnica neutra: es un acto que compromete a una organización frente a clientes, socios o autoridades. Si un modelo con acceso a la bandeja de entrada responde con un tono inapropiado, filtra un dato sensible o acepta una condición comercial que nadie revisó, la responsabilidad no se diluye en la nube. Cae entera sobre el titular de la cuenta y sobre la empresa que decidió ceder esa autonomía.

Y aquí aparece el espejismo más peligroso: creer que porque una acción puede revertirse, no tiene consecuencias. Lo que la automatización de la comunicación introduce no es el riesgo del error técnico, sino el riesgo del error silencioso. El mensaje que la IA envió a las 3 de la madrugada, con un matiz equivocado, difícilmente se recupera cuando el destinatario ya lo leyó, lo reenvió o tomó una decisión a partir de él.

Responsabilidad sin dueño

El debate ético, entonces, no gira en torno a si conviene automatizar procesos. Gira en torno a quién responde cuando la autonomía falla, y bajo qué reglas se audita. La UNESCO, en su Recomendación sobre la Ética de la Inteligencia Artificial, subraya que la transparencia y la rendición de cuentas no pueden quedar subordinadas a la eficiencia. Pero esos principios son voluntarios, y en América Latina no existen marcos regulatorios maduros para exigirlos.

Mientras tanto, el ejecutivo local recibe un asistente que, configurado de cierta manera, puede comunicarse en su nombre sin que nadie revise cada envío. La decisión de usarlo suele presentarse como una cuestión de confianza en la herramienta. En realidad, es una decisión sobre qué controles está dispuesta a sostener la organización frente a una tecnología cuya toma de decisiones, aunque mejorable, ya supera en consistencia a la de un humano fatigado.

La próxima vez que una máquina responda un correo por usted, pregúntese: ¿aceptaría que un empleado, al que nadie supervisa, hable en nombre de la empresa con esa libertad? Si la respuesta es no, el problema no es la IA. Es la arquitectura de responsabilidad que su organización todavía no ha construido.