IA hoy Claude Code detecta el 89% de acciones peligrosas con su clasificador
Anthropic convierte en predeterminado el modo automático de su agente de código, donde la IA decide qué comandos ejecutar sin consultar. Un experimento revela que detecta el 89% de acciones peligrosas frente al 13% humano. La decisión obliga a repensar cómo las empresas latinoamericanas gestionan el riesgo al delegar tareas a agentes autónomos.
A partir del 14 de agosto, los usuarios de Claude Code en los planes Pro, Max y Team se encontrarán con un cambio silencioso pero profundo: el agente de programación ya no les preguntará antes de ejecutar cada comando. Anthropic ha convertido en predeterminado el "auto mode", un sistema en el que un clasificador de machine learning decide en tiempo real si una acción es segura o debe bloquearse.
La decisión responde a un problema que la propia compañía documenta: los desarrolladores aprueban el 97% de las solicitudes de permiso individuales, lo que sugiere que el mecanismo de confirmación se ha vuelto automático y, por tanto, ineficaz.
Los números respaldan el cambio. En un experimento controlado con 1.053 desarrolladores remunerados, el clasificador bloqueó el 89% de los comandos peligrosos insertados en el flujo de trabajo. Los humanos, en cambio, solo rechazaron el 13,6%. Más revelador aún: a medida que la sesión se alargaba —tras 50 confirmaciones— la tasa de detección humana caía al 5%, mientras que el clasificador se mantenía constante.
Seguridad por capas, no por confianza ciega
El auto mode no es un permiso total. El clasificador evalúa cada invocación de herramienta antes de ejecutarse y bloquea operaciones destructivas —borrado masivo de archivos, exfiltración de datos, ejecución de código malicioso—. Cuando detecta un riesgo, el agente busca una alternativa segura o pide confirmación al usuario. Si el bloqueo se repite tres veces seguidas o veinte en una sesión, el sistema retrocede automáticamente al modo manual.
Anthropic advierte que el clasificador no es infalible: puede dejar pasar acciones ambiguas o bloquear operaciones benignas. Por eso recomienda no usar el modo automático en entornos productivos sin supervisión adicional. Las pruebas de seguridad encargadas a Apollo Research y Trajectory Labs mostraron cero ataques exitosos de inyección indirecta de prompts sobre Claude Code con auto mode, frente a tasas de éxito del 5,8% y 19% en competidores como Codex.
El contrapunto de Microsoft: control granular para infraestructura crítica
Mientras Anthropic apuesta por delegar la decisión al clasificador, Microsoft ha publicado un modelo de control de acceso descentralizado para agentes de IA en infraestructura crítica. En un artículo académico, los ingenieros de Azure describen un sistema de cinco capas jerárquicas que va desde permisos globales hasta restricciones por parámetro, con políticas definidas por cada equipo propietario de una herramienta. El resultado: cero operaciones de escritura no autorizadas en ocho meses de producción, gestionando más de veinte agentes especializados.
La diferencia de enfoque es estratégica. Anthropic optimiza para la velocidad del desarrollador individual; Microsoft para la contención de riesgos en entornos donde un comando equivocado puede tumbar centros de datos. Para una empresa latinoamericana que evalúe adoptar agentes de código, la decisión no es trivial: el auto mode reduce la fricción y acelera la entrega, pero exige confiar en un clasificador entrenado con datos globales que quizá no capture particularidades de infraestructuras locales o normativas sectoriales.
Implicaciones para América Latina
En la región, donde la madurez en gobierno de IA aún se consolida, la llegada del auto mode plantea una disyuntiva concreta para los líderes de tecnología y compliance. Por un lado, la herramienta puede duplicar la productividad de equipos pequeños sin necesidad de supervisión constante —un alivio en startups con recursos limitados—. Por el otro, la ausencia de un "humano en el circuito" para cada acción choca con frameworks como los principios de OECD sobre IA responsable, que exigen rendición de cuentas trazables.
Anthropic ofrece una salida: los administradores pueden deshabilitar el auto mode o fijar el modo manual mediante configuraciones gestionadas. Pero la tentación de dejarlo activado será alta, sobre todo cuando los datos muestran que los equipos que lo usan generan un 25% más de pull requests. La recomendación para empresas latinoamericanas es no ceder a la inercia: definir primero qué operaciones son críticas —bases de datos de clientes, despliegues en producción— y reservar el auto mode para tareas aisladas o entornos de prueba, al menos hasta que el clasificador demuestre su eficacia en el contexto local.
