Anthropic frena el uso de Claude para crear armas biológicas

Anthropic, la compañía detrás del asistente de IA Claude, ha vuelto a poner sobre la mesa uno de los escenarios más incómodos para la industria: que sus propios modelos se conviertan en un atajo para investigaciones que rozan o cruzan la línea de las armas biológicas. En lo que va del año, la empresa asegura haber detectado y frenado al menos cinco intentos de científicos de usar su IA para ese tipo de trabajos, y cuatro de ellos tuvieron algún tipo de vínculo con organismos estatales que Anthropic prefirió no identificar. El dato no es anecdótico y fue publicado en el informe 'Detectar y combatir el mal uso de la IA'.

Cinco intentos con un mismo patrón

Los ejemplos que la compañía decidió compartir revelan un patrón: los usuarios presentaban solicitudes de financiamiento con apariencia legítima, pero detrás escondían objetivos que buscaban hacer más dañinos a patógenos conocidos. En uno de los casos, un grupo dijo estar investigando el virus del chikunguña, una enfermedad transmitida por mosquitos que la OMS describe como causante de fiebre y un dolor articular incapacitante que puede durar meses. El objetivo declarado era "identificar mutaciones potenciadoras" del virus, convertirlas en clones infecciosos y seleccionar las variantes más virulentas "in vivo". La subvención estaba orientada a crear un virus que se volviera progresivamente más dañino en cada ciclo de infección en animales, y las variantes más patógenas serían conservadas.

La pieza que terminó de encender las alarmas de Anthropic fue una que aparecía en el propio formulario: los científicos se presentaban como personal civil, pero los hallazgos serían reproducidos en un laboratorio militar. Eso condujo al bloqueo de la cuenta. No es el único frente que la empresa ha tenido que vigilar: también constató intentos de usar Claude para estudiar venenos no contagiosos, y otras iniciativas con fines menos sospechosos, como investigar el virus de la viruela o la adaptación de la gripe aviar a mamíferos.

Un precedente que expone los vacíos regulatorios de la región

Lo importante del caso no es únicamente que Anthropic haya reaccionado bien, sino que la reacción fue corporativa y no institucional. No existió una autoridad que ordenara bloquear las cuentas: fue la propia compañía, mediante sistemas de revisión internos, la que identificó el patrón de "obfuscación"—ocultar deliberadamente el propósito real de un experimento—y cortó el acceso.

Para América Latina, donde países como Brasil, México, Chile y Colombia avanzan a distintas velocidades en marcos de regulación de IA, este episodio funciona como un recordatorio de que la discusión sobre modelos de lenguaje no puede quedarse en derechos de autor, transparencia o protección de datos. La IA aplicada a la biotecnología abre una dimensión de seguridad mucho más delicada: los mismos modelos que ayudan a un estudiante a resolver proteínas o a un laboratorio a analizar genomas pueden ser guiados por actores malintencionados hacia el diseño de patógenos.

En la región confluyen dos condiciones que hacen el riesgo más relevante: hay un ecosistema científico emergente con laboratorios que ya adoptan herramientas de IA generativa para investigación biomédica, y hay marcos regulatorios de bioseguridad que no fueron diseñados para contemplar la posibilidad de que un investigador tercerice el diseño de un experimento peligroso en un modelo comercial como Claude. La pregunta entonces es práctica: ¿los centros de investigación están contando con los mecanismos de revisión de las plataformas de IA como parte de su protocolo de bioseguridad?

Qué pueden hacer los centros de investigación latinoamericanos

Los antecedentes publicados por Anthropic muestran que las salvaguardas existen y funcionan, pero dependen de la voluntad de una empresa que puede decidir en qué casos interviene. Para un laboratorio farmacéutico, una universidad o una empresa de biotecnología en América Latina, la recomendación operativa pasa por integrar el uso de IA en los procesos de revisión ética y de bioseguridad: registrar qué modelos se utilizan en la etapa de diseño experimental, exigir políticas claras de uso seguro a los proveedores y participar en la construcción de estándares regionales de control de usos duales.

La convergencia entre IA y biología avanzada no es un problema del futuro; es una realidad que ya está llegando a la región vía APIs, cuentas empresariales y proyectos de colaboración internacional. La buena noticia es que todavía hay margen para actuar antes de que ocurra un incidente mayor. La pregunta que deberían estar haciéndose los responsables de política científica y los directivos de compañías biofarmacéuticas es si quieren seguir confiando en que las empresas de IA detectarán a tiempo todos los abusos, o si prefieren construir capacidades propias de supervisión antes de que un laboratorio regional se convierta en el próximo caso en el informe de otra compañía.