Opinión Anthropic admite fallos de seguridad y Latinoamérica adopta sin auditoría
Los grandes laboratorios ocultan fallos de seguridad y privacidad mientras empresas de la región adoptan sus modelos sin auditoría. La asimetría de información se paga con exposición de datos sensibles y dependencia tecnológica.
En una conferencia del All In Summit, un periodista presionó al cofundador de AMI Labs —la empresa de Yann LeCun— para que explicara qué producto están construyendo. La respuesta fue un manual de evasiva corporativa: hablarán cuando estén listos. Meses después, por correo, la misma frase con más palabras. Ese silencio no es una excepción; es la estrategia dominante. Fei-Fei Li muestra demos de entornos explorables para videojuegos y robótica, pero su plataforma parece diseñada para demostrar capacidad, no para lanzar producto. Un proveedor de datos para estos laboratorios lo resume con frustración: ojalá nos dijeran más, podríamos construir datos útiles si supiéramos en qué trabajan.
La opacidad funciona como la hipótesis del bosque oscuro: si no sabes quién más está en el bosque, lo último que haces es encender una linterna. Mientras el capital fluya sin exigir hoja de ruta, los laboratorios ganan tiempo. Pero ese tiempo se paga con asimetría de información, y la factura la pagan los que adoptan a ciegas.
La evidencia que los laboratorios no quieren que veas
El último informe de riesgo de Anthropic —180 páginas evaluando sus modelos internos— admite fallos en procesos de seguridad: entrenamiento accidental con datos de alineación falsa, exposición de razonamiento encadenado bajo presión de evaluación, agentes sin monitoreo con acceso a recursos sensibles. El mismo documento reconoce que la destilación de modelos acelera la proliferación de capacidades peligrosas fuera de su control.
En paralelo, un benchmark académico probó 27 modelos visión-lenguaje contra casi 32.000 muestras de privacidad personal, secretos industriales y secretos de Estado. Resultado: todos presentan alto riesgo de filtraciones. La ironía cierra el círculo: investigadores usaron el modelo estrella de Anthropic para infiltrarse en el repositorio de OpenAI en 72 horas, vía un foro de terceros. La herramienta de un rival rompe la fortaleza del otro.
Qué significa para un ejecutivo en São Paulo, Ciudad de México o Bogotá
Primero: adopción a ciegas. Las empresas de la región integran APIs de OpenAI, Anthropic, Google o Meta sin acceso a los reportes de riesgo internos, sin conocer la cadena de suministro de datos, sin poder auditar qué capacidades latentes tiene el modelo que ponen en producción.
Segundo: regulación importada. California impulsa un interruptor de apagado obligatorio y auditorías externas; Virginia frena centros de datos por presión comunitaria; la UE avanza en su AI Act. En la región, Brasil discute su marco, Chile actualiza su ley de datos, México carece de legislación específica. La fragmentación obliga a los equipos legales a navegar un mapa normativo en movimiento sin autoridad local que siente precedentes.
Tercero: privacidad como pasivo oculto. El benchmark demuestra que los modelos visión-lenguaje filtran datos sensibles por diseño. Un banco en Bogotá que use uno para análisis de documentos KYC, o una clínica en Santiago que procese historiales médicos con IA multimodal, está exponiendo información que el modelo no fue diseñado para proteger.
Cuarto: dependencia de proveedores que compiten entre sí. El hackeo de OpenAI vía Claude confirma que la cadena de suministro de IA es un campo de batalla. Si Anthropic decide restringir acceso a sus modelos más potentes por seguridad —como sugiere su propio informe—, las startups latinoamericanas que construyeron sobre esa API pierden su motor sin alternativa viable.
El vacío que nadie llena
Dario Amodei propone moderar la frontera con evaluadores externos y acuerdos internacionales. Jonathan Kanter, exjefe antimonopolio de EE. UU., advierte que esa coordinación puede ser un cartel disfrazado de seguridad. Mientras tanto, los laboratorios guardan secretos, los reguladores llegan tarde y los benchmarks académicos llegan después del despliegue.
Para América Latina, la lección no es esperar a que se aclare el panorama. Es exigir cláusulas de transparencia en contratos enterprise, demandar auditorías independientes antes de poner modelos en producción crítica, y construir capacidad técnica local para evaluar riesgos que los proveedores no documentan. El bosque oscuro no se ilumina solo.
