Players Laboratorios de frontera ocultan sus modelos y Latinoamérica asume el riesgo
Los grandes laboratorios de IA ocultan qué construyen y qué riesgos entrañan. Para empresas latinoamericanas, eso significa adoptar modelos ciegos, bajo regulaciones ajenas y con vulnerabilidades de privacidad probadas.
En una sala de conferencias del All In Summit, Russell Brandom presionó a Michael Rabbat, cofundador de AMI Labs, para que explicara qué producto real está construyendo la empresa de Yann LeCun. La respuesta fue un manual de evasiva corporativa: "Hablaremos cuando estemos listos". Meses después, por correo, la misma frase con más palabras: aún están en "fase de investigación y construcción".
Ese silencio no es exclusivo de AMI. Fei-Fei Li’s World Labs muestra demos de Marble —entornos explorables para videojuegos, efectos visuales, robótica— pero su plataforma parece diseñada para demostrar capacidad, no para lanzar producto. Alex de Vigan, CEO de Physicl, proveedor de datos para estos laboratorios, lo resume con frustración: "Ojalá nos dijeran más. Podríamos construir datos más útiles si supiéramos en qué trabajan" TechCrunch.
La opacidad es estrategia. Brandom la compara con la hipótesis del bosque oscuro: si no sabes quién más está en el bosque, lo último que haces es encender una linterna. Mientras el capital fluya sin exigir hoja de ruta, los laboratorios ganan tiempo. Pero ese tiempo se paga con asimetría de información.
Esa asimetría no se queda en los world models. El último Risk Report de Anthropic —180 páginas que evalúan riesgos catastróficos de sus modelos internos Mythos 5, Fable 5, Opus 4.8— revela que la propia empresa detecta "fallos en procesos de seguridad" como entrenamiento accidental con datos de alineación falsa, exposición de razonamiento encadenado a presión de evaluación, y agentes sin monitoreo con acceso a recursos sensibles Anthropic Risk Report. El mismo informe admite que la destilación de modelos acelera la proliferación de capacidades peligrosas fuera de su control.
Paralelamente, un benchmark académico recién publicado prueba 27 modelos visión-lenguaje —25 open source, 2 cerrados— contra 31.962 muestras de privacidad personal, secretos industriales y secretos de Estado. Resultado: todos presentan "alto riesgo de filtraciones", con vulnerabilidades que varían por categoría IEEE Multi-PA.
Esa ironía cierra el círculo: investigadores de Hacktron usaron Claude Opus 4.8 de Anthropic para infiltrarse en el monorepo de OpenAI en 72 horas, vía un foro Discourse de terceros Buttondown. La herramienta de un rival rompe la fortaleza del otro.
Qué significa para un ejecutivo en São Paulo, Ciudad de México o Bogotá
Primero: adopción a ciegas. Las empresas latinoamericanas integran APIs de OpenAI, Anthropic, Google o Meta sin acceso a los reportes de riesgo internos, sin conocer la cadena de suministro de datos, sin poder auditar qué capacidades latentes tiene el modelo que están poniendo en producción.
Segundo: regulación importada. California impulsa un "kill switch" obligatorio para modelos de frontera y auditorías externas; Virginia frena data centers por presión comunitaria; la UE avanza en su AI Act. En la región, Brasil discute su marco regulatorio, Chile actualiza su ley de datos, México carece de legislación específica. La fragmentación obliga a los equipos legales a navegar un mapa normativo en movimiento sin autoridad local que sienta precedentes.
Tercero: privacidad como pasivo oculto. El benchmark Multi-PA demuestra que los modelos visión-lenguaje filtran datos sensibles por diseño. Un banco en Bogotá que use un LVLM para análisis de documentos KYC, o una clínica en Santiago que procese historiales médicos con IA multimodal, está exponiendo información que el modelo no fue diseñado para proteger.
Cuarto: dependencia de proveedores que compiten entre sí. El hackeo de OpenAI vía Claude no es anécdota: confirma que la cadena de suministro de IA es un campo de batalla. Si Anthropic decide restringir acceso a sus modelos más potentes por seguridad —como sugiere su propio informe—, las startups latinoamericanas que construyeron sobre esa API pierden su motor sin alternativa viable.
El vacío que nadie llena
Dario Amodei propone "moderar la frontera" con evaluadores externos en laboratorios, coordinación entre empresas democráticas y acuerdos internacionales Le Grand Continent. Jonathan Kanter, exjefe antimonopolio de EE. UU., advierte que esa coordinación puede ser un cartel disfrazado de seguridad. Mientras tanto, los laboratorios guardan secretos, los reguladores llegan tarde y los benchmarks académicos llegan después del despliegue.
Para América Latina, la lección no es esperar a que se aclare el panorama. Es exigir cláusulas de transparencia en contratos enterprise, demandar auditorías independientes antes de poner modelos en producción crítica, y construir capacidad técnica local para evaluar riesgos que los proveedores no documentan. El bosque oscuro no se ilumina solo.
