Opinión ZML: la llave que abre la inferencia a cualquier chip
La startup francesa ZML lanza un servidor de inferencia gratuito que corre sobre GPUs de Nvidia, AMD, Intel, Google TPU y Apple Metal. Para América Latina, es la oportunidad de romper la dependencia de un solo proveedor y abaratar la adopción de IA.
El fin de la dependencia de un solo chip
Durante años, la inteligencia artificial en producción ha tenido un cuello de botella claro: la inferencia. Ejecutar modelos entrenados requiere hardware específico, y en la práctica eso ha significado una dependencia casi total de los GPU de Nvidia. Las empresas latinoamericanas lo saben bien: cuando el costo de una hora de inferencia en la nube se factura en dólares y el acceso a chips de última generación es limitado, escalar se vuelve una ecuación difícil de sostener.
Contra ese escenario llega ZML, una startup francesa respaldada por el premio Turing Yann LeCun y liderada por Steeve Morin, exvicepresidente de ingeniería en Zenly (adquirida por Snapchat). Su producto, ZML/LLMD, es un servidor de inferencia gratuito que compila modelos de lenguaje directamente sobre el metal de cualquier acelerador: desde los GPU de Nvidia y AMD hasta los TPU de Google, los procesadores Apple Metal y las tarjetas Intel Arc. La promesa es clara: un mismo modelo corre a máxima velocidad sobre hardware diverso sin capas de abstracción que degraden el rendimiento.
Morin lo plantea como una cuestión de soberanía tecnológica: “La idea es devolver a los usuarios el poder de crear su propio sistema y lograr verdaderas ganancias de eficiencia que permitan diseminar la IA”. La apuesta de ZML va más allá del software. Con solo 20 empleados y 20 millones de dólares recaudados de fondos como 20VC, LocalGlobe y el fondo de Xavier Niel, la empresa ya coopera con fabricantes emergentes de chips —Axelera, Fractile, Kalray, entre otros— en el codiseño de silicio. Es decir, no solo optimiza la inferencia en hardware existente, sino que moldea el futuro del hardware.
Lo que América Latina debe hacer ahora
Para los ejecutivos de tecnología en la región, ZML/LLMD abre una ventana estratégica que no se veía desde la irrupción del cloud computing. Ejecutar modelos de lenguaje en hardware de AMD, Intel o incluso en TPU de Google sin reescribir código significa que la barrera de entrada a la inferencia de IA se reduce drásticamente. Los proveedores de cloud regionales —en Brasil, México o Chile— podrían integrar servidores de inferencia con chips alternativos y ofrecer precios competitivos, sin depender de la factura en dólares de los grandes hiperescaladores.
Además, el modelo de negocio de ZML es deliberadamente paciente: el software es gratuito, sin fecha de monetización definida. “Prefiero medir y luego generar ingresos donde sea más efectivo, sin obstaculizar mi crecimiento”, explica Morin. Para startups latinoamericanas que necesitan validar aplicaciones de IA sin comprometer presupuestos, esto es una invitación a experimentar sin riesgo financiero inmediato.
Sin embargo, la oportunidad no está exenta de desafíos. El éxito de ZML depende de la confianza en software open-source y de la capacidad de la región para formar talento capaz de adaptar y optimizar estas herramientas. Además, Nvidia no es un adversario; la startup mantiene una buena relación con el gigante y reconoce su ventaja en disponibilidad. Pero la existencia de una alternativa real de software acelera la adopción de chips más baratos o eficientes, especialmente en mercados donde el costo de infraestructura es una barrera.
América Latina ha sido históricamente importadora de tecnología. ZML ofrece una oportunidad de cambiar esa dinámica, de construir soberanía tecnológica sobre software abierto y hardware diverso. La pregunta es si los ejecutivos de la región tendrán la visión y la urgencia para capitalizarla antes de que el monopolio se reconfigura en otros términos.
