Aumento del 89% en cómputo de modelos generativos amenaza la innovación en Latinoamérica

Los departamentos de tecnología en toda Latinoamérica están viviendo un déjà vu incómodo: el mismo entusiasmo con el que adoptaron la nube pública hace una década se topa ahora con una factura que crece más rápido que los ingresos. Pero esta vez el escalador de costos tiene nombre propio: la inteligencia artificial generativa.

Un informe del Institute for Business Value (IBV) de IBM revela que el costo promedio de cómputo empresarial aumentará un 89% entre 2023 y 2025, y siete de cada diez ejecutivos señalan a la IA generativa como el principal motor de esa suba. El impacto ya es concreto: según el estudio, todas las organizaciones encuestadas han cancelado o postergado al menos una iniciativa de IA generativa por preocupaciones presupuestarias.

Para las empresas latinoamericanas, donde los márgenes suelen ser más ajustados y la infraestructura de nube no siempre cuenta con las mismas economías de escala que en Estados Unidos o Europa, esta presión financiera puede frenar proyectos antes de que salgan del piloto. "En este momento muchas organizaciones están en fase de experimentación", explica Jacob Dencik, director de investigación del IBV, en declaraciones recogidas por IBM. "El costo de la informática será una cuestión clave, ya que puede suponer un obstáculo para ampliar la IA con éxito".

La ecuación que nadie quiere ignorar

El problema no es solo el entrenamiento de modelos grandes —esa parte la pagan principalmente los proveedores— sino la inferencia repetida. Cada consulta a un modelo de lenguaje grande (LLM) consume GPU durante fracciones de segundo que, al multiplicarse por miles de llamadas diarias, explotan el presupuesto de nube. Adnan Masood, Arquitecto Jefe de IA en UST, lo describe como un "punto de inflexión estratégico donde la innovación conlleva un riesgo financiero considerable".

Las estrategias para contener el costo existen, y varias son particularmente relevantes para la realidad regional. La primera es la arquitectura híbrida. Dencik señala que "la nube híbrida se convierte en un mecanismo para gestionar los costos informáticos, al permitir ejecutar datos, cargas de trabajo y aplicaciones en los entornos de menor costo".

Otra vía es la selección inteligente de modelos. "No es necesario usar modelos de lenguaje grande para todo", advierte Dencik. Un modelo pequeño entrenado con datos de alta calidad puede lograr el mismo resultado a una fracción del costo. En América Latina, donde los datos suelen estar menos centralizados, esta estrategia permite personalizar soluciones sin depender de los modelos más pesados del mercado. La técnica de enrutamiento LLM —dirigir cada consulta al modelo más adecuado según su complejidad— también está ganando tracción.

Eficiencia como ventaja competitiva

Más allá de recortar gastos, hay un ángulo de productividad. La propia IA generativa puede ayudar a reducir el consumo: optimizar el código de las aplicaciones para que requieran menos energía, o mejorar el diseño de los centros de datos. "Hay estimaciones que sugieren que se puede reducir el consumo energético de una aplicación hasta en un 50% cambiando a un lenguaje de codificación mejor y a un código más eficiente", apunta Dencik.

Para el ejecutivo latinoamericano, la lección es doble. Primero, el costo de cómputo debe aparecer desde el día uno en el business case de cualquier proyecto de IA, no como un cargo sorpresa. Segundo, la eficiencia no es un lujo: es el habilitador que permite escalar sin que el CFO ponga el grito en el cielo. En economías donde la inversión en TI compite con prioridades sociales urgentes, cada dólar de computación bien gastado cuenta.

El informe de IBV concluye que "los CEO que mejor gestionen estos costos podrán dirigir su negocio como una máquina de alto rendimiento". Para un CIO en México, Brasil o Argentina, la pregunta no es si la IA llegó para quedarse, sino cómo escalarla sin que el costo se convierta en la excusa para no haberlo intentado.