El consenso en Wall Street ya no premia al que entrena el modelo más grande, sino al que hace rendir cada dólar en inferencia. Goldman Sachs detecta que las empresas intensivas en IA consumen tres veces más tokens que la media, y UBS confirma que el 60 % de las organizaciones ya impone topes de gasto. Un solo empleado llegó a generar 35.000 USD mensuales en tokens; equipos enteros superan entre un 100 % y un 200 % sus límites semanales. La métrica técnica se volvió gasto operativo que vigilan los directores financieros.
El coste invisible de la IA agéntica
Un agente no responde: razona, busca, usa herramientas, verifica y actúa. Cada paso consume tokens y el contexto se recicla, multiplicando el consumo hasta completar la tarea. En España, el 81 % de las empresas ya invierte en agentes, pero solo el 23 % logra retorno en múltiples casos según KPMG. La brecha no está en el precio del modelo ni en la infraestructura, sino en cómo los agentes descubren información fragmentada entre lakehouses, SaaS, ERPs y APIs con esquemas y definiciones distintas. Cada búsqueda fallida, cada registro en bruto que llega al contexto, cada corrección por ambigüedad semántica —"cliente activo", "ingresos netos", "exposición al riesgo"— quema tokens sin generar valor.
La solución técnica que emerge es un agente especializado en datos que devuelva resultados compactos, gobernados y semánticamente unificados al agente de proceso. Así el modelo recibe solo lo necesario, con filtros, agregaciones y políticas de privacidad aplicadas antes de tocar el LLM. El coste queda ligado a respuestas útiles, no a intentos fallidos.
Despliegue local: la alternativa que gana tracción
Mientras la nube factura por token, el despliegue local convierte el coste variable en inversión fija de hardware. Investigadores de dermatología en EE. UU. cuantifican que estaciones de trabajo capaces de correr modelos de 14 a 33 mil millones de parámetros —Llama 4, Qwen 3, Mistral Large 3— cuestan aproximadamente lo mismo que 1 o 2 años de suscripciones empresariales en la nube. La compresión (cuantización INT4, poda estructurada, destilación) y arquitecturas mixture-of-experts han bajado el umbral: Qwen 3 activa solo 22.000 millones de sus 235.000 millones totales; Llama 4 cabe en una GPU con 17.000 millones activos.
Zoho lleva años defendiendo que la IA empresarial no es "solo LLM masivo": prioriza coste y protección de datos. Su apuesta coincide con la evidencia médica: el control institucional de imágenes clínicas, la independencia de ciclos de deprecación de proveedores y la capacidad de auditar y afinar modelos para cerrar brechas documentadas —en dermatología, el rendimiento en pieles oscuras— son ventajas que la nube no garantiza.
Modelos abiertos y presión competitiva desde China
DeepSeek, Alibaba (Qwen) y Tencent publican pesos abiertos bajo licencias permisivas (Apache 2.0, MIT). Eso rompe el poder de fijación de precios de los proveedores cerrados y acelera la estandarización: Hugging Face supera los 2,9 millones de modelos compartidos. Karl Freund (Cambrian-AI) lo resume: "Los modelos del futuro serán como los compiladores del pasado. Nadie gana dinero con los compiladores". El valor se desplaza a la capa de orquestación, datos y gobernanza —Salesforce, Microsoft, Palantir— y a quien integre IA en operaciones concretas.
La ecuación para la pyme latinoamericana
Según el paper del European Journal of Sustainable Development, la IA generativa democratiza acceso a analítica avanzada, contenidos y automatización para pymes, pero advierte: integración, formación, gobernanza de datos (GDPR/LGPD) y sesgo algorítmico son barreras reales. En LatAm, donde la pyme es el 99 % del tejido empresarial y los equipos de IT son inexistentes o mínimos, la dependencia de APIs cerradas expone a volatilidad de precios, soberanía de datos incierta y cumplimiento regulatorio fragmentado (LGPD en Brasil, Ley Federal de Protección de Datos en México, Ley 1581 en Colombia).
Los modelos abiertos, ejecutados en hardware propio o colocation regional, permiten a la pyme LatAm fijar su coste unitario de inferencia, mantener datos sensibles en jurisdicción y afinar modelos con sus propios datos sin enviarlos a terceros. El obstáculo no es técnico: es de conocimiento y de ecosistema de integradores que sepan armar la pila (hardware, cuantización, RAG, gobernanza, monitoreo de deriva).
Qué debe preguntarse el ejecutivo hoy
¿Cuánto cuesta realmente cada decisión automatizada en tokens y USD? ¿Tiene visibilidad y control sobre qué datos salen de su perímetro en cada llamada a API? ¿Está construyendo capacidad interna de datos y gobernanza o solo comprando "magia" empaquetada? La era de la eficiencia no perdona a quien trata la IA como gasto de marketing; premia a quien la trata como cadena de suministro con coste unitario conocido, trazabilidad y soberanía.
