El 67% del presupuesto en infraestructura se va en servidores y almacenamiento

El costo oculto de la infraestructura

Dos de cada tres dólares que una empresa dedica a inteligencia artificial no terminan en modelos, talento ni software. Una encuesta de Wasabi Technologies reveló que el 67% del presupuesto de IA se consume en servidores, almacenamiento y redes. Mientras tanto, solo el 34% de las organizaciones reporta un retorno positivo de su inversión en IA. El resto espera recuperar el dinero en el próximo año, o simplemente no lo hará.

El problema no es solo el volumen de gasto, sino dónde se fuga. El 48% de los encuestados señaló el almacenamiento y el acceso a datos como el principal desafío al implementar IA. Seis de cada diez organizaciones reconocieron haber excedido su presupuesto de almacenamiento en la nube durante 2025. La facturación de servicios cloud se divide casi por la mitad: 50% corresponde al espacio contratado; el otro 49% se va en operaciones de API, consultas y transferencias. Para una empresa en América Latina, donde los costos de ancho de banda internacional y las tarifas de salida de datos son usualmente más altos que en Estados Unidos o Europa, esa segunda mitad puede ser particularmente dolorosa.

Detrás de cada proyecto de IA hay una cadena de decisiones técnicas que impactan directamente en el presupuesto. El 73% de las organizaciones ya opera con múltiples proveedores de almacenamiento en la nube (multicloud), y el 65% combina entornos on-premise con nube. La intención es evitar la dependencia de un solo vendedor y controlar costos, pero la complejidad de gestionar varios entornos suele generar sobrecostos imprevistos.

Un sistema como ChatGPT requiere miles de GPUs interconectadas, redes de alta velocidad y software de orquestación finamente ajustado. Para la empresa promedio, el error más común es sobredimensionar la capacidad de cómputo y descuidar el almacenamiento. Las GPU pueden estar infrautilizadas, pero los costos de datos siguen creciendo porque los pipelines de entrenamiento e inferencia generan volúmenes masivos de información.

Además, más de la mitad de las organizaciones reconoce que entre el 25% y el 74% de sus datos almacenados son "dark data": información que no se utiliza para análisis ni toma de decisiones. El 95% de los encuestados dijo que analizar y aprovechar esos datos es una prioridad. Es decir, las empresas ya tienen la materia prima para innovar sin incurrir en costos adicionales de almacenamiento, si logran activarla.

Qué deben revisar las empresas latinoamericanas

La lección para un CTO o CIO de la región es que el control del presupuesto de IA empieza por auditar el almacenamiento y la transferencia de datos. No basta con negociar descuentos en GPUs o suscripciones a modelos. Hay que medir cuánto se gasta en operaciones de datos, qué proporción del presupuesto de infraestructura corresponde a costos fijos de almacenamiento versus costos variables de acceso, y si los datos acumulados realmente se están utilizando para entrenar o inferir.

Prácticas como la adopción de arquitecturas híbridas o multicloud pueden ayudar, pero requieren gobernanza. Se recomienda comenzar con proyectos piloto pequeños, establecer métricas claras de utilización de GPU y aplicar principios de gestión de costos para monitorear el gasto en la nube. En la región, donde el acceso a divisas y la volatilidad cambiaria pueden encarecer las suscripciones internacionales, optimizar el uso de la infraestructura no es un lujo: es una condición para que la IA sea sostenible.

La inversión en IA ya no compra solo inteligencia; compra control. Las empresas que no logren dominar los costos de infraestructura terminarán con modelos potentes que nunca justificarán su inversión. La pregunta que cada líder de TI en América Latina debería hacerse no es cuánto está gastando en IA, sino cuánto de ese gasto está realmente habilitando decisiones de negocio y cuánto se está evaporando en tuberías de datos mal diseñadas.