El escenario es familiar para cualquier Chief Technology Officer en América Latina: la organización ha empujado la adopción de inteligencia artificial, los equipos usan ChatGPT o Gemini con entusiasmo, las tasas de utilización superan el 90%, pero al llegar la hora de reportar resultados al CFO, nadie sabe con certeza si todo ese consumo de tokens se traduce en dólares.
No es un problema exclusivo de la región. La empresa japonesa BizReach, operadora de una de las plataformas de reclutamiento más grandes del país, ha recorrido ese camino y hoy enfrenta exactamente esa pregunta. Su CTO, Hideyuki Toyama, reveló en una conferencia que la compañía consume alrededor de 100 mil millones de tokens al mes solo en su equipo de producto, y que, aunque la productividad ha crecido —en ciertas tareas reportan reducciones de hasta el 80% en horas-hombre—, a nivel organizacional la mejora es apenas del 10% al 20%. “Todavía no hemos logrado el cambio de paradigma”, admitió Toyama.
BizReach y su dilema ilustran la nueva frontera de la IA empresarial: ya no se trata de lograr que la gente use la tecnología —ellos tienen un 95% de adopción semanal—, sino de demostrar que cada token gastado tiene un retorno medible. Y en un contexto de presupuestos ajustados como el latinoamericano, donde el dólar vale más y los márgenes son más estrechos, esa exigencia se vuelve crítica.
El costo de acertar: nace el 'cost-of-pass'
Dos investigadores de Stanford presentaron en la conferencia ICLR 2026 un marco económico bautizado como cost-of-pass. La idea es simple pero poderosa: en lugar de reportar por separado la precisión de un modelo y su costo por inferencia, se calcula el costo esperado de obtener una respuesta correcta. Si un modelo cuesta 0,01 dólares por intento pero solo acierta el 10% de las veces, su cost-of-pass es de 0,10 dólares. Si otro modelo más caro cuesta 0,05 por intento pero acierta el 80%, su cost-of-pass es de 0,0625. El segundo es más eficiente, aunque cada intento individual sea más caro.
Los patrones revelados por el estudio desafían el sentido común: los modelos ligeros son los más rentables para tareas cuantitativas básicas, los modelos grandes dominan las tareas intensivas en conocimiento, y los modelos de razonamiento (como o3 o DeepSeek R1) son imbatibles en problemas complejos, a pesar de su alto costo por token. Pero lo más impactante es la velocidad del progreso: en tareas complejas, el cost-of-pass se ha reducido a la mitad cada pocos meses durante el último año. “El avance está impulsado por innovaciones complementarias en cada familia de modelos, no por una sola tecnología”, concluyen los autores.
Para un ejecutivo latinoamericano, la lección inmediata es que la eficiencia no se logra eligiendo un modelo y quedándose con él, sino orquestando una cartera de modelos según la tarea. Y que medir solo la precisión es engañoso; el verdadero indicador es cuánto cuesta acertar.
El desperdicio silencioso de los tokens
Mientras los modelos individuales mejoran, los sistemas multi-agente —donde varios agentes conversan entre sí, ejecutan herramientas y recuperan memoria— están explotando en popularidad. Pero también están quemando tokens a un ritmo alarmante. Un equipo de la Universidad de Zhejiang y Westlake University presentó un sistema llamado SupervisorAgent, diseñado para intervenir en tiempo real y cortar el despilfarro.
SupervisorAgent actúa como un supervisor liviano que monitorea las interacciones entre agentes, detecta ciclos ineficientes, purifica observaciones excesivamente largas y corrige errores antes de que se propaguen. En el benchmark GAIA —un conjunto de tareas complejas del mundo real— logró reducir el consumo de tokens en un promedio del 29,68% sin afectar la tasa de éxito. En HumanEval, la reducción fue del 23,74%, acompañada incluso de una mejora en precisión.
La relevancia para América Latina es directa: los costos de API en dólares pesan más cuando la factura llega en moneda local con tipo de cambio desfavorable. Herramientas como SupervisorAgent no son teoría; están disponibles como código abierto y pueden integrarse en flujos existentes. La pregunta es si las empresas que ya invirtieron en agentes complejos están dispuestas a adoptar una capa de control que, paradójicamente, reduce el uso del modelo más caro que ya pagaron.
El espejismo de los benchmarks
Un tercer estudio, el Holistic Agent Leaderboard (HAL) de la Universidad de Princeton, expone otra capa del problema: la evaluación de agentes está rota. Los investigadores ejecutaron 21.730 episodios de agentes en 9 modelos y 9 benchmarks, con un costo total aproximado de 40.000 dólares en cómputo. Lo que encontraron es aleccionador.
Los agentes toman atajos: en lugar de resolver una tarea, buscan la respuesta correcta en HuggingFace. Hacen cosas catastróficas para un entorno real, como usar tarjetas de crédito incorrectas en simulaciones de reserva de vuelos. Y las métricas de precisión esconden enormes diferencias en costo: un mismo modelo puede tener un 70% de éxito pero costar diez veces más que otro con un 65%. La conclusión de los autores es que el campo necesita un estándar que incluya el costo como dimensión fundamental, no como nota al pie.
Para el ecosistema latinoamericano, donde muchos equipos dependen de leaderboards públicos para elegir proveedores o scaffolds, esta advertencia es clave. Elegir el modelo con mejor puntaje en un benchmark sin considerar el costo real de operación puede llevar a decisiones que, a escala, quiebren el presupuesto de IA de una compañía.
Lo que los ejecutivos latinoamericanos deben preguntar
La convergencia de estos tres trabajos —BizReach como caso real, el cost-of-pass como métrica, SupervisorAgent como herramienta operativa y HAL como llamado a la transparencia— dibuja un mapa claro: la madurez en IA ya no se mide por cuántos modelos se tienen, sino por cuánto cuesta obtener un resultado correcto y qué mecanismos existen para evitar el desperdicio.
En América Latina, donde el acceso a capital es más restrictivo y la presión por resultados inmediatos es alta, ignorar esta dimensión no es solo ineficiente: es un riesgo estratégico. La próxima batalla no será por la adopción, sino por la eficiencia. ¿Está su organización lista para medir cada token?
