Los números que explican por qué OpenAI hizo su propio chip

Los costos de infraestructura son el mayor desafío financiero de OpenAI. Mantener ChatGPT operativo el año pasado costó US$8.400 millones. Con 900 millones de usuarios semanales, esa cifra se proyecta en US$14.000 millones para 2025. A largo plazo, la empresa ha comprometido cerca de US$1,4 billones en potencia de cómputo durante los próximos ocho años. Frente a ese panorama, OpenAI decidió dejar de depender exclusivamente de hardware de terceros.

El resultado es el chip Jalapeño, un circuito integrado de aplicación específica (ASIC) diseñado en conjunto con Broadcom. A diferencia de los aceleradores de propósito general que dominan el mercado, este procesador está optimizado exclusivamente para inferencia de modelos de lenguaje. OpenAI proporcionó la arquitectura base según sus hojas de ruta de modelos, mientras Broadcom se encargó de la ingeniería del silicio y la integración de redes de alto rendimiento. TSMC fabrica los chips en Taiwán y Celestica construye los sistemas de tarjetas y racks.

La clave del diseño es minimizar el movimiento de datos. Richard Ho, responsable del programa de hardware de OpenAI, explicó que la arquitectura balancea recursos de cómputo, memoria y red para resolver los cuellos de botella que surgen en la interacción con modelos de lenguaje en tiempo real. Para escalar, el chip integra la red Tomahawk de Broadcom, permitiendo comunicación eficiente entre procesadores en centros de datos masivos.

Con este movimiento, OpenAI deja de ser solo una capa de software y se convierte en una empresa de infraestructura verticalmente integrada. El modelo recuerda a Apple: controlar el hardware y el software permite optimizar todo el pipeline, desde los kernels hasta la aplicación final. Esta integración crea un círculo virtuoso: una infraestructura más eficiente reduce los costos de entrenamiento y servido, lo que permite productos más rápidos y económicos, atrayendo más usuarios e ingresos que se reinvierten en la siguiente generación de hardware.

Sin embargo, OpenAI llega tarde a esta carrera. Google comenzó a desplegar sus TPUs en 2015 y hoy controla cerca del 25% de la capacidad de cómputo global fuera de Nvidia. Amazon ha enviado más de un millón de chips propios, y Meta y Microsoft también escalan su infraestructura. Para acortar esa brecha, OpenAI aceleró el desarrollo: el chip Jalapeño pasó del diseño en blanco a la etapa de tape-out —el paso previo a la producción física— en solo nueve meses. Los equipos de ingeniería utilizaron los propios modelos de lenguaje de OpenAI para automatizar partes del proceso de diseño.

El despliegue inicial en centros de datos está previsto para finales de 2026, y se escalará junto con socios como Microsoft. Si el chip cumple su promesa, podría redefinir la economía de la inferencia de modelos de lenguaje. Para cualquier empresa que dependa de LLMs, la lección es clara: la integración vertical puede ser el camino para reducir costos y ganar eficiencia, pero implica una inversión y un plazo que no todas pueden asumir.