Negocios OpenAI lanza el chip Jalapeño, su primer procesador de inferencia diseñado con Broadcom
OpenAI presentó Jalapeño, su primer ASIC de inferencia, desarrollado junto a Broadcom. El chip promete mayor rendimiento por vatio y menores costos operativos, marcando un paso para reducir la dependencia de GPUs Nvidia.
OpenAI anunció este miércoles la puesta en marcha de Jalapeño, su primer procesador de inferencia fabricado por Broadcom bajo un acuerdo estratégico iniciado en octubre. El ASIC se diseñó exclusivamente para ejecutar los modelos de IA que la empresa despliega a los usuarios, con una arquitectura adaptada a las cargas de trabajo de inferencia.
Según la compañía, las pruebas preliminares del chip indican una mejora significativa en el rendimiento por vatio frente a las soluciones de GPU más avanzadas disponibles en el mercado. Aunque aún está en fase de validación, OpenAI destaca que el menor consumo energético se traduce en costos operativos más bajos, especialmente para aplicaciones de generación de código en tiempo real.
El desarrollo de Jalapeño responde a la necesidad de diversificar la infraestructura de cómputo. Hasta ahora, los entrenamientos de modelos de gran escala siguen confiando en GPUs de Nvidia, mientras que la inferencia –el proceso de responder a peticiones de los usuarios– busca una alternativa más eficiente. Empresas como Google y Amazon ya disponen de sus propios aceleradores AI; OpenAI ahora incorpora esa estrategia dentro de su propio stack tecnológico.
Greg Brockman, presidente de OpenAI, señaló en el podcast interno que el diseño del chip parte de un conocimiento profundo de sus flujos de trabajo. “Identificamos cargas que no estaban bien atendidas y preguntamos cómo crear un silicio que las acelerara”, explicó.
El anuncio incluye una visión más amplia de la arquitectura de OpenAI: la empresa no solo produce modelos de frontera, sino que también controla la infraestructura subyacente, que abarca arquitectura de chips, kernels, sistemas de memoria, redes y gestión de despliegues. Cada capa se optimiza para un objetivo común: acelerar los modelos, mejorar su disponibilidad y reducir el gasto para los usuarios.
Para un ejecutivo de tecnología, la introducción de Jalapeño plantea preguntas sobre la hoja de ruta de inversión en hardware propio. Evaluar la viabilidad de migrar cargas de inferencia a esta solución implica revisar la compatibilidad con la pila existente, estimar los ahorros energéticos frente a los costos de adquisición y planificar una fase de pruebas controlada antes de una adopción a gran escala.
Puntos a considerar
- Analizar el perfil de cargas de inferencia actuales y proyectar el impacto del menor consumo energético.
- Definir un plan piloto que incluya métricas de rendimiento por vatio y costos operativos.
- Coordinar con equipos de infraestructura para integrar los controladores y software de gestión del chip.
- Evaluar riesgos de dependencia de un único proveedor de silicona y mantener una estrategia de contingencia.
El movimientο de OpenAI hacia silicon custom podría presionar a los proveedores tradicionales y acelerar la adopción de soluciones de inferencia especializadas en el sector.
