GPT-5.6 Sol 14 veces más rápido con Cerebras, mientras creadores piden límites

OpenAI y Google han convertido la velocidad de inferencia en su principal argumento de venta, pero al mismo tiempo, cientos de empleados de estas mismas empresas piden frenar el desarrollo para evitar perder el control de la tecnología. La paradoja define el momento actual de la inteligencia artificial: un mercado que corre hacia la inmediatez mientras sus propios creadores alertan sobre los riesgos de una aceleración sin frenos.

OpenAI presentó el modo 'Ultrafast' para su modelo GPT-5.6 Sol, capaz de generar hasta 750 tokens por segundo, lo que representa una velocidad hasta 14 veces mayor que el procesamiento estándar. La compañía lo logró en alianza con Cerebras, fabricante de chips especializados en inferencia de latencia ultrabaja. La propuesta es clara: eliminar el dilema entre usar un modelo pequeño y rápido o uno grande y capaz. Según OpenAI, 'Ultrafast apunta a un progreso en una nueva dirección: más trabajo útil por segundo'.

Google, por su parte, lanzó Gemini 3.7 Flash, su modelo más rápido para programación y agentes autónomos. La competencia por reducir la latencia al mínimo se intensifica, y promete aplicaciones en tiempo real como respuesta a incidentes de ciberseguridad, análisis financiero al instante o asistentes conversacionales sin demora perceptible.

Sin embargo, mientras los laboratorios compiten por ofrecer la respuesta más veloz, más de mil empleados de OpenAI, Anthropic y Google firmaron un manifiesto dirigido al gobierno de Estados Unidos en el que piden 'marcar el ritmo de forma deliberada' del desarrollo de la IA. Argumentan que la proximidad de la automatización de la investigación podría llevar a perder el control de la tecnología. Piden desarrollar herramientas de seguridad y fortalecer la supervisión antes de que sea demasiado tarde.

Sam Altman, CEO de OpenAI, no firmó el documento, aunque reconoció en un podcast que 'quizás tengamos que moderar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad para que se adapte'. Pero advirtió que no quiere que ese freno parezca una captura regulatoria que concentre el poder en unos pocos laboratorios.

Para las empresas latinoamericanas, esta tensión se traduce en decisiones concretas. Por un lado, la promesa de modelos más rápidos abre la puerta a aplicaciones que antes eran inviables por la latencia: chatbots para atención al cliente que respondan en fracciones de segundo, análisis de mercado en vivo o sistemas de detección de fraudes bancarios operando en tiempo real. Por otro lado, la dependencia de infraestructura de cómputo de alto rendimiento —como los chips de Cerebras o los clústeres de GPUs— implica costos que aún son prohibitivos para la mayoría de las empresas de la región.

Aquí surge un riesgo concreto para los CTOs y líderes de tecnología en startups: no dejarse seducir por la velocidad máxima si el caso de uso no lo requiere. El paper 'Inference economics of language models' de Epoch muestra que existe una frontera de Pareto entre velocidad serial y costo por token. Aumentar la velocidad drásticamente puede implicar multiplicar el número de GPUs por instancia, lo que eleva el costo sin mejorar necesariamente la experiencia del usuario final si la aplicación no es sensible a la latencia.

Además, el riesgo de que una regulación apresurada —motivada por los temores de seguridad— termine encareciendo aún más el acceso a estos modelos es real. La administración estadounidense ya estudia prohibir componentes ópticos chinos para centros de datos, lo que podría generar cuellos de botella en la oferta de transceptores y retrasar la construcción de infraestructura en todo el mundo, incluyendo América Latina.

La lección para el ecosistema latinoamericano es doble: adoptar velocidad donde realmente agregue valor, pero sin ignorar que el ritmo del desarrollo tecnológico está generando un debate global sobre seguridad y equidad que terminará afectando los costos y la disponibilidad de los modelos en la región.