Fujitsu lanza PHOTON, una arquitectura LLM 475× más eficiente en GPUs

Fujitsu anunció el desarrollo de PHOTON (Parallel Hierarchical Operation for Top‑down Networks), una arquitectura diseñada para ejecutar grandes modelos de lenguaje (LLM) con un número reducido de GPUs. Según la compañía, el rendimiento por GPU alcanza hasta 475 veces la capacidad de los sistemas basados en la arquitectura Transformer, que domina el mercado.

PHOTON se basa en dos mecanismos clave. Primero, procesa el texto en unidades de significado jerárquico en lugar de dividirlo en tokens individuales. Al agrupar palabras en bloques semánticos, reduce considerablemente la cantidad de cálculos de relaciones entre tokens que exige el Transformer clásico. Segundo, incorpora una tecnología de multi‑consulta que genera varias versiones de preguntas o respuestas y selecciona la mejor mediante votación o criterios de calidad, mejorando la estabilidad sin requerir más inferencias.

En pruebas internas, Fujitsu evaluó modelos de 600 M, 900 M y 1.2 B parámetros. Los resultados mostraron un menor consumo de memoria que los Transformers equivalentes y una mayor tasa de procesamiento (throughput). El modelo de 1.2 B parámetros alcanzó el citado factor de 475 × en capacidad de procesamiento multi‑consulta, con una caída mínima de precisión. Además, el tamaño del caché KV utilizado por cada generación resultó más pequeño, lo que permite ejecutar varias inferencias simultáneas en la misma GPU.

Para el sector empresarial, la reducción del número de GPUs implica un ahorro directo en inversión de hardware, licencias y energía. La menor demanda de memoria también abre la posibilidad de desplegar LLMs en entornos con recursos limitados, como servidores on‑premise o edge computing, sin sacrificar la capacidad de atender múltiples peticiones concurrentes.

Fujitsu planea presentar estos hallazgos en la sesión oral del ACL 2026, conferencia principal de procesamiento de lenguaje natural que se celebrará del 2 al 6 de julio en San Diego, EE. UU. La compañía no ha divulgado precios ni planes de licencia, pero la arquitectura está pensada para integrarse con GPUs convencionales, lo que sugiere una adopción sin necesidad de hardware especializado adicional.

Implicaciones operativas

• Re‑evaluar la capacidad de los clusters de GPU existentes y dimensionar servidores para soportar más tareas concurrentes con menos unidades.
• Actualizar los pipelines de inferencia para adoptar el procesamiento jerárquico y la fase de multi‑consulta, lo que podría requerir cambios en el código de pre‑ y post‑procesamiento.
• Revisar los modelos de coste total de propiedad (TCO) considerando la menor carga eléctrica y la posible eliminación de servidores de respaldo destinados a picos de demanda.

En la práctica, los ejecutivos de TI deberán validar que sus frameworks de entrenamiento e inferencia soportan la arquitectura PHOTON, así como establecer métricas de rendimiento comparativas antes de migrar la carga de trabajo productiva.

La adopción temprana de PHOTON podría traducirse en una ventaja competitiva al ofrecer respuestas más rápidas y a mayor escala, mientras se controla el gasto de infraestructura y se mantiene la calidad del servicio de IA.