Jev ofrece veredictos estructurados sin producir texto

Un modelo de IA que no redacta respuestas y aun así se convirtió en una de las conversaciones más vistas del sector. La presentación de Jev, publicado por TypeSafe AI el 15 de septiembre, superó las 37 millones de visualizaciones en X, según ITmedia. Detrás está Diogo Almeida, ex OpenAI y coautor de InstructGPT, el trabajo de RLHF que ayudó a definir el comportamiento de ChatGPT. Ahora propone exactamente lo contrario: en lugar de generar palabras, devuelve decisiones en formato estructurado.

Una IA que decide sin redactar

TypeSafe llama a Jev un “modelo System One”, inspirado en la distinción de Daniel Kahneman entre pensamiento rápido e intuitivo y razonamiento lento. Para la empresa, muchas operaciones de software no necesitan que un LLM razone durante segundos: solo requieren un veredicto rápido sobre si algo es urgente, qué categoría le corresponde o si cumple una condición. Jev responde con una probabilidad y un grado de confianza, para que el código decida qué hacer.

La mecánica es simple. A diferencia de un LLM, que construye texto token por token, Jev procesa todas las preguntas de una solicitud en un solo paso. Toda su API se apoya en tres primitivas:

• Choice: elige una opción entre hasta 255 alternativas y devuelve la probabilidad de cada una.
• Score: asigna un número dentro de una escala definida por el desarrollador, como 1 a 10.
• Noul: responde sí/no con una única probabilidad entre 0 y 1.

Eso elimina la parte más frágil del flujo actual: ya no hay que pedirle a un modelo que genere JSON y luego validar si respetó el esquema. Aquí la estructura viene garantizada por diseño.

Rapidez y costo, con letra pequeña

Según TypeSafe, esto se traduce en 20 a 200 veces más velocidad y 40 a 1.000 veces menos costo frente a los LLM en este tipo de tareas. Sus benchmarks propios hablan de 193,6 veces más rápido y 444,6 veces más barato, con latencias de 70 a 500 milisegundos y un precio de 0,042 dólares por millón de tokens de entrada; los tokens de salida son gratis, dice la empresa, por resultar demasiado baratos de medir.

Conviene leer esas cifras con cautela. Un análisis independiente recuerda que las evaluaciones fueron hechas por el propio equipo, desde sus computadoras, y que la referencia de comparación la construyó la misma compañía. No hay paper reproducible ni validación externa de las afirmaciones de costo y velocidad. Lo único difícil de refutar es el 0 % de errores de formato: si las opciones son “bajo”, “medio” o “alto”, Jev no se inventará una cuarta. Eso no significa que siempre acierte con la respuesta correcta.

Qué mirar desde América Latina

Para empresas latinoamericanas, el argumento de costo puede ser decisivo en un mercado donde cada llamada a una API en dólares pesa en el presupuesto de TI. Jev no reemplaza a un chatbot para clientes: es una capa de decisión interna. Sirve para clasificar tickets de soporte, detectar si una transacción parece fraudulenta, priorizar alertas de seguridad o validar las salidas de otros modelos. Son tareas de alto volumen que hoy consumen llamadas costosas a modelos de razonamiento y tiempo de equipos.

El patrón recomendado es usarlo como un router con umbral de confianza: si Jev está seguro, el proceso avanza solo; si duda, el caso escala a una persona o a un modelo más potente. Esa frontera es también un límite auditable entre lo que decidió la máquina y lo que debe revisar un humano.

La promesa es clara para la región: automatizar decisiones repetitivas a un costo que hoy resulta difícil de sostener. La condición es no saltarse el análisis de privacidad, porque los datos viajan a un servicio externo, ni convertir benchmarks no verificados en una hoja de ruta. Jev trae una idea útil: no toda la IA tiene que hablar. A veces, solo tiene que decidir bien y a tiempo.