Jev, développé par TypeSafe AI , a été lancé sur OpenRouter. Contrairement à de grands modèles générateurs de texte comme GPT et Claude, Jev est défini comme le premier modèle System One disponible publiquement : il entre les états de l’application et les questions structurées, retourne directement des décisions typologiques probabilistes, dans le but de ne pas « écrire des réponses » mais de laisser le logiciel exécuter directement les jugements.
JEV ne génère pas de texte, il ne fait que prendre des décisions
La sortie LLM traditionnelle est essentiellement une chaîne de jetons. Même lorsque le JSON est demandé, les développeurs doivent généralement gérer les invites, l’analyse syntaxique, la validation du schéma et les sorties d’exceptions. Jev choisit d’abandonner la génération de texte libre, limitant la sortie du modèle à des types prédéfinis dans le programme.
TypeSafe résume cela par « état non structuré dedans, décisions probabilistes tapées ». Chaque décision restitue également le niveau de probabilité et de confiance, et les développeurs peuvent fixer des seuils : exécution automatique à haute confiance, manipulation manuelle à faible confiance.
System One cible l’IA native machine
Le nom System One vient du concept de « System 1 » (réflexion rapide). TypeSafe estime que les modèles de chat sont principalement optimisés pour la communication humain-IA, et que ce dont l’automatisation logicielle a vraiment besoin, ce n’est pas de beaux textes, mais de classification, de routage, de notation, d’extraction et de décisions de ramification.
Ainsi, Jev ressemble davantage à un appel de fonction avec des capacités d’IA. Il utilise la méthode d’entraînement RLCD (Reinforcement Learning for Calibrated Decisions) développée par TypeSafe, visant à mieux correspondre les probabilités avec une précision réelle.
La rapidité et le coût sont les principaux arguments de vente
OpenRouter propose actuellement Jev Latest et Jev 1.13, prend en charge des contextes 32K, avec un prix d’entrée de 0,042 $ par million de jetons, et les sorties ne sont pas facturées séparément. OpenRouter le positionne comme un modèle de décision structuré adapté aux nœuds internes de décision logicielle tels que le routage et la classification.
Les tests internes de workflow de TypeSafe montrent que Jev peut atteindre une amélioration de vitesse jusqu’à environ 193,6 fois et une réduction de coût de 444,6 fois sur les tâches de type System One. Cependant, ces chiffres proviennent d’évaluations développées par les fournisseurs, et l’équipe reconnaît que certains workflows et méthodes de test peuvent présenter des biais.
Ce qui rend JEV vraiment intéressant, ce n’est pas de construire un modèle de chat moins cher, mais de remettre en question le postulat par défaut selon lequel « les modèles d’IA doivent générer un langage ». Si les modèles de décision typés peuvent entrer de manière stable dans les environnements de production, la prochaine couche de concurrence dans les applications IA pourrait passer de l’ingénierie prompt à la création de modèles de composants fiables de prise de décision dans le code.