TypeSafe AI lance Jev, l’IA qui évalue sans rédiger

TypeSafe AI présente Jev. L’entreprise a introduit un modèle d’IA appelé Jev. Celui-ci fournit des jugements et des probabilités à l’intérieur d’autres programmes. Il ne génère donc pas directement du texte comme sortie principale. TypeSafe AI indique des temps de réponse compris entre 70 et 500 millisecondes. L’entreprise facture Jev 0,042 dollar par million de jetons d’entrée. Cette tarification concerne les jetons transmis au modèle. Jev est présenté comme un composant destiné à être intégré dans des logiciels existants. La présentation officielle de TypeSafe AI détaille cette approche dans son annonce consacrée à Jev et aux modèles System One (annonce de TypeSafe AI).

Un modèle à sorties contraintes. TypeSafe AI affirme que Jev ne peut pas halluciner en dehors de sa structure de sortie prédéfinie. Cette propriété décrit une limite de format imposée aux réponses du modèle. Jev délivre ainsi des jugements et des probabilités dans les programmes qui l’utilisent. Son fonctionnement est distinct d’un outil conçu pour rédiger des réponses longues. TypeSafe AI présente aussi Jev comme un modèle pouvant être employé dans les ventes et le service client. Les primitives documentées par l’entreprise décrivent les composants utilisables dans les intégrations (documentation des primitives). Le modèle reste donc associé à des sorties structurées et à des usages intégrés.

Jev fournit des jugements structurés

Des délais mesurés en millisecondes. Les temps de réponse annoncés pour Jev vont de 70 à 500 millisecondes. Cette plage constitue l’indication publiée par TypeSafe AI pour le modèle. Le prix annoncé s’élève à 0,042 dollar par million de jetons d’entrée. Ces deux chiffres décrivent respectivement la rapidité de réponse et le coût d’utilisation communiqué. Jev renvoie des jugements et des probabilités à d’autres programmes. Les logiciels peuvent donc recevoir une sortie structurée plutôt qu’un texte libre. TypeSafe AI associe cette conception à des cas d’usage dans les ventes et le service client. L’entreprise publie également une page d’évaluation consacrée au service client (évaluations du service client).

TypeSafe encadre ses affirmations. TypeSafe AI affirme que Jev ne peut pas halluciner hors de sa structure de sortie prédéfinie. L’entreprise précise aussi que ses tests de performance publiés ont des limites. Elle indique enfin que les entreprises devront tester la fiabilité des jugements pour leurs propres tâches. Ces trois éléments distinguent les caractéristiques annoncées des validations à réaliser par chaque utilisateur. Jev fournit des probabilités et des jugements, mais TypeSafe AI rattache leur fiabilité à des évaluations liées aux tâches. Les usages annoncés concernent notamment les ventes et le service client. La documentation de TypeSafe AI présente ces intégrations à travers plusieurs primitives et cartes de cas d’usage.

TypeSafe facture Jev à l’usage

Une intégration plutôt qu’un rédacteur. Jev a été présenté comme un modèle placé à l’intérieur d’autres programmes. Sa fonction annoncée consiste à délivrer des jugements et des probabilités. TypeSafe AI ne le décrit donc pas comme un système principalement chargé de produire du texte. L’entreprise mentionne des applications possibles dans les ventes et le service client. Son offre combine un délai annoncé de 70 à 500 millisecondes et un tarif de 0,042 dollar par million de jetons d’entrée. TypeSafe AI affirme que les sorties restent dans une structure prédéfinie. Les entreprises doivent toutefois tester la fiabilité de ces jugements sur leurs propres tâches, selon l’entreprise. L’annonce originale est disponible dans The Decoder.