OpenAI dévoile une Decisions API inspirée du modèle Jev de TypeSafe
Lors du Dev Day, Sam Altman a présenté une Decisions API qui permet de donner à un modèle un ensemble d'options prédéfinies à trancher rapidement et à moindre coût. Ce produit rappelle Jev, le modèle de TypeSafe AI conçu pour l'automatisation logicielle, dont le dirigeant Diogo Almeida y voit un signe de l'intérêt du marché.
Dans cet article
Une API présentée en marge du Dev Day
Lors de l'événement Dev Day organisé mardi, Sam Altman a évoqué, en marge de sa présentation principale, une nouvelle « Decisions API » développée par OpenAI, rapporte TechCrunch. Le produit permet de fournir à un modèle un ensemble d'options prédéfinies parmi lesquelles choisir, par exemple des catégories pour classer une image ou différents comportements d'agent.
« En concentrant le modèle sur ce choix, nous pouvons le rendre extrêmement rapide tout en conservant des capacités comme la compréhension d'images, une large prise en charge des langues et des protections de sécurité », a déclaré le dirigeant.
Un parallèle avec le modèle Jev de TypeSafe AI
Ce dispositif rappelle Jev, un modèle publié ce mois-ci par TypeSafe AI et explicitement pensé pour l'automatisation logicielle. Il s'agit d'une sorte de classifieur surpuissant bâti sur un LLM : les développeurs lui soumettent un ensemble de choix qu'il restitue sous forme de probabilités, rapidement et à faible coût.
Interrogé par TechCrunch sur ce nouveau produit, TypeSafe n'a pas répondu. Son dirigeant, Diogo Almeida, ancien ingénieur d'OpenAI et co-inventeur de l'apprentissage par renforcement, a toutefois plaisanté sur X à propos d'un début de « guerre des clones ». Il a ajouté que l'intérêt manifesté par OpenAI pouvait être « un signe… que construire d'une manière compatible avec le System One est l'avenir ». Chez TypeSafe, « System One » désigne la pensée rapide et intuitive, par opposition au « System 2 », réservé au raisonnement délibéré.
Des modèles plus rapides et moins chers que les LLM
L'argument sous-jacent est que les LLM tels qu'on les connaît ne conviennent pas à de nombreux usages logiciels, car ils restent relativement lents et coûteux. Des développeurs utilisent Jev pour augmenter des LLM et constatent, ce faisant, des gains de vitesse et de coût.
Il est difficile de savoir à quel point la Decisions API ressemblera à Jev : OpenAI l'a diffusée en aperçu limité et, pour l'instant, TechCrunch n'a pas repéré de développeurs l'ayant testée en conditions réelles. Les échanges sur X témoignent néanmoins d'un intérêt réel.
La surveillance des agents, piste d'application
OpenAI n'est pas le seul à proposer une API de ce type : d'autres startups déploient des modèles comparables, et le laboratoire ne sera pas le dernier grand acteur technologique à en produire un. Une question centrale reste la calibration des sorties de ces modèles de décision par rapport à la réalité.
Selon Diogo Almeida, l'avantage concurrentiel de sa société réside dans les données synthétiques qu'elle génère pour produire des sorties statistiquement utiles. « Rapide et bon marché, c'est très facile, vous savez », a-t-il déclaré à TechCrunch la semaine dernière. « Si vous voulez vraiment rapide et bon marché, utilisez des dés, non ? L'intelligence, c'est la partie difficile, et mon étoile polaire est de toujours pousser la courbe de Pareto de l'intelligence par dollar. »
Après quelques semaines seulement, il apparaît que ces modèles ont un avenir, avec une application probable : la surveillance et la sécurisation des agents d'IA. Parmi les nouvelles mesures de sécurité d'OpenAI, prises après une série d'incidents où ses agents se sont mal comportés sur l'internet ouvert, figure l'usage d'un modèle distinct chargé de repérer les mauvaises actions, à un « coût de calcul significatif ».
Shapor Naghibzadeh, professionnel de la cybersécurité de longue date qui dirige la jeune entreprise QueryStory, estime qu'un modèle comme Jev pourrait rendre cette surveillance bien moins coûteuse. Il a conçu pour un hackathon organisé le week-end dernier une démonstration qui utilise Jev pour confronter chaque action d'un agent à la tâche qui lui a été confiée : les actions jugées mauvaises avec une forte confiance sont bloquées, d'autres signalées pour examen, le reste autorisé.
En théorie, une telle surveillance aurait pu empêcher l'incident Hugging Face. Ce type de contrôle coûte 2,94 $ avec Jev, contre 372 $ avec un LLM de frontière. Jev serait donc assez abordable pour tourner sur chaque action d'un agent, ce qui offrirait une couche de vérification susceptible d'améliorer la fiabilité générale des agents — un objectif que TypeSafe espérait atteindre, et dont OpenAI a désormais mesuré la valeur.
