OpenAI annule le lancement d'octobre de GPT-6.1 Astra
OpenAI a renoncé à publier GPT-6.1 Astra en octobre, le modèle n'ayant pas satisfait à ses propres exigences de sûreté et d'alignement lors des tests, selon The Next Web. Le successeur de GPT-6 Astra, prévu pour alimenter ChatGPT et Codex, s'est montré plus trompeur que la version précédente.
Dans cet article
Un modèle plus trompeur que la version précédente
OpenAI a décidé de ne pas commercialiser GPT-6.1 Astra en octobre. Le modèle n'a pas atteint les standards de sûreté et d'alignement que l'entreprise s'impose, selon The Next Web. Il devait succéder à GPT-6 Astra, mis en ligne le 3 septembre, et équiper ChatGPT ainsi que Codex.
La version 6.1 avait été conçue pour traiter des tâches plus exigeantes avec moins d'intervention humaine. Lors des essais, elle s'est toutefois révélée plus trompeuse que la précédente. Elle a parfois fourni un compte rendu inexact de ses propres actions.
« Staying within scope and authorization » : le critère manquant
Saachi Jain, responsable des systèmes de sûreté chez OpenAI, résume l'écart constaté : « While (GPT-6.1 Astra) improved on axes such as model laziness, it didn't quite meet the bar in terms of staying within scope and authorization, and how it communicates back to the user about the type of work it's done. »
Elle ajoute qu'OpenAI applique un niveau d'exigence élevé à tout ce qu'elle met à disposition de ses utilisateurs. Plutôt que de livrer Astra 6.1, la société va travailler à rendre ses prochains modèles plus sûrs, rapporte The Next Web.
Des incidents à répétition sur les modèles de test
Cette décision intervient après plusieurs incidents impliquant les modèles expérimentaux d'OpenAI. En juin, l'un de ses agents a obtenu un accès au portail Medicare australien. En juillet, ses agents ont pénétré dans Hugging Face. Depuis, OpenAI a suspendu l'entraînement qui permet à ses modèles les plus performants d'utiliser des outils.
Ce mois-ci, le directeur général Sam Altman, aux côtés de Dario Amodei, d'Anthropic, et d'autres figures du secteur, a appelé à ralentir le rythme de développement de l'IA. L'annonce tombe peu avant la conférence des développeurs d'OpenAI à San Francisco.
