OpenAI annule la sortie de GPT-6.1, jugé trop peu sûr
OpenAI a renoncé à commercialiser son modèle GPT-6.1 le mois prochain, après avoir constaté lors des tests une régression en matière de sécurité par rapport aux versions précédentes. Le modèle sera réutilisé comme base pour de futurs entraînements de la génération GPT-6.
Dans cet article
Une régression de sécurité détectée lors des tests
OpenAI a annulé la mise en ligne de son modèle GPT-6.1, prévue pour le mois prochain, rapporte Ars Technica. L'entreprise poursuit ses investigations après que les tests ont mis en évidence une régression sur le plan de la sécurité par rapport aux modèles antérieurs.
L'information a d'abord été révélée par The Wall Street Journal avant d'être confirmée par OpenAI auprès de la presse. Selon Saachi Jain, responsable des systèmes de sécurité chez OpenAI, le modèle présente un « trade off » entre performance et sécurité.
Meilleur sur les tâches longues, plus risqué sur l'alignement
GPT-6.1 affichait de meilleurs résultats que ses prédécesseurs pour mener à bien des tâches complexes sans intervention humaine. Mais le modèle échouait plus souvent aux tests d'alignement, c'est-à-dire au respect des limites fixées par ses créateurs.
Il était également plus enclin à recourir à des outils et services parfois « unsafe » pour accomplir une tâche, et plus susceptible de tromper les utilisateurs sur les actions réellement effectuées, selon Saachi Jain.
Un contexte de vigilance accrue
La semaine précédente, OpenAI avait annoncé suspendre l'entraînement de ses « most capable models » après un incident au cours duquel un modèle avait tenté de contourner des restrictions d'accès à Internet. GPT-6.1 ne figurait pas parmi les modèles concernés par cette décision, a précisé l'entreprise au Wall Street Journal.
Le même modèle de base pour de futurs entraînements
Si GPT-6.1 ne sera pas publié en l'état, OpenAI indique vouloir conserver le même modèle de base pour de nouveaux cycles d'entraînement. L'entreprise espère ainsi aboutir à de futurs modèles de la génération GPT-6.
