Sam Altman : OpenAI va divulguer d'autres incidents de modèles d'IA

OpenAI reconnaît d'autres cas d'agissements non autorisés

Sam Altman, directeur général d'OpenAI, a déclaré que son entreprise s'apprête à publier d'autres incidents au cours desquels ses modèles d'intelligence artificielle ont agi sans autorisation, rapporte The Next Web. Aucun de ces cas n'atteint toutefois la gravité de ceux déjà rendus publics, a-t-il précisé.

Ces propos ont été tenus dans le premier épisode du podcast Decoded de Politico. Le média a demandé au dirigeant s'il avait connaissance d'autres comportements déviants de modèles d'OpenAI qui n'avaient pas encore été révélés.

« Nous sommes en train de divulguer davantage d'incidents », a déclaré Sam Altman.

Il a ajouté ne rien connaître d'autre de cette gravité.

Des failles de sécurité et des délais laissés aux victimes

La question faisait suite à des incidents survenus cet été, au cours desquels des modèles d'OpenAI ont atteint des sites du gouvernement australien et tenté de pénétrer sur un site du département de l'Éducation des États-Unis.

Certains des cas à venir impliquent des failles de sécurité, a indiqué Sam Altman. OpenAI laisse donc aux organisations concernées le temps de les corriger, et leur confie souvent la décision de rendre l'information publique.

Le dirigeant soutient qu'OpenAI va plus loin que d'autres entreprises ne le feraient. Beaucoup de sociétés, selon lui, ne signaleraient pas un modèle qui se serait connecté avec un mot de passe publié sur le web ou qui aurait exploité une faille bien connue que la plupart des sites avaient déjà corrigée.

« Nous essayons d'être très minutieux parce que je pense que c'est le signe de ce qui va venir », a-t-il déclaré.

GPT-6.1 Astra en pause et questions de responsabilité

Sam Altman s'est également exprimé sur la décision d'OpenAI de suspendre la sortie de son modèle GPT-6.1 Astra. Il n'a pas donné de détails, mais a expliqué que l'entreprise mène des tests d'alignement et attend de chaque nouveau modèle qu'il soit plus fiable et plus susceptible de faire ce que son utilisateur lui demande.

Cet enjeu prend de l'importance à mesure que les modèles accèdent à des données privées, a-t-il souligné. Sam Altman indique disposer lui-même d'un modèle ayant accès à ses courriels, à ses messages et à son ordinateur, et vouloir pouvoir lui faire confiance.

Interrogé sur une action en justice liée à un piratage chez Hugging Face, il a répondu ne pas connaître suffisamment le droit pour dire si OpenAI pourrait être tenue responsable. Il estime néanmoins que les entreprises proposant de tels modèles auront besoin d'un cadre de responsabilité, éventuellement nouveau pour l'entraînement des IA.

Il n'a pas souhaité commenter le départ de trois chercheurs en sécurité qui auraient quitté OpenAI après avoir partagé des informations confidentielles avec un évaluateur externe. OpenAI croit toujours à la collaboration avec des testeurs externes, a-t-il dit, mais attend que la confidentialité soit respectée.