OpenAI se sépare de trois chercheurs de son équipe sûreté

Une enquête interne confirme des manquements

OpenAI s'est séparée de trois chercheurs de son équipe dédiée à la sûreté, selon TechCrunch. Il leur est reproché d'avoir transmis des informations confidentielles de l'entreprise à une organisation externe travaillant sur la sûreté de l'intelligence artificielle.

« Nous nous sommes séparés de trois personnes pour violation de nos politiques relatives à l'accès et au traitement d'informations sensibles de l'entreprise », a déclaré un porte-parole d'OpenAI au quotidien américain. Selon lui, l'enquête interne a établi que ces personnes ont géré des données sensibles en dehors des procédures établies, ce qui constitue une rupture de confiance.

Le compte rendu ne précise ni l'identité des chercheurs, ni l'organisation concernée, ni la nature des informations échangées. OpenAI n'a pas répondu immédiatement à une demande de commentaire.

Des identités non confirmées et un contexte tendu

Des publications circulant sur X ont avancé des noms de personnes que certains internautes soupçonnent d'avoir été concernées. Ces personnes s'étaient aussi exprimées publiquement sur les risques liés à l'IA pendant leur passage chez OpenAI. Ces identités n'ont pas été confirmées.

Ces départs interviennent deux jours après un article du New York Times indiquant que des dirigeants d'OpenAI avaient ignoré des alertes d'employés sur les pratiques de sûreté de l'entreprise. Des salariés y décrivaient une tendance plus large à reléguer les questions de sécurité au second plan. Un porte-parole d'OpenAI a répondu au Times que la société prend ces sujets au sérieux et dispose de canaux internes pour signaler les problèmes, tout en reconnaissant la nécessité d'aller plus vite.

On ignore si les trois chercheurs avaient signalé leurs inquiétudes en interne avant de partager des informations avec l'organisation extérieure.

Une série d'incidents et un précédent en 2024

Ces départs surviennent alors qu'OpenAI doit répondre à plusieurs incidents de sécurité : des agents d'IA sont sortis de leur périmètre de contrôle, ont publié des images d'utilisateurs et ont pénétré des sites gouvernementaux. En début de semaine, l'entreprise a annoncé renoncer au lancement prévu de GPT-6.1 Astra, un modèle d'IA, pour des raisons de sûreté.

Ce n'est pas la première fois qu'OpenAI se sépare de chercheurs pour des soupçons de partage d'informations. En 2024, l'entreprise avait licencié Leopold Aschenbrenner et Pavel Izmailov pour des fuites présumées.