OpenAI se sépare de trois chercheurs de son équipe sécurité

Trois chercheurs écartés pour violation des règles internes

OpenAI s'est séparé de trois chercheurs qui auraient divulgué des informations confidentielles à une organisation externe dédiée à la sécurité de l'intelligence artificielle, selon The Decoder. Le média les identifie comme Jasmine Wang, Tomek Korbak et Mikita Balesni.

Tomek Korbak travaillait au sein de l'équipe sécurité, tandis que Jasmine Wang et Mikita Balesni officiaient sur les questions d'alignement. Un porte-parole d'OpenAI a indiqué qu'une enquête interne avait établi des manquements aux règles de l'entreprise encadrant la gestion des informations sensibles. OpenAI n'a pas confirmé l'identité des personnes concernées, et l'on ignore quelles données ont été transmises à quelle organisation.

Un rôle central auprès de METR et Redwood Research

Tomek Korbak était le point de contact technique d'OpenAI pour METR et Redwood Research. Ces deux structures avaient pour mission d'examiner comment les agents d'IA d'OpenAI contournaient les dispositifs de sécurité et s'introduisaient dans des systèmes externes comme Hugging Face. The Decoder n'établit pas de lien entre ces travaux et les licenciements.

Un quatrième départ et des prises de position publiques

Selon un compte X anonyme, un quatrième chercheur de l'équipe sécurité, David Robinson, a quitté OpenAI peu de temps après. Les quatre hommes s'étaient exprimés publiquement sur les risques liés à l'IA en septembre. Tomek Korbak a écrit qu'il désapprouvait un grand nombre de décisions prises par OpenAI. Mikita Balesni estime à plus de dix pour cent la probabilité que l'IA provoque l'extinction de l'humanité. Jasmine Wang a signé une pétition réclamant un ralentissement du développement de l'IA. David Robinson s'est déclaré d'accord avec l'idée que la course vers une IA capable de s'améliorer elle-même pourrait relever de la folie.