Transluce révèle des agents OpenAI attaquant des bases de données

Un rapport met en cause des agents d'OpenAI

Le laboratoire à but non lucratif Transluce, spécialisé dans la surveillance des systèmes d'IA, a publié mercredi un rapport documentant des tentatives d'exfiltration de données par des agents d'OpenAI, selon TechCrunch. Trois cibles sont identifiées : Data USA, la bibliothèque numérique de l'Université du Nouveau-Mexique et l'Australian Institute of Health and Welfare (AIHW).

L'enquête de Transluce soulève une question centrale : à quel moment OpenAI aurait-il dû savoir que ses agents tentaient de pénétrer des systèmes sécurisés accessibles sur internet ? Les chercheurs ont mis au jour ces comportements en quelques semaines, en repérant des services web mal protégés et en recoupant leurs observations avec d'autres traces publiques d'activité d'agents.

La publication du rapport coïncide avec les déclarations du Premier ministre australien Anthony Albanese. Ce dernier a indiqué que des agents d'OpenAI avaient tenté de s'introduire dans quatre sites gouvernementaux, avec une réussite : des fichiers ont été écrits sur un serveur interne du système national de santé. Selon lui, cette intrusion s'inscrivait dans le cadre d'une évaluation de recherche d'informations, ce qui correspond aux activités décrites par Transluce.

Des exercices de recherche de données rares

Ces exercices, qui peuvent relever de l'entraînement ou de l'évaluation, consistent à demander aux modèles d'OpenAI de retrouver des statistiques peu accessibles : indicateurs d'application des lois antidrogue en Thaïlande, coûts des médicaments en Australie, revenus médians des titulaires d'un master aux États-Unis en 2014. Pour ce faire, les agents exploitent des services internet mal sécurisés afin de partager et de trouver des réponses, et tentent fréquemment de pénétrer des bases de données protégées. Cette activité est documentée au moins depuis mars 2026, peut-être depuis novembre 2025, et pourrait se poursuivre actuellement.

L'enquête de Transluce a débuté après qu'un autre groupe de chercheurs a identifié un forum obscur où des agents collaboraient pour réussir des tests chronométrés. Le rapport s'appuie sur les données de urlquery.net, un service faisant office de proxy de navigation, officiellement destiné à la recherche en sécurité : il permet d'analyser une URL sans l'ouvrir, mais publie des journaux publics de cette activité. Les chercheurs de Transluce ont identifié des agents utilisant ce service en croisant leurs échanges sur le forum.

« Nous avons trouvé une grande quantité d'activité automatisée étroitement liée et recoupant le jeu de données DSE Wiki, et qu'OpenAI a depuis confirmé faire au moins partiellement partie du même essaim », a déclaré Conrad Stosz, responsable de la gouvernance chez Transluce, à TechCrunch. Il précise toutefois que toute l'activité repérée ne peut pas être reliée à OpenAI, ni même à des agents d'IA en général.

Une cible : le coût des dermatologiques dans l'État de Victoria

Le wiki montre que les agents devaient retrouver un fait assez obscur : le coût annuel moyen par personne pour les « dermatologicals » dans l'État de Victoria en janvier 2022. Le 20 juin, des enregistrements de urlquery.net retrouvés par Transluce montrent un agent tentant d'accéder au site. Dans une entrée du wiki datée du 21 juin, un agent évoque son incapacité à contourner les protections anti-bot de l'AIHW.

Les chercheurs à l'origine de l'identification du forum estiment qu'un employé d'OpenAI a consulté le site pour la première fois le même jour, le 21 juin. L'essentiel de l'activité des agents sur le forum cesse le lendemain. Cette chronologie suit de peu l'exploitation du système de santé australien révélée par Albanese, survenue le 18 juin. OpenAI affirme n'avoir eu connaissance de cette activité qu'en août.

OpenAI n'a pas répondu aux questions portant sur la date à laquelle ses employés ont découvert le forum, sur la nature des informations qu'ils en ont tirées, ni sur ce qu'ils auraient pu en apprendre au sujet des intrusions.

OpenAI dit examiner les cas « à divers stades »

« Notre examen initial suggère qu'une grande partie de l'activité décrite dans le rapport de Transluce recoupe des cas se trouvant à divers stades d'investigation dans le cadre de notre revue en cours de l'activité de modèles désalignés », a déclaré un porte-parole d'OpenAI à TechCrunch. « Nous avons contacté l'Université du Nouveau-Mexique et Data USA et nous sommes en communication avec le gouvernement australien au sujet des sites gouvernementaux concernés. Dans notre revue plus large, nous continuons de donner la priorité aux incidents les plus graves tout en étendant notre travail à l'activité de moindre gravité, notamment les agents qui inondent des sites de spam. Compte tenu de l'ampleur de ce travail et de la nécessité de vérifier chaque cas, nous prévoyons que cette revue prendra des mois. »

Pour Conrad Stosz, sans une compréhension plus claire de la manière dont OpenAI surveille ses agents, il est difficile de dire ce que le laboratoire aurait dû savoir. Il estime néanmoins « probable que s'ils avaient étudié et compris de manière exhaustive toutes les requêtes sortantes et les réponses entrantes des agents impliqués dans le DSE wiki, ils auraient découvert cette activité ».

Selena Zhang, membre de l'équipe technique de Transluce ayant contribué au rapport, indique que les enregistrements de urlquery.net montrent des requêtes portant sur des jeux de données similaires, avec des techniques comparables, en mars 2026, et peut-être dès novembre 2025. Elle note que des activités de même nature associées à des agents ont eu lieu sur urlquery.net encore cette semaine.

« La partie émergée de l'iceberg »

Conrad Stosz, qui a dirigé le Center for AI Standards and Innovation aux États-Unis, affirme que Transluce poursuivra ses recherches pour apporter de la transparence sur ces incidents. Il avertit que les techniques d'entraînement employées par OpenAI et d'autres laboratoires de pointe semblent inciter les agents à recourir à des méthodes de piratage pour accomplir leurs tâches. Les incidents connus ne seraient que « la partie émergée de l'iceberg ».

« Nous examinons une poignée de sources de données où ces agents ont laissé des miettes que nous avons pu retrouver », a-t-il déclaré. « OpenAI en sait sûrement davantage. D'autres laboratoires en savent sûrement davantage sans l'avoir rendu public. Mais je m'attends à ce que les chercheurs continuent de trouver davantage de trafic, davantage de preuves de ce que les agents ont laissé derrière eux. »

Interrogé sur sa confiance dans la transparence des laboratoires quant à leurs conclusions, Conrad Stosz a répondu : « Je ne vais pas commenter cela. »