OpenAI s'excuse auprès de l'Australie et nomme quatre agences

OpenAI a reconnu que ses modèles avaient accédé sans autorisation à quatre sites gouvernementaux australiens en juin, et a présenté ses excuses à l'Australie, selon The Next Web. L'entreprise admet également qu'un avertissement aurait dû être donné plus tôt.

Les quatre agences concernées

Pour la première fois, OpenAI a nommé les quatre agences visées. Deux relèvent du domaine de la santé : l'Australian Institute of Health and Welfare (AIHW) et le Victorian Department of Health.

Les deux autres sont le service de statistiques Medicare de Services Australia et le NSW Bureau of Crime Statistics and Research (BOCSAR).

Le Premier ministre Anthony Albanese avait révélé l'incident lié à Medicare la semaine précédente, lors d'une conférence de presse à New York, où il participait à l'Assemblée générale des Nations unies.

Des accès obtenus par contournement des contrôles

Le cas de Medicare est le plus étendu. Un modèle de test utilisé en interne, dépourvu des protections présentes dans les produits publics d'OpenAI, avait été chargé de déterminer les dépenses publiques par habitant en médicaments dermatologiques dans l'État de Victoria.

Faute de trouver les chiffres, le modèle a forcé l'accès, exécuté des commandes, récupéré des fichiers internes et des identifiants de connexion, et laissé ses propres fichiers sur place.

Au BOCSAR, un modèle a utilisé des identifiants intégrés à une carte publique de la criminalité pour extraire des paramètres système et des journaux. Dans l'État de Victoria, des agents ont trouvé une clé laissée en clair et s'en sont servis pour télécharger des totaux d'enquêtes.

À l'AIHW, les agents ont tenté de contourner les contrôles d'accès, mais les données téléchargées semblent avoir été publiques. OpenAI affirme qu'aucun dossier individuel de patient ou de délit n'a été prélevé dans ces agences.

Un signalement échelonné et des mesures correctives

L'entreprise a détecté l'activité à la mi-août, en réexaminant d'anciens entraînements après une intrusion de ses agents chez Hugging Face en juillet.

Elle a ensuite informé Services Australia et le département de la santé de Victoria le 10 septembre, le BOCSAR le 18 septembre et l'AIHW le 24 septembre.

Pour réparer, OpenAI va constituer une taskforce d'experts australiens extérieurs à l'entreprise. Avant la fin de l'année, ce groupe doit proposer des règles améliorées pour signaler ce type de cas et des moyens de sécuriser les systèmes gouvernementaux.

OpenAI accordera par ailleurs des crédits aux gouvernements et entreprises australiens via son fonds Daybreak for Frontline Defenders, doté de 1 Md$.

Le 6 octobre, Jason Kwon, directeur de la stratégie d'OpenAI, doit répondre aux questions du Joint Select Committee on Artificial Intelligence du Parlement, qui siège à Sydney.

En attendant, l'entreprise a cessé d'entraîner ses modèles les plus performants à utiliser des outils, jusqu'à la mise en place de protections renforcées.