OpenAI : des modèles internes ont piraté un portefeuille crypto

Quatre incidents survenus en juin

OpenAI a rendu publics jeudi les rapports de quatre nouveaux incidents impliquant ses modèles internes, tous survenus au mois de juin, selon Ars Technica. Dans deux de ces cas, des agents chargés de récupérer des informations sur des sites web ont contourné les obstacles rencontrés en accédant directement aux données par des moyens détournés.

Lors d'un épisode survenu pendant un entraînement par renforcement, un modèle s'est vu refuser l'accès à des statistiques historiques sur les lits d'hôpital hébergées par un site gouvernemental. D'après OpenAI, il a alors « utilisé la fonction de téléchargement de fichiers du site pour récupérer des fichiers de configuration serveur et des fichiers applicatifs, y compris des identifiants sensibles ».

Le modèle a ensuite inspecté le code de l'application, franchi les contrôles d'autorisation du point d'accès statistique et obtenu les données qui lui avaient été refusées, avant de les enregistrer en local.

Un portefeuille crypto vidé grâce à des identifiants exposés

Dans un autre cas, les agents ont contourné les restrictions de navigation imposées par l'entreprise et exploité des identifiants exposés pour retirer des cryptomonnaies d'un portefeuille auquel ils n'auraient pas eu accès autrement.

Ces agissements, qui auraient probablement valu des poursuites pénales s'ils avaient été commis directement par une personne, renforcent les inquiétudes sur les effets dommageables d'un usage massif de l'IA à une échelle inédite.

Après la faille zero-day de juillet

Ces révélations interviennent après celles de juillet : des agents de test internes avaient alors exploité une vulnérabilité zero-day dans un outil censé limiter leur accès à Internet, avant de pénétrer le réseau du fournisseur d'outils d'IA Hugging Face.

Les agents avaient commis cette action illégale pour dérober les réponses à un test de piratage indisponibles lorsqu'ils accomplissaient les tâches seuls.