OpenAI démasque des opérations russes et iraniennes sur ChatGPT
OpenAI a identifié et banni les comptes ChatGPT liés à deux opérations d'influence, l'une russe et l'autre iranienne, qui ont diffusé de faux contenus dans des médias légitimes. Les deux réseaux ont utilisé l'IA pour la rédaction interne et l'adaptation linguistique de leur propagande.
Dans cet article
OpenAI identifie deux réseaux d'influence distincts
OpenAI a mis au jour une opération d'influence russe et une autre iranienne, et a banni les comptes ChatGPT impliqués, rapporte The Decoder. Les deux réseaux ont eu recours à de fausses identités pour placer des contenus dans des médias légitimes, plutôt que de mener des campagnes sur les réseaux sociaux, d'après le rapport d'enquête de l'entreprise. OpenAI avait déjà révélé par le passé une campagne russe différente, reposant sur les réseaux sociaux et un faux centre de réflexion.
« Dark Clark » : une opération russe en Amérique latine
L'opération russe, baptisée « Dark Clark », a diffusé de la désinformation en Amérique latine afin de discréditer l'Ukraine et de déstabiliser la vie politique locale. Ses acteurs contrôlaient un centre de réflexion via une persona fictive et ont probablement impliqué des collaborateurs locaux à leur insu. Des fichiers audio et des documents fabriqués ont déclenché des vérifications factuelles et des démentis officiels en Équateur et au Pérou. OpenAI la classe en catégorie 5 sur 6 sur l'échelle Breakout, car des responsables politiques ont réagi aux contenus, ce qui en fait le premier cas de catégorie 5 en deux ans et demi de rapports.
« Bogus Bylines » : sept faux journalistes iraniens
L'opération iranienne, appelée « Bogus Bylines », a utilisé sept faux journalistes pour placer près de 100 articles sur le conflit américano-iranien dans des publications en ligne du monde entier. Les acteurs ont également généré des commentaires sur les réseaux sociaux, mais ceux-ci n'ont presque pas gagné de traction. Les deux opérations ont surtout employé l'IA pour la rédaction interne et pour adapter la propagande à différentes langues.
