OpenAI déploie des filigranes textuels pour se conformer à l'AI Act

Un opt-in mondial pour les clients API

OpenAI a entamé un déploiement restreint de technologies de filigrane et de détection appliquées aux textes, selon PYMNTS. L'entreprise indique avoir développé ces outils pour répondre à l'AI Act de l'Union européenne, qui impose aux fournisseurs d'intelligence artificielle générative de rendre les textes produits identifiables par une lecture automatique.

Depuis l'annonce, les clients de l'API peuvent activer le filigrane sur certains modèles, dans le monde entier. Cette option reste désactivée par défaut dans l'API.

Un marquage invisible dans l'UE et un détecteur sur candidature

Dans les semaines à venir, OpenAI ajoutera un filigrane invisible aux textes produits par ChatGPT et Codex dans l'Union européenne, précise l'entreprise. Elle ouvre par ailleurs les candidatures pour accéder à son détecteur de filigrane textuel.

L'accès à cet outil sera réservé aux chercheurs et organisations expertes agréés, capables d'aider OpenAI à évaluer et à améliorer la technologie.

Ce qu'un filigrane permet — et ne permet pas — d'établir

« Les filigranes textuels et la détection restent des technologies jeunes, avec des limites importantes, et les avis sur leurs bénéfices et leurs usages responsables évoluent encore », explique OpenAI. « Notre approche par étapes reflète à la fois les exigences de l'AI Act et les limites de la technologie, avec une attention particulière à la transparence sur ce qu'un filigrane peut ou ne peut pas dire. »

L'entreprise rappelle qu'un filigrane peut signaler qu'un système OpenAI a généré ou traité une partie d'un passage, mais pas mesurer la part d'édition humaine. Il n'établit ni propriété ni responsabilité, n'associe pas un utilisateur au texte et ne vérifie pas l'exactitude du passage. L'absence de filigrane ne prouve pas non plus qu'un texte a été écrit par un humain.

« Nous continuerons d'améliorer la détection, d'étudier la résistance des filigranes à l'édition et à la traduction, et d'explorer des moyens de distinguer plus utilement l'assistance par IA de l'écriture par IA », ajoute OpenAI.

Un périmètre limité aux textes

Le déploiement annoncé ne concerne que les outils de provenance textuelle d'OpenAI. Il ne touche pas ses outils de vérification pour l'audio et les images, déjà accessibles au public.

D'autres acteurs avancent sur le même terrain réglementaire. Anthropic a annoncé en août avoir commencé à étiqueter comme générés par IA les contenus de ses modèles, pour se conformer aux nouvelles règles européennes. L'entreprise précisait que ses modèles Claude lancés dans l'UE à partir du 2 août intégreraient ce marquage lisible par machine dès leur sortie, avec des filigranes insérés dans les textes produits.