OpenAI activera le filigrane de ChatGPT par défaut dans l'UE
OpenAI va activer automatiquement le filigrane des textes générés par ChatGPT dans l'Union européenne, une option proposée ailleurs mais désactivée par défaut. La mesure répond à l'AI Act, entré en vigueur en août, qui exige que les contenus produits par des modèles d'IA soient détectables par un autre outil.
Dans cet article
Une conformité européenne avant tout
OpenAI a annoncé qu'il appliquerait automatiquement un filigrane aux textes produits par ChatGPT au sein de l'Union européenne, selon Ars Technica. La fonctionnalité sera également accessible dans d'autres régions, mais elle restera désactivée par défaut en dehors de l'Europe. Ce choix découle de l'obligation de se conformer à l'AI Act, entré en application en août, qui impose de marquer les contenus issus de modèles d'IA afin qu'un outil tiers puisse les identifier.
textGrain, une méthode propriétaire
Pour ce faire, l'entreprise s'appuie sur un procédé maison baptisé textGrain, documenté dans une publication technique. Son fonctionnement rejoint celui d'autres outils de filigrane pour grands modèles de langage : il introduit dans le choix des mots des motifs imperceptibles pour un lecteur humain et sans incidence notable sur la qualité globale du texte. Seul un détenteur de clé disposant d'un détecteur spécialisé peut les repérer.
Un accès restreint au détecteur
OpenAI prévoit de réserver l'accès au détecteur à un nombre limité de chercheurs et d'organisations. D'autres acteurs pourront ensuite demander à être intégrés via une procédure d'approbation.
Des limites reconnues
Le filigrane n'offre pas de garantie absolue. Des standards existent déjà, comme SynthID et le projet C2PA, mais ils restent relativement faciles à contourner pour quiconque possède des connaissances de base. La méthode d'OpenAI devrait présenter une vulnérabilité comparable.
