L'ORI encadre l'usage de l'IA générative dans la recherche financée

Un cadre existant appliqué aux outils d'IA

L'Office of Research Integrity (ORI), rattaché au Department of Health and Human Services, a publié des recommandations sur l'emploi de l'intelligence artificielle générative dans les travaux financés par le service public de santé, rapporte PYMNTS. Le principe retenu est celui d'un cadre inchangé : l'IA ne constitue pas une catégorie distincte de faute scientifique.

Pour qu'une faute soit retenue, trois conditions doivent être réunies : un écart significatif aux pratiques admises dans la communauté de recherche concernée, une conduite intentionnelle, délibérée ou téméraire, et une preuve par prépondérance des éléments. Ces recommandations, non contraignantes, s'inscrivent dans des règlements révisés applicables aux nouvelles allégations depuis janvier.

Documenter les outils, les requêtes et les vérifications

Les chercheurs sont invités à identifier les outils d'IA employés pour la recherche comme pour la préparation de manuscrits et de demandes de subvention, et à expliquer la manière dont ils les ont utilisés. Une telle déclaration peut servir à établir la reproductibilité d'un travail et à répondre à une allégation. Elle ne couvre pas, en revanche, une conduite qui s'écarterait nettement des pratiques admises.

Le cabinet Crowell & Moring, dans son analyse des recommandations, conseille aux institutions de conserver les entrées, les sorties et les étapes de vérification, ainsi que le nom de l'outil employé. La détermination de la pratique admise reste délicate : les approches varient d'un domaine à l'autre, et les politiques des agences de financement peuvent aussi faire référence.

Crowell cite à ce titre les restrictions des National Institutes of Health sur les demandes de subvention « substantiellement développées » par l'IA et sur l'usage de l'IA générative par les évaluateurs pour analyser les dossiers ou rédiger leurs critiques.

Enquête et expertise : le rôle des spécialistes de l'IA

Toute allégation suit la procédure institutionnelle ordinaire. Une allégation crédible et suffisamment précise, entrant dans le champ du règlement, peut justifier une enquête préliminaire destinée à déterminer si une investigation complète se justifie. L'institution doit alors informer la personne mise en cause et réunir les pièces nécessaires.

Si les premiers éléments confirment la substance de l'allégation, l'institution ouvre une investigation et en informe l'ORI. À ce stade, les comités doivent réunir une expertise scientifique adaptée au domaine de la personne concernée. L'ORI suggère d'y adjoindre des spécialistes de l'IA capables d'expliquer le fonctionnement et les limites d'un outil.

Les enquêteurs doivent examiner l'ensemble des éléments disponibles : dossiers de recherche, sources, fichiers intermédiaires et autres indices permettant de vérifier que les expériences se sont déroulées comme décrit. Les détecteurs automatisés de plagiat ou de manipulation peuvent fournir une piste, mais l'ORI déconseille de fonder une conclusion sur leurs seuls résultats, ces outils pouvant manquer du contenu copié dans un texte scientifique généré par IA.

Des erreurs difficiles à classer

Certaines erreurs liées à l'IA échappent à une qualification simple. Une référence fabriquée dans la partie contextuelle d'une demande de subvention peut sortir de la définition réglementaire des données ou résultats fabriqués, faute de relever de la démarche scientifique. Dans une revue de littérature, en revanche, où les références participent de cette démarche, de fausses citations peuvent être qualifiées.

Un texte ou des idées produits par IA peuvent constituer un plagiat s'ils reproduisent le travail d'autrui sans attribution. Les chercheurs demeurent responsables de la vérification des citations comme de la provenance des éléments qu'ils emploient.

La conservation des preuves pose une difficulté supplémentaire. Requêtes, sorties et journaux de traitement peuvent être dispersés entre appareils personnels et plateformes externes, certaines historiques de session étant supprimés automatiquement. Les institutions doivent en principe conserver le dossier institutionnel et les preuves mises sous séquestre pendant sept ans après la fin d'une procédure. La destruction intentionnelle ou délibérée de pièces pertinentes après avoir eu connaissance d'une allégation peut elle-même valoir preuve de faute.

Crowell recommande de mettre à jour les politiques de déclaration et de formation, de vérifier les pratiques de conservation des fournisseurs d'IA, de préserver les requêtes et les informations sur les modèles, et d'identifier les experts en IA avant l'apparition d'un litige. Le cabinet appelle aussi les responsables de l'intégrité scientifique à orienter avec prudence les signalements : une atteinte à la vie privée ou à la confidentialité liée à l'IA ne relève pas nécessairement de la définition de la faute scientifique. Par ailleurs, les NIH peuvent engager des mesures de gestion des subventions, dont la suspension ou la résiliation, pendant qu'une procédure de l'ORI suit son cours. Pour les institutions, la tâche immédiate consiste, selon Crowell, à rendre l'usage de l'IA vérifiable avant qu'une allégation ne rende son historique difficile à reconstituer.