La FTC prévient les entreprises sur la responsabilité des agents IA
Le président de la FTC, Andrew Ferguson, estime que les entreprises ne peuvent pas imputer aux agents IA les conséquences de leurs actes. L'agence prépare aussi une enquête sur les prix personnalisés pratiqués par les marchands.
Dans cet article
Une mise au point sur la responsabilité des agents IA
Le président de la Federal Trade Commission (FTC), Andrew Ferguson, a fixé une limite aux entreprises qui déploient des agents d'intelligence artificielle : donner à un logiciel le pouvoir d'agir ne le rend pas responsable en cas de problème, selon PYMNTS. Lors d'un événement organisé par Reuters le vendredi 25 septembre, il a contesté la présentation des agents IA comme des acteurs autonomes échappant au contrôle humain.
Pour lui, les régulateurs doivent examiner les instructions transmises à ces outils et les entreprises qui les exploitent lorsqu'ils évaluent un préjudice. Ces propos indiquent la manière dont il pourrait traiter les dossiers liés à l'IA, sans pour autant établir une nouvelle règle de la FTC ni trancher la question de la responsabilité dans un cas particulier.
Des conséquences directes pour les paiements et le commerce
La distinction a des effets immédiats pour les marchands, les banques et les fintechs. Un agent peut aujourd'hui répondre à la demande d'un client, puis demain émettre un remboursement, choisir un moyen de paiement ou lancer une transaction. Chaque pouvoir supplémentaire crée une décision que l'entreprise devra peut-être justifier.
Ferguson a indiqué que l'examen de certains incidents, d'abord décrits comme des systèmes d'IA agissant au-delà du contrôle humain, avait montré que ces systèmes avaient suivi les instructions reçues. Il privilégie le recours aux outils juridiques existants pour traiter les préjudices qui en résultent, avant de créer un cadre réglementaire distinct pour les agents, d'après Reuters.
Les instructions, élément clé de la traçabilité
Pour une entreprise, les instructions et les contrôles entourant un agent comptent donc autant que sa réponse finale. Si un assistant automatisé envoie un remboursement sur le mauvais compte, la piste utile commence avant le virement : qui a autorisé l'agent à émettre des remboursements ? Quelles limites encadraient le montant et la destination ? Pouvait-il modifier les coordonnées bancaires ? Qu'a-t-il fait, et quand ?
Ces enregistrements aideraient une société à enquêter sur une défaillance et à déterminer si l'agent a suivi ses instructions, dépassé ses permissions ou révélé une faille dans les contrôles. Les remarques de Ferguson n'imposent pas un tel système de tenue de registres, mais elles rendent l'explication « c'est l'agent » moins convaincante lorsqu'une personne ou une entreprise a choisi les tâches et les accès de cet agent.
Une enquête à venir sur les prix personnalisés
Le président de la FTC a relié cette conception de la responsabilité à une autre décision automatisée, plus proche du paiement : le prix affiché au client. Il a déclaré que l'agence s'apprêtait à demander des informations aux entreprises en contact avec les consommateurs sur la tarification personnalisée, qui utilise des données individuelles pour fixer les offres. Il a cité les services de livraison, les applications de VTC et les compagnies aériennes comme secteurs qui le préoccupent particulièrement.
L'enquête envisagée examinerait si les marchands disposant de nombreuses données clients facturent des prix différents à des personnes différentes. L'agence s'est déjà penchée sur cette pratique : une étude de son personnel publiée en 2025 avait conclu que les intermédiaires de tarification pouvaient exploiter la localisation, le comportement de navigation et l'historique d'achat pour ajuster les prix ou les promotions. Cette étude portait sur les fournisseurs de services de tarification, tandis que l'enquête proposée viserait plus directement les marchands.
En août, la FTC a également publié un projet de déclaration de politique d'application concernant l'usage non divulgué de données personnelles pour fixer les prix. Le texte reste une proposition, et l'agence n'a pas affirmé que tout usage divulgué de la tarification personnalisée serait illégal.
Un test pratique pour le commerce automatisé
Ces deux volets dessinent un test concret pour le commerce automatisé. Un reçu peut montrer ce qu'un client a payé, mais il n'explique pas à lui seul pourquoi ce client a vu ce prix. À mesure que les agents gagnent de l'autorité sur les offres et les paiements, les entreprises devront comprendre les données, les instructions et les limites qui sous-tendent les décisions qu'elles placent entre les mains de leurs clients.
