L'IAPP alerte sur la responsabilité liée aux agents d'IA

Un risque qui dépasse les systèmes de l'entreprise

Les entreprises qui déploient des agents d'intelligence artificielle font face à un enjeu de cybersécurité qui ne s'arrête pas à la protection de leurs propres infrastructures. Un agent compromis peut devenir un vecteur d'attaque contre des clients, des fournisseurs et d'autres partenaires commerciaux, ce qui expose son opérateur à des conséquences juridiques et financières élargies.

Dans une analyse publiée lundi 5 octobre, l'International Association of Privacy Professionals (IAPP) soutient que les organisations doivent examiner l'IA agentique à travers deux prismes : la cybersécurité et la responsabilité, rapporte PYMNTS. La régulation pourrait jouer un rôle utile en fixant des normes de sécurité propres à prévenir les incidents et à donner aux entreprises conformes des arguments pour défendre leur conduite lorsque les protections cèdent.

Cinq questions préalables

Cette analyse s'appuie sur un article de Forbes signé par le dirigeant technologique Emil Sayegh, pour qui les agents d'IA doivent être traités comme des identités privilégiées. Un agent relié à un logiciel financier, à des bases de données internes ou à des plateformes collaboratives peut détenir des identifiants et des droits comparables à ceux d'un salarié disposant d'accès sensibles.

Cela impose aux entreprises de répondre à cinq questions fondamentales : quels agents d'IA sont en activité, et à qui appartiennent-ils ? À quels systèmes et à quelles données ont-ils accès ? Quelles actions exigent une validation humaine ? Leurs activités sont-elles surveillées ? Leur accès peut-il être révoqué immédiatement ?

La vitesse d'exploitation comme facteur décisif

Pour l'IAPP, l'identification de ces contrôles ne constitue qu'un point de départ. Les entreprises doivent intégrer la rapidité avec laquelle un attaquant peut exploiter un agent autorisé à exécuter du code, à appeler des interfaces de programmation ou à modifier des configurations système.

Un agent compromis pourrait permettre le vol d'identifiants, l'élévation de privilèges ou la propagation vers des systèmes connectés avant qu'un relecteur humain ait le temps d'intervenir. La conception des contrôles défensifs devient donc aussi déterminante que les limites fixées à l'autorité de l'agent.

« Companies should be thinking about automated monitoring as well as automated containment », indique l'analyse de l'IAPP, qui évoque notamment la révocation d'accès lorsque certaines conditions sont remplies.

Contenir sans paralyser l'activité

L'automatisation comporte toutefois ses propres contreparties. Un arrêt erroné peut interrompre des opérations légitimes, ce qui oblige les entreprises à mettre en balance les déclencheurs de confinement et la perturbation d'activité. L'IAPP avertit néanmoins qu'une posture reposant sur l'intervention humaine risque de se révéler inopérante face à des attaques rapides.

À l'inverse, les agents d'IA ne disposent d'aucun droit à la vie privée, ce qui laisse aux entreprises une plus grande latitude pour examiner leurs activités. L'IAPP précise cependant qu'un statut différent ne supprime pas les obligations d'une société concernant les informations personnelles traitées dans le cadre du travail d'un agent.

Un point de pivot vers les partenaires

En cas d'incident, les retombées sont connues : interruption d'activité, notifications aux clients et aux autorités de protection des données, obligations de communication pour les sociétés cotées, sanctions réglementaires et contentieux, y compris des recours collectifs. Les accès et les capacités d'un agent peuvent amplifier l'ampleur ou la gravité du dommage.

Le scénario le plus délicat concerne un préjudice subi en dehors de l'entreprise déployeuse. L'IAPP décrit un agent devenant un « pivot point » pour des attaques visant des partenaires commerciaux, avec l'insertion possible de liens malveillants ou de logiciels nuisibles dans des fichiers échangés en routine. Un flux commercial de confiance pourrait ainsi se transformer en compromission de chaîne d'approvisionnement assistée par l'IA.

Pour les équipes juridiques et de conformité, cette éventualité rend la répartition contractuelle des risques particulièrement importante. Les plafonds de responsabilité et les clauses d'indemnisation peuvent peser sur l'exposition, aux côtés des actions pour négligence, de la prévisibilité du dommage et de l'impact sur les partenaires touchés. Les sociétés cotées devraient également s'interroger sur le caractère significatif de l'incident.

Vers des normes de sécurité opposables

L'argument réglementaire de l'IAPP découle de cette incertitude. Une législation fixant des obligations de sécurité pourrait relever le niveau de protection tout en offrant aux entreprises un référentiel plus clair pour démontrer une conduite raisonnable.

Une société capable d'établir qu'elle a respecté des normes de diligence prévues par la loi pourrait soutenir qu'elle s'est acquittée de ses devoirs envers les parties lésées. L'analyse présente cet argument comme un moyen de défense possible, et non comme une exonération automatique de responsabilité.

Pour les entreprises, la tâche immédiate consiste à relier les permissions techniques, la surveillance et le confinement aux obligations contractuelles et à la planification des incidents. Le débat réglementaire porte donc aussi sur la définition d'un déploiement responsable, et sur les preuves que les entreprises devront produire lorsqu'un agent causera un dommage.