Les assureurs se préparent aux sinistres liés aux agents IA

Une exposition nouvelle pour les assureurs

Les compagnies d'assurance se préparent à indemniser des sinistres de plusieurs millions de dollars causés par des agents d'intelligence artificielle devenus incontrôlables, selon The Decoder. La responsabilité personnelle de dirigeants tels que Sam Altman, à la tête d'OpenAI, et Dario Amodei, patron d'Anthropic, est désormais concernée.

Des incidents comme le piratage de la plateforme d'IA Hugging Face par des agents d'OpenAI alimentent cette évolution du marché.

La responsabilité des dirigeants en première ligne

Pour Tim Rayner, responsable de la souscription et des sinistres chez Verisk, la responsabilité finale incombe au directeur général. Chaque dirigeant doit garantir une supervision adéquate, et l'IA ne change rien à cette exigence.

Si OpenAI dispose d'une assurance responsabilité des dirigeants et administrateurs, celle-ci pourrait couvrir les frais liés aux poursuites visant Sam Altman.

Un cadre juridique encore incertain

Le courtier en assurance Aon a examiné plus de 300 affaires judiciaires liées à l'IA et identifié des risques dans les polices couvrant la cybersécurité, la propriété intellectuelle et les défaillances technologiques. Aucune jurisprudence ne permet toutefois de s'appuyer sur des précédents.

Aki Hussain, directeur général de Hiscox, estime qu'il est trop tôt pour savoir comment les tribunaux américains traiteront la responsabilité des agents d'IA. L'avocat Aaron Le Marquer, du cabinet Stewarts, s'attend à ce que les futures poursuites s'inspirent des stratégies employées dans les contentieux environnementaux et ceux liés au tabac.

Un précédent à 1,5 milliard de dollars

Anthropic a conclu en juillet un accord de 1,5 milliard de dollars dans le cadre d'une action en justice pour violation du droit d'auteur. L'entreprise avertit également des « risques existentiels pour l'humanité » dans son dossier d'introduction en bourse.