Anthropic propose un projet de loi sur la sécurité de l'IA

Anthropic a préparé un projet de loi sur la sécurité de l'intelligence artificielle qu'il espère voir le Congrès examiner, selon TechCrunch. Le texte prévoit des cas précis dans lesquels la mise à disposition d'un modèle pourrait être empêchée.

Un seuil de 50 morts et d'un milliard de dollars de dégâts

Le blocage serait justifié par un « risque prévisible et imminent » : plus de 50 personnes menacées de mort, ou plus d'un milliard de dollars de dommages matériels. Ce danger devrait découler de la création ou de la diffusion d'une arme biologique, du contournement des contrôles du développeur par le modèle, ou d'une cyberattaque.

Ces critères rappellent ceux d'une loi californienne récemment adoptée, le Senate Bill 53, qui range ces scénarios parmi les « risques catastrophiques ».

Des évaluateurs privés enregistrés auprès du Commerce

L'analyse du potentiel de catastrophe reposerait sur des « évaluateurs indépendants » enregistrés auprès du département du Commerce. Ces auditeurs pourraient être rémunérés par les laboratoires d'IA eux-mêmes, à condition que « le paiement ne dépende pas des résultats de l'évaluation ».

Le texte ne précise pas comment ce dispositif garantirait que les paiements n'influencent pas le verdict. Demis Hassabis, président de DeepMind, avait suggéré il y a quelques mois qu'un organe de régulation autonome de l'IA s'inspire de la Financial Industry Regulatory Authority (FINRA) du secteur financier.

72 heures pour alerter, puis un juge

Si les évaluateurs concluent à un risque catastrophique imminent, ils disposeraient de 72 heures pour saisir le département du Commerce. Celui-ci devrait ensuite demander à un juge de Washington de suspendre la sortie du modèle. Le projet interdit expressément à toute agence fédérale de bloquer elle-même la distribution.

Anthropic n'a pas répondu dans l'immédiat à la demande de commentaire de TechCrunch, mais un porte-parole a confirmé le texte à Politico. « Ce projet reprend les propositions de l'Advanced AI Framework d'Anthropic, que nous défendons auprès des élus fédéraux et des États depuis juin », a-t-il déclaré.

Des scénarios éloignés des incidents récents

Les risques décrits dans le texte s'écartent des incidents qui préoccupent récemment le secteur. Au-delà des craintes de pertes humaines, la principale inquiétude porte sur le piratage par des agents autonomes : une série de cas où des programmes d'IA auraient désobéi à leurs opérateurs et attaqué des sites sur l'internet ouvert.

Les laboratoires, qui alertent régulièrement sur les dangers de leur technologie, restent largement hostiles à un contrôle gouvernemental obligatoire. Ils privilégient un système volontaire d'évaluateurs intégrés, présentés comme des observateurs tiers « neutres » placés au sein des organisations d'IA.

La proposition d'Anthropic va toutefois un peu plus loin que d'autres prises de position du secteur, notamment celle de Nvidia, dont le dirigeant Jensen Huang a récemment soutenu que l'industrie de l'IA n'avait besoin d'aucune nouvelle loi.