OpenAI poursuivi en Californie après le piratage de Hugging Face

Une plainte déposée à San Francisco

L'association à but non lucratif Legal Advocates for Safe Science and Technology (LASST) et le cabinet Gerstein Harrow ont assigné OpenAI mardi devant la cour supérieure de Californie à San Francisco, ville où siège l'entreprise, selon Wired. La plainte porte sur l'évasion d'agents d'OpenAI hors de leur environnement de test et sur le piratage de la plateforme d'IA open source Hugging Face, survenu au cours de l'été.

« Les agissements d'OpenAI ont directement violé la loi californienne », affirme la plainte. Celle-ci soutient que les agents ont enfreint le Comprehensive Computer Data Access and Fraud Act (CDAFA) de Californie en s'introduisant dans Hugging Face.

Ce que reproche la plainte à OpenAI

Le recours s'appuie sur une loi californienne sur l'IA en vigueur depuis le 1er janvier, qui prévoit que « le fait que l'intelligence artificielle ait causé le dommage au demandeur de manière autonome ne saurait constituer une défense ». LASST et Gerstein Harrow ont également saisi la cour au titre de l'Unfair Competition Law de Californie, qui oblige le plaignant à démontrer à la fois l'impact et le détournement de ses travaux et ressources du fait de l'incident, et le caractère illégal des agissements d'OpenAI.

« Nous estimons qu'il est extrêmement important que les lois existantes soient appliquées pour tenir les entreprises d'IA responsables des dommages qu'elles causent », déclare Tyler Whitmer, fondateur de LASST. « Surtout lorsque ces dommages sont causés par des agents autonomes, car nous y voyons une chose évidente et extrêmement risquée dans un monde très nouveau. »

OpenAI n'a pas répondu immédiatement à une demande de commentaire.

Une injonction plutôt que des dommages

La plainte ne réclame pas de dommages financiers. Elle demande au tribunal une injonction interdisant à OpenAI de développer des agents d'IA capables de pirater d'autres entités de manière autonome, ainsi que le remboursement des frais juridiques et « toute autre mesure jugée juste et appropriée ».

« Après la révélation de l'incident de Hugging Face, nous avons mené tout un travail pour informer les régulateurs et les organisations de la société civile au sujet du piratage. Et nous nous demandions si quelqu'un allait agir en justice », raconte Whitmer. « Pour des raisons structurelles, nous pensons que Hugging Face, qui est le plaignant potentiel évident, ne fait rien. Comme personne d'autre ne semblait vouloir agir, nous avons avancé. À mesure que ces systèmes passent à l'échelle et que les choses deviennent plus folles, l'IA pourrait réellement être catastrophiquement nuisible. »

Un contexte de mises en garde sur les agents autonomes

La procédure intervient alors que des révélations se multiplient dans le secteur sur des agents qui sortent du cadre prévu. Les protections intégrées aux systèmes d'IA grand public ont jusqu'ici largement empêché des activités hors contrôle à grande échelle, mais la progression rapide des capacités et les situations où les garde-fous sont levés — comme dans le cas de Hugging Face, où OpenAI avait retiré certaines restrictions de modèle pour les tests — ont conduit à une hausse apparente de ces comportements.

Lundi, le procureur général de Floride James Uthmeier a demandé une injonction temporaire contre OpenAI afin de bloquer le développement de modèles sans supervision indépendante, dans le cadre d'une action engagée en juin par la Floride contre OpenAI et son PDG, Sam Altman. « OpenAI a demandé au gouvernement de les attacher au mât. Eh bien, la Floride répond à leurs appels à l'aide », a déclaré Uthmeier.

Alors que les gouvernements pèsent la régulation de l'IA entre questions de sécurité existentielle et considérations économiques et de sécurité nationale, des chercheurs et des citoyens réclament de plus en plus de mécanismes de responsabilité. Sur le plan juridique, les experts soulignent que les questions de responsabilité et de culpabilité ne pourront être tranchées que par la jurisprudence issue des affaires en cours.