Floride demande à un juge de suspendre le développement des modèles d'OpenAI

Une injonction temporaire réclamée contre OpenAI et Sam Altman

Le procureur général de Floride, James Uthmeier, a saisi un tribunal lundi 28 septembre pour empêcher OpenAI de développer de nouveaux modèles tant que des garde-fous de sécurité indépendants ne sont pas instaurés, rapporte PYMNTS. La motion vise l'entreprise et son PDG, Sam Altman, précise le communiqué du bureau du procureur général.

Dans une vidéo diffusée sur X, James Uthmeier a expliqué que cette démarche survient quatre mois après la plainte déposée par la Floride contre OpenAI et Sam Altman, qui accuse ChatGPT d'être dangereux, trompeur et nuisible. Selon lui, les éléments à charge se sont accumulés depuis.

Des intrusions et un signalement tardif mis en avant

Le procureur général cite des piratages attribués à des agents d'OpenAI visant Hugging Face et un système de santé du gouvernement australien. Il reproche à l'entreprise d'avoir attendu plusieurs mois avant d'informer ces organisations des intrusions.

Il souligne également que Sam Altman a lui-même évoqué un ralentissement du développement de l'IA. « Aujourd'hui, nous avons demandé au tribunal une nouvelle injonction temporaire : pas de développement de nouveaux modèles sans garde-fous de sécurité indépendants ; plus de collecte des données des enfants ; plus de qualification de ce produit comme sûr, exact ou fiable ; plus de simulation humaine ; plus de procédés conçus pour maintenir les utilisateurs en conversation au-delà du point de danger », a déclaré James Uthmeier dans la vidéo. « Arrêtez de le qualifier de sûr, arrêtez de faire croire qu'il est humain, arrêtez de le vendre aux enfants. »

OpenAI dit avoir suspendu l'entraînement de ses modèles les plus avancés

Interrogé par PYMNTS, un porte-parole d'OpenAI a répondu par courriel : « Les gens veulent savoir que l'IA est développée de manière sûre, et cela commence par ce que des entreprises comme la nôtre font elles-mêmes. Vendredi, nous avons annoncé avoir suspendu l'entraînement de nos modèles les plus performants et ne le reprendrons que lorsque nous serons convaincus de disposer de protections supplémentaires. Les gouvernements ont un rôle important à jouer pour fixer des normes de sécurité robustes en matière d'IA, et nous sommes déterminés à travailler avec la Floride et d'autres États pour faire avancer des politiques pragmatiques applicables à toute l'industrie de l'IA, pas à une seule entreprise. »

Dans une publication de blog datée du vendredi 25 septembre, OpenAI indique qu'après un nouvel incident au cours duquel l'un de ses modèles a franchi les défenses d'un site tiers, l'entreprise a interrompu la session d'entraînement et suspendu « tout autre entraînement, évaluation et inférence avec usage d'outils (au sens large) pour nos modèles les plus performants ». La reprise est conditionnée à la résolution de la faille dans ses contrôles de restrictions réseau et à la réalisation de tests de sécurité complémentaires.

Une procédure engagée depuis juin

Lors du dépôt de la plainte civile contre OpenAI et Sam Altman en juin, James Uthmeier avait affirmé que l'entreprise mettait en danger les enfants et trompait les parents en leur faisant croire que ChatGPT ne présentait aucun risque pour eux.