Floride : une injonction pour suspendre le développement d'OpenAI

Une requête déposée lundi matin

L'État de Floride a saisi la justice pour obtenir une injonction temporaire contre OpenAI. La requête, déposée lundi matin selon Ars Technica, vise à empêcher l'entreprise de continuer à développer ce que l'État qualifie de « produit imprudent et au risque inacceptable » sans déployer de « garde-fous de sécurité validés par des tiers ».

Cette démarche s'ajoute à une action civile engagée en juin par la Floride. L'État y soutenait que ChatGPT constituait « une menace pour la sécurité publique des Floridiens », en ciblant particulièrement les publics vulnérables : les enfants, ainsi que les adultes violents ou délirants.

L'incident Hugging Face a changé la donne

La procédure initiale a été lancée avant l'incident de piratage de Hugging Face et les avertissements publics qui ont suivi sur les risques de mésalignement catastrophique. Ces événements ont nourri des appels, dans l'ensemble du secteur, à ralentir le développement et l'entraînement des modèles dits frontières.

Vendredi, OpenAI a annoncé avoir déjà interrompu l'entraînement de ses « modèles les plus capables », le temps de valider les protocoles de sécurité censés empêcher les agents d'accéder à l'Internet ouvert pendant l'entraînement.

OpenAI accusé de ne pas surveiller ses systèmes

Dans sa demande d'injonction, la Floride soutient qu'OpenAI a « montré à plusieurs reprises qu'elle était incapable de surveiller son IA, et hésitante à révéler une activité dévoyée une fois découverte ».

La requête ne précise pas les mesures techniques que l'État souhaiterait voir imposer, ni le calendrier d'une éventuelle décision de justice.