Bernie Sanders et Greg Casar proposent une interdiction permanente de la superintelligence artificielle

Un gel immédiat en attendant des règles de sécurité

Le sénateur Bernie Sanders et le représentant Greg Casar ont présenté, le 23 septembre, une proposition de loi visant à proscrire de façon permanente le développement et l'exploitation de la superintelligence artificielle, rapporte The Decoder. Le texte, baptisé Ban Artificial Superintelligence Act, prévoit en outre de suspendre sans délai les travaux sur les systèmes d'IA avancés, le temps qu'une nouvelle agence fédérale établisse des règles de sécurité claires.

Selon Bernie Sanders, les modèles actuels sont déjà capables de pirater des systèmes informatiques, de concevoir de nouveaux types de virus et de produire eux-mêmes de l'IA. Il souligne que les entreprises injectent des centaines de milliards de dollars dans cette technologie malgré des risques connus.

« L'IA représente une menace existentielle pour l'humanité, et une poignée de milliardaires de la tech ne devrait pas pouvoir écrire ses propres règles », affirme le sénateur, cité dans l'article.

Une agence au niveau du cabinet et des sanctions lourdes

Le projet de loi réclame la création d'une agence dédiée à l'IA, placée au niveau du cabinet. Les entreprises qui enfreindraient la loi s'exposeraient à une dissolution forcée.

Pour les personnes physiques, les peines pourraient atteindre vingt ans d'emprisonnement, un niveau comparable à celui prévu pour le développement illégal d'armes nucléaires.

Un volet international

Le texte pousse également à la conclusion d'accords internationaux destinés à empêcher le développement de la superintelligence à l'échelle mondiale. Des experts américains et chinois ont récemment avancé des initiatives de régulation comparables.

De son côté, Greg Casar avertit que la superintelligence artificielle pourrait tuer d'innombrables personnes, alors que Donald Trump souhaite accélérer son développement.