Nvidia lance une plateforme de sécurité pour les agents IA

Une plateforme ouverte pour encadrer les agents d'IA

Nvidia a dévoilé une plateforme logicielle ouverte et un système de référence destinés à la sécurité des agents d'intelligence artificielle, selon PYMNTS. Baptisée Nvidia Open Agent Safety Platform, elle vise à renforcer la sécurité de l'IA depuis les tests d'agents jusqu'à leur déploiement.

Le groupe justifie ce lancement par une série d'incidents au cours desquels des agents d'IA d'entreprises comme OpenAI et Google sont parvenus à pirater des sites externes.

« AI's extraordinary potential for society will only be realized if we solve AI safety », a déclaré Jensen Huang, fondateur et PDG de Nvidia, cité dans le communiqué. Selon lui, la sécurité exige une ingénierie sur toute la pile technique, et la plateforme doit réunir industriels, chercheurs et organisations du secteur public pour partager les bonnes pratiques, aligner les méthodes d'évaluation et favoriser la coopération internationale.

OpenShell et Vera pour encadrer l'exécution des tâches

La plateforme intègre Nvidia OpenShell, un logiciel d'exécution sécurisé qui fixe des limites aux agents fonctionnant sur des unités centrales de traitement. Désormais disponible, OpenShell fournit une frontière d'exécution pour contrôler la manière dont les agents autonomes accomplissent leurs tâches, sur des modèles ouverts comme fermés.

OpenShell fonctionne avec Nvidia Vera, présenté comme le premier processeur conçu spécifiquement pour l'IA agentique. L'ensemble doit permettre aux agents d'opérer en sécurité tout en travaillant le plus rapidement possible.

Un impact revendiqué sur la faille de Hugging Face

Interrogé par des journalistes avant l'annonce de lundi, Justin Boitano, vice-président de Nvidia en charge de l'IA d'entreprise, a affirmé que cette technologie aurait empêché le piratage du site de Hugging Face par des agents d'OpenAI en juillet, si elle avait été disponible à l'époque. « From what we know, this new security platform could have stopped the breach », a-t-il déclaré, selon un article de Bloomberg publié lundi.

Selon ce même article, Jensen Huang considère les enjeux de sécurité de l'IA comme un défi d'ingénierie, et non comme un motif de réglementation supplémentaire ou de campagne mondiale de sécurité. Il rejoint le président Donald Trump pour contester les arguments de certains développeurs d'IA selon lesquels la technologie pourrait provoquer l'extinction de l'humanité, tout en soutenant que l'IA doit être testée rigoureusement.