Nvidia lance une plateforme de sécurité pour encadrer les agents IA

Une plateforme qui combine logiciel et matériel

Nvidia a présenté l'Open Agent Safety Platform, une offre qui associe des restrictions logicielles à un mécanisme de surveillance matériel indépendant, selon PYMNTS. L'objectif : permettre aux entreprises d'interrompre un agent autonome même lorsque le logiciel qui le pilote ne parvient plus à le maintenir dans les limites fixées.

Pour les banques et les prestataires de paiement qui testent des agents capables de déclencher des transactions ou d'accéder à des données sensibles, cette approche fournit un cadre permettant d'appliquer les autorisations en dehors du modèle d'IA lui-même.

OpenShell et Sentry, deux briques distinctes

Le logiciel OpenShell crée un environnement contrôlé autour de l'agent, trace ses actions et fait respecter les règles de fonctionnement. Sentry, un dispositif de surveillance séparé exécuté sur le matériel de traitement de données BlueField-4 de Nvidia, contrôle le comportement de manière indépendante.

Selon le communiqué, Sentry peut mettre en quarantaine et arrêter un agent en quelques millisecondes s'il tente de franchir sa frontière logicielle. Cette séparation est au cœur de l'architecture : les opérateurs définissent les fichiers, réseaux, outils et identifiants auxquels l'agent a accès, OpenShell vérifie et applique ces limites, et la couche matérielle peut vérifier l'identité de l'agent ainsi que son autorité déléguée tout en conservant un historique de ses interactions et de ses décisions d'accès.

Un enjeu de gouvernance pour les établissements financiers

Plus de 100 organisations travaillent avec les technologies de la plateforme, parmi lesquelles Anthropic, Microsoft, Salesforce, SAP, IBM et Palo Alto Networks. Citi et JPMorganChase collaborent avec Nvidia sur des technologies open source partagées de sécurité des agents, précise le communiqué. Leur participation ne signifie pas que l'une ou l'autre banque a déployé la plateforme complète en production.

L'exemple de SAP montre comment ces contrôles peuvent s'articuler dans une entreprise. Son environnement d'exécution Joule Studio aide à déterminer si une action doit être engagée en vérifiant l'autorisation métier, le rôle de l'employé et le processus concerné, tandis qu'OpenShell encadre ce que l'agent peut réellement exécuter et consulter. SAP travaille à relier ces frontières techniques aux systèmes d'autorisation et aux pistes d'audit de l'entreprise.

Deux contrôles complémentaires

Prenons un agent de trésorerie hypothétique autorisé à organiser des paiements inférieurs à 100 000 $. Le système métier devrait vérifier le montant, le destinataire et les approbations requises. De son côté, l'environnement d'exécution pourrait limiter l'agent à une interface de paiement appliquant ces exigences, en bloquant l'accès à une voie non restreinte.

Les deux contrôles seraient nécessaires : un agent peut rester dans ses permissions techniques tout en proposant un paiement inapproprié, et une instruction de paiement valide peut devenir dangereuse si l'agent dispose d'un accès trop large aux comptes ou aux identifiants.

Vers une gouvernance des agents inspirée du zéro confiance

L'architecture dessine une gouvernance des agents proche de la cybersécurité en mode zéro confiance : l'identité et les permissions font l'objet d'un examen continu, et l'application des règles fonctionne indépendamment du raisonnement de l'agent. Pour les institutions financières, l'avantage potentiel réside dans une confiance accrue pour déléguer des tâches strictement délimitées, tout en gardant la capacité d'inspecter et d'interrompre l'exécution. Cette possibilité dépend toutefois de la rigueur avec laquelle chaque établissement définit et relie ses contrôles.

Le rapport de PYMNTS Intelligence « Will the 2026 Shopping Season Go Agentic? » a établi en septembre que près de 132 millions d'adultes aux États-Unis ont acheté un produit de détail avec l'aide de l'IA, et que 59 % des achats assistés par IA se terminent encore sur Amazon. Les consommateurs continuent de maîtriser l'achat et accordent davantage leur confiance aux portefeuilles, aux banques et aux réseaux de cartes qu'aux plateformes d'IA. Ces constats suggèrent une opportunité pour les prestataires de paiement, celle de transformer le recours croissant à l'IA pour la découverte de produits en transactions adossées à une autorité claire et à des contrôles applicables.