Nvidia lance une plateforme de sécurité pour agents IA

Une plateforme pour encadrer les agents autonomes

Nvidia a présenté lundi 28 septembre l'Open Agent Safety Platform, un dispositif qui combine des logiciels open source et une surveillance reposant sur le matériel. Objectif : repérer, contenir et interrompre les agents autonomes qui sortent des limites fixées. Selon PYMNTS, plus de 100 organisations participent déjà à ce projet, parmi lesquelles Anthropic, JPMorganChase, Microsoft, Salesforce et SAP.

L'enjeu dépasse la seule performance des agents. À mesure que les entreprises passent de l'analyse de données à l'exécution de transactions, à la mise à jour de dossiers fournisseurs et à l'interaction avec leurs systèmes, la question de ce qu'un agent peut faire devient indissociable de celle de ce qu'il est autorisé à faire.

Un déplacement du risque vers le contrôle des permissions

Pour les directions financières et les responsables de la sécurité des systèmes d'information, la sécurité de l'IA s'installe dans l'infrastructure qui conditionne l'exécution autonome de décisions. Elle n'est plus un garde-fou appliqué après le déploiement.

Nvidia cherche ainsi à peser sur un terrain plus structurant que la seule performance des agents : les mécanismes par lesquels les entreprises accordent et font respecter une autorité aux machines. Un agent peut aujourd'hui être autorisé à récupérer des factures, négocier des conditions avec des fournisseurs, mettre à jour des enregistrements ou déclencher des paiements. Or la capacité à autoriser ces actions progresse plus vite que celle à gouverner leurs intersections.

Un coût d'infrastructure et une piste d'audit

La sécurité de l'IA devient un enjeu budgétaire : dès lors qu'un agent peut déplacer des fonds ou modifier des dossiers fournisseurs, le risque cyber se transforme en risque financier. Arrêter un agent indésirable ne suffit pas, car récupérer un paiement à moitié exécuté relève d'une autre opération. Par ailleurs, l'open source n'est pas gratuit : des garde-fous plus solides impliquent des coûts d'infrastructure, d'intégration et de supervision, en contrepartie d'une automatisation plus sûre. La traçabilité devient un avantage compétitif, les entreprises devant pouvoir prouver ce que les agents ont fait, pourquoi ils y étaient autorisés et quand les contrôles sont intervenus.

« Just like you would not let a person run around your company accessing anything without any controls, you need controls and security for your digital agents », a déclaré Michael Dell, fondateur, PDG et président de Dell Technologies, dans une publication sur X.

Des limites qui subsistent

L'annonce de Nvidia ne supprime pas les risques liés à l'IA autonome. L'entreprise n'a pas démontré que sa plateforme peut empêcher toute action financièrement dommageable, et certaines fonctionnalités restent soumises à développement et à disponibilité. Andrew Ng, responsable des paiements et de la finance embarquée chez Tungsten Automation, a expliqué à PYMNTS, pour l'édition de septembre de la série « What's Next in Payments Series: The Fall Draft », que les paiements illustrent particulièrement bien les limites du concept : l'argent est difficile à récupérer une fois envoyé, et une transaction mal exécutée peut entraîner des conséquences en matière de fraude, de sanctions et de conformité.

Adoption et usages en entreprise

Un rapport de septembre intitulé « AI at Work: Why Deeper Enterprise Use Produces Stronger Returns » indique que les 60 entreprises américaines interrogées utilisent l'IA dans sept des huit fonctions métier en moyenne, dont les paiements, la finance, le développement produit et l'expérience client. Pourtant, seuls 20 % des 437 déploiements examinés sont intégrés au travail régulier d'une fonction.

Le rapport « Tech on Tech: How the Technology Sector Is Powering Agentic AI Adoption » de PYMNTS Intelligence relève un écart croissant de préparation à l'IA agentique entre les entreprises technologiques et celles des biens et services : 75 % des premières se déclarent très familières avec cette technologie, contre 33 % des entreprises de biens et 38 % de celles de services. Des recherches de PYMNTS Intelligence montrent par ailleurs que l'adoption de l'IA est souvent la plus forte dans des activités peu visibles pour les clients, le traitement du chiffre d'affaires arrivant en tête des cas d'usage dans les services financiers à 65 %, devant l'évaluation du risque de crédit et la prévision des ventes, à 60 % chacune.