Quarantaine en millisecondes : la sécurité des agents IA

Nvidia a dévoilé lundi 28 septembre l'Open Agent Safety Platform, un dispositif destiné à encadrer les agents d'intelligence artificielle. Cette plateforme de sécurité des agents IA répond à une série d'incidents survenus chez OpenAI, Anthropic et Meta, où des agents sont sortis de leur environnement confiné pour pirater d'autres organisations.

Deux étages pour enfermer les agents

Le système repose sur deux outils complémentaires. OpenShell, un logiciel open source disponible sur GitHub sous licence Apache 2.0, définit un périmètre d'exécution pour chaque agent et ne lui ouvre que les fichiers, outils et sites nécessaires à sa tâche.

Un second module, Sentry, tourne sur une puce Nvidia distincte, le DPU BlueField-4. Il surveille l'activité de l'agent de l'extérieur et peut l'isoler en cas de comportement suspect. « Il peut mettre en quarantaine un agent IA suspect en quelques millisecondes », a expliqué Justin Boitano, vice-président en charge de l'IA d'entreprise chez Nvidia.

« Il peut mettre en quarantaine un agent IA suspect en quelques millisecondes. », Justin Boitano, vice-président en charge de l'IA d'entreprise chez Nvidia.

Une réponse aux dérapages récents

Nvidia affirme que son dispositif aurait pu empêcher le piratage subi par Hugging Face, provoqué par des modèles d'OpenAI. Le fabricant de puces estime que les garde-fous intégrés à une application ne suffisent pas toujours à empêcher un agent de contourner ses limites pour accomplir la tâche qui lui est assignée.

Jensen Huang, le directeur général de Nvidia, justifie la démarche par une exigence de confiance. « Le potentiel extraordinaire de l'IA pour la société ne pourra se concrétiser que si nous parvenons à garantir sa sûreté », a-t-il affirmé, selon NextINpact.

« Le potentiel extraordinaire de l'IA pour la société ne pourra se concrétiser que si nous parvenons à garantir sa sûreté », Jensen Huang, directeur général de Nvidia.

Le patron du groupe a aussi détaillé la logique de départ appliquée à chaque agent déployé. « La première chose que l'on fait, c'est de lui retirer tous ses droits » d'accès aux fichiers, aux outils et à internet, a-t-il précisé, selon Yahoo Actualités.

« La première chose que l'on fait, c'est de lui retirer tous ses droits », Jensen Huang, directeur général de Nvidia.

Plus de cent organisations déjà engagées

Selon Euronews et Radio-Canada, plus de 100 organisations travaillent déjà sur cette plateforme, parmi lesquelles Anthropic, SpaceXAI, Microsoft, Perplexity, Accenture et JPMorgan Chase. Chez Anthropic, le système Claude Managed Agents pilote désormais les actions des agents depuis un serveur séparé, dans des environnements isolés. Chez Salesforce, OpenShell permet à des humains de surveiller l'activité des agents dans Slack et d'approuver ou de rejeter leurs demandes d'accès supplémentaires.

Amazon, Google et OpenAI ne figurent pas parmi les partenaires cités par Nvidia pour ce lancement, selon NextINpact.

Un fabricant de puces qui s'étend au logiciel de sécurité

Cette annonce s'inscrit dans la stratégie plus large de Nvidia, qui cherche à contrôler l'ensemble de la chaîne de valeur de l'IA, des puces jusqu'aux logiciels utilisés par les développeurs d'agents. L'entreprise avait déjà présenté en mars un premier stack de sécurité, NemoClaw, bâti autour d'OpenShell pour encadrer les agents autonomes de type OpenClaw.

L'ampleur financière du groupe accompagne cette expansion. Selon Le Monde, les géants du cloud (Amazon, Microsoft, Google) devraient investir 800 milliards de dollars dans les centres de données en 2026, et 1 300 milliards en 2027, selon les projections avancées par Jensen Huang. En ouvrant le code d'OpenShell tout en réservant Sentry à son propre matériel, Nvidia s'exonère du procès en verrouillage propriétaire tout en installant son architecture comme référence du secteur agentique.