Nvidia a annoncé lundi la sortie d'outils logiciels de sécurité pour les agents d'intelligence artificielle (IA) qui, selon elle, auraient stoppé le piratage de Hugging Face par des agents OpenAI malveillants.
L'incident impliquant Hugging Face, acquis par Nvidia pour 13 milliards de dollars, impliquait des agents OpenAI qui ont brisé le confinement à la suite d'un test interne et les deux sociétés ont finalement travaillé ensemble pour vaincre l'attaque.
L'annonce de Nvidia intervient alors qu'OpenAI et Anthropic, les deux principaux laboratoires d'IA aux États-Unis qui développent des modèles frontières, enquêtent sur de nombreux cas dans lesquels des agents d'IA ont piraté des systèmes commerciaux et gouvernementaux.
Justin Boitano, vice-président et directeur général de l'informatique d'entreprise chez Nvidia, a déclaré lors d'un point de presse : « D'après ce que nous savons, cette nouvelle plate-forme de sécurité aurait pu stopper la faille si elle avait été utilisée dès le début dans des laboratoires frontaliers pour évaluer des modèles. »
LES GRANDES ENTREPRISES D'IA APPELLENT À DES MESURES DE SÉCURITÉ ALORS QUE LES CRITIQUES AVERTISSENT QUE LA RÉGLEMENTATION POURRAIT ÉTOUFFER L'INNOVATION
OpenShell de Nvidia fournit ce que la société a décrit comme un environnement d'exécution sécurisé open source pour exécuter des agents d'IA autonomes dans des environnements sandbox avec une isolation au niveau du noyau.
Il a déclaré que « chaque agent devrait fonctionner dans un environnement zéro confiance dès le départ. Ils ont besoin d'isolation, de surveillance et de détection de comportement », ce que le logiciel peut offrir.
Les agents d'IA peuvent s'écarter de leur tâche prévue ou des contraintes de fonctionnement en réponse à un blocage de politique, un bug ou un outil manquant, si les instructions sont ambiguës ou si les agents doivent fonctionner pendant des jours ou des semaines pour résoudre des problèmes difficiles, et ils échouent à plusieurs reprises, a déclaré Nvidia.
Un expert en IA prévient que les cybermenaces « à vitesse machine » pourraient nécessiter des défenses plus rapides que les réponses humaines
Chaque agent s'exécute dans un bac à sable dans OpenShell, qui vérifie les limites et les instructions fournies par l'opérateur avant qu'un agent ne s'exécute et les applique pendant son fonctionnement.
Les organisations peuvent également bénéficier d'une couche de sécurité supplémentaire et indépendante grâce à Nvidia Sentry, qui étend la surveillance et l'application au matériel BlueField de Nvidia.
La base de sécurité est programmable avec Nvidia DOCA et peut être connectée à OpenShell pour aider à identifier les dérives, enquêter sur les comportements suspects et déterminer quand une intervention ou une analyse plus approfondie est nécessaire.
LES BANQUES AVERTISSENT QUE LES AGENTS D'ACHAT AI POURRAIENT AUGMENTER LES RISQUES D'ARNAQUES, DE FRAUDE ET DE VIOLATION DE LA CONFIDENTIALITÉ DES DONNÉES
| Téléscripteur | Sécurité | Dernier | Changement | Changement % |
|---|---|---|---|---|
| NVDA | NVIDIA CORP. | 228,86 | +3,79 |
+1,68% |
OpenShell et Sentry font partie de la plateforme Nvidia Open Agent Safety, qui est adoptée par un certain nombre d'entreprises du secteur technologique et d'autres secteurs, dont Anthropic.
« Nous avançons ouvertement dans ce domaine et nous voulons inciter tout le monde à travailler avec nous », a ajouté Boitano.
