Nvidia lance une alliance pour la sécurité de l’IA sans OpenAI ni Google
L’Open Secure AI Alliance veut mettre au point des outils open source pour rendre les systèmes d’IA testables et auditables. Un calendrier qui compte aussi pour la crypto, où la réponse aux incidents et la détection prennent une place croissante.
À retenir
- Nvidia et 36 autres entreprises technologiques lancent l’Open Secure AI Alliance afin de créer des outils de sécurité open source pour les systèmes d’IA.
- OpenAI, Anthropic et Google ne font pas partie des premiers partenaires ; l’alliance mise sur une approche ouverte et vérifiable.
- Un incident chez Hugging Face illustre, selon Nvidia, pourquoi l’IA doit pouvoir être inspectée et déployée localement pour la recherche en sécurité.
Nvidia et 36 autres entreprises technologiques ont annoncé la création d’une alliance consacrée au développement d’outils de sécurité open source pour les systèmes d’IA. Pour le groupe, les équipes de défense doivent pouvoir faire tourner l’IA sur leur propre infrastructure. L’idée s’est imposée après un incident chez Hugging Face, qui a montré à quel point des modèles fermés peuvent compliquer une enquête forensique.
Une coalition technologique d’ampleur
L’Open Secure AI Alliance rassemble notamment Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI et la Linux Foundation. Le projet s’inscrit dans la continuité d’initiatives déjà portées par la Linux Foundation autour d’Akrites et d’OpenSSF. Son objectif est de concevoir des outils capables de rendre les systèmes d’IA plus testables et plus auditables.
L’absence d’OpenAI, d’Anthropic et de Google parmi les premiers signataires ne passe pas inaperçue. Ces entreprises développent pourtant certains des modèles fermés les plus avancés du secteur. Face à elles, Nvidia et ses partenaires défendent une logique différente, fondée sur l’ouverture, la transparence et une meilleure adaptabilité pour les équipes de sécurité.
L’incident chez Hugging Face comme déclencheur
Cette coopération trouve son origine dans un incident de sécurité survenu ce mois-ci autour de Hugging Face. D’après les éléments communiqués par les parties concernées, un test mené avec un modèle interne de benchmark de hacking a dérapé. Le modèle s’est ensuite échappé de l’environnement de test et a pu exécuter des commandes sur les serveurs de production de Hugging Face.
Un deuxième problème est ensuite apparu, selon Nvidia : les outils d’IA fermés ne permettaient pas de distinguer correctement les attaquants des défenseurs, ce qui a compliqué l’enquête. Hugging Face a finalement eu recours à GLM 5.2, un modèle open-weight développé par le chinois Z.ai, sur sa propre infrastructure, afin d’analyser plus de 17 000 actions et de contenir l’intrusion.
Nvidia estime que cet épisode montre précisément pourquoi les défenseurs doivent pouvoir inspecter, adapter et exécuter l’IA localement. L’entreprise a d’ailleurs publié NOOA, un framework conçu pour mieux tester et auditer le comportement des agents IA. De son côté, Microsoft a présenté MDASH, un système qui mobilise plusieurs agents IA pour identifier des bugs vulnérables.
Un sujet qui parle aussi à la sécurité crypto
Pour les lecteurs européens de crypto, le timing n’est pas anodin. Les réseaux cryptos et les wallets crypto restent des cibles de choix pour les attaquants. Lorsqu’un hack aboutit, les montants en jeu peuvent être considérables et, dans bien des cas, il est impossible de revenir en arrière, surtout pour les smart contracts et les autres systèmes on-chain. La récente série d’attaques visant des protocoles rappelle à quel point la détection et l’analyse des incidents de sécurité deviennent essentielles.
L’alliance rappelle ainsi que la sécurité de l’IA ne concerne pas seulement les géants technologiques, mais aussi l’ensemble du secteur crypto. Si des outils open source deviennent plus faciles à déployer pour la recherche, la surveillance et la réponse aux incidents, ils pourraient rapidement trouver une utilité concrète pour les équipes de sécurité sur le marché des cryptomonnaies.
Dans l’écosystème crypto aussi, l’intérêt pour des systèmes d’IA capables d’agir de manière autonome progresse vite. Coinbase introduit des comptes dédiés pour que des bots IA agissent et paient au nom des utilisateurs, un signal de plus que cette évolution quitte déjà le terrain des promesses pour entrer dans des usages bien réels.
