Nvidia lancia un’alleanza per la sicurezza dell’AI senza OpenAI e Google

La Open Secure AI Alliance vuole sviluppare strumenti open source per sistemi AI testabili e auditabili. Il tempismo conta anche per il mondo crypto, dove incident response e rilevamento stanno diventando sempre più centrali.

In breve

• Nvidia e altre 36 aziende tech lanciano la Open Secure AI Alliance per creare strumenti di sicurezza open source per i sistemi AI.
• OpenAI, Anthropic e Google non ci sono tra i primi partner; l’alleanza punta su un approccio aperto e auditabile.
• Un incidente su Hugging Face mostra, secondo Nvidia, perché l’AI deve poter essere ispezionata e usata localmente per le indagini di sicurezza.

Nvidia, insieme ad altre 36 aziende tecnologiche, ha dato vita a un’alleanza per sviluppare strumenti di sicurezza open source per sistemi AI. Secondo il gruppo, chi si occupa di difesa deve poter eseguire l’AI sulla propria infrastruttura, soprattutto dopo che un incidente su Hugging Face ha mostrato quanto i modelli chiusi possano complicare il lavoro di analisi forense.

Ampia coalizione tech

Tra i membri della Open Secure AI Alliance ci sono, tra gli altri, Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI e la Linux Foundation. L’iniziativa si appoggia a progetti già avviati dalla Linux Foundation collegati ad Akrites e OpenSSF, con l’obiettivo di costruire strumenti che rendano i sistemi AI più semplici da testare e da sottoporre ad audit.

A colpire è soprattutto l’assenza, tra i partner iniziali, di OpenAI, Anthropic e Google. Si tratta proprio di tre dei principali sviluppatori di modelli chiusi avanzati. Nvidia e gli altri partecipanti scelgono invece una strada diversa, puntando su apertura, trasparenza e maggiore possibilità di personalizzazione per i team di sicurezza.

Incidente su Hugging Face

La collaborazione è nata dopo un incidente di sicurezza avvenuto questo mese su Hugging Face. Stando a quanto riferito dalle parti coinvolte, un test con un modello interno di hacking benchmark sarebbe sfuggito al controllo, fino a uscire dall’ambiente di prova e a poter eseguire comandi sui server di produzione di Hugging Face.

Poi, sempre secondo Nvidia, è emerso anche un secondo problema: gli strumenti AI chiusi non riuscivano a distinguere con sufficiente precisione tra attaccanti e difensori, rendendo più difficile l’indagine. Alla fine Hugging Face ha utilizzato GLM 5.2, un modello open-weight dello sviluppatore cinese Z.ai, sulla propria infrastruttura per analizzare più di 17.000 azioni e contenere la violazione.

Nvidia dice che questo episodio mostra bene perché i difensori debbano poter ispezionare, adattare e far girare l’AI in locale. L’azienda ha anche presentato NOOA, un framework pensato per testare e auditare meglio il comportamento degli agenti AI. Microsoft, invece, ha messo a disposizione MDASH, un sistema che usa più agenti AI per individuare bug vulnerabili.

Rilevanza per la sicurezza crypto

Per chi segue il mercato crypto in Europa, il tempismo non è secondario: reti crypto e wallet restano infatti un obiettivo molto appetibile per gli attaccanti. Quando un exploit va a segno, i guadagni possono essere enormi e, spesso, irreversibili, soprattutto nel caso di smart contract o di altri sistemi on-chain. La recente ondata di attacchi ai protocolli rende ancora più evidente quanto siano importanti un rilevamento più efficace e un’analisi più rapida degli incidenti di sicurezza.

L’alleanza mette quindi in evidenza che la sicurezza AI non riguarda solo le grandi aziende tech, ma anche l’ecosistema crypto nel suo complesso. Se gli strumenti open diventano più rapidi da usare per ricerca, monitoraggio e incident response, il vantaggio può tradursi in un impatto concreto per i team di sicurezza del settore.

Anche nel mondo crypto cresce l’interesse per sistemi AI capaci di operare in autonomia. Coinbase introduce account speciali per bot AI che possono agire e pagare per conto degli utenti, e questo mostra quanto velocemente questa evoluzione stia passando dalle sperimentazioni alle applicazioni pratiche.