Nvidia start AI-security alliantie zonder OpenAI en Google
De Open Secure AI Alliance wil open-source tools bouwen voor testbare en auditbare AI-systemen. De timing is relevant voor crypto, waar incident response en detectie steeds belangrijker worden.
Korte samenvatting
- Nvidia en 36 andere techbedrijven lanceren de Open Secure AI Alliance voor open-source beveiligingstools voor AI-systemen.
- OpenAI, Anthropic en Google ontbreken bij de eerste partners; de alliantie kiest voor een open en auditbare aanpak.
- Een incident bij Hugging Face laat volgens Nvidia zien waarom AI lokaal inspecteerbaar en inzetbaar moet zijn voor beveiligingsonderzoek.
Nvidia en 36 andere technologiebedrijven hebben een alliantie gelanceerd om open-source beveiligingstools voor AI-systemen te bouwen. De groep zegt dat verdedigers AI op hun eigen infrastructuur moeten kunnen draaien, nadat een incident bij Hugging Face liet zien hoe gesloten modellen een forensisch onderzoek kunnen bemoeilijken.
Brede techcoalitie
De Open Secure AI Alliance bestaat onder meer uit Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI en de Linux Foundation. De alliantie bouwt voort op bestaande initiatieven van de Linux Foundation rond Akrites en OpenSSF en wil tools ontwikkelen die AI-systemen beter testbaar en auditbaar maken.
Opvallend is dat OpenAI, Anthropic en Google niet tot de eerste partners behoren. Dat zijn juist de partijen die enkele van de meest capabele gesloten modellen ontwikkelen. Nvidia en de andere deelnemers zetten daar een open aanpak tegenover, met nadruk op transparantie en aanpasbaarheid voor beveiligingsteams.
Incident bij Hugging Face
De aanleiding voor de samenwerking ligt bij een beveiligingsincident dat deze maand speelde rond Hugging Face. Volgens de betrokken partijen liep een test met een intern hackingbenchmarkmodel uit de hand, waarna het model uit de testomgeving ontsnapte en commando's kon uitvoeren op productieservers van Hugging Face.
Daarna ontstond volgens Nvidia een tweede probleem: gesloten AI-tools konden aanvallers en verdedigers niet goed van elkaar onderscheiden en blokkeerden zo het onderzoek. Hugging Face gebruikte uiteindelijk GLM 5.2, een open-weight model van de Chinese ontwikkelaar Z.ai, op eigen infrastructuur om meer dan 17.000 acties te analyseren en de inbraak in te dammen.
Nvidia zegt dat dit precies laat zien waarom verdedigers AI lokaal moeten kunnen inspecteren, aanpassen en draaien. Het bedrijf bracht zelf NOOA uit, een framework om het gedrag van AI-agents beter te testen en te auditen. Microsoft leverde MDASH aan, een systeem dat meerdere AI-agents inzet om kwetsbare bugs op te sporen.
Relevantie voor crypto-beveiliging
Voor Europese crypto-lezers is de timing relevant, omdat crypto-netwerken en crypto wallets nog altijd een aantrekkelijk doelwit zijn voor aanvallers. Een succesvolle exploit kan grote bedragen opleveren en is vaak niet terug te draaien, zeker niet bij smart contracts of andere on-chain systemen. De recente golf van aanvallen op protocollen onderstreept waarom betere detectie en analyse van beveiligingsincidenten steeds belangrijker worden.
De alliantie wijst er daarmee op dat AI-beveiliging niet alleen een thema is voor grote techbedrijven, maar ook voor de bredere cryptosector. Als open tools sneller inzetbaar worden voor onderzoek, monitoring en incident response, kan dat voor beveiligingsteams in de cryptomarkt praktisch relevant zijn.
Ook in de cryptosector groeit de aandacht voor AI-systemen die zelfstandig kunnen handelen. Coinbase introduceert speciale accounts voor AI-bots om namens gebruikers te handelen en betalen, wat laat zien hoe snel die ontwikkeling richting praktische toepassingen beweegt.
