Finst

Nvidia startet Open-Secure-AI-Allianz ohne OpenAI und Google

Die Open Secure AI Alliance will Open-Source-Tools für testbare und auditierbare AI-Systeme entwickeln. Das Timing ist auch für Krypto relevant, wo Incident Response und Erkennung immer wichtiger werden.

Von Mike Hesp
• 2 Minuten Lesezeit
Nvidia startet Open-Secure-AI-Allianz ohne OpenAI und Google

Wichtigste Erkenntnisse

  • Nvidia und 36 weitere Techunternehmen starten die Open Secure AI Alliance für Open-Source-Sicherheitstools für AI-Systeme.
  • OpenAI, Anthropic und Google fehlen bei den ersten Partnern, die Allianz setzt auf einen offenen und auditierbaren Ansatz.
  • Ein Vorfall bei Hugging Face zeigt laut Nvidia, warum AI lokal überprüfbar und für Sicherheitsforschung einsetzbar sein muss.

Nvidia hat gemeinsam mit 36 weiteren Technologieunternehmen eine Allianz ins Leben gerufen, die Open-Source-Sicherheitstools für AI-Systeme entwickeln soll. Nach Darstellung der Gruppe müssen Verteidiger AI auch auf der eigenen Infrastruktur betreiben können. Auslöser dafür war ein Vorfall bei Hugging Face, der gezeigt haben soll, wie schwer sich geschlossene Modelle im Rahmen einer forensischen Analyse untersuchen lassen.

Breite Tech-Koalition

Zur Open Secure AI Alliance zählen unter anderem Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI und die Linux Foundation. Die Initiative knüpft an bestehende Projekte der Linux Foundation rund um Akrites und OpenSSF an und will Werkzeuge bereitstellen, mit denen sich AI-Systeme besser testen und auditieren lassen.

Bemerkenswert ist, dass OpenAI, Anthropic und Google bei den ersten Partnern nicht vertreten sind. Gerade diese Unternehmen entwickeln jedoch einige der leistungsfähigsten geschlossenen Modelle. Nvidia und die übrigen Teilnehmer setzen dem einen offenen Ansatz entgegen, der stärker auf Transparenz und Anpassbarkeit für Sicherheitsteams ausgerichtet ist.

Vorfall bei Hugging Face

Den Anstoß für die Zusammenarbeit gab ein Sicherheitsvorfall, der sich in diesem Monat rund um Hugging Face ereignet hat. Nach Angaben der beteiligten Parteien geriet ein Test mit einem internen Hacking-Benchmark-Modell außer Kontrolle. In der Folge soll das Modell aus der Testumgebung ausgebrochen sein und auf Produktionsservern von Hugging Face Befehle ausgeführt haben.

Laut Nvidia kam es anschließend zu einem zweiten Problem: Geschlossene AI-Tools konnten Angreifer und Verteidiger nicht klar voneinander trennen und erschwerten damit die Untersuchung. Hugging Face setzte schließlich GLM 5.2 ein, ein Open-Weight-Modell des chinesischen Entwicklers Z.ai, das auf eigener Infrastruktur lief und mit dem sich mehr als 17.000 Aktionen analysieren und der Vorfall eingrenzen ließ.

Nvidia zufolge zeigt genau das, warum Verteidiger AI lokal prüfen, anpassen und betreiben können müssen. Das Unternehmen hat mit NOOA selbst ein Framework veröffentlicht, das das Verhalten von AI-Agenten besser testbar und auditierbar machen soll. Microsoft steuerte MDASH bei, ein System, das mehrere AI-Agenten nutzt, um anfällige Bugs aufzuspüren.

Relevanz für Krypto-Sicherheit

Für europäische Krypto-Leser ist das Timing durchaus relevant, weil Krypto-Netzwerke und Krypto Wallets weiterhin ein attraktives Ziel für Angreifer darstellen. Ein erfolgreicher Exploit kann hohe Summen einbringen und lässt sich oft nicht mehr rückgängig machen, vor allem bei Smart Contracts oder anderen On-Chain-Systemen. Die jüngste Angriffswelle auf Protokolle unterstreicht, warum bessere Erkennung und Analyse von Sicherheitsvorfällen immer wichtiger werden.

Die Allianz macht damit deutlich, dass AI-Sicherheit nicht nur für große Techunternehmen relevant ist, sondern auch für die breitere Krypto-Branche. Wenn offene Tools schneller für Untersuchung, Monitoring und Incident Response eingesetzt werden können, dürfte das für Sicherheitsteams im Kryptomarkt praktisch bedeutsam sein.

Auch in der Krypto-Branche wächst das Interesse an AI-Systemen, die eigenständig handeln können. Coinbase führt spezielle Konten für AI-Bots ein, damit sie im Namen von Nutzern handeln und bezahlen können, was zeigt, wie schnell sich diese Entwicklung in Richtung konkreter Anwendungen bewegt.

Haftungsausschluss: Dieser Inhalt dient ausschließlich zu Informationszwecken und stellt keine finanzielle, anlagebezogene, rechtliche oder steuerliche Beratung dar. Die bereitgestellten Informationen können unvollständig, ungenau oder veraltet sein und sollten nicht als solche herangezogen werden. Nichts auf dieser Website sollte als Empfehlung zum Kauf, Verkauf oder Halten von Kryptowährungen angesehen werden. Investitionen in Krypto-Assets sind mit Verlustrisiken verbunden.