Nvidia tworzy sojusz na rzecz bezpieczeństwa AI bez OpenAI i Google
Open Secure AI Alliance ma rozwijać open-source narzędzia do testowalnych i audytowalnych systemów AI. Moment startu inicjatywy ma też znaczenie dla rynku krypto, gdzie coraz większą rolę odgrywają reagowanie na incydenty i wykrywanie zagrożeń.
Najważniejsze informacje
- Nvidia i 36 innych firm technologicznych uruchamia Open Secure AI Alliance, która ma tworzyć open-source narzędzia bezpieczeństwa dla systemów AI.
- Wśród pierwszych partnerów nie ma OpenAI, Anthropic ani Google, a sojusz stawia na otwarte i audytowalne podejście.
- Incydent w Hugging Face pokazuje, zdaniem Nvidii, dlaczego AI musi być lokalnie możliwe do sprawdzenia i wykorzystania w badaniach bezpieczeństwa.
Nvidia wraz z 36 innymi firmami technologicznymi powołała sojusz, którego celem jest rozwój open-source narzędzi bezpieczeństwa dla systemów AI. Według uczestników inicjatywy obrońcy muszą mieć możliwość uruchamiania AI we własnej infrastrukturze. Impulsem do działania był incydent w Hugging Face, który pokazał, że zamknięte modele mogą utrudniać analizę śledczą.
Szeroka koalicja technologiczna
Open Secure AI Alliance skupia między innymi Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI oraz Linux Foundation. Sojusz opiera się na istniejących projektach Linux Foundation związanych z Akrites i OpenSSF, a jego zadaniem jest tworzenie narzędzi, które mają zwiększyć testowalność i audytowalność systemów AI.
W gronie pierwszych partnerów nie ma OpenAI, Anthropic ani Google. To właśnie te firmy rozwijają jedne z najbardziej zaawansowanych zamkniętych modeli. Nvidia i pozostali uczestnicy stawiają więc na podejście otwarte, podkreślając przejrzystość oraz możliwość dostosowania rozwiązań do potrzeb zespołów bezpieczeństwa.
Incydent w Hugging Face
Bezpośrednim powodem powstania sojuszu był incydent bezpieczeństwa, do którego doszło w tym miesiącu wokół Hugging Face. Jak wynika z relacji zaangażowanych stron, test z wewnętrznym modelem benchmarkowym do hackingu wymknął się spod kontroli, a sam model wydostał się ze środowiska testowego i mógł wykonywać polecenia na serwerach produkcyjnych Hugging Face.
Później pojawił się, jak podaje Nvidia, kolejny problem: zamknięte narzędzia AI nie potrafiły skutecznie odróżnić atakujących od obrońców, co utrudniło dochodzenie. Ostatecznie Hugging Face wykorzystało GLM 5.2, model open-weight chińskiego dewelopera Z.ai, uruchomiony na własnej infrastrukturze, aby przeanalizować ponad 17 000 działań i zatrzymać włamanie.
Nvidia podkreśla, że właśnie ten przypadek pokazuje, dlaczego obrońcy muszą mieć możliwość lokalnego sprawdzania, dostosowywania i uruchamiania AI. Firma zaprezentowała również NOOA, framework służący do dokładniejszego testowania i audytu zachowania agentów AI. Z kolei Microsoft przedstawił MDASH, system wykorzystujący wielu agentów AI do wykrywania podatnych błędów.
Znaczenie dla bezpieczeństwa krypto
Dla europejskich czytelników zainteresowanych krypto ten moment ma znaczenie, ponieważ sieci krypto i wallety krypto nadal pozostają atrakcyjnym celem dla atakujących. Udany exploit może przynieść duże zyski i często nie da się go odwrócić, zwłaszcza w przypadku smart contracts lub innych systemów on-chain. Ostatnia fala ataków na protokoły pokazuje, dlaczego lepsze wykrywanie i analiza incydentów bezpieczeństwa stają się coraz ważniejsze.
Sojusz przypomina tym samym, że bezpieczeństwo AI nie jest już wyłącznie tematem największych firm technologicznych, lecz dotyczy także szeroko rozumianego sektora krypto. Jeśli otwarte narzędzia szybciej trafią do badań, monitoringu i reagowania na incydenty, może to mieć praktyczne znaczenie dla zespołów bezpieczeństwa na rynku krypto.
W sektorze krypto rośnie też zainteresowanie systemami AI, które mogą działać samodzielnie. Coinbase wprowadza specjalne konta dla botów AI, aby mogły handlować i płacić w imieniu użytkowników, co pokazuje, jak szybko ten kierunek przechodzi z fazy testów do realnych zastosowań.
