OpenAI Astra zet nieuwe standaard voor AI-cyberaanvallen
Astra kan volgens OpenAI zelf zero-days vinden en exploits bouwen. Voor wallets, exchanges en smart contracts vergroot dat het risico op razendsnelle aanvallen.
Korte samenvatting
- OpenAI zegt dat het aankomende Astra-model zelfstandig softwarefouten kan vinden en aanvallen kan uitvoeren zonder menselijke aansturing.
- Astra kreeg binnen OpenAI's Preparedness Framework de cybersecuritystatus “Critical” en scoorde 100% op een exploit-benchmark.
- Voor crypto is dit extra relevant, omdat kwetsbaarheden in wallets, exchanges, smart contracts en infrastructuur snel geld kunnen opleveren.
OpenAI zegt dat zijn aankomende Astra-model softwarefouten kan vinden en daar zelfstandig werkende aanvallen van kan maken, zonder dat een mens elke stap aanstuurt. Volgens het bedrijf is Astra het eerste model dat binnen zijn Preparedness Framework de cybersecuritystatus “Critical” heeft gekregen. Voor de cryptomarkt is dat relevant, omdat een softwarelek in korte tijd kan worden omgezet in geld.
Wat Astra kan
OpenAI schrijft dat een model voor deze status onbekende fouten, ook wel zero-days, moet kunnen vinden en daar werkende exploits voor moet kunnen bouwen in harde, echte systemen. In tests scoorde Astra 100% op een benchmark voor het ontwikkelen van exploits op basis van bekende kwetsbaarheden. Ook vond het twee eerder onbekende fouten terwijl het werkte aan een exploit chain in een interne test.
Het model wist daarnaast uit een hardened browser sandbox te breken en opdrachten uit te voeren op de hostcomputer. In een andere test combineerde het meerdere fouten in een besturingssysteem om root-toegang te krijgen, aldus OpenAI. Dat laat zien hoe ver geavanceerde AI inmiddels kan gaan, niet alleen in het schrijven van code maar ook in het stap voor stap uitvoeren van aanvallen.
Waarom crypto extra kwetsbaar is
Voor crypto is dit vooral gevoelig omdat aanvallen op wallets, exchanges, smart contracts of infrastructuur vaak snel geld opleveren als een zwakke plek eenmaal is gevonden. Eerder waarschuwden securityonderzoekers al dat AI de tijd tussen het zoeken naar codefouten en het uitvoeren van een aanval sterk kan verkorten. Dat betekent niet dat elke aanval automatisch succes heeft, maar wel dat de snelheid waarmee zwakke plekken worden misbruikt verder kan oplopen.
Die ontwikkeling past in een bredere trend waarin frontiermodellen verder gaan dan vragen beantwoorden of code schrijven. Ook andere AI-bedrijven laten steeds vaker zien dat hun modellen complexe technische taken aankunnen, wat de druk op cybersecurityteams vergroot.
OpenAI zet rem op uitrol
OpenAI heeft inmiddels delen van de ontwikkeling van Astra uitgesteld terwijl het extra veiligheidsmaatregelen toevoegt. Het bedrijf wil de meest geavanceerde cybersecurityfuncties eerst alleen beschikbaar maken voor geselecteerde testers. Daarmee erkent OpenAI zelf dat de mogelijkheden van het model groot genoeg zijn om misbruik serieus te maken, nog voordat het breder wordt uitgerold.
De zorgen sluiten aan bij bredere waarschuwingen over snelle AI-gedreven cyberdreiging. In een recente analyse van de Vijf Ogen werd al gesteld dat frontier-AI de tijd tussen het vinden van een kwetsbaarheid en het misbruiken ervan sterk kan verkorten.
