OpenAI Astra wyznacza nowy standard cyberataków z użyciem AI
Według OpenAI Astra potrafi samodzielnie znajdować zero-days i budować exploity. Dla portfeli, giełd i smart kontraktów oznacza to większe ryzyko błyskawicznych ataków.
Najważniejsze informacje
- OpenAI twierdzi, że nadchodzący model Astra może samodzielnie znajdować błędy w oprogramowaniu i przeprowadzać ataki bez udziału człowieka.
- Astra otrzymał w ramach Preparedness Framework OpenAI status cyberbezpieczeństwa „Critical” i uzyskał 100% w benchmarku exploitów.
- Dla krypto jest to szczególnie istotne, ponieważ luki w portfelach, giełdach, smart kontraktach i infrastrukturze mogą szybko przynieść zysk.
OpenAI twierdzi, że jego nadchodzący model Astra potrafi znajdować błędy w oprogramowaniu i samodzielnie tworzyć z nich działające ataki, bez tego, by człowiek sterował każdym krokiem. Według firmy Astra jest pierwszym modelem, który w ramach Preparedness Framework otrzymał status cyberbezpieczeństwa „Critical”. Dla rynku krypto ma to znaczenie, ponieważ luka w oprogramowaniu może w krótkim czasie zostać zamieniona na pieniądze.
Co potrafi Astra
OpenAI pisze, że model o takim statusie musi umieć znajdować nieznane błędy, zwane też zero-days, i budować dla nich działające exploity w twardych, rzeczywistych systemach. W testach Astra uzyskał 100% w benchmarku dotyczącym tworzenia exploitów na podstawie znanych podatności. Podczas pracy nad exploit chain w teście wewnętrznym znalazł też dwa wcześniej nieznane błędy.
Model zdołał również wydostać się z hardened browser sandbox i wykonywać polecenia na komputerze hosta. W innym teście połączył kilka błędów w systemie operacyjnym, aby uzyskać dostęp root, jak podaje OpenAI. Pokazuje to, jak daleko może już sięgać zaawansowana AI, nie tylko w pisaniu kodu, lecz także w krok po kroku przeprowadzaniu ataków.
Dlaczego krypto jest szczególnie narażone
Dla krypto jest to szczególnie wrażliwe, ponieważ ataki na portfele, giełdy, smart kontrakty lub infrastrukturę często szybko przynoszą pieniądze, gdy tylko zostanie znaleziona słaba strona. Wcześniej badacze bezpieczeństwa ostrzegali już, że AI może mocno skrócić czas między szukaniem błędów w kodzie a przeprowadzeniem ataku. Nie oznacza to, że każdy atak automatycznie się powiedzie, ale tempo wykorzystywania słabych punktów może wyraźnie wzrosnąć.
Ten kierunek wpisuje się w szerszy trend, w którym modele frontier wykraczają poza odpowiadanie na pytania czy pisanie kodu. Także inne firmy AI coraz częściej pokazują, że ich modele radzą sobie ze złożonymi zadaniami technicznymi, co zwiększa presję na zespoły cyberbezpieczeństwa.
OpenAI hamuje wdrożenie
OpenAI odłożył już część prac nad Astrą, jednocześnie dodając dodatkowe zabezpieczenia. Firma chce najpierw udostępnić najbardziej zaawansowane funkcje cyberbezpieczeństwa wyłącznie wybranym testerom. Tym samym OpenAI samo przyznaje, że możliwości modelu są na tyle duże, iż ryzyko nadużyć staje się poważne jeszcze przed szerszym wdrożeniem.
Obawy wpisują się w szersze ostrzeżenia dotyczące szybko rosnącego zagrożenia cybernetycznego napędzanego przez AI. W niedawnej analizie Pięciu Oczu stwierdzono już, że frontier-AI może znacząco skrócić czas między wykryciem podatności a jej wykorzystaniem.
