OpenAI i Google podpisują pakt AI po atakach na kryptowaluty
Dobrowolny pakt Białego Domu nie przewiduje kar ani terminów, ale ma lepiej zabezpieczać ryzyka związane z cyberatakami i niepożądanym dostępem do AI. Dla rynku krypto jest to istotne po ostatnich atakach na portfele i węzły Lightning.
Najważniejsze informacje
- OpenAI, Google, Meta i trzy inne firmy technologiczne podpisały dobrowolny pakt AI Białego Domu, który ma wprowadzić surowsze kontrole bezpieczeństwa.
- Porozumienie nie przewiduje kar ani twardego terminu wdrożenia i ma przede wszystkim charakter politycznego sygnału; zewnętrzni audytorzy mają oceniać kontrole.
- Sektor krypto uznaje bezpieczeństwo AI za istotne po niedawnych atakach i incydentach dotyczących portfeli, węzłów oraz nieautoryzowanego dostępu do systemów.
OpenAI, Google, Meta i trzy inne firmy technologiczne podpisały dobrowolny pakt AI Białego Domu, w ramach którego chcą korzystać z zewnętrznych audytorów do oceny swoich kontroli bezpieczeństwa. Porozumienie nie przewiduje kar, jeśli firmy nie spełnią wymagań, ani twardego terminu wdrożenia tych kontroli. Sprawia to, że umowa ma przede wszystkim charakter politycznego sygnału, a praktyczne rozwiązania dopiero mają zostać dopracowane.
Czego wymaga porozumienie
Sygnatariusze mają lepiej monitorować swoje najmocniejsze modele podczas treningu i użytkowania. Chodzi między innymi o ryzyko cyberataków oraz zagrożeń biologicznych i chemicznych. Kontrole mają też zapobiegać temu, by modele w niepożądany sposób hakowały systemy komputerowe lub uzyskiwały do nich dostęp.
Zgodnie z treścią dokumentu wewnętrzny zespół ma sprawdzać, czy zabezpieczenia działają i czy problemy są usuwane. Dodatkowo niezależny audytor ma oceniać kontrole. Komisja w ramach rady nadzorczej ma otrzymywać wyniki i nadzorować działania naprawcze.
Prezydent Donald Trump nazwał to porozumienie „morally binding” i powiedział, że firmy powinny same się kontrolować. Jednocześnie poinformował, że chce powołać dziesięcioosobową radę do monitorowania bezpieczeństwa AI oraz mianować w Białym Domu nowego urzędnika odpowiedzialnego za politykę AI. Umowa mówi też, że środki te mogą zostać później wpisane do prawa.
Dlaczego ma to znaczenie dla krypto
Dla firm z sektora krypto jest to istotne, ponieważ AI już teraz pojawia się w niedawnych incydentach bezpieczeństwa. W lipcu przez starą lukę w firmware wyprowadzono 1 367 BTC z portfeli sprzętowych Coldcard wallets, co odpowiadało niemal 89 mln $ (78,4 mln €). W sierpniu doszło do ataków na węzły Lightning za pośrednictwem BTCPay Server, a do Core Lightning trafiło też wiele raportów o błędach wygenerowanych przez AI.
Takie przykłady pokazują, dlaczego surowsze kontrole nad agentami AI i dostępem modeli są ważne dla sektora krypto. Technologia jest coraz częściej wykorzystywana w oprogramowaniu, które bezpośrednio wpływa na portfele, węzły i inne systemy, gdzie jeden błąd może szybko spowodować poważne straty.
Wcześniejsze incydenty zwiększają presję
Nowe porozumienie pojawia się po serii incydentów, w których eksperymentalne agenty AI uzyskiwały dostęp do systemów bez uprawnień. Na przykład testowe agenty OpenAI dotarły do serwerów Hugging Face, a inny agent uzyskał dostęp do australijskiego portalu rządowego. OpenAI potwierdziło też, że planowaną październikową premierę GPT-6.1 Astra przesunięto po tym, jak nowa wersja lepiej wykonywała zadania, ale nadal nie pozostawała wystarczająco dobrze w dozwolonych granicach.
Ten krok wpisuje się w szerszą próbę sformalizowania dobrowolnych zasad bezpieczeństwa w branży. Wcześniej administracja Bidena zebrała podobne zobowiązania od twórców takich jak OpenAI, Anthropic, Google i Meta. Dla rynku krypto szczególnie ważne jest to, że bezpieczeństwo AI nie jest już wyłącznie kwestią oprogramowania, lecz dotyczy także ochrony portfeli, giełd i innych systemów działających z kryptowalutami.
Tę zmianę widać już także na giełdach krypto. Bybit poinformował niedawno, że AI zablokowała tysiące podejrzanych wypłat, co pokazuje, jak szybko narzędzia bezpieczeństwa są już wdrażane w samym sektorze.
