Agenci AI wymuszają kryptograficzną weryfikację

Succinct Labs widzi w ZK-proofs odpowiedź na agentów AI, którzy samodzielnie przeglądają strony, dokonują zakupów i przeprowadzają transakcje. Również NIST pracuje nad standaryzacją tej techniki prywatności.

Najważniejsze informacje

• Brian Trunzo z Succinct Labs uważa, że weryfikacji wymagają nie tylko treści tworzone przez AI, ale również autonomiczne działania maszyn.
• Jego zdaniem samo wykrywanie materiałów generowanych przez AI nie rozwiązuje problemu, a zero-knowledge proofs są najlepszym sposobem na odbudowę zaufania online za pomocą kryptografii.
• Według Trunzo ZK-proofs zyskują na znaczeniu, ponieważ agenci AI mogą obsługiwać transakcje, umowy i wymianę danych.

Autonomiczne agenci AI pokazują, zdaniem Briana Trunzo z Succinct Labs, nowy problem: weryfikowalne muszą być nie tylko treści, ale także działania podejmowane przez maszyny. W swoim artykule opiniotwórczym podkreśla on, że obecna infrastruktura internetowa nie jest przygotowana na sytuację, w której systemy AI samodzielnie przeglądają strony, robią zakupy, publikują treści, a nawet podejmują decyzje w imieniu użytkowników. Według Trunzo zaufanie online można odbudować wyłącznie za pomocą kryptograficznego dowodu, a nie samym wykrywaniem czy oznaczaniem treści.

Dlaczego wykrywanie nie wystarcza

Trunzo osadza swój argument w realiach internetu, który coraz trudniej odróżnić od rzeczywistości. Przywołuje deepfake’i i syntetyczne materiały z obszaru wojny, które rozprzestrzeniały się błyskawicznie, zanim ktokolwiek zdążył je zweryfikować. Jego zdaniem pokazuje to, że problem nie dotyczy już wyłącznie mylących obrazów czy nagrań wideo, lecz także systemów, które same wykonują działania.

Z tego powodu, jak twierdzi, intuicyjna odpowiedź w postaci lepszych detektorów AI nie rozwiązuje sprawy. Zwraca uwagę, że takie narzędzia można stosunkowo łatwo obejść przez rozmycie lub zniekształcenie obrazu, a przewaga i tak pozostaje po stronie atakującego. Sedno problemu polega, według Trunzo, na tym, że agent AI nie zostawia czytelnego śladu chronologicznego, który można później łatwo poddać audytowi.

Zero-knowledge jako warstwa dowodowa

Jako alternatywę Trunzo wskazuje zero-knowledge proofs, czyli ZK-proofs. Pozwalają one udowodnić prawdziwość twierdzenia bez ujawniania danych źródłowych. W świecie krypto takie rozwiązania są znane od dawna, ale jego zdaniem ich znaczenie przesuwa się teraz w stronę AI, gdzie liczą się weryfikowalne wyniki, a nie wyłącznie szybkość obliczeń.

Wskazuje kilka możliwych zastosowań: model może wykazać, że dany wynik został wygenerowany przez konkretną wersję, dane treningowe można potwierdzić bez ich ujawniania, a rezultat da się kryptograficznie powiązać z procesem, który go stworzył. Zwraca też uwagę na szerszy trend, w którym agenci AI i technologia blockchain coraz częściej się przenikają, na przykład w systemach wykonujących transakcje lub obsługujących smart contracts bez udziału człowieka. To zwiększa potrzebę twardej weryfikacji każdej autonomicznej czynności.

Znaczenie dla sektora krypto

Dla europejskich czytelników zainteresowanych krypto i web3 szczególnie ważne jest to, że Trunzo przedstawia debatę o AI nie tylko jako temat technologiczny, lecz także infrastrukturalny. W jego ocenie tokeny nie są właściwą odpowiedzią na ten problem, natomiast proofs już tak. To wpisuje się w szerszy trend w krypto, w którym weryfikowalność, prywatność i tożsamość cyfrowa coraz częściej trafiają do centrum uwagi.

Zmiana ta jest widoczna również w produktach związanych z płatnościami agentowymi. Coinbase specjalne konta dla botów AI pokazuje, jak szybko rynek przesuwa się w stronę systemów, w których oprogramowanie nie tylko przetwarza informacje, ale także może działać samodzielnie.

Trunzo dodaje również, że amerykański rząd za pośrednictwem National Institute of Standards and Technology pracuje nad standaryzacją zero-knowledge w ramach kryptografii nastawionej na prywatność. Sprawia to, że dyskusja staje się mniej teoretyczna, a bardziej związana z polityką publiczną, zwłaszcza że, jego zdaniem, agenci AI mogą coraz częściej sterować transakcjami finansowymi, umowami i wymianą danych. Dla rynku krypto podkreśla to, jak technologia ZK wykracza poza sam blockchain i staje się szerszym fundamentem cyfrowej kontroli oraz zaufania.