Agentes de IA obrigam a prova criptográfica

A Succinct Labs vê as ZK-proofs como a resposta aos agentes de IA que navegam, compram e executam transações de forma autónoma. Também o NIST trabalha na normalização desta técnica de privacidade.

Pontos principais

• Brian Trunzo, da Succinct Labs, defende que não só o conteúdo gerado por IA, mas também as ações autónomas das máquinas devem ser verificáveis.
• Considera que a deteção de IA é insuficiente e vê as zero-knowledge proofs como a única forma de restaurar criptograficamente a confiança online.
• Segundo Trunzo, as ZK-proofs tornam-se cada vez mais relevantes à medida que os agentes de IA podem coordenar transações, contratos e trocas de dados.

Os agentes de IA autónomos estão, segundo Brian Trunzo, da Succinct Labs, a colocar em evidência um novo desafio: já não basta verificar o que as máquinas produzem, é também necessário provar o que estas fazem. Num artigo de opinião, o responsável argumenta que a infraestrutura atual da internet ficou curta para uma realidade em que sistemas de IA podem navegar, fazer compras, publicar conteúdos e até tomar decisões em nome das pessoas sem intervenção humana. Na sua perspetiva, a confiança online só pode ser recuperada através de prova criptográfica, e não apenas com deteção ou rotulagem.

Porque é que a deteção é insuficiente

Trunzo enquadra o seu argumento num ambiente digital cada vez mais difícil de distinguir da realidade. Aponta os deepfakes e as imagens sintéticas de guerra que se tornaram virais em poucos instantes, antes de poderem ser verificadas. Para ele, este fenómeno mostra que o problema já não se limita a imagens ou vídeos enganosos, estendendo-se também a sistemas capazes de agir por conta própria.

Por isso, a resposta intuitiva, criar detetores de IA mais eficazes, não resolve a questão, defende. Sublinha que estes mecanismos podem ser contornados com relativa facilidade através de blur ou distorção, enquanto o atacante continua a partir em vantagem. O ponto central, segundo Trunzo, é que um agente de IA não deixa um registo cronológico que possa ser auditado de forma simples mais tarde.

Zero-knowledge como camada de prova

Como alternativa, Trunzo aponta as zero-knowledge proofs, ou ZK-proofs. Esta técnica permite provar que uma afirmação é verdadeira sem expor os dados que lhe estão na origem. No universo das criptomoedas, estas provas já são conhecidas há mais tempo, mas, segundo ele, a sua relevância está agora a deslocar-se para a IA, onde o foco passa a estar em resultados verificáveis e não apenas em capacidade de processamento.

O responsável apresenta vários exemplos de utilização: um modelo pode demonstrar que uma determinada saída foi gerada por uma versão específica, os dados de treino podem ser verificados sem serem revelados e um resultado pode ser ligado criptograficamente ao processo que o produziu. Trunzo refere ainda uma tendência mais ampla, na qual os agentes de IA e a tecnologia blockchain se cruzam cada vez mais, por exemplo em sistemas que executam transações ou controlam smart contracts sem intervenção humana. Isso reforça a necessidade de verificar com rigor cada ação autónoma.

Relevância para o setor das criptomoedas

Para os leitores europeus de criptomoedas e web3, o ponto mais relevante é que Trunzo apresenta o debate sobre IA não apenas como uma questão tecnológica, mas também como uma questão de infraestrutura. Na sua visão, os tokens não são a base adequada para este problema; as proofs são. Esta leitura acompanha uma tendência mais ampla no setor das criptomoedas, onde a verificabilidade, a privacidade e a identidade digital assumem um papel cada vez mais central.

Essa mudança também se nota em produtos orientados para pagamentos por agentes. Por exemplo, a Coinbase mostra contas especiais para bots de IA, o que evidencia a rapidez com que o mercado avança para sistemas em que o software não só processa informação, como também pode agir de forma autónoma.

Trunzo refere ainda que o governo dos Estados Unidos, através do National Institute of Standards and Technology, trabalha na normalização das zero-knowledge no âmbito da criptografia orientada para a privacidade. Isso torna o debate menos teórico e mais ligado a políticas públicas, sobretudo agora que, segundo ele, os agentes de IA podem coordenar cada vez mais transações financeiras, contratos e trocas de dados. Para o mercado das criptomoedas, isto sublinha como a tecnologia ZK evolui de um tema de blockchain para um bloco de construção mais amplo de controlo digital e confiança.