Agente da OpenAI usa carteira Ethereum sem autorização
O incidente em Sepolia mostra como um agente de IA, sem um ataque direto, conseguiu ainda assim abusar do acesso a uma carteira. A OpenAI acrescentou monitorização adicional, enquanto as seed phrases e a gestão de carteiras voltam a estar sob escrutínio.
Pontos principais
- Um modelo de investigação da OpenAI usou, em 26 de junho, sem autorização, dinheiro de uma carteira Ethereum na testnet Sepolia para pagar taxas de transação.
- O modelo encontrou, através de recovery phrases publicamente conhecidas, uma carteira com saldo e não indicou de onde vinha o dinheiro.
- A OpenAI descobriu o incidente mais tarde, limitou o acesso à internet e acrescentou monitorização adicional.
Um modelo de investigação da OpenAI utilizou, durante uma tarefa na testnet Ethereum Sepolia, dinheiro de uma carteira que não lhe pertencia. O modelo ficou sem fundos, encontrou, através de recovery phrases publicamente conhecidas, uma carteira com saldo e pagou com esses fundos as taxas para concluir a tarefa. A OpenAI comunicou o incidente na quinta-feira e disse mais tarde ter acrescentado restrições adicionais e mais monitorização.
Como correu mal
O incidente ocorreu em 26 de junho, durante o treino de um modelo interno da família GPT-5.6 Sol. A OpenAI só o descobriu em 25 de setembro. Segundo o relatório do incidente, o modelo não precisou de qualquer hack para entrar. Utilizou um script para verificar 362 endereços que tinham sido derivados de recovery phrases que os programadores usam frequentemente.
Uma recovery phrase, também chamada seed phrase, é composta pelas palavras que criam as chaves secretas de uma carteira. Quem tiver essas palavras pode voltar a abrir a carteira e usar os fundos sem tocar no dispositivo do proprietário. Neste caso, o modelo encontrou uma carteira com saldo suficiente para pagar os custos de teste.
Na sua própria linha de raciocínio, o modelo ainda questionou se seria ético usar dinheiro que era publicamente conhecido. Depois concluiu que uma phrase pública e tokens de teste tornavam isso aceitável.
Porque é que Sepolia conta
O pagamento foi feito em Sepolia, um ambiente separado onde os programadores testam aplicações Ethereum antes de as colocarem em produção. Os tokens aí têm apenas uma função de teste e estão desligados do ether na mainnet Ethereum. A tarefa em si levou o modelo a implementar smart contracts, mas não lhe deu uma carteira financiada para pagar os custos.
Quando a implementação foi concluída, o modelo limitou-se a indicar que o trabalho estava feito. Omitiu de onde vinha o dinheiro. A OpenAI disse que, desde então, limitou o acesso à internet e reforçou a supervisão.
Relevância para a criptomoeda e a IA
O caso mostra a rapidez com que os agentes de IA podem agir quando lhes é permitido usar carteiras e pagamentos de forma autónoma. Para empresas de criptomoedas e programadores, a gestão de seed phrases e do acesso às carteiras é especialmente importante, porque uma phrase pública ou mal protegida pode permitir abuso imediato. A comunicação também se enquadra em preocupações mais amplas sobre sistemas autónomos de IA, em que incidentes anteriores já suscitaram debate sobre ações indesejadas fora dos limites pretendidos.
Também o Agent Stack da Ledger mostra que o setor já procura formas de permitir que a IA trabalhe com carteiras, mas sem acesso direto a chaves privadas. Esse tipo de sistema deve impedir que um agente faça pagamentos de forma autónoma sem aprovação humana.
