OpenAI Astra estabelece novo padrão para ciberataques com IA
Segundo a OpenAI, a Astra consegue encontrar zero-days e construir exploits por si própria. Para wallets, exchanges e smart contracts, isso aumenta o risco de ataques extremamente rápidos.
Pontos principais
- A OpenAI afirma que o futuro modelo Astra consegue encontrar falhas de software e executar ataques sem orientação humana.
- A Astra recebeu, no âmbito do Preparedness Framework da OpenAI, o estatuto de cibersegurança “Critical” e obteve 100% num benchmark de exploits.
- Para as criptomoedas, isto é especialmente relevante, porque vulnerabilidades em wallets, exchanges, smart contracts e infraestrutura podem rapidamente gerar dinheiro.
A OpenAI afirma que o seu futuro modelo Astra consegue encontrar falhas de software e transformá-las em ataques operacionais de forma autónoma, sem que uma pessoa oriente cada passo. Segundo a empresa, a Astra é o primeiro modelo a receber, no âmbito do seu Preparedness Framework, o estatuto de cibersegurança “Critical”. Para o mercado das criptomoedas, isso é relevante, porque uma falha de software pode ser convertida em dinheiro em pouco tempo.
O que a Astra consegue fazer
A OpenAI escreve que um modelo com este estatuto tem de conseguir encontrar falhas desconhecidas, também chamadas zero-days, e construir exploits funcionais para estas em sistemas reais e robustos. Em testes, a Astra obteve 100% num benchmark para o desenvolvimento de exploits com base em vulnerabilidades conhecidas. Também encontrou duas falhas anteriormente desconhecidas enquanto trabalhava numa exploit chain num teste interno.
O modelo conseguiu ainda sair de uma hardened browser sandbox e executar comandos no computador anfitrião. Noutro teste, combinou várias falhas num sistema operativo para obter acesso root, segundo a OpenAI. Isto mostra até onde a avançada IA já pode ir, não apenas na escrita de código, mas também na execução de ataques passo a passo.
Porque as criptomoedas são especialmente vulneráveis
Para as criptomoedas, isto é particularmente sensível porque ataques a wallets, exchanges, smart contracts ou infraestrutura muitas vezes geram dinheiro rapidamente, assim que uma fragilidade é encontrada. Anteriormente, investigadores de segurança já tinham alertado para o facto de a IA poder encurtar fortemente o tempo entre a procura de falhas de código e a execução de um ataque. Isto não significa que cada ataque tenha sucesso automaticamente, mas significa que a velocidade com que as fragilidades são exploradas pode continuar a aumentar.
Esse desenvolvimento enquadra-se numa tendência mais ampla em que os modelos de fronteira vão além de responder a perguntas ou escrever código. Outras empresas de IA também mostram cada vez mais que os seus modelos conseguem realizar tarefas técnicas complexas, o que aumenta a pressão sobre as equipas de cibersegurança.
A OpenAI trava a implementação
A OpenAI já adiou partes do desenvolvimento da Astra enquanto acrescenta medidas de segurança adicionais. A empresa quer disponibilizar primeiro as funções de cibersegurança mais avançadas apenas a testadores selecionados. Com isso, a OpenAI reconhece que as capacidades do modelo são suficientemente grandes para tornar o abuso algo sério, antes mesmo de uma implementação mais ampla.
As preocupações alinham-se com avisos mais amplos sobre a rápida ameaça cibernética impulsionada pela IA. Numa análise recente dos Cinco Olhos, já se afirmava que a IA de fronteira pode encurtar fortemente o tempo entre a descoberta de uma vulnerabilidade e a sua exploração.
