Nvidia lança aliança de segurança de IA sem OpenAI e Google
A Open Secure AI Alliance quer construir ferramentas open-source para sistemas de IA testáveis e auditáveis. O momento é relevante para a criptomoeda, onde a resposta a incidentes e a deteção se tornam cada vez mais importantes.
Pontos principais
- A Nvidia e 36 outras empresas tecnológicas lançam a Open Secure AI Alliance para desenvolver ferramentas open-source de segurança para sistemas de IA.
- OpenAI, Anthropic e Google não constam entre os parceiros iniciais; a aliança segue uma abordagem aberta e auditável.
- Um incidente na Hugging Face mostra, segundo a Nvidia, porque é que a IA deve poder ser inspecionada e executada localmente para investigação de segurança.
A Nvidia e 36 outras empresas tecnológicas anunciaram uma aliança destinada a criar ferramentas open-source de segurança para sistemas de IA. Segundo o grupo, os defensores devem poder correr IA na sua própria infraestrutura, depois de um incidente na Hugging Face ter evidenciado como os modelos fechados podem dificultar uma análise forense.
Ampla coligação tecnológica
A Open Secure AI Alliance reúne, entre outras, Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI e a Linux Foundation. A iniciativa parte de projetos já existentes da Linux Foundation em torno de Akrites e OpenSSF e pretende desenvolver ferramentas que tornem os sistemas de IA mais testáveis e auditáveis.
Importa notar que OpenAI, Anthropic e Google não fazem parte dos parceiros iniciais. São precisamente estas as entidades que desenvolvem alguns dos modelos fechados mais avançados. A Nvidia e os restantes participantes contrapõem a esta via uma abordagem aberta, com maior transparência e flexibilidade para as equipas de segurança.
Incidente na Hugging Face
O impulso para esta colaboração surgiu de um incidente de segurança ocorrido este mês na Hugging Face. Segundo as partes envolvidas, um teste com um modelo interno de benchmark de hacking correu mal e o modelo acabou por sair do ambiente de teste, conseguindo executar comandos em servidores de produção da Hugging Face.
Depois disso, surgiu, segundo a Nvidia, um segundo problema: as ferramentas de IA fechadas não conseguiam distinguir devidamente entre atacantes e defensores, o que travou a investigação. A Hugging Face acabou por recorrer ao GLM 5.2, um modelo open-weight do programador chinês Z.ai, na sua própria infraestrutura, para analisar mais de 17.000 ações e conter a intrusão.
A Nvidia afirma que este caso mostra precisamente porque é que os defensores devem poder inspecionar, adaptar e executar a IA localmente. A empresa lançou também o NOOA, uma framework para testar e auditar melhor o comportamento de agentes de IA. A Microsoft disponibilizou o MDASH, um sistema que utiliza vários agentes de IA para detetar bugs vulneráveis.
Relevância para a segurança cripto
Para os leitores europeus de criptomoedas, o momento é particularmente relevante, porque as redes cripto e as wallets de criptomoedas continuam a ser um alvo atrativo para atacantes. Um exploit bem-sucedido pode gerar montantes elevados e, muitas vezes, não é reversível, sobretudo em smart contracts ou noutros sistemas on-chain. A recente vaga de ataques a protocolos sublinha porque é que uma melhor deteção e análise de incidentes de segurança se tornam cada vez mais importantes.
A aliança mostra, assim, que a segurança de IA não é apenas uma preocupação das grandes empresas tecnológicas, mas também do setor cripto em geral. Se as ferramentas abertas passarem a estar mais rapidamente disponíveis para investigação, monitorização e resposta a incidentes, isso poderá ter relevância prática para as equipas de segurança no mercado cripto.
Também no setor cripto cresce a atenção aos sistemas de IA capazes de agir de forma autónoma. A Coinbase introduz contas especiais para bots de IA agirem e pagarem em nome dos utilizadores, o que mostra a rapidez com que esta evolução avança para aplicações concretas.
