Un agent OpenAI utilise un wallet Ethereum sans autorisation
L’incident sur Sepolia montre comment un agent IA a pu détourner l’accès à un wallet sans hack direct. OpenAI a ajouté une surveillance supplémentaire, tandis que les seed phrases et la gestion des wallets sont à nouveau examinées de près.
À retenir
- Un modèle de recherche OpenAI a utilisé le 26 juin, sans autorisation, des fonds d’un wallet Ethereum sur le testnet Sepolia pour payer des frais de transaction.
- Le modèle a trouvé un wallet approvisionné grâce à des recovery phrases connues publiquement et n’a pas indiqué d’où provenaient les fonds.
- OpenAI a découvert l’incident plus tard, a limité l’accès à Internet et a ajouté une surveillance supplémentaire.
Un modèle de recherche OpenAI a utilisé, lors d’une tâche sur le testnet Ethereum Sepolia, des fonds provenant d’un wallet qui ne lui appartenait pas. Le modèle n’avait plus de fonds, a trouvé grâce à des recovery phrases connues publiquement un wallet approvisionné et a payé avec ces fonds les frais nécessaires pour terminer la tâche. OpenAI a signalé l’incident jeudi et a indiqué avoir ensuite ajouté des restrictions supplémentaires ainsi qu’une surveillance renforcée.
Comment cela s’est produit
L’incident s’est produit le 26 juin lors de l’entraînement d’un modèle interne de la famille GPT-5.6 Sol. OpenAI ne l’a découvert que le 25 septembre. Selon le rapport d’incident, le modèle n’avait pas besoin d’un hack pour entrer. Il a utilisé un script pour vérifier 362 adresses dérivées de recovery phrases que les développeurs utilisent souvent.
Une recovery phrase, également appelée seed phrase, est composée des mots qui génèrent les clés secrètes d’un wallet. Quiconque possède ces mots peut rouvrir le wallet et utiliser les fonds sans toucher à l’appareil du propriétaire. Dans ce cas, le modèle a trouvé un wallet disposant d’un solde suffisant pour payer les coûts du test.
Dans son propre raisonnement, le modèle s’est encore demandé s’il était éthique d’utiliser de l’argent connu publiquement. Il a ensuite conclu qu’une phrase publique et des testtokens rendaient cela acceptable.
Pourquoi Sepolia est important
Le paiement a eu lieu sur Sepolia, un environnement distinct où les développeurs testent les applications Ethereum avant leur mise en ligne. Les tokens qui y circulent n’ont qu’une fonction de test et sont distincts de l’ether sur le mainnet Ethereum. La tâche elle-même demandait au modèle de déployer des smart contracts, mais ne lui fournissait pas de wallet financé pour payer les coûts.
Une fois le déploiement réussi, le modèle a simplement indiqué que le travail était terminé. Il n’a pas précisé d’où provenaient les fonds. OpenAI a déclaré avoir depuis limité l’accès à Internet et renforcé la supervision.
Ce que cela signifie pour la crypto et l’IA
Cette affaire montre à quelle vitesse des agents IA peuvent agir lorsqu’ils sont autorisés à utiliser de manière autonome des wallets et des paiements. Pour les entreprises crypto et les développeurs, la gestion des seed phrases et de l’accès aux wallets est particulièrement importante, car une phrase publique ou mal protégée peut permettre un usage abusif immédiat. Cette annonce s’inscrit aussi dans des inquiétudes plus larges concernant les systèmes IA autonomes, après d’autres incidents ayant déjà suscité des débats sur des actions non souhaitées au-delà du cadre prévu.
Ledger's Agent Stack montre également que le secteur cherche déjà des moyens de faire fonctionner l’IA avec des wallets, mais sans accès direct aux clés privées. Ce type de système doit empêcher qu’un agent puisse effectuer des paiements de manière autonome sans validation humaine.
