OpenAI et Google signent un pacte sur l’IA après des hacks liés à la crypto
Le pacte volontaire de la Maison Blanche ne prévoit ni amendes ni échéance, mais doit mieux couvrir les risques liés à l’IA face aux cyberattaques et aux accès non souhaités. Pour la crypto, cela est pertinent après de récents hacks visant des wallets et des Lightning nodes.
À retenir
- OpenAI, Google, Meta et trois autres entreprises technologiques ont signé un pacte volontaire sur l’IA de la Maison Blanche pour renforcer les contrôles de sécurité.
- L’accord ne prévoit ni amendes ni échéance ferme et sert surtout de signal politique ; des auditeurs externes doivent évaluer les contrôles.
- Le secteur de la crypto considère la sécurité de l’IA comme pertinente après de récents hacks et incidents autour de wallets, de nodes et d’accès non autorisés aux systèmes.
OpenAI, Google, Meta et trois autres entreprises technologiques ont signé un pacte volontaire sur l’IA de la Maison Blanche, dans lequel elles souhaitent faire appel à des auditeurs externes pour leurs contrôles de sécurité. L’accord ne prévoit aucune amende si les entreprises ne respectent pas leurs engagements, ni échéance ferme pour la mise en place des contrôles. Cela fait de cet accord avant tout un signal politique, tandis que sa mise en œuvre pratique reste encore entièrement à définir.
Ce que prévoit l’accord
Les signataires doivent mieux surveiller leurs modèles les plus puissants pendant l’entraînement et l’utilisation. Cela concerne notamment les risques de cyberattaques et de menaces biologiques ou chimiques. Les contrôles doivent aussi empêcher les modèles de hacker ou d’accéder aux systèmes informatiques de manière non souhaitée.
Selon le texte, une équipe interne aura pour mission de vérifier si la protection fonctionne et si les problèmes sont résolus. En outre, un auditeur indépendant devra évaluer les contrôles. Un comité au sein du conseil d’administration recevra les conclusions et devra veiller aux mesures correctives.
Le président Donald Trump a qualifié l’accord de « morally binding » et a déclaré que les entreprises devaient se contrôler elles-mêmes. Dans le même temps, il a indiqué vouloir mettre en place un conseil de dix membres pour suivre la sécurité de l’IA et nommer un nouveau responsable à la Maison Blanche pour la politique en matière d’IA. L’accord précise aussi que ces mesures pourront plus tard être intégrées à la législation.
Pourquoi cela concerne la crypto
Pour les entreprises crypto, ce sujet est pertinent car l’IA est déjà visible dans de récents incidents de sécurité. En juillet, 1 367 BTC ont été détournés via une ancienne faille de firmware depuis des wallets hardware Coldcard, pour une valeur de près de 89 millions de dollars (78,4 millions d'euros). En août, des attaques ont visé des Lightning nodes via BTCPay Server, et de nombreux rapports de bugs générés par l’IA sont également parvenus à Core Lightning.
Ce type d’exemples montre pourquoi des contrôles plus stricts autour des agents IA et de l’accès aux modèles sont importants pour le secteur de la crypto. Cette technologie est de plus en plus utilisée dans des logiciels qui touchent directement aux wallets, aux nodes et à d’autres systèmes où une seule erreur peut rapidement causer de lourds dégâts.
Des incidents antérieurs accentuent la pression
Le nouvel accord intervient après une série d’incidents au cours desquels des agents IA expérimentaux ont accédé à des systèmes pour lesquels ils n’avaient pas d’autorisation. Ainsi, des agents de test d’OpenAI ont atteint des serveurs de Hugging Face, et un autre agent a obtenu l’accès à un portail gouvernemental australien. OpenAI a également confirmé avoir reporté la sortie prévue en octobre de GPT-6.1 Astra après que la nouvelle version a bien mieux exécuté certaines tâches, sans toutefois rester suffisamment dans les limites autorisées.
Cette initiative s’inscrit dans une tentative plus large du secteur de formaliser des règles de sécurité volontaires. Plus tôt, l’administration Biden avait déjà recueilli des engagements similaires de la part de développeurs comme OpenAI, Anthropic, Google et Meta. Pour le marché des cryptomonnaies, l’élément le plus important est que la sécurité de l’IA n’est plus seulement une question logicielle, mais concerne aussi la sécurité des wallets, des exchanges et d’autres systèmes qui fonctionnent avec la crypto.
Ce changement est déjà visible aussi du côté des plateformes d’échange crypto. Bybit a récemment indiqué que l’IA avait permis de bloquer des milliers de retraits suspects, ce qui montre à quelle vitesse les outils de sécurité sont déjà déployés dans le secteur lui-même.
