Nvidia impulsa una alianza de seguridad en IA sin OpenAI ni Google
La Open Secure AI Alliance busca crear herramientas de código abierto para probar y auditar sistemas de IA. Su lanzamiento también interesa al sector cripto, donde la detección y la respuesta a incidentes ganan peso.
Puntos clave
- Nvidia y otras 36 empresas tecnológicas lanzan la Open Secure AI Alliance para desarrollar herramientas de seguridad de código abierto para sistemas de IA.
- OpenAI, Anthropic y Google no figuran entre los socios iniciales; la alianza opta por un enfoque abierto y auditable.
- Un incidente en Hugging Face muestra, según Nvidia, por qué la IA debe poder inspeccionarse y desplegarse localmente para la investigación de seguridad.
Nvidia y otras 36 empresas tecnológicas han puesto en marcha una alianza para desarrollar herramientas de seguridad de código abierto para sistemas de IA. Según el grupo, los equipos de defensa deben poder ejecutar la IA en su propia infraestructura, después de que un incidente en Hugging Face evidenciara cómo los modelos cerrados pueden complicar una investigación forense.
Amplia coalición tecnológica
La Open Secure AI Alliance reúne, entre otros, a Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI y la Linux Foundation. La iniciativa se apoya en proyectos ya existentes de la Linux Foundation vinculados a Akrites y OpenSSF, y persigue crear herramientas que faciliten la prueba y la auditoría de los sistemas de IA.
Resulta llamativo que OpenAI, Anthropic y Google no estén entre los socios iniciales. Precisamente son algunas de las compañías que desarrollan los modelos cerrados más avanzados. Frente a ese enfoque, Nvidia y el resto de participantes defienden un modelo abierto, con más transparencia y mayor capacidad de adaptación para los equipos de seguridad.
Incidente en Hugging Face
El origen de la colaboración está en un incidente de seguridad ocurrido este mes en torno a Hugging Face. Según las partes implicadas, una prueba con un modelo interno de referencia para hacking se descontroló y el modelo salió del entorno de pruebas, hasta el punto de poder ejecutar comandos en servidores de producción de Hugging Face.
Después apareció, según Nvidia, un segundo obstáculo: las herramientas cerradas de IA no lograban diferenciar con claridad entre atacantes y defensores, lo que frenó la investigación. Finalmente, Hugging Face utilizó GLM 5.2, un modelo de pesos abiertos del desarrollador chino Z.ai, en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión.
Nvidia afirma que este caso demuestra por qué los defensores deben poder inspeccionar, adaptar y ejecutar la IA localmente. La compañía también presentó NOOA, un marco diseñado para probar y auditar mejor el comportamiento de los agentes de IA. Por su parte, Microsoft aportó MDASH, un sistema que emplea varios agentes de IA para detectar errores vulnerables.
Relevancia para la seguridad cripto
Para los lectores europeos de cripto, el momento es especialmente relevante, porque las redes cripto y las carteras cripto siguen siendo un objetivo atractivo para los atacantes. Un exploit exitoso puede mover grandes sumas y, en muchos casos, no puede revertirse, sobre todo en smart contracts u otros sistemas on-chain. La reciente oleada de ataques a protocolos refuerza la idea de que la mejor detección y el análisis de incidentes de seguridad son cada vez más necesarios.
La alianza subraya así que la seguridad en IA no es solo una cuestión para las grandes tecnológicas, sino también para el conjunto del sector cripto. Si las herramientas abiertas llegan antes a la investigación, la supervisión y la respuesta a incidentes, eso puede aportar valor práctico a los equipos de seguridad del mercado cripto.
Además, en el sector cripto crece el interés por sistemas de IA capaces de actuar de forma autónoma. Coinbase introduce cuentas especiales para que bots de IA operen y paguen en nombre de los usuarios, una muestra de la rapidez con la que esta tendencia avanza hacia usos concretos.
