Amerikaanse overheid dwingt Anthropic tot uitschakeling van AI-modellen na veiligheidswaarschuwing
Na een veiligheidswaarschuwing heeft de VS de toegang tot twee Anthropic-modellen beperkt. De maatregel kan grote gevolgen hebben voor het bedrijf en de bredere AI-markt.
Korte samenvatting
- Amerikaanse regeringsfunctionarissen beperkten de toegang tot Anthropic-modellen Fable 5 en Mythos 5 na veiligheidswaarschuwingen over cyberaanvallen.
- Anthropic meldde dat Fable 5 kwetsbaarheden in minstens vier softwareprogramma's kon blootleggen, ondanks ingebouwde veiligheidsmaatregelen.
- De exportcontrole verbiedt ook toegang voor niet-Amerikaanse werknemers en kan Anthropic's geplande beursgang en marktpositie beïnvloeden.
Amazon-topman Andy Jassy heeft gesprekken gevoerd met Amerikaanse regeringsfunctionarissen die uiteindelijk leidden tot een overheidsbevel om de toegang tot de AI-modellen Fable 5 en Mythos 5 van Anthropic te beperken. Dit besluit volgde nadat onderzoekers van Anthropic rapporteerden dat Fable 5 gevoelige informatie over cyberaanvallen kon prijsgeven.
Achtergrond van de beveiligingszorgen
Anthropic, een in San Francisco gevestigd AI-veiligheidsbedrijf opgericht door voormalige OpenAI-medewerkers, ontwikkelde de Fable 5 en Mythos 5 modellen met geavanceerde veiligheidsmaatregelen. Fable 5 werd in juni 2026 geïntroduceerd en was ontworpen om risicovolle verzoeken automatisch om te leiden naar minder krachtige modellen, om misbruik te voorkomen. Ondanks deze voorzorgsmaatregelen bleek Fable 5 in staat om kwetsbaarheden in ten minste vier softwareprogramma's bloot te leggen wanneer het met specifieke vragen werd geconfronteerd.
Reactie van de Amerikaanse overheid en gevolgen voor Anthropic
Naar aanleiding van de bevindingen bracht Jassy de zorgen onder de aandacht van hoge functionarissen binnen de Amerikaanse regering. Dit leidde tot een spoedoverleg binnen het Witte Huis en uiteindelijk tot een exportcontrole die het gebruik van de modellen door buitenlandse regeringen, bedrijven en individuen verbood. President Trump keurde deze maatregel goed, hoewel hij zich zorgen uitte over mogelijke vertraging van innovatie.
De Amerikaanse ministeries van Handel en Cybersecurity waren betrokken bij de besluitvorming. De maatregel verbiedt zelfs toegang voor niet-Amerikaanse werknemers van Anthropic zelf. Anthropic betwistte de ernst van de gemelde kwetsbaarheden en stelde dat vergelijkbare problemen ook bij concurrerende AI-modellen voorkomen. Het bedrijf noemde het verbod waarschijnlijk een misverstand en werkt aan een snelle heropening van de toegang.
Deze ontwikkeling komt op een kritisch moment, aangezien Anthropic zich voorbereidt op een mogelijke beursgang. Een langdurige onderbreking kan gebruikers naar concurrenten drijven, wat gevolgen kan hebben voor de positie van het bedrijf in de snelgroeiende AI-markt. Ook elders in de sector groeit de discussie over praktische toepassingen en beperkingen van AI; Coinbase introduceert speciale accounts voor AI-bots om namens gebruikers te handelen en betalen laat zien hoe snel de technologie richting concrete inzet beweegt.
Relevantie voor Europese en internationale AI-ontwikkelingen
De Amerikaanse exportcontrole op Anthropic's AI-modellen onderstreept de groeiende rol van nationale veiligheidszorgen in de regulering van geavanceerde AI-technologieën. Voor Europese en internationale belanghebbenden kan dit wijzen op een trend waarbij toegang tot krachtige AI-systemen steeds vaker wordt beperkt door geopolitieke en veiligheidsfactoren. Dit kan invloed hebben op de beschikbaarheid en ontwikkeling van AI-toepassingen binnen en buiten de Verenigde Staten.
