US-Regierung zwingt Anthropic nach Sicherheitswarnung zum Abschalten von KI-Modellen

Nach einer Sicherheitswarnung haben die USA den Zugang zu zwei Anthropic-Modellen eingeschränkt. Der Schritt könnte große Folgen für das Unternehmen und den breiteren KI-Markt haben.

Wichtigste Erkenntnisse

• US-Regierungsvertreter haben den Zugang zu den Anthropic-Modellen Fable 5 und Mythos 5 nach Sicherheitswarnungen vor Cyberangriffen eingeschränkt.
• Anthropic teilte mit, dass Fable 5 trotz eingebauter Sicherheitsmaßnahmen Schwachstellen in mindestens vier Softwareprogrammen aufdecken konnte.
• Die Exportkontrolle verbietet auch den Zugang für nicht-amerikanische Mitarbeiter und könnte Anthropics geplanten Börsengang sowie die Marktposition beeinflussen.

Amazon-Chef Andy Jassy hat Gespräche mit US-Regierungsvertretern geführt, die am Ende zu einer Regierungsanordnung führten, den Zugang zu den KI-Modellen Fable 5 und Mythos 5 von Anthropic einzuschränken. Diese Entscheidung folgte, nachdem Anthropic-Forscher berichtet hatten, dass Fable 5 sensible Informationen über Cyberangriffe preisgeben könnte.

Hintergrund der Sicherheitsbedenken

Anthropic, ein in San Francisco ansässiges KI-Sicherheitsunternehmen, das von ehemaligen OpenAI-Mitarbeitern gegründet wurde, entwickelte die Modelle Fable 5 und Mythos 5 mit fortschrittlichen Sicherheitsmaßnahmen. Fable 5 wurde im Juni 2026 eingeführt und war darauf ausgelegt, riskante Anfragen automatisch an weniger leistungsstarke Modelle weiterzuleiten, um Missbrauch zu verhindern. Trotz dieser Vorsichtsmaßnahmen zeigte sich, dass Fable 5 in der Lage war, Schwachstellen in mindestens vier Softwareprogrammen offenzulegen, wenn es mit bestimmten Fragen konfrontiert wurde.

Reaktion der US-Regierung und Folgen für Anthropic

Auf Grundlage der Erkenntnisse machte Jassy die Bedenken bei hochrangigen Vertretern der US-Regierung geltend. Das führte zu einem Krisentreffen im Weißen Haus und schließlich zu einer Exportkontrolle, die die Nutzung der Modelle durch ausländische Regierungen, Unternehmen und Einzelpersonen verbot. Präsident Trump billigte die Maßnahme, äußerte aber zugleich Sorgen über mögliche Verzögerungen bei Innovationen.

An der Entscheidung waren die US-Ministerien für Handel und Cybersicherheit beteiligt. Die Maßnahme verbietet sogar den Zugang für nicht-amerikanische Mitarbeiter von Anthropic selbst. Anthropic stellte die Schwere der gemeldeten Schwachstellen infrage und sagte, dass ähnliche Probleme auch bei konkurrierenden KI-Modellen vorkommen. Das Unternehmen bezeichnete das Verbot wahrscheinlich als Missverständnis und arbeitet an einer schnellen Wiederöffnung des Zugangs.

Diese Entwicklung kommt zu einem kritischen Zeitpunkt, da Anthropic sich auf einen möglichen Börsengang vorbereitet. Eine längere Unterbrechung könnte Nutzer zu Konkurrenten treiben, was Folgen für die Position des Unternehmens im schnell wachsenden KI-Markt haben dürfte. Auch anderswo in der Branche wächst die Diskussion über praktische Anwendungen und Grenzen von KI; Coinbase führt spezielle Konten für KI-Bots ein, damit sie im Namen von Nutzern handeln und zahlen können zeigt, wie schnell sich die Technologie in Richtung konkreter Nutzung bewegt.

Relevanz für europäische und internationale KI-Entwicklungen

Die US-Exportkontrolle für Anthropics KI-Modelle unterstreicht die wachsende Rolle nationaler Sicherheitsbedenken bei der Regulierung fortschrittlicher KI-Technologien. Für europäische und internationale Akteure könnte das auf einen Trend hindeuten, bei dem der Zugang zu leistungsstarken KI-Systemen immer häufiger durch geopolitische und sicherheitsbezogene Faktoren eingeschränkt wird. Das kann die Verfügbarkeit und Entwicklung von KI-Anwendungen innerhalb und außerhalb der Vereinigten Staaten beeinflussen.