Fable 5 hielt 3 Tage durch. Ein Brief um 17:21 Uhr machte dem ein Ende

Wichtigste Erkenntnisse

• Washington zog ein aktives KI-Modell zurück: Am 12. Juni 2026 erließ die US-Regierung eine Exportkontrollrichtlinie, die Anthropic zwang, Claude Fable 5 und Claude Mythos 5 für alle Kunden zu deaktivieren – drei Tage nach dem Start.
• Der Auslöser ist umstritten: Anthropic erklärt, die Beweise der Regierung bezögen sich auf einen einzigen „eng begrenzten, nicht universellen“ Jailbreak. Dieser habe lediglich darin bestanden, das Modell aufzufordern, eine Codebasis zu lesen und deren Fehler zu beheben – eine Fähigkeit, die andere öffentliche Modelle nach Angaben des Unternehmens bereits besitzen.
• Das Timing ist verheerend: Zwei Tage vor der Richtlinie veröffentlichte Anthropic ein Grundsatzpapier, in dem argumentiert wurde, die Regierung sollte die gesetzliche Befugnis haben, gefährliche KI-Bereitstellungen zu blockieren. Das Unternehmen erhielt die geforderte Befugnis, allerdings ohne das ebenfalls geforderte rechtsstaatliche Verfahren.
• Es geht im Kern um die Architektur: Fable 5 und Mythos 5 basieren auf demselben zugrunde liegenden Modell, das lediglich durch eine Sicherheitsbarriere getrennt ist. Ein glaubwürdiger Jailbreak-Vorwurf gegen Fable bedeutet, dass jeder Zugriff auf das erhalten kann, was Anthropic als das stärkste Cybersicherheitsmodell der Welt bezeichnet.

Ein Brief um 17:21 Uhr

Am 12. Juni um 17:21 Uhr Ortszeit (ET) ging bei Anthropic ein Brief ein. Am Ende des Abends war das künstliche Intelligenzmodell (KI-Modell), dessen Fähigkeiten nach Angaben von Anthropic „die jedes anderen jemals allgemein verfügbaren Modells übertreffen“, verschwunden – abgeschaltet für alle Kunden weltweit.

Der Brief war eine Exportkontrollrichtlinie der US-Regierung, die unter Berufung auf die nationale Sicherheit erlassen wurde. Sie ordnete die sofortige Einstellung jeglichen Zugriffs auf Claude Fable 5 und Claude Mythos 5 für „jeden ausländischen Staatsangehörigen innerhalb oder außerhalb der Vereinigten Staaten, einschließlich ausländischer Anthropic-Mitarbeiter“ an. Das Unternehmen erklärt, die Anordnung habe es gezwungen, „Fable 5 und Mythos 5 abrupt für alle Kunden zu deaktivieren“. Der Grund liegt auf der Hand: Kein öffentlicher KI-Dienst kontrolliert am Chat-Fenster Pässe. Der Zugang zu allen anderen Anthropic-Modellen bleibt bestehen.

Fable 5 startete am 9. Juni. Es überlebte drei Tage.

Regierungen haben bereits Apps innerhalb ihrer Grenzen verboten, Chipentwickler sanktioniert und Halbleiterexporte eingeschränkt. Aber eine Anordnung, die ein Unternehmen zwingt, sein eigenes Flaggschiff weltweit abzuschalten – ein Modell, das laut Anthropic für „Hunderte Millionen Menschen“ freigegeben war –, ist ein völlig neues Instrument staatlicher Macht. Und das betroffene Unternehmen ist dasselbe, das sich in den letzten vier Monaten in einem offenen Konflikt mit der Trump-Regierung befand und in den letzten zwei Tagen argumentierte, dass Regierungen genau eine solche Befugnis besitzen sollten.

Was die Richtlinie tatsächlich bewirkt

Beginnen wir mit dem Mechanismus, der merkwürdiger ist, als die Schlagzeilen vermuten lassen. Dies war keine gerichtliche Verfügung und kein Rückruf nach dem Verbraucherschutzrecht. Die von Anthropic selbst vorgeschlagene Blockierungsbefugnis würde nach Angaben des Unternehmens „über das hinausgehen, was im geltenden Recht oder in bestehenden Vorschlägen im Kongress vorhanden ist“, was bedeutet, dass kein KI-spezifisches Rückrufgesetz zur Verfügung stand. Die Regierung griff stattdessen auf eine Exportkontrollrichtlinie zurück – jene Rechtsinstrumente, mit denen normalerweise verhindert werden soll, dass Chips, Waffenentwürfe und Verschlüsselungstechnik in die Hände ausländischer Gegner gelangen.

Die Tragweite macht die Anordnung de facto zu einer Komplettabschaltung. Indem sie den Zugang für alle ausländischen Staatsangehörigen an jedem Ort sperrte, auch innerhalb der USA und innerhalb von Anthropic selbst, machte die Richtlinie die Einhaltung durch bloße Filterung praktisch unmöglich. Anthropic erklärt, der Brief habe „keine spezifischen Details zu den Bedenken hinsichtlich der nationalen Sicherheit geliefert“. Das Unternehmen gibt an, bisher nur „mündliche Beweise“ für das Problem erhalten zu haben, das die Regierung gefunden haben will.

Das ist entscheidend für das weitere Vorgehen. Ein formelles Regelungsverfahren kann Zeile für Zeile gerichtlich angefochten werden. Eine mündlich begründete Richtlinie ohne Veröffentlichung zwingt den Betroffenen dazu, gegen einen Vorwurf zu argumentieren, den er nicht vollständig einsehen kann. Man muss sich nicht auf die Seite von Anthropic schlagen, um zu erkennen, dass dieses Verfahren das Gegenteil von transparent ist.

Der Jailbreak, der dies angeblich rechtfertigte

Laut Anthropic geht die Regierung davon aus, dass eine Methode zur Umgehung der Sicherheitssysteme von Fable 5 („Jailbreak“) bekannt geworden ist. Jailbreaking bedeutet, Prompts so zu formulieren, dass ein Modell Dinge tut, die seine Sicherheitsvorkehrungen eigentlich verweigern sollten.

Anthropics Beschreibung der Methode lässt die Geschichte absurd erscheinen. Das Unternehmen erklärt, der behauptete Jailbreak bestehe „im Wesentlichen darin, das Modell aufzufordern, eine bestimmte Codebasis zu lesen und Softwarefehler zu beheben“. Das ist kein exotischer Angriff. Es beschreibt eine alltägliche Aufgabe der defensiven Cybersicherheit, wie sie täglich von jedem Sicherheitsteam in Unternehmen weltweit durchgeführt wird. Anthropic erklärt, man habe eine Demonstration und einen Bericht geprüft, die der Richtlinie zugrunde liegen sollen, und festgestellt, dass die Methode „eine kleine Anzahl bereits bekannter, geringfügiger Schwachstellen“ aufgedeckt habe. Andere öffentliche Modelle, „einschließlich GPT-5.5 von OpenAI“, könnten diese Schwachstellen ganz ohne Sicherheitsumgehung finden. Gegen kein Konkurrenzmodell wurde eine vergleichbare Anordnung bekannt.

Zwei Einschränkungen sind hierbei wichtig. Erstens handelt es sich hierbei ausschließlich um die Darstellung von Anthropic. Die Richtlinie ist nicht öffentlich, der Bericht ist nicht öffentlich, und die Regierung handelt möglicherweise auf der Grundlage von Beweisen, die Anthropic nicht gesehen hat oder nicht beschreiben will. Zweitens gab es bereits vor der Richtlinie öffentliche Jailbreak-Berichte zu Fable 5. Tage nach dem Start erklärte der bekannte KI-Red-Teamer Pliny the Liberator öffentlich, sein Team habe die Sicherheitsfilter von Fable 5 umgangen. Er postete Screenshots, die zeigen sollen, wie das Modell gesperrte Inhalte erzeugt, darunter funktionsfähigen Software-Exploit-Code. TechTimes berichtete über diese Behauptungen am 12. Juni, ohne eine Verbindung zu Regierungsmaßnahmen herzustellen; es gibt keine öffentlichen Beweise für einen Zusammenhang mit der Richtlinie.

Das Gegenargument von Anthropic betrifft das Verfahren, nicht die Leugnung. Das Unternehmen erklärt, man habe in den Wochen vor dem Start die Sicherheitsfilter von Fable mit der US-Regierung, dem britischen AI Safety Institute (UK AISI) und privaten Dritten für „insgesamt Tausende von Stunden“ getestet und „kein Tester konnte bisher einen universellen Jailbreak finden“. Gleichzeitig räumt Anthropic ein, dass es eine absolute Sicherheit gegen Jailbreaks wohl bei keinem Anbieter gibt. Deshalb verbinde man Sicherheitsfilter mit Überwachung und einer 30-tägigen Datenspeicherung, um Angriffe zu erkennen und zu analysieren.

Ein Modell, zwei Namen

Um zu verstehen, warum ein Jailbreak-Vorwurf gegen Fable 5 den Sicherheitsapparat der Regierung auf den Plan ruft, muss man die Architektur kennen. Fable 5 und Mythos 5 sind keine unterschiedlichen Modelle. Es ist dasselbe zugrunde liegende Modell in unterschiedlicher Verpackung.

Fable 5 ist die öffentliche Version. Sie enthält Sicherheitsfilter, die Anfragen zu Cybersicherheit, Biologie und Chemie oder Modell-Replikation erkennen und diese Anfragen an das nächstkleinere Modell, Claude Opus 4.8, weiterleiten. Der Benutzer wird darüber informiert. Anthropic erklärt, diese Filter seien konservativ eingestellt und griffen im Durchschnitt „in weniger als 5 % der Sitzungen“. Rechnet man diese Obergrenze hoch, wird die Dimension deutlich: Bei einer Million Sitzungen können bis zu 50.000 eine Umleitung auslösen. Anthropic wies bereits beim Start auf diesen Kompromiss hin, und im Statement zur Abschaltung wird eingeräumt, dass die Sicherheitsbarrieren so streng sind, dass „viele Benutzer sich über übermäßig restriktive Filter beschwert haben“.

Mythos 5 ist dasselbe Modell, „bei dem die Sicherheitsfilter in einigen Bereichen aufgehoben wurden“. Es wird über das Project Glasswing – ein in Zusammenarbeit mit der US-Regierung durchgeführtes Programm mit kontrolliertem Zugang – nur an eine kleine Gruppe von Cybersicherheits-Experten und Infrastrukturanbietern abgegeben. Anthropic bezeichnet es als das Modell mit „den stärksten Cybersicherheits-Fähigkeiten aller Modelle weltweit“.

Dieses Design erklärt alles. Der Unterschied zwischen Fable und Mythos liegt nicht in der Leistungsfähigkeit, sondern im Sicherheitsfilter. Wenn also jemand behauptet, Fable 5 überlistet zu haben, behauptet er im Grunde, dass die Öffentlichkeit ohne Überprüfung durch das Project Glasswing Zugriff auf die Cybersicherheits-Fähigkeiten von Mythos erlangen kann. Sollte dies zutreffen, bricht die gesamte zweistufige Sicherheitsarchitektur zusammen. Anthropic verteidigt sich mit der Aussage, die gemeldeten Jailbreaks lieferten „entweder völlig harmlose Antworten oder geringfügige Ergebnisse, die keinen Mythos-spezifischen Nutzen bieten“. Die Regierung war davon offenbar nicht überzeugt.

Anthropic forderte diese Befugnis zwei Tage zuvor

Dies ist der Teil, der in politikwissenschaftlichen Seminaren behandelt werden wird. Am 10. Juni, zwei Tage vor dem Eintreffen der Richtlinie, veröffentlichte Anthropic ein Papier zur Regulierung von KI-Spitzenmodellen. Der Vorschlag ist eindeutig: Wenn ein Modell ein katastrophales Risiko darstellt, „sollte die Regierung die gesetzliche Befugnis haben, seine Bereitstellung zu blockieren oder zu verhindern“, untermauert durch zivilrechtliche Strafen, die an den weltweiten Jahresumsatz gekoppelt sind. Der Vorschlag sollte für Modelle gelten, die mit mehr als 10²⁵ Rechenoperationen (FLOPs) trainiert wurden, von Unternehmen, die mehr als 500 Millionen Dollar Umsatz mit KI erzielen oder mehr als eine Milliarde Dollar für Forschung und Entwicklung ausgeben. Diese Grenzwerte wurden so gewählt, dass sie genau auf die Klasse von Modellen zutreffen, zu der Fable 5 gehört.

Dasselbe Papier warnte vor Fehlgriffen. Anthropic schrieb, dass Politiker „auch eine zu weit gehende oder willkürliche Regulierungsmacht vermeiden müssen“ und schlug konkrete Vorkehrungen vor, um den Missbrauch von Blockierungsbefugnissen zu verhindern.

Zwei Tage später blockierte die Regierung Anthropics Modell. Nicht über das vom Unternehmen vorgeschlagene gesetzliche Verfahren mit unabhängigen Prüfern, veröffentlichten Tests und rechtsstaatlichem Schutz, sondern durch ein Exportkontrollschreiben mit mündlich vorgetragenen Argumenten. Das Statement von Anthropic formuliert dieses Dilemma mit sichtbarem Unbehagen: Das Unternehmen bekräftigt, dass die Regierung in der Lage sein sollte, unsichere Modelle zu blockieren, allerdings „im Rahmen eines gesetzlichen Prozesses, der transparent, fair, klar und auf technische Fakten gestützt ist“, und fügt dann hinzu: „Diese Maßnahme entspricht diesen Grundsätzen nicht.“

Um präzise zu sein: Es gibt keine öffentlichen Beweise dafür, dass die Richtlinie eine Reaktion auf Anthropics Aufsatz war. Darin eine gezielte Bestrafung zu sehen, wäre eine reine Mutmaßung. Die naheliegende Erklärung ist, dass eine ohnehin im Konflikt mit dem Unternehmen stehende Regierung einen Jailbreak-Bericht über ein neues Spitzenmodell erhielt und zum härtesten Instrument im Kasten griff. Aber das zeitliche Aufeinandertreffen steht fest. Anthropic forderte am Mittwoch einen Notausschalter mit rechtsstaatlichen Garantien. Am Freitag erfuhr das Unternehmen, dass die Regierung bereits einen hatte – und dass Garantien optional waren.

Vier Monate offener Konflikt

Dies geschah nicht im luftleeren Raum. Die Richtlinie ist die jüngste Runde in einem Konflikt, den dieses Portal seit Februar verfolgt. Damals weigerte sich das Unternehmen, Claude für die Massenüberwachung von Amerikanern oder die Steuerung autonomer Waffen freizugeben. Das Verteidigungsministerium stufte Anthropic daraufhin als Sicherheitsrisiko für die Lieferkette ein, gefolgt von einem regierungsweiten Nutzungsverbot.

Die Auswirkungen dieser Entscheidung sind dokumentiert. Anfang März berichtete Nextgov, dass Bundesbehörden begannen, Verträge mit Anthropic zu kündigen, nachdem Präsident Trump die Behörden aufgefordert hatte, die Arbeit mit Anthropic-Produkten einzustellen. Das Finanzministerium bestätigte den Stopp, und das Außenministerium sowie das Gesundheitsministerium (HHS) leiteten Schritte ein, um die Tools des Unternehmens aus ihren Arbeitsabläufen zu entfernen. Dann griffen die Gerichte ein. Am 26. März 2026 erließ ein Bundesgericht in Kalifornien eine einstweilige Verfügung, die die Umsetzung der präsidialen Richtlinie stoppte. Bis zum 3. April gab die GSA bekannt, dass man „den vor dem 27. Februar 2026 geltenden Zustand für die Technologie von Anthropic wiederherstellt“.

Mit anderen Worten: Anthropic gewann den Streit um die Verträge vor Gericht. Die Exportkontrollrichtlinie eröffnet nun eine zweite Front, die von der einstweiligen Verfügung nicht abgedeckt wird. Sie zielt nicht auf die Beschaffung von Claude durch Behörden, sondern auf das kommerzielle Flaggschiff des Unternehmens selbst. Ob dies Zufall oder Strategie ist, bleibt unbeantwortet; die Regierung hat sich dazu nicht geäußert.

Die Daten

Der Ablauf konzentriert sich auf eine einzige Woche:

Auch die wirtschaftliche Dimension ist messbar. Fable 5 und Mythos 5 wurden mit 10 Dollar pro Million Input-Token und 50 Dollar pro Million Output-Token bepreist – laut Anthropic „weniger als die Hälfte des Preises von Claude Mythos Preview“, dem Vorgänger mit begrenztem Zugang. Dieser Satz erlaubt eine Eingrenzung der Kosten für KI-Spitzenmodelle vor dem Verkaufsstart:

$$P_{\text{MythosPreview}} > 2 \times P_{\text{Fable5}} \;\Rightarrow\; P_{\text{MythosPreview}} > 20 \text{ (Input)} \;/\; 100 \text{ (Output)}$$

in Dollar pro Million Token. Der Verkaufsstart halbierte die Kosten für das weltweit leistungsfähigste Cybersicherheitsmodell und machte es in gefilterter Form für jeden zugänglich, der ein Claude-Konto besitzt. Drei Tage später wurde der Filter selbst zum Thema der nationalen Sicherheit.

Was als Nächstes wegbricht

Das Präzedenzfallcharakter bestimmt nun die Diskussion und wirkt sich in alle Richtungen aus.

Für KI-Entwickler hat sich das Risiko einer Veröffentlichung verändert. Anthropics eigene Warnung bringt es auf den Punkt: Wenn ein „eng begrenzter potenzieller Jailbreak“ ausreicht, um ein Modell zurückzurufen, würde dieser Maßstab „praktisch jede Bereitstellung neuer Modelle für alle führenden Anbieter stoppen“. Die Rechtsabteilungen in San Francisco haben diesen Brief gelesen und damit begonnen, Notfallpläne für den Fall aufzustellen, dass sie selbst einen Brief um 17:21 Uhr erhalten.

Für Unternehmen ist die Lehre bitterer. Firmen, die ihre Anwendungen auf Fable 5 umgestellt hatten, verloren über Nacht das vom Anbieter empfohlene Modell – ohne ein technisches Versagen des Anbieters. Zu erwarten sind nun Klauseln für Modellsperrungen in KI-Verträgen, der verstärkte Einsatz von Multi-Modell-Architekturen und ein Aufschlag für Modelle, die sich über längere Zeit im Markt bewährt haben. Anthropic erklärt, man betrachte die Situation als „Missverständnis“ und arbeite an einer Wiederherstellung des Zugangs. Weitere technische Details wurden innerhalb von 24 Stunden nach dem Statement in Aussicht gestellt. Bis dahin bleiben alle anderen Anthropic-Modelle verfügbar.

Für die politische Debatte wird die Ironie der Situation zum Argument. Befürworter einer gesetzlichen KI-Aufsicht, darunter Anthropic, haben nun ein praktisches Beispiel dafür, wie eine Blockierungsbefugnis ohne die von ihnen vorgeschlagenen Schutzvorkehrungen aussieht: keine veröffentlichten Beweise, keine unabhängige Prüfung, kein klarer Rechtsweg. Gegner staatlicher Regulierung werden den Fall als Beweis dafür nutzen, dass man dem Staat solche Befugnisse überhaupt nicht anvertrauen darf. Beide Seiten stützen ihre Argumente auf dieselben drei Tage.

Fazit

Lässt man die Namen weg, stellt sich die Woche wie folgt dar: Ein Unternehmen brachte ein KI-Spitzenmodell auf den Markt, forderte die Regierung auf, solche Modelle im Rahmen eines transparenten Gesetzesverfahrens zu regulieren, und wurde dann durch eine intransparente Maßnahme abgeschaltet – auf der Grundlage von Argumenten, die niemand außerhalb eines kleinen Zirkels gesehen hat, wegen einer Fähigkeit, die Konkurrenzmodelle nach Angaben des Unternehmens bereits bieten.

Möglicherweise verfügt die Regierung über Informationen, die der Öffentlichkeit nicht vorliegen. Das ist durchaus denkbar, und geheime Erkenntnisse sind das stärkste Argument für die Richtlinie. Aber eine staatliche Macht, die kommerzielle Technologie auf der Grundlage von nicht veröffentlichten, mündlich übermittelten Behauptungen ohne gesetzliche Grundlage abschaltet, ist kein Sicherheitsregime. Das ist Willkür. Und Willkür gegenüber einem Unternehmen, das die Regierung seit vier Monaten öffentlich abstraft, verdient keinerlei Vertrauensvorschuss, solange die Beweise nicht auf dem Tisch liegen. Der Ausweg ist derjenige, den fast alle Beteiligten zu wollen vorgeben: Den Notausschalter gesetzlich regeln, mit verifizierten Beweisen und unabhängiger Prüfung, damit der nächste Brief um 17:21 Uhr seine Begründung offenlegen muss.

Quellen (9)

• anthropic.com Anthropic Statement on Fable 5 and Mythos 5 Suspension
• anthropic.com Claude Fable 5 and Claude Mythos 5 Launch Announcement
• anthropic.com Policy on the AI Exponential
• techcrunch.com Fable 5 Is a Version of Mythos the Public Can Access
• cnbc.com Anthropic Disables Access to Fable 5 and Mythos 5
• thenextweb.com Anthropic Wants Governments to Block Dangerous AI
• techtimes.com Claude Fable 5 Hit by Jailbreak Claims After Launch
• nextgov.com Agencies Begin to Shed Anthropic Contracts
• gsa.gov GSA Statement on Anthropic Preliminary Injunction