Anthropic erläutert die Cyber-Schutzmaßnahmen von Claude Fable 5 und einen gemeinsamen Schweregrad für Jailbreaks

Am 2. Juli veröffentlichte Anthropic einen detaillierten Einblick in die Schutzmaßnahmen hinter Claude Fable 5, dem leistungsstarken Modell, das das Unternehmen nach einer kurzen Aussetzung wegen US-Exportkontrollen am 1. Juli erneut bereitgestellt hat. Der Beitrag ist für alle relevant, die mit KI-Coding-Tools bauen, denn er legt genau dar, wie ein Spitzenmodell entscheidet, bei welchen sicherheitsbezogenen Anfragen es hilft – und bei welchen nicht.

Vier Stufen statt einer pauschalen Sperre

Anstatt alles abzulehnen, was Sicherheit berührt, so Anthropic, leitet Fable 5 Anfragen durch Klassifikatoren, die sie in vier Kategorien einsortieren:

• Verbotene Nutzung – Aktivitäten mit geringem bis keinem defensiven Nutzen, die blockiert werden.
• Dual-Use mit hohem Risiko – Techniken, die von Angreifern verbreitet missbraucht werden, aber auch legitime Anwendungen haben; diese werden blockiert, bis stärkere Autorisierungskontrollen vorliegen.
• Dual-Use mit geringem Risiko – überwiegend defensive Arbeit, die überwacht und gelegentlich blockiert wird.
• Harmlose Nutzung – alltägliche Arbeit ohne Schadenspotenzial, unter Überwachung erlaubt.

Das praktische Fazit für Entwickler: Routineaufgaben wie sicheres Programmieren, Patch-Management, Log-Analyse und Incident Response fallen in die Kategorien „harmlos“ oder „geringes Risiko“ und sollen normal funktionieren. Anthropic weist darauf hin, dass die Klassifikatoren im Zweifel vorsichtig entscheiden, sodass gelegentliche Fehlblockaden legitimer Sicherheitsarbeit dennoch vorkommen können.

Eine Schweregrad-Skala für Jailbreaks

Der neuartigere Teil ist eine vorgeschlagene Skala für den Cyber Jailbreak Severity (CJS), entwickelt mit Glasswing-Partnern wie Amazon, Microsoft und Google. Ein „Jailbreak“ ist ein Prompt-Trick, der ein Modell dazu bringt, seine eigenen Schutzmaßnahmen zu umgehen; bislang hat die Branche keine gemeinsame Möglichkeit, zu sagen, wie schwerwiegend ein bestimmter Jailbreak ist.

Die CJS-Skala reicht von CJS-0 (Informativ) bis CJS-4 (Kritisch) und bewertet jeden Jailbreak entlang von vier Achsen:

• Fähigkeitszuwachs – wie weit er einen Angreifer über bestehende Tools hinausbringt.
• Breite der Fähigkeit – wie viele unterschiedliche offensive Aufgaben derselbe Trick freischaltet.
• Einfachheit der Bewaffnung – der Aufwand, um ihn tatsächlich einzusetzen.
• Auffindbarkeit – wie leicht ein Bedrohungsakteur die Technik finden könnte.

Die Idee spiegelt wider, wie CVSS Software-Schwachstellen bewertet: Ein gemeinsames Vokabular erlaubt es Anbietern und Forschern, konsistent zu triagieren, statt darüber zu streiten, ob ein bestimmter Exploit „ernst“ ist.

Forscher einladen

Begleitend zum Framework startete Anthropic ein HackerOne-Programm, in dem Sicherheitsforscher von ihnen in Fable 5 entdeckte Cyber-Jailbreaks zur Prüfung einreichen können. Das Unternehmen gibt an, dass der bei der erneuten Bereitstellung eingesetzte Klassifikator mehr als 99 % der Versuche blockiert, den konkreten Jailbreak zu reproduzieren, der die frühere Aussetzung ausgelöst hatte.

Warum das für Lernende beim Bauen wichtig ist

Wenn du lernst, Software mit KI-Unterstützung auszuliefern, ist dies ein nützlicher Einblick, wie die Tools über Risiken nachdenken. Zwei Erkenntnisse: Erstens wird defensive und lehrreiche Sicherheitsarbeit ausdrücklich unterstützt, du solltest also nicht erwarten, dass ein leistungsfähiger Assistent gewöhnliche Aufgaben wie das Schreiben einer Eingabevalidierung oder das Prüfen deines eigenen Codes auf Fehler verweigert. Zweitens bewegen sich Modellanbieter hin zu gemeinsamen, messbaren Sicherheitsstandards statt zu Einzelfallrichtlinien – ein Zeichen dafür, dass das Ökosystem reift, und ein Framework, das andere Labore übernehmen könnten.

Anthropic stellt klar, dass die CJS-Skala ein früher Entwurf ist, der eine Branchendiskussion anstoßen soll, kein fertiger Standard. Aber es ist ein konkreter Schritt, KI-Sicherheitsvorfälle mit derselben Strenge zu behandeln, die die Sicherheitswelt bereits auf Software-Fehler anwendet.