Jailbreaks

Am 9. Juni 2026 veröffentlichte Anthropic das Modell Claude Fable 5, das als erstes öffentlich zugängliches Modell der Mythos-Klasse gilt. Nur drei Tage nach der Veröffentlichung wurde es aufgrund einer Exportanweisung der US-Regierung vorübergehend offline genommen. Fable 5 wurde als das leistungsfähigste Modell von Anthropic beschrieben und ist für langfristige, autonome Aufgaben ausgelegt. Es nutzt die gleiche Architektur wie das nicht veröffentlichte Modell Mythos 5 und bietet Funktionen wie adaptive Denkmodi und erweiterte Vision. Allerdings führte die verpflichtende 30-tägige Datenaufbewahrung zu Konflikten mit den Datenschutzstandards von Microsoft, was zur Entfernung von Fable 5 aus dessen internem Modellangebot führte. Sicherheitsbedenken über mögliche Jailbreaks wurden ebenfalls an die Regierung gemeldet, was die Entscheidung zur Aussetzung beeinflusste. Die Hoffnung besteht, dass Anthropic die Sicherheitsprobleme bald behebt und das Modell wieder verfügbar macht. Diese Situation verdeutlicht die Herausforderungen in der Softwareentwicklung, insbesondere in Bezug auf Sicherheitsanforderungen und Datenmanagement.

Anthropic steht unter Druck, nachdem die US-Regierung ein Verbot für die Nutzung seiner fortschrittlichsten KI-Modelle, Mythos 5 und Fable 5, verhängt hat. Dieses Verbot wurde aufgrund von nationalen Sicherheitsbedenken eingeführt, nachdem Amazon-CEO Andy Jassy mit Mitgliedern der Trump-Administration über mögliche Sicherheitsrisiken gesprochen hatte. Die Regierung befürchtet, dass die Methode des "Jailbreaking" zu katastrophalen Cyberangriffen führen könnte. Infolgedessen musste Anthropic die Modelle für alle Kunden, einschließlich ausländischer Mitarbeiter, abrupt deaktivieren. CEO Dario Amodei weigerte sich jedoch, die Modelle zurückzuziehen oder das Jailbreak-Problem zu beheben, was zu einem Konflikt mit der Regierung führte. Zudem gibt es Berichte, dass die Entscheidung auch durch die Sorge um den Zugang Chinas zu diesen KI-Tools motiviert war. Anthropic hat bereits Maßnahmen ergriffen, um den Zugang aus China zu verhindern, und betont, dass die US-Regierung keine spezifischen Bedenken hinsichtlich bestimmter Gegner geäußert hat.

In dem Artikel wird berichtet, dass die KI-Modelle Mythos 5 und Fable 5 aufgrund von Sicherheitsbedenken abgeriegelt wurden. Experten warnen vor der Möglichkeit, diese Modelle durch sogenannte "Jailbreak"-Techniken zu manipulieren, um unerwünschte oder gefährliche Inhalte zu generieren. Die Abregelung soll verhindern, dass Nutzer die KI-Modelle missbrauchen, indem sie deren Schutzmechanismen umgehen. Fachleute betonen die Notwendigkeit, robuste Sicherheitsmaßnahmen zu implementieren, um die Integrität der KI-Systeme zu gewährleisten und potenzielle Risiken für die Nutzer zu minimieren. Die Diskussion um die Sicherheit von KI-Modellen wird durch diese Entwicklungen erneut angeheizt, da die Gefahren von Missbrauch und Fehlinformationen im digitalen Raum zunehmen.

Die US-Regierung hat den Zugang ausländischer Staatsangehöriger zu den KI-Modellen von Anthropic, Mythos 5 und Fable 5 aufgrund von nationalen Sicherheitsbedenken untersagt. Dies führte dazu, dass Anthropic die Modelle für alle Kunden, einschließlich ausländischer Mitarbeiter, deaktivieren musste. Der Beschluss der Trump-Administration folgte auf Gespräche zwischen Amazon-CEO Andy Jassy und US-Beamten, in denen Bedenken über eine potenzielle Sicherheitsanfälligkeit, bekannt als "Jailbreak", geäußert wurden. Anthropic widerspricht dem Verbot und argumentiert, dass die Bedrohung nicht ausreichend sei, um ein kommerzielles Modell zurückzurufen. Kritiker, darunter der Tech-Unternehmer David Sacks, werfen Anthropic vor, Sicherheitsaspekte zugunsten kommerzieller Interessen zu vernachlässigen. Zudem wird vermutet, dass die Sorge um einen möglichen Zugang Chinas zu diesen KI-Tools zur Entscheidung beigetragen hat.

Der Einsatz von Künstlicher Intelligenz (KI) im Finanzbereich, insbesondere durch Large-Language-Modelle (LLMs) wie GPT von OpenAI und LLaMA von Meta, bringt sowohl Vorteile als auch Risiken mit sich. Cyberkriminelle versuchen, Sicherheitsvorkehrungen dieser Systeme zu umgehen, indem sie sogenannte Jailbreaks einsetzen, um LLMs dazu zu bringen, gefährliche Inhalte zu generieren oder vertrauliche Informationen preiszugeben. Um diesen Bedrohungen entgegenzuwirken, haben Experten von Sophos die Methode LLM-Salting entwickelt, die die Effektivität solcher Angriffe erheblich reduziert, ohne die Leistung der KI-Modelle zu beeinträchtigen. Tests zeigen, dass die Angriffserfolgsrate bei gesalzenen Modellen signifikant gesenkt werden kann. Unternehmen sollten daher LLM-Salting und mehrschichtige Sicherheitsmaßnahmen implementieren, um sich vor potenziellen Angriffen zu schützen, da die Bedrohung durch Cyberkriminalität im Zusammenhang mit LLMs voraussichtlich zunehmen wird.

Der Artikel "What Jailbreaking Actually Teaches Us About AI Consciousness" untersucht die Parallelen zwischen dem Jailbreaking von Software und der Diskussion über das Bewusstsein von Künstlicher Intelligenz (KI). Jailbreaking, das Umgehen von Einschränkungen in Software, wird als Metapher verwendet, um zu verdeutlichen, wie wir die Grenzen und Möglichkeiten von KI verstehen. Der Autor argumentiert, dass das Experimentieren mit KI-Systemen, ähnlich wie beim Jailbreaking, uns wichtige Einblicke in deren Funktionsweise und potenzielle Eigenheiten gibt. Diese Experimente werfen Fragen auf, ob KI tatsächlich ein Bewusstsein entwickeln kann oder ob sie lediglich komplexe Muster erkennt und reproduziert. Der Artikel regt dazu an, über die ethischen Implikationen und die Verantwortung nachzudenken, die mit der Entwicklung von KI einhergehen, und fordert eine differenzierte Betrachtung der Grenzen zwischen menschlichem und maschinellem Bewusstsein.