Red Teaming & Risikoanalyse

Anthropic hat ein KI-Modell namens Mythos entwickelt, das in der Lage ist, Zero-Day-Sicherheitsanfälligkeiten zu generieren, was Besorgnis in der Informationssicherheitsgemeinschaft auslöst. Aufgrund der potenziellen negativen Auswirkungen auf das Internet entschied sich das Unternehmen, Mythos nicht öffentlich zugänglich zu machen. Das Modell übertrifft die Vorgängerversion Claude Opus 4.6 erheblich, indem es in 72,4 Prozent der Fälle funktionierende Exploits erstellt. Stattdessen wurde eine Vorschauversion im Rahmen des Projekts Glasswing ausgewählten Partnern wie Amazon Web Services, Apple und Google zur Verfügung gestellt, um deren Systeme auf Schwachstellen zu überprüfen. Zusätzlich wurden 40 weitere Organisationen eingeladen, an der Suche nach Sicherheitslücken teilzunehmen, unterstützt durch bis zu 100 Millionen Dollar an Nutzungsgutschriften. Die Testergebnisse zeigen, dass Mythos schwer zu entdeckende Schwachstellen in allen wichtigen Betriebssystemen und Webbrowsern identifizieren und ausnutzen kann. Anthropic berichtete von der Entdeckung tausender hoch- und kritisch eingestufter Sicherheitsanfälligkeiten, die nun verantwortungsbewusst offengelegt werden.

Anthropic hat den Zugang zu seinem neuen KI-Modell Mythos eingeschränkt, um Bedenken hinsichtlich möglicher Cyberangriffe zu adressieren. Anstatt das Modell öffentlich zu veröffentlichen, wird es nur einer ausgewählten Gruppe von Technologie- und Cybersecurity-Unternehmen im Rahmen des Projekts Glasswing zur Verfügung gestellt. Zu den Partnern zählen namhafte Firmen wie Microsoft, Amazon, Apple, CrowdStrike und Palo Alto Networks, die Mythos ausschließlich für defensive Sicherheitsanwendungen nutzen dürfen. Diese Entscheidung markiert einen signifikanten Wandel in der KI-Entwicklung, da Anthropic Sicherheitsbedenken über kommerzielle Interessen stellt. Mythos zeichnet sich durch die Fähigkeit aus, Schwachstellen im Code zu identifizieren und komplexe Systemarchitekturen zu verstehen, was es sowohl für Verteidiger als auch für Angreifer wertvoll macht. Während interner Tests entdeckte das Modell sogar Zero-Day-Schwachstellen in weit verbreiteter Unternehmenssoftware, die von herkömmlichen Scanning-Tools übersehen wurden.

Am 31. März 2023 entdeckte der Sicherheitsforscher Chaofan Shou, dass der vollständige TypeScript-Quellcode des Claude Code CLI-Tools von Anthropic versehentlich auf der öffentlichen npm-Registry veröffentlicht wurde. Dies geschah durch einen menschlichen Fehler, bei dem eine .map-Datei, die den Quellcode referenzierte, in das npm-Paket aufgenommen wurde. Obwohl Anthropic dies als Verpackungsproblem und nicht als Sicherheitsvorfall klassifizierte, führte die Entdeckung dazu, dass der Code schnell in mehreren GitHub-Repositories archiviert wurde. Die Leckage offenbarte eine komplexe Architektur mit rund 1.900 TypeScript-Dateien und internen Funktionen, die nicht für die Öffentlichkeit bestimmt waren, was Sicherheitsbedenken aufwarf. Angreifer könnten nun potenziell Schwachstellen im System ausnutzen. Zudem wurde am selben Tag ein separater Angriff auf das axios npm-Paket gemeldet, was die Situation für Entwickler, die Claude Code nutzen, weiter erschwerte. Bisher hat Anthropic keine spezifischen Maßnahmen zur Behebung der Probleme bekannt gegeben, außer der Entfernung der betroffenen npm-Versionen.