Missbrauchsschutz

Anthropic hat sein Projekt Glasswing auf etwa 150 Partnerorganisationen in über 15 Ländern ausgeweitet, um kritische Software auf Sicherheitsanfälligkeiten zu überprüfen. Das Projekt nutzt das Claude Mythos Preview-Modell, das bereits von rund 50 Partnern zur Identifizierung von über 10.000 schwerwiegenden Schwachstellen eingesetzt wurde. Die neuen Partner stammen aus verschiedenen Sektoren wie Energie, Wasser, Gesundheitswesen und Kommunikation, wobei Anthropic schätzt, dass ein erfolgreicher Angriff auf deren Systeme mehr als 100 Millionen Menschen betreffen könnte. Die EU-Cybersicherheitsbehörde ENISA wird voraussichtlich ebenfalls Zugang zu den Ergebnissen erhalten. Anthropic warnt, dass konkurrierende KI-Unternehmen innerhalb von 6 bis 12 Monaten ähnliche Modelle ohne Missbrauchsschutz entwickeln könnten. In den kommenden Wochen plant das Unternehmen, die Funktionen von Mythos breiter verfügbar zu machen, sobald ausreichende Schutzmaßnahmen implementiert sind. Dies könnte sich als lukratives Geschäft erweisen, da Anthropic bereits mit Claude Security ein kommerzielles Produkt anbietet, das Codebasen scannt und Patches vorschlägt, und somit Schutz gegen Angriffe von Mythos-Klassenmodellen verkauft.