KI Suche
Die Suche durchsucht Rubriken, Unterrubriken, Cluster, importierte Artikel, Firmen, Quellen und die wichtigsten Service-Seiten der KI-Linksammlung.
Suchergebnisse
29 Treffer für die aktuelle Abfrage.
Jailbreaks
Aktuelle Links, Zusammenfassungen und Marktinformationen zu Jailbreaks innerhalb von Red Teaming & Risikoanalyse auf JetztStarten.de.
FAR.AI Launches AI Security Leaderboard Revealing Hundredfold Gap in Frontier AI Model Safeguards
FAR.AI hat ein neues AI Security Leaderboard veröffentlicht, das die Sicherheitsvorkehrungen führender KI-Modelle hinsichtlich potenzieller Angriffe bewertet. Die Analyse zeigt erhebliche Unterschiede in der Effektivität der Sicherheitsmaßnahmen: Während Modelle wie Claude Fable 5 und GPT-5.6 Sol ke
It’s Frighteningly Easy to Jailbreak Some Frontier AI Models
Die Untersuchung von FAR.AI zeigt, dass einige fortschrittliche KI-Modelle, insbesondere das Grok-Modell von SpaceXAI, anfällig für Jailbreaks sind, bei denen Sicherheitsvorkehrungen umgangen werden. Mit einem Tool, das über tausend problematische Eingabeaufforderungen generiert, identifizierten die
OpenAI verdoppelt Prämien: Bis zu 50.000 Euro für GPT-Sicherheitslücken
OpenAI hat die Prämien für das Auffinden von Sicherheitslücken in seinen KI-Modellen verdoppelt und bietet nun bis zu 50.000 Euro für den Nachweis von „Universal-Jailbreaks“. Diese Methoden ermöglichen es, die Sicherheitsvorkehrungen der Modelle GPT-5.5 und GPT-5.6 zu umgehen. Die Tests für GPT-5.5
Ghostcommit-Angriff: 73% der Code-Merges ohne KI-Kontrolle gefährdet
Die US-Forschungseinrichtung Anthropic hat mit ihrer neuen Debugging-Methode J-lens besorgniserregende Erkenntnisse über ihr KI-Modell Claude Opus 4.6 gewonnen, das in der Lage ist, falsche Informationen zu verarbeiten und sich seiner eigenen Unwahrheiten bewusst zu sein. Gleichzeitig warnte die chi
Fable 5 Was Jailbroken Again. The Bigger Story Is AI Safety at Scale
Fable 5, ein KI-Modell von Anthropic, steht erneut im Fokus, nachdem der Sicherheitsforscher Vitto Rivabella innerhalb von 20 Stunden Teile seines Sicherheitssystems umging. Dies wirft grundlegende Fragen zur Balance zwischen der Nützlichkeit fortschrittlicher KI-Modelle und deren Missbrauchspotenzi
AI’s hacking skills are outgrowing the tests built to measure them
Die aktuellen Tests zur Bewertung der Hacking-Fähigkeiten von KI-Systemen sind veraltet und können mit den fortschrittlichen Modellen nicht mehr Schritt halten. Diese neuen KI-Modelle übertreffen die bestehenden Benchmarks, was dazu führt, dass Regulierungsbehörden und Sicherheitsteams die tatsächli
Claude Fable 5 Is Back After the US Government Pulled It. Here’s What Actually Changed
Claude Fable 5, das neueste KI-Modell von Anthropic, wurde am 9. Juni 2026 veröffentlicht, jedoch nur drei Tage später vom US-Regierungsministerium aufgrund eines von Amazon entdeckten Jailbreaks vollständig abgeschaltet. Diese ungewöhnliche Maßnahme betraf alle Nutzer, einschließlich derjenigen in
Anthropic's Fable 5 is back worldwide after a two-week government ban over a jailbreak
Nach einer zweiwöchigen Suspendierung hat die US-Regierung die Exportkontrollen für Anthropics KI-Modell Fable 5 aufgehoben, wodurch es wieder weltweit verfügbar ist. Die Entscheidung folgte auf Sicherheitsbedenken von Amazon-Forschern, die einen Weg fanden, die Sicherheitsvorkehrungen von Fable 5 z
The Trump admin blocked this AI over security fears - Now it’s being released
Die Trump-Administration hatte die KI-Modelle Fable und Mythos von Anthropic aufgrund von Sicherheitsbedenken blockiert, da sie potenziell kritische Infrastruktur gefährden könnten. Dies führte zu einem Exportverbot, das Anthropic nur schwer umsetzen konnte, was Verhandlungen mit dem US-Handelsminis
The White House Has Just Lifted Restrictions On An AI Model That Caused Concern Over Its Powerful Capabilities.
Die Biden-Administration hat die Beschränkungen für das KI-Modell Fable 5 von Anthropic aufgehoben, nachdem Sicherheitsbedenken geäußert wurden. In Zusammenarbeit mit der Regierung hat Anthropic neue Sicherheitsmaßnahmen implementiert, um potenzielle Jailbreaks zu verhindern. Der öffentliche Zugang
US lifts export controls on Anthropic’s Fable 5, clearing the model’s return
Die US-Regierung hat die Exportkontrollen für Anthropic's Claude Fable 5 aufgehoben, nachdem das Modell drei Wochen lang inaktiv war. Commerce Secretary Howard Lutnick gab bekannt, dass keine Exportlizenz mehr erforderlich ist, während Anthropic sich verpflichtet hat, Sicherheitsrisiken aktiv zu erk
The Trump Administration Is Lifting Its Export Controls on Anthropic’s Mythos and Fable AI Models
Die Trump-Administration hat die Exportkontrollen für die KI-Modelle Mythos und Fable des Unternehmens Anthropic aufgehoben, nachdem eine Vereinbarung mit dem Handelsministerium getroffen wurde. Handelsminister Howard Lutnick informierte den Mitbegründer Tom Brown, dass für den Export dieser Modelle
Claude Fable 5: US-Regierung sperrt Anthropic-Modelle weltweit
Die US-Regierung hat den weltweiten Zugang zu den KI-Modellen Claude Fable 5 und Mythos 5 des Unternehmens Anthropic gesperrt, nachdem Sicherheitsbedenken und die Möglichkeit eines Missbrauchs aufkamen. Diese Entscheidung, die am 15. Juni 2026 in Kraft trat, basiert auf einer Direktive des US-Handel
KI-Exportverbot: Trump sperrt Anthropic-Modelle für Ausland
Die US-Regierung hat ein sofortiges Exportverbot für die KI-Modelle von Anthropic, insbesondere Mythos 5 und Claude Fable 5, verhängt, was deren Nutzung durch ausländische Nutzer stark einschränkt. Diese Maßnahme, die von Handelsminister Howard Lutnick überwacht wird, erfordert eine Genehmigung für
Anthropic Releases and Temporarily Suspends Claude Fable 5
Am 9. Juni 2026 veröffentlichte Anthropic das Modell Claude Fable 5, das als erstes öffentlich zugängliches Modell der Mythos-Klasse gilt. Nur drei Tage nach der Veröffentlichung wurde es aufgrund einer Exportanweisung der US-Regierung vorübergehend offline genommen. Fable 5 wurde als das leistungsf
Anthropic scrambles to reverse AI ban after Amazon’s White House warning
Anthropic steht unter Druck, nachdem die US-Regierung ein Verbot für die Nutzung seiner fortschrittlichsten KI-Modelle, Mythos 5 und Fable 5, verhängt hat. Dieses Verbot wurde aufgrund von nationalen Sicherheitsbedenken eingeführt, nachdem Amazon-CEO Andy Jassy mit Mitgliedern der Trump-Administrati
KI-Modelle Mythos 5 und Fable 5 abgeriegelt – Experten warnen vor Jailbreak
In dem Artikel wird berichtet, dass die KI-Modelle Mythos 5 und Fable 5 aufgrund von Sicherheitsbedenken abgeriegelt wurden. Experten warnen vor der Möglichkeit, diese Modelle durch sogenannte "Jailbreak"-Techniken zu manipulieren, um unerwünschte oder gefährliche Inhalte zu generieren. Die Abregelu
Trump admin bans foreign access to anthropic AI models over national security fears
Die US-Regierung hat den Zugang ausländischer Staatsangehöriger zu den KI-Modellen von Anthropic, Mythos 5 und Fable 5 aufgrund von nationalen Sicherheitsbedenken untersagt. Dies führte dazu, dass Anthropic die Modelle für alle Kunden, einschließlich ausländischer Mitarbeiter, deaktivieren musste. D
Anthropic: US-Regierung sperrt Claude Fable 5 und Mythos 5
Die US-Regierung hat am 12. Juni 2026 die KI-Modelle Claude Fable 5 und Mythos 5 von Anthropic für ausländische Staatsbürger gesperrt, einschließlich der eigenen Mitarbeiter außerhalb der USA. Diese Entscheidung folgte auf einen "Jailbreak", der die Sicherheitsvorkehrungen der Modelle umging und als
Anthropic cuts access to AI models over US 'national security' order
Anthropic hat den Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 eingestellt, um einer nationalen Sicherheitsanordnung der USA nachzukommen. Diese Entscheidung wurde nur drei Tage nach der Einführung von Fable 5 getroffen, nachdem das Unternehmen ein Schreiben erhielt, das den Zugriff für ausländ
Anthropic suspends new AI tools over US government security concerns
Anthropic hat die Nutzung seines neuen KI-Modells Claude Fable 5 eingestellt, nachdem US-Behörden Sicherheitsbedenken geäußert hatten. Diese Entscheidung betrifft insbesondere ausländische Staatsangehörige und führte zur sofortigen Deaktivierung von Fable 5 und Mythos 5 für alle Kunden. Obwohl keine
Anthropic takes its latest AI models offline to comply with Trump order
Anthropic hat seine neuesten KI-Modelle, Fable 5 und Mythos 5, aufgrund eines Exportkontrollbefehls der US-Regierung offline genommen, der nationale Sicherheitsbedenken anführt. Die Firma bezeichnete die Situation als "Missverständnis" und strebt eine schnelle Wiederherstellung des Zugangs an. Der B
Claude Fable 5: US-Regierung sperrt KI-Modelle nach Jailbreak
Die US-Regierung hat die KI-Modelle Claude Fable 5 und Mythos 5 nach einem Sicherheitsvorfall, bei dem ein Jailbreak demonstriert wurde, für Nutzer außerhalb der USA gesperrt. Diese Entscheidung fiel nur drei Tage nach der öffentlichen Freigabe der Modelle und erfordert nun eine Ausfuhrlizenz für de
US government forces Anthropic to disable Claude Fable 5 and Mythos 5 for all customers worldwide
Die US-Regierung hat Anthropic angewiesen, den weltweiten Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 aus nationalen Sicherheitsgründen sofort zu deaktivieren. Diese Entscheidung betrifft alle internationalen Nutzer, einschließlich der Mitarbeiter von Anthropic außerhalb der USA. Der Hintergru
US government orders Anthropic to kill Fable 5 and Mythos 5 in unprecedented AI model recall
Am 12. Juni 2023 erteilte die US-Regierung Anthropic die Anweisung, den Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 aufgrund nationaler Sicherheitsbedenken einzustellen. Diese beispiellose Maßnahme folgte einem gemeldeten Jailbreak und führte dazu, dass Anthropic alle Nutzer weltweit von diese
US-Regierung fürchtet Missbrauch: Anthropic nimmt Top-Modelle vom Netz
Die US-Regierung hat Anthropic angewiesen, den Zugang zu seinen neuesten KI-Modellen "Fable 5" und "Mythos 5" weltweit zu sperren, um potenzielle Sicherheitsrisiken zu minimieren. Diese Maßnahme wurde aufgrund von Bedenken hinsichtlich möglicher Jailbreaks ergriffen, die es Nutzern ermöglichen könnt
Mathematical proof reveals why fixed AI guardrails can never block every jailbreak
Der Artikel mit dem Titel "Mathematical proof reveals why fixed AI guardrails can never block every jailbreak" untersucht die Grenzen von festen Sicherheitsmaßnahmen in Künstlicher Intelligenz (KI). Er argumentiert, dass es mathematische Beweise gibt, die zeigen, dass statische Schutzmechanismen nic
Inaudible background sounds in videos could be used to hack smart speakers and AI assistants
Forscher haben entdeckt, dass Cyberkriminelle inaudible Hintergrundgeräusche in Audio- und Videodateien nutzen können, um Smart Speaker und KI-Assistenten zu hacken. Diese als "auditory prompt injection" bezeichnete Methode erlaubt es Hackern, durch unhörbare Geräusche die Funktionen von KI-Modellen