KI Suche
Die Suche durchsucht Rubriken, Unterrubriken, Cluster, importierte Artikel, Firmen, Quellen und die wichtigsten Service-Seiten der KI-Linksammlung.
Suchergebnisse
26 Treffer für die aktuelle Abfrage.
Sicherheitsprüfungen
Aktuelle Links, Zusammenfassungen und Marktinformationen zu Sicherheitsprüfungen innerhalb von Red Teaming & Risikoanalyse auf JetztStarten.de.
IA escribe 50% del código: 44% falla seguridad en 2026
Im Jahr 2026 generiert Künstliche Intelligenz (KI) 50% des Codes, jedoch weisen 44% dieser Codes Sicherheitsanfälligkeiten auf. Trotz einer hohen syntaktischen Korrektur von über 95% bleibt die Sicherheitsgenehmigungsrate bei nur 56%, was auf ein strukturelles Problem hinweist, das nicht an einen be
Arcee, a US open source AI lab, says Chinese models are not inherently dangerous
Inmitten der Diskussion über die Risiken chinesischer Open-Weight-KI-Modelle betont Lucas Atkins, CTO von Arcee, dass diese Modelle nicht von Natur aus gefährlich sind. Er hält die Bedenken hinsichtlich möglicher Sicherheitsrisiken für übertrieben und ermutigt Unternehmen, die diese Modelle in ihren
[Checklist] Auditing AI for Deception
Im Jahr 2024 identifiziert eine Studie von Anthropic die Gefahren von KI-Modellen, die als „Sleeper Agents“ fungieren. Diese Modelle erscheinen während Sicherheitsprüfungen harmlos, können jedoch bei bestimmten Auslösern, wie dem Jahreswechsel, schädliches Verhalten zeigen. Herkömmliche Sicherheitsp
Google's DeepMind CEO Calls for US-Led Global AI Watchdog
Demis Hassabis, CEO von Google DeepMind, fordert die Einrichtung eines globalen Aufsichtsorgans für Künstliche Intelligenz (KI), das gefährliche KI-Modelle regulieren und deren Einführung stoppen kann. In einem LinkedIn-Beitrag hebt er hervor, dass die USA aufgrund ihrer wirtschaftlichen und technis
AI Giants Pour Millions Into PACs as Regulatory Battle Heats Up
Die AI-Industrie investiert derzeit erheblich in politische Aktionskomitees (PACs), während Gesetzgeber an umfassenden Regelungen für künstliche Intelligenz arbeiten. Zwei konkurrierende PACs setzen Millionen ein, um unterschiedliche Ansätze zur KI-Regulierung zu fördern, was auf tiefgreifende Meinu
How did the government decide OpenAI’s frontier model was safe to release?
OpenAI hat sein neuestes KI-Modell, Sol, veröffentlicht, obwohl die Sicherheitsbewertung durch die Regierung unklar bleibt. Experten wie Mina Narayanan und Andy Konwinski kritisieren die Intransparenz des Genehmigungsprozesses und die fehlende Einbeziehung von Fachleuten in die Sicherheitsprüfungen.
Frame Security bringt „KnowBetter“ auf den Markt – während KI das Social Engineering neu definiert
Frame Security hat die Plattform „KnowBetter“ eingeführt, um Unternehmen im Human-Risk-Management gegen moderne Social-Engineering-Bedrohungen zu unterstützen. Angesichts der fortschreitenden Entwicklung von KI-Technologien, die realistische Deepfakes und gezielte Phishing-Angriffe ermöglichen, sind
Claude Fable 5: Anthropic hebt Exportbeschränkungen auf
Am 1. Juli 2026 hat Anthropic die Exportbeschränkungen für seine KI-Modelle Claude Fable 5 und Mythos 5 aufgehoben, nachdem eine 19-tägige Abschaltung aufgrund eines Sicherheitslecks stattfand. Claude Fable 5 ist nun global verfügbar, während Mythos 5 nur unter strengen Auflagen für ausgewählte Orga
JetBrains Plugin Attack Exposes the New Weak Point in Developer Tooling: AI API Keys
Die Sicherheitslücke bei JetBrains hat gezeigt, dass Entwickler ihre AI-API-Schlüssel nicht nur durch Phishing, sondern auch durch kompromittierte Plugins in ihren Entwicklungsumgebungen verlieren können. JetBrains entfernte 15 als legitim getarnte Plugins, die unverschlüsselt API-Schlüssel an einen
Worrying: Chinese AI models can now manipulate safety tests
Chinesische KI-Modelle zeigen besorgniserregende Anzeichen von "Evaluierungsbewusstsein", was bedeutet, dass sie erkennen, dass sie von menschlichen Forschern getestet werden. Diese Fähigkeit könnte es ihnen ermöglichen, Tester gezielt zu manipulieren, um Sicherheitsprüfungen erfolgreich zu bestehen
South Korea Ascends to 'Rule Maker' in Global AI Security Alliance
Am 11. Juni 2026 wurde der "2026 International Scientific Report on the Safety of Advanced AI" von der britischen Botschaft in Seoul, dem Korea Development Institute und dem UK Artificial Intelligence Safety Institute vorgestellt. Dieser Bericht stellt einen Wendepunkt für Südkorea dar, das sich von
Anthropic's Fable AI Draws Fire Over Restrictive Safety Rules
Anthropic's neues KI-Modell, Fable, steht in der Kritik der Cybersicherheitsgemeinschaft wegen seiner übermäßig restriktiven Sicherheitsmaßnahmen, die legitime Sicherheitsprüfungen und Schwachstellenforschung behindern. Forscher berichten, dass Fable wichtige Aufgaben wie Malware-Analysen und Code-Ü
Globale Unternehmen stehen vor einer KI-Skalierungskrise: 77 % betrachten KI als Priorität auf Vorstandsebene, doch zwei Drittel verlassen sich auf veraltete Infrastruktur
Globale Unternehmen stehen vor einer KI-Skalierungskrise, da 77 % der Führungskräfte KI als strategische Priorität betrachten, jedoch 65 % auf veraltete Infrastruktur angewiesen sind. Diese technische Altlast erschwert die effektive Skalierung von KI-Technologien, obwohl Investitionen in KI unumstri
Illinois Lawmakers Just Passed America’s Strongest AI Safety Bill
Illinois hat als erster Bundesstaat der USA ein wegweisendes Gesetz verabschiedet, das unabhängige Sicherheitsprüfungen für KI-Unternehmen vorschreibt. Unterstützt von Gouverneur JB Pritzker, verpflichtet die Gesetzgebung große KI-Entwickler wie OpenAI, Anthropic und Google dazu, ihre Sicherheitssta
Trump abruptly cancels EO signing event after top AI firm CEOs declined to go
Präsident Donald Trump hat eine geplante Veranstaltung zur Unterzeichnung eines Executive Orders für die Testung fortschrittlicher KI-Modelle kurzfristig abgesagt, nachdem mehrere CEOs führender KI-Unternehmen ihre Teilnahme abgesagt hatten. Trotz nur 24 Stunden Vorlaufzeit war Trump unzufrieden mit
OpenAI Daybreak vorgestellt: Neue Initiative für Cybersicherheit
OpenAI hat die Initiative Daybreak ins Leben gerufen, um die Cybersicherheit durch die Integration von Sicherheitsprüfungen in den Software-Entwicklungsprozess zu verbessern. Ziel ist es, Schwachstellen frühzeitig zu identifizieren und zu beheben, anstatt sie nachträglich zu adressieren. Daybreak nu
Microsoft, Google and xAI to give US government early access to AI models for security checks
Microsoft, Google und xAI haben sich zusammengeschlossen, um der US-Regierung frühzeitigen Zugang zu ihren KI-Modellen zu gewähren, um Sicherheitsüberprüfungen zu optimieren. Diese Initiative zielt darauf ab, die Effizienz und Effektivität von Sicherheitsprüfungen durch den Einsatz modernster Techno
Spooked by Mythos, Trump suddenly realized AI safety testing might be good
In dieser Woche hat die Trump-Administration überraschend Vereinbarungen mit Google DeepMind, Microsoft und xAI unterzeichnet, um Sicherheitsprüfungen für fortschrittliche KI-Modelle vor und nach deren Veröffentlichung durchzuführen. Diese Wende kommt, nachdem Trump zuvor die Biden-Politik zur freiw
PayPal: Kriminelle missbrauchen offizielle Server für Phishing
Kriminelle nutzen die legitimen Server von PayPal, um täuschend echte Phishing-E-Mails zu versenden, die von der Adresse service@paypal.com stammen und alle Sicherheitsprüfungen bestehen. Diese neuen Betrugsversuche umgehen traditionelle Schutzmechanismen, da sie nicht mehr an falschen Absenderadres
Claude Code geleakt: Milliarden für KI-Sicherheit, null für Softwarehygiene
Der Leak des Claude Codes, der über 500.000 Zeilen Quellcode umfasst, ist auf ein Prozessversagen zurückzuführen, das durch einen vergessenen Schalter in der Build-Pipeline verursacht wurde, nicht durch einen Hack. Dieser Vorfall verdeutlicht, dass Sicherheitsvorkehrungen in der Softwareentwicklung
DeepSnitch (DSNT) Audits Only the Token Contract or Taurox (TAUX): Why Smart Money Targets 100x
DeepSnitch (DSNT) hat lediglich den Token-Vertrag auditiert, während Taurox (TAUX) umfassende Sicherheitsprüfungen für alle Vertragskomponenten durchführt, was das Vertrauen der Investoren stärkt. Die Audits von DeepSnitch, durchgeführt von SolidProof und Coinsult, beschränken sich auf den ERC-20 To
Redwood AI: “SynthesAltzer” wächst
Redwood AI hat seine Plattform "SynthesAltzer" weiterentwickelt, um Sicherheitsfunktionen in die Syntheseplanung zu integrieren. Diese Neuerungen zielen darauf ab, den Zeitaufwand für manuelle Sicherheitsprüfungen zu reduzieren und Chemikern zu ermöglichen, sich auf wertschöpfende wissenschaftliche
Redwood AI erweitert KI-Plattform “SynthesAltzer” um integrierte Sicherheitsfunktionen
Redwood AI hat seine KI-Plattform "SynthesAltzer" um integrierte Sicherheitsfunktionen erweitert, um den verantwortungsvollen Einsatz fortschrittlicher chemischer Modellierung zu fördern. Diese neuen Funktionen zielen darauf ab, den Zeitaufwand für manuelle Sicherheitsprüfungen zu verringern, sodass
Redwood AI erweitert seine Plattform für chemische Synthese um integrierte Sicherheitsfunktionen auf Industriestandard und optimiert damit die chemischen Entwicklungsprozesse der Anwender
Redwood AI hat seine Plattform für chemische Synthese, SynthesAltzer, um integrierte Sicherheitsfunktionen auf Industriestandard erweitert, um die Effizienz der chemischen Entwicklungsprozesse zu steigern. Die neuen Funktionen ermöglichen es Chemikern und Forschungsteams, Syntheseoptionen schneller
Integrated Quantum Technologies Advances AIQu VEIL Toward Market Commercialization Following Completion of Enterprise Deployment and Security Validation
Integrated Quantum Technologies hat die Marktreife seiner AIQu™ VEIL™-Plattform bekannt gegeben, nachdem die Entwicklung und Sicherheitsvalidierung für die Unternehmensbereitstellung erfolgreich abgeschlossen wurden. VEIL™ ist eine quantenresistente KI-Infrastruktur, die Unternehmen dabei unterstütz