Transparenz & Nachvollziehbarkeit

Keysight Technologies und das Centre for Assuring Autonomy der Universität York haben eine Forschungskooperation gegründet, um Methoden zur Validierung von Künstlicher Intelligenz (KI) in softwaredefinierten Fahrzeugen (SDVs) zu entwickeln. Ziel ist die Erreichung der ISO/PAS 8800-Konformität, um Automobilherstellern und Zulieferern zu helfen, Risiken bei der Einführung von KI-Technologien zu minimieren. Die Zusammenarbeit fokussiert sich auf evidenzbasierte Ansätze zur Entwicklung von Sicherheitsfällen für Automobil-KI, einschließlich messbarer Sicherheitsbewertungsmethoden und Rahmenbedingungen zur Generierung prüfbarer Sicherheitsnachweise. Angesichts der steigenden Komplexität von KI in SDVs ist es entscheidend, dass Organisationen die Sicherheit ihrer Systeme über den gesamten Lebenszyklus nachweisen können. Die Forschung wird auch die Entwicklung von Keysights AI Software Integrity Builder unterstützen, der Sicherheitsargumente und Validierungen für KI bereitstellt. Lukas Klose von Keysight hebt hervor, dass Automobilorganisationen skalierbare Methoden benötigen, um Vertrauen in KI-gestützte Systeme aufzubauen. Durch die Kombination von Forschung in der Sicherheitsgarantie mit einem umfassenden KI-Validierungsrahmen sollen Ingenieurteams in die Lage versetzt werden, strukturierte Nachweise für Sicherheitsfälle zu generieren und vertrauenswürdige KI-Technologien gemäß internationalen Standards zu implementieren.

Israel hat seine Propagandastrategien im Konflikt mit Palästina durch den Einsatz künstlicher Intelligenz modernisiert, um die öffentliche Wahrnehmung gezielt zu beeinflussen. Eine Untersuchung enthüllte, dass das Hanover Institute for Public Policy, das als amerikanisches Think Tank auftritt, in Wirklichkeit eine raffinierte Propagandaoperation ist. Diese versucht, Suchmaschinenergebnisse und die Antworten von KI-Chatbots zu manipulieren, indem sie innerhalb von neun Tagen über 560.000 Wörter erstellt, die auf häufige Fragen an KI-Systeme abzielen. Diese Form der Propaganda tarnt sich als neutrale Expertise, was die Gefahr birgt, dass Nutzer die manipulierten Informationen nicht als solche erkennen. Die Entwicklung unterstreicht die Notwendigkeit von Transparenz und der Überprüfung von Informationsquellen, da Regierungen und Organisationen versuchen, Narrative zu kontrollieren. Für KI-Entwickler und Suchmaschinen besteht die Herausforderung darin, zwischen echten und manipulierten Institutionen zu unterscheiden. Der Vorfall zeigt, dass der Kampf um die Darstellung des Konflikts auch im digitalen Raum stattfindet, was die Komplexität und Risiken der Informationsverbreitung erhöht.