Europäische Regulierung

Der Artikel „Raus aus der Black Box: Unternehmensdaten aus KI löschen“ beleuchtet die Herausforderungen, die Unternehmen bei der Nutzung von Künstlicher Intelligenz (KI) im Hinblick auf den Umgang mit sensiblen Daten haben. Während KI große Mengen an Trainingsdaten benötigt, kann dies zu einem Verlust der Kontrolle über diese Informationen führen. Das gezielte Löschen von Daten aus KI-Modellen ist technisch komplex, da die Informationen über viele Modellparameter verteilt sind. Um diese Problematik zu adressieren, wurden Methoden wie Machine Unlearning und Federated Unlearning entwickelt, die es ermöglichen, den Einfluss spezifischer Daten zu entfernen, ohne das gesamte Modell neu zu trainieren. Das SISA-Framework wird als effektive Lösung vorgestellt, da es Daten in unabhängige Teilmengen zerlegt und somit Löschanforderungen erleichtert. Zudem wird der Ansatz der Retrieval-Augmented Generation (RAG) beschrieben, der eine externe Speicherung sensibler Daten ermöglicht. Angesichts strenger regulatorischer Anforderungen, wie der DSGVO und dem EU AI Act, ist es für Unternehmen entscheidend, die Kontrolle über ihre Daten zu wahren und ihre KI-Architekturen entsprechend zu gestalten. Der Erfolg von KI-Anwendungen hängt letztlich von der Berücksichtigung von Löschbarkeit und Datenkontrolle ab.

Joby Aviation und Air Space Intelligence (ASI) haben eine Partnerschaft gegründet, um KI-gestützte Lösungen für das Luftverkehrsmanagement in den USA zu entwickeln, die speziell auf den Betrieb von elektrischen Lufttaxis (eVTOLs) abzielen. Diese Zusammenarbeit soll die Herausforderungen der gleichzeitigen Nutzung von Lufträumen in stark frequentierten Städten wie Manhattan und Miami bewältigen. ASI wird seine Flyways AI-Plattform einsetzen, um eine vorausschauende Koordination des Luftverkehrs zu ermöglichen, bevor die kommerziellen Flüge im Laufe des Jahres starten. Die Partnerschaft umfasst gemeinsame Demonstrationen und operationale Übungen bis Ende 2026, was mit Jobys kommerziellen Zielen übereinstimmt. Joby bringt operative Erfahrungen und bestehende Beziehungen in der Luftfahrtindustrie ein, während ASI auf seine Expertise im konventionellen Luftverkehr zurückgreifen kann. Diese Initiative ist besonders relevant, da die FAA ein neues Luftverkehrskontrollsystem entwickelt, das die Integration von eVTOLs unterstützt. Durch Live-Übungen mit Flyways AI sollen wertvolle Daten gesammelt werden, die für die Regulierung und Standardisierung des eVTOL-Betriebs entscheidend sind. Die Partnerschaft könnte als Modell für die Integration von KI in sicherheitskritische Umgebungen dienen.

Ab August 2026 müssen Anbieter und Betreiber von KI-Systemen in der EU bestimmte Transparenzpflichten gemäß der KI-Verordnung (KI-VO) einhalten. Nutzer sollen klar erkennen können, wenn sie mit KI-Systemen interagieren oder KI-generierte Inhalte wie Texte, Bilder oder Videos konsumieren. Besonders relevant ist die Kennzeichnung von Deepfakes, die als manipulierte Inhalte gekennzeichnet werden müssen. Für kleine Unternehmen gelten erleichterte Dokumentationspflichten, jedoch bleibt die Kennzeichnung von Deepfakes und Emotionserkennung verpflichtend. Die genaue Art der Kennzeichnung ist nicht festgelegt, jedoch muss eine klare Information spätestens bei der ersten Interaktion bereitgestellt werden. Zudem entfällt die Kennzeichnungspflicht für KI-generierte Texte, wenn diese von Menschen überprüft wurden, was für Journalisten und Kanzleien von Bedeutung ist. Unternehmen sind gefordert, klare Richtlinien für die Prüfung und Veröffentlichung von KI-Inhalten zu entwickeln, insbesondere im Hinblick auf den Umgang mit personenbezogenen Daten.

Stratgyk hat die Beta-Version von Click2Result™ vorgestellt, einer innovativen Plattform zur Qualitätssicherung von KI-Systemen. Diese Lösung zielt darauf ab, versteckte Probleme in KI-Anwendungen frühzeitig zu identifizieren, bevor sie von Regulierungsbehörden oder dem Markt entdeckt werden. Angesichts der hohen Kosten von 7,2 Millionen Dollar pro gescheitertem KI-System und drohenden Strafen von bis zu 35 Millionen Euro für Verstöße gegen den EU AI Act, der 2026 in Kraft tritt, wird die Relevanz solcher Technologien immer deutlicher. Click2Result™ umfasst sechs Module, die den gesamten Lebenszyklus von KI abdecken, und bietet umfassende Tests gegen adversarielle Angriffe, Fairness-Analysen und regulatorische Nachweise. Unternehmen können das Verhalten ihrer Modelle kontinuierlich überwachen und Abweichungen erkennen, um sicherzustellen, dass ihre Systeme auditierbar bleiben. Mit dem Risk Radar Score™ erhalten sie eine messbare Kennzahl zur Vertrauenswürdigkeit ihrer KI-Modelle. Stratgyk positioniert Click2Result™ als den Goldstandard für KI-Qualitätssicherung in einem dynamischen Markt.