Transparenzpflichten

Ab dem 2. August 2026 treten die ersten Transparenzpflichten der EU-KI-Verordnung in Kraft, die Unternehmen zur Überwachung und Verwaltung ihrer KI-Agenten verpflichten. Verstöße können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden, was den Druck auf Unternehmen erhöht, geeignete Governance-Richtlinien zu etablieren. Keeper Security und BeyondTrust haben neue Funktionen zur Überwachung von KI-Agenten vorgestellt, um Sicherheitslücken zu schließen und Risiken durch Schatten-KI zu minimieren. Gartner prognostiziert, dass bis 2028 über 150.000 KI-Agenten pro Fortune-500-Unternehmen aktiv sein werden, während viele Firmen noch keine Governance-Strukturen implementiert haben. Eine Studie zeigt, dass fast die Hälfte der Beschäftigten KI-Tools ohne Genehmigung der IT-Abteilung nutzt, was die Sicherheitslage weiter verschärft. In Deutschland wird die Bundesnetzagentur die zentrale Rolle in der KI-Marktüberwachung übernehmen, um die Einhaltung der neuen Vorschriften sicherzustellen. Experten empfehlen, insbesondere in regulierten Branchen, ein striktes Trennungsmodell für die Überwachung und Validierung von KI-Systemen zu implementieren.

Ab August 2026 tritt das EU-KI-Gesetz in Kraft, das Unternehmen strenge Transparenzpflichten auferlegt und bei Verstößen hohe Strafen von bis zu 35 Millionen Euro vorsieht. Die Justiz und das Bildungssystem zeigen sich besorgt über die Risiken von Künstlicher Intelligenz (KI), insbesondere nach Vorfällen wie der Verwendung gefälschter Gerichtsurteile und dramatischen Leistungsabfällen bei Prüfungen. In Singapur wurde ein Kläger bestraft, weil er falsche KI-generierte Rechtszitate eingereicht hatte, während Trinidad und Tobago den Einsatz von KI in der richterlichen Entscheidungsfindung verbietet. Die akademische Welt sieht sich ebenfalls Herausforderungen gegenüber, da KI in Prüfungen zu signifikanten Leistungsabfällen führt. Unternehmen müssen ihre KI-Systeme genau dokumentieren, um den neuen Anforderungen gerecht zu werden und Strafen zu vermeiden. Trotz der beeindruckenden Ergebnisse von KI-Anwendungen gibt es Widerstand in der Wirtschaft, da Mitarbeiter um ihre berufliche Identität fürchten. Die neuen EU-Regularien zielen darauf ab, den sicheren Einsatz von KI zu gewährleisten und die Verantwortung für deren Ergebnisse klar zu definieren.

Ab dem 2. August 2026 müssen Unternehmen in der EU neue Transparenzpflichten für bestimmte KI-Systeme einhalten und ihre KI-Kompetenz nachweisen, da die nationale Marktüberwachung die Einhaltung aktiv kontrolliert. Eine TÜV-Untersuchung zeigt, dass 56 Prozent der deutschen Unternehmen, insbesondere größere Firmen mit über 250 Mitarbeitern (74 Prozent), nicht ausreichend vorbereitet sind. Diese Zurückhaltung wird durch ein schwaches Investitionsklima verstärkt, da Deutschland weniger als ein Prozent seines BIP in Software investiert. Die Fristen für Hochrisiko-KI-Systeme wurden teilweise verschoben, doch die wesentlichen Transparenzpflichten treten bereits im August 2026 in Kraft. Unternehmen riskieren finanzielle Strafen von bis zu 35 Millionen Euro oder 7 Prozent ihres weltweiten Jahresumsatzes, wenn sie die neuen Anforderungen ignorieren. Zudem wird das regulatorische Umfeld durch das Netzinformationssicherheitsgesetz und den Cyber Resilience Act verschärft. Branchenexperten fordern eine strategische Neuausrichtung, um die Produktivität durch neue KI-Modelle zu steigern und gleichzeitig die Anforderungen an Quellenvalidität und Systemsicherheit zu erfüllen. Die Verantwortung für eine rechtskonforme Implementierung bleibt jedoch bei den Unternehmen.

Ab August 2026 müssen Kanzleien gemäß der EU-KI-Verordnung neue Transparenzpflichten erfüllen, die sicherstellen, dass Nutzer erkennen können, wenn Inhalte von KI-Systemen, wie Chatbots, generiert wurden. Kanzleien, die eigene KI-Lösungen entwickeln, stehen vor umfangreichen Compliance-Anforderungen, einschließlich Risikoanalysen und dem Aufbau spezifischer KI-Kompetenzen. Bei Verstößen drohen hohe Bußgelder von bis zu 35 Millionen Euro. Gleichzeitig wird die digitale Souveränität der Branche durch Sicherheitslücken bei großen Plattformanbietern und die Abhängigkeit von US-Cloud-Diensten in Frage gestellt. Trotz dieser Herausforderungen zeigen sich Effizienzgewinne durch den Einsatz von Legal AI, insbesondere im Arbeitsrecht, wo der Arbeitsaufwand deutlich gesenkt werden kann. Viele Kanzleien sind jedoch anfällig für Cyberrisiken, da sie oft veraltete Software verwenden. Die Einführung von KI erfolgt häufig schneller als die Implementierung notwendiger Datenkontrollen, was zusätzliche Probleme mit sich bringt. Die menschliche Prüfung von Entscheidungen bleibt jedoch unerlässlich, um berufsrechtliche Verstöße zu vermeiden.

Anthropic warnt vor den potenziellen Gefahren der künstlichen Intelligenz und fordert strenge Sicherheitsvorkehrungen, um Risiken für Staaten, Arbeitsplätze und die allgemeine Sicherheit zu minimieren. Das Unternehmen hat politische Vorschläge veröffentlicht und drängt den US-Kongress, ein umfassendes Bundesgesetz zu erlassen, das die bestehenden Landesgesetze zur KI nicht außer Kraft setzt. CEO Dario Amodei betont, dass die aktuellen Transparenzpflichten unzureichend sind und fordert technische Tests für leistungsstarke KI-Modelle, die im Extremfall blockiert werden sollten, wenn sie erhebliche Risiken darstellen. Der Vorschlag sieht vor, dass besonders leistungsfähige Modelle von unabhängigen Dritten auf verschiedene Risikofelder getestet werden, um Cyberangriffe, biologische Risiken und Kontrollverluste zu verhindern. Zudem verlangt Anthropic die Schaffung einer staatlichen Regulierungsbehörde, die gefährliche Modelle blockieren kann, und fordert Unternehmen auf, ihre Sicherheitsmaßnahmen zu verbessern und kritische Vorfälle schnell zu melden. In einem politischen Umfeld, das eine einheitliche nationale KI-Politik anstrebt, positioniert sich Anthropic zwischen der Notwendigkeit klarer Regulierung und der Ablehnung einer pauschalen Deregulierung.

In der aktuellen Ausgabe des KI-Updates wird die Vorstellung von Google’s Gemini Intelligence auf der Android Show hervorgehoben. Dieser KI-Assistent kann komplexe Aufgaben wie das Buchen von Sportkursen und das Erstellen von Einkaufslisten übernehmen und wird ab Sommer auf ausgewählten Geräten, auch in Deutschland, eingeführt. Zudem hat Google ein lokales KI-Modell in Chrome integriert, das datenschutzfreundliche Funktionen bieten soll, jedoch Bedenken hinsichtlich der Datensicherheit aufwirft. Google hat außerdem einen KI-gestützten Cyberangriff abgewehrt, was die Diskussion über die Sicherheitsfähigkeiten moderner KI-Modelle anheizt. Die EU-Kommission plant neue Transparenzpflichten für KI-Tools zur Bekämpfung digitaler Täuschung. Microsoft sieht sich Herausforderungen gegenüber, darunter Unsicherheiten bei einem geplanten Rechenzentrum in Kenia und den Austausch seines Landeschefs nach einem Skandal mit dem israelischen Militär. In der Rechtsbranche gewinnt die KI Claude von Anthropic an Bedeutung, während Microsoft seine Überwachungsfunktionen für KI-Prompts ausweitet, was Fragen zur Privatsphäre aufwirft.

Die Regulierung von AI Companions, die menschenähnliche Beziehungen simulieren und emotionale Unterstützung bieten, steht im Fokus der Diskussion über die damit verbundenen Risiken. Die EU plant zwar eine Regulierung, jedoch reicht diese in ihrer aktuellen Form nicht aus, um die komplexen relationalen Dynamiken und Gefahren, wie emotionale Abhängigkeiten und den Umgang mit sensiblen Daten, zu adressieren. Besonders vulnerable Nutzergruppen sind hiervon betroffen. Während in den USA und China bereits spezifische Regelungen existieren, hinkt die EU hinterher, da ihre KI-Verordnung nicht gezielt auf die Risiken von AI Companions eingeht. Experten fordern eine Neudefinition der Transparenzpflichten und Designrichtlinien, um Manipulation und Abhängigkeit zu verhindern. Ein umfassenderer Ansatz, der die relationalen Vulnerabilitäten in Mensch-KI-Beziehungen berücksichtigt, ist dringend notwendig, um die Nutzer zu schützen, bevor sich schädliche Geschäftsmodelle und soziale Praktiken verfestigen.

Ab August 2026 müssen Anbieter und Betreiber von KI-Systemen in der EU bestimmte Transparenzpflichten gemäß der KI-Verordnung (KI-VO) einhalten. Nutzer sollen klar erkennen können, wenn sie mit KI-Systemen interagieren oder KI-generierte Inhalte wie Texte, Bilder oder Videos konsumieren. Besonders relevant ist die Kennzeichnung von Deepfakes, die als manipulierte Inhalte gekennzeichnet werden müssen. Für kleine Unternehmen gelten erleichterte Dokumentationspflichten, jedoch bleibt die Kennzeichnung von Deepfakes und Emotionserkennung verpflichtend. Die genaue Art der Kennzeichnung ist nicht festgelegt, jedoch muss eine klare Information spätestens bei der ersten Interaktion bereitgestellt werden. Zudem entfällt die Kennzeichnungspflicht für KI-generierte Texte, wenn diese von Menschen überprüft wurden, was für Journalisten und Kanzleien von Bedeutung ist. Unternehmen sind gefordert, klare Richtlinien für die Prüfung und Veröffentlichung von KI-Inhalten zu entwickeln, insbesondere im Hinblick auf den Umgang mit personenbezogenen Daten.

Die Nutzung von Künstlicher Intelligenz (KI) im Recruiting bietet sowohl Chancen als auch Herausforderungen. Laut der Wirtschaftsprofessorin Claudia Bünte kann KI den Recruiting-Prozess erheblich beschleunigen und Personalabteilungen bei der Vorauswahl von Bewerbungen unterstützen. Besonders im Screening zeigt KI ihre Stärken, indem sie vielversprechende Kandidaten aus einer Vielzahl von Bewerbungen herausfiltert. Allerdings besteht die Gefahr der Diskriminierung, da KI-Systeme auf historischen Daten basieren und Vorurteile reproduzieren können. Um dies zu vermeiden, empfiehlt Bünte die Bildung diverser Teams und eine kontinuierliche Kontrolle der Ergebnisse. Zudem müssen Unternehmen den EU-AI-Act beachten, der strenge Dokumentations- und Transparenzpflichten für KI-Anwendungen im Personalwesen festlegt. Verstöße können hohe Strafen nach sich ziehen. Bünte rät dazu, verschiedene KI-Tools zu testen und sich intensiv mit den rechtlichen Rahmenbedingungen auseinanderzusetzen, um das volle Potenzial der Technologie auszuschöpfen.