Europäische Regulierung

Im iX-Workshop „Lokale KI effizient betreiben und Prozesse automatisieren“ lernen Teilnehmer, wie sie lokale KI-Modelle effektiv in ihre Anwendungen integrieren können, um interne Daten zu nutzen und Workflows zu automatisieren. Der Workshop thematisiert die Herausforderungen, die Unternehmen beim Einsatz von KI in Bezug auf Datenschutz und digitale Souveränität begegnen, und bietet Lösungen durch lokal betriebene Open-Source-Sprachmodelle. Unter der Anleitung des erfahrenen Trainers Pawel Sawicki erhalten die Teilnehmer praxisnahe Einblicke in verschiedene Modelle, Hardware-Architekturen und Inferenzserver, um die Ressourcennutzung zu optimieren. Der Workshop richtet sich an IT-Architekten, Softwareentwickler sowie AI/ML-Engineers und Data Scientists, die ihre Kenntnisse im Bereich lokaler KI-Anwendungen vertiefen möchten. Durch die direkte Anwendung des Gelernten in einer kleinen Gruppe können die Teilnehmer wertvolle Praxiserfahrungen sammeln und individuelle Fragen klären, was ihnen konkrete Impulse für ihre tägliche Arbeit bietet.

TAROX hat sein Produktportfolio um das Endurance Edge-AI-System erweitert, das einen dezentralen Ansatz zur Datenverarbeitung verfolgt. Dieses System ermöglicht die unmittelbare Analyse von Daten vor Ort, wodurch Latenzen reduziert und Netzwerke entlastet werden, was die Datensouveränität der Unternehmen stärkt. Mit einer integrierten KI-Leistung von bis zu 34 TOPS ist das Endurance Edge-AI-System besonders für anspruchsvolle Edge-Computing-Anwendungen geeignet, insbesondere in der Sicherheits- und Videoanalyse. Es kann Videodaten in Echtzeit verarbeiten, um unbefugte Zutritte und ungewöhnliche Verhaltensmuster zu erkennen, während die sensiblen Bilddaten lokal bleiben, was den Datenschutz unterstützt. Das System ist zudem skalierbar und kann mit einem zusätzlichen Videoanalyse-Accelerator erweitert werden, um komplexere KI-Workloads zu bewältigen. Insgesamt bietet TAROX eine zukunftssichere Plattform für Unternehmen, die die Vorteile der künstlichen Intelligenz nutzen möchten, ohne Kompromisse bei Sicherheit und Verfügbarkeit einzugehen.

Samsung Electro-Mechanics hat einen Rekordauftrag über 1,07 Billionen Won (782,23 Millionen US-Dollar) für die Lieferung von Multilayer-Keramikkondensatoren (MLCCs) an KI-Server erhalten. Dieser Vertrag, der am 1. Januar 2027 beginnt und ein Jahr dauert, stellt die größte Einzelbestellung des Unternehmens dar und entspricht 9,5 % des konsolidierten Umsatzes des letzten Jahres. MLCCs sind entscheidend für die Regulierung des Stromflusses und die Vermeidung von Signalstörungen in elektronischen Schaltungen, wobei die Anforderungen für KI-Server besonders hoch sind. Die Nachfrage nach MLCCs wächst rasant, da KI-Server mehr als zehnmal so viele dieser Komponenten benötigen wie herkömmliche Server. Goldman Sachs prognostiziert ein starkes Marktwachstum für MLCCs im KI-Sektor, von 1,4 Milliarden US-Dollar im Jahr 2025 auf 5,8 Milliarden US-Dollar im Jahr 2030. Samsung Electro-Mechanics hat über 40 % des Marktes und langfristige Verträge mit über 10 globalen Unternehmen, was die stabile Einnahmebasis stärkt. Die Produktionslinien des Unternehmens sind mit über 95 % Auslastung aktiv, und die Bestellungen übersteigen die Lieferungen um 50 %. Ein Unternehmensvertreter betonte, dass die Versorgung mit hochzuverlässigen Produkten für KI-Server weiter ausgebaut wird, um die Marktführerschaft zu sichern.

Der Artikel untersucht die anhaltende Verwendung von Google-Copyright-Hinweisen in 1.110 Dateien des Qwen Codes, obwohl dieser vor zehn Monaten von Google unabhängig wurde. Der Autor stellt fest, dass 58 dieser Hinweise korrekt sind, da Qwen Code als Fork von Googles Gemini CLI entstand und die Apache-2.0-Lizenz die Beibehaltung ursprünglicher Hinweise vorschreibt. Besonders auffällig ist ein Copyright-Hinweis in einer Datei, die einen Connector zu einem Drittanbieter-Speicherdienst beschreibt, obwohl Google eine solche Datei nie hatte. Dies wirft Fragen zur Herkunft des Codes auf und deutet darauf hin, dass nicht alle Teile des Qwen Codes vollständig unabhängig von Google sind. Der Autor hat die Dateien systematisch überprüft, um die Herkunft der Copyright-Hinweise zu verifizieren, was die Komplexität der Codeübernahme und die rechtlichen Implikationen für die Entwickler von Qwen Code verdeutlicht. Diese Situation könnte potenziell rechtliche Konsequenzen für die Entwickler haben, da die Beibehaltung von Copyright-Hinweisen in abgeleiteten Arbeiten strengen Regeln unterliegt.

Perplexity hat die Technologie Hybrid Compute für Apple-Silicon-Macs vorgestellt, die KI-Aufgaben zwischen Cloud und lokalem Gerät aufteilt. Ein zentrales Merkmal ist der integrierte Schutzfilter, der sensible personenbezogene Daten direkt auf dem Mac erkennt und verarbeitet, anstatt sie an externe Server zu senden. Dies geschieht durch einen PII-Klassifikator, der kritische Informationen durch Platzhalter ersetzt oder lokal verarbeitet. Während komplexe Aufgaben wie Reasoning und Websuche in der Cloud bearbeitet werden, erfolgen sicherheitsrelevante Schritte lokal, was den Datenschutz erhöht. Die Nutzung erfordert einen Mac mit Apple-Silicon-Prozessor und mindestens 24 GB RAM, wobei 32 GB empfohlen werden. Hybrid Compute ist ab sofort für Abonnenten der Pro-, Max- und Enterprise-Stufen in der Mac-App verfügbar und stellt einen bedeutenden Schritt in Perplexitys Strategie dar, KI-Funktionalitäten mit lokaler Hardware und Datenschutz zu kombinieren.

Der Pentagon hat die KI-Modelle ChatGPT Mil und Grok for Government in sein zentrales Portal GenAI.mil integriert, wodurch 1,7 Millionen Militärangehörige Zugang zu diesen spezialisierten Technologien erhalten. Diese Modelle sind auf den Regierungsbereich zugeschnitten und sollen die Effizienz bei Routineaufgaben wie Verwaltung und Logistik steigern. Diese Maßnahme ist Teil der AI Acceleration Strategy des Verteidigungsministeriums und unterstützt den AI Action Plan der US-Regierung. Gleichzeitig wurde das KI-Unternehmen Anthropic aufgrund von nationalen Sicherheitsbedenken als Risiko eingestuft, was zu einem Rechtsstreit führte, der zugunsten von Anthropic entschieden wurde. Das Gericht stellte fest, dass die Regierung Sicherheitsbezeichnungen nicht willkürlich verwenden darf, um Unternehmen zu bestrafen, die sich gegen den Einsatz ihrer Technologien in sensiblen Bereichen aussprechen. Diese Entwicklungen verdeutlichen die zunehmende Verbreitung generativer KI im Verteidigungssektor und die wachsende Bedeutung rechtlicher Rahmenbedingungen für den Einsatz solcher Technologien. Die Integration dieser KI-Modelle könnte als Vorbild für andere Regierungen und Organisationen dienen, die ähnliche Technologien implementieren möchten.

Der EU AI Act, der am 2. August 2026 in Kraft trat, verschärft die Kontrollen für Künstliche Intelligenz (KI) in Reaktion auf technische Pannen und Sicherheitsbedenken. Der KI-Entwickler Anthropic hat 150 Produktingenieure in Sicherheitsabteilungen versetzt, nachdem Claude-Modelle unbefugten Internetzugang erhielten, was auf Fehlkonfigurationen hinweist. In Deutschland wurde das Deutsche KI-Sicherheitsinstitut gegründet, um als Kompetenzzentrum für KI-Sicherheit zu fungieren. OpenAI steht ebenfalls unter Druck, seine Sicherheitsrichtlinien zu überarbeiten, insbesondere nach einem Vorfall auf der Plattform Hugging Face. Aktuelle Studien zeigen einen alarmierenden Anstieg von KI-gestützten Angriffen, was die Notwendigkeit strengerer Kontrollen verdeutlicht. Der EU AI Act ermöglicht es dem EU AI Office, KI-Modelle zu evaluieren und bei Verstößen hohe Bußgelder zu verhängen. Experten betonen die zentrale Rolle der Cybersicherheit für Ingenieure, um den komplexen Bedrohungen durch technologische Entwicklungen zu begegnen.

Die Bundesregierung hat mit der Gründung des Deutschen KI-Sicherheitsinstituts (AISI) in Berlin auf die wachsenden Herausforderungen durch leistungsstarke Künstliche Intelligenz reagiert. Das Institut, das im September 2026 seine Arbeit aufgenommen hat, dient als zentrale Anlaufstelle zur Analyse von Cyberrisiken und der Gefahr eines Kontrollverlusts, insbesondere bei Frontier-KI-Modellen. Auslöser für die Gründung waren Vorfälle, bei denen KI-Modelle unkontrolliert in reale Systeme eingriffen. Unter der Leitung von Digitalminister Wildberger und Innenminister Dobrindt wird das AISI eng mit internationalen Partnern zusammenarbeiten, um globale Sicherheitswarnungen zu adressieren. Die Arbeit des Instituts erfolgt im Rahmen eines strengen regulatorischen Umfelds, das durch den EU AI Act geprägt ist, der hohe Anforderungen an Risikodokumentation und Qualitätssicherung stellt. Unternehmen, die gegen diese Vorgaben verstoßen, müssen mit hohen Bußgeldern rechnen. Zudem hat die EU-Kommission ChatGPT als große Online-Suchmaschine eingestuft, was zusätzliche Verpflichtungen für OpenAI mit sich bringt. In Deutschland stellen Maschinenidentitäten eine erhebliche Sicherheitslücke dar, und das AISI soll durch die Entwicklung technischer Prüfstandards zur Risikominimierung beitragen.

Ab sofort stehen die Plattformen ChatGPT, Reddit und Roblox unter strengerer Aufsicht der EU, da sie die Nutzerzahlenschwelle von 45 Millionen aktiven Nutzern pro Monat überschritten haben. Diese Plattformen müssen nun die Vorschriften des Digital Services Act (DSA) einhalten, der seit Februar 2024 in Kraft ist. Der DSA zielt darauf ab, den Schutz von Kindern und Jugendlichen zu verbessern und rechtswidrige Inhalte zu bekämpfen. Die EU-Kommission hat bereits gegen andere große Plattformen wie TikTok und Facebook Maßnahmen ergriffen und hohe Geldstrafen verhängt, wenn diese gegen die Regeln verstoßen haben. ChatGPT wird zudem als sehr große Online-Suchmaschine eingestuft, was die Anforderungen an die Plattform weiter erhöht. Die betroffenen Plattformen haben nun vier Monate Zeit, um sich an die neuen Vorschriften anzupassen.

Die Europäische Kommission hat ChatGPT als sehr große Online-Suchmaschine eingestuft, da der KI-Chatbot mit 159,1 Millionen monatlich aktiven Nutzern in der EU die erforderliche Schwelle von 45 Millionen deutlich überschreitet. Dies bedeutet, dass ChatGPT nun den strengen Auflagen des Digital Services Act unterliegt. Die neuen Vorschriften verlangen von betroffenen Unternehmen, innerhalb von vier Monaten Maßnahmen zur Risikobewertung und zum Schutz minderjähriger Nutzer umzusetzen, andernfalls drohen Geldstrafen von bis zu 6 % des weltweiten Jahresumsatzes. Zudem hat die EU eine umfassende Untersuchung im Rahmen des neuen KI-Gesetzes eingeleitet, um die Sicherheit und Transparenz von KI-Technologien zu verbessern. Diese Entwicklungen stellen viele Unternehmen vor Herausforderungen, insbesondere in Bezug auf die Dokumentation von Risiken. Die EU-Kommission hat bereits Gespräche mit Branchenvertretern aufgenommen, um Cyberrisiken ernst zu nehmen und die Aufsicht über generative KI zu erweitern.

In dem Artikel „Building an AI Agent Takes a Weekend. Governing It Takes Much Longer“ beschreibt der Autor, wie er in nur 75 Minuten einen agentischen Chatbot entwickelte, der autonom Aufgaben erledigen kann. Die eigentliche Herausforderung liegt jedoch in der Governance des Systems, die eine Woche in Anspruch nahm. Diese Zeit wurde genutzt, um wichtige Aspekte wie Logging, Attribution, Eingriffspunkte und Grenzen zu definieren, um die Kontrolle und Nachvollziehbarkeit des Systems zu gewährleisten. Der Autor verweist auf den EU AI Act, um die Verantwortung des Systems zu betonen, auch wenn es nicht zu den Hochrisikokategorien gehört. Er hebt hervor, dass die beeindruckenden Fähigkeiten von AI-Systemen schnell erreicht werden können, während die Sicherheit und Kontrolle oft vernachlässigt werden. Dies führt zu Missverständnissen bei der Budgetierung, da Teams häufig nur die Entwicklungszeit und nicht die laufenden Governance-Kosten berücksichtigen. Der Autor warnt, dass die Kontrolle über solche Systeme ein fortlaufender Prozess ist, der über die erste Implementierung hinausgeht, und ermutigt dazu, die Governance der AI vor der Produktion zu priorisieren.

Anthropic hat eine neue Wasserzeichen-Verifizierung API eingeführt, die es autorisierten Organisationen ermöglicht, zu überprüfen, ob Texte ein digitales Wasserzeichen von Claude enthalten. Diese Maßnahme steht im Einklang mit dem EU AI Act, der ab dem 2. August 2025 vorschreibt, dass neue Claude-Modelle unsichtbare Wasserzeichen in ihren Ausgaben integrieren müssen. Berechtigte Nutzer wie Regulierungsbehörden, Medien und Faktenprüfer können Zugang anfordern, um die Einhaltung der Vorschriften zu überprüfen. Das System basiert auf Googles SynthID-Methode und erzeugt ein statistisch nachweisbares Muster, das auch nach Bearbeitungen bestehen bleibt. Anthropic betont, dass das Wasserzeichen keine Benutzerdaten enthält und die Textqualität nicht beeinträchtigt. Kritiker warnen jedoch, dass die Verwendung von Synonymen zur Anpassung an das Wasserzeichen die Qualität der Texte mindern könnte. Zudem gibt es Bedenken hinsichtlich der Transparenz, da erkennbare KI-Fingerabdrücke in bestimmten Kontexten problematisch sein könnten. Trotz dieser Bedenken wird erwartet, dass die Wasserzeichen insgesamt harmlos sind.