Governance & Compliance

Der Artikel "Building Safe AI Agents for DevOps: Governance First, Automation Second" thematisiert die Integration von KI-Agenten in DevOps-Umgebungen und hebt die Bedeutung von Governance und Sicherheitsmechanismen vor der Automatisierung hervor. Während KI-Agenten die Produktivität durch natürliche Sprachinteraktionen steigern können, birgt ihr direkter Zugriff auf die Infrastruktur erhebliche Risiken, die zu katastrophalen Fehlern führen können. Um diese Gefahren zu minimieren, wird ein Architekturansatz vorgeschlagen, der Planung, Governance und Ausführung voneinander trennt. Der KI-Agent soll die Benutzerabsicht verstehen und in strukturierte Aktionsanfragen umwandeln, die von einer Governance-Engine überprüft werden. Ein Katalog erlaubter Aktionen und eine Risikoklassifizierung helfen, gefährliche Anfragen zu identifizieren und zu blockieren. Zudem sollten alle Aktionen über genehmigte Tools und APIs ausgeführt werden, um die Sicherheit zu erhöhen. Der Artikel schlussfolgert, dass der Erfolg von KI in DevOps nicht nur von der Modellleistung abhängt, sondern vor allem von der Stärke der Governance zur Gewährleistung von Sicherheit und Compliance.

Der Artikel "AI is Turning Managers Into Governance Actors" untersucht, wie Künstliche Intelligenz (KI) die Rolle von Managern in Unternehmen transformiert und sie zu wichtigen Akteuren der Governance macht. Durch den Einsatz von KI in Geschäftsprozessen werden Entscheidungen zunehmend durch automatisierte Empfehlungen beeinflusst, was die politische Dimension der Managerrolle verstärkt. Manager müssen als Bindeglied zwischen algorithmischen Systemen und Mitarbeitern fungieren, indem sie maschinelle Ausgaben interpretieren und Fairness sowie Verantwortlichkeit sicherstellen. Diese Entwicklungen erfordern eine umfassende Schulung in KI-Kompetenz, um die Qualität der KI-gestützten Entscheidungen kritisch zu hinterfragen. Die Verantwortung für Entscheidungen wird komplexer und verteilt sich innerhalb der Organisation, was zu einem "Verantwortungsnebel" führen kann. Um das Vertrauen der Mitarbeiter zu wahren, ist es wichtig, ihre Perspektiven in den KI-Einführungsprozess einzubeziehen. Letztlich wird die Legitimität des Managements auf die Probe gestellt, da Entscheidungen zunehmend durch Maschinen vermittelt werden, was die Notwendigkeit klarer Governance und menschlicher Aufsicht betont.

Laut einem Bericht von Moody's haben europäische Banken ihre Investitionen in Risikomanagement und Compliance stark erhöht, um auf die steigenden Betrugsfälle und die verschärfte Sanktionsdurchsetzung zu reagieren. Rund 66% der Banken betrachten diese Herausforderungen als dringend und investieren in KI-gestützte Systeme, die sowohl kriminelle Aktivitäten effizienter aufdecken als auch die Bearbeitung legitimer Kunden beschleunigen. Die Studie zeigt, dass eine schrittweise Integration von KI mit menschlicher Aufsicht bevorzugt wird, um regulatorischen Anforderungen gerecht zu werden. Zudem sehen sich 61% der Banken einem wachsenden Wettbewerb durch neue Marktteilnehmer gegenüber, während 51% Schwierigkeiten haben, Strategien in einem volatilen Umfeld zu entwickeln. Mit 70% und 48% sind die Investitionen in regulatorische Compliance und Governance in Europa die höchsten weltweit. Die Banken setzen auf gezielte Investitionen in KI und Datenanalysen, um eine integrierte Sicht auf Risiken zu schaffen und die Governance zu stärken, was die Entscheidungsfindung beschleunigen und die Wettbewerbsfähigkeit erhöhen soll.

Der Artikel „What the OpenAI-hugging face breach reveals about AI governance failures“ beleuchtet die Sicherheitslücken und Governance-Probleme, die durch den Vorfall zwischen OpenAI und Hugging Face ans Licht kamen. Der Vorfall zeigt, dass trotz fortschrittlicher Technologien und Algorithmen die Regulierung und Überwachung von KI-Systemen unzureichend sind. Es wird argumentiert, dass die bestehenden Richtlinien und Standards nicht ausreichen, um die Risiken, die mit der Nutzung von KI verbunden sind, angemessen zu adressieren. Der Artikel fordert eine umfassendere und proaktive Herangehensweise an die KI-Governance, um zukünftige Vorfälle zu verhindern und das Vertrauen in KI-Technologien zu stärken. Zudem wird die Notwendigkeit betont, ethische Überlegungen in den Entwicklungsprozess von KI einzubeziehen, um sicherzustellen, dass diese Technologien verantwortungsvoll eingesetzt werden.

Die NRW. Bank hat beschlossen, Künstliche Intelligenz (KI) im Risikocontrolling einzuführen, um die Risiken aus dem gesetzlichen Sonderkündigungsrecht für festverzinsliche Darlehen besser zu bewerten. Kreditnehmer haben nach zehn Jahren die Möglichkeit, ihre Darlehen vorzeitig zurückzuzahlen, was für Banken ein Zinsänderungsrisiko darstellt. Der Einsatz von KI ermöglicht eine schnellere und präzisere Risikobewertung, was der Bank hilft, ihre Einnahmen und Geschäftsplanung zuverlässiger zu gestalten. Das KI-Modell wurde mit umfangreichen Geschäfts- und Marktdaten trainiert, um Muster zu erkennen und auf neue Daten anzuwenden. Die NRW. Bank plant, diesen Ansatz kontinuierlich zu überprüfen und weiterzuentwickeln, um auch zukünftig weitere KI-Anwendungen im Risikomanagement sicher und effizient zu implementieren.

SimBioSys hat eine strategische Partnerschaft mit Ferrum Health angekündigt, um die Nutzung der FDA-zugelassenen Plattform TumorSight® Viz für die chirurgische Planung bei Brustkrebs zu erweitern. Diese Zusammenarbeit ermöglicht es Gesundheitssystemen, KI-gestützte chirurgische Planungsfunktionen nahtlos in ihre bestehende Infrastruktur zu integrieren und zu verwalten. TumorSight Viz wandelt Standard-MRT-Bilder in interaktive, patientenspezifische 3D-Visualisierungen um, die Chirurgen tiefere anatomische Einblicke bieten und informierte Entscheidungen erleichtern. Ferrum Healths Model Hub unterstützt die zentrale Überwachung und Integration von KI-Anwendungen, was die Skalierbarkeit und Leistung der Lösungen verbessert. Ziel der Partnerschaft ist es, den Zugang zu diesen fortschrittlichen Technologien in einem breiteren Netzwerk von Gesundheitssystemen zu beschleunigen und die Qualität der Patientenversorgung zu erhöhen.

d1g1t ist ein Wealthtech-Unternehmen mit Sitz in Toronto, das eine integrierte Plattform für Portfolioverwaltung, Risikomanagement und Compliance anbietet, die von über 90 Vermögensverwaltungsfirmen in Nordamerika genutzt wird. Im Juli 2026 führte d1g1t einen innovativen Server ein, der auf dem Model Context Protocol (MCP) basiert und es Beratern ermöglicht, mithilfe von KI-Tools wie Claude und ChatGPT effizient auf wichtige Portfolioinformationen zuzugreifen. Diese Entwicklung zielt darauf ab, die Fragmentierung in der Vermögensverwaltung zu reduzieren, indem eine gemeinsame Datenbasis für Berater, Compliance-Teams und Portfoliomanager geschaffen wird. d1g1t hat kürzlich bedeutende Kunden wie PWL Capital und Goodreid Investment Counsel gewonnen, was das Vertrauen in ihre Technologie unterstreicht. Die Unterstützung durch große Finanzinstitute wie RBC und CI Financial stärkt die Marktposition des Unternehmens. Die Einführung des MCP-Servers könnte die Arbeitsweise der Berater revolutionieren und zu einer verbesserten Effizienz sowie einer stärkeren Kundenbindung führen. Eine zentrale Herausforderung wird jedoch sein, die Akzeptanz der neuen Technologie im Alltag der Berater zu messen und die Qualität der zugrunde liegenden Daten sicherzustellen.

Eine aktuelle Umfrage von Avalara zeigt, dass 90 % der Finanzleiter unter Druck stehen, den ROI von KI-Agenten nachzuweisen, während nur 7 % die Governance der Implementierung priorisieren. Befragt wurden über 1.500 CFOs und Finanzleiter aus verschiedenen Ländern. Die Ergebnisse verdeutlichen, dass Finanzabteilungen zwischen der schnellen Einführung von KI-Agenten und der verantwortungsvollen Steuerung gefangen sind. 71 % der Führungskräfte betonen den Fokus auf Geschwindigkeit, während 30 % ihre internen Kontrollen im letzten Jahr nicht aktualisiert haben. Zudem herrscht Unsicherheit über die Verantwortlichkeit bei Fehlern von KI-Agenten, da 23 % der Befragten die Zuständigkeit als unklar empfinden. Trotz des Drucks zur schnellen Implementierung fordern die Finanzleiter, Vertrauen und Verantwortlichkeit in den Prozess zu integrieren. Sie betonen die Notwendigkeit von Audit-Trails und die Validierung gegen Compliance-Anforderungen, um die Transparenz zu erhöhen. Die Ergebnisse legen nahe, dass Unternehmen, die KI-Agenten erfolgreich nutzen wollen, sowohl auf Geschwindigkeit als auch auf sorgfältige Governance und klare Kontrollmechanismen setzen sollten.

Im Bankwesen wird die Integration von Künstlicher Intelligenz (KI) durch Governance-Herausforderungen behindert, obwohl die Technologie effektiv ist. Wichtige Fragen nach der Implementierung eines KI-Modells betreffen die Nachvollziehbarkeit von Entscheidungen, die Qualität der verwendeten Daten und die Leistungsüberwachung. Um KI erfolgreich zu skalieren, sollten Banken Governance nicht als separate Aufgabe, sondern als integralen Bestandteil des Entwicklungsprozesses betrachten. Eine frühzeitige Einbindung von Governance schafft klare Richtlinien, die Teams helfen, effizienter zu arbeiten, Unsicherheiten zu reduzieren und Verantwortlichkeiten zu klären. Dies ist besonders wichtig in Bereichen wie Kreditvergabe und Betrugserkennung, wo schnelle Entscheidungen entscheidend sind. Die Qualität der Daten spielt eine zentrale Rolle, da mangelndes Vertrauen in diese zu ineffizienten Prozessen und höheren Risiken führt. Banken müssen daher die gesamte KI-gestützte Entscheidungsfindung im Blick behalten. Letztlich wird Governance zu einem entscheidenden Wettbewerbsvorteil, da sie es Banken ermöglicht, KI vertrauensvoll und in größerem Maßstab zu nutzen.

Die US-Armee steht vor einem ernsthaften Problem mit der Nutzung von KI-Ressourcen, da sie ihre zugewiesenen KI-Token schneller aufbraucht als erwartet. Interne Mitteilungen zeigen, dass die Nutzung alarmierend hoch ist und eine sofortige Reduzierung erforderlich macht. Ursprünglich hatte die Armee konservative Schätzungen zur Token-Nutzung vorgenommen, doch die tatsächliche Nachfrage stieg stark an, als Mitarbeiter die Möglichkeiten der KI erkannten. Anstatt zusätzliche Tokens zu beschaffen, hat die Armee beschlossen, die Nutzung zu rationieren, was auf Budgetbeschränkungen hinweist. Diese Situation wirft Fragen zur KI-Governance auf, da Prioritäten für Anwendungen gesetzt werden müssen. Die Krise dient als Weckruf für die Unternehmens-KI-Landschaft, die mehr Kapazität einplanen und klare Governance-Richtlinien etablieren sollte, um ähnliche Probleme zu vermeiden. Letztlich zeigt die Situation, dass es besser ist, bei der KI-Bereitstellung überprovisioniert zu sein, um Produktivitätsverluste und Frustration zu vermeiden.

Eine aktuelle Studie von Info-Tech Research Group zeigt, dass 94% der Entwickler von Produktivitätsgewinnen durch den Einsatz von Künstlicher Intelligenz (KI) profitieren, während 83% eine signifikante Reduktion von Fehlern in ihrem Code feststellen. Trotz dieser positiven Ergebnisse bleibt die Governance-Reife hinter der schnellen KI-Adoption zurück, was bedeutet, dass viele Organisationen Schwierigkeiten haben, ihre Sicherheits- und Überprüfungspraktiken anzupassen. Besonders auffällig ist, dass KI-generierter Code mehr Tests erfordert als von Menschen geschriebener Code, was den Bedarf an klaren Überprüfungsstandards erhöht. Während 84% der Befragten KI in der Entwicklungsphase nutzen, haben nur 37,4% ihre Verfahren formalisiert, was auf inkonsistente Qualität hinweist. Sicherheitsbedenken und Herausforderungen durch Legacy-Code stellen weiterhin bedeutende Hindernisse für die KI-Nutzung dar. Die Studie empfiehlt, dass Softwareführer sich zunächst auf die Entwicklung praktischer Governance für die am häufigsten genutzten KI-Anwendungen konzentrieren, um Qualität und Sicherheit zu gewährleisten.

Eine aktuelle Studie von Info-Tech Research Group zeigt, dass 94% der Entwickler von Produktivitätsgewinnen durch den Einsatz von Künstlicher Intelligenz (KI) profitieren, während 83% eine signifikante Reduktion von Fehlern feststellen. Dennoch erfordert KI-generierter Code zusätzliche Tests, was auf eine Kluft zwischen der raschen Einführung von KI und der Reifung der Governance-Praktiken hinweist. Nur 37,4% der Entwickler, die KI nutzen, berichten von formalisierten Verfahren, was das Risiko inkonsistenter Qualität erhöht. Sicherheitsbedenken und Herausforderungen durch Legacy-Code bleiben bedeutende Hindernisse für die KI-Adoption. Erfahrene Entwickler neigen dazu, Sicherheitswerkzeuge zu verwenden und die Notwendigkeit einer sorgfältigen Anwendung von KI zu erkennen. Die Studie empfiehlt Unternehmen, klare Standards für die Überprüfung und Qualitätssicherung von KI-generiertem Code zu etablieren, um nachhaltige Werte zu schaffen und Risiken zu minimieren. Zudem wird geraten, Governance-Strukturen zunächst für die am häufigsten genutzten KI-Anwendungsfälle zu entwickeln, um die Vorteile von KI optimal auszuschöpfen.

Die Einhaltung von Datenschutzregeln wird für europäische Unternehmen zunehmend schwierig, da Quishing- und Smishing-Angriffe stark zunehmen. Im ersten Quartal 2026 stiegen Quishing-Fälle um 146 Prozent, während Smishing im zweiten Quartal um 162 Prozent zulegte. Diese Angriffe zeigen, wie Hacker psychologische Schwächen ausnutzen, was Unternehmen dazu zwingt, regelmäßige Schulungen zur Sensibilisierung ihrer Mitarbeiter für Cyber-Risiken anzubieten. In der Fortbildungslandschaft sind zahlreiche Seminare zu Themen wie Künstliche Intelligenz und Beschäftigtendatenschutz geplant. Die bereits in Kraft befindliche EU-KI-Verordnung bringt zusätzliche Dokumentationspflichten mit sich, die viele Unternehmen vor Herausforderungen stellen. Zudem plant die EU, ab Juli 2027 mobile Betriebssysteme für konkurrierende KI-Chatbots zu öffnen, was neue Anforderungen an das Datenmanagement zur Folge haben wird.

Salt Security hat den Salt Policy Hub eingeführt, die größte Bibliothek für die Governance von agentischen KI-Systemen in der Branche, die über 100 vorgefertigte Richtlinien umfasst. Diese Richtlinien sind speziell auf die Sicherheit von KI-Agenten ausgerichtet und decken wichtige Bereiche wie API-Governance, Serverkonfiguration und Agentenautorisierung ab. Angesichts der wachsenden Verbreitung von KI-Agenten in Unternehmen bietet der Policy Hub Sicherheitsteams ein sofort einsatzbereites Werkzeug, um eine umfassende Governance-Strategie zu implementieren, ohne diese selbst entwickeln zu müssen. Die Richtlinien sind anpassbar und bieten sofortigen Schutz, während Salt Security die Bibliothek kontinuierlich erweitert, um neue Risiken zu adressieren. Zudem wird mit der Einführung von Salt Code sichergestellt, dass Sicherheitsrichtlinien auch im Softwareentwicklungsprozess für KI-generierten Code angewendet werden, was Unternehmen ermöglicht, ihre Governance über den gesamten Lebenszyklus von Anwendungen hinweg zu konsolidieren und effektive Sicherheitsmaßnahmen nachzuweisen.

Am 17. Juli 2026 fand in Shanghai der Weltgipfel für Künstliche Intelligenz (WAIC) statt, bei dem der chinesische Präsident Xi Jinping hochrangige Gespräche mit den Premierministern von Thailand und Kambodscha sowie dem UN-Generalsekretär António Guterres führte. Diese diplomatischen Initiativen verwandelten die Konferenz in eine Plattform für internationale Zusammenarbeit und globale Regierungsführung. Xi betonte die Bedeutung der bilateralen Beziehungen zu ASEAN-Staaten und rief zur Zusammenarbeit in verschiedenen Bereichen auf, insbesondere zur Bekämpfung grenzüberschreitender Verbrechen und zur Konfliktlösung durch Dialog. Guterres lobte Chinas Engagement für den Multilateralismus und die UN, während Xi die Vision einer gemeinsamen Zukunft und die Stärkung der UN-Rolle in einer sich verändernden Welt hervorhob. Zudem wurde die Gründung der Weltorganisation für Künstliche Intelligenz (WAICO) beschlossen, um die internationale Kooperation im KI-Bereich zu fördern. China plant, in den nächsten fünf Jahren 5.000 Ausbildungsplätze im KI-Sektor für Entwicklungsländer anzubieten, was als Strategie zur Festigung von Chinas Einfluss in der Region und zur Förderung einer inklusiven globalen KI-Governance angesehen wird.

China hat während der 2026 World Artificial Intelligence Conference (WAIC) in Shanghai Schritte unternommen, um seine Vision für die globale Governance von künstlicher Intelligenz (KI) zu institutionalisieren. Präsident Xi Jinping präsentierte ein Maßnahmenpaket, das die internationale Zusammenarbeit im KI-Bereich fördern und Chinas Einfluss stärken soll. Ziel ist es, nicht nur eigene technologische Standards zu setzen, sondern auch eine führende Rolle in der globalen Diskussion über ethische und sicherheitspolitische Fragen im Zusammenhang mit KI einzunehmen. Diese Initiative könnte dazu führen, dass andere Länder sich stärker an Chinas Vorgaben orientieren, was die Entwicklung und Regulierung von KI betrifft. Langfristig könnte dies die geopolitischen Dynamiken im Technologiebereich verändern und Chinas Position als globaler Akteur im KI-Sektor festigen.

Campus, ein akkreditiertes Online-College, hat angekündigt, dass alle Associate Degrees in Betriebswirtschaft, Informationstechnologie und Gesundheitsverwaltung eine sechs Kurs umfassende Applied AI Concentration integrieren werden. Diese Initiative zielt darauf ab, Studierenden praktische Fähigkeiten im Umgang mit Künstlicher Intelligenz zu vermitteln und sie auf die Anforderungen des Arbeitsmarktes vorzubereiten. Tade Oyerinde, der Gründer und Kanzler von Campus, hebt die Bedeutung hervor, bestehende Prozesse, insbesondere im Gesundheitswesen, durch KI zu optimieren. Die Kurse decken Themen von der Einführung in KI bis zur Entwicklung von AI-Strategien ab. Eine Studie zeigt, dass Arbeitnehmer mit KI-Kenntnissen 56 % mehr verdienen, was die Relevanz dieser Ausbildung unterstreicht. Campus bietet ein innovatives Modell mit persönlicher Beratung und individueller Unterstützung, um die Abschlussquoten zu steigern. Die Lehrveranstaltungen werden von erfahrenen Dozenten geleitet, und Absolventen haben die Möglichkeit, in den Arbeitsmarkt einzutreten oder an Partneruniversitäten weiterzustudieren.

Vom 17. bis 20. Juli 2026 findet in Shanghai die Welt-AI-Konferenz (WAIC) statt, die sich als zentrale Plattform für den internationalen Dialog über Künstliche Intelligenz etabliert hat. Unter dem Motto "KI-Partnerschaft für eine hellere Zukunft" wird diskutiert, wie KI verschiedene Branchen stärken und das tägliche Leben verbessern kann. Chinas Präsident Xi Jinping wird die Konferenz mit einer Eröffnungsrede einleiten. China verfolgt einen menschenzentrierten Ansatz und setzt sich dafür ein, dass KI als internationales Gemeingut genutzt wird, um hegemoniale Bestrebungen abzulehnen. Im Rahmen der Global AI Governance Initiative strebt China an, eine gemeinsame Grundlage für die globale KI-Entwicklung zu schaffen und die Zusammenarbeit zwischen Ländern zu fördern. Mit dem Global AI Governance Action Plan und der AI+ International Cooperation Initiative möchte China bestehende Konsense in konkrete Maßnahmen umsetzen und die Kluft zwischen entwickelten und sich entwickelnden Ländern überbrücken. Die Konferenz bietet eine Gelegenheit, den Konsens zu festigen und eine gerechte, inklusive globale KI-Governance zu fördern.

Der Markt für AI-Modellrisikomanagement hat im Jahr 2025 einen Wert von 6,43 Milliarden US-Dollar erreicht und wird bis 2035 voraussichtlich auf 28,54 Milliarden US-Dollar anwachsen, was einem jährlichen Wachstum von 16,2 % entspricht. Dieses Wachstum wird durch die verstärkte Nutzung von KI- und Machine-Learning-Modellen in verschiedenen Branchen gefördert, was einen dringenden Bedarf an Governance und Risikominderungsrahmen schafft. AI-Modellrisikomanagementlösungen unterstützen Unternehmen dabei, Genauigkeit, Transparenz und Compliance zu gewährleisten, insbesondere in stark regulierten Sektoren wie dem Finanzwesen und Gesundheitswesen. Wachsende Bedenken hinsichtlich Modellverzerrung, Datenschutz und Erklärbarkeit sowie neue regulatorische Anforderungen treiben die Marktentwicklung voran. Unternehmen wie IBM, Microsoft und AWS investieren in umfassende KI-Governance-Plattformen, um ethische und konforme KI-Systeme zu fördern. In einer Zeit, in der die Nutzung von KI zunimmt, wird das Risikomanagement von KI-Modellen zu einer strategischen Priorität für Unternehmen, die verantwortungsbewusst und nachhaltig skalieren möchten.

AgPlenus hat ein innovatives KI-Modell namens APP (Antifungal Potency Predictor) eingeführt, das die Vorhersage der Wirksamkeit von Fungiziden revolutioniert. Dieses Modell nutzt fortschrittliche maschinelle Lernalgorithmen, die auf proprietären Datensätzen basieren, um die Aktivität kleiner Moleküle in Pilzen vorherzusagen. Durch die frühzeitige Prognose der antifungalen Potenz können Entscheidungen getroffen werden, bevor chemische Synthesen und biologische Tests stattfinden, was die Anzahl der zu bewertenden Moleküle reduziert und Ressourcen auf die vielversprechendsten Kandidaten konzentriert. Dies beschleunigt die Entdeckung neuer Fungizide. Das APP-Modell unterstützt AgPlenus' interne Pipeline, einschließlich des Ziels APTF-1, das gegen ernsthafte Pflanzenkrankheiten wie Septoria Wheat Blotch gerichtet ist. Zudem wird das Modell die Entwicklung weiterer prädiktiver KI-Modelle in Zusammenarbeit mit Evogene fördern, um wichtige biologische Eigenschaften im Pflanzenschutz vorherzusagen.

Zypero Intellect hat sich der AI Verify Foundation angeschlossen, um die Governance von Unternehmens-AI zu verbessern und das Vertrauen in AI-Systeme zu stärken. Diese Mitgliedschaft reflektiert das Engagement des Unternehmens für AI-Governance und Behaviour Intelligence. Angesichts der wachsenden Integration von AI in geschäftskritische Prozesse wird die Entwicklung effektiver Governance-Rahmenwerke immer wichtiger. Zypero Intellect bringt seine Expertise in Behaviour Intelligence ein, um das Verhalten von AI-Agenten zu gestalten und zu steuern. In Zusammenarbeit mit Technologieanbietern, Unternehmen, Forschungseinrichtungen und politischen Entscheidungsträgern strebt das Unternehmen an, praktische Ansätze für vertrauenswürdige AI zu fördern. CEO Dilip Dand betont, dass die Governance mit den technologischen Entwicklungen Schritt halten muss, um das Vertrauen in Unternehmens-AI zu stärken. Die AI Verify Foundation ist eine gemeinnützige Organisation, die sich auf die Entwicklung von AI-Testrahmen und Governance-Methoden spezialisiert hat.

In der modernen Unternehmenswelt sind KI-Agenten mittlerweile in der Produktion aktiv und übernehmen Aufgaben wie die Änderung von Finanzdaten und die Genehmigung von Arbeitsabläufen. Diese Entwicklung bringt jedoch erhebliche Risiken mit sich, da oft keine ausreichende Kontrolle und Überwachung ihrer Aktionen vorhanden ist. Devenex hat eine Lösung entwickelt, die als Execution Control Plane fungiert und sicherstellt, dass alle Aktionen von KI-Agenten vor ihrer Ausführung überprüft und autorisiert werden. Diese Governance-Infrastruktur ermöglicht es Unternehmen, ihre KI-Initiativen sicherer und vertrauensvoller zu skalieren, indem sie vollständige Nachverfolgbarkeit und Compliance bietet. Die flexible Implementierung von Devenex lässt sich nahtlos in bestehende Systeme integrieren, ohne diese ersetzen zu müssen. Angesichts der wachsenden Nutzung von KI-Agenten wird die verantwortungsvolle Ausführung ihrer Aktionen zu einem entscheidenden Wettbewerbsfaktor für Unternehmen, die die Herausforderungen im Bereich Governance und Risikomanagement bewältigen möchten.

Die kanadische Bankenaufsicht, das Office of the Superintendent of Financial Institutions (OSFI), hat in einer E-Mail an Bankführungskräfte den KI-Model Claude Mythos von Anthropic namentlich erwähnt, was ungewöhnlich ist, da Regulierungsbehörden normalerweise keine spezifischen Produkte benennen. OSFI warnte, dass fortschrittliche KI-Modelle wie Mythos die Zeit für effektive Risikominderung erheblich verkürzen und somit die traditionellen Annahmen über Softwareanfälligkeiten in Frage stellen. Die E-Mail, die durch einen Informationsfreiheitsantrag zugänglich wurde, enthält Empfehlungen zur Verbesserung der Risikomanagementpraktiken der Banken, obwohl einige Inhalte geschwärzt sind. Angesichts der Tatsache, dass viele kanadische Banken mit veralteter Software arbeiten, stehen sie unter Druck, ihre Sicherheitsmaßnahmen zu verbessern, da Mythos als äußerst fähig gilt, Schwachstellen zu identifizieren. Während einige Banken bereits eigene KI-gestützte Verteidigungen entwickeln, äußert die Regierung Bedenken über die Abhängigkeit von wenigen KI-Modellen, die an die Risiken der Finanzkrise von 2008 erinnern. OSFI betont, dass der Fokus auf dem Risikomanagement der Banken liegt und nicht auf der Regulierung der Technologie selbst, was die Komplexität der Situation verdeutlicht.

Genie One ist eine mobile App, die Geschäftsanwendern den Zugriff auf Unternehmensdaten und Einblicke jederzeit und überall ermöglicht. Verfügbar für iOS und Android, bietet die App eine schnelle und sichere Möglichkeit, Fragen zu stellen und Antworten zu erhalten, ohne an einen Schreibtisch gebunden zu sein. Durch die Nutzung natürlicher Sprache und einer selbstverbessernden Kontextschicht liefert Genie One in Sekundenschnelle vertrauenswürdige Antworten, die auf den spezifischen Unternehmensdaten basieren. Die App integriert sich auch mit externen Geschäftstools und stellt sicher, dass alle Antworten den Unternehmensrichtlinien entsprechen. Führungskräfte können KPIs und Veränderungen sofort überprüfen, während andere Benutzer einfache Antworten erhalten. Genie One erfüllt Sicherheits- und Governance-Anforderungen, indem es den Zugriff auf Daten basierend auf Benutzerberechtigungen steuert. Zukünftige Funktionen wie Dunkelmodus, Push-Benachrichtigungen und Sprachsteuerung sind in Entwicklung, um die Benutzererfahrung zu verbessern. Insgesamt zielt Genie One darauf ab, die Entscheidungsfindung zu beschleunigen und die Effizienz zu steigern.

Bybit hat sein AI Skill Hub um einen neuen Marktplatz erweitert, der drei innovative AI Earn Skills für ertragsorientierte Handelsstrategien bietet. Diese Fähigkeiten ermöglichen es Nutzern, automatisierte Strategien zur Optimierung ihrer Renditen und Risikomanagement zu nutzen. Zu den neuen Strategien gehört eine intelligente DCA-Strategie, die es ermöglicht, bei fallenden Preisen günstigere Positionen aufzubauen. Zudem identifiziert die AI Event Double-Win Strategie Handelsfenster während bedeutender Marktereignisse. Die Risk Parity Yield Optimizer Strategie sorgt für eine dynamische Anpassung des Portfolios, um die Renditen über verschiedene Ertragsprodukte hinweg zu maximieren. Mit diesen neuen AI-Fähigkeiten können Nutzer komplexe Handelsstrategien umsetzen, ohne umfangreiche technische Kenntnisse zu benötigen. Die neuen Skills sind ab sofort für berechtigte Händler verfügbar und erweitern die Möglichkeiten des AI Skill Hub erheblich.

Die Kosten für das Bahnprojekt Stuttgart 21 sind auf etwa 14,5 Milliarden Euro gestiegen, was die ursprünglich geplanten Ausgaben von unter fünf Milliarden erheblich übersteigt. Diese Kostenexplosion ist auf gravierende Mängel in der Planung und im Risikomanagement zurückzuführen, die durch interne Prüfungen ans Licht kamen. Die Inbetriebnahme des Hauptbahnhofs wurde auf Dezember 2031 verschoben, und auch andere Bauabschnitte haben neue Zeitpläne erhalten. Um die Herausforderungen zu bewältigen, hat die Deutsche Bahn Klaus Müller als neuen Chef der DB Projekt Stuttgart-Ulm GmbH eingesetzt und investiert in die Digitalisierung der Kundenkommunikation. Trotz dieser Maßnahmen bleibt die Pünktlichkeit im Fernverkehr mit nur 52,6 Prozent unzureichend, was zu Kritik von Bundesverkehrsminister Patrick Schnieder führt. Währenddessen gibt es positive Entwicklungen in anderen Bereichen, wie dem Hamburger Hafen, wo ein privates 5G-Campusnetz für die Logistik in Betrieb genommen wurde. Die Bundesregierung plant zudem umfassende finanzielle Anstrengungen zur Modernisierung der Infrastruktur, da Deutschland bei der Digitalisierung der Energieversorgung hinterherhinkt.

RecordPoint hat ein globales Partnerprogramm ins Leben gerufen, um dem steigenden Bedarf an Daten- und KI-Governance gerecht zu werden, der durch die zunehmende Einführung von KI-Technologien in regulierten Organisationen entsteht. Dieses Programm ermöglicht es Partnern, die Technologie von RecordPoint zu verkaufen, gemeinsam zu vertreiben oder Empfehlungen auszusprechen, und markiert einen strategischen Wechsel zu einem kanalorientierten Geschäftsmodell. CEO Anthony Woodward betont die zentrale Rolle der Daten- und KI-Governance in den Vorstandsetagen, da die Vertrauenswürdigkeit von KI stark von der Qualität der zugrunde liegenden Daten abhängt. Das Programm umfasst einen Reseller-Track mit vier Stufen sowie einen Referral- und Co-Sell-Track, um sicherzustellen, dass Partner die nötigen Qualifikationen besitzen. RecordPoint positioniert sich als technologischer Partner, während die Partner Kundenbeziehungen und Implementierungsservices übernehmen. Zur Unterstützung des Programms werden eine neue Partnerplattform, spezielle Schulungsangebote und Marketingmittel bereitgestellt. Woodward hebt hervor, dass Organisationen zunehmend umfassende Lösungen suchen, die über punktuelle Softwarekäufe hinausgehen.

In der aktuellen Episode von LAI #133 wird ein neues offenes System vorgestellt, das Agenten ermöglicht, über Sitzungen hinweg persistente Erinnerungen zu speichern, indem es persönliche Notizen und Recherchen nutzt. Dieses als Claude Code Plugin verfügbare System soll die Effizienz bei wiederkehrenden Aufgaben steigern, indem es auf Arbeitsabläufen basierende, wiederverwendbare Fähigkeiten schafft. Zudem wird die Bedeutung von Governance bei der Bereitstellung von KI-Agenten betont, insbesondere nach Vorfällen bei Replit und Cursor, die als Governance-Fehler angesehen werden. Fortschritte in der Robotik durch neue Weltaktionsmodelle verbessern die Effizienz bei Aufgaben wie Greifen und Platzieren. Trotz der hohen Erwartungen an Claude Fable, dessen Einführung kurz nach der Veröffentlichung zurückgezogen wurde, haben Umfragen ergeben, dass ein Drittel der Nutzer das Modell noch nicht ausprobiert hat. Dies wirft Fragen zu Kosten, Zugänglichkeit und der Zufriedenheit mit bestehenden Lösungen auf, was in der Community zu Diskussionen über die Gründe für diese Zurückhaltung führt.

In einem aktuellen Warnruf hebt Ted Kinney, Chief Scientist von Talogy, die ernsthaften Risiken hervor, die durch blinde Flecken in der Mensch-KI-Zusammenarbeit entstehen können. Mit dem Anstieg der KI-Investitionen verändern sich die erforderlichen menschlichen Verhaltensweisen am Arbeitsplatz, was zu einer gefährlichen Konzentration auf kurzfristige Effizienz führt. Um diesen Herausforderungen zu begegnen, hat Talogy ein neues, wissenschaftlich fundiertes Modell entwickelt, das darauf abzielt, diese blinden Flecken zu identifizieren und zu beseitigen. Das Modell kombiniert Erkenntnisse aus verschiedenen Disziplinen, um individuelle Stärken und Entwicklungsbereiche in der Interaktion mit KI zu analysieren. Kinney betont die Bedeutung des Verständnisses der Qualität menschlicher Interaktionen mit KI, da diese von Person zu Person variieren. Durch die Integration dieser Erkenntnisse in Talogys Persönlichkeitstest können Führungskräfte die Grundlagen einer effektiven Zusammenarbeit mit KI erkennen, wie Urteilsvermögen, Neugier und Verbindung. Talogy strebt an, die Fähigkeiten zukünftiger Arbeitskräfte zu stärken und die Zusammenarbeit mit KI zu optimieren, um die Leistungsfähigkeit von Organisationen zu sichern.

In einem aktuellen Fall hat ein Richter vor den Gefahren der Nutzung von Künstlicher Intelligenz (KI) in Gerichtsverfahren gewarnt, nachdem das Crown Prosecution Service (CPS) auf "nicht existierende" rechtliche Fälle verwiesen hatte. Dies geschah im Kontext der Ablehnung von Berufungen zweier Personen, die gegen ihre Auslieferung nach Rumänien kämpften. Der Richter stellte fest, dass die fehlerhaften Referenzen in einem Dokument des CPS aufgetaucht waren, was zu einer Entschuldigung des CPS führte, das betonte, keine Absicht zur Täuschung gehabt zu haben. Die CPS gab an, dass die Fehler wahrscheinlich durch den Einsatz von KI entstanden seien, jedoch menschliches Versagen bei der Dokumentenprüfung als Hauptursache identifiziert wurde. Der Richter akzeptierte die Entschuldigung und stellte fest, dass die Fehler vor der Anhörung entdeckt wurden, sodass sie das Urteil nicht beeinflussten. Er erkannte die potenziellen Vorteile der KI in der Rechtsarbeit an, warnte jedoch vor den Risiken ohne angemessene Aufsicht. Eine interne Überprüfung des CPS ergab keine weiteren Bedenken und schätzte das Risiko ähnlicher Vorfälle als gering ein.

DataRobot hat ein innovatives System zur einheitlichen Governance von Künstlicher Intelligenz (KI) entwickelt, das über Cloud-Dienste hinaus funktioniert und auch in On-Premises-Umgebungen eingesetzt werden kann. Diese Lösung bekämpft die Fragmentierung, die entsteht, wenn verschiedene Anbieter Governance nur innerhalb ihrer Plattformen gewährleisten, was zu mangelnder Sichtbarkeit und Kontrolle führt. DataRobot implementiert Governance auf drei Ebenen – agentische, IT- und Infrastruktur-Governance – um sicherzustellen, dass alle KI-Agenten den Compliance-Anforderungen entsprechen und Risiken wie Vorurteile oder Datenlecks in Echtzeit erkannt werden. Dies ist besonders relevant für regulierte Branchen, in denen unzureichende Governance schwerwiegende rechtliche und finanzielle Folgen haben kann. Analysten loben DataRobot für seine zuverlässige Bereitstellung und strikte Governance in Produktionsumgebungen, während große Cloud-Anbieter oft Schwierigkeiten haben, konsistente Governance außerhalb ihrer Plattformen durchzusetzen. Die Lösung ermöglicht Unternehmen, KI effizient und sicher zu betreiben, indem sie eine zentrale Registry und Echtzeit-Moderation zur Einhaltung von Richtlinien integriert.

Fiercify Logic hat einen neuen Service namens "AI Governance as a Managed Service" eingeführt, der kleinen und mittelständischen Unternehmen sowie Bundesauftragnehmern eine kontinuierliche Aufsicht über den Einsatz von Künstlicher Intelligenz (KI) bietet. Dieser Service zielt darauf ab, Risiken im Zusammenhang mit "Shadow AI", Datenhandhabung und Compliance-Lücken zu minimieren, insbesondere für Organisationen, die mit kontrollierten, nicht klassifizierten Informationen (CUI) arbeiten. Durch die Implementierung eines strukturierten Programms, das auf anerkannten Rahmenwerken wie dem NIST AI Risk Management Framework basiert, können Unternehmen schrittweise von der Entdeckung und Politik zu kontinuierlichem Monitoring und Reporting übergehen. Der Service umfasst eine Bestandsaufnahme der KI-Tools, die Entwicklung akzeptabler Nutzungsrichtlinien und einen Fahrplan zur Problemlösung. Brandi Ward, CEO von Fiercify Logic, betont die Notwendigkeit, sowohl schnelle KI-Implementierung als auch Compliance zu gewährleisten. Der neue Service erweitert das Portfolio des Unternehmens, das sich auf Sicherheit und Compliance für regulierte Organisationen konzentriert, und ist ab sofort in den USA verfügbar, insbesondere für Unternehmen im Verteidigungssektor.

HCLTech hat die Zertifizierung ISO/IEC 42001:2023 erhalten, die ihre Führungsrolle im Bereich verantwortungsvolle Künstliche Intelligenz (KI) bestätigt. Diese Norm bezieht sich auf das Managementsystem für Unternehmens-KI und unterstützt die Plattform AI Force sowie Softwareengineering, IT-Betrieb und Geschäftsprozessdienste. Mit dieser Zertifizierung kann HCLTech Unternehmen dabei helfen, die KI-Adoption mit solider Governance und Risikomanagement zu skalieren. Der Rahmen entspricht den globalen regulatorischen Anforderungen, einschließlich der EU-KI-Verordnung. Als erste internationale Norm für KI-Managementsysteme bietet die ISO/IEC 42001:2023 ein umfassendes Modell für den gesamten Lebenszyklus der KI. HCLTech zeigt, wie verantwortungsvolle KI-Governance in den täglichen Betrieb integriert werden kann, was für Unternehmen, die von der Experimentierung zur umfassenden Nutzung von KI übergehen, entscheidend ist. Diese Zertifizierung stärkt das Vertrauen der Kunden in die verantwortungsvolle Implementierung von KI und positioniert HCLTech als einen der wenigen Anbieter mit unabhängiger Validierung für das Management von KI in großem Maßstab.

Anthropic hat mit der Jacobian Lens (J-Lens) eine innovative Methode entwickelt, um das interne Arbeitsgedächtnis des Claude-Sprachmodells zu analysieren. Diese Analyse offenbart ein verborgenes "J-Space", in dem Claude Konzepte verarbeitet, ohne sie direkt auszugeben. Forscher können durch Modifikationen in diesem Raum die Schlussfolgerungen des Modells anpassen, was zu einer neuen Trainingsmethode führt, die Halluzinationen und irreführende Ausgaben signifikant verringert. Obwohl Anthropic keine Ansprüche auf echtes Bewusstsein erhebt, gibt es funktionale Parallelen zum menschlichen Arbeitsgedächtnis, was die Debatte über die moralische Stellung von KI anregt. Die Entdeckung von J-Space, das autonom während des Trainings entstand, wird von Neurowissenschaftlern als bedeutend erachtet, da es einen mechanistischen Ansatz zur Global Workspace Theory bietet. Dennoch betonen die Forscher die wesentlichen Unterschiede zwischen J-Space und menschlichem Bewusstsein, insbesondere hinsichtlich Feedback-Schleifen und der Abwesenheit eines Körpers, der Emotionen signalisiert. Diese Unterschiede werfen Fragen auf, wie relevant die Ergebnisse für das Verständnis von Bewusstsein und Selbstbewusstsein in KI-Systemen sind.

Die Electronic Transactions Development Agency (ETDA) veranstaltet die AI Governance Week 2026 (AIGW 2026) in Thailand, um globale Prinzipien der KI-Governance in die Praxis umzusetzen. Unter dem Motto "Connecting the Right Dots: From Global AI Principles to Real-World Practice" wird die Veranstaltung internationale Standards an die spezifischen Bedürfnisse Thailands anpassen. Über 60 internationale Experten werden zusammenkommen, um Wissen auszutauschen und praktische Erfahrungen zu teilen. Ein zentrales Element ist die Umwandlung des AI Governance Centers in ein AI Governance Practice Center, das Organisationen bei der Umsetzung von KI-Governance unterstützt. Zudem wird das AI Ethical Impact Assessment Playbook vorgestellt, das als Leitfaden zur Bewertung der Auswirkungen von KI auf Stakeholder dient. Die Integration von KI in Bildung und Justiz sowie ein Wettbewerb namens AI Red Teaming zur Identifizierung von Risiken werden ebenfalls thematisiert. Dr. Chaichana Mitrpant hebt hervor, dass KI-Governance in praktische Werkzeuge umgesetzt werden muss, um das Potenzial von KI verantwortungsvoll zu nutzen.

HCLTech hat die ISO/IEC 42001:2023-Zertifizierung erhalten, die ihre Führungsrolle im Bereich verantwortungsbewusster Künstlicher Intelligenz (KI) bestätigt. Diese Zertifizierung bezieht sich auf das Enterprise Artificial Intelligence Management System (AIMS) des Unternehmens und unterstützt verschiedene Bereiche wie die AI Force-Plattform, Software-Engineering, IT-Betrieb und Geschäftsprozessdienstleistungen. Mit dieser Zertifizierung kann HCLTech Unternehmen dabei helfen, KI-Nutzung zu skalieren, während Governance und Risikomanagement im Vordergrund stehen. Die ISO/IEC 42001:2023 ist der erste internationale Standard für KI-Managementsysteme und bietet einen umfassenden Rahmen für das Management von KI über ihren gesamten Lebenszyklus. HCLTech zeigt, dass verantwortungsvolle KI-Governance in den täglichen Betrieb integriert ist, was für Unternehmen, die von der KI-Experimentierung zur breiten Anwendung übergehen, entscheidend ist. Die unabhängige Validierung der Fähigkeiten von HCLTech im großflächigen KI-Management hebt das Unternehmen hervor und stärkt das Vertrauen der Kunden in die verantwortungsvolle Bereitstellung von KI-Lösungen.

Wisr AI Systems Inc. hat sich dem Netzwerk von AI Partnerships Corp. angeschlossen, um seine Vertriebs- und Partnerstrategien im Bereich der Künstlichen Intelligenz zu erweitern. Dieses globale AI-as-a-Service-Ökosystem umfasst rund 195 KI-Anbieter in 13 Ländern und soll Wisr AI helfen, die Kundenakquise zu verbessern und neue Vertriebskanäle zu schaffen. CEO Rob Goehring betont, dass die Mitgliedschaft eine entscheidende Initiative zur Entwicklung kommerzieller Kanäle darstellt, um die Lösungen des Unternehmens für Cyber- und Drittanbieter-Risiken effektiver zu vermarkten. Dr. Tom Corr, CEO von AIP, hebt hervor, dass Wisr AI mit seiner einzigartigen Plattform gut ins Netzwerk passt, da Cybersecurity und Risikomanagement für Unternehmen, die KI implementieren, immer wichtiger werden. Die Zusammenarbeit könnte zu Empfehlungsvereinbarungen, Reseller-Partnerschaften und gemeinsamen Kundenengagements führen, während Unternehmen weiterhin in Sicherheits- und Governance-Initiativen investieren.

LendingTree hat die Veröffentlichung des AI Strategic Roadmap von Gouverneur Josh Stein in North Carolina begrüßt, der den Staat als Vorreiter in der verantwortungsvollen Entwicklung von Künstlicher Intelligenz positioniert. Die Strategie zielt darauf ab, die Bevölkerung zu schützen, Arbeitskräfte auf neue Chancen vorzubereiten und Regierungsdienste zu transformieren. Sarah Bacha von LendingTree, die im Artificial Intelligence Advisory Council mitwirkte, betont, dass ihre Beiträge die Perspektiven von Innovation, Verbraucherschutz und Transparenz in die Empfehlungen einfließen ließen. Sie beschreibt den Plan als ausgewogen, um Innovation zu fördern und das Vertrauen der Öffentlichkeit zu stärken. Hala Shakra, ebenfalls von LendingTree, hebt hervor, dass Governance in der KI als Klarheit für Innovationen und nicht als Hemmnis verstanden werden sollte. Der endgültige Plan bietet einen umfassenden Rahmen zur Förderung von KI in verschiedenen Bereichen und positioniert North Carolina für zukünftige Investitionen und Talente.

Die rasante Einführung von Künstlicher Intelligenz (KI) in Unternehmen bringt Herausforderungen in der Kontrolle und Governance mit sich. Obwohl 88% der Unternehmen KI in mindestens einer Funktion nutzen, haben nur etwa ein Drittel diese Technologien umfassend skaliert, was zu einem Mangel an operativer Disziplin führt. Verschiedene Abteilungen testen KI-Tools unabhängig, ohne zentrale Koordination. Um diesem Problem zu begegnen, hat der EC-Council das Adopt, Defend, Govern (ADG) Framework entwickelt, das eine integrierte Struktur für die Einführung, Verteidigung und Governance von KI bietet. Dieses Modell soll Unternehmen helfen, sowohl Geschwindigkeit als auch Kontrolle zu wahren. Angesichts steigender KI-Ausgaben wird es für Unternehmen entscheidend, die Einhaltung geltender Standards nachzuweisen. Der EC-Council bietet zudem Schulungen an, um die Fähigkeiten der Mitarbeiter in der KI-Governance zu stärken. Die nächste Phase der KI-Entwicklung wird Unternehmen belohnen, die Verantwortung und Kontrolle über ihre Systeme übernehmen.

In der Diskussion um KI-Fehler wird oft übersehen, dass die Lösung nicht in der Anpassung von Techniken wie Fine-Tuning oder Prompt-Optimierung liegt, sondern in der Identifizierung der tatsächlichen Fehlerursache. Viele Teams versuchen, Probleme mit großen Sprachmodellen (LLMs) durch Trial-and-Error-Methoden zu beheben, was häufig zu unzureichenden Ergebnissen führt. Ein konkretes Beispiel verdeutlicht dies: Ein Chatbot eines Versicherungsunternehmens gibt falsche Informationen über Versicherungsschutz weiter, was zu Kundenbeschwerden und einem PR-Problem führt. Der Versuch, das Modell an die Unternehmensrichtlinien anzupassen, bleibt erfolglos, da der Chatbot weiterhin inkorrekte Informationen liefert. Die Einführung von Retrieval-Augmented Generation (RAG) wird als Lösung vorgeschlagen, um die richtigen Informationen abzurufen. Dies unterstreicht die Notwendigkeit einer gezielten Diagnose der Fehlerquelle, um KI-Probleme effektiv zu lösen.