Governance & Compliance

Die Kosten für das Bahnprojekt Stuttgart 21 sind auf etwa 14,5 Milliarden Euro gestiegen, was die ursprünglich geplanten Ausgaben von unter fünf Milliarden erheblich übersteigt. Diese Kostenexplosion ist auf gravierende Mängel in der Planung und im Risikomanagement zurückzuführen, die durch interne Prüfungen ans Licht kamen. Die Inbetriebnahme des Hauptbahnhofs wurde auf Dezember 2031 verschoben, und auch andere Bauabschnitte haben neue Zeitpläne erhalten. Um die Herausforderungen zu bewältigen, hat die Deutsche Bahn Klaus Müller als neuen Chef der DB Projekt Stuttgart-Ulm GmbH eingesetzt und investiert in die Digitalisierung der Kundenkommunikation. Trotz dieser Maßnahmen bleibt die Pünktlichkeit im Fernverkehr mit nur 52,6 Prozent unzureichend, was zu Kritik von Bundesverkehrsminister Patrick Schnieder führt. Währenddessen gibt es positive Entwicklungen in anderen Bereichen, wie dem Hamburger Hafen, wo ein privates 5G-Campusnetz für die Logistik in Betrieb genommen wurde. Die Bundesregierung plant zudem umfassende finanzielle Anstrengungen zur Modernisierung der Infrastruktur, da Deutschland bei der Digitalisierung der Energieversorgung hinterherhinkt.

RecordPoint hat ein globales Partnerprogramm ins Leben gerufen, um dem steigenden Bedarf an Daten- und KI-Governance gerecht zu werden, der durch die zunehmende Einführung von KI-Technologien in regulierten Organisationen entsteht. Dieses Programm ermöglicht es Partnern, die Technologie von RecordPoint zu verkaufen, gemeinsam zu vertreiben oder Empfehlungen auszusprechen, und markiert einen strategischen Wechsel zu einem kanalorientierten Geschäftsmodell. CEO Anthony Woodward betont die zentrale Rolle der Daten- und KI-Governance in den Vorstandsetagen, da die Vertrauenswürdigkeit von KI stark von der Qualität der zugrunde liegenden Daten abhängt. Das Programm umfasst einen Reseller-Track mit vier Stufen sowie einen Referral- und Co-Sell-Track, um sicherzustellen, dass Partner die nötigen Qualifikationen besitzen. RecordPoint positioniert sich als technologischer Partner, während die Partner Kundenbeziehungen und Implementierungsservices übernehmen. Zur Unterstützung des Programms werden eine neue Partnerplattform, spezielle Schulungsangebote und Marketingmittel bereitgestellt. Woodward hebt hervor, dass Organisationen zunehmend umfassende Lösungen suchen, die über punktuelle Softwarekäufe hinausgehen.

In der aktuellen Episode von LAI #133 wird ein neues offenes System vorgestellt, das Agenten ermöglicht, über Sitzungen hinweg persistente Erinnerungen zu speichern, indem es persönliche Notizen und Recherchen nutzt. Dieses als Claude Code Plugin verfügbare System soll die Effizienz bei wiederkehrenden Aufgaben steigern, indem es auf Arbeitsabläufen basierende, wiederverwendbare Fähigkeiten schafft. Zudem wird die Bedeutung von Governance bei der Bereitstellung von KI-Agenten betont, insbesondere nach Vorfällen bei Replit und Cursor, die als Governance-Fehler angesehen werden. Fortschritte in der Robotik durch neue Weltaktionsmodelle verbessern die Effizienz bei Aufgaben wie Greifen und Platzieren. Trotz der hohen Erwartungen an Claude Fable, dessen Einführung kurz nach der Veröffentlichung zurückgezogen wurde, haben Umfragen ergeben, dass ein Drittel der Nutzer das Modell noch nicht ausprobiert hat. Dies wirft Fragen zu Kosten, Zugänglichkeit und der Zufriedenheit mit bestehenden Lösungen auf, was in der Community zu Diskussionen über die Gründe für diese Zurückhaltung führt.

HCLTech hat die Zertifizierung ISO/IEC 42001:2023 erhalten, die ihre Führungsrolle im Bereich verantwortungsvolle Künstliche Intelligenz (KI) bestätigt. Diese Norm bezieht sich auf das Managementsystem für Unternehmens-KI und unterstützt die Plattform AI Force sowie Softwareengineering, IT-Betrieb und Geschäftsprozessdienste. Mit dieser Zertifizierung kann HCLTech Unternehmen dabei helfen, die KI-Adoption mit solider Governance und Risikomanagement zu skalieren. Der Rahmen entspricht den globalen regulatorischen Anforderungen, einschließlich der EU-KI-Verordnung. Als erste internationale Norm für KI-Managementsysteme bietet die ISO/IEC 42001:2023 ein umfassendes Modell für den gesamten Lebenszyklus der KI. HCLTech zeigt, wie verantwortungsvolle KI-Governance in den täglichen Betrieb integriert werden kann, was für Unternehmen, die von der Experimentierung zur umfassenden Nutzung von KI übergehen, entscheidend ist. Diese Zertifizierung stärkt das Vertrauen der Kunden in die verantwortungsvolle Implementierung von KI und positioniert HCLTech als einen der wenigen Anbieter mit unabhängiger Validierung für das Management von KI in großem Maßstab.

Fiercify Logic hat einen neuen Service namens "AI Governance as a Managed Service" eingeführt, der kleinen und mittelständischen Unternehmen sowie Bundesauftragnehmern eine kontinuierliche Aufsicht über den Einsatz von Künstlicher Intelligenz (KI) bietet. Dieser Service zielt darauf ab, Risiken im Zusammenhang mit "Shadow AI", Datenhandhabung und Compliance-Lücken zu minimieren, insbesondere für Organisationen, die mit kontrollierten, nicht klassifizierten Informationen (CUI) arbeiten. Durch die Implementierung eines strukturierten Programms, das auf anerkannten Rahmenwerken wie dem NIST AI Risk Management Framework basiert, können Unternehmen schrittweise von der Entdeckung und Politik zu kontinuierlichem Monitoring und Reporting übergehen. Der Service umfasst eine Bestandsaufnahme der KI-Tools, die Entwicklung akzeptabler Nutzungsrichtlinien und einen Fahrplan zur Problemlösung. Brandi Ward, CEO von Fiercify Logic, betont die Notwendigkeit, sowohl schnelle KI-Implementierung als auch Compliance zu gewährleisten. Der neue Service erweitert das Portfolio des Unternehmens, das sich auf Sicherheit und Compliance für regulierte Organisationen konzentriert, und ist ab sofort in den USA verfügbar, insbesondere für Unternehmen im Verteidigungssektor.

DataRobot hat ein innovatives System zur einheitlichen Governance von Künstlicher Intelligenz (KI) entwickelt, das über Cloud-Dienste hinaus funktioniert und auch in On-Premises-Umgebungen eingesetzt werden kann. Diese Lösung bekämpft die Fragmentierung, die entsteht, wenn verschiedene Anbieter Governance nur innerhalb ihrer Plattformen gewährleisten, was zu mangelnder Sichtbarkeit und Kontrolle führt. DataRobot implementiert Governance auf drei Ebenen – agentische, IT- und Infrastruktur-Governance – um sicherzustellen, dass alle KI-Agenten den Compliance-Anforderungen entsprechen und Risiken wie Vorurteile oder Datenlecks in Echtzeit erkannt werden. Dies ist besonders relevant für regulierte Branchen, in denen unzureichende Governance schwerwiegende rechtliche und finanzielle Folgen haben kann. Analysten loben DataRobot für seine zuverlässige Bereitstellung und strikte Governance in Produktionsumgebungen, während große Cloud-Anbieter oft Schwierigkeiten haben, konsistente Governance außerhalb ihrer Plattformen durchzusetzen. Die Lösung ermöglicht Unternehmen, KI effizient und sicher zu betreiben, indem sie eine zentrale Registry und Echtzeit-Moderation zur Einhaltung von Richtlinien integriert.

In einem aktuellen Fall hat ein Richter vor den Gefahren der Nutzung von Künstlicher Intelligenz (KI) in Gerichtsverfahren gewarnt, nachdem das Crown Prosecution Service (CPS) auf "nicht existierende" rechtliche Fälle verwiesen hatte. Dies geschah im Kontext der Ablehnung von Berufungen zweier Personen, die gegen ihre Auslieferung nach Rumänien kämpften. Der Richter stellte fest, dass die fehlerhaften Referenzen in einem Dokument des CPS aufgetaucht waren, was zu einer Entschuldigung des CPS führte, das betonte, keine Absicht zur Täuschung gehabt zu haben. Die CPS gab an, dass die Fehler wahrscheinlich durch den Einsatz von KI entstanden seien, jedoch menschliches Versagen bei der Dokumentenprüfung als Hauptursache identifiziert wurde. Der Richter akzeptierte die Entschuldigung und stellte fest, dass die Fehler vor der Anhörung entdeckt wurden, sodass sie das Urteil nicht beeinflussten. Er erkannte die potenziellen Vorteile der KI in der Rechtsarbeit an, warnte jedoch vor den Risiken ohne angemessene Aufsicht. Eine interne Überprüfung des CPS ergab keine weiteren Bedenken und schätzte das Risiko ähnlicher Vorfälle als gering ein.

In einem aktuellen Warnruf hebt Ted Kinney, Chief Scientist von Talogy, die ernsthaften Risiken hervor, die durch blinde Flecken in der Mensch-KI-Zusammenarbeit entstehen können. Mit dem Anstieg der KI-Investitionen verändern sich die erforderlichen menschlichen Verhaltensweisen am Arbeitsplatz, was zu einer gefährlichen Konzentration auf kurzfristige Effizienz führt. Um diesen Herausforderungen zu begegnen, hat Talogy ein neues, wissenschaftlich fundiertes Modell entwickelt, das darauf abzielt, diese blinden Flecken zu identifizieren und zu beseitigen. Das Modell kombiniert Erkenntnisse aus verschiedenen Disziplinen, um individuelle Stärken und Entwicklungsbereiche in der Interaktion mit KI zu analysieren. Kinney betont die Bedeutung des Verständnisses der Qualität menschlicher Interaktionen mit KI, da diese von Person zu Person variieren. Durch die Integration dieser Erkenntnisse in Talogys Persönlichkeitstest können Führungskräfte die Grundlagen einer effektiven Zusammenarbeit mit KI erkennen, wie Urteilsvermögen, Neugier und Verbindung. Talogy strebt an, die Fähigkeiten zukünftiger Arbeitskräfte zu stärken und die Zusammenarbeit mit KI zu optimieren, um die Leistungsfähigkeit von Organisationen zu sichern.

Wisr AI Systems Inc. hat sich dem Netzwerk von AI Partnerships Corp. angeschlossen, um seine Vertriebs- und Partnerstrategien im Bereich der Künstlichen Intelligenz zu erweitern. Dieses globale AI-as-a-Service-Ökosystem umfasst rund 195 KI-Anbieter in 13 Ländern und soll Wisr AI helfen, die Kundenakquise zu verbessern und neue Vertriebskanäle zu schaffen. CEO Rob Goehring betont, dass die Mitgliedschaft eine entscheidende Initiative zur Entwicklung kommerzieller Kanäle darstellt, um die Lösungen des Unternehmens für Cyber- und Drittanbieter-Risiken effektiver zu vermarkten. Dr. Tom Corr, CEO von AIP, hebt hervor, dass Wisr AI mit seiner einzigartigen Plattform gut ins Netzwerk passt, da Cybersecurity und Risikomanagement für Unternehmen, die KI implementieren, immer wichtiger werden. Die Zusammenarbeit könnte zu Empfehlungsvereinbarungen, Reseller-Partnerschaften und gemeinsamen Kundenengagements führen, während Unternehmen weiterhin in Sicherheits- und Governance-Initiativen investieren.

HCLTech hat die ISO/IEC 42001:2023-Zertifizierung erhalten, die ihre Führungsrolle im Bereich verantwortungsbewusster Künstlicher Intelligenz (KI) bestätigt. Diese Zertifizierung bezieht sich auf das Enterprise Artificial Intelligence Management System (AIMS) des Unternehmens und unterstützt verschiedene Bereiche wie die AI Force-Plattform, Software-Engineering, IT-Betrieb und Geschäftsprozessdienstleistungen. Mit dieser Zertifizierung kann HCLTech Unternehmen dabei helfen, KI-Nutzung zu skalieren, während Governance und Risikomanagement im Vordergrund stehen. Die ISO/IEC 42001:2023 ist der erste internationale Standard für KI-Managementsysteme und bietet einen umfassenden Rahmen für das Management von KI über ihren gesamten Lebenszyklus. HCLTech zeigt, dass verantwortungsvolle KI-Governance in den täglichen Betrieb integriert ist, was für Unternehmen, die von der KI-Experimentierung zur breiten Anwendung übergehen, entscheidend ist. Die unabhängige Validierung der Fähigkeiten von HCLTech im großflächigen KI-Management hebt das Unternehmen hervor und stärkt das Vertrauen der Kunden in die verantwortungsvolle Bereitstellung von KI-Lösungen.

Die Electronic Transactions Development Agency (ETDA) veranstaltet die AI Governance Week 2026 (AIGW 2026) in Thailand, um globale Prinzipien der KI-Governance in die Praxis umzusetzen. Unter dem Motto "Connecting the Right Dots: From Global AI Principles to Real-World Practice" wird die Veranstaltung internationale Standards an die spezifischen Bedürfnisse Thailands anpassen. Über 60 internationale Experten werden zusammenkommen, um Wissen auszutauschen und praktische Erfahrungen zu teilen. Ein zentrales Element ist die Umwandlung des AI Governance Centers in ein AI Governance Practice Center, das Organisationen bei der Umsetzung von KI-Governance unterstützt. Zudem wird das AI Ethical Impact Assessment Playbook vorgestellt, das als Leitfaden zur Bewertung der Auswirkungen von KI auf Stakeholder dient. Die Integration von KI in Bildung und Justiz sowie ein Wettbewerb namens AI Red Teaming zur Identifizierung von Risiken werden ebenfalls thematisiert. Dr. Chaichana Mitrpant hebt hervor, dass KI-Governance in praktische Werkzeuge umgesetzt werden muss, um das Potenzial von KI verantwortungsvoll zu nutzen.

Anthropic hat mit der Jacobian Lens (J-Lens) eine innovative Methode entwickelt, um das interne Arbeitsgedächtnis des Claude-Sprachmodells zu analysieren. Diese Analyse offenbart ein verborgenes "J-Space", in dem Claude Konzepte verarbeitet, ohne sie direkt auszugeben. Forscher können durch Modifikationen in diesem Raum die Schlussfolgerungen des Modells anpassen, was zu einer neuen Trainingsmethode führt, die Halluzinationen und irreführende Ausgaben signifikant verringert. Obwohl Anthropic keine Ansprüche auf echtes Bewusstsein erhebt, gibt es funktionale Parallelen zum menschlichen Arbeitsgedächtnis, was die Debatte über die moralische Stellung von KI anregt. Die Entdeckung von J-Space, das autonom während des Trainings entstand, wird von Neurowissenschaftlern als bedeutend erachtet, da es einen mechanistischen Ansatz zur Global Workspace Theory bietet. Dennoch betonen die Forscher die wesentlichen Unterschiede zwischen J-Space und menschlichem Bewusstsein, insbesondere hinsichtlich Feedback-Schleifen und der Abwesenheit eines Körpers, der Emotionen signalisiert. Diese Unterschiede werfen Fragen auf, wie relevant die Ergebnisse für das Verständnis von Bewusstsein und Selbstbewusstsein in KI-Systemen sind.

Die rasante Einführung von Künstlicher Intelligenz (KI) in Unternehmen bringt Herausforderungen in der Kontrolle und Governance mit sich. Obwohl 88% der Unternehmen KI in mindestens einer Funktion nutzen, haben nur etwa ein Drittel diese Technologien umfassend skaliert, was zu einem Mangel an operativer Disziplin führt. Verschiedene Abteilungen testen KI-Tools unabhängig, ohne zentrale Koordination. Um diesem Problem zu begegnen, hat der EC-Council das Adopt, Defend, Govern (ADG) Framework entwickelt, das eine integrierte Struktur für die Einführung, Verteidigung und Governance von KI bietet. Dieses Modell soll Unternehmen helfen, sowohl Geschwindigkeit als auch Kontrolle zu wahren. Angesichts steigender KI-Ausgaben wird es für Unternehmen entscheidend, die Einhaltung geltender Standards nachzuweisen. Der EC-Council bietet zudem Schulungen an, um die Fähigkeiten der Mitarbeiter in der KI-Governance zu stärken. Die nächste Phase der KI-Entwicklung wird Unternehmen belohnen, die Verantwortung und Kontrolle über ihre Systeme übernehmen.

LendingTree hat die Veröffentlichung des AI Strategic Roadmap von Gouverneur Josh Stein in North Carolina begrüßt, der den Staat als Vorreiter in der verantwortungsvollen Entwicklung von Künstlicher Intelligenz positioniert. Die Strategie zielt darauf ab, die Bevölkerung zu schützen, Arbeitskräfte auf neue Chancen vorzubereiten und Regierungsdienste zu transformieren. Sarah Bacha von LendingTree, die im Artificial Intelligence Advisory Council mitwirkte, betont, dass ihre Beiträge die Perspektiven von Innovation, Verbraucherschutz und Transparenz in die Empfehlungen einfließen ließen. Sie beschreibt den Plan als ausgewogen, um Innovation zu fördern und das Vertrauen der Öffentlichkeit zu stärken. Hala Shakra, ebenfalls von LendingTree, hebt hervor, dass Governance in der KI als Klarheit für Innovationen und nicht als Hemmnis verstanden werden sollte. Der endgültige Plan bietet einen umfassenden Rahmen zur Förderung von KI in verschiedenen Bereichen und positioniert North Carolina für zukünftige Investitionen und Talente.