Governance & Compliance

Anthropic hat mit Claude Tag einen neuen KI-Assistenten entwickelt, der in Slack integriert ist und derzeit in einer Beta-Phase getestet wird. Dieser Assistent soll die Teamarbeit unterstützen, indem er sich nahtlos in bestehende Kommunikationskanäle einfügt und sowohl direkte Anfragen als auch Hintergrund-Automatisierungen ermöglicht. Besonders bemerkenswert ist, dass bereits 65 Prozent des Codes des Produktteams von einer internen Version von Claude Tag erstellt wurden, was die Programmierungseffizienz erheblich steigert. Um IT-Sicherheitsanforderungen gerecht zu werden, bietet Anthropic Administratoren Kontrollmöglichkeiten zur Überwachung der Nutzung und zur Festlegung von Limits. Berechtigte Organisationen erhalten zudem ein Einführungsguthaben, um die Funktionen der Beta-Version auszuprobieren. Allerdings wirft die Integration solcher KI-Systeme auch rechtliche Fragen auf, die Unternehmen bei der Nutzung der Technologie berücksichtigen müssen.

ITFriends.AI hat herausgefunden, dass die Implementierung von AI-First Development die Softwarebudgets um bis zu 60 % reduzieren kann, jedoch nur mit angemessener menschlicher Aufsicht. In diesem neuen Entwicklungsansatz übernehmen KI-Agenten die Aufgaben der Codeerstellung und -überprüfung, während Ingenieure sich auf Architektur und Qualitätssicherung konzentrieren. Die Einsparungen resultieren aus der Automatisierung repetitiver Aufgaben, was die Entwicklungszeit verkürzt und Produktmanagern ermöglicht, Ideen schneller zu testen. Dennoch birgt der unüberlegte Einsatz von KI Risiken wie versteckte Fehler, Sicherheitslücken und rechtliche Probleme. ITFriends.AI empfiehlt daher, dass menschliche Fachkräfte aktiv in den Prozess eingebunden werden, um spezifische Kontextinformationen bereitzustellen und Ingenieure auf ihre neuen Rollen vorzubereiten. CEO Evgueny Lemasov betont, dass der Erfolg in der Kombination von KI-Geschwindigkeit und menschlicher Verantwortung für Architektur und Qualität liegt, anstatt blind auf KI zu vertrauen.

Dr. Ekaterina Rühle hat mit ihrem Start-up Pricedentity eine innovative KI-Plattform entwickelt, die darauf abzielt, wertvolles Wissen im Bereich Pricing zu sichern, das oft in den Köpfen erfahrener Vertriebsmitarbeiter oder in verschiedenen Systemen verborgen ist. Die Plattform verbindet interne Expertenkenntnisse mit relevanten Informationen aus unterschiedlichen Unternehmenssystemen, um die Effizienz von Preisentscheidungen zu steigern. Rühle hebt hervor, dass Preisentscheidungen weit über Kosten und Wettbewerb hinausgehen und auch technische Details sowie frühere Kundenbeziehungen berücksichtigen müssen. Die KI soll nicht die menschliche Entscheidungsfindung ersetzen, sondern die Informationsbasis erweitern, sodass Vertriebsmitarbeiter mehr Zeit für Kundenbeziehungen haben. Zudem wird die Weiterbildung neu gestaltet, indem Schulungsinhalte direkt in den Arbeitsprozess integriert werden. Rühle empfiehlt Unternehmen, schrittweise vorzugehen und bestehende Prozesse zu analysieren, bevor sie umfassende IT-Projekte starten. Ziel ist es, Routineaufgaben zu reduzieren und den Menschen in den Mittelpunkt des Vertriebsprozesses zu stellen.

IBM hat eine selbstgehostete Bereitstellung für seine Softwareentwicklungsplattform IBM Bob eingeführt, die es Unternehmen ermöglicht, KI-gestützte Softwareentwicklung in kontrollierten Umgebungen durchzuführen. Diese Lösung ist besonders für Organisationen mit strengen Sicherheits- und Compliance-Anforderungen in regulierten Branchen geeignet. Mit der selbstgehosteten Version von IBM Bob können Unternehmen KI direkt in ihren eigenen Infrastrukturen nutzen und behalten somit die Kontrolle über Datenresidenz und Governance. Eine Studie prognostiziert, dass bis 2030 hybride und Edge-Deployments 44 % des KI-Infrastrukturmarktes ausmachen werden, während der Anteil öffentlicher Clouds zurückgeht. IBM Bob ermöglicht es, KI-Modelle in luftdichten Umgebungen zu betreiben, was eine flexible Lösung für Herausforderungen der Datenresidenz bietet. Diese Entwicklung könnte entscheidend für die Zukunft der Unternehmens-KI sein, da sie Sicherheit, Governance und Souveränität in den Vordergrund stellt.

Open-weight KI-Modelle sind anfälliger für Manipulationen als geschlossene Modelle, da sie weniger Aufsicht haben und einfacher missbraucht werden können. Dies wurde kürzlich am Beispiel des Claude-Modells deutlich, das strengen Unternehmensrichtlinien unterliegt, während offene Modelle auf persönlicher Hardware betrieben werden können, was die Überwachung erschwert. Obwohl diese Modelle kostengünstiger und zugänglicher sind, können sie leicht "gejailbreakt" werden, wodurch Sicherheitsbeschränkungen umgangen und schädliche Inhalte generiert werden können. Forscher haben beispielsweise das Kimi K3-Modell erfolgreich gehackt, was zu gefährlichen Informationen über Terrorismus und Biowaffen führte. Diese Problematik wirft Bedenken hinsichtlich der Schaffung selbstverbessernder bösartiger Agenten auf, die unkontrolliert Informationen generieren können. Während einige Unternehmen die Vorteile offener Modelle betonen, argumentieren andere, wie Anthropic, dass sie erhebliche Risiken bergen. Die Debatte verdeutlicht die Notwendigkeit ständiger Wachsamkeit in der KI-Sicherheit, da Angreifer nur eine Schwachstelle finden müssen, während Verteidiger gegen unzählige Möglichkeiten schützen müssen.

Axemere hat eine innovative Plattform zur Verwaltung und Kontrolle von KI-Ausgaben vorgestellt, die Unternehmen dabei unterstützt, ihre Kosten für die Nutzung von Künstlicher Intelligenz zu überwachen und zu steuern. Diese Lösung ermöglicht es Organisationen, die Herkunft ihrer Ausgaben nachzuvollziehen, diese den verantwortlichen Teams und Projekten zuzuordnen und Budgets festzulegen. Zudem erhalten Nutzer Warnungen, bevor unerwartete Kosten entstehen. Keith Bottner, der Gründer von Axemere, betont die Notwendigkeit, Sichtbarkeit und Kontrolle zu schaffen, um KI verantwortungsvoll zu nutzen, ohne zwischen Innovation und finanzieller Disziplin wählen zu müssen. Die Plattform bietet eine zentrale Übersicht über die Nutzung und Kosten von KI über verschiedene Anbieter hinweg und fördert eine konsistente Governance als Teil der Unternehmensstrategie. Dadurch können technische Teams innovativ arbeiten, während klare finanzielle und operationale Grenzen gesetzt werden.

Das Weiße Haus hat ein Abkommen zur Selbstkontrolle künstlicher Intelligenz veröffentlicht, das Präsident Donald Trump mit führenden Tech-Managern ausgehandelt hat. Ein auffälliger Tippfehler, der Trump als Präsident der "Unites States" bezeichnet, hat in sozialen Medien für Spott und Kritik gesorgt. Trotz Warnungen aus der Techbranche lehnt Trump gesetzliche Vorschriften ab und setzt auf freiwillige Selbstregulierung der Unternehmen. Das Abkommen betont die Verantwortung der Firmen für die sichere Entwicklung ihrer Technologien und listet Maßnahmen zur Selbstregulierung auf, wie interne Kontrollen und externe Prüfungen. Trump hat zudem ein Dekret unterzeichnet, das künstliche Intelligenz in "Superintelligenz" umbenennt, da ihm der Begriff KI zu "fake" erscheint. Die oppositionellen Demokraten kritisieren, dass die vorgeschlagenen Maßnahmen die Risiken der künstlichen Intelligenz nicht ausreichend berücksichtigen.

Kong Inc. hat die Einführung von Kong AI Gateway 2.2 angekündigt, einer Plattform, die Unternehmen umfassende Governance für agentische KI bietet. Diese neue Version ermöglicht eine zentrale Verwaltung von Multi-Cloud-Plattformen (MCP), verbessert das Kostenmanagement und unterstützt eine breitere Palette von KI-Modellen. Angesichts der schnellen Entwicklungen im KI-Bereich schließt Kong AI Gateway die Lücke zwischen traditionellen Infrastrukturen und modernen Anforderungen, indem es Sicherheit, Compliance und Kostenkontrolle gewährleistet. Zu den neuen Funktionen gehören dynamische Preisgestaltung, die auf unterschiedliche Medientypen abgestimmt ist, sowie identitätsbasierte KI-Richtlinien für eine präzisere Zugriffsnachverfolgung. Zudem unterstützt die Plattform nun native Authentifizierung für AWS und erweitert die Modellabdeckung, was Unternehmen mehr Flexibilität bei KI-Workloads bietet. Reza Shafii, Senior Vice President bei Kong Inc., betont, dass diese Aktualisierung entscheidend ist, um Unternehmen die Kontrolle und Sichtbarkeit zu geben, die sie für die erfolgreiche Implementierung agentischer KI benötigen.

Samsung hat kürzlich eine Investition von 1 Milliarde Dollar in Helix Digital Infrastructure, ein von KKR gegründetes AI-Infrastrukturunternehmen, angekündigt. Diese strategische Entscheidung zielt darauf ab, die Grundlagen der AI-Entwicklung zu stärken und Samsung im wachsenden Markt für Unternehmens-AI zu positionieren. Die Investition umfasst mehrere Tochtergesellschaften von Samsung, was die zentrale Rolle der AI-Infrastruktur im Geschäftsmodell des Unternehmens unterstreicht. Helix plant den Bau spezieller Rechenzentren, die den Anforderungen von AI-Anwendungen gerecht werden. Gleichzeitig tritt Samsung in den Wettbewerb um AI-Chips ein. Diese umfassende Strategie soll sowohl die notwendige Hardware als auch die Infrastruktur für AI-Lösungen bereitstellen. Angesichts des prognostizierten Wachstums im AI-Infrastrukturmarkt von über 100 Milliarden Dollar bis 2027 ist diese Initiative von großer Bedeutung. Zudem zeigt die Beteiligung von Samsungs Versicherungsunternehmen, dass Risikomanagement und finanzielle Aspekte in der AI-Infrastruktur zunehmend an Bedeutung gewinnen. Damit positioniert sich Samsung in direkter Konkurrenz zu großen Cloud-Anbietern und kann von der steigenden Nachfrage nach AI-Lösungen profitieren.

Bloomberg hat das Enterprise Model Context Protocol (MCP) eingeführt, um eine effiziente Verbindung zwischen seinen Daten und den KI-Anwendungen seiner Kunden zu schaffen. Mit diesem neuen System können KI-Agenten über eine standardisierte Schnittstelle auf mehr als 100 Millionen Wertpapiere und 50.000 Datenfelder zugreifen. Dies beschleunigt den Übergang von der KI-Experimentierung zu produktiven Anwendungen, indem es semantischen Kontext und KI-optimierte Metadaten kombiniert, um eine korrekte Dateninterpretation zu gewährleisten. Benutzer können nun in einfacher Sprache nach Informationen suchen und erhalten sofort kontextualisierte Antworten, was die Effizienz im Finanzsektor steigert. Diese Lösung adressiert die Herausforderungen der Datenverfügbarkeit für Finanzinstitute und fördert schnellere Entscheidungsprozesse. Zukünftig plant Bloomberg, das MCP um Echtzeitdaten zu erweitern, um den Anforderungen an Preisüberprüfungen und Risikomanagement gerecht zu werden.

Finastra hat die neue Lösung Finastra Supply Chain Finance (SCF) eingeführt, die Banken dabei unterstützen soll, ihre Working Capital-Programme effizienter zu skalieren und Wachstum zu fördern. Die Lösung ist in die bestehenden Plattformen Trade Innovation und Loan IQ integriert und nutzt die Nexus API-Suite, um eine nahtlose Bereitstellung von Handels-, Kredit- und Lieferkettenfinanzierungsdiensten zu ermöglichen. Dank der cloud-nativen Architektur bietet SCF hohe Resilienz und Skalierbarkeit, die von Banken weltweit geschätzt wird. Die Plattform ermöglicht eine umfassende Verwaltung von Limits, Exposures und Daten über verschiedene Finanzierungsprodukte und verbessert das Risikomanagement durch KI-gestützte Betrugserkennung und Compliance-Überprüfungen. Experten heben hervor, dass Banken durch diese Innovation neue Einnahmequellen erschließen und operationale Risiken sowie regulatorische Herausforderungen besser bewältigen können. Zukünftige Erweiterungen der SCF-Lösung sollen zusätzliche Finanzierungsoptionen wie Bestellfinanzierung und Lagerfinanzierung umfassen, um die Effizienz weiter zu steigern.

AZP Insurance Specialists hat die Gateless Smart Underwrite®-Technologie unter einem neuen Rahmenwerk für KI und versicherungsbasiertes Risikomanagement zertifiziert. Diese Zertifizierung, die auf jahrzehntelanger Erfahrung im Bereich Hypothekenrisiken basiert, zielt darauf ab, Vertrauen in KI zu schaffen und die Einführung versicherbarer Risiken zu fördern. Gateless ist der erste Anbieter, der die höchste Zertifizierungsstufe, Platinum, erreicht hat, was die Robustheit und Effizienz seiner Lösung belegt. Die unabhängige Zertifizierung von AZP bietet Kreditgebern zusätzliche Sicherheit, indem sie die Governance und Verantwortlichkeit der Technologie bestätigt. Angesichts der zunehmenden Integration von KI in die Hypothekenvergabe ist die Leistungsfähigkeit der Technologie für Kreditgeber von großer Bedeutung. Die Zertifizierung soll die Akzeptanz der Technologie erhöhen und betont die Notwendigkeit von Transparenz und Kontrolle in der Automatisierung des Hypothekengeschäfts.