Risikobewertungen

Die Managed Medical Review Organization, Inc. (MMRO) hat die URAC-Akkreditierung für Künstliche Intelligenz im Gesundheitswesen erhalten, was ihr Engagement für verantwortungsvolle KI-Governance und klinische Integrität unterstreicht. Im Rahmen eines einjährigen Prozesses entwickelte MMRO ein umfassendes KI-Governance-Programm, das strengen Richtlinien und Risikobewertungen folgt, um Datensicherheitsherausforderungen zu bewältigen. Diese Akkreditierung ermöglicht es MMRO, neue KI-Technologien zu evaluieren, wobei der Fokus auf dem Schutz von Informationen und der Aufrechterhaltung klinischer Exzellenz liegt. Wichtig ist, dass KI-Lösungen nicht für klinische Urteile oder Entscheidungen eingesetzt werden, um die Integrität der medizinischen Bewertungen zu gewährleisten. Joe Schimizzi, Präsident von MMRO, hebt hervor, dass die Qualität der klinischen Dienstleistungen höchste Priorität hat und die Organisation sich weiterhin auf Wachstum durch Qualität konzentriert. Diese neue Akkreditierung ergänzt die bereits seit über 15 Jahren bestehende URAC-Akkreditierung als unabhängige Überprüfungsorganisation.

Die Europäische Kommission hat ChatGPT als "Very Large Online Search Engine" (VLOSE) eingestuft, wodurch es den strengen Vorschriften des Digital Services Act (DSA) unterliegt. Diese Entscheidung betrifft auch Plattformen wie Reddit und Roblox, die die Grenze von 45 Millionen monatlichen Nutzern überschreiten. Die Einstufung verpflichtet ChatGPT zur Durchführung spezifischer Risikobewertungen und -minderungen, die über die Bekämpfung illegaler Inhalte hinausgehen und auch den öffentlichen Diskurs sowie den Schutz von Minderjährigen betreffen. Verstöße gegen die DSA können mit Geldstrafen von bis zu 6% des weltweiten Jahresumsatzes geahndet werden, wobei die betroffenen Unternehmen bis Ende Januar 2027 Zeit haben, die neuen Anforderungen zu erfüllen. Diese regulatorischen Maßnahmen haben bereits zu hohen Strafen für andere Unternehmen geführt und verdeutlichen die konsequente Durchsetzung der EU-Vorschriften. Die Entscheidung hat auch weitreichende Auswirkungen auf andere KI-Systeme und erfordert von Startups, sich frühzeitig auf die DSA-Vorgaben einzustellen, um zukünftige Herausforderungen zu bewältigen.

Die EU-Kommission hat ChatGPT, Reddit und Roblox als sehr große Online-Dienste eingestuft, was sie verpflichtet, strengere Regeln des Digital Services Act (DSA) zu befolgen. Diese Entscheidung basiert auf den hohen Nutzerzahlen der Plattformen, die in der EU jeweils über 45 Millionen monatlich liegen. Die Anbieter haben bis Ende Dezember 2026 Zeit, um die neuen DSA-Verpflichtungen umzusetzen, die Risikobewertungen und Maßnahmen gegen illegale Inhalte umfassen. Zudem müssen sie den Schutz von Minderjährigen sowie die psychische und physische Gesundheit der Nutzer sicherstellen. ChatGPT wird aufgrund seiner Suchmaschinenfunktionalität eingestuft, während Reddit und Roblox durch nutzergenerierte Inhalte qualifiziert sind. Die EU-Kommission plant, eng mit nationalen Behörden zusammenzuarbeiten, um die Einhaltung der neuen Vorschriften zu überwachen.

Manifest Cyber hat auf der bevorstehenden Black Hat USA 2026 drei innovative Funktionen für die Manifest-Plattform vorgestellt, die Sicherheits-Teams eine verbesserte Risikosichtbarkeit auf Produktebene bieten. Die neue AI-gestützte Analysefunktion, der Manifest Insights Agent (MIA), ermöglicht eine schnelle Risikoanalyse in Sekundenschnelle. Zudem hilft die Foreign Risk-Funktion Organisationen, die Einhaltung von Vorschriften zu gewährleisten, indem sie Verbindungen zu ausländischen, sanktionierten Akteuren identifiziert. Eine strukturierte Produkt-Hierarchie aggregiert Risiken automatisch auf verschiedenen Ebenen. Diese Entwicklungen sind besonders wichtig, da Regulierungsbehörden zunehmend von einer Komponenten- zu einer Produktebene übergehen, was die Notwendigkeit präziser Risikobewertungen verstärkt. CEO Daniel Bardenstein hebt hervor, dass die neuen Funktionen die Transparenz erhöhen und die Effizienz der Sicherheits-Teams verbessern, indem sie die Entscheidungsfindung beschleunigen. Die Technologien werden auf der Black Hat-Konferenz in persönlichen Briefings vorgestellt, um Sicherheits-Teams die Möglichkeit zu geben, die neuen Funktionen direkt an ihrem Software-Inventar zu testen.

Johannes Heidecke, der Leiter der Sicherheitsabteilung von OpenAI, verlässt das Unternehmen im Rahmen einer Umstrukturierung, die eine engere Integration von Forschungs- und Sicherheitsoperationen anstrebt. Diese Entscheidung wirft Bedenken auf, wie OpenAI, das bereits unter intensiver Beobachtung steht, Innovation und verantwortungsvolle Entwicklung in Einklang bringen kann. Kritiker befürchten, dass die Zusammenlegung von Sicherheitsteams mit den Forschungsabteilungen die unabhängige Aufsicht gefährden könnte, da die Verantwortlichen für Risikobewertungen nun unter dem gleichen Führungsteam arbeiten, das auf schnelle Produktveröffentlichungen drängt. Der Abgang von Heidecke und anderen sicherheitsorientierten Führungskräften könnte darauf hindeuten, dass OpenAI seine ursprünglichen Verpflichtungen zur sicheren KI-Entwicklung aufgibt. Trotz der Behauptung des Unternehmens, dass Sicherheit in alle Aspekte integriert sei, könnte der Verlust erfahrener Führungskräfte zu einem Mangel an institutionellem Wissen führen und die Fähigkeit zur effektiven Risikobewertung beeinträchtigen. Die Unsicherheit über die zukünftige Sicherheitsstruktur und mögliche weitere Abgänge verstärken die Bedenken über die Prioritäten des Unternehmens in einem zunehmend wettbewerbsintensiven Umfeld. Die Entscheidungen von OpenAI haben weitreichende Auswirkungen auf die gesamte KI-Branche und werden entscheidend dafür sein, ob Sicherheitsbedenken in der rasanten Entwicklung von KI-Systemen Gehör finden.

ALZAI Health Corp. und Centauri Health Solutions haben eine strategische Vermarktungsvereinbarung geschlossen, um die KI-gestützte Ermittlung des Alzheimer-Risikos in den USA zu erweitern. Ziel dieser Kooperation ist es, innovative Technologien zur frühzeitigen Identifizierung von Alzheimer-Risiken zu nutzen, was die Diagnose und Behandlung von Betroffenen verbessern könnte. Durch den Einsatz von Künstlicher Intelligenz sollen genauere Risikobewertungen ermöglicht werden, die sowohl für Patienten als auch für medizinische Fachkräfte von Vorteil sind. Diese Vereinbarung könnte den Zugang zu fortschrittlichen Diagnosemethoden für eine breitere Bevölkerung erhöhen und somit die Gesundheitsversorgung im Bereich Alzheimer positiv beeinflussen. Die Partnerschaft spiegelt das wachsende Interesse an der Anwendung von KI in der Gesundheitsbranche wider und zeigt das Potenzial zur Verbesserung der Patientenversorgung.

Die Think Family Database in Bristol, England, wurde 2016 von der Stadtverwaltung und der Polizei ins Leben gerufen, um durch maschinelles Lernen ein umfassendes Bild von Bedrohungen und Risiken in der Region zu erstellen. Die Datenbank speichert sensible Informationen über fast eine halbe Million Menschen und erstellt Risikobewertungen für Erwachsene und Kinder zur Vorhersage potenzieller Verbrechen. Allerdings wurde die Transparenz und Genauigkeit dieser Modelle stark kritisiert. Kritiker, darunter lokale Aktivisten und Forscher, wiesen auf die mangelnde öffentliche Einbeziehung und mögliche Vorurteile in den Daten hin, die zu ungenauen Risikobewertungen führten. Zwei Risikomodelle wurden als unzuverlässig aufgegeben, während andere weiterhin in der Kritik stehen. Trotz dieser Bedenken plant die Polizei von Avon und Somerset, ihre Predictive-Analytics-Programme auszubauen. Die Öffentlichkeit äußert zunehmend Besorgnis über die Auswirkungen auf Privatsphäre und Bürgerrechte. John Pegram, ein Betroffener, hat rechtliche Schritte eingeleitet, um seine Daten aus der Offender Management App zu entfernen und fordert die Abschaffung des Programms. Die fortgesetzte Nutzung von Predictive Analytics wirft ethische Fragen und Bedenken hinsichtlich der Wirksamkeit solcher Systeme auf.

Versicherungsunternehmen nutzen zunehmend generative KI zur Katastrophenmodellierung, um genauere Risikobewertungen zu erzielen, insbesondere in Gebieten mit begrenzten historischen Daten. Diese innovativen Modelle, wie die von Fathom, erzeugen synthetisch zehntausende Wetterereignisse und verbessern die Auflösung grober Klimasimulationen. Trotz dieser Fortschritte warnen Experten vor potenziellen Halluzinationen, bei denen die KI physikalisch unmögliche Szenarien generiert. Während präzisere Modelle theoretisch dazu führen könnten, dass Versicherer auch weniger rentable Regionen abdecken, bleibt unklar, ob dies tatsächlich zu höheren Prämien führt. Es besteht die Gefahr, dass optimierte Modelle die potenziellen Verluste überbewerten und somit größere Kapitalreserven erfordern. Zudem könnte der Verkaufsdruck dazu führen, dass Versicherer Modelle bevorzugen, die niedrigere Verlustschätzungen liefern, was die objektive Risikobewertung gefährden könnte.

Am 9. Juni stellte Anthropic das KI-Modell Claude Fable 5 vor, das in zwei Varianten erhältlich ist: die öffentliche Version Fable 5 und die eingeschränkte Mythos 5, die nur für ausgewählte Partner und die US-Regierung zugänglich ist. Beide Modelle kosten gleich viel, unterscheiden sich jedoch in der Vertrauensprüfung, die die Verfügbarkeit bestimmter Funktionen bestimmt. Anfragen zu sensiblen Themen werden auf das ältere Modell Opus 4.8 umgeleitet, was die Qualität der Ergebnisse beeinträchtigen kann. Zudem verlangt Anthropic eine 30-tägige Datenaufbewahrung für die Mythos-Klasse, was bestehende Datenverarbeitungsvereinbarungen in Frage stellt. Diese Änderungen haben erhebliche Auswirkungen auf Banken, die ihre IT-Strategien und Risikobewertungen anpassen müssen, um die richtigen Modelle und Daten zu nutzen. Die neue Struktur könnte die Wettbewerbsbedingungen im Finanzsektor verändern und wirft Fragen zur Fairness und Transparenz in der KI-Nutzung auf.

Das neue Gesetz in Illinois, das am 1. Januar 2027 in Kraft tritt, setzt einen bedeutenden Maßstab für die Aufsicht über Künstliche Intelligenz (KI). Es verpflichtet Entwickler großer KI-Modelle zur Erstellung und jährlichen Aktualisierung eines Rahmens, der Risikobewertungen und Cybersecurity umfasst. Zudem müssen Transparenzberichte vor der Einführung neuer Modelle eingereicht und jährliche Drittprüfungen durchgeführt werden. Die Gesetzgebung erhielt breite bipartisan Unterstützung und wurde durch enge Zusammenarbeit zwischen den politischen Lagern ermöglicht. Angesichts der rasanten Entwicklung von KI-Technologien und der damit verbundenen Risiken ist es entscheidend, dass der Gesetzgebungsprozess Schritt hält. Die Gesetzgeber haben die öffentliche Meinung auf ihrer Seite, da viele Bürger die Gefahren unregulierter Technologien erkannt haben. Während der Bund versucht, staatliche Regelungen zu beeinflussen, positioniert sich Illinois als Vorreiter in der Schaffung von Schutzmaßnahmen für seine Bürger.

Der Artikel "Zero-Latency AI Analytics" beschreibt die erfolgreiche Migration der täglichen Risikobewertungen einer Kreditgenossenschaft von einem nächtlichen Spark-Job zu einem Echtzeit-Dashboard, wodurch die Einsichtszeit von 12 Stunden auf unter 30 Sekunden verkürzt wurde. Diese signifikante Verbesserung wurde durch eine neue Architektur erreicht, die drei Schlüsselkomponenten integriert: RisingWave für die stream-native SQL-Materialisierung, Arrow ADBC für den null-Kopie Datenverkehr und die DataContract-Spezifikation zur Schema-Durchsetzung. Diese Kombination ermöglicht eine effiziente Übertragung regulierter Finanzdaten vom Ursprung bis zum Dashboard, ohne zusätzliche Kosten oder Anbieterabhängigkeiten. Der Artikel dient als praktische Anleitung, um eine vollständige Infrastruktur aufzubauen, einschließlich der Konfiguration von RisingWave CDC, ADBC-Verbindungen und Delta Lake-Schreibpfaden. Zudem bietet er Benchmarking-Methoden, um die Migration gegenüber Stakeholdern zu rechtfertigen.

Der Artikel „Why AI in Maritime Safety Requires Class Discipline“ beleuchtet die wachsende Bedeutung von Künstlicher Intelligenz (KI) im maritimen Sicherheitsmanagement. KI kann die Effizienz steigern und die Sicherheit von Schiffen verbessern, erfordert jedoch die gleiche strenge Überprüfung und Disziplin wie traditionelle sicherheitskritische Systeme. Die Herausforderung liegt in der Anwendung dieser Systeme unter variierenden Bedingungen, die zu einer schleichenden Leistungsverschlechterung führen können. Um Risiken zu minimieren, ist es wichtig, dass die Entscheidungen der KI nachvollziehbar sind und die Offiziere auf der Brücke die Risikobewertungen verstehen. Ein robustes Governance-Modell für KI sollte umfassende Dokumentationen, Validierungen in realen Bedingungen und Cyber-Schutzmaßnahmen beinhalten, um die Datenintegrität zu sichern. Die Überwachung der Systeme muss über die ursprüngliche Genehmigung hinausgehen, um ihre Sicherheit und Zuverlässigkeit auch bei Veränderungen zu gewährleisten. Letztlich geht es darum, wie KI verantwortungsvoll und sicher in sicherheitskritische maritime Bereiche integriert werden kann.