Erklärbarkeit

Guide Labs hat das Steerling-8B-Modell veröffentlicht, ein innovatives Sprachmodell mit 8 Milliarden Parametern, das darauf abzielt, die Entscheidungsprozesse von KI-Systemen transparenter zu gestalten. Durch eine neuartige Architektur ermöglicht es Entwicklern, die Gründe hinter den Entscheidungen des Modells nachzuvollziehen, anstatt diese blind zu akzeptieren. Dies ist besonders relevant in kritischen Bereichen wie dem Gesundheitswesen und der Finanzdienstleistung, wo Erklärbarkeit von KI-Entscheidungen zunehmend gefordert wird. Mit dieser Entwicklung positioniert sich Guide Labs in einem Markt, der stark nach interpretierbaren Modellen sucht, während andere Unternehmen sich auf leistungsstarke, aber oft weniger transparente Modelle konzentrieren. Das Steerling-8B-Modell ist groß genug, um komplexe Aufgaben zu bewältigen, aber gleichzeitig kompakt genug, um auf herkömmlicher Unternehmenshardware betrieben zu werden, was es für Firmen attraktiv macht, die leistungsfähige KI ohne hohe Infrastrukturkosten nutzen möchten.

CIOs stehen unter erheblichem Druck, den Erfolg ihrer KI-Projekte nachzuweisen, da ihre Karrieren, Budgets und Boni auf dem Spiel stehen. Eine Umfrage von Dataiku zeigt, dass 98 Prozent der CIOs einen zunehmenden Druck von Unternehmensvorständen verspüren, einen messbaren ROI zu demonstrieren. 71 Prozent befürchten, dass ihre Budgets gekürzt werden, wenn bis Mitte 2026 keine Ziele erreicht werden. Zudem sind 85 Prozent der CIOs der Meinung, dass ihre Vergütung an die Ergebnisse der KI gebunden ist. Ein zentrales Problem ist die mangelnde Erklärbarkeit der KI-Systeme, da 29 Prozent der CIOs Schwierigkeiten haben, Ergebnisse zu rechtfertigen. 82 Prozent äußern Bedenken, dass Mitarbeiter KI-Agenten schneller entwickeln, als die IT-Abteilung sie regulieren kann, was Risiken für sensible Daten birgt. Viele CIOs bedauern zudem frühere Entscheidungen bezüglich ihrer KI-Anbieter, wobei 74 Prozent mindestens einen Fehlgriff in den letzten 18 Monaten bereuen. Die Unsicherheit über die Zukunft der KI-Technologie führt dazu, dass 73 Prozent eine erhebliche Störung für ihr Unternehmen befürchten und 60 Prozent um ihre berufliche Existenz fürchten, sollte der KI-Hype platzen.

Die Erklärbarkeit von generativen KI-Modellen (genAI) wird zunehmend als essentielle Kompetenz in der IT-Architektur angesehen, insbesondere angesichts der vereinfachten Zugänglichkeit großer Sprachmodelle durch Hyperscaler. Diese Entwicklung führt jedoch zu einer technologischen Intransparenz, da Unternehmen oft keine Kontrolle über die Modelle haben, was kausale Analysen und die Interpretierbarkeit der Ergebnisse erschwert. Um diese Herausforderungen zu meistern, sind Konzepte wie die Analyse der Wissensstruktur und die Untersuchung der Entscheidungsfindung innerhalb der Modelle von Bedeutung. Zudem ist die Echtzeit-Diagnose und Steuerung des Denkprozesses während der Generierung entscheidend. Da APIs keinen Zugriff auf interne Zwischenergebnisse bieten, wird der Betrieb auf eigener oder gemieteter Hardware empfohlen, um Kontrolle und Auditierbarkeit zu gewährleisten. Unternehmen müssen zwischen SaaS-Lösungen für Standardaufgaben und Eigenbetrieb für geschäftskritische Anwendungen abwägen, um die notwendige Interpretierbarkeit und Verlässlichkeit zu sichern. Diese Balance zwischen Performance und Erklärungstiefe wird zur neuen Kernkompetenz, die die Abhängigkeit von externen Anbietern verringert und die Grundlage für zukünftige KI-Konzepte bildet.

Ein Forschungsteam unter der Leitung von Professor Jaesik Choi von der KAIST hat eine innovative Technologie namens ABSQR entwickelt, die die Erklärbarkeit von KI-Entscheidungen in Echtzeit revolutioniert. Diese neue Methode verbessert die Effizienz erklärbarer künstlicher Intelligenz (XAI) erheblich, indem sie die Verarbeitungszeit um 8,5 bis 11 Mal im Vergleich zu herkömmlichen Algorithmen reduziert. Besonders im Finanzsektor, wo klare Erklärungen für KI-Entscheidungen, wie etwa bei der Kreditvergabe, erforderlich sind, ist dies von großer Bedeutung. ABSQR arbeitet in zwei Phasen: Zunächst werden wichtige Baselines durch deterministische Methoden ausgewählt, um die Berechnungskomplexität zu minimieren, gefolgt von einem amortisierten Inferenzverfahren zur weiteren Effizienzsteigerung. Die Tests zeigen, dass die Technologie nicht nur die Geschwindigkeit erhöht, sondern auch eine hohe Erklärungsgenauigkeit von bis zu 93,5 % im Vergleich zu bestehenden Algorithmen aufrechterhält. Diese Fortschritte könnten die Anwendung von XAI in Echtzeit-Diensten maßgeblich verändern und die Zuverlässigkeit von Finanzdienstleistungen verbessern. Experten betonen die Bedeutung dieser Methode für die Bereitstellung zeitnaher Erklärungen und die Optimierung von Berechnungen in Erklärungssystemen.

GoodData hat die Einführung seiner Intelligence Layer angekündigt, die Unternehmen dabei unterstützt, KI-Analysen auf kontrollierten Daten aufzubauen. Diese neue Suite von KI-Funktionen zielt darauf ab, Präzision, Erklärbarkeit und Vertrauen in datenbasierte Entscheidungen zu fördern, indem sie Governance und Geschäftskontext in den Analyseprozess integriert. CEO Roman Stanek hebt hervor, dass Unternehmen mehr Klarheit über ihre Daten benötigen, anstatt lediglich zusätzliche Dashboards zu erhalten. Die Intelligence Layer ermöglicht es, KI-Analysen auf spezifische Unternehmensregeln und -definitionen zu stützen, was die Effektivität der Analysen steigert und wichtige Geschäftsprozesse stärkt. Ein zentraler Bestandteil ist der Analytics Catalog, der als einheitlicher Arbeitsbereich fungiert, in dem Teams ihre analytischen Definitionen verwalten können. Dies schafft eine kontrollierte Umgebung, in der Benutzer mithilfe von KI-Copiloten präzise Analyseobjekte generieren und validieren können, was zu einer konsistenten analytischen Sprache führt.

In Australien nutzen fast die Hälfte der Bevölkerung künstliche Intelligenz (KI), was die Notwendigkeit erhöht, deren Einsatz zu erkennen. Verschiedene "AI Detection"-Tools wurden entwickelt, um die Authentizität von Inhalten zu überprüfen, indem sie Muster in Satzstrukturen und Schreibstilen analysieren. Allerdings wird die Unterscheidung zwischen menschlichem und KI-generiertem Inhalt zunehmend schwieriger, was die Zuverlässigkeit dieser Tools beeinträchtigt. Viele Detektoren sind anfällig für bearbeitete Inhalte oder unzureichende Trainingsdaten, was ihre Effektivität einschränkt. Während einige Wasserzeichen-basierte Systeme vielversprechend sind, sind sie oft nicht öffentlich zugänglich. Zudem stellen Herausforderungen wie Erklärbarkeit und Fehlalarme ein Risiko dar, da falsche Bewertungen schwerwiegende Folgen haben können. Daher wird empfohlen, mehrere Methoden zur Inhaltsüberprüfung zu kombinieren und auf vertrauensvolle Beziehungen zu setzen, um die Grenzen der aktuellen Technologien zu überwinden.

AI-Detektoren sind Werkzeuge, die versuchen, zwischen menschlich und KI-generierten Inhalten zu unterscheiden, indem sie Muster in Satzstrukturen und Schreibstilen analysieren. Diese Methoden sind jedoch oft unzuverlässig, da die Unterschiede zwischen menschlichem und KI-Schreiben zunehmend verschwommen sind. Bei Bildern wird häufig die Analyse von Metadaten genutzt, um die Herkunft zu überprüfen, während einige Entwickler unsichtbare Wasserzeichen in ihre Ausgaben einfügen. Die Effektivität der Detektoren variiert je nach verwendeten Tools und ob die Inhalte nach der Erstellung bearbeitet wurden. Zudem können sie durch gezielte Änderungen, wie das Hinzufügen von Rauschen, getäuscht werden. Ein weiteres Problem ist die mangelnde Erklärbarkeit der Detektoren, die oft keine klaren Gründe für ihre Einschätzungen liefern. Dies kann zu schwerwiegenden Konsequenzen führen, etwa wenn jemand fälschlicherweise beschuldigt wird, KI-generierte Arbeiten eingereicht zu haben. Daher ist es ratsam, mehrere Methoden zur Überprüfung der Authentizität von Inhalten zu nutzen und das Vertrauen in Einzelpersonen und Institutionen aufrechtzuerhalten, wenn Technologien versagen.

In der Diskussion um die Regulierung von Künstlicher Intelligenz (KI) wird ein makroskopischer Ansatz als effektiver erachtet als die detaillierte Analyse einzelner Prozesse. Die EU fordert von KI-Systemen eine transparente Nachvollziehbarkeit, die jedoch nicht die Offenlegung jedes Verarbeitungsschrittes erfordert. Stattdessen sollte das Gesamtverhalten von KI-Systemen durch statistische Gesetzmäßigkeiten überwacht werden, um Vertrauen zu schaffen. Dies geschieht durch die Erfassung makroskopischer Metriken wie Lösungsqualität und Effizienz mittels stichprobenartiger und automatisierter Bewertungen. Während die EU auf explizite Erklärbarkeit setzt, verfolgen andere Regionen einen Ansatz, der makroskopische Metriken priorisiert, was unterschiedliche Herausforderungen mit sich bringt. Zudem erfordert der Übergang zur AI-First-Entwicklung eine neue Rolle für Entwickler, die als KI-Kuratoren agieren. Diese Veränderungen könnten die Wettbewerbsfähigkeit in verschiedenen Sektoren beeinflussen, insbesondere im Hinblick auf den Einfluss führender Technologieunternehmen.