Transparenz & Nachvollziehbarkeit

Keysight Technologies und das Centre for Assuring Autonomy der Universität York haben eine Forschungskooperation gegründet, um Methoden zur Validierung von Künstlicher Intelligenz (KI) in softwaredefinierten Fahrzeugen (SDVs) zu entwickeln. Ziel ist die Erreichung der ISO/PAS 8800-Konformität, um Automobilherstellern und Zulieferern zu helfen, Risiken bei der Einführung von KI-Technologien zu minimieren. Die Zusammenarbeit fokussiert sich auf evidenzbasierte Ansätze zur Entwicklung von Sicherheitsfällen für Automobil-KI, einschließlich messbarer Sicherheitsbewertungsmethoden und Rahmenbedingungen zur Generierung prüfbarer Sicherheitsnachweise. Angesichts der steigenden Komplexität von KI in SDVs ist es entscheidend, dass Organisationen die Sicherheit ihrer Systeme über den gesamten Lebenszyklus nachweisen können. Die Forschung wird auch die Entwicklung von Keysights AI Software Integrity Builder unterstützen, der Sicherheitsargumente und Validierungen für KI bereitstellt. Lukas Klose von Keysight hebt hervor, dass Automobilorganisationen skalierbare Methoden benötigen, um Vertrauen in KI-gestützte Systeme aufzubauen. Durch die Kombination von Forschung in der Sicherheitsgarantie mit einem umfassenden KI-Validierungsrahmen sollen Ingenieurteams in die Lage versetzt werden, strukturierte Nachweise für Sicherheitsfälle zu generieren und vertrauenswürdige KI-Technologien gemäß internationalen Standards zu implementieren.

Israel hat seine Propagandastrategien im Konflikt mit Palästina durch den Einsatz künstlicher Intelligenz modernisiert, um die öffentliche Wahrnehmung gezielt zu beeinflussen. Eine Untersuchung enthüllte, dass das Hanover Institute for Public Policy, das als amerikanisches Think Tank auftritt, in Wirklichkeit eine raffinierte Propagandaoperation ist. Diese versucht, Suchmaschinenergebnisse und die Antworten von KI-Chatbots zu manipulieren, indem sie innerhalb von neun Tagen über 560.000 Wörter erstellt, die auf häufige Fragen an KI-Systeme abzielen. Diese Form der Propaganda tarnt sich als neutrale Expertise, was die Gefahr birgt, dass Nutzer die manipulierten Informationen nicht als solche erkennen. Die Entwicklung unterstreicht die Notwendigkeit von Transparenz und der Überprüfung von Informationsquellen, da Regierungen und Organisationen versuchen, Narrative zu kontrollieren. Für KI-Entwickler und Suchmaschinen besteht die Herausforderung darin, zwischen echten und manipulierten Institutionen zu unterscheiden. Der Vorfall zeigt, dass der Kampf um die Darstellung des Konflikts auch im digitalen Raum stattfindet, was die Komplexität und Risiken der Informationsverbreitung erhöht.

Flock Safety hat ein neues KI-gestütztes Suchwerkzeug für die Polizei entwickelt, das die Identifizierung von Personen nicht nur über Nummernschilder, sondern auch anhand von Beschreibungen ermöglicht. Dieses System ist in den letzten Jahren aufgrund von Vorfällen des Polizeistalkings in die Kritik geraten, was zu einem Rückgang der Verträge mit Flock und politischen Kontroversen geführt hat. Um dem entgegenzuwirken, plant Flock, die Datenaufbewahrungsfristen zu verkürzen und eine automatisierte Überprüfung von Suchanfragen einzuführen, um Missbrauch zu verhindern. Experten warnen jedoch vor der fraglichen Genauigkeit der KI-Suchresultate und der mangelnden Transparenz der Suchkriterien. Zudem gibt es Bedenken, dass die Software sensible Kategorien wie Rasse und Religion nicht ausreichend schützt. Flock betont, dass ihre Tools die Bürgerrechte wahren sollen, doch Kritiker argumentieren, dass die Risiken von Überwachung und Missbrauch durch Beamte nicht ausreichend adressiert werden. Letztlich liegt die Verantwortung für die Nutzung der Technologie bei den lokalen Polizeibehörden, die eigene Richtlinien festlegen müssen.

In den letzten Wochen sorgten zwei Vorfälle in den Vorhersagemärkten für Aufsehen. George Santos, ein ehemaliger Kongressabgeordneter, erhielt von der Plattform Kalshi eine lebenslange Sperre, nachdem er versucht hatte, eine Wette zu manipulieren, indem er auf sein Erscheinen bei der State of the Union setzte und dabei gegen die Regeln verstieß. Neben einer Geldstrafe von 71.000 Dollar verdeutlicht dieser Fall die strengen Vorschriften in diesem Bereich. Im Gegensatz dazu wurde ein Google-Ingenieur wegen Insiderhandels bei Polymarket verhaftet, argumentierte jedoch, dass seine Aktivitäten lediglich Wetten und keine Handelsverstöße seien. Diese Vorfälle werfen grundlegende Fragen zur Transparenz und den Regelungen in der Branche auf und zeigen, dass es viele rechtliche Grauzonen und unklare Grenzen gibt, die dringend geklärt werden müssen.

Ein neuer Vorschlag der Umweltschutzbehörde EPA könnte die Öffentlichkeit in Bezug auf geplante KI-Datenzentren und deren Genehmigungen im Unklaren lassen. Der Plan sieht vor, die Anforderung aufzuheben, dass Bundesstaaten die Öffentlichkeit vor der Erteilung von Luftverschmutzungsgenehmigungen informieren und Kommentare einholen müssen. Kritiker befürchten, dass Anwohner dadurch nicht über die Projekte informiert werden und ihre Meinungen nicht äußern können, bevor Genehmigungen erteilt werden. Während die EPA argumentiert, dass der Vorschlag den Bundesstaaten mehr Flexibilität gibt, warnen Umweltschützer, dass viele Staaten bereits schwache Anforderungen haben, was die Bürgerbeteiligung weiter einschränken könnte. Dies könnte zu einer ungleichen Behandlung von Bürgern in verschiedenen Bundesstaaten führen, wobei einige Gemeinden über die potenziellen Umweltauswirkungen neuer Datenzentren im Dunkeln bleiben. Die Diskussion über Transparenz und Bürgerbeteiligung wird durch wachsende Bedenken hinsichtlich der Umweltauswirkungen und wirtschaftlichen Folgen von Datenzentren verstärkt.

Pangram, ein AI-Startup aus Brooklyn, hat sich als führend in der AI-Textdetektion etabliert, indem es den Anteil an AI-generiertem Inhalt in Texten quantifiziert. Mit innovativen Methoden wie "synthetic mirroring" und "hard negative mining" hat das Unternehmen viel Aufmerksamkeit erregt, insbesondere nachdem das Buch "Shy Girl" als 78 Prozent AI-generiert eingestuft wurde, was zu seiner Veröffentlichung führte. Trotz der hohen Nachfrage gibt es Bedenken hinsichtlich der Genauigkeit und möglicher Vorurteile in der AI-Detektion, insbesondere gegenüber nicht-muttersprachlichen und neurodiversen Autoren. Kritiker warnen vor den potenziellen Schäden durch falsche Positivmeldungen, während Pangram eine Fehlerquote von nur 0,0041 Prozent angibt. Zudem hat das Unternehmen Kontroversen ausgelöst, indem es Autoren öffentlich beschuldigte, AI-Inhalte verwendet zu haben. Pangram plant, seine Technologie weiter zu verbessern und die Transparenz zu erhöhen, um das Vertrauen in seine Ergebnisse zu stärken. Die Integration in Plattformen wie Substack zeigt das wachsende Bewusstsein für AI-Nutzung in der Schreibgemeinschaft, während viele Autoren besorgt sind, dass ihre Karrieren durch diese Technologie gefährdet werden könnten.

Motional und das MIT haben ein innovatives System namens Concept-Wrapper Network (CW-Net) entwickelt, das selbstfahrenden Autos ermöglicht, ihre Entscheidungen in Echtzeit zu erklären und somit das Black-Box-Problem der KI zu adressieren. CW-Net übersetzt die internen Berechnungen neuronaler Netzwerke in verständliche Konzepte für Menschen. Beispielsweise kann das System auf dem Armaturenbrett anzeigen, dass eine plötzliche Bremsung durch die Annäherung an ein stehendes Fahrzeug verursacht wurde. Diese Erklärungen beeinflussen direkt die Entscheidungsfindung des Fahrzeugs und ermöglichen eine kausale Nachvollziehbarkeit. In Tests in Las Vegas konnte CW-Net Probleme identifizieren, die auf fehlerhafte Annahmen des Planungsalgorithmus zurückzuführen waren, was die Sicherheit und Effizienz der Fahrzeugoperationen verbesserte. Trotz der Herausforderungen bei der Implementierung von Erklärbarkeit blieb die Fahrzeugleistung nahezu unverändert. Angesichts der wachsenden Forderung nach mehr Transparenz in der KI-Entscheidungsfindung könnte CW-Net zu einem neuen Standard in der Branche werden.

Der Artikel thematisiert, wie erklärbare Künstliche Intelligenz (KI) dazu beitragen kann, verborgene Datenmuster in testbare wissenschaftliche Hypothesen zu verwandeln. Durch den Einsatz von erklärbaren KI-Methoden können Forscher die Entscheidungsprozesse von Algorithmen besser nachvollziehen und verstehen, welche Faktoren zu bestimmten Ergebnissen führen. Dies ermöglicht es, neue Erkenntnisse aus komplexen Datensätzen zu gewinnen und Hypothesen zu formulieren, die dann empirisch getestet werden können. Die Kombination von KI und wissenschaftlicher Methodik könnte somit die Forschung in verschiedenen Disziplinen revolutionieren, indem sie die Entdeckung neuer Zusammenhänge und die Validierung von Theorien fördert. Der Artikel hebt die Bedeutung der Transparenz in KI-Modellen hervor, um das Vertrauen in die Ergebnisse zu stärken und die Zusammenarbeit zwischen Datenwissenschaftlern und Fachleuten aus anderen Bereichen zu fördern.

CodeROI hat den CodeROI AI Agenten eingeführt, der Unternehmen dabei unterstützt, steuerliche Anreize für Forschung und Entwicklung (R&D) sowie Softwarekapitalisierung auf ihre Ausgaben für künstliche Intelligenz (KI) zu erfassen. Diese Lösung bietet eine passive Möglichkeit zur Reduzierung der KI-Entwicklungskosten, indem sie detaillierte, prüfbare Nachweise für jede von KI generierte Codeänderung liefert. Der Agent unterscheidet zwischen KI-Entwicklungsarbeiten und anderen Tätigkeiten, was eine präzise Nachweisführung für steuerliche Vorteile ermöglicht. Angesichts der neuen IRS-Anforderungen zur projektbezogenen Berichterstattung ab 2026 ist dies besonders relevant. Unternehmen können durch die Nutzung des CodeROI AI Agenten ihre R&D-Steuergutschriften steigern, indem sie sowohl Ingenieursgehälter als auch KI-Ausgaben geltend machen. Die Plattform dient nicht als KI-Tool, sondern als Dokumentationssystem für Softwareentwicklungsaktivitäten, das Nachweise in Echtzeit erfasst. Dadurch können Unternehmen ihre Steuererklärungen effizienter gestalten und die Audit-Nachweise verbessern, ohne bestehende Arbeitsabläufe zu verändern.

XO Sports, eine australische Plattform für KI-gestützte Sportvorhersagen, hat erfolgreich den US-Markt betreten und bietet Vorhersagen für verschiedene Sportarten wie NBA, MLB, WNBA, NFL und EPL an. Die Einführung fällt mit dem ersten regulären NFL-Spiel in Australien zusammen und wird durch eine umfassende Werbekampagne unterstützt. Die App ermöglicht Nutzern den schnellen Zugriff auf präzise Vorhersagen, indem sie relevante Daten wie Verletzungsberichte und Wetterbedingungen analysiert. Entwickelt von Ingenieuren und Wettinsidern, nutzt die Plattform eine selbstlernende KI, die kontinuierlich optimiert wird. CEO John Hanna hebt hervor, dass die Ergebnisse unabhängig überprüft werden, um Vertrauen zu schaffen. Nutzer können täglich kostenlose Vorhersagen erhalten oder für 9,99 USD pro Monat auf erweiterte Funktionen zugreifen. Alle Ergebnisse werden öffentlich dokumentiert, was die Transparenz erhöht. XO Sports positioniert sich als Informationsquelle und legt den Fokus auf Unterhaltung und Analyse, nicht auf Wettangebote.

Eine Untersuchung der deutschen Advocacy-Gruppe AlgorithmWatch zeigt, dass Googles AI-Überblicke zu Wahlfragen intransparent und inkonsistent sind. Bei der Analyse von 4.480 Suchanfragen zu den Landtagswahlen 2026 in Sachsen-Anhalt und Mecklenburg-Vorpommern sowie zur Wahl des Berliner Abgeordnetenhauses stellte sich heraus, dass AI-Überblicke nur in 39,1 Prozent der Fälle für politische Fragen angezeigt wurden, im Gegensatz zu 65,3 Prozent für nicht-politische Anfragen. Besonders auffällig war die geringere Häufigkeit von Überblicken zu Fragen der far-right AfD, was auf eine mögliche parteiische Berichterstattung hindeutet. Zudem stammen fast die Hälfte der verlinkten Quellen aus nur zehn Domains, wobei Googles eigene Plattform YouTube am häufigsten zitiert wird. Die AI beschreibt Politiker und Parteien oft in positiven, parteiischen Begriffen, was AlgorithmWatch auf die Schmeichelei-Tendenz von Sprachmodellen zurückführt. Die Studie fordert mehr Transparenz und klare Haftungsregeln, um die Neutralität der Informationen zu gewährleisten.

Replica Cyber hat eine innovative Architektur entwickelt, die es regulierten Finanzinstituten ermöglicht, autonome KI-Agenten sicher in isolierten Umgebungen zu betreiben. Diese Lösung zielt darauf ab, die Automatisierung hochriskanter digitaler Aufgaben wie Betrugsanalysen und Bedrohungsintelligenz zu fördern, ohne die Kontrolle über die KI-Agenten zu verlieren. Angesichts der Herausforderung, dass die Nutzung von KI-Agenten schneller zunimmt als deren Regulierung, kommt es häufig zu Projektabbrüchen. Die isolierte Umgebung von Replica ermöglicht es Sicherheitsteams, die Aktivitäten der Agenten in Echtzeit zu überwachen und bei Bedarf zu stoppen, was den regulatorischen Anforderungen entspricht. Dadurch können Unternehmen effizienter forschen, automatisierte Informationen sammeln und Betrugsanalysen beschleunigen, während sie gleichzeitig auditierbare Nachweise liefern. Replica Cyber bietet diese Technologie bereits für Finanzdienstleister und regulierte Unternehmen an, um deren kritische Initiativen zu unterstützen.

In einem Test wurde die Zuverlässigkeit der Quellenangaben von KI-Tools untersucht, um festzustellen, ob diese tatsächlich die von der KI bereitgestellten Informationen unterstützen. Die Ergebnisse zeigten, dass oft keine Übereinstimmung zwischen den Aussagen der KI und den angegebenen Quellen bestand. Viele Nutzer überprüfen diese Quellen nicht, und auch die KI-Systeme scheinen dies zu vernachlässigen, da sie lediglich zitatähnliche Angaben generieren, ohne die Inhalte zu verifizieren. Der Autor entwickelte ein System zur Überprüfung der Zitationen und testete es an vier Jahresberichten einer nigerianischen Behörde, was die Herausforderungen bei der Arbeit mit realen Dokumenten verdeutlichte. Die Methode beinhaltete, die Antworten nicht als zusammenhängende Absätze zu betrachten, sondern die Zitate gezielt zu überprüfen, um die Genauigkeit der Informationen zu gewährleisten.