Deepfakes & Desinformation

Forschende vom Fraunhofer-Institut und dem Bundesamt für Sicherheit haben ein neues Verfahren namens RealOrRender entwickelt, um Deepfakes zu erkennen und die Erklärbarkeit von KI-Entscheidungen zu verbessern. Angesichts der fortschrittlichen Technologien zur Erstellung realistischer Bilder und Videos wird die Unterscheidung zwischen echten und gefälschten Inhalten zunehmend schwieriger. RealOrRender nutzt einen hybriden Ansatz: Ein KI-Bildgenerator rekonstruiert das Originalbild, während ein weiteres KI-Modell die Klassifizierung vornimmt. Durch die Analyse von Rekonstruktionsfehlern kann das System mit einer Erkennungsleistung von 85 bis 91 Prozent feststellen, ob es sich um einen Deepfake handelt. Zudem erstellt es eine Heatmap, die Merkmale markiert, die auf eine Fälschung hinweisen. Diese Erklärbarkeit soll sowohl Experten als auch Nutzern helfen, die Entscheidungen der KI besser nachzuvollziehen und Vertrauen in die Ergebnisse zu gewinnen. RealOrRender wird bereits im BSI als Demonstrator zur Unterstützung der Deepfake-Identifizierung eingesetzt.

In einem aktuellen Kettenbrief auf WhatsApp wird vor einer angeblichen Gefahr durch eine neue Meta-KI gewarnt. Der Inhalt des Briefes suggeriert, dass die KI persönliche Daten der Nutzer ausspioniert und missbraucht. Experten warnen jedoch, dass solche Kettenbriefe oft auf Fehlinformationen basieren und Panik schüren. Die Verbreitung solcher Nachrichten kann zu einer erhöhten Unsicherheit und Misstrauen gegenüber Technologien führen. Zudem wird darauf hingewiesen, dass Nutzer durch das Teilen solcher Inhalte ungewollt zur Verbreitung von Falschinformationen beitragen. Es wird empfohlen, Informationen aus vertrauenswürdigen Quellen zu beziehen und kritisch zu hinterfragen, bevor man sie weiterverbreitet.

Die KI-Firma xAI von Elon Musk wurde im Frühjahr 2026 von SpaceX übernommen und trägt nun den Namen SpaceXAI, um die Verbindung zum Raumfahrtunternehmen zu verdeutlichen. Mit der Umbenennung wurde ein neues Logo auf der Plattform X vorgestellt. Obwohl keine offizielle Erklärung für den Namenswechsel vorliegt, wird vermutet, dass er die Zugehörigkeit der beiden Unternehmen stärken soll. SpaceXAI ist bekannt für den umstrittenen KI-Chatbot Grok, der wegen der Erstellung sexualisierter Deepfakes und rechtsextremer Inhalte in die Kritik geraten ist und in einigen Ländern blockiert wurde. Trotz dieser Skandale setzt das Unternehmen weiterhin auf Kooperationen mit anderen KI-Firmen, um Rechenleistung zu sichern. Musk verfolgt das ambitionierte Ziel, eine „maximal wahrheitssuchende KI“ zu entwickeln, doch xAI hat seit seiner Gründung im Jahr 2023 jährlich Milliardenverluste erlitten.

Das East Kent Hospitals NHS Trust hat als erstes Krankenhaus im Vereinigten Königreich das KI-Tool MEMORI eingeführt, das zur frühzeitigen Erkennung von Infektionen dient. Dieses System analysiert klinische Daten wie Blutuntersuchungen, Blutdruck und Temperatur, um das individuelle Infektionsrisiko jedes Patienten zu bestimmen. Durch den Einsatz von MEMORI kann das Pflegepersonal mehr Zeit mit den Patienten verbringen, anstatt sich mit der Durchsicht von Notizen zu beschäftigen. Die Einführung dieser Technologie steht im Einklang mit der NHS-Strategie, die den Übergang von analogen zu digitalen Lösungen fördert. MEMORI ist bereits als medizinisches Gerät lizenziert und wurde von einem Team aus Pflegekräften und Ärzten entwickelt, um den realen klinischen Anforderungen gerecht zu werden. Dr. Mike Bedford, Chief Clinical Information Officer des Trusts, betont, dass dies nur der Anfang sei und weitere Anwendungen der Technologie in Planung sind. Benedikt von Thüngen, Gründer von Sanome, dem Unternehmen hinter MEMORI, hebt hervor, dass die Technologie den Klinikern helfen soll, sich wieder auf die Patientenversorgung zu konzentrieren.

Haven, die KI-Sicherheitsbrowsererweiterung von MirrorTab, Inc., hat ein neues Design-Partnerprogramm ins Leben gerufen, das sich an wachsende Unternehmen und Managed Service Provider (MSPs) richtet. Das Programm zielt darauf ab, Partner aktiv in die Weiterentwicklung der Browser-Schutzplattform einzubeziehen, insbesondere in den Bereichen Verwaltung und Berichterstattung von Sicherheitsrisiken. Haven ermöglicht es Nutzern, Links und Login-Seiten in Echtzeit zu bewerten, ohne tiefgehendes Sicherheitswissen zu benötigen. Die Rückmeldungen von MSP-Besitzern sind durchweg positiv, da die Anwendung benutzerfreundlich und einfach zu implementieren ist. Teilnehmer des Programms erhalten frühzeitigen Zugang zu neuen Funktionen und können die Sicherheitslösungen aktiv mitgestalten. Haven bietet Unternehmen und MSPs die notwendige Sichtbarkeit zur Erkennung von Sicherheitsrisiken, ohne dass zusätzliche Sicherheitsressourcen erforderlich sind. Die Erweiterung ist kostenlos im Chrome Web Store erhältlich.

Discord hat einen schwerwiegenden Fehler in seinem KI-Moderationssystem eingeräumt, der dazu führte, dass über 8.000 Nutzer fälschlicherweise gesperrt wurden. Automatisierte Systeme stuften harmlose Inhalte wie Excel-Tabellen und Schachbretter als schädlich ein, was zu automatischen Sperrungen ohne menschliche Überprüfung führte. Dieser Vorfall, der seit Mai andauert, wirft ernsthafte Fragen zur Zuverlässigkeit von KI in der Moderation auf, insbesondere auf einer Plattform, die kreative Zusammenarbeit und Gaming-Communities fördert. Betroffene Nutzer erlebten Frustration, da sie oft keine klaren Informationen oder Anfechtungsmöglichkeiten erhielten. Während Discord daran arbeitet, die gesperrten Konten wiederherzustellen, haben viele Nutzer möglicherweise bereits zu Alternativen wie Slack oder Microsoft Teams gewechselt. Der Vorfall verdeutlicht die Risiken der Automatisierung von Moderationsentscheidungen und zeigt den Bedarf an stärkerer menschlicher Aufsicht sowie verbesserten Anfechtungsprozessen. Dies dient als Weckruf für die Tech-Branche, dass die vollständige Automatisierung von Vertrauens- und Sicherheitsentscheidungen noch nicht ausgereift ist.

Discord hat ein Problem in seinem KI-Moderationssystem eingeräumt, das dazu führte, dass über 8.000 Nutzer fälschlicherweise wegen harmloser Bilder, wie Tabellen und Schachbrettern, gesperrt wurden. Der Fehler, der seit Mai auftrat, betraf zusätzlich 200 Nutzer am vergangenen Wochenende, bevor das Unternehmen das Problem identifizieren und beheben konnte. Diese Vorfälle verdeutlichen die Herausforderungen der automatisierten Moderation, da viele Plattformen zunehmend auf solche Systeme angewiesen sind, um schädliche Inhalte zu erkennen. Discord erklärte, dass ihre Technologie Inhalte mit Datenbanken bekannter schädlicher Materialien abgleicht, was jedoch auch zu falschen Positivmeldungen führen kann. Nutzer äußerten auf sozialen Medien ihren Unmut über die dauerhaften Sperrungen, die insbesondere für berufliche oder soziale Nutzer gravierende Folgen haben können. Discord hat angekündigt, an besseren Sicherheitsvorkehrungen zu arbeiten, um ähnliche Vorfälle in Zukunft zu verhindern. Diese Problematik ist nicht neu, da auch andere Plattformen wie Instagram und Facebook ähnliche Beschwerden über automatisierte Sperrungen hatten, ohne dass Meta die Verantwortung übernahm.

Der Artikel "Building Your AI Brand" thematisiert, wie AI-Praktiker ihre Expertise effektiv präsentieren können, um im Markt erfolgreich zu sein. Der zentrale Unterschied zwischen aktiver Kundensuche und dem Erhalt von Empfehlungen liegt in der Markenbildung. Eine starke Marke entsteht durch die konsequente Demonstration spezifischer Fähigkeiten, die auf die Bedürfnisse einer Zielgruppe abgestimmt sind. Der Artikel identifiziert drei wesentliche Säulen für eine AI-Marke: eine unverwechselbare Markenstimme, vielfältige Content-Formate und ein strukturiertes System zur Ideenfindung. Der Aufbau von Autorität erfolgt schrittweise, beginnend mit der Wissensdemonstration bis hin zur Marktautorität, wo Gelegenheiten ohne aktive Akquise entstehen. Die Autoren betonen, dass der Erfolg nicht nur auf Talent basiert, sondern auch auf der Fähigkeit, kontinuierlich wertvolle Inhalte in relevanten Kanälen zu teilen. Letztlich wird die Verantwortung für die Markenbildung als professionelle Pflicht hervorgehoben, die es Praktikern ermöglicht, ihre Expertise potenziellen Kunden zugänglich zu machen.