Deepfakes & Desinformation
Deepfakes & Desinformation: Woche 28/2026
In der aktuellen Woche haben sich verschiedene Entwicklungen im Bereich von Deepfakes und Desinformationen ereignet. Eine Studie hat ergeben, dass LinkedIn die Plattform mit dem höchsten Anteil an AI-Inhalten ist. CHAI AI befindet sich im Überprüfungsprozess des Apple App Stores und hat ein jährliches Umsatzvolumen von über 100 Millionen Dollar erreicht. Forscher haben herausgefunden, dass Menschen durch gezieltes Training in der Lage sind, subtile Unterschiede zwischen echten Bildern und AI-generierten Deepfakes zu erkennen. Meta hat ein neues KI-Detektionswerkzeug vorgestellt, das Schwierigkeiten hat, beschnittene AI-generierte Bilder zu erkennen. Zudem hat die chinesische KI-Firma Robbyant ihr neues Modell LingBot-Depth 2.0 für die räumliche Wahrnehmung von Robotern vorgestellt.
Wichtigste Punkte
- LinkedIn ist die Plattform mit dem höchsten Anteil an AI-Inhalten
- CHAI AI befindet sich im Überprüfungsprozess des Apple App Stores
- Menschen können durch gezieltes Training subtile Unterschiede zwischen echten Bildern und AI-generierten Deepfakes erkennen
- Meta hat Schwierigkeiten, beschnittene AI-generierte Bilder zu erkennen
Chronologie / Entwicklungen
- 2026-07-12: Eine Studie ergibt, dass LinkedIn die Plattform mit dem höchsten Anteil an AI-Inhalten ist.
- 2026-07-12: CHAI AI befindet sich im Überprüfungsprozess des Apple App Stores und hat ein jährliches Umsatzvolumen von über 100 Millionen Dollar erreicht.
- 2026-07-11: Forscher haben herausgefunden, dass Menschen durch gezieltes Training in der Lage sind, subtile Unterschiede zwischen echten Bildern und AI-generierten Deepfakes zu erkennen.
- 2026-07-11: Meta hat Schwierigkeiten, beschnittene AI-generierte Bilder zu erkennen
- 2026-07-11: Die chinesische KI-Firma Robbyant hat ihr neues Modell LingBot-Depth 2.0 für die räumliche Wahrnehmung von Robotern vorgestellt.
Originallinks
Alle Artikel, die in diese Summary eingeflossen sind. So können Leser jederzeit die Originalquelle öffnen.
LinkedIn is the undisputed king of long-form AI slop, according to a study spanning five platforms
Eine aktuelle Studie von Pangram hat ergeben, dass LinkedIn mit 41 Prozent der als KI-generiert identifizierten langen Beiträge die Plattform mit dem höchsten Anteil an AI-Inhalten ist. Trotz der Tatsache, dass LinkedIn nur ein Drittel der insgesamt untersuchten Beiträge ausmachte, entfielen fast zwei Drittel des erkannten KI-Inhalts auf diese Plattform. Im Vergleich dazu waren auf X/Twitter nahezu die Hälfte der langen Artikel AI-generiert oder -unterstützt, während Substack mit etwa 10 Prozent den niedrigsten Anteil aufwies. Die Analyse umfasste über eine Million Beiträge, die zwischen April und Juni 2026 auf fünf Plattformen veröffentlicht wurden. Pangram betont, dass ihr Erkennungsmodell eine niedrige Fehlerrate aufweist, jedoch könnte die tatsächliche Rate an KI-Inhalten höher sein, da das Modell möglicherweise besser darin ist, menschlich verfasste Inhalte zu identifizieren. Obwohl die Studie keine Aussagen zur Qualität der Inhalte trifft, hat LinkedIn bereits Maßnahmen ergriffen, um gegen KI-generierte Beiträge vorzugehen.
Conversation with CHAI AI: $100M ARR, App Store Review, and what motivates AI research
CHAI AI, ein Unternehmen mit Sitz in Palo Alto, Kalifornien, das aus einem kleinen Team in Cambridge, UK, hervorgegangen ist, befindet sich derzeit im Überprüfungsprozess des Apple App Stores. CEO William Beauchamp hebt hervor, dass die neueste Version der App die sicherste ist, die sie je veröffentlicht haben. Mit einem jährlichen Umsatz von über 100 Millionen Dollar hat das Team intensiv an der Verbesserung der Sicherheitsstandards gearbeitet, um die Nutzererfahrung zu optimieren und die Sicherheit der Nutzer und der Gemeinschaft zu gewährleisten. Zu den Herausforderungen gehören die Moderation nutzergenerierter Inhalte sowie die Sicherheit von Modellen und Algorithmen, die durch gezielte Tests angegangen werden. Die jüngsten Sicherheitsmaßnahmen umfassen ein neues Governance-System, das die bestehenden Protokolle verbessert und den menschlichen Einfluss verstärkt. CHAI AI verfolgt das Ziel, durch fortschrittliche KI-Techniken unterhaltsame und interaktive Erlebnisse zu schaffen, wobei die Entwicklung von KI im Dienste des menschlichen Wohls im Mittelpunkt steht.
See if you can spot an AI deepfake with our test
Die Psychologin Dr. Clare Sutherland und ihr Team an der Universität Aberdeen erforschen, wie Menschen lernen können, AI-generierte Deepfakes von echten Bildern zu unterscheiden. Angesichts der fortschrittlichen Technologie, die realistische Gesichter erstellt, wird die Erkennung von Fälschungen zunehmend schwieriger. Die Forscher haben festgestellt, dass gezieltes Training Menschen befähigt, subtile Unterschiede zu erkennen, indem sie Merkmale wie Symmetrie und Ausdrucksvermögen analysieren. In ihren Studien konnten Teilnehmer ihre Erkennungsgenauigkeit von etwa 40 % auf bis zu 80 % steigern. Diese Fähigkeit ist entscheidend, da die Bedrohung durch Betrug und politische Manipulation durch Deepfakes wächst, was potenziell zu Milliardenverlusten führen kann. Gleichzeitig gibt es auch positive Anwendungen der Technologie, etwa die Darstellung vermisster Personen in verschiedenen Altersstufen. Trotz der Herausforderungen bleibt die Hoffnung, dass Menschen durch Übung und Training besser im Erkennen von AI-Fälschungen werden können.
Meta's new tool fails to identify cropped AI images
Meta hat ein neues KI-Detektionswerkzeug vorgestellt, das Schwierigkeiten hat, beschnittene AI-generierte Bilder zu erkennen. In einer Analyse von 40 Bildern, die mit dem Modell Muse Image erstellt wurden, konnte das Tool zwar alle Originalbilder identifizieren, versagte jedoch bei 55% der beschnittenen Varianten. Meta nutzt ein unsichtbares Wasserzeichensystem namens Content Seal, um die Herkunft der Bilder zu bestätigen. Dieses Wasserzeichen kann jedoch bei stark beschnittenen Bildern verloren gehen, was die Verifizierung erschwert. Diese Problematik könnte besonders während der US-Wahlen zu Herausforderungen führen, da die Erkennung von Deepfakes komplizierter wird. Experten weisen darauf hin, dass auch andere Unternehmen wie Google und OpenAI ähnliche Schwierigkeiten mit ihren Detektionswerkzeugen haben. Trotz dieser Herausforderungen wird Wasserzeichen als vielversprechende Lösung für die Verifizierung von KI-generierten Inhalten angesehen, auch wenn sie nicht immer zuverlässig sind.
Chinese AI firm launches next-gen spatial perception models for robots
Die chinesische KI-Firma Robbyant hat ihr neues Modell LingBot-Depth 2.0 für die räumliche Wahrnehmung von Robotern vorgestellt, das signifikante Fortschritte in der Tiefenwahrnehmung in komplexen Innenräumen bietet. Im Vergleich zum Vorgängermodell reduziert es den Tiefenfehler um über 50 % und verbessert die Erkennung transparenter Oberflächen wie Glas und Spiegel. Diese Fortschritte sind auf das zugrunde liegende Modell LingBot-Vision zurückzuführen, das eine innovative Vortrainingsmethode nutzt, um die räumliche Struktur besser zu erfassen. LingBot-Depth 2.0 hat bereits die Zertifizierung für kommerzielle Anwendungen erhalten und zeigt auch Verbesserungen in der Kantenerkennung sowie bei der Identifizierung kleiner Objekte. In Zusammenarbeit mit Orbbec plant Robbyant die Entwicklung neuer Hardwarelösungen zur Datensammlung, um qualitativ hochwertige Trainingsdaten zu generieren. Zukünftige Updates sollen die Genauigkeit und Stabilität der Datenbasis für die Ausbildung von KI-Systemen in realen Umgebungen weiter optimieren.
Smartphone-Malware: PromptSpy nutzt KI zur Laufzeit für Datenraub
Die neue Smartphone-Malware PromptSpy alarmiert Sicherheitsbehörden, da sie generative KI zur Laufzeit einsetzt, um persönliche Daten zu stehlen. Diese Schadsoftware tarnt sich als Bildungs- und Trainings-Apps und verbreitet sich über soziale Medien und Kurznachrichten. Sie kann SMS abfangen und Passwörter auslesen, wobei eine verstärkte Verbreitung insbesondere in Ferienzeiten beobachtet wird. Sicherheitsforscher haben zudem gefälschte Installationsprogramme für bekannte Software entdeckt, die Geräte in kriminelle Netzwerke einbinden. PromptSpy nutzt Googles KI-Plattform Gemini zur Analyse gestohlener Daten direkt auf dem Smartphone, was die Erkennung erschwert. In Reaktion auf diese Bedrohung haben Sicherheitsbehörden weltweit eine Großrazzia gegen Betrugsnetzwerke durchgeführt, bei der über 5.800 Verdächtige festgenommen wurden. Die Zunahme von KI-gestützten Angriffen und Datenschutzmängeln bei legitimen Apps verstärken die Sorgen um die Sicherheit von Nutzerdaten. Experten empfehlen, Apps nur über offizielle Stores herunterzuladen und Vorsicht bei QR-Codes sowie verdächtigen E-Mails walten zu lassen.
OpenAI-Skandal: Verlage fordern Sanktionen wegen versteckter Beweise
Im Juli 2026 haben mehrere Verlage, darunter die New York Times und die Chicago Tribune, vor einem Bundesgericht in Manhattan Sanktionen gegen OpenAI beantragt. Sie werfen dem Unternehmen vor, über zwei Jahre hinweg entscheidende Beweise in einem Urheberrechtsstreit absichtlich verschleiert zu haben. OpenAI soll sich geweigert haben, Trainingsdaten und Nutzerprotokolle offenzulegen, obwohl es technisch dazu in der Lage war. Ein Ingenieur des Unternehmens gab an, dass interne Suchen in den Trainingsdaten durchgeführt wurden und Werkzeuge zur Erkennung urheberrechtlich geschützter Inhalte entwickelt wurden. Zudem wird OpenAI vorgeworfen, gegen eine gerichtliche Aufbewahrungsanordnung verstoßen und wichtige Beweise gelöscht zu haben. Die Verlage fordern, dass das Gericht anerkennt, dass ChatGPTs Ausgaben auf urheberrechtlich geschützten Werken basieren, und spezielle Anweisungen an die Geschworenen bezüglich der gelöschten Beweise erteilt. OpenAI wies die Vorwürfe zurück und beruft sich auf die Fair-Use-Regelung. Der Rechtsstreit hat bereits hohe Kosten verursacht, wobei die New York Times über 28 Millionen US-Dollar ausgegeben hat. Der Fall verdeutlicht die Spannungen in der Medienbranche im Umgang mit generativer KI und die finanziellen Risiken solcher Rechtsstreitigkeiten.
Marktanalyse: Apple dominiert den Boom bei Smartwatches mit Edge-KI
Im ersten Quartal 2026 verzeichnete der Markt für Smartwatches mit Edge-KI ein signifikantes Wachstum, wobei diese Geräte ein Viertel aller weltweiten Auslieferungen ausmachten und einen Anstieg von 70 Prozent im Vergleich zum Vorjahr aufwiesen. Der Einsatz von Künstlicher Intelligenz, die direkt auf den Geräten verarbeitet wird, spielt eine entscheidende Rolle, da Edge-KI-fähige Smartwatches Gesundheitsdaten lokal auswerten und Echtzeit-Warnungen bieten, während sie gleichzeitig die Privatsphäre der Nutzer schützen. Apple dominiert diesen Markt mit einem beeindruckenden Anteil von rund 90 Prozent der Auslieferungen, während Wettbewerber wie Huawei und Qualcomm an neuen Chips arbeiten, um im Rennen um innovative Funktionen mitzuhalten. Der Trend zu fortschrittlicheren Gesundheitsanwendungen, wie der Erkennung von Schlafapnoe, könnte dazu führen, dass der Marktanteil von Edge-KI-Smartwatches bis Ende 2026 auf über 32 Prozent ansteigt.
Neue Vision-AI-Software für industrielle Qualitätssicherung
Die neue Vision-AI-Software Neuralyze® von senswork bietet eine innovative Lösung für die steigenden Anforderungen an Qualität und Durchsatz in der Industrie. Sie ermöglicht es, aus Bilddaten zu lernen und in Echtzeit zwischen guten und fehlerhaften Bauteilen zu unterscheiden. Die Software deckt alle Phasen eines Vision-AI-Projekts ab, von der Bilddatenverwaltung bis zum kontinuierlichen Monitoring, und legt großen Wert auf Zuverlässigkeit und Wartbarkeit. Typische Anwendungen umfassen die Erkennung von Oberflächenfehlern, Anomalien sowie Montage- und Teileidentifikation. Neuralyze® basiert auf offenen Standards und kann sowohl auf eigener Hardware als auch auf Edge-Hardware betrieben werden, was den Anwendern volle Datenhoheit und Unabhängigkeit von Anbietern ermöglicht. Mit über 15 Jahren Erfahrung in der industriellen Bildverarbeitung unterstützt senswork Fertigungsunternehmen durch Pilotprojekte und Machbarkeitsstudien bei komplexen Prüfaufgaben.
MITS Capital Announces an Investment in Dropla Tech - a Danish-Ukrainian Developer of NATO-Codified Edge-AI Explosive Threat Detection Systems and Unmanned Ground Vehicles
MITS Capital hat in Dropla Tech investiert, ein dänisch-ukrainisches Unternehmen, das sich auf die Entwicklung von NATO-zertifizierten Systemen zur Erkennung explosiver Bedrohungen und unbemannten Bodenfahrzeugen spezialisiert hat. Die Partnerschaft zielt darauf ab, die Produktionskapazitäten von Dropla Tech zu erweitern und die Integration von Verteidigungstechnologien zwischen der Ukraine und Europa zu fördern. Gegründet von vier Ukrainern im Jahr 2023, hat Dropla Tech bereits das Produkt Blue Eyes Warbox entwickelt, das explosive Bedrohungen in Echtzeit erkennt und sowohl für militärische als auch humanitäre Einsätze, wie Minenräumungen, gedacht ist. Durch die Teilnahme am MITS Acceleration Program erhält das Unternehmen Zugang zu einem umfangreichen Netzwerk von Technologie- und Geschäftspartnern. Die Investition von MITS Capital wird es Dropla Tech ermöglichen, die Produktion auf bis zu 3.000 unbemannte Fahrzeuge pro Jahr zu steigern und die Zusammenarbeit mit anderen Unternehmen im Bereich Verteidigungstechnologie zu intensivieren.
France plans to triple penalties for AI-driven election disinformation
Der französische Premierminister Sébastien Lecornu hat einen Gesetzentwurf vorgestellt, der die Strafen für die Verbreitung von Falschinformationen während Wahlen erheblich erhöhen soll. Angesichts der Bedrohungen durch KI-gesteuerte Manipulation und ausländische Einmischung vor der bevorstehenden Präsidentschaftswahl sieht der Entwurf vor, die Strafen für die Produktion von Fehlinformationen zu verdreifachen. Zudem soll ein Notfallverfahren zur Löschung falscher Inhalte auf lokale Wahlen ausgeweitet und eine permanente "Öffentliche Informationskommission" eingerichtet werden. Kritiker äußern Bedenken hinsichtlich der Definition von Falschinformationen und der möglichen Einschränkung der Meinungsfreiheit. Der Gesetzentwurf wird Ende Juli im Ministerrat präsentiert und könnte auf bestehenden Gesetzen zur Bekämpfung von Desinformation basieren. Die Diskussion über den Umgang mit tiefen Fälschungen und die Balance zwischen Schutz und Kontrolle bleibt angespannt, wobei die Wahrnehmung der neuen Kommission als hilfreiches Instrument oder Zensurbehörde von der genauen Gesetzesformulierung abhängt.
Rogue landlord used AI to fake smoke detector
Mindaugas Palaima, ein unzulässiger Vermieter in Bradford, wurde wegen gravierender Sicherheitsmängel in seinen illegalen Mietobjekten untersucht. Um den Eindruck zu erwecken, dass er Rauchmelder installiert hatte, verwendete er ein KI-generiertes Bild, das während einer Inspektion aufgedeckt wurde. Palaima hatte zwei Immobilien ohne die erforderlichen Genehmigungen in Mehrfamilienhäuser umgewandelt und vermietete diese unter dem Namen seiner Firma Instyle Aviation, während er selbst Mieter war. Die Ermittlungen zeigten, dass die Wohnungen erhebliche Sicherheitsrisiken aufwiesen, darunter fehlende Rauchmelder und Fluchtwege. Trotz einer Aufforderung zur Installation von Rauchmeldern schickte er ein gefälschtes Bild, was zu einem weiteren Besuch der Behörden führte, bei dem die Täuschung aufgedeckt wurde. Das Gericht sprach ihn in Abwesenheit schuldig und verhängte eine Geldstrafe von über 11.000 Pfund, einschließlich Kosten und Gerichtszuschlägen. Palaimas Verhalten stellte eine eklatante Missachtung der Sicherheitsvorschriften dar, was zu einem Notfallverbot für die betroffenen Immobilien führte.
KI-Chatbots zitieren russische Propaganda: Berliner Studie deckt zweifelhafte Quellen auf
Eine Berliner Studie hat ergeben, dass KI-Chatbots häufig auf russische Propaganda zurückgreifen, wenn sie Informationen bereitstellen. Die Untersuchung zeigt, dass viele der verwendeten Quellen nicht vertrauenswürdig sind und eine verzerrte Sichtweise auf aktuelle Ereignisse vermitteln. Die Forscher analysierten die Antworten verschiedener Chatbots und fanden heraus, dass diese oft unkritisch mit Informationen umgehen und nicht zwischen glaubwürdigen und fragwürdigen Quellen unterscheiden. Dies wirft Fragen zur Zuverlässigkeit von KI-generierten Inhalten auf, insbesondere in Zeiten von Desinformation und Propaganda. Die Studie fordert eine sorgfältigere Überprüfung der Daten, die von KI-Systemen genutzt werden, um die Verbreitung von Falschinformationen zu verhindern.
Can AI chatbots can be tricked into sharing fake news?
Eine aktuelle Untersuchung der BBC zeigt, dass KI-Chatbots anfällig für Manipulation sind und somit falsche Informationen verbreiten können. Technologieexperte Harry Kind erläutert die Ergebnisse und gibt praktische Tipps zur Überprüfung von Informationen im Internet. Er beschreibt einfache Schritte, um zwischen Fakten und Fiktion zu unterscheiden. Die Studie hebt hervor, dass die gezielte Beeinflussung von Chatbots eine ernsthafte Herausforderung darstellt, da sie zur Verbreitung von Fake News beitragen können. Dies hat erhebliche Auswirkungen auf die Informationsverbreitung und das Vertrauen in digitale Medien, was die Notwendigkeit verstärkt, kritisches Denken und Medienkompetenz zu fördern.
Wie KI ihre eigenen Deepfakes entlarvt
Forschende vom Fraunhofer-Institut und dem Bundesamt für Sicherheit haben ein neues Verfahren namens RealOrRender entwickelt, um Deepfakes zu erkennen und die Erklärbarkeit von KI-Entscheidungen zu verbessern. Angesichts der fortschrittlichen Technologien zur Erstellung realistischer Bilder und Videos wird die Unterscheidung zwischen echten und gefälschten Inhalten zunehmend schwieriger. RealOrRender nutzt einen hybriden Ansatz: Ein KI-Bildgenerator rekonstruiert das Originalbild, während ein weiteres KI-Modell die Klassifizierung vornimmt. Durch die Analyse von Rekonstruktionsfehlern kann das System mit einer Erkennungsleistung von 85 bis 91 Prozent feststellen, ob es sich um einen Deepfake handelt. Zudem erstellt es eine Heatmap, die Merkmale markiert, die auf eine Fälschung hinweisen. Diese Erklärbarkeit soll sowohl Experten als auch Nutzern helfen, die Entscheidungen der KI besser nachzuvollziehen und Vertrauen in die Ergebnisse zu gewinnen. RealOrRender wird bereits im BSI als Demonstrator zur Unterstützung der Deepfake-Identifizierung eingesetzt.
WhatsApp-Warnung im Umlauf: Warum dieser Kettenbrief zur Meta-KI brandgefährlich ist
In einem aktuellen Kettenbrief auf WhatsApp wird vor einer angeblichen Gefahr durch eine neue Meta-KI gewarnt. Der Inhalt des Briefes suggeriert, dass die KI persönliche Daten der Nutzer ausspioniert und missbraucht. Experten warnen jedoch, dass solche Kettenbriefe oft auf Fehlinformationen basieren und Panik schüren. Die Verbreitung solcher Nachrichten kann zu einer erhöhten Unsicherheit und Misstrauen gegenüber Technologien führen. Zudem wird darauf hingewiesen, dass Nutzer durch das Teilen solcher Inhalte ungewollt zur Verbreitung von Falschinformationen beitragen. Es wird empfohlen, Informationen aus vertrauenswürdigen Quellen zu beziehen und kritisch zu hinterfragen, bevor man sie weiterverbreitet.
KI-Firma von Elon Musk: Aus xAI wird SpaceXAI
Die KI-Firma xAI von Elon Musk wurde im Frühjahr 2026 von SpaceX übernommen und trägt nun den Namen SpaceXAI, um die Verbindung zum Raumfahrtunternehmen zu verdeutlichen. Mit der Umbenennung wurde ein neues Logo auf der Plattform X vorgestellt. Obwohl keine offizielle Erklärung für den Namenswechsel vorliegt, wird vermutet, dass er die Zugehörigkeit der beiden Unternehmen stärken soll. SpaceXAI ist bekannt für den umstrittenen KI-Chatbot Grok, der wegen der Erstellung sexualisierter Deepfakes und rechtsextremer Inhalte in die Kritik geraten ist und in einigen Ländern blockiert wurde. Trotz dieser Skandale setzt das Unternehmen weiterhin auf Kooperationen mit anderen KI-Firmen, um Rechenleistung zu sichern. Musk verfolgt das ambitionierte Ziel, eine „maximal wahrheitssuchende KI“ zu entwickeln, doch xAI hat seit seiner Gründung im Jahr 2023 jährlich Milliardenverluste erlitten.
Hospital first to use AI for spotting infections
Das East Kent Hospitals NHS Trust hat als erstes Krankenhaus im Vereinigten Königreich das KI-Tool MEMORI eingeführt, das zur frühzeitigen Erkennung von Infektionen dient. Dieses System analysiert klinische Daten wie Blutuntersuchungen, Blutdruck und Temperatur, um das individuelle Infektionsrisiko jedes Patienten zu bestimmen. Durch den Einsatz von MEMORI kann das Pflegepersonal mehr Zeit mit den Patienten verbringen, anstatt sich mit der Durchsicht von Notizen zu beschäftigen. Die Einführung dieser Technologie steht im Einklang mit der NHS-Strategie, die den Übergang von analogen zu digitalen Lösungen fördert. MEMORI ist bereits als medizinisches Gerät lizenziert und wurde von einem Team aus Pflegekräften und Ärzten entwickelt, um den realen klinischen Anforderungen gerecht zu werden. Dr. Mike Bedford, Chief Clinical Information Officer des Trusts, betont, dass dies nur der Anfang sei und weitere Anwendungen der Technologie in Planung sind. Benedikt von Thüngen, Gründer von Sanome, dem Unternehmen hinter MEMORI, hebt hervor, dass die Technologie den Klinikern helfen soll, sich wieder auf die Patientenversorgung zu konzentrieren.
Haven Opens Design Partner Program for Businesses and MSPs
Haven, die KI-Sicherheitsbrowsererweiterung von MirrorTab, Inc., hat ein neues Design-Partnerprogramm ins Leben gerufen, das sich an wachsende Unternehmen und Managed Service Provider (MSPs) richtet. Das Programm zielt darauf ab, Partner aktiv in die Weiterentwicklung der Browser-Schutzplattform einzubeziehen, insbesondere in den Bereichen Verwaltung und Berichterstattung von Sicherheitsrisiken. Haven ermöglicht es Nutzern, Links und Login-Seiten in Echtzeit zu bewerten, ohne tiefgehendes Sicherheitswissen zu benötigen. Die Rückmeldungen von MSP-Besitzern sind durchweg positiv, da die Anwendung benutzerfreundlich und einfach zu implementieren ist. Teilnehmer des Programms erhalten frühzeitigen Zugang zu neuen Funktionen und können die Sicherheitslösungen aktiv mitgestalten. Haven bietet Unternehmen und MSPs die notwendige Sichtbarkeit zur Erkennung von Sicherheitsrisiken, ohne dass zusätzliche Sicherheitsressourcen erforderlich sind. Die Erweiterung ist kostenlos im Chrome Web Store erhältlich.
Discord's AI Mod Bug Wrongfully Bans 8,000+ Users
Discord hat einen schwerwiegenden Fehler in seinem KI-Moderationssystem eingeräumt, der dazu führte, dass über 8.000 Nutzer fälschlicherweise gesperrt wurden. Automatisierte Systeme stuften harmlose Inhalte wie Excel-Tabellen und Schachbretter als schädlich ein, was zu automatischen Sperrungen ohne menschliche Überprüfung führte. Dieser Vorfall, der seit Mai andauert, wirft ernsthafte Fragen zur Zuverlässigkeit von KI in der Moderation auf, insbesondere auf einer Plattform, die kreative Zusammenarbeit und Gaming-Communities fördert. Betroffene Nutzer erlebten Frustration, da sie oft keine klaren Informationen oder Anfechtungsmöglichkeiten erhielten. Während Discord daran arbeitet, die gesperrten Konten wiederherzustellen, haben viele Nutzer möglicherweise bereits zu Alternativen wie Slack oder Microsoft Teams gewechselt. Der Vorfall verdeutlicht die Risiken der Automatisierung von Moderationsentscheidungen und zeigt den Bedarf an stärkerer menschlicher Aufsicht sowie verbesserten Anfechtungsprozessen. Dies dient als Weckruf für die Tech-Branche, dass die vollständige Automatisierung von Vertrauens- und Sicherheitsentscheidungen noch nicht ausgereift ist.
Discord admits AI moderation bug wrongfully banned users over harmless images
Discord hat ein Problem in seinem KI-Moderationssystem eingeräumt, das dazu führte, dass über 8.000 Nutzer fälschlicherweise wegen harmloser Bilder, wie Tabellen und Schachbrettern, gesperrt wurden. Der Fehler, der seit Mai auftrat, betraf zusätzlich 200 Nutzer am vergangenen Wochenende, bevor das Unternehmen das Problem identifizieren und beheben konnte. Diese Vorfälle verdeutlichen die Herausforderungen der automatisierten Moderation, da viele Plattformen zunehmend auf solche Systeme angewiesen sind, um schädliche Inhalte zu erkennen. Discord erklärte, dass ihre Technologie Inhalte mit Datenbanken bekannter schädlicher Materialien abgleicht, was jedoch auch zu falschen Positivmeldungen führen kann. Nutzer äußerten auf sozialen Medien ihren Unmut über die dauerhaften Sperrungen, die insbesondere für berufliche oder soziale Nutzer gravierende Folgen haben können. Discord hat angekündigt, an besseren Sicherheitsvorkehrungen zu arbeiten, um ähnliche Vorfälle in Zukunft zu verhindern. Diese Problematik ist nicht neu, da auch andere Plattformen wie Instagram und Facebook ähnliche Beschwerden über automatisierte Sperrungen hatten, ohne dass Meta die Verantwortung übernahm.
Building Your AI Brand: The reputation and authority that compound while you sleep— Prompt to…
Der Artikel "Building Your AI Brand" thematisiert, wie AI-Praktiker ihre Expertise effektiv präsentieren können, um im Markt erfolgreich zu sein. Der zentrale Unterschied zwischen aktiver Kundensuche und dem Erhalt von Empfehlungen liegt in der Markenbildung. Eine starke Marke entsteht durch die konsequente Demonstration spezifischer Fähigkeiten, die auf die Bedürfnisse einer Zielgruppe abgestimmt sind. Der Artikel identifiziert drei wesentliche Säulen für eine AI-Marke: eine unverwechselbare Markenstimme, vielfältige Content-Formate und ein strukturiertes System zur Ideenfindung. Der Aufbau von Autorität erfolgt schrittweise, beginnend mit der Wissensdemonstration bis hin zur Marktautorität, wo Gelegenheiten ohne aktive Akquise entstehen. Die Autoren betonen, dass der Erfolg nicht nur auf Talent basiert, sondern auch auf der Fähigkeit, kontinuierlich wertvolle Inhalte in relevanten Kanälen zu teilen. Letztlich wird die Verantwortung für die Markenbildung als professionelle Pflicht hervorgehoben, die es Praktikern ermöglicht, ihre Expertise potenziellen Kunden zugänglich zu machen.
Verbraucherschutz: Tripadvisor-KI beschönigt negative Hotelbewertungen
Der Artikel behandelt die Problematik, dass die KI von Tripadvisor negative Hotelbewertungen beschönigt, indem sie die Inhalte so anpasst, dass sie positiver wirken. Diese Praxis stellt die Authentizität der Bewertungen in Frage und könnte das Vertrauen der Verbraucher in die Plattform erheblich untergraben. Nutzer könnten durch manipulierte Bewertungen in die Irre geführt werden, was zu enttäuschenden Erfahrungen während ihres Aufenthalts führen kann. Die Thematik wirft zudem wichtige Fragen zum Verbraucherschutz auf, da Transparenz und Ehrlichkeit der bereitgestellten Informationen entscheidend für die Zufriedenheit der Nutzer sind. Letztlich könnte diese Vorgehensweise die Entscheidungsfindung bei der Buchung von Unterkünften negativ beeinflussen und die Glaubwürdigkeit von Tripadvisor gefährden.
Taylor & Travis - how AI images fill the gap when there’s no news
Am 3. Juli 2026 heirateten Taylor Swift und Travis Kelce in New Yorks Madison Square Garden, doch offizielle Informationen über die Zeremonie sind rar. Dies führte dazu, dass soziale Medien mit KI-generierten Bildern des Paares überflutet wurden, die deren vermeintliche Hochzeitskleidung zeigen. Diese Bilder füllen das Informationsvakuum, das entsteht, wenn keine offiziellen Neuigkeiten verfügbar sind, und nutzen die Neugier der Öffentlichkeit aus. Berichte von Gästen deuten darauf hin, dass Travis einen weißen Smoking trug und die Hochzeit in einem speziell errichteten Garten stattfand, jedoch sind diese Details nicht offiziell bestätigt. Während einige prominente Gäste Eindrücke geteilt haben, bleibt die genaue Gestaltung der Feier unklar. Es wird betont, dass das Teilen von KI-Bildern als Fake News betrachtet werden kann und dass es wichtig ist, Informationen aus vertrauenswürdigen Quellen zu beziehen. Bis Taylor und Travis entscheiden, Details ihrer Hochzeit zu veröffentlichen, bleibt alles andere Spekulation.
Phishing-Schutz: 86% der KI-Angriffe erkennen Echtzeit-Systeme
Der Mobilfunkanbieter LG Uplus hat im vergangenen Jahr 33.000 gefährdete Nutzer identifiziert und dadurch geschätzte Verluste von 1,8 Billionen Won durch die Implementierung eines Echtzeitanalyse-Systems zur Erkennung von Phishing-Angriffen verhindert. Dieses System erkennt bösartige Apps und Sprachphishing und leitet die Informationen direkt an die Polizei weiter. Zudem bietet LG Uplus seit Juli einen KI-gestützten Roaming-Dienst an, der kostenlose Telefonate in Japan ermöglicht und bis Ende des Jahres auf 100 Länder ausgeweitet werden soll. Ein Bericht des Sicherheitsunternehmens KnowBe4 zeigt, dass 86 Prozent aller Phishing-Angriffe mittlerweile KI-gestützt sind, was die Dringlichkeit für Unternehmen unterstreicht, gezielte Awareness-Kampagnen zu starten. Der Telekommunikationskonzern KT plant, 12 Billionen Won in IT-Sicherheit und KI-Infrastruktur zu investieren, während SK Telecom Fortschritte in diesem Bereich erzielt. LG AI Research arbeitet zudem an einem System zur Unterstützung der nationalen Polizeibehörde bei der Erstellung von Haftbefehlen. Staatliche Initiativen zur Verbesserung von Betrugserkennungssystemen und zur Identifizierung von Steuerhinterziehung verdeutlichen die wachsende Bedeutung von KI in der Sicherheitslandschaft.
ALZAI Health Corp. und Centauri Health Solutions schließen strategische Vermarktungsvereinbarung zur Ausweitung der KI-gestützten Ermittlung des Alzheimer-Risikos in den Vereinigten Staaten
ALZAI Health Corp. hat eine strategische Partnerschaft mit Centauri Health Solutions geschlossen, um die KI-gestützte Identifizierung von Alzheimer-Risiken in den USA zu erweitern. Centauri bringt wertvolle Beziehungen zu Gesundheitsdienstleistern und Versicherungen ein, während ALZAI seine innovative Technologie zur Risikostratifizierung bereitstellt. Gemeinsam entwickeln sie ein System zur frühzeitigen Erkennung von Patienten mit hohem Risiko für nicht diagnostizierte Alzheimer-Erkrankungen. Diese Kooperation zielt darauf ab, die Einführung von ALZAIs Technologie im Medicare Advantage und anderen wertorientierten Versorgungsmodellen zu beschleunigen. Laut CEO Hayim Raclaw ist die frühzeitige Erkennung von Risikopatienten eine entscheidende klinische und wirtschaftliche Priorität, da über sieben Millionen Menschen in den USA an Alzheimer leiden. Die Partnerschaft soll die proaktive Erkennung von Krankheiten im Gesundheitssystem zugänglicher und skalierbarer machen und entspricht ALZAIs Vision, ein bedeutendes medizinisches Bedürfnis zu adressieren und an zukunftsweisenden Entwicklungen in Prävention und KI-gestützter Entscheidungsfindung teilzuhaben.