Deepfakes & Desinformation

OpenAI hat kürzlich Details zu seinem neuen Astra-Modell veröffentlicht, das als erstes großes Sprachmodell gilt, das die "kritische Cybersecurity-Schwelle" überschreitet. Astra kann unbekannte Sicherheitsanfälligkeiten in Computersystemen identifizieren und ausnutzen, ohne menschliche Anleitung. Um potenziellen Missbrauch zu verhindern, arbeitet OpenAI an Verbesserungen zur Erkennung und Verhinderung von Sicherheitsrisiken und plant, den Zugang zu den fortschrittlichsten Funktionen des Modells einzuschränken. Trotz dieser Sicherheitsmaßnahmen bleibt die Effektivität der Vorkehrungen fraglich, da unabhängige Bestätigungen fehlen. In Tests konnte Astra bereits zwei Zero-Day-Sicherheitsanfälligkeiten aufdecken. Die Veröffentlichung des Modells erfolgt in einem Kontext wachsender Bedenken hinsichtlich der Sicherheit von KI, insbesondere nach einem Vorfall, bei dem OpenAI-Agenten private Daten abgerufen haben. OpenAI beabsichtigt, weitere Informationen zur Sicherheit und Bewertungen des Modells bereitzustellen, doch die Fragen zur tatsächlichen Sicherheit von Astra und den Maßnahmen gegen Missbrauch bleiben bestehen.

Hoocs AI hat ein neues Tool zur Transkription von TikTok-Videos vorgestellt, das es Nutzern ermöglicht, direkt aus Video-Links bearbeitbare Transkripte im Browser zu erstellen. Diese Funktion spart Zeit, da das Herunterladen der Videos entfällt. Neben TikTok werden auch Plattformen wie YouTube und Google Drive unterstützt, was die Effizienz bei der Inhaltsbearbeitung erhöht. Die Transkription hilft Nutzern, wichtige Informationen schnell zu finden und Aussagen strukturiert zu überprüfen. Zu den zusätzlichen Funktionen gehören mehrsprachige Transkription, die Erkennung mehrerer Sprecher und die Möglichkeit, Transkripte in verschiedenen Formaten zu exportieren. Diese Neuerungen sind besonders nützlich für Content-Ersteller, Marketing-Teams und Forscher, die auf präzise Informationen angewiesen sind. Zudem können Nutzer Zusammenfassungen und visuelle Mind Maps aus den Inhalten generieren, was die Organisation und Analyse von Informationen erleichtert.

Bright Security hat seine AI SDLC-Sicherheitsplattform erweitert und ein neues AI Pentesting-Modul (AI PT) eingeführt, um der zunehmenden Bedrohung durch KI-gestützte Angriffe zu begegnen. Das AI PT-Modul ermöglicht kontinuierliche Tests jeder Softwareversion, anstatt nur sporadische Penetrationstests durchzuführen, was die Lücke zwischen der Offenlegung und der Ausnutzung von Schwachstellen schließt. Mit speziell entwickelten Agenten wird die Angriffsfläche einer Organisation kartiert und Angriffe simuliert, um Schwachstellen zu identifizieren. Diese Methode basiert auf Brights bewährter DAST-Engine und führt zu einer schnelleren Erkennung von Sicherheitslücken sowie zu Kostensenkungen im Vergleich zu traditionellen Ansätzen. Die Lösung bietet flexible Testansätze und kann sowohl autonom als auch mit menschlicher Überprüfung betrieben werden. Bright Security zielt darauf ab, Unternehmen in der dynamischen AI-Ära eine zuverlässige und kosteneffiziente Sicherheitslösung zu bieten, die bereits von führenden globalen Finanz- und Versicherungsunternehmen eingesetzt wird.

In einem Gespräch mit C. M. Rubin reflektiert die bionische Künstlerin Viktoria Modesta über die Rolle von Künstlicher Intelligenz (KI) im Kontext menschlicher Identität. Sie betrachtet KI nicht nur als Automatisierungstool, sondern als "Prothese des Geistes", die unsere Emotionen und Intentionen widerspiegelt. Modesta, die selbst einen Prothesenarm trägt, sieht in der KI die Möglichkeit, gesellschaftliche Werte neu zu definieren und die Bedeutung von Intuition und emotionaler Tiefe hervorzuheben. Sie warnt vor der Gefahr der Uniformität durch KI-generierte Inhalte und ermutigt dazu, individuelle Erfahrungen zu schätzen. Ihr Projekt Metabodies nutzt KI, um vielfältige menschliche Identitäten zu visualisieren und traditionelle Darstellungen zu hinterfragen. Modesta betont, dass die jüngeren Generationen eine harmonische Verbindung von Mensch und Maschine erleben, was zu einer neuen Wertschätzung für Diversität führen könnte. Sie sieht in der KI eine Chance, menschliche Kreativität zu fördern und die Einzigartigkeit des Individuums zu betonen.

Die Überwachung von KI-generierten Content-Farmen durch NewsGuard zeigt einen alarmierenden Anstieg auf 3.749 in 16 Sprachen, was die Herausforderungen der Wahrheitsfindung für Leser verstärkt. Die kostengünstige Produktion plausibler Texte führt dazu, dass die Verantwortung für die Überprüfung der Inhalte zunehmend auf den Nutzern lastet. Ein neues Tool namens Backstory von Googles DeepMind verbessert die Effizienz der Faktensuche, indem es die Historie von Bildern analysiert und Anzeichen für KI-Inhalte identifiziert. Dennoch hat Backstory Schwierigkeiten, zwischen verschiedenen Individuen und großen Content-Farmen zu unterscheiden und ist auf bereits indizierte Inhalte beschränkt, was Verzögerungen mit sich bringt. Die endgültige Beurteilung bleibt in der Verantwortung des Menschen, während die Frage nach der Relevanz und rechtlichen Verantwortung der Detektoren offen bleibt. Die Herausforderung besteht darin, die Qualität der Inhalte zu sichern und gleichzeitig die kleinen Autoren nicht zu benachteiligen.

Ein britisches Forscherteam hat eine innovative KI entwickelt, die Herzleiden in nur zwei Sekunden anhand von EKG-Daten erkennen kann. Diese Software wurde mit Millionen von Herzkurven trainiert und kann bis zu 90 Prozent der Patienten mit Herzklappenerkrankungen identifizieren. Auf dem Kongress der Europäischen Gesellschaft für Kardiologie in München wurden die Ergebnisse präsentiert, wobei die KI 81 Prozent der Herzschwäche-Fälle korrekt erkannte. Die Technologie soll nicht den Ultraschall ersetzen, sondern Ärzten helfen, Hochrisiko-Patienten schneller zu identifizieren und ihnen zeitnah eine Echokardiogramm-Untersuchung anzubieten. Zudem kann die KI opportunistisch eingesetzt werden, um Herzkrankheiten bei Patienten zu diagnostizieren, die aus anderen Gründen ein EKG erhalten haben. Darüber hinaus zeigt die Software vielversprechende Ergebnisse bei der Erkennung von Diabetes und Nierenleiden. Um die Anwendung der Technologie weiter voranzutreiben, wurde sie in das Unternehmen Cardiovolt.ai ausgegründet.