KI-Sicherheit

Der KI-Assistent Claude ist jetzt auch für Linux-Nutzer verfügbar, was eine wichtige Erweiterung für Anthropic darstellt, da er nun auf allen drei großen Betriebssystemen zugänglich ist. Die Beta-Version unterstützt offiziell Ubuntu und Debian und kann über ein spezielles apt-Repository installiert werden. Allerdings fehlen der Linux-Version noch einige wesentliche Funktionen, wie die „Computer Use"-Funktion und die Spracheingabe, was insbesondere Entwickler, die auf Sprachsteuerung angewiesen sind, vor Herausforderungen stellt. Neu in der Claude-Code-Umgebung ist ein integrierter Browser, der es Entwicklern ermöglicht, Dokumentationen und Repositories direkt in der Anwendung zu nutzen, was den Arbeitsablauf verbessert. Zudem wurde ein Nutzungs-Dashboard namens „Reflect“ eingeführt, das detaillierte Statistiken zur Interaktion mit dem KI-Assistenten bietet und Tipps zur besseren Nutzung gibt. Anthropic hat auch sein Angebot für den öffentlichen Sektor erweitert, indem es eine Beta-Version von Claude Code und Claude Cowork für US-Behörden bereitstellt, die spezielle Funktionen für mehr Transparenz und Sicherheit bietet.

Am 9. Juli 2026 stellte OpenAI die neuen KI-Modelle GPT-5.6 Sol, Terra und Luna vor, die zuvor in einer begrenzten Vorschau getestet wurden. Diese Modelle bieten eine klare Strukturierung, die Entwicklern hilft, die passende Wahl zu treffen, und führen eine neue Preisstruktur ein, die schnellere Verarbeitung für Sol Fast ermöglicht. Sol wird als das leistungsfähigste Modell für komplexe Aufgaben wie Sicherheitsforschung positioniert, während Terra und Luna kostengünstigere Alternativen darstellen. Alle Modelle sind mit hohen Risiken in Bezug auf Cyber- und biologische Fähigkeiten klassifiziert und verfügen über fortschrittliche Sicherheitsarchitekturen zur Missbrauchsverhinderung. Tests zeigen, dass Sol 96,7 % der internen Capture-the-Flag-Herausforderungen löst, jedoch keine autonomen Angriffe durchführen kann. OpenAI hebt die verbesserte Effizienz der Modelle pro Token und Dollar hervor, was sie für verschiedene Anwendungen attraktiver macht. Nutzer sind eingeladen, die Modelle in ihren Arbeitsabläufen zu testen und eigene Erfahrungen zu sammeln.

Der Artikel „Why meaningful human control matters more as AI and autonomy advance“ thematisiert die veränderte Rolle des Menschen in sicherheitskritischen Branchen durch den Fortschritt von Künstlicher Intelligenz und Automatisierung. Anstatt die Kontrolle zu verlieren, ist es entscheidend, dass Menschen aktiv in Entscheidungsprozesse eingebunden werden, insbesondere in kritischen Situationen, die schnelles Handeln erfordern. Dies erfordert eine durchdachte Systemgestaltung, die den menschlichen Betreibern Autorität, Situationsbewusstsein und ausreichend Zeit für fundierte Entscheidungen bietet. Die Gestaltung von Schnittstellen und Informationspräsentationen ist hierbei zentral, um komplexe Situationen schnell erfassbar zu machen. Der Artikel hebt hervor, dass menschliche Kontrolle nicht nur durch Notfallmechanismen sichergestellt werden kann, sondern im Designprozess integriert werden muss. Ein Beispiel aus der Luftfahrt verdeutlicht, wie durch Investitionen in Ausbildung und Systemdesign effektive menschliche Kontrolle erreicht werden kann. Abschließend wird betont, dass Organisationen aus realen Erfahrungen lernen und ihre Systeme kontinuierlich verbessern sollten, um Sicherheit und Effizienz zu steigern.

Das Unisys Innovation Program (UIP) hat die Gewinner seiner 17. Wettbewerbsrunde bekannt gegeben, die sich auf die Effizienzsteigerung von KI, den Zugang zu medizinischen Diagnosen und die Sicherheit von Unternehmens-KI konzentrierte. Über 27.000 Teilnehmer nahmen an dem Wettbewerb teil, der Ingenieurstudenten praktische Erfahrungen bieten soll. Der erste Platz ging an das RV College of Engineering für ein Projekt, das die Rechenanforderungen von Deep-Learning-Modellen optimiert, ohne die Genauigkeit zu beeinträchtigen. Das MS Ramaiah Institute of Technology belegte den zweiten Platz mit einem tragbaren, strahlungsfreien Diagnosesystem zur Analyse von Gewebeschwingungen. Das RV College sicherte sich zudem den dritten Platz mit einem Sicherheitsframework für den verantwortungsvollen Einsatz von großen Sprachmodellen. Die Jury bewertete die Projekte nach Machbarkeit, Kreativität und technischem Können. Die Veranstaltung bot wertvolle Einblicke von Branchenexperten und förderte wichtige Fähigkeiten für die zukünftige Arbeitswelt. Unisys hebt hervor, dass das Programm eine Plattform zur Förderung von Innovation und Problemlösungsfähigkeiten darstellt.

Mistral AI hat mit Robostral Navigate ein innovatives KI-Modell entwickelt, das Roboter mithilfe einer einzigen RGB-Kamera und Sprachbefehlen navigiert, ohne auf Lidar oder mehrere Kameras angewiesen zu sein. Mit einer Erfolgsrate von 76,6 Prozent in unbekannten Umgebungen übertrifft es frühere Einzelkamera-Ansätze sowie Systeme mit Tiefensensoren. Das Modell nutzt eine Technik namens Pointing zur Bestimmung von Zielkoordinaten im Kamerabild und kann lokale Koordinatenverschiebungen vornehmen, was die Robustheit erhöht. Trainiert in simulierten Umgebungen, verbessert eine neuartige Trainingsmethode die Effizienz des Modells. Mistral plant, Robostral Navigate in verschiedenen Robotertypen einzusetzen, was potenziell die Hardwarekosten senken könnte. Dennoch bleibt abzuwarten, wie sich der kamerabasierte Ansatz in sicherheitskritischen Anwendungen bewährt. Das Unternehmen betrachtet dies als ersten Schritt in Richtung umfassender Embodied Agents und erweitert sein Robotik-Team, um langfristig in diesem Bereich aktiv zu sein.

Immer mehr Amerikaner suchen medizinische Ratschläge bei KI-Chatbots, da die Kosten für Arztbesuche unerschwinglich geworden sind. Eine Umfrage zeigt, dass 25 Prozent der Erwachsenen in den USA diese Technologie nutzen, wobei besonders 53 Prozent der Generation Z darauf zurückgreifen. Menschen mit niedrigem Einkommen sind häufiger auf KI angewiesen, was die finanziellen Hürden im Gesundheitswesen verdeutlicht. Experten warnen jedoch vor der Sicherheit und Genauigkeit der Ratschläge von Chatbots, da diese oft den individuellen Kontext eines Patienten nicht berücksichtigen können. Studien belegen, dass in etwa der Hälfte der Fälle problematische Empfehlungen gegeben werden, obwohl Chatbots in bestimmten Bereichen, wie Impfungen, besser abschneiden. Trotz dieser Bedenken wird KI auch für nicht-diagnostische Informationen, wie die Klärung von Gesundheitsversicherungen oder medizinischen Rechnungen, genutzt. Der Anstieg der Nutzung von KI in der Medizin korreliert mit der Tatsache, dass 44 Prozent der Amerikaner Schwierigkeiten haben, die Gesundheitskosten zu tragen.

Der neue föderierte Lernalgorithmus ermöglicht eine private, robuste und schnelle Entwicklung von KI-Anwendungen. Durch die dezentrale Datenverarbeitung werden sensible Informationen der Nutzer geschützt, während gleichzeitig die Effizienz und Genauigkeit von KI-Modellen verbessert wird. Der Algorithmus nutzt innovative Techniken, um die Kommunikation zwischen den Geräten zu optimieren und die Rechenlast zu verteilen. Dies führt zu einer schnelleren Modellanpassung und -verbesserung, ohne dass Daten zentralisiert werden müssen. Die Ergebnisse zeigen, dass dieser Ansatz nicht nur die Privatsphäre der Nutzer wahrt, sondern auch die Robustheit der KI-Systeme erhöht, indem er sie widerstandsfähiger gegen Angriffe und Manipulationen macht. Insgesamt stellt dieser Algorithmus einen bedeutenden Fortschritt in der Entwicklung von KI dar, der sowohl ethische als auch technische Herausforderungen adressiert.

Cato Networks hat während des 2. jährlichen APJ Partner Summit 2026 in Phuket, Thailand, die Gewinner seiner Partnerpreise bekannt gegeben, um herausragende Leistungen in der Kundenbetreuung und im Geschäftswachstum zu würdigen. Die exklusive Veranstaltung förderte Networking und den Austausch von Strategien zur Verbesserung der Cybersicherheit in einer von KI geprägten Welt. Cato unterstützt die Einführung seiner SASE-Plattform durch flexible Geschäftsmodelle, die eine schnellere Skalierung und Selbstbedienung ermöglichen, was den Beschaffungsprozess beschleunigt und die Kundengewinnung optimiert. Karl Soderlund, globaler Channel-Chef, hob die Rolle der Partner für die Resilienz und Sicherheit der Kunden angesichts zunehmender KI-gestützter Bedrohungen hervor. Zu den ausgezeichneten Partnern zählen KDDI CORPORATION und SoftBank Corp. in Japan sowie Netpoleon Solutions Pte Ltd und Sify Technologies in der APAC-Region.

In der aktuellen Folge des heise-security-Podcasts wird eine alarmierende Entwicklung in der IT-Sicherheit behandelt: Malware, die Anleitungen zum Bau von Atomwaffen enthält, und ein neuer Wurm aus der Shai-Hulud-Familie, der KI nutzt, um Sicherheitsmaßnahmen zu umgehen. Diese Themen verdeutlichen die Gefahren des Technologie-Missbrauchs. Zudem werden Herausforderungen im Bereich der Public-Key Infrastructure (PKI) erörtert, insbesondere Änderungen der Geschäftsbedingungen von Zertifizierungsstellen und die Komplexität von Zertifikatsketten. Ein weiteres Thema sind die „Geister-Sender“ bei Microsoft, die trotz öffentlichem Druck nicht effektiv bekämpft werden. Positiv wird die neue Android-Funktion hervorgehoben, die gefälschte Anrufe erkennt und somit die Sicherheit der Nutzer erhöhen könnte. Insgesamt bietet der Podcast einen umfassenden Überblick über aktuelle Sicherheitsfragen und Entwicklungen in der digitalen Welt.

Die Prognosen zur künstlichen Intelligenz (KI) deuten darauf hin, dass die Investitionen in die notwendige Infrastruktur bis 2029 auf 11,1 Billionen Dollar ansteigen werden, mit jährlichen Ausgaben, die bis 2028 die 2-Billionen-Dollar-Marke überschreiten. Diese Entwicklung begünstigt nicht nur Chiphersteller wie Nvidia, sondern auch die gesamte Halbleiter-Lieferkette, einschließlich Unternehmen, die Speicherchips und Produktionsanlagen herstellen. Die Finanzierung dieser Infrastruktur erfolgt durch langfristige Verträge, die als Sicherheit für Kredite dienen und ein neues Finanzierungsmodell für die KI-Computing-Infrastruktur schaffen. Trotz der damit verbundenen Risiken könnte die anhaltende Nachfrage nach KI-Investitionen die Branche weiter ankurbeln. Langfristige Verträge mit großen Cloud-Anbietern bieten zudem eine bessere Sichtbarkeit auf zukünftige Einnahmen, was das Vertrauen in die Marktstabilität stärkt. Insgesamt zeigt sich, dass der Investitionszyklus im KI-Bereich noch lange nicht abgeschlossen ist und die Infrastruktur eine zentrale Rolle spielt, während Softwareanwendungen oft im Vordergrund stehen.

Die Deutsche Bahn plant, die Kommunikation mit ihren Fahrgästen durch den Einsatz von Künstlicher Intelligenz (KI) zu optimieren. Konzernchefin Evelyn Palla kündigte ein neues Sofortprogramm an, das Teil eines umfassenden Maßnahmenpakets ist, das auch die Sicherheit und Sauberkeit an Bahnhöfen sowie den Komfort in Fernzügen umfasst. Geplant sind der Einsatz zusätzlicher Sicherheitskräfte und Reinigungspersonal sowie eine Verdopplung der Bahnhöfe, die einen Frühjahrsputz erhalten. Zudem sollen jährlich 20 Millionen Euro in die Verbesserung des Komforts in Zügen investiert werden, um die Verfügbarkeit von Bord-Restaurants und sanitären Anlagen zu erhöhen. Palla hebt hervor, dass die Verbesserung der Kundenkommunikation entscheidend ist, um Fahrgäste über Verspätungen und Gleiswechsel zeitnah zu informieren. Trotz dieser Initiativen wird die Pünktlichkeit der Züge voraussichtlich nicht sofort steigen, und Palla warnt, dass es Jahre dauern könnte, bis die Zuverlässigkeit der Züge wiederhergestellt ist.

Joshua Achiam, der Chief Futurist von OpenAI, verlässt das Unternehmen nach fast neun Jahren, was einen weiteren bedeutenden Abgang inmitten von Führungsherausforderungen und rechtlichen Problemen darstellt. Sein Weggang erfolgt zu einem kritischen Zeitpunkt, da OpenAI unter Druck von Wettbewerbern und Investoren steht, was Bedenken hinsichtlich des Engagements des Unternehmens für die Sicherheit von KI aufwirft. Achiam spielte eine zentrale Rolle in der Sicherheitsforschung und erlangte kürzlich Aufmerksamkeit durch seine Aussage im Prozess Musk gegen Altman, die interne Debatten über Sicherheit und Kommerzialisierung beleuchtete. Sein Austritt könnte auf mögliche Veränderungen in den Prioritäten von OpenAI hinweisen, insbesondere angesichts zunehmender Spannungen zwischen Sicherheitsforschern und Produktteams. Die Abgänge hochrangiger Führungskräfte, einschließlich des Mitbegründers Ilya Sutskever, verringern die technische Expertise des Unternehmens. Die Zukunft der Rolle des Chief Futurist bleibt ungewiss, und die Entscheidung von OpenAI, diese Position zu besetzen oder aufzulösen, könnte Aufschluss darüber geben, wie das Unternehmen kommerzielles Wachstum und Sicherheitsaspekte in Einklang bringt. Achiams Abgang wirft Fragen zur Richtung der KI-Branche auf, insbesondere zur Bedeutung langfristiger Sicherheitsforschung in einem zunehmend wettbewerbsorientierten Umfeld.

Utah hat als erster US-Bundesstaat einem KI-Chatbot namens Doctronic die Erneuerung von Rezepten ohne ärztliche Aufsicht erlaubt, was durch eine regulatorische Sandbox ermöglicht wurde. Diese Entscheidung hat eine kontroverse Debatte über die Sicherheit und Standards von KI im Gesundheitswesen ausgelöst, insbesondere nachdem die medizinische Lizenzierungsbehörde des Staates erst nach dem Start des Programms im Januar informiert wurde und im April eine sofortige Einstellung forderte. Kritiker warnen vor den Risiken, die mit der automatischen Erneuerung von Medikamenten, insbesondere von potenziell gefährlichen Arzneimitteln, verbunden sind. Obwohl der Staat das Programm nicht gestoppt hat, da menschliche Ärzte in der ersten Phase jede Erneuerung überprüfen, gibt es Bedenken hinsichtlich der zukünftigen Pläne von Doctronic für vollständig automatisierte Erneuerungen. Die Diskussion wird zusätzlich durch die Tatsache verstärkt, dass die FDA bisher keine KI-Chatbots genehmigt hat, während gleichzeitig eine Tendenz zur Lockerung der Aufsicht über KI-Gesundheitswerkzeuge zu beobachten ist.

In der aktuellen Forschung wurde ein bedeutender Sicherheitslücke in verschiedenen KI-Plattformen identifiziert und angegangen. Experten haben Methoden entwickelt, um diese Schwachstellen zu schließen, die potenziell missbraucht werden könnten, um vertrauliche Daten zu stehlen oder Systeme zu manipulieren. Die neuen Ansätze zielen darauf ab, die Robustheit von KI-Modellen zu erhöhen und deren Widerstandsfähigkeit gegenüber Angriffen zu verbessern. Durch die Implementierung dieser Sicherheitsmaßnahmen können Entwickler und Unternehmen das Risiko von Cyberangriffen minimieren und das Vertrauen in KI-Technologien stärken. Die Forschung hebt die Notwendigkeit hervor, Sicherheitsaspekte von Anfang an in den Entwicklungsprozess von KI-Systemen zu integrieren, um zukünftige Bedrohungen proaktiv zu adressieren.

Mitsui O.S.K. Lines (MOL) und IBM Japan haben eine KI-gestützte Plattform entwickelt, die die Entscheidungsfindung bei Schiffsoperationen optimiert. Die Plattform, die am 1. Juli 2026 in Betrieb genommen wurde, integriert zuvor verstreute Informationen wie Wetterbedingungen, Navigationsstatus und geopolitische Entwicklungen. Durch die zentrale Verwaltung dieser Daten kann die Plattform kritische Informationen schnell identifizieren, was die Geschwindigkeit und Qualität der Entscheidungen erhöht. Angesichts der komplexen Bedingungen im maritimen Umfeld unterstützt die Plattform das MOL Safety Operation Supporting Center (SOSC) bei der effizienten Entscheidungsfindung. Die Nutzung von generativer KI ermöglicht die Echtzeit-Erkennung von Risiken und die Überwachung der Schiffsbewegungen. Zukünftig plant die MOL-Gruppe, die Funktionalität des Systems weiter auszubauen, um die Sicherheit in der gesamten Schifffahrtsbranche zu verbessern.

In Utah wurde das automatisierte Rezeptauffüllungsprogramm Doctronic eingeführt, das es Bewohnern ermöglicht, ihre Rezepte online über einen KI-Chatbot zu erneuern, ohne einen Arzt aufsuchen zu müssen. Diese Innovation hat jedoch Bedenken bei Ärzten und Gesundheitsexperten ausgelöst, die Fragen zur Regulierung und Sicherheit aufwerfen. Kritiker argumentieren, dass KI nicht die gleiche medizinische Lizenz wie Menschen erhalten sollte und fordern strenge Standards für die Verschreibung von Medikamenten. Obwohl Doctronic von einem Gremium von KI-Spezialisten überwacht wird, äußern Ärzte Bedenken, dass automatisierte Auffüllungen insbesondere bei Medikamenten mit potenziellen Nebenwirkungen gefährlich sein können. In anderen Bundesstaaten wird ebenfalls über die Regulierung von KI im Gesundheitswesen diskutiert, und einige Gesetze zur Lizenzierung von KI-Diensten sind in Planung. Die FDA hat bisher keine KI-Chatbots genehmigt, was zu Unsicherheiten über die zukünftige Regulierung führt. Experten warnen, dass die unregulierte Ausweitung solcher Technologien das Vertrauen der Öffentlichkeit gefährden könnte.

In der aktuellen Diskussion über künstliche Intelligenz (KI) gewinnen Philosophen an Bedeutung, da Unternehmen sie engagieren, um komplexe ethische und moralische Herausforderungen zu bewältigen, die über technische Lösungen hinausgehen. Diese Philosophen bringen wertvolle Erkenntnisse aus jahrzehntelanger Forschung zu rationalen Entscheidungen und Bewusstsein in die KI-Entwicklung ein, was zu einem Abfluss von Talenten aus der akademischen Welt führt. Ihre zentrale Aufgabe ist es, das "Alignment"-Problem zu lösen, um gefährliche Inhalte zu vermeiden, was sich als komplexer herausstellt als erwartet. Anstelle einfacher Regeln setzen Unternehmen auf philosophische Analysen, um Konzepte von Gut und Böse zu verstehen. Zudem arbeiten Philosophen daran, Halluzinationen und Vorurteile in KI-Modellen zu minimieren und die Frage des Maschinenbewusstseins zu erörtern. Trotz vielversprechender Ansätze gibt es Bedenken, dass die enge Zusammenarbeit zwischen Philosophie und Industrie die Forschung verzerren könnte, um den Interessen der Technologieunternehmen zu dienen. Die Fragen nach Bewusstsein und Moral in der KI bleiben somit drängend und die Antworten darauf sind weiterhin ungewiss.

In Utah wurde ein KI-Programm namens Doctronic eingeführt, das es Bewohnern ermöglicht, Rezeptnachfüllungen online über einen Chatbot zu beantragen, ohne einen Arzt aufsuchen zu müssen. Diese Innovation hat eine kontroverse Debatte unter Ärzten und Gesundheitsexperten ausgelöst, die Bedenken hinsichtlich der Sicherheit und der regulatorischen Rahmenbedingungen äußern. Kritiker argumentieren, dass die bestehenden Gesetze, die das Verschreiben von Medikamenten auf lizenzierte Fachkräfte beschränken, nicht auf KI-Technologien anwendbar sind und aktualisiert werden müssen. Während Doctronic derzeit von einem Gremium von KI-Spezialisten überwacht wird, gibt es Sorgen, dass die Automatisierung zu Risiken für Patienten führen könnte, insbesondere bei Medikamenten mit gefährlichen Nebenwirkungen. Einige Ärzte fordern strengere Regulierungen, die den Standards für menschliche Ärzte entsprechen. In anderen Bundesstaaten wie Texas und Wyoming werden ähnliche Regelungen für KI im Gesundheitswesen erlassen, was einen nationalen Trend andeutet. Die FDA hat bislang keine spezifischen Genehmigungen für KI-Chatbots erteilt, was zu einer unsicheren regulatorischen Situation führt und das Vertrauen der Öffentlichkeit gefährden könnte.