Training

Der Artikel „The Hidden Engineering Behind Every AI Model: Storage, Compute, and the Data Pipeline Nobody Talks…” beleuchtet die oft übersehene Ingenieurskunst, die für die Entwicklung von KI-Modellen entscheidend ist. Der Autor, ein Computer-Ingenieur, hebt hervor, dass etwa 80% der Zeit und Ressourcen in die Infrastruktur fließen, die für das Sammeln, Verarbeiten und Speichern von Daten sowie für die Bereitstellung und Überwachung der Modelle notwendig ist. Die Datenpipeline wird als zentrales Element beschrieben, das sicherstellt, dass qualitativ hochwertige Daten kontinuierlich bereitgestellt werden. Zudem wird die Herausforderung der Speicherung und des Zugriffs auf große Datenmengen thematisiert. Ein weiterer wichtiger Aspekt ist die effiziente Compute-Orchestrierung, die erforderlich ist, um die zahlreichen GPUs für das Training synchron zu steuern. Der Artikel schließt mit der Erkenntnis, dass der Erfolg von KI-Anwendungen nicht nur von den Algorithmen abhängt, sondern vor allem von der Robustheit der zugrunde liegenden Infrastruktur, die oft nicht die nötige Aufmerksamkeit erhält.

Das Start-up PrismML hat ein innovatives KI-Modell mit 27 Milliarden Parametern entwickelt, das auf iPhones, insbesondere dem iPhone 17 Pro, betrieben werden kann. Diese Technologie unterstützt Apples Ziel, Künstliche Intelligenz lokal auf Geräten zu verarbeiten und somit Datenschutzbedenken zu minimieren. PrismML hat das chinesische Open-Source-Modell Qwen 3.6 erfolgreich komprimiert, sodass es nur 4 GByte Speicher benötigt, ohne die Qualität zu beeinträchtigen. Das Unternehmen erwartet, dass in drei Jahren bis zu 95 Prozent der KI-Leistung lokal auf Smartphones verfügbar sein werden, was die Abhängigkeit von Cloud-Diensten verringern könnte. Diese Entwicklung könnte für Investoren in Rechenzentren problematisch sein, da die Inferenz von KI-Anfragen zunehmend auf lokale Geräte verlagert wird, während das Training weiterhin auf leistungsstarke Rechenzentren angewiesen bleibt. Erste Gespräche zwischen PrismML und Apple über eine mögliche Zusammenarbeit haben bereits stattgefunden, was die Bedeutung dieser Technologie unterstreicht.

Wissenschaftler haben mithilfe von künstlicher Intelligenz versteckte langsame Bewegungen unter Kaliforniens San Andreas Fault entdeckt, die zuvor weitgehend unbemerkt blieben. Diese Bewegungen, die über Stunden oder Tage Stress abbauen, könnten eine größere Rolle bei der Erdbebenaktivität spielen, als bislang angenommen. Unter der Leitung von Dr. Zahra Zali analysierten die Forscher Daten von hochsensiblen Borehole-Strainmetern und entwickelten ein Deep-Learning-System zur Mustererkennung. Die Ergebnisse zeigen, dass diese langsamen Gleitevents mit niederfrequenten Erdbeben in Verbindung stehen, was darauf hindeutet, dass sie die lokalen Stressbedingungen beeinflussen können. Obwohl die Studie nicht beweist, dass diese Bewegungen direkt massive Erdbeben auslösen, deuten die Ergebnisse darauf hin, dass sie im Erdbebenzyklus eine Rolle spielen könnten. Diese Entdeckung erweitert das Verständnis von Fehlbewegungen, die nicht nur in Subduktionszonen, sondern auch an Transformationsfehlern wie dem San Andreas Fault vorkommen. Die Forscher sind überzeugt, dass ähnliche Phänomene auch an anderen Fehlern weltweit auftreten und weiter untersucht werden sollten.

Anthropic hat die Beta-Version von Claude Reflect, einem KI-Analyse-Dashboard, eingeführt, das Nutzern Einblicke in ihr Verhalten beim Einsatz des KI-Assistenten Claude bietet. Das Dashboard ermöglicht eine Analyse der Nutzung über verschiedene Zeiträume und zeigt Muster sowie die Häufigkeit der Interaktionen an. Es kategorisiert die Nutzung nach Themen und Aufgabentypen und plant, in zukünftigen Versionen eine spezifische Zeitmessung zu integrieren. Ein zentrales Ziel von Claude Reflect ist die Förderung einer bewussten Nutzung von KI, indem Funktionen zur Vermeidung übermäßiger Abhängigkeit, wie Ruhezeiten und Erinnerungen an Pausen, implementiert werden. Das Dashboard wurde in Zusammenarbeit mit renommierten Institutionen entwickelt und folgt einem Rahmenwerk, das Nutzern helfen soll, ihre Eingaben zu verbessern und die Ergebnisse kritisch zu bewerten. Die Beta-Version ist für Nutzer der Tarife Free, Pro und Max verfügbar und legt großen Wert auf Datenschutz, indem sichergestellt wird, dass gesammelte Daten nicht für das Training der KI-Modelle verwendet werden.

Der Artikel „AI Is Killing the Training Ground for Entry-Level Workers“ beleuchtet die negativen Auswirkungen der Automatisierung auf die Ausbildungsmöglichkeiten für Berufseinsteiger. Seit Januar 2024 sind die Stellenangebote für Einstiegspositionen um 29 Prozent gesunken, was auf eine wirtschaftliche Abkühlung und eine grundlegende Veränderung des Arbeitsmarktes hinweist. Automatisierung hat nicht nur Routineaufgaben übernommen, sondern auch den Lernprozess junger Arbeitnehmer beeinträchtigt, da einfache Aufgaben, die zur Entwicklung von Urteilsvermögen beitragen, fehlen. Während Millennials schrittweise mit steigenden Anforderungen konfrontiert wurden, sieht sich die Generation Z einer beschleunigten Anforderung Inflation gegenüber. Viele junge Arbeitnehmer mit Studentenschulden verschieben wichtige Lebensentscheidungen, was ihre berufliche Entwicklung einschränkt. Zudem mangelt es an Mentoren, da erfahrene Mitarbeiter oft mit der Verwaltung automatisierter Systeme beschäftigt sind. Der Artikel fordert Unternehmen auf, aktiv Bedingungen zu schaffen, die es Einsteigern ermöglichen, die notwendigen Fähigkeiten zu entwickeln und somit ihre berufliche Zukunft zu sichern.

Am 8. Juli 2026 stellte die Alibaba-Gruppe in Zusammenarbeit mit Gaode das Phys AI Data-System vor, das als erste umfassende Datenbasis für das Training und die Anwendung von physikalischer KI konzipiert ist. Das System besteht aus zwei Hauptkomponenten: Phys AI Foundry und Phys AI Map. Phys AI Foundry konzentriert sich auf die Simulationstraining und bietet eine integrierte Datenfabrik, die reale Datensammlungen, synthetische Daten und Simulationen kombiniert, um hochwertige Trainingsdaten für Roboter bereitzustellen. Diese Daten helfen, Herausforderungen im Modelltraining zu bewältigen, indem sie Millionen von Stunden an präzisen Datensätzen bereitstellen. Phys AI Map fungiert als "räumliches Gedächtnis" für Roboter, indem es eine semantische Karte erstellt, die es ihnen ermöglicht, ihre Umgebung zu verstehen und sicher zu navigieren. Diese Karte identifiziert wichtige Informationen wie Baustellen und schlecht beleuchtete Bereiche. Das Phys AI Data-System ist nun für die gesamte Branche der körperlichen Intelligenz zugänglich und erleichtert Unternehmen den Zugang zu umfangreichen Trainingsdaten, ohne dass sie eigene teure Datensammlungen durchführen müssen.

Pim de Witte, CEO von General Intuition, vertritt die Ansicht, dass Videospieldaten eine überlegene Grundlage für das Training von Künstlicher Intelligenz (KI) bieten im Vergleich zu Internetdaten. Er betont, dass große Sprachmodelle wie ChatGPT und Claude Schwierigkeiten haben, räumliche und zeitliche Bewegungen zu verstehen, was jedoch entscheidend für die Entwicklung von künstlicher allgemeiner Intelligenz (AGI) ist. General Intuition, ein von Jeff Bezos unterstütztes Startup mit einem Wert von 2,3 Milliarden Dollar, hat kürzlich 320 Millionen Dollar von Investoren wie Coatue und Eric Schmidt erhalten. De Witte erläutert in einem Podcast, dass Weltmodelle, die auf Videospieldaten basieren, möglicherweise den nächsten bedeutenden Fortschritt in der physischen KI darstellen könnten. Das Unternehmen, das aus der Gaming-Plattform Medal TV hervorgegangen ist, beschäftigt sich zudem mit den ethischen Implikationen der KI-Nutzung, insbesondere im Hinblick auf mögliche Verteidigungsanwendungen.

HubSpot hat innerhalb von nur vier Tagen nach der Ankündigung eines neuen KI-Features, das Kundendaten zur Identifizierung von Verkaufschancen nutzen sollte, den Plan zurückgezogen. Der ursprüngliche Ansatz sah vor, dass Kundendaten standardmäßig verwendet werden, was zu erheblichem Protest führte. Die Kunden waren weniger gegen die KI selbst, sondern vielmehr gegen die fehlende Zustimmung zur Datenverwendung, da sie ihre Daten als Eigentum betrachteten. In Reaktion auf den Widerstand änderte HubSpot die Standardeinstellung auf "Opt-out", was bedeutete, dass Nutzer aktiv abmelden mussten, um nicht einbezogen zu werden. Dieser schnelle Rückzug verdeutlicht, dass Softwareunternehmen in einem wettbewerbsintensiven Markt weniger Spielraum haben, um Bedingungen zu diktieren, da Kunden mittlerweile viele Alternativen haben. Der Vorfall zeigt, dass SaaS-Unternehmen sorgfältig abwägen müssen, wie sie KI mit Kundendaten speisen, ohne das Vertrauen ihrer Nutzer zu gefährden. HubSpot hat erkannt, dass die Verwendung von "Opt-out" in der heutigen Zeit problematisch ist.

AI Profit Consulting, gegründet von Paul Bocco, hat sein AI Automation Consulting Training Program erweitert, um Fachleuten zu helfen, wiederkehrende Einnahmequellen durch Beratungsdienste für kleine und mittelständische Unternehmen aufzubauen. Das Programm bietet praktische Schulungen und Strategien zur Implementierung von AI-gestützten Lösungen, die insbesondere für Dienstleistungsunternehmen wie Handwerker und lokale Anbieter von Bedeutung sind. Angesichts der steigenden Nachfrage nach Effizienzsteigerung und Prozessoptimierung in Unternehmen, konzentriert sich das Training auf die Anwendung von AI-Tools in Bereichen wie Kundenkommunikation und Workflow-Automatisierung. Teilnehmer lernen, ihre Dienstleistungen effektiv zu vermarkten und nachhaltige Geschäftsmodelle zu entwickeln. Mit über 25 Jahren Erfahrung in der Unternehmensentwicklung bringt Bocco wertvolles Wissen in das Programm ein. Die Ausbildung umfasst zudem eine achtwöchige Coaching-Phase, die Bildung, Implementierung und Gemeinschaftsunterstützung vereint. AI Profit Consulting zielt darauf ab, Fachleute auf die wachsende Nachfrage nach Automatisierungsberatung vorzubereiten und ihnen die erforderlichen Fähigkeiten zu vermitteln.

Bespoke Labs, ein Startup aus Mountain View, hat in einer Series A-Finanzierungsrunde 40 Millionen Dollar gesammelt, um Trainingsumgebungen für KI-Agenten zu entwickeln. Diese Agenten können zwar kurze Aufgaben erledigen, haben jedoch Schwierigkeiten mit komplexeren, mehrstufigen Arbeitsabläufen. Das Unternehmen plant, simulierte Unternehmensumgebungen zu schaffen, in denen Agenten lernen, ihre Effizienz zu steigern. Mithilfe eines internen Optimierungstools namens GEPA wird die Leistung der Agenten gemessen und verbessert. Gegründet von Mahesh Sathiamoorthy und Alex Dimakis, verfolgt Bespoke einen akademischen Ansatz und betrachtet den Aufbau dieser Umgebungen als Forschung. Die Fähigkeit der Agenten, längere Aufgaben zu bewältigen, verdoppelt sich alle sieben bis vier Monate, was eine kontinuierliche Anpassung der Trainingsumgebungen erfordert. Während viele Wettbewerber an der Zuverlässigkeit von Agenten arbeiten, glaubt Bespoke, dass die Qualität der Trainingsumgebung entscheidend für den Erfolg in der Produktion ist. Die Frage, ob bessere Umgebungen größere Modelle übertreffen können, bleibt jedoch offen und könnte die zukünftige Finanzierung des Unternehmens beeinflussen.

Das Cambridge-Startup Worldmodeldata hat 7 Millionen Pfund an Seed-Finanzierung erhalten, um aus Spieldaten Trainingsdaten für KI-Modelle zu entwickeln. Unter der Leitung von Iona Star Capital plant das Unternehmen, eine Datenbank mit spielgenerierten Trainingsdaten, sogenannten Weltmodellen, zu erstellen, die dazu dienen, Umgebungsänderungen zu verstehen und vorherzusagen. Die Daten werden durch Lizenzvereinbarungen mit Spieleentwicklern und -gemeinschaften gewonnen, was die Qualität der Daten sicherstellt. Diese Informationen sind entscheidend für die Entwicklung von KI-Systemen, die in komplexen Umgebungen, wie bei autonomen Fahrzeugen, Entscheidungen treffen müssen. Gründerin Rhea Loucas hebt hervor, dass große Datensätze für das Training dieser Modelle unerlässlich sind. Die Finanzierung wird verwendet, um die Produktentwicklung voranzutreiben, das Team zu erweitern und neue Lizenzvereinbarungen abzuschließen, mit dem Ziel, bis Ende nächsten Jahres eine Bibliothek mit einer Million Stunden Trainingsdaten aufzubauen.

In einer aktuellen Änderung der Datenschutzeinstellungen hat Google die Möglichkeit eingeführt, mehr Nutzerdaten zu speichern, um seine KI-Modelle zu verbessern. Diese Anpassung, die im Juni per E-Mail angekündigt wurde, führt dazu, dass Nutzer standardmäßig in die erweiterte KI-Trainingseinstellung optiert werden, es sei denn, sie lehnen dies aktiv ab. Die neuen Optionen sind unter "Suchdienste-Historie" und "Personalisierte Empfehlungen" zu finden und ermöglichen es den Nutzern, zu steuern, wie ihre Aktivitäten zur Personalisierung ihrer Google-Erfahrung verwendet werden. Diese Änderungen betreffen nicht nur die Google-Suche, sondern auch andere Dienste wie Maps und Translate, wobei hochgeladene Medien zur KI-Entwicklung genutzt werden können. Google bestätigt, dass gespeicherte Medien zur Verbesserung seiner Dienste verwendet werden. Nutzer können jedoch ihre Einstellungen anpassen, indem sie die Option "Medien speichern" abwählen oder Löschfristen für gespeicherte Daten festlegen. Zuvor konnten Nutzer ihre gespeicherten Suchdaten über "Web & App-Aktivität" verwalten, was nun in separate Einstellungen unterteilt wurde.

Die Institute of Singapore Chartered Accountants (ISCA) und die Infocomm Media Development Authority (IMDA) haben das AIxAccountancy-Programm ins Leben gerufen, um Fachleute im Rechnungswesen und in der Unternehmensfinanzierung im Umgang mit KI-Tools zu schulen. Ziel des Programms ist es, den Teilnehmern das Wissen und Vertrauen zu vermitteln, KI verantwortungsvoll in ihren Berufen einzusetzen. AIxAccountancy ist Teil einer umfassenden Initiative von ISCA, die innerhalb von drei Jahren 60.000 Fachkräfte weiterbilden möchte. Bereits über 20.000 Interessierte haben sich vor der offiziellen Einführung gemeldet, was die hohe Nachfrage nach KI-Trainings unterstreicht. Das Programm wird kostenlos für ISCA-Mitglieder sowie für Bürger und ständige Einwohner Singapurs angeboten, einschließlich Studenten lokaler Hochschulen. Es wird in zwei Phasen durchgeführt, wobei die Teilnehmer zunächst grundlegende Kompetenzen erwerben, bevor sie zu fortgeschritteneren Anwendungen übergehen. Der Lehrplan umfasst gängige KI-Tools wie ChatGPT und Copilot und wird regelmäßig aktualisiert. ISCA-Präsident Lee Boon Teck hebt hervor, dass AIxAccountancy eine nationale Initiative zur Transformation des Berufsstands darstellt, die darauf abzielt, den Fachleuten Fähigkeiten zu vermitteln, um einen größeren Wert für Unternehmen und die Gesellschaft zu schaffen.

Der Artikel "Entropy, Cross-Entropy, and KL Divergence in LLM Training" beleuchtet die wesentlichen Konzepte von Entropie, Kreuzentropie und KL-Divergenz im Kontext des Trainings von Sprachmodellen. Diese mathematischen Größen sind entscheidend für das Verständnis des Lernprozesses von Modellen, insbesondere in Bezug auf Überanpassung und Entscheidungsfindung. Durch präzise Definitionen wird es möglich, Trainingskurven effektiver zu interpretieren, die Temperatur der Modelle zu optimieren und geeignete Ziele für das Reinforcement Learning mit menschlichem Feedback (RLHF) auszuwählen. Der Autor argumentiert, dass das Verständnis dieser Konzepte nicht nur theoretische Relevanz hat, sondern auch praktische Auswirkungen auf die Anwendung und das Debugging von Modellen. Der Artikel bietet somit eine wertvolle Grundlage, um die Zusammenhänge zwischen diesen Größen und der Leistung von Sprachmodellen zu erkennen und gezielt zu nutzen.

Das Cambridge-Startup Worldmodeldata hat 7 Millionen Pfund gesammelt, um Gameplay-Daten aus Videospielen in Trainingsdaten für Künstliche Intelligenz (KI) umzuwandeln. Ziel ist die Entwicklung eines sogenannten Weltmodells, das vorhersagen kann, wie sich Umgebungen durch Interaktionen verändern. Hierfür lizenziert das Unternehmen Spielaufnahmen und Engine-Daten aus Titeln, die auf Unreal und Unity basieren, um strukturierte Datensätze zu erstellen. Obwohl Worldmodeldata plant, bis Ende 2026 eine Million Stunden Gameplay-Daten zu sammeln, hat es bislang keine finalisierten Kundenverträge und keine Einnahmen. Die Gründerin Rhea Loucas hebt hervor, dass das Unternehmen als neutraler Anbieter fungiert und Daten an verschiedene Labore verkauft, die an physischer KI, Robotik und selbstfahrenden Autos arbeiten. In einem wettbewerbsintensiven Markt sieht sich Worldmodeldata der Herausforderung gegenüber, mit besser finanzierten Konkurrenten Schritt zu halten, während es gleichzeitig die europäische Initiative für souveräne KI unterstützt. Die Fähigkeit des zehnköpfigen Teams, die ambitionierten Ziele zu erreichen, bleibt abzuwarten.