Gedächtnis & Langkontext

Der Artikel "The Context Window Is Not Memory: A New Agent Architecture" kritisiert die verbreitete Annahme, dass die Erweiterung des Kontextfensters eine Lösung für die Gedächtnisproblematik von KI-Agenten darstellt. Die Autoren argumentieren, dass diese Praxis eine gefährliche Illusion erzeugt, da mehr Speicherplatz nicht zwangsläufig zu besseren Ergebnissen führt. Stattdessen wird ein mehrschichtiges Gedächtnisarchitekturmodell vorgeschlagen, das es KI-Agenten ermöglicht, über Interaktionen hinweg zu lernen, zu schlussfolgern und sich an vergangene Erfahrungen zu erinnern. Der Vergleich mit Computerhardware zeigt, dass das Kontextfenster, ähnlich wie der flüchtige Arbeitsspeicher, nicht für langfristige Speicherung geeignet ist. Um wirklich intelligente Agenten zu entwickeln, ist es entscheidend, Systeme zu implementieren, die über temporäre Lösungen hinausgehen und echtes, dauerhaftes Lernen fördern.

Am 4. September 2023 fiel der S&P 500 um 0,4%, während die Aktien von Sandisk und Micron stark anstiegen, was auf ein wachsendes Interesse an Speicheranbietern für KI-Systeme hinweist. Sandisk verzeichnete einen Anstieg von 11,9%, während Micron um 6,1% zulegte. Sandisk profitiert von der steigenden Nachfrage nach Unternehmensspeicher, während Micron sowohl Hochgeschwindigkeits- als auch konventionellen Speicher liefert und im dritten Quartal einen Umsatz von 41,46 Milliarden Dollar erzielte. Trotz dieser positiven Entwicklungen gibt es Bedenken hinsichtlich der zyklischen Natur der Branche und der Möglichkeit, dass die Margen schneller als erwartet normalisiert werden könnten. Das Interesse von Hedgefonds an beiden Unternehmen ist gestiegen, was auf eine positive Marktstimmung hindeutet. Die zukünftige Entwicklung hängt jedoch von den Preis- und Vertragsbedingungen in einem sich verändernden Marktumfeld ab, was sowohl Chancen als auch Risiken für die Unternehmen mit sich bringt.

In der Analyse von Micron Technology und Sandisk, zwei führenden Unternehmen im Speicherchip-Sektor, wird deutlich, dass beide von der wachsenden Nachfrage nach Speicherlösungen, insbesondere für Datenzentren im Bereich künstliche Intelligenz, profitieren. Diese Nachfrage hat zu einem signifikanten Mangel an Speicher geführt, was die Preise und Gewinne beider Firmen stark ansteigen ließ. Im vierten Quartal 2026 verzeichnete Sandisk einen Umsatzanstieg von 372 % auf 8,9 Milliarden Dollar, während Micron im dritten Quartal 2026 einen Umsatz von fast 41,5 Milliarden Dollar und einen Anstieg von 345 % erzielte. Beide Unternehmen haben optimistische Zukunftsaussichten, profitieren vom wachsenden NAND-Speichermarkt und werden von Analysten als Kauf empfohlen. Micron wird jedoch als die bessere Investitionsmöglichkeit angesehen, da es eine breitere Produktpalette bietet, höhere Gewinnmargen erzielt (87 % im Bereich Datenzentren) und sowohl DRAM- als auch NAND-Speicher vertreibt.

In seiner Präsentation "Beyond Prompting: Context Engineering for Production-Grade AI" erläutert Ricardo Ferreira die Bedeutung von "Context Engineering" in der Entwicklung von KI-Anwendungen. Er teilt seine Erfahrungen mit dem Open-Source-Projekt Agent Memory Server (AMS), das auf Redis basiert und eine effiziente Speicherschicht für Kurz- und Langzeitgedächtnis bietet. Ferreira beschreibt die Herausforderungen, die bei der Integration eines großen Sprachmodells (LLM) in Alexa auftraten, insbesondere in Bezug auf Kontextverwirrung und -verfall. Um diese Probleme zu adressieren, setzte er Techniken wie Kontext-Reranking und semantisches Caching ein, um die Relevanz und Effizienz der Antworten zu steigern. Zudem hebt er hervor, dass die Kosten für LLM-Nutzung stark ansteigen können, wenn der Kontext nicht optimal verwaltet wird, und entwickelt Strategien zur Kostenkontrolle. Abschließend betont Ferreira, dass Context Engineering ein unverzichtbarer Bestandteil der Architektur für KI-Anwendungen ist, die menschenähnliche Interaktionen ermöglichen sollen.

ChangXin Memory Technologies (CXMT) hat mit der Produktion von LPDDR6-Speicher einen bedeutenden Schritt gemacht und damit Samsung und SK Hynix überholt. Diese Leistung wurde am 29. August bekannt gegeben, als CXMT das erste Gerät mit diesem neuen Speicher, das Xiaomi 18 Fold, präsentierte. Interessanterweise wurde dies auf einer 16nm DUV-Linie ohne den Einsatz von EUV-Technologie erreicht. Trotz der medialen Aufmerksamkeit, die Chinas Fortschritt in diesem Bereich erhält, ist die langfristige Bedeutung dieser Entwicklung im Kontext des globalen Chipkriegs begrenzt. CXMT fehlt der Zugang zu entscheidenden Maschinen, die für die Herstellung führender Speichertechnologien notwendig sind. Diese Situation verdeutlicht, dass der Wettbewerb im Halbleitersektor nicht nur von technologischen Erfolgen abhängt, sondern auch stark von der Verfügbarkeit und dem Zugang zu fortschrittlicher Fertigungstechnologie geprägt ist.

Tencent hat sein neues KI-Modell 770B vorgestellt und dabei offen über dessen Schwächen gesprochen, wie überlange Argumentationsketten und übermäßige Selbstverifikation. Diese ehrliche Selbstkritik ist bemerkenswert, da sie im Gegensatz zu den üblichen Praktiken steht, bei denen Schwächen oft verschwiegen werden. Trotz der beeindruckenden technischen Spezifikationen, die 770 Milliarden Parameter und ein Kontextfenster von über einer Million Tokens umfassen, wurde die Transparenz in der Berichterstattung kaum gewürdigt. Stattdessen lag der Fokus darauf, dass das Modell Hy4 in technischen Aufgaben besser abschneidet als die Konkurrenten GLM-5.3 und Kimi K3. Tencent könnte mit dieser Strategie langfristig das Vertrauen in seine Marke stärken, indem es eine neue Kultur der Offenheit in der KI-Entwicklung fördert.

CXMT, Chinas führender DRAM-Hersteller, hat einen bemerkenswerten Gewinnanstieg von 11,5 Milliarden US-Dollar verzeichnet, nachdem das Unternehmen jahrelang Verluste hinnehmen musste. Dieser Erfolg ist auf das Wachstum im Speicherbereich zurückzuführen und stellt CXMT vor neue Herausforderungen und Chancen. Die steigende Nachfrage nach Hochleistungs-Speicherlösungen, insbesondere im Kontext der Künstlichen Intelligenz, könnte CXMT in eine Schlüsselposition im globalen Speicher-Markt katapultieren. Die strategischen Entscheidungen, die das Unternehmen nun trifft, werden nicht nur seine eigene Marktstellung beeinflussen, sondern auch die gesamte Branche in China und darüber hinaus prägen. Die Auswirkungen dieser Entscheidungen sind entscheidend für die zukünftige Entwicklung des DRAM-Marktes und anderer Speichertechnologien in den kommenden Jahren.