Speicher & Netzwerke

Der Markt für AI Switch CPO Fiber Attach Systems wird bis 2036 voraussichtlich auf 1.654,3 Millionen USD anwachsen, mit einer jährlichen Wachstumsrate von 10,2 %. Diese Entwicklung wird durch die steigende Nachfrage nach höherer Bandbreite und Portdichte bei AI-Switches gefördert, was die Anforderungen an die optische Konnektivität erhöht. Südkorea führt den Markt mit einer CAGR von 11,6 %, gefolgt von Deutschland mit 10,1 %. Nationale Programme und technologische Fortschritte spielen eine entscheidende Rolle in diesen Ländern. Die Einführung neuer Technologien, wie die dritte Generation von CPO-Technologie von Broadcom, verbessert die Effizienz der optischen Anbindung und verringert optische Verluste. Regionale Unterschiede in der Stromverfügbarkeit und Genehmigungsverfahren beeinflussen jedoch die Bereitstellung von Datenzentren. Unternehmen wie Molex und Lumentum arbeiten an Innovationen, um Herausforderungen in der Herstellung und im Service von CPO-Systemen zu bewältigen. Um die Qualität und Zuverlässigkeit der Produkte zu gewährleisten, müssen die Marktteilnehmer ihre Fertigungsprozesse optimieren.

Der Artikel "Stop Buying Macs for LLMs by RAM. Buy by Bandwidth" argumentiert, dass bei der Auswahl von Hardware für die Nutzung von großen Sprachmodellen (LLMs) nicht nur der Arbeitsspeicher (RAM) entscheidend ist, sondern vor allem die Bandbreite der Datenübertragung. Der Autor weist darauf hin, dass viele Nutzer beim Kauf von Macs für LLM-Anwendungen oft den Fokus auf die RAM-Kapazität legen, während die Netzwerkgeschwindigkeit und -bandbreite eine ebenso wichtige Rolle spielen. Eine hohe Bandbreite ermöglicht schnellere Datenübertragungen und eine effizientere Verarbeitung von Anfragen, was für die Leistung von LLMs entscheidend ist. Der Artikel empfiehlt, bei der Hardware-Auswahl die gesamte Infrastruktur zu berücksichtigen, um optimale Ergebnisse zu erzielen.

SINTRONES Technology präsentiert auf der VISION 2026 fortschrittliche KI-gestützte Bildverarbeitungslösungen für die Prüfung von Elektronik und Halbleitern. Die neuen Edge-KI-Computing-Plattformen ermöglichen eine hochauflösende Fehlererkennung und automatisierte optische Inspektion, die für die immer kleineren und komplexeren Bauteile unerlässlich sind. Um den steigenden Anforderungen an Rechenleistung und Datendurchsatz gerecht zu werden, setzt das Unternehmen auf Technologien wie Deep Learning und 3D-Bildverarbeitung. Zu den vorgestellten Systemen gehören die ABOX-5221 und ABOX-5222E, die eine verbesserte thermische Effizienz und skalierbare GPU-Erweiterungen bieten, um die Leistung ohne thermische Drosselung zu gewährleisten. Darüber hinaus werden kompakte Plattformen für die Echtzeit-3D- und Mehrkamera-Bildverarbeitung vorgestellt, die eine flexible Anwendung in verschiedenen industriellen Umgebungen ermöglichen.

Der Artikel beleuchtet die zunehmende Relevanz von Speichertechnologien im KI-Computing, insbesondere im Kontext der Kosten von High Bandwidth Memory (HBM) im Vergleich zu GPU-HBM CoWoS-Paketen. Mit dem Preis von HBM, der sich dem halben Preis eines GPU-HBM CoWoS-Pakets annähert, wird die Frage aufgeworfen, ob Speicher weiterhin als passive Komponente angesehen werden kann. Diese Entwicklung könnte die bisherigen Annahmen über die Rolle des Speichers in der KI-Technologie infrage stellen. Der Autor thematisiert zudem die "Speicherwand", ein seit fast fünf Jahrzehnten bestehendes Problem in der Halbleiterentwicklung. Veränderungen in der Speicherarchitektur könnten demnach erhebliche Auswirkungen auf die Effizienz und Leistungsfähigkeit von KI-Anwendungen haben und die Balance zwischen Speicher und Logik neu definieren.

Der globale Markt für Co-Packaged Optics (CPO) wird bis 2035 auf 2,40 Milliarden US-Dollar anwachsen, mit einer jährlichen Wachstumsrate von 34,7% zwischen 2026 und 2035. Dieses Wachstum wird durch die steigende Nachfrage nach KI-Datenzentren, 800G- und 1,6T-Netzwerken sowie energieeffizienten Verbindungen angetrieben. CPO-Architekturen verbessern die Bandbreite, Signalintegrität und Energieeffizienz, indem sie optische Motoren näher an Schalt-Silizium bringen. Unternehmen wie Broadcom und NVIDIA spielen eine Schlüsselrolle bei der Kommerzialisierung von CPO durch die Entwicklung neuer Technologien und Standards. In Japan wird die Entwicklung von Multikernfaser-Spezifikationen gefördert, um den Anforderungen der KI-Datenzentren gerecht zu werden. Die Branche bewegt sich in Richtung offener Standards und Multi-Vendor-Ökosysteme, um die Interoperabilität zu verbessern. Herausforderungen in der Herstellung umfassen die enge Integration von optischen und elektrischen Komponenten sowie das Management von Wärme und Ausbeute.