Adaptive Speicherbandbreite für mobile KI

Samsung Electronics hat die Validierung seines 16-GB-LPDDR6-Speichermoduls auf der mobilen Plattform Snapdragon 8 Elite Extreme Gen 6 von Qualcomm Technologies bekannt gegeben. Die Hardware-Integration adressiert die steigenden Bandbreiten- und Energieeffizienzanforderungen komplexer On-Device-Workloads der künstlichen Intelligenz (KI), insbesondere der Inferenz großer Sprachmodelle (LLMs) und persistenter multimodaler KI-Agenten.

Datenbewegungen und Bandbreitenanforderungen für Edge-KI
Mobile Computing-Architekturen entwickeln sich von der Ausführung eigenständiger KI-Funktionen mit nur einem Zweck hin zur Verwaltung persistenter, kontextsensitiver KI-Agenten. Während der LLM-Inferenz auf einem Mobilgerät muss der Systemprozessor kontinuierlich auf massive Modellgewichte und Schlüssel-Wert-Cache-Daten (KV-Cache) zugreifen, die im Systemspeicher gespeichert sind. Wenn diese generativen Modelle wachsen und Benutzerinteraktionen länger werden, wird die physische Bewegung von Daten zwischen dem Speicher und dem Prozessor zu einem erheblichen Rechenengpass.

Samsung hat die LPDDR6-Architektur entwickelt, um diese Datenbewegungsbeschränkungen direkt abzumildern. Das Speichermodul verwendet eine erweiterte Eingangs-/Ausgangs-Architektur (I/O) und höhere Übertragungsgeschwindigkeiten pro Pin, um eine Gesamtspeicherbandbreite von bis zu 114 GB/s zu liefern. Bei I/O-Geschwindigkeiten von bis zu 10,7 Gbps ermöglicht dieser erhöhte Durchsatz dem mobilen System-on-Chip (SoC), die erforderlichen KI-Verarbeitungsdaten schneller abzurufen, was die Latenz für reaktionsschnelle, generative Aufgaben auf dem Gerät reduziert.

Adaptive Leistungsskalierung und Datenzuverlässigkeit
Während eine hohe Bandbreite für KI-Verarbeitungsspitzen erforderlich ist, wechseln mobile Workloads häufig zwischen intensiven Inferenzaufgaben und leichteren Hintergrundoperationen. Die Bewältigung dieser Schwankungen innerhalb einer strengen thermischen Hülle für Mobilgeräte erfordert eine dynamische Leistungsregulierung.

Der Samsung LPDDR6 integriert die dynamische Spannungs- und Frequenzskalierung (DVFS) sowie einen neuen Dynamic Efficiency Mode (DEM). DVFS moduliert die Betriebsspannung und die Taktfrequenz aktiv auf der Grundlage unmittelbarer Leistungsanforderungen, während DEM den Stromverbrauch im Leerlauf oder bei geringer Auslastung aggressiv senkt. Dieser kombinierte adaptive Ansatz verbessert die Gesamtenergieeffizienz um bis zu 21 Prozent im Vergleich zur vorherigen LPDDR5X-Generation, was verhindert, dass der Speicher unnötig Spitzenleistung bezieht, und die Batterielebensdauer verlängert.

Darüber hinaus erhöht eine intensive und lang andauernde KI-Verarbeitung die Häufigkeit der Aktivierung von Speicherzeilen, was zu Dateninterferenzen oder Datenverschlechterung führen kann. Um die Zuverlässigkeit zu gewährleisten, integriert LPDDR6 die Per-Row Activation Counting (PRAC). Dieser Mechanismus überwacht aktiv die wiederholte Aktivierung bestimmter Speicherzeilen, um mögliche Interferenzmuster zu verwalten und abzuschwächen, was die Datenintegrität bei anhaltender multimodaler Verarbeitung sicherstellt.

Plattformvalidierung
Speichertechnologie erfordert eine Systemoptimierung mit dem SoC, um die Stabilität zu gewährleisten. Die erfolgreiche Validierung des 16-GB-LPDDR6 auf dem Snapdragon 8 Elite Extreme Gen 6 markiert die branchenweit erste LPDDR6-Validierung auf einer mobilen Plattform der nächsten Generation und bestätigt die Bereitschaft des Speichers für den kommerziellen Einsatz in fortschrittlichen KI-fähigen Smartphones und Edge-Geräten.

Zusätzlicher Kontext
In diesem Abschnitt werden technische Spezifikationen und Wettbewerbsvergleiche aufgeführt, die nicht in der ursprünglichen Pressemitteilung enthalten sind.

Der Übergang zum LPDDR6-Standard (formalisiert durch die JEDEC) ist hart umkämpft von den drei wichtigsten globalen Speicherherstellern: Samsung, SK Hynix und Micron, neben aufstrebenden Wettbewerbern wie ChangXin Memory Technologies (CXMT) aus China.

Während Samsung die erste SoC-Level-Validierung auf Qualcomms Snapdragon-Plattform erreicht hat, hat SK Hynix vor Kurzem die Entwicklung seines eigenen 1c-Prozess- (10-nm-Klasse) LPDDR6-Speichers abgeschlossen. Die anfänglichen LPDDR6-Module von SK Hynix entsprechen der validierten Basisgeschwindigkeit von 10,7 Gbps von Samsung, wobei die Massenproduktion für die zweite Hälfte des Jahres 2026 geplant ist. Gleichzeitig steht CXMT kurz vor der F&E-Validierung für eine LPDDR6-Iteration, die auf eine Designspezifikation von 12,8 Gbps abzielt.

Da der physische LPDDR6-Standard so ausgelegt ist, dass er letztendlich auf bis zu 14,4 Gbps skaliert werden kann, sind frühe Meilensteine bei der Hardwarevalidierung wie der von Samsung von entscheidender Bedeutung. Der Übergang von der 16-Bit-Kanalbreite von LPDDR5X zur dualen 12-Bit-Unterkanal-Schnittstelle (insgesamt 24 Bit) von LPDDR6 – bei gleichzeitiger Senkung der Basisbetriebsspannung auf 0,9 V/1,0 V – erfordert ein enges Co-Engineering zwischen dem Speicherlieferanten und dem Entwickler mobiler Prozessoren. Durch die direkte Validierung seines 10,7-Gbps-Siliziums auf der Snapdragon-Architektur sichert sich Samsung einen deutlichen Time-to-Market-Vorteil gegenüber Wettbewerbern, die noch dabei sind, interne Die-Validierungen und Vorbereitungen für die Massenproduktion abzuschließen.

Bearbeitet von Aishwarya Mambet, Induportals-Redakteurin, mit Unterstützung von KI.

www.samsung.com