Wat is opslag met hoge bandbreedte en waarom blokkeert de VS China?

Wat is opslag met hoge bandbreedte en waarom blokkeert de VS China?

De Amerikaanse regering heeft nieuwe exportcontroles opgelegd aan China op de verkoop van hightech geheugenchips die worden gebruikt in toepassingen voor kunstmatige intelligentie (AI). Deze regels zijn van invloed op zowel in de VS gemaakte high-bandwidth memory (HBM)-technologieën als in het buitenland gemaakte chips. Hier is alles wat u moet weten over deze baanbrekende halfgeleiders, waarvan de vraag enorm is gestegen naast de wereldwijde hype rond AI.

Wat is opslag met hoge bandbreedte (HBM)?

Geheugen met hoge bandbreedte (HBM) bestaat in feite uit een stapel geheugenchips, kleine componenten die gegevens opslaan. HBM kan aanzienlijk meer informatie opslaan en gegevens veel sneller overbrengen dan de oudere technologie genaamd DRAM (Dynamic Random Access Memory).

HBM-chips worden veel gebruikt in grafische kaarten, krachtige computersystemen, datacentra en autonome voertuigen. Het belangrijkste is dat ze essentieel zijn voor steeds populairder wordende AI-toepassingen, waaronder generatieve AI. Deze worden aangedreven door AI-processors, zoals grafische verwerkingseenheden (GPU's) vervaardigd door bedrijven als Nvidia en Advanced Micro Devices (AMD).

"De processor en het geheugen zijn twee essentiële componenten voor AI. Zonder geheugen is het alsof je een brein hebt met logica maar geen geheugen", zegt G. Dan Hutcheson, vice-president van TechInsights, een onderzoeksorganisatie die gespecialiseerd is in chips.

Welke gevolgen hebben de beperkingen voor China?

De jongste Exportbeperkingen, aangekondigd op 2 december, volgt op twee eerdere rondes van wetgeving met betrekking tot geavanceerde chips door de regering-Biden van de afgelopen drie jaar. Het doel is om de toegang van China tot cruciale technologie die het land een militair voordeel zou kunnen opleveren, te blokkeren.

Als vergelding heeft Peking nieuwe beperkingen opgelegd aan de export van germanium, gallium en andere materialen die nodig zijn om halfgeleiders en andere hightech apparaten te maken. Deskundigen zijn het erover eens dat de nieuwe exportbeperkingen de Chinese ontwikkeling van AI-chips zullen vertragen en, in het beste geval, de toegang tot HBM zullen vertragen. Hoewel het vermogen van China om HBM te produceren momenteel achterblijft bij dat van de Zuid-Koreaanse SK Hynix en Samsung en het Amerikaanse Micron, ontwikkelt het land zijn eigen capaciteiten op dit gebied.

“De Amerikaanse exportbeperkingen zouden op korte termijn de toegang van China tot HBM van hoge kwaliteit beperken”, zegt Jeffery Chiu, CEO van Ansforce, een deskundig netwerkadviesbureau gespecialiseerd in technologie. “Op de lange termijn zal China echter zelfstandig HBM kunnen blijven produceren, ook al werkt het met minder geavanceerde technologieën.” In China zijn Yangtze Memory Technologies en Changxin Memory Technologies de leidende fabrikanten van geheugenchips en lijken de productiecapaciteit van de HBM-lijn uit te breiden om hun strategische doel van technologische zelfvoorziening te bereiken.

Waarom is HBM zo belangrijk?

HBM-chips zijn zo krachtig vergeleken met conventionele geheugenchips, vooral vanwege hun grotere opslagruimte en aanzienlijk snellere gegevensoverdracht. Omdat AI-toepassingen veel complexe berekeningen vereisen, zorgen deze functies ervoor dat deze toepassingen soepel werken, zonder vertragingen of storingen.

Grotere opslagruimte betekent dat er meer gegevens kunnen worden opgeslagen, overgedragen en verwerkt, waardoor de prestaties van AI-applicaties worden verbeterd omdat grote taalmodellen (LLM) met meer parameters kunnen werken. Denk aan de hogere snelheid van gegevensoverdracht, of de hogere bandbreedte in chiptaal, zoals op een snelweg: hoe meer rijstroken een snelweg heeft, hoe kleiner de kans op congestie, en hoe meer voertuigen er plaats kunnen vinden.

"Het is net het verschil tussen een snelweg met twee rijstroken en een snelweg met honderd rijstroken. Je hebt gewoon geen files", zei Hutcheson.

Wie zijn de toonaangevende fabrikanten?

Momenteel domineren slechts drie bedrijven de mondiale HBM-markt. In 2022 was Hynix goed voor 50% van het totale marktaandeel voor HBM, gevolgd door Samsung met 40% en Micron met 10%, aldus een onderzoek. Onderzoeksnota, uitgegeven door het in Taipei gevestigde marktonderzoeksbureau TrendForce. Verwacht wordt dat beide Zuid-Koreaanse bedrijven in 2023 en 2024 vergelijkbare aandelen op de HBM-markt zullen hebben, wat hen een totaal van ongeveer 95% zou opleveren.

Micron streeft ernaar zijn HBM-marktaandeel te vergroten tot tussen de 20% en 25% in 2025, meldt het officiële Taiwanese persbureau, onder verwijzing naar Praveen Vaidyanatha, een directeur van Micron. De hoge waarde van HBM heeft ertoe geleid dat alle fabrikanten een aanzienlijk deel van hun productiecapaciteit hebben geconcentreerd op de meer geavanceerde geheugenchip. Volgens Avril Wu, senior research vice-president bij TrendForce, wordt verwacht dat HBM vanaf 2024 naar waarde meer dan 20% van de totale markt voor commodity-geheugenchips zal vertegenwoordigen en volgend jaar mogelijk boven de 30% zal stijgen.

Hoe wordt HBM geproduceerd?

Stel je een aantal standaard geheugenchips voor die in lagen op elkaar zijn gestapeld, vergelijkbaar met een hamburger. Dit is in grote lijnen hoe de structuur van HBM eruit ziet. Op het eerste gezicht klinkt dit vrij eenvoudig, maar het is allesbehalve eenvoudig uit te voeren, wat ook terug te zien is in de prijs. De verkoopprijs per eenheid HBM is meerdere malen hoger dan die van conventionele geheugenchips.

Dit komt omdat de hoogte van een HBM-chip ongeveer gelijk is aan zes mensenharen. Dit betekent dat elke laag standaard geheugenchips die op elkaar wordt gestapeld extreem dun moet zijn, wat een hoog niveau van productie-expertise vereist, ook wel geavanceerde verpakkingen genoemd.

"Elk van deze geheugenchips moet tot een halve haardikte worden gemalen voordat ze op elkaar worden gestapeld, wat erg moeilijk is", zei Chiu. Bovendien worden er gaten in deze geheugenchips geboord voordat ze op elkaar worden gemonteerd, zodat elektrische draden er doorheen kunnen. De positie en grootte van deze gaten moeten uiterst nauwkeurig zijn.

"Je hebt veel meer faalpunten als je deze apparaten probeert te maken. Het is bijna alsof je een kaartenhuis bouwt", merkte Hutcheson op.