Hvad er lagring med høj båndbredde, og hvorfor blokerer USA Kina?

Hvad er lagring med høj båndbredde, og hvorfor blokerer USA Kina?

Den amerikanske regering har indført ny eksportkontrol på salget af højteknologiske hukommelseschips, der bruges i kunstig intelligens (AI) applikationer til Kina. Disse regler påvirker både USA-fremstillede high-bandwidth memory (HBM) teknologier og udenlandsk fremstillede chips. Her er alt, hvad du behøver at vide om disse banebrydende halvledere, hvis efterspørgsel er steget voldsomt sammen med den globale hype omkring kunstig intelligens.

Hvad er High Bandwidth Storage (HBM)?

High-bandwidth memory (HBM) består grundlæggende af en stak hukommelseschips, små komponenter, der lagrer data. HBM kan lagre betydeligt mere information og overføre data meget hurtigere end den ældre teknologi kaldet DRAM (Dynamic Random Access Memory).

HBM-chips er meget udbredt i grafikkort, højtydende computersystemer, datacentre og autonome køretøjer. Vigtigst af alt er de essentielle for stadig mere populære AI-applikationer, herunder generativ AI. Disse er drevet af AI-processorer, såsom grafikbehandlingsenheder (GPU'er) fremstillet af virksomheder som Nvidia og Advanced Micro Devices (AMD).

"Processoren og hukommelsen er to væsentlige komponenter for kunstig intelligens. Uden hukommelse er det som at have en hjerne med logik, men uden hukommelse," siger G. Dan Hutcheson, vicepræsident for TechInsights, en forskningsorganisation, der har specialiseret sig i chips.

Hvordan påvirker restriktionerne Kina?

Den yngste Eksportrestriktioner, annonceret den 2. december, følger to tidligere runder af lovforslag relateret til avancerede chips af Biden-administrationen over de seneste tre år. Målet er at blokere Kinas adgang til kritisk teknologi, der kan give det en militær fordel.

Som gengældelse har Beijing indført nye restriktioner på eksport af germanium, gallium og andre materialer, der er nødvendige for at fremstille halvledere og andre højteknologiske enheder. Eksperter er enige om, at de nye eksportrestriktioner vil bremse Kinas udvikling af AI-chips og i bedste fald stoppe adgangen til HBM. Mens Kinas evne til at producere HBM i øjeblikket halter bagefter Sydkoreas SK Hynix og Samsung samt Amerikas Micron, udvikler landet sine egne muligheder på dette område.

"De amerikanske eksportrestriktioner vil begrænse Kinas adgang til HBM af høj kvalitet på kort sigt," sagde Jeffery Chiu, administrerende direktør for Ansforce, et ekspertnetværkskonsulentfirma med speciale i teknologi. "På lang sigt vil Kina dog fortsat være i stand til at producere HBM uafhængigt, selvom det arbejder med mindre avancerede teknologier." I Kina er Yangtze Memory Technologies og Changxin Memory Technologies de førende producenter af hukommelseschips og ser ud til at udvide HBM-linjens produktionskapacitet for at nå deres strategiske mål om teknologisk selvforsyning.

Hvorfor er HBM så vigtig?

HBM-chips er så kraftfulde sammenlignet med konventionelle hukommelseschips, primært på grund af deres større lagerplads og betydeligt hurtigere dataoverførsel. Da AI-applikationer kræver mange komplekse beregninger, sikrer disse funktioner, at disse applikationer fungerer problemfrit uden forsinkelser eller fejl.

Større lagerplads betyder, at flere data kan lagres, overføres og behandles, hvilket forbedrer ydeevnen af ​​AI-applikationer, da store sprogmodeller (LLM) er i stand til at arbejde med flere parametre. Tænk på den højere hastighed for dataoverførsel eller den højere båndbredde i chipsprog, som en motorvej: Jo flere baner en motorvej har, jo mindre sandsynlighed er der for overbelastning, og jo flere køretøjer kan den rumme.

"Det er ligesom forskellen mellem en to-sporet motorvej og en hundred-sporet motorvej. Du har bare ikke trængsel," sagde Hutcheson.

Hvem er de førende producenter?

I øjeblikket dominerer kun tre virksomheder det globale HBM-marked. I 2022 tegnede Hynix sig for 50 % af den samlede markedsandel for HBM, efterfulgt af Samsung med 40 % og Micron med 10 %, ifølge en Forskningsnotat, udgivet af det Taipei-baserede markedsundersøgelsesbureau TrendForce. Begge sydkoreanske virksomheder forventes at have lignende aktier på HBM-markedet i 2023 og 2024, hvilket vil give dem i alt omkring 95 %.

Micron sigter mod at øge sin HBM-markedsandel til mellem 20% og 25% inden 2025, rapporterer Taiwans officielle nyhedsbureau, med henvisning til Praveen Vaidyanatha, en Micron-direktør. HBMs høje værdi har fået alle producenter til at fokusere en betydelig del af deres produktionskapacitet på den mere avancerede hukommelseschip. Ifølge Avril Wu, senior research vice president hos TrendForce, forventes HBM at tegne sig for mere end 20% af det samlede commodity memory chip marked efter værdi fra 2024 og kan stige over 30% næste år.

Hvordan produceres HBM?

Forestil dig flere standardhukommelseschips stablet oven på hinanden i lag, der ligner en hamburger. Sådan ser HBM's struktur i bund og grund ud. Umiddelbart lyder dette ganske enkelt, men det er alt andet end nemt at implementere, hvilket også afspejles i prisen. Salgsprisen pr. enhed af HBM er flere gange højere end for konventionelle hukommelseschips.

Dette skyldes, at højden af ​​en HBM-chip er omtrent den samme som seks menneskehår. Det betyder, at hvert lag af standardhukommelseschips, der er stablet oven på hinanden, skal være ekstremt tyndt, hvilket kræver et højt niveau af fremstillingsekspertise kendt som avanceret emballage.

"Hver af disse hukommelseschips skal slibes til et halvt hårs tykkelse, før de stables oven på hinanden, hvilket er meget svært," sagde Chiu. Derudover bliver der boret huller i disse hukommelseschips, før de monteres oven på hinanden, så elektriske ledninger kan passere igennem. Placeringen og størrelsen af ​​disse huller skal være ekstremt præcis.

"Du har mange flere fejlpunkter, når du forsøger at lave disse enheder. Det er næsten som at bygge et korthus," bemærkede Hutcheson.