Hva er lagring med høy båndbredde, og hvorfor blokkerer USA Kina?

Hva er lagring med høy båndbredde, og hvorfor blokkerer USA Kina?

Den amerikanske regjeringen har innført nye eksportkontroller for salg av høyteknologiske minnebrikker brukt i kunstig intelligens (AI)-applikasjoner til Kina. Disse reglene påvirker både USA-laget høybåndbredde-minne (HBM) teknologier og utenlandsk-produserte brikker. Her er alt du trenger å vite om disse banebrytende halvlederne, hvis etterspørsel har skutt i været sammen med den globale hypen rundt AI.

Hva er High Bandwidth Storage (HBM)?

High-bandwidth memory (HBM) består i utgangspunktet av en stabel med minnebrikker, små komponenter som lagrer data. HBM kan lagre betydelig mer informasjon og overføre data mye raskere enn den eldre teknologien kalt DRAM (Dynamic Random Access Memory).

HBM-brikker er mye brukt i grafikkort, høyytelses datasystemer, datasentre og autonome kjøretøy. Det viktigste er at de er avgjørende for stadig mer populære AI-applikasjoner, inkludert generativ AI. Disse er drevet av AI-prosessorer, for eksempel grafikkbehandlingsenheter (GPUer) produsert av selskaper som Nvidia og Advanced Micro Devices (AMD).

"Prosessoren og minnet er to essensielle komponenter for AI. Uten minne er det som å ha en hjerne med logikk, men uten minne," sa G. Dan Hutcheson, visepresident i TechInsights, en forskningsorganisasjon som spesialiserer seg på brikker.

Hvordan påvirker restriksjonene Kina?

Den yngste Eksportrestriksjoner, annonsert 2. desember, følger to tidligere runder med vedtak knyttet til avanserte brikker av Biden-administrasjonen de siste tre årene. Målet er å blokkere Kinas tilgang til kritisk teknologi som kan gi landet en militær fordel.

Som gjengjeldelse har Beijing innført nye restriksjoner på eksport av germanium, gallium og andre materialer som er nødvendige for å lage halvledere og andre høyteknologiske enheter. Eksperter er enige om at de nye eksportrestriksjonene vil bremse Kinas utvikling av AI-brikker og i beste fall stoppe tilgangen til HBM. Mens Kinas evne til å produsere HBM for tiden henger etter den til Sør-Koreas SK Hynix og Samsung samt Amerikas Micron, utvikler landet sine egne evner på dette området.

"De amerikanske eksportrestriksjonene vil begrense Kinas tilgang til høykvalitets HBM på kort sikt," sa Jeffery Chiu, administrerende direktør i Ansforce, et ekspertnettverkskonsulentselskap som spesialiserer seg på teknologi. "På lang sikt vil Kina imidlertid fortsette å være i stand til å produsere HBM uavhengig, selv om det fungerer med mindre avanserte teknologier." I Kina er Yangtze Memory Technologies og Changxin Memory Technologies de ledende minnebrikkeprodusentene og ser ut til å utvide HBM-linjeproduksjonskapasiteten for å nå deres strategiske mål om teknologisk selvforsyning.

Hvorfor er HBM så viktig?

HBM-brikker er så kraftige sammenlignet med konvensjonelle minnebrikker, først og fremst på grunn av deres større lagringsplass og betydelig raskere dataoverføring. Siden AI-applikasjoner krever mange komplekse beregninger, sikrer disse funksjonene at disse applikasjonene fungerer jevnt, uten forsinkelser eller feil.

Større lagringsplass betyr at flere data kan lagres, overføres og behandles, noe som forbedrer ytelsen til AI-applikasjoner ettersom store språkmodeller (LLM) er i stand til å jobbe med flere parametere. Tenk på den høyere hastigheten på dataoverføring, eller jo høyere båndbredde i brikkespråk, som en motorvei: Jo flere kjørefelt en motorvei har, jo mindre sannsynlig er det for overbelastning, og jo flere kjøretøyer kan den romme.

"Det er som forskjellen mellom en tofelts motorvei og en hundrefelts motorvei. Du har bare ikke overbelastning," sa Hutcheson.

Hvem er de ledende produsentene?

For tiden dominerer bare tre selskaper det globale HBM-markedet. I 2022 sto Hynix for 50 % av den totale markedsandelen for HBM, fulgt av Samsung med 40 % og Micron med 10 %, ifølge en Forskningsnotat, utgitt av det Taipei-baserte markedsundersøkelsesbyrået TrendForce. Begge sørkoreanske selskapene forventes å ha tilsvarende aksjer i HBM-markedet i 2023 og 2024, noe som vil gi dem totalt rundt 95 %.

Micron har som mål å øke sin HBM-markedsandel til mellom 20 % og 25 % innen 2025, rapporterer Taiwans offisielle nyhetsbyrå, som siterer Praveen Vaidyanatha, en Micron-leder. HBMs høye verdi har fått alle produsenter til å fokusere en betydelig del av sin produksjonskapasitet på den mer avanserte minnebrikken. I følge Avril Wu, senior forskningsdirektør i TrendForce, forventes HBM å stå for mer enn 20 % av det totale minnebrikkemarkedet for varer med start i 2024 og kan stige over 30 % neste år.

Hvordan produseres HBM?

Se for deg flere standard minnebrikker stablet oppå hverandre i lag, som ligner på en hamburger. Dette er i bunn og grunn hvordan strukturen til HBM ser ut. Ved første øyekast høres dette ganske enkelt ut, men det er alt annet enn enkelt å gjennomføre, noe som også gjenspeiles i prisen. Salgsprisen per enhet HBM er flere ganger høyere enn for vanlige minnebrikker.

Dette er fordi høyden på en HBM-brikke er omtrent den samme som seks menneskehår. Dette betyr at hvert lag med standard minnebrikker stablet oppå hverandre må være ekstremt tynt, og krever et høyt nivå av produksjonsekspertise kjent som avansert emballasje.

"Hver av disse minnebrikkene må slipes til et halvt hårs tykkelse før de stables oppå hverandre, noe som er veldig vanskelig," sa Chiu. I tillegg bores hull i disse minnebrikkene før de monteres oppå hverandre slik at elektriske ledninger kan passere gjennom. Plasseringen og størrelsen på disse hullene må være ekstremt nøyaktige.

"Du har mange flere feilpoeng når du prøver å lage disse enhetene. Det er nesten som å bygge et korthus," bemerket Hutcheson.