Vad är lagring med hög bandbredd och varför blockerar USA Kina?

Vad är lagring med hög bandbredd och varför blockerar USA Kina?

Den amerikanska regeringen har infört nya exportkontroller på försäljningen av högteknologiska minneschips som används i tillämpningar för artificiell intelligens (AI) till Kina. Dessa regler påverkar både USA-tillverkade HBM-tekniker (High Bandwidth Memory) och utländska chips. Här är allt du behöver veta om dessa banbrytande halvledare, vars efterfrågan har skjutit i höjden tillsammans med den globala hypen kring AI.

Vad är High Bandwidth Storage (HBM)?

High-bandwidth memory (HBM) består i grunden av en stack med minneschips, små komponenter som lagrar data. HBM kan lagra betydligt mer information och överföra data mycket snabbare än den äldre tekniken som kallas DRAM (Dynamic Random Access Memory).

HBM-chips används ofta i grafikkort, högpresterande datorsystem, datacenter och autonoma fordon. Viktigast av allt är att de är viktiga för allt mer populära AI-applikationer, inklusive generativ AI. Dessa drivs av AI-processorer, såsom grafikprocessorer (GPU) tillverkade av företag som Nvidia och Advanced Micro Devices (AMD).

"Processorn och minnet är två väsentliga komponenter för AI. Utan minne är det som att ha en hjärna med logik men utan minne", säger G. Dan Hutcheson, vice vd för TechInsights, en forskningsorganisation som är specialiserad på chips.

Hur påverkar restriktionerna Kina?

Den yngsta Exportrestriktioner, tillkännagav den 2 december, följer två tidigare omgångar av enactments relaterade till avancerade chips av Biden-administrationen under de senaste tre åren. Syftet är att blockera Kinas tillgång till kritisk teknologi som kan ge landet en militär fördel.

Som vedergällning har Peking infört nya restriktioner för export av germanium, gallium och andra material som är nödvändiga för att tillverka halvledare och andra högteknologiska enheter. Experter är överens om att de nya exportrestriktionerna kommer att bromsa Kinas utveckling av AI-chips och i bästa fall stoppa tillgången till HBM. Medan Kinas förmåga att producera HBM för närvarande släpar efter Sydkoreas SK Hynix och Samsung samt amerikanska Micron, utvecklar landet sin egen kapacitet på detta område.

"De amerikanska exportrestriktionerna skulle begränsa Kinas tillgång till högkvalitativ HBM på kort sikt", säger Jeffery Chiu, VD för Ansforce, ett expertnätverkskonsultföretag specialiserat på teknik. "På lång sikt kommer Kina dock att fortsätta att kunna producera HBM självständigt, även om det fungerar med mindre avancerad teknik." I Kina är Yangtze Memory Technologies och Changxin Memory Technologies de ledande minneschipstillverkarna och tycks utöka produktionskapaciteten för HBM-linjen för att uppnå sitt strategiska mål om teknisk självförsörjning.

Varför är HBM så viktigt?

HBM-chips är så kraftfulla jämfört med konventionella minneschips främst på grund av deras större lagringsutrymme och betydligt snabbare dataöverföring. Eftersom AI-applikationer kräver många komplexa beräkningar säkerställer dessa funktioner att dessa applikationer fungerar smidigt, utan förseningar eller fel.

Större lagringsutrymme innebär att mer data kan lagras, överföras och bearbetas, vilket förbättrar prestandan för AI-applikationer eftersom stora språkmodeller (LLM) kan arbeta med fler parametrar. Tänk på den högre hastigheten för dataöverföring, eller den högre bandbredden i chipspråk, som en motorväg: ju fler körfält en motorväg har, desto mindre sannolikt är det att det blir trängsel och desto fler fordon kan den ta emot.

"Det är som skillnaden mellan en tvåfilig motorväg och en hundrafilig motorväg. Du har helt enkelt inte trängsel", sa Hutcheson.

Vilka är de ledande tillverkarna?

För närvarande dominerar bara tre företag den globala HBM-marknaden. År 2022 stod Hynix för 50 % av den totala marknadsandelen för HBM, följt av Samsung med 40 % och Micron för 10 %, enligt en Forskningsnotis, släppt av den Taipei-baserade marknadsundersökningsbyrån TrendForce. Båda sydkoreanska företagen förväntas ha liknande andelar på HBM-marknaden 2023 och 2024, vilket skulle ge dem totalt cirka 95 %.

Micron siktar på att öka sin HBM-marknadsandel till mellan 20 % och 25 % till 2025, rapporterar Taiwans officiella nyhetsbyrå, med hänvisning till Praveen Vaidyanatha, en chef för Micron. HBM:s höga värde har fått alla tillverkare att fokusera en betydande del av sin produktionskapacitet på det mer avancerade minneschippet. Enligt Avril Wu, senior research vice president på TrendForce, förväntas HBM stå för mer än 20 % av den totala marknaden för minneschips med början 2024 och kan komma att stiga över 30 % nästa år.

Hur produceras HBM?

Föreställ dig flera vanliga minneschips staplade ovanpå varandra i lager, liknande en hamburgare. Så här ser i princip HBM:s struktur ut. Vid första anblicken låter detta ganska enkelt, men det är allt annat än enkelt att implementera, vilket också avspeglas i priset. Försäljningspriset per enhet HBM är flera gånger högre än för konventionella minneschips.

Detta beror på att höjden på ett HBM-chip är ungefär densamma som sex människohår. Detta innebär att varje lager av standardminneschips som staplas ovanpå varandra måste vara extremt tunt, vilket kräver en hög nivå av tillverkningsexpertis som kallas avancerad förpackning.

"Var och en av dessa minneschips måste slipas till ett halvt hårs tjocklek innan de staplas ovanpå varandra, vilket är mycket svårt," sa Chiu. Dessutom borras hål i dessa minneschip innan de monteras ovanpå varandra så att elektriska ledningar kan passera igenom. Placeringen och storleken på dessa hål måste vara extremt exakta.

"Du har mycket fler felpoäng när du försöker göra dessa enheter. Det är nästan som att bygga ett korthus," noterade Hutcheson.