HBF:En ny opbevaringsløsning til AI-æraen
Med den hurtige udvikling af AI-teknologi er High Bandwidth Memory (HBM) blevet en kritisk komponent til AI-træning og -slutning. Den kontinuerlige stigning i GPU-computerkraft stiller dog højere krav til lagersystemer. I denne sammenhæng er High Bandwidth Flash (HBF) dukket op og betragtes som den næste vigtige teknologiske retning.
HBF er en ny arkitektur baseret på 3D-NAND-flashhukommelse. Ved at stable flere NAND-chips og bruge Through-Silicon Via (TSV)-teknologi til sammenkoblinger, opnår den båndbreddeniveauer tæt på HBM. Dens kernedesign opdeler chippen i flere under-arrays, der understøtter meget parallel databehandling, hvilket gør den særligt velegnet til applikationsscenarier med høj-kapacitet og høj-gennemstrømning.
HBF og HBM opretholder et komplementært forhold: HBM håndterer latency-følsomme varme data, mens HBF er ansvarlig for at lagre og læse store-ikke-flygtige datasæt. Ved at udnytte omkostningsfordelene ved NAND kan HBF reducere udvidelsesomkostningerne for AI-systemer markant, hvilket giver klare fordele inden for stor-modeltræning og edge computing.
Tekniske fordele
Høj båndbredde og stor kapacitet
3D-stablingsteknologi muliggør båndbredde, der kan sammenlignes med HBM, med lagertæthed, der langt overstiger DRAM.
Ikke-flygtig natur
Dataopbevaring uden strømtab, der understøtter innovative "hukommelse-som-lagring"-applikationsmodeller.
Betydelig omkostningsfordel
NAND-arkitekturen giver lavere omkostninger, hvilket gør den velegnet til stor-implementering.
Udfordringer
1
NAND flashs skriveudholdenhed og latenstid begrænser dens anvendelse i hyppige-skrivescenarier.
2
Effektiv koordinering med GPU'er, CPU'er og anden hardware er nødvendig for at sikre optimal ydeevne.
3
Kompleksiteten af flerlagsstablingsprocesser kan føre til udbytteudfordringer og underminere omkostningsfordelene.
4
HBF skal etablere sin position midt i konkurrencen fra nye lagringsteknologier som 3D DRAM.
I test- og valideringsfasen kan professionelle institutioner som GRGTEST give HBF tjenester, herunder pålidelighedstest af stablede strukturer, evaluering af systemydelse og udbytteanalyse. Disse bestræbelser hjælper med at identificere tekniske risici på et tidligt tidspunkt og fremskynde produktkommercialisering.
Som konklusion, som et vigtigt supplement til HBM, er HBF klar til at spille en nøglerolle inden for kunstig intelligens, datacentre og edge computing. Med samarbejdende industrifremskridt og løbende forbedringer inden for testteknologier forventes HBF at blive en kernekomponent i næste-generations lagerarkitektur.