NVIDIA DGX GH200 AI Superračunalo
NVIDIA je najavila novu klasu AI superračunala s velikom memorijom – NVIDIA DGX™superračunalo koje pokreću NVIDIA® GH200 Grace Hopper Superchips i NVIDIA NVLink® Switch System – stvoreno da omogući razvoj divovskih modela sljedeće generacije za generativne aplikacije AI jezika, sustavi preporuka i radna opterećenja analitike podataka.
Masivni dijeljeni memorijski prostor NVIDIA DGX GH200 koristi tehnologiju međusobnog povezivanja NVLink s NVLink SwitchSystemom za kombiniranje 256 GH200 superčipova, što im omogućuje da rade kao jedan GPU. To pruža 1 exaflop performansi i 144 terabajta zajedničke memorije — gotovo 500 puta više memorije od prethodne generacije NVIDIA DGXA100, koja je predstavljena 2020. godine.
"Generativni AI, veliki jezični modeli i sustavi preporuka digitalni su motori moderne ekonomije", rekao je Jensen Huang, osnivač i izvršni direktor NVIDIA-e. “DGX GH200 AI superračunala integriraju NVIDIA-ine najnaprednije tehnologije za ubrzano računalstvo i umrežavanje kako bi proširili granice AI.”
Tehnologija NVIDIA NVLink proširuje AI u velikom broju
GH200 superčipovi eliminiraju potrebu za tradicionalnom CPU-to-GPU PCIe vezom kombiniranjem NVIDIAGrace™ CPU-a temeljenog na Armu s NVIDIA H100 Tensor Core GPU-om u istom paketu, koristeći NVIDIA NVLink-C2C međuveze čipa. To povećava propusnost između GPU-a i CPU za 7x u usporedbi s najnovijom PCIe tehnologijom, smanjuje potrošnju energije međusobnog povezivanja za više od 5x i pruža 600GB Hopper arhitekturu GPU građevni blok za DGX GH200superračunala.
DGX GH200 je prvo superračunalo koje uparuje Grace Hopper Superchipove s NVIDIA NVLink Switch Systemom, novom međuvezom koja omogućuje da svi GPU-ovi u DGX GH200 sustavu rade zajedno kao jedan. Sustav prethodne generacije omogućavao je samo osam GPU-ova koji se mogu kombinirati s NVLinkom kao jedan GPU bez ugrožavanja performansi.
Arhitektura DGX GH200 pruža 48x veću propusnost NVLink-a od prethodne generacije, pružajući snagu ogromnog AI superračunala uz jednostavnost programiranja jednog GPU-a.
Novi istraživački alat za pionire umjetne inteligencije
Google Cloud, Meta i Microsoft među prvima su za koje se očekuje da će dobiti pristup DGX GH200 kako bi istražili njegove mogućnosti za generativna AI radna opterećenja. NVIDIA također namjerava pružiti dizajn DGX GH200 kao nacrt pružateljima usluga u oblaku i drugim hiper skalerima kako bi ga mogli dodatno prilagoditi svojoj infrastrukturi.
Novo NVIDIA Helios superračunalo za unaprjeđenje istraživanja i razvoja
NVIDIA gradi svoje vlastito AI superračunalo temeljeno na DGX GH200 kako bi potaknulo rad svojih istraživača i razvojnih timova.
Nazvano NVIDIA Helios, superračunalo će imati četiri DGX GH200 sustava. Svaki će biti međusobno povezan s NVIDIAQuantum-2 InfiniBand umrežavanjem kako bi se povećao protok podataka za obuku velikih AI modela. Helios će uključivati 1024 Grace Hopper Superchips i očekuje se da će biti dostupan do kraja godine.
Potpuno integriran i namjenski napravljen za velike modele
DGX GH200 superračunala uključuju NVIDIA softver za pružanje kompletnog rješenja po principu "ključ u ruke" za najveća radna opterećenja umjetne inteligencije i analitike podataka. Softver NVIDIA Base Command™ omogućuje upravljanje radnim procesom pomoću umjetne inteligencije, upravljanje klasterom na razini poduzeća, biblioteke koje ubrzavaju računalnu, pohranu i mrežnu infrastrukturu te sistemski softver optimiziran za radna opterećenja umjetne inteligencije.
Također je uključen NVIDIA AI Enterprise, softverski sloj NVIDIA AI platforme. Pruža više od 100 okvira, unaprijed obučenih modela i razvojnih alata za usmjeravanje razvoja i implementacije proizvodne umjetne inteligencije, uključujući generativnu umjetnu inteligenciju, računalni vid, govornu umjetnu inteligenciju i više.
Dostupnost
NVIDIA DGX GH200 superračunala očekuje se da budu dostupni krajem ove godine.