Presentato il superchip Nvidia Grace Hopper per i carichi di lavoro incentrati sull'IA
Sebbene Nvidia non abbia presentato nulla per i videogiocatori durante il suo keynote al Computex 2023, la sua presentazione è stata ricca di prodotti incentrati sull'intelligenza artificiale. Tra questi, il Grace Hopper Superchip, una combinazione di CPU Grace e GPU Hopper. Alimenterà DGX GH2000 di Nvidia di Nvidia e una pletora di altri servizi.
La CPU Grace contiene 72 core di CPU Arm Neoverse V2, fino a 480 GB di RAM LPDDR5X (512 GB/s di larghezza di banda della memoria) e ben 117 MB di cache L3. La GPU Hopper che la accompagna può essere configurata con un massimo di 96 GB di memoria HBM3 (larghezza di banda della memoria fino a 4 TB/s). Nvidia sostiene che offre fino a 67 TFLOPS di prestazioni FP32. Allo stesso modo, i core Tensor inclusi possono raggiungere 67 TFLOPS in FP64.
Insieme, il Superchip Grace Hopper può assorbire fino a 1.000 Watt di potenza, a seconda della configurazione. La CPU e la GPU sono collegate tramite un modulo Nvlink che opera a 900 GB/s, 5 volte più veloce del PCIe-Gen 5. La coerenza della memoria consente a entrambi i thread della CPU e della GPU di accedere alla memoria dell'altro, permettendo al nuovo Transformer Engine di addestrare i modelli AI 30 volte più velocemente delle GPU esistenti. Rispetto alle soluzioni basate su x86, il Superchip Grace Hopper è da 2,75 a 3,9 volte più veloce.
I dispositivi basati sul Superchip Grace Hopper sono già disponibili in molte regioni, tra cui Stati Uniti ed Europa. Se le recenti indiscrezioni sono esatte, potremmo persino vederne una versione ridotta a fianco del prossimo Nintendo Switch Nintendo Switch nintendo Switch.
Fonte(i)
