Nvidia punta a capitalizzare la crescita dell'IA generativa con il lancio del nuovo super chip Grace Hopper, il primo al mondo con RAM HBM3e

Nvidia ha lanciato il suo ultimo Grace Hopper progettato per alimentare i data center che utilizzano l'intelligenza artificiale generativa o altri calcoli accelerati. Sebbene Nvidia continui a produrre chip basati su Arm per i consumatori in diverse forme, da qualche anno ha deciso di dare priorità ai SoC per server basati su Arm che possono essere ulteriormente accelerati integrando la piattaforma Grace Hopper con le sue GPU di classe server. La scommessa dell'azienda è stata ampiamente ripagata dall'ascesa di tecnologie di intelligenza artificiale generativa, tra cui ChatGPT e Midjourney, che hanno fatto salire il prezzo delle azioni dell'azienda di circa il 200% dall'inizio dell'anno.

Come nel caso del superchip Grace Hopper originale, il nuovo GH200 in configurazione duale porta le cose a 144 core Arm V-series Neoverse. Inoltre, come in passato, la CPU (Grace) è abbinata alla GPU Tensor Core H100 di Nvidia (Hopper). Le GPU H100 sono in grado di fornire un minimo di 51 teraflop di calcolo FP32, mentre l'architettura GH200 combinata è in grado di fornire ben 8 petaflop di prestazioni AI.

Per raggiungere questi nuovi livelli di prestazioni con la GH200 - nonostante l'architettura del silicio sia rimasta invariata - Nvidia ha aggiornato l'architettura della memoria con 282 GB della più recente memoria HBM3e. La HBM3e è più veloce del 50% rispetto alla normale memoria HBM3, con un totale di 10 TB/sec di larghezza di banda. Ciò consente al GH200 di elaborare modelli 3,5 volte più grandi rispetto al chip di prima generazione e lo rende il primo al mondo a disporre di memoria HBM3e.

Nvidia afferma inoltre che la piattaforma Grace Hopper è scalabile e supporta il collegamento di ulteriori chip Grace Hopper tramite l'interconnessione NVLink di Nvidia. La memoria coerente (condivisa tra tutte le CPU e le GPU del cluster) può raggiungere 1,2 TB. Nvidia afferma che i principali produttori di server dovrebbero consegnare sistemi con configurazioni GH200 in oltre 100 varianti di server nel secondo trimestre del 2024.

Ilkit per sviluppatori Nvidia Jetson Nano AI può essere acquistato su Amazon a 149 dollari.