Computex 2024 | Gigabyte offre un PC AMD Ryzen Threadripper 7975X pre-costruito da 35.000 dollari per addestrare la propria AI da 236 miliardi di param a casa propria

Gigabyte afferma che i suoi PC AI TOP sono costruiti su tre strutture: AI TOP Utility, AI TOP Hardware e AI TOP Tutor. L'obiettivo è quello di consentire la scalabilità da 8/30 miliardi di parametri a 70/236 miliardi, pur essendo in grado di far funzionare il sistema da una comune presa di corrente.

AI TOP Utility consente di monitorare vari parametri del sistema, come l'utilizzo di CPU, GPU, RAM e SSD, offrendo al contempo un front-end GUI senza codice per le attività di formazione AI.

Sul fronte dell'hardware, i PC AI TOP sono dotati di hardware standardizzato e completamente testato, dalla scheda madre all'alimentatore. I componenti sono progettati per essere aggiornabili in base alle necessità e per essere utilizzati in un ambiente domestico o di ufficio tipico.

A questo proposito, l'azienda offre due schede madri su misura per l'uso dell'AI:

• TRX50 Aero D(559 dollari su Amazon) AI TOP con doppia LAN 10GbE, fino a 2 TB DDR5, 4x slot PCIe Gen 5 x16 e 4x SSD NVMe per l'uso con CPU AMD Threadripper Serie 7000 Storm Peak HEDT
• W790 AI TOP con 2x Thunderbolt 4, fino a 2 TB DDR5, 5x slot PCIe Gen 5 x16 e 6x SSD NVMe per l'uso con CPU Intel Xeon-W2400 e W3400 Sapphire Rapids HEDT

Per quanto riguarda le GPU, i PC Gigabyte AI TOP possono avvalersi di Nvidia GeForce RTX 4070 Ti Super AI TOP 16G, quattro delle quali possono essere combinate per un totale di 64 GB di VRAM per l'allenamento AI. Si può anche optare per la nuova AMD Radeon Pro W7900 DS AI TOP 48G o W700 AI TOP 32G e scalarle fino a quattro schede per un totale di 192 GB di VRAM.

Gigabyte offre anche un'unità SSD AI TOP 100E NVMe con aiDAPTIVCache di Phison, che è stata progettata per l'esecuzione del modello Phison aiDAPTIV+. Questa SSD è valutata per offrire fino a 7.200/6.500 MB/s di velocità di lettura/scrittura sequenziale e 150x TBW.

I PC AI TOP sono dotati dell'alimentatore UD1600PM PG5 80+ Platinum, che fornisce l'energia sufficiente per far funzionare quattro GPU e ha una durata doppia rispetto agli alimentatori tradizionali.

Questi PC AI TOP pre-costruiti partono da 6.499 dollari per 8 miliardi di parametri, 11.999 dollari per 13 miliardi, 16.499 dollari per 30 miliardi e arrivano fino a 35.999 dollari per 70 miliardi di parametri con una dimensione massima del modello fino a 236 miliardi.

Le prime due opzioni offrono CPU AMD Ryzen Threadripper 7960X(1.399 dollari su Amazon) e 2 GPU RTX 4070 Ti Super. La configurazione da 30B porta a Threadripper 7975X(US$3.899 su Amazon) e 4x RTX 4070 Ti Super. Infine, il colosso da 70B utilizza Threadripper 7975X e 4x GPU Radeon Pro W7900.

Infine, abbiamo AI TOP Tutor, che viene addestrato utilizzando l'Utilità AI TOP per fornire coaching AI on-desk, consulenza e guida su tutto ciò che riguarda AI TOP.