Zhaoxin distribuisce i modelli DeepSeek-R1 sull'intera gamma di CPU, dai desktop ai server

Zhaoxin ha appena condiviso su https://news.mydrivers.com/1/1032/1032195.htm di aver implementato con successo i modelli DeepSeek-R1 Distill in tutta la sua gamma, dai PC desktop di tutti i giorni ai server ad alta potenza.

Il produttore cinese di CPU ha annunciato che i suoi processori ora supportano diverse versioni del modello DeepSeek-R1 Distill, sia che si tratti di 1,5B, 7B, 14B, 32B, 70B o persino della colossale variante 671B. Questo rollout si estende a tutto l'hardware compatibile con x86, mostrando la flessibilità della loro tecnologia.

Inoltre, le CPU di Zhaoxin supportano in modo nativo Linux, Windows e vari sistemi operativi cinesi, oltre ad essere pienamente compatibili con le schede di accelerazione AI delle GPU locali. Questo crea una piattaforma di elaborazione robusta e pronta per tutti i tipi di compiti AI.

Implementazione dell'IA sul desktop

Il processore desktop KX-7000 di KaiXian ha dimostrato un'implementazione locale di successo del modello DeepSeek-R1-7B quando è stato abbinato a schede grafiche e di accelerazione di produzione nazionale. Sfruttando la comprensione linguistica avanzata e il ragionamento di DeepSeek, questa configurazione consente funzioni come la gestione intelligente dei documenti, l'analisi dei dati e l'assistenza alla codifica, il tutto integrato senza problemi con applicazioni come WPS Office e VSCode.

Il KX-7000 fa parte dell'ultima generazione di chip desktop di Zhaoxin. Presenta la microarchitettura "Century Avenue" con un'innovativa interconnessione di chiplet, contiene 8 core di CPU con 32MB di cache L3 condivisa e può raggiungere velocità fino a 3,7GHz.

Prestazioni della workstation

La workstation Lianhe Donghai XRS302, alimentata dal processore server KH-40000/16, ha implementato con successo i modelli DeepSeek-R1-7B, 14B e 32B. Dotata di quattro schede di accelerazione dell'inferenza con GPU domestiche ad alte prestazioni, questa workstation offre capacità di inferenza AI robuste e convenienti.

Zhaoxin ha messo a punto il sistema di interconnessione CPU-GPU per aumentare il throughput dei dati e ridurre la latenza. La workstation beneficia anche di un design silenzioso e a basso consumo, perfetto per gli uffici che necessitano di un'inferenza AI on-premise senza rumore e senza spese energetiche.

Elaborazione AI di livello server

Nella fascia più alta, il processore Kaisheng KH-40000/32 presenta una configurazione dual-socket con 64 core totali e supporto per una memoria fino a 2 TB. Abbinata a schede di accelerazione nazionali, questa CPU ha impiegato comodamente il modello DeepSeek-R1-70B.

Il KH-40000/32 è riuscito anche a distribuire il modello DeepSeek-R1-671B interamente da solo, senza schede di accelerazione esterne. Questa impresa sottolinea quanto le CPU dei server di Zhaoxin siano in grado di gestire senza sforzo modelli con centinaia di miliardi di parametri.

Sebbene le affermazioni di Zhaoxin siano impressionanti, i risultati delle prestazioni devono essere presi con un pizzico di sale. Come per tutti i benchmark forniti da un fornitore, le prestazioni reali possono differire dagli ambienti di test controllati e l'azienda può presentare scenari ottimizzati che mettono in risalto i suoi prodotti nella migliore luce possibile.