Microsoft presenta il silicio personalizzato per l'AI e il cloud: aRM Cobalt 100 a 128 core e Maia 100 a 5 nm mirano a soddisfare le esigenze di formazione e inferenza dell'AI di prossima generazione

Le speculazioni sui Microsoft ha intenzione di di intraprendere la strada del silicio personalizzato si sono moltiplicate da tempo. Microsoft ha utilizzato processori basati su Qualcomm, come il modello SQ1, SQ2e SQ3 (Snapdragon 8cx Gen 3) per la sua linea Surface. Tuttavia, sono iniziate a circolare notizie secondo cui l'azienda starebbe valutando progetti ARM interni per i server.già nel 2020stesso.

Alla conferenza Microsoft Ignite attualmente in corso, l'azienda ha presentato due IP di silicio personalizzati, progettati per soddisfare i suoi ambiziosi piani di AI: l'acceleratore AI Azure Maia 100 e la CPU personalizzata Azure Cobalt 100. Microsoft distribuirà questi chip per la prima volta all'inizio del prossimo anno nei propri data center che alimentano Copilot e il servizio Azure OpenAI.

Microsoft non sta però rivelando molte informazioni tecniche sui chip stessi. Tuttavia, fa notare che Maia 100 è un chip da 5 nm con 105 miliardi di transistor, il che lo rende uno dei chip più grandi prodotti con questo processo. Maia 100 gestirà l'addestramento e l'inferenza basati sul cloud per i modelli OpenAI e ChatGPT, ed è stato progettato specificamente per addestrare i modelli linguistici di grandi dimensioni di OpenAI.

Maia 100 sarà completamente raffreddato a liquido e Microsoft ha persino progettato dei rack personalizzati con radiatori di raffreddamento a liquido per ospitare questi chip.

Cobalt 100, invece, è una CPU a 64 bit e 128 core, progettata per carichi di lavoro generali nel cloud Microsoft, tra cui Teams e SQL. Microsoft afferma che Cobalt 100 è più potente del 40% rispetto all'attuale gamma di chip ARM di Azure.

Oltre a Maia 100 e Cobalt 100, Microsoft ha annunciato anche l'anteprima pubblica delle macchine virtuali (VM) Azure NC H100 v5 per l'esecuzione di carichi di lavoro AI e HPC (High Performance Computing). Queste macchine virtuali sono basate sulle GPU Nvidia Hopper H100 e sui processori AMD EPYC Genoa.

I clienti possono scegliere tra due configurazioni di NC H100 v5:

• 40 vCPU, 320 GB di RAM, 1 GPU H100 con 94 GB di HBM3 e 40 GBps di banda di rete Azure
• 80 vCPU, 640 GB di RAM, 2 GPU H100 con 188 GB HBM3 e 80 GBps di larghezza di banda di rete Azure

Microsoft non sta però lasciando fuori AMD. Il gigante di Redmond ha anche annunciato che ora offre macchine virtuali con la più recente GPU Instinct MI300X di AMD con 1,5 TB HBM3 per macchina virtuale. Una VM ND MI300X v5 sfrutta otto schede MI300X interconnesse da Infinity Fabric 3.0 con 192 GB di memoria HBM3 per GPU che opera a velocità di 5,2 TB/s. Secondo Microsoft, le specifiche della ND MI300X v5 VM includono:

• 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand per GPU con 3,2 Tb/s per VM
• processori Intel Xeon Scalable di quarta generazione
• Interconnessione host-to-GPU PCIE Gen5 con 64 GB/s di larghezza di banda per GPU
• 16 canali di DIMM DDR5

Il silicio personalizzato di Microsoft è attualmente orientato al lato server. Non è chiaro se l'azienda porterà una qualche variante di Cobalt 100 nella sua linea di Surface o se continuerà a fare affidamento sulle offerte di Qualcomm e, forse, di MediaTek numeri iniziali impressionanti dello Snapdragon X Elite.

Acquisti il Microsoft Surface Laptop Studio 2 con RTX 4050 su Amazon