Amazon sta spendendo molto in chip AI per ridurre la sua dipendenza da Nvidia

Amazon lancerà il mese prossimo il suo chip AI Trainium 2 di seconda generazione, con la promessa di prestazioni fino a quattro volte migliori rispetto alla prima generazione.

Come riportato da https://www.ft.com/content/3d9b5c6d-f1ae-4f6f-adc3-51e5f1dfb008 dal Financial Times, Annapurna Labs, una startup microelettronica israeliana, ha progettato il chip. Amazon ha acquisito l'azienda nel 2015. Il loro compito è quello di creare chip in grado di rivaleggiare con le offerte di Nvidia e di diventare una sana alternativa alla loro dipendenza da Nvidia.

Parlando con il Financial Times, Dave Brown, vicepresidente dei servizi di calcolo e di rete di AWS, ha detto che vogliono "essere assolutamente il posto migliore per gestire Nvidia, ma allo stesso tempo pensiamo che sia salutare avere un'alternativa"

Nvidia detiene una posizione dominante dell'80% nel mercato dei chip AI, con uno sbalorditivo fatturato di 26,3 miliardi di dollari per le vendite di chip nel secondo trimestre fiscale del 2024. Amazon prevede di spendere quasi 75 miliardi di dollari in capitale fino al 2024, la maggior parte dei quali destinati alla tecnologia e all'infrastruttura. L'azienda afferma che ne consumerà ancora di più nel 2025.

Amazon prevede di spendere quasi 75 miliardi di dollari in capitale fino al 2024, la maggior parte dei quali destinati alla tecnologia e all'infrastruttura. L'azienda afferma che ne consumerà ancora di più nel 2025. Sebbene Amazon non sottoponga i suoi chip a benchmark di prestazioni indipendenti, ha dichiarato che "Inferentia", la sua seconda linea di chip specializzati, è già più economica del 40% per la generazione di risposte AI.

"Non si tratta [solo] del chip, ma dell'intero sistema", secondo Remi Sinno, ex-Softbank e Intel, e attualmente direttore dell'ingegneria di Annapurna.

Sinno ha affermato che "è davvero difficile fare quello che facciamo noi su scala. Non sono molte le aziende che ci riescono"