Nvidia e Apple: i nemici stanno mettendo da parte i rancori per potenziare le prestazioni dell'intelligenza artificiale

È risaputo che Apple e Nvidia non vanno molto d'accordo. C'è stato un periodo in cui la linea di Mac di Apple faceva uso della grafica Nvidia, ma le cose sono andate male quando, nel 2008, si sono verificati problemi diffusi nei MacBook con la scheda Nvidia GeForce 8400M e 8600M dGPU di Nvidia cominciarono ad emergere a causa di difetti di imballaggio, che portavano a surriscaldamento, problemi grafici e, in casi estremi, al fallimento totale della GPU. Sebbene i MacBook continuassero ad avere GPU Nvidia, il loro rapporto era indubbiamente in picchiata e negli anni successivi, Apple passò ad AMD e non si guardò più indietro.

Di conseguenza, senza offesa per i fan del Team Red, i Mac soffrivano di scarse prestazioni grafiche rispetto ai laptop Windows dotati di GTX e RTX. Questo fino a quando non sono arrivati i Mac alimentati daApple Silicon, ovviamente. Nonostante gli appassionati di Mac abbiano sperato che Nvidia e Apple seppellissero l'ascia di guerra, non è mai successo - fino ad oggi. Beh, più o meno. Apple ha recentemente annunciato una collaborazione con Nvidia volta ad accelerare l'inferenza di modelli linguistici di grandi dimensioni, segnando una sorta di armistizio tra i due colossi multimiliardari.

Al centro di questa inaspettata collaborazione c'è ReCurrent Drafter (ReDrafter) di Apple, che è fondamentalmente un metodo di decodifica speculativa piuttosto innovativo, progettato per migliorare la generazione di token LLM, lanciato all'inizio di quest'anno. A quanto pare, Nvidia ha collaborato con Apple per incorporare in qualche modo ReDrafter nel suo TensorRT-LLM tensorRT-LLM. Inoltre, il gigante dell'AI ha anche aggiornato il suo framework con nuovi operatori ottimizzati, consentendo un'adozione senza soluzione di continuità. I risultati, anche per un profano come me, sembrano promettenti: gli LLM che utilizzano le GPU Nvidia con ReDrafter ottengono un aumento incredibile di 2,7 volte della velocità di generazione dei token, riducendo così la latenza e il consumo energetico.

Naturalmente, non è ancora chiaro se questa collaborazione indichi che le due aziende più grandi del mondo hanno in serbo qualcosa di più, oppure se si tratti di una tregua una tantum. In ogni caso, qualsiasi tipo di alleanza in materia di ricerca e sviluppo alleanza sarà probabilmente una notizia positiva per i consumatori. Dopo tutto, chi non vuole un software più veloce?