Radeon RX 7900 XTX supera RTX 4090 e RTX 4080 Super nel benchmark DeepSeek AI

LLM cinese DeepSeek ha portato scompiglio nel mercato tecnologico statunitense, cancellando di fatto trilioni di dollari dal mercato azionario. Nonostante sia stato addestrato su hardware Nvidia leggermente più vecchio, funziona sorprendentemente bene su una delle offerte consumer di AMD: la Radeon RX 7900 XTX. David McAfee, GM della divisione Radeon di AMD, ha pubblicato alcuni risultati del benchmark su X.

A seconda del numero di parametri e del modello utilizzato, la Radeon RX 7900 XTX è ovunque tra il 13% (7 miliardi di parametri) e il 2% (14 miliardi di parametri) più veloce. Dopodiché, l'ammiraglia RDNA 3 inizia a vacillare e rimane indietro rispetto alla RTX 4090 con 32 miliardi di parametri. AMD l'ha persino confrontata con la GeForce RTX 4080 Superdove la 7900 XTX ha un vantaggio di prestazioni del 34%.

AMD ha anche fornito a istruzioni dettagliate su come eseguire DeepSeek localmente sulla sua macchina. Tuttavia, la Radeon RX 7900 XTX citata in precedenza non supera i 32 miliardi di parametri, mentre lo Strix Halo Ryzen AI Max 395 Plus con 128 GB di RAM, può supportare fino a 72 miliardi. Oppure, se ha circa 6.000 dollari da spendere, Matthew Carrigan ha trovato un modo per eseguire l'intero modello in locale su una macchina con due CPU AMD Epyc e 768 GB di RAM.