Ant Group addestra i modelli AI sui chip cinesi, riducendo i costi del 20%

La centrale fintech di Jack Ma ha sfruttato i chip di Alibaba e Huawei per addestrare i modelli di AI che sembrano competere con le GPU H800 di Nvidia di Alibaba e Huawei per addestrare modelli di AI che sembrano competere con le GPU H800 di Nvidia.

Secondo persone a conoscenza della questione, Ant Group ha trovato un modo per addestrare i modelli di AI su semiconduttori di produzione cinese, riducendo i costi di circa il 20% rispetto ai metodi convenzionali.

Gli addetti ai lavori affermano che i risultati di Ant sono favorevoli rispetto ai chip H800 di Nvidia Corp Controlli sulle esportazioni degli Stati Uniti. Sebbene Ant utilizzi ancora l'hardware di Nvidia per alcune delle sue attività di AI, l'azienda starebbe ponendo maggiore enfasi sui processori AMD e sulle alternative cinesi per i suoi ultimi modelli.

Questo mese Ant ha pubblicato un documento di ricerca in cui afferma che i suoi modelli Ling-Plus e Ling-Lite hanno persino battuto Meta Platforms Inc. in alcuni benchmark. Se questi risultati saranno confermati, questi sistemi potrebbero rappresentare un importante balzo in avanti per l'AI cinese, riducendo drasticamente le spese di formazione e di lancio dei servizi di AI.

Il documento osserva che l'utilizzo di hardware ad alte prestazioni per addestrare 1.000 miliardi di token costa circa 6,35 milioni di yuan (circa 880.000 dollari). Ma con l'approccio ottimizzato dell'azienda - e con un'apparecchiatura di qualità inferiore - la cifra scende a circa 5,1 milioni di yuan (circa 700.000 dollari). Per chi non lo sapesse, i token sono essenzialmente le unità di informazioni utilizzate da questi modelli per apprendere e produrre risultati.

In prospettiva, Ant intende utilizzare questi modelli AI per applicazioni sanitarie e finanziarie. All'inizio di quest'anno, ha acquisito la piattaforma online cinese Haodf.com per rafforzare i suoi servizi di AI incentrati sull'assistenza sanitaria. Ant gestisce anche un'applicazione AI "assistente alla vita" chiamata Zhixiaobao e uno strumento AI di consulenza finanziaria chiamato Maxiaocai.

Entrambi i modelli Ling sono open source: Ling-Lite contiene 16,8 miliardi di parametri, mentre Ling-Plus pesa 290 miliardi. Sebbene si tratti di cifre elevate, sono comunque più piccole rispetto ad altri importanti modelli di AI: gli esperti stimano che GPT-4.5 si aggiri intorno a 1.800 miliardi di parametri e DeepSeek-R1 a 671 miliardi.

Ant ha riconosciuto alcuni ostacoli sulla strada, in particolare per quanto riguarda la stabilità durante l'addestramento. Il documento di ricerca ha notato che piccole modifiche all'hardware o al design del modello a volte hanno innescato grandi picchi nei tassi di errore.