MWC 2024 | AI ovunque: Qualcomm mostra impressionanti demo on-device su PC, telefoni e IoT Snapdragon X Elite
Da quando OpenAI ha presentato per la prima volta ChatGPT al pubblico mondiale stupito nel 2022, il tema dell'IA generativa non è scomparso dai titoli dei giornali, sia nelle lettere di borsa che nel settore tecnologico. L'abbreviazione di intelligenza artificiale era onnipresente anche al Mobile World Congress 2022. Tuttavia, è importante distinguere dove l'intelligenza artificiale ha la sua casa. Lo si può vedere nel nuovo Galaxy S24 "telefono AI" di Samsung con molte nuove funzioni Galaxy Aimentre alcune di queste funzionano direttamente sul dispositivo e funzionano anche offline, molte richiedono l'accesso al cloud.
l'"On-device" è quindi un fattore importante, ad esempio per motivi di protezione dei dati, ma naturalmente anche per la capacità e le prestazioni offline, indipendentemente dalla disponibilità del rispettivo provider cloud. Al MWC 2024 di Barcellona, che inizia oggi, Qualcomm ha dimostrato le possibilità tecniche odierne di algoritmi AI in esecuzione direttamente sul dispositivo o ciò che sarà presto possibile, al più tardi in estate, quando il primo Snapdragon X Elite-basati su AI arriveranno sul mercato.
Snapdragon X Elite NPU contro Intel Core Ultra 7 155H
Nel video dimostrativo qui sopra, un'immagine viene generata utilizzando Stable Diffusion 1.5 nell'editor open source Gimp con l'aiuto dell'AI generativa: a sinistra c'è la NPU Hexagon 45 TOPs nel dispositivo demo Snapdragon X Elite, mentre a destra c'è il computer portatile Intel con Core Ultra 7 155H. Il dispositivo di prova rosso di Qualcomm, già conosciuto dal Qualcomm Summit di ottobre 2023ha completato la generazione di immagini in 7,25 secondi, tre volte più velocemente del PC Intel accanto, che ha impiegato 22,26 secondi.
Il secondo test è quasi ancora più impressionante: Mentre il laptop Snapdragon X Elite produce un'immagine ogni secondo, la generazione di immagini di Intel richiede una media di 12 secondi, anche se Meteor Lake ha anche una NPU integrata. Naturalmente, va notato che non conosciamo i parametri specifici di questo test, ma almeno nel mondo di Qualcomm, i notebook Snapdragon X Elite attesi nel 2024 hanno vantaggi tangibili, soprattutto con l'AI on-device.
Regolazione individuale dell'immagine con LoRA su un telefono Android
Anche la demo qui sopra è entusiasmante e mostra per la prima volta come l'IA generativa possa personalizzare il risultato in base alle esigenze dell'utente utilizzando la "Low Rank Adaptation" o LoRA in breve. Che si tratti di gatti con cristalli o tagliatelle al posto della classica pelliccia, non ci sono praticamente limiti all'immaginazione. Tutto questo funziona direttamente su un telefono Android con un chip Snapdragon.
Primo modello multimodale da oltre 7 miliardi di parametri in locale su uno smartphone ...
Un'altra novità è il modello LMM (Large Multimodal Model) con oltre 7 miliardi di parametri mostrato dal team di ricerca Qualcomm AI, che funziona localmente su un telefono Android. Il video qui sopra mostra come l'intelligenza artificiale accetta come input non solo il testo, ma anche il parlato e le immagini e li utilizza per tenere una conversazione con l'utente. Il tutto si chiama LLAVA o Large Language and Vision Assistant di Qualcomm.
... e naturalmente anche su un PC Snapdragon X Elite
Nell'ultima demo qui sopra, un LMM da oltre 7 miliardi di parametri è in esecuzione su un PC Windows-on-ARM, naturalmente basato su Snapdragon X Elite, che accetta anche file audio come input e può analizzarli - in questo caso la musica, per esempio. Qualcomm lo chiama Audio Reasoning. Oltre a queste dimostrazioni, Qualcomm ha anche annunciato l'AI Hub al MWC 2024, che gli sviluppatori di app possono utilizzare per rendere le loro applicazioni pronte per l'AI in pochissimo tempo. Qualcomm ha anche un nuovo hardware nel campo della comunicazione. Scopra di più sul modem Snapdragon X80 5G e su FastConnect 7900, il primo chip che combina Wi-Fi 7, Bluetooth 5.4 e Ultrawideband, qui.
L'AI nei dispositivi IoT e negli smartphone attuali
Alcuni dispositivi IoT di consumo basati su Snapdragon stanno già utilizzando funzioni AI, un esempio importante è il controverso AI Pin di Humane. Gli smartphone di punta lanciati nel fine settimana - Xiaomi 14, Xiaomi 14 Ultrae Honor Magic6 Pro - forniscono ciascuno esempi diversi di come l'AI sul dispositivo possa essere utilizzata per stabilire priorità diverse. Nel caso di Xiaomi, l'area principale di interesse è la fotocamera, mentre Honor si concentra maggiormente sul funzionamento dell'utente piuttosto che sulle attività.
Fonte(i)
Qualcomm
