SlimLM, supportato da Adobe, offre funzionalità di AI mobile senza cloud

Elaborazione offline guidata dall'AI in arrivo (Fonte immagine: generata utilizzando DALL-E 3)

Grazie al modello linguistico di piccole dimensioni (SLM) SlimLM, sviluppato da un team di ricercatori di Adobe, l'elaborazione dei documenti basata sull'AI può essere eseguita offline sugli smartphone. Le future applicazioni basate su questo pezzo di codice offriranno una privacy molto migliore rispetto alle attuali applicazioni AI simili basate sul cloud.

Codrut Nistor (traduzione a cura di Ninh Duy), Published 11/22/2024 🇺🇸 🇩🇪 ...

AI Smartphone Software

Grazie ad un nuovo modello linguistico di piccole dimensioni (SLM) sviluppato da un team di ricercatori di AI di Adobe Inc. insieme a colleghi dell'Università di Auburn e del Georgia Tech, le nuove app di AI per smartphone saranno in grado di elaborare i documenti a livello locale senza accesso al cloud. Questo SLM si chiama SlimLM e tutti i dettagli che lo riguardano sono stati pubblicati su arXiv.

"Attraverso esperimenti approfonditi su un Samsung Galaxy S24, identifichiamo i compromessi ottimali tra le dimensioni del modello (da 125M a 7B parametri), la lunghezza del contesto e il tempo di inferenza per un'elaborazione efficiente sul dispositivo. SlimLM è pre-addestrato su SlimPajama-627B e messo a punto su DocAssist, il nostro set di dati costruito per compiti di riassunto, risposta alle domande e suggerimento. Il nostro modello più piccolo dimostra prestazioni efficienti sull'S24, mentre le varianti più grandi offrono capacità migliorate nell'ambito dei vincoli mobili"

ha rivelato il team di ricerca.

SlimLM non è ancora disponibile per le masse, ma potrebbe accadere presto. Grazie a questo pezzo di codice, uno smartphone può utilizzare la potenza dell'AI a livello locale per elaborare i documenti senza nemmeno andare online. Sebbene le soluzioni di AI basate sul cloud spesso utilizzino molta meno potenza di calcolo locale rispetto alle app che funzionano localmente, l'attributo più importante che offrono è la privacy. Finora, i grandi nomi del settore, come Google, Apple, e Meta, hanno già sviluppato applicazioni di questo tipo. Purtroppo, il loro stato rimane piuttosto sperimentale e nessuna di esse è arrivata alle masse. Se i piani dei ricercatori sopra citati si realizzeranno, SlimLM potrebbe diventare la prima soluzione di questo tipo.

Chi è interessato a SlimLM e a soluzioni simili dovrebbe acquistare Demystifying AI: Your Guide to Mastering Small Language Models di Jesse Sprinter, attualmente disponibile a 7,11 dollari in formato Kindle, mentre la versione in brossura costa 18,99 dollari.