Apple uno studio rivela un grave difetto nei modelli linguistici dell'AI: L'accuratezza scende fino al 65 percento

Un recente studio di https://winfuture.de/news,146050.html uno studio condotto da alcuni ricercatori di Apple sta scuotendo il modo in cui pensiamo all'intelligenza dei modelli linguistici di grandi dimensioni (LLM) come ChatGPT. Lo studio, guidato da Iman Mirzadeh, ha utilizzato un nuovo test chiamato GSM-Symbolic per verificare la capacità di questi sistemi AI di gestire la matematica e il pensiero logico.

Quello che hanno scoperto non è stato un granché per le IA. Quando hanno inserito informazioni extra casuali nelle domande, l'accuratezza dei modelli è diminuita notevolmente - in alcuni casi, fino al 65%. La domanda principale non è cambiata. Ciò suggerisce che questi sistemi AI non hanno una vera comprensione dei loro compiti.

Lo studio evidenzia una differenza essenziale tra l'apparire intelligenti e il capire le cose. Molte risposte generate dall'AI sembrano giuste a prima vista, ma quando si scava nel dettaglio, crollano. Questo evidenzia che parlare come un umano non significa che la macchina stia pensando come tale.

Per questo motivo, lo studio suggerisce che dobbiamo ripensare a quanto ci fidiamo e dipendiamo da questi sistemi. Certo, possono fare cose incredibili, ma hanno alcuni difetti significativi, soprattutto con problemi complicati o difficili. Riconoscere queste debolezze è fondamentale se vogliamo usare l'AI in modo responsabile.

In definitiva, questo studio ci ricorda che, sebbene l'IA possa essere utile, dobbiamo mantenere un occhio critico su ciò che può e non può fare. Man mano che questi strumenti diventano una parte più importante della nostra vita, conoscere i loro limiti sarà fondamentale se vogliamo usarli in modo intelligente e responsabile.