Le reti neurali nell'AI sono meno connesse del previsto

Le reti neurali artificiali continuano a porre degli enigmi. È difficile decifrare esattamente come vengono compilate le informazioni, come vengono creati i testi, perché si insinuano errori importanti e perché alcuni chatbot semplicemente si rompono.

Uno dei motivi è che la struttura di base di queste reti è simile a quella di un cervello. Non sono i punti di dati e le singole informazioni a caratterizzare il loro funzionamento, ma il numero quasi infinito di collegamenti possibili tra di essi.

Tuttavia, le reti neurali dell'intelligenza artificiale rimangono spesso a un livello molto più semplice, come ha scoperto un recente studio di https://arxiv.org/pdf/2308.09124.pdf ha scoperto che.

L'AI tratta le informazioni di base in modo molto meno complesso di quanto ci si aspettasse. Ad esempio, invece di raccogliere tutte le possibili risposte a una domanda e rispondere con il fatto più probabile, perché più frequentemente collegato, viene utilizzato un collegamento lineare.

I ricercatori sono riusciti a identificare un totale di 47 diversi collegamenti lineari nell'intelligenza artificiale in esame. Ciò è stato ottenuto mediante una domanda corrispondente e il successivo tracciamento del percorso del segnale attraverso la rete neurale.

E questo è stato sorprendentemente breve per molti fatti. Ad esempio, le domande sullo strumento suonato da artisti famosi, sul tipo di sport praticato da atleti professionisti o persino sulle capitali dei singoli Paesi potevano essere risposte con un solo collegamento. Al contrario, è più difficile trovare risposte a domande meno ovvie nella rete.

Tuttavia, si può dimostrare che molte informazioni sono direttamente collegate tra loro e difficilmente sono organizzate come una rete. Capire come un chatbot di questo tipo emette le sue conoscenze e come il segnale può essere rintracciato in modo affidabile nella rete dovrebbe in ogni caso aiutare a comprendere gli errori, a volte curiosi, ma a volte difficili da riconoscere, di un'IA.

L'intuizione di come funziona con la sua struttura sorprendentemente lineare vale da sola molto.