Un nuovo approccio di formazione mira a ridurre i pregiudizi sociali nell'IA

I chatbot AI sono noti per generare spesso soluzioni con pregiudizi razziali quando vengono sottoposti a varie domande, e molti sforzi di ricerca si sono concentrati su questo problema. Ora, un nuovo metodo di formazione è pronto a risolvere questo problema. Il metodo è noto come "deduplicazione equa" o semplicemente "FairDeDup" ed è il risultato di una ricerca condotta da un team di Adobe e dal dottorando dell'OSU College of Engineeringdell'OSU College di Ingegneria, Eric Slyman.

La deduplicazione dei set di dati utilizzati nell'addestramento dell'intelligenza artificiale consiste nel rimuovere le informazioni ridondanti, riducendo così i costi dell'intero processo. Per ora, i dati utilizzati provengono da tutto Internet, quindi contengono idee e comportamenti ingiusti o distorti che gli esseri umani spesso elaborano e condividono online.

Secondo Slyman, "FairDeDup rimuove i dati ridondanti e incorpora dimensioni di diversità controllabili e definite dall'uomo per mitigare i pregiudizi. Il nostro approccio consente un addestramento AI non solo economico e accurato, ma anche più equo". L'elenco degli approcci distorti perpetuati dai chatbot AI al giorno d'oggi include l'occupazione, la razza o il genere, ma anche l'età, la geografia e le idee legate alla cultura che sono ovviamente ingiuste.

FairDeDup è una versione migliorata di un metodo precedente noto come SemDeDupche spesso esacerbava i pregiudizi sociali, anche se si è rivelato una soluzione efficace dal punto di vista dei costi. Coloro che sono interessati a questo campo dovrebbero prendere il libro Mastering AI Model Training di Kris Hermans : A Comprehensive Guide To Become An Expert In Training AI Models, attualmente disponibile su Kindle a 9,99 dollari o in versione paperback (a 44,07 dollari).