Una nuova ricerca espone il persistente pregiudizio dell'AI nei confronti dei dialetti inglesi afroamericani

Un nuovo studio ha messo in luce il razzismo occulto incorporato nei modelli linguistici AI, in particolare nel loro trattamento dell'inglese afroamericano (AAE). A differenza delle ricerche precedenti che si concentravano sul razzismo palese (come lo studio CrowS-Pairs per misurare i pregiudizi sociali in Masked LLMs), questo studio pone particolare enfasi sul modo in cui i modelli di AI perpetuano sottilmente gli stereotipi negativi attraverso il pregiudizio dialettale. Questi pregiudizi non sono immediatamente visibili, ma si manifestano in modo evidente, ad esempio associando i parlanti AAE a lavori di basso livello e a giudizi penali più severi.

Lo studio ha scoperto che anche i modelli addestrati per ridurre i pregiudizi palesi continuano a nutrire pregiudizi profondi. Questo potrebbe avere implicazioni di vasta portata, soprattutto quando i sistemi di intelligenza artificiale saranno sempre più integrati in aree critiche come l'occupazione e la giustizia penale, dove l'equità e la correttezza sono fondamentali prima di ogni altra cosa.