Una nuova ricerca espone il persistente pregiudizio dell'AI nei confronti dei dialetti inglesi afroamericani
Un nuovo studio ha messo in luce il razzismo occulto incorporato nei modelli linguistici AI, in particolare nel loro trattamento dell'inglese afroamericano (AAE). A differenza delle ricerche precedenti che si concentravano sul razzismo palese (come lo studio CrowS-Pairs per misurare i pregiudizi sociali in Masked LLMs), questo studio pone particolare enfasi sul modo in cui i modelli di AI perpetuano sottilmente gli stereotipi negativi attraverso il pregiudizio dialettale. Questi pregiudizi non sono immediatamente visibili, ma si manifestano in modo evidente, ad esempio associando i parlanti AAE a lavori di basso livello e a giudizi penali più severi.
Lo studio ha scoperto che anche i modelli addestrati per ridurre i pregiudizi palesi continuano a nutrire pregiudizi profondi. Questo potrebbe avere implicazioni di vasta portata, soprattutto quando i sistemi di intelligenza artificiale saranno sempre più integrati in aree critiche come l'occupazione e la giustizia penale, dove l'equità e la correttezza sono fondamentali prima di ogni altra cosa.
I ricercatori hanno impiegato una tecnica chiamata "matched guise probing" per scoprire questi pregiudizi. Confrontando il modo in cui i modelli di IA hanno risposto ai testi scritti in inglese americano standard (SAE) rispetto all'AAE, hanno potuto dimostrare che i modelli associano costantemente l'AAE a stereotipi negativi, anche quando il contenuto è identico. Questo è un chiaro indicatore di un difetto fatale negli attuali metodi di addestramento dell'IA: i miglioramenti a livello superficiale nella riduzione del razzismo palese non si traducono necessariamente nell'eliminazione di forme di pregiudizio più profonde e insidiose.
L'AI continuerà senza dubbio ad evolversi e ad integrarsi in più aspetti della società. Tuttavia, ciò comporta anche il rischio di perpetuare e persino amplificare le disuguaglianze sociali esistenti, anziché mitigarle. Scenari come questi sono il motivo per cui queste discrepanze dovrebbero essere affrontate come una priorità.
Fonte(i)
