Lo scandalo Deepfake in una scuola superiore chiama i legislatori all'azione

La tecnologia Deepfake non è un concetto nuovo, ma gli studenti di una scuola superiore del New Jersey sono diventati vittime dei loro compagni di classe che utilizzano questa tecnologia AI. Diversi ragazzi della scuola hanno utilizzato le immagini delle loro compagne di classe. Una vittima, Francesca, una studentessa di 14 anni, ha riferito che lei e oltre 30 altri adolescenti sono apparsi in queste immagini, che sono state distribuite nella scuola senza il loro consenso. Tuttavia, secondo un'e-mail della scuola, il numero effettivo delle vittime sembra essere inferiore a 30.

Francesca ha poi contattato diversi legislatori e ha ricevuto risposte dal Rappresentante degli Stati Uniti Joe Morelle di New York, dal Rappresentante degli Stati Uniti Tom Kean Jr. del New Jersey e dal Senatore dello Stato del New Jersey Jon Bramnick, tra gli altri. Grazie al suo impegno, recentemente sono state introdotte nuove proposte legislative, con particolare attenzione all'etichettatura e all'identificazione dei contenuti generati dall'IA e alla prevenzione dell'inclusione di materiale minorenne. Inoltre, la ragazza ha creato un sito web per aiutare le persone colpite dalla tecnologia deepfake.

Quel giorno ho capito [che] dovevo parlare, perché penso davvero che non vada bene. È una tecnologia così nuova che le persone non conoscono e non sanno come proteggersi.

- Francesca

Joe Morelle ha redatto una proposta di legge nel 2022 per criminalizzare la produzione di deepfakes senza consenso, ma non ha avuto un sostegno sufficiente e alla fine è fallita. Sono state introdotte anche altre iniziative per regolamentare i deepfakes, come la legge DEEPFAKES Accountability Act del 2019 del Rappresentante Yvette Clarke, che richiede che tutti i deepfake siano filigranati dai loro autori.

Da allora, la creazione di deepfakes è diventata più facile grazie al notevole sviluppo dell'intelligenza artificiale. Con un materiale d'immagine minimo, è possibile ottenere falsi dall'aspetto reale. Ad esempio, Lensa, un'applicazione di AI generativa, permette di spogliare le persone, tra le altre cose.

Abbiamo appena dato ai ragazzi delle scuole superiori la madre di tutte le armi nucleari, ovvero la possibilità di creare un porno con [una sola immagine] di chiunque vogliano. E naturalmente lo stanno facendo.

- Hany Farid, Professore dell'Università della California, Berkeley

La proposta di legge di Joe Morelle consentirebbe di perseguire penalmente i creatori e i distributori di deepfake senza consenso, classificandolo come reato federale.