Google offre 12 milioni di dollari agli hacker per affrontare gli attacchi di AI generativa

Google paga gli hacker per risolvere i problemi di sicurezza dell'IA

Google sta incoraggiando gli hacker a rivelare le possibili minacce ai suoi sistemi AI. In precedenza, l'azienda ha impiegato il suo "AI Red Team" interno per indagare sulle tecniche di attacco all'intelligenza artificiale. Tuttavia, il programma aggiornato coinvolge ora hacker esterni per migliorare la sicurezza dell'AI.

Nicole Dominikowski (traduzione a cura di Ninh Duy), Published 11/01/2023 🇺🇸 🇩🇪 ...

Business AI Security

Google sta estendendo il suo attuale programma di bug bounty per ricompensare gli hacker e i ricercatori di sicurezza che identificano possibili attacchi nell'IA generativa. Il Vulnerability Rewards Program (VRP) delinea chiare linee guida sulle segnalazioni idonee a ricevere ricompense finanziarie. Se un problema si qualifica per la segnalazione, è possibile inviarlo sul sito web Bug Hunter e ricevere una ricompensa se viene ritenuto valido.

L'anno scorso, Google ha pagato ai professionisti della sicurezza 12 milioni di dollari per aver rivelato delle falle nella sicurezza. Ad agosto, l'azienda si è riunita con altri delegati del settore e ricercatori di sicurezza a Defcon, il più grande evento pubblico per l'AI generativa finora, presso la Casa Bianca per identificare possibili problemi.

Riteniamo che l'espansione del VRP incentiverà la ricerca sulla sicurezza dell'AI e porterà alla luce potenziali problemi che, in ultima analisi, renderanno l'AI più sicura per tutti. Stiamo anche ampliando il nostro lavoro sulla sicurezza open source per rendere universalmente scopribili e verificabili le informazioni sulla sicurezza della catena di approvvigionamento dell'AI.

- Portavoce di Google

Fino a questo momento, l'azienda ha utilizzato il proprio "AI Red Team" per ricercare le minacce dell'AI, scoprire bug e sviluppare difese di sistema.

Sfruttiamo le tattiche, le tecniche e le procedure (TTP) degli aggressori per testare una serie di difese del sistema.

- Daniel Fabian, responsabile dei Red Team di Google

In base alle nuove norme, gli hacker esterni possono ora simulare attacchi per identificare falle nei sistemi e nei servizi AI di Google, ad esempio, ma devono lavorare all'interno di un quadro rigoroso. L'estensione del programma di incentivi ha preceduto l'introduzione di un nuovo ordine esecutivo da parte del Presidente Biden.

Il 30 ottobre, Joe Biden ha emesso la prima azione governativa obbligatoria sull'intelligenza artificiale, per esempio. L'ordine esecutivo impone una valutazione approfondita dei modelli di AI prima del loro utilizzo da parte delle agenzie governative.