Pindrop presenta il software Pulse Inspect per rilevare i cloni vocali AI-deepfake e contribuire a fermare le frodi e la disinformazione
Pindrop ha presentato il software Pulse Inspect per rilevare i cloni vocali AI-deepfake e contribuire a fermare le frodi e la disinformazione. Il software utilizza tecnologie brevettate per rilevare in modo affidabile oltre il 90% delle voci generate dall'AI, anche con campioni audio di durata inferiore a dieci secondi.
Le voci clonate dall'AI sono diventate così convincenti e reali che milioni di persone sono andate perse a causa di frodi. All'inizio di quest'anno, i ladri di hanno rubato 25 milioni di dollari a un impiegato di finanza di una multinazionale di Hong Kong, utilizzando una videochiamata deepfake che utilizzava le voci deepfake del CFO e di altri membri del personale. I video politici deepfake sono stati utilizzati per influenzare l'esito delle elezioni, comprese le imminenti elezioni statunitensi del 2024. Sono state create e utilizzate anche chiamate vocali false da parte di politici https://www.nytimes.com/2024/02/27/us/politics/ai-robocall-biden-new-hampshire.htmlsuscitando molto clamore.
Pindrop ha svolto ricerche in materia per otto anni e detiene 25 brevetti sul rilevamento di audio deepfake. La loro ultima AI Pulse Inspect è stata addestrata su oltre 20 milioni di campioni vocali reali e falsi. I campioni di voce falsa provenienti da oltre 370 diversi strumenti di clonazione consentono di ottenere alti tassi di rilevamento. L'IA suddivide i campioni vocali in clip di quattro secondi per l'analisi, utilizzando le caratteristiche audio uniche dei vari algoritmi di deepfake e le caratteristiche audio aggiuntive delle voci reali per identificare i falsi. Ciò consente a Pulse Inspect di rilevare i falsi il 90% delle volte quando si trova di fronte a voci clonate da strumenti di deepfake mai incontrati prima e il 99% delle volte quando si trova di fronte a voci di strumenti già visti.
Le aziende devono sapere che il software di rilevamento delle frodi non è mai perfetto. Un recente test NPR di Pulse Inspect ha rilevato che il software non ha categorizzato correttamente le voci reali rispetto a quelle false in 3 degli 84 campioni testati. Il tasso di fallimento del 3,6% lascia una piccola possibilità di successo agli aggressori, e le aziende dovrebbero sempre utilizzare la difesa in profondità per proteggere i loro beni.
I lettori che si preoccupano dei loro beni e dei loro cari dovrebbero proteggere i loro account utilizzando metodi a due fattori, come i codici di accesso via SMS o una chiave fisica a due fattori(come questa su Amazon), e assicurarsi che i membri della famiglia utilizzino una parola o una frase segreta per verificare la loro identità durante le chiamate sospette.
Fonte(i)
Pindrop lancia Pulse Inspect: Una soluzione all'avanguardia per combattere i Deepfakes e la diffusione della disinformazione
PindropⓇ PulseTM Inspect consente ai media, alle reti di social media, alle organizzazioni non profit e ai governi di mantenere l'integrità dei contenuti identificando l'audio generato dall'AI con una precisione del 99%
Atlanta, GA - 15 agosto 2024 - Pindrop, leader globale nell'autenticazione e nella sicurezza vocale dal 2011, ha annunciato oggi il lancio di PindropⓇ PulseTM Inspect in Anteprima. Questo strumento innovativo, l'ultima novità della famiglia di prodotti PindropⓇ PulseTM per il rilevamento deepfake all'avanguardia, è in grado di rilevare il parlato generato dall'AI in qualsiasi file audio digitale con un'accuratezza del 99%. Dopo il lancio di Pindrop Pulse all'inizio di quest'anno e l'ultimo finanziamento di Pindrop a luglio, Pindrop Pulse Inspect estende la tecnologia di Pindrop al di là dei soli call center, ma ora offre un nuovo caso d'uso per le organizzazioni dei media, le organizzazioni non profit, le agenzie governative e le reti di social media. Pulse Inspect analizza e verifica rapidamente se i file multimediali contengono discorsi sintetici, in modo che i clienti possano prevenire in modo proattivo la diffusione di disinformazione e mantenere la credibilità del loro marchio.
L'AI generativa ha portato ad un aumento dei deepfake, che rappresentano una seria minaccia per la credibilità delle organizzazioni. Il Deepfake and Voice Clone Consumer Sentiment Report di Pindrop stima che oltre 12 milioni di adulti statunitensi conoscono qualcuno che ha personalmente creato dei deepfake senza il proprio consenso. Questi file sintetici sono spesso diffusi attraverso piattaforme come YouTube, TikTok, Instagram, Facebook e i media. Per aiutare a prevenire l'esposizione a queste minacce in evoluzione, le organizzazioni possono adottare questa tecnologia all'avanguardia per salvaguardare la loro immagine pubblica e la loro credibilità. La soluzione Pulse di Pindrop affronta questo problema in modo diretto, rilevando i deepfakes con una precisione eccezionale.
Adottando Pulse Inspect, gli utenti possono caricare file audio nella piattaforma Pindrop per determinare in modo rapido e preciso se i file contengono un discorso sintetico. Pindrop fornisce punteggi deepfake immediati e visibilità su parti specifiche del file identificate come contenenti artefatti sintetici o deepfake, in modo che l'utente possa prestare maggiore attenzione a quel segmento durante la revisione e l'analisi. Con Pulse Inspect, gli utenti possono agire rapidamente per salvaguardare l'integrità dei contenuti prima di distribuirli su qualsiasi piattaforma pubblica online di notizie, sociale o editoriale.
"Per oltre un decennio, Pindrop è stata all'avanguardia nell'innovazione dell'autenticazione vocale e della sicurezza. Ad esempio, all'inizio di quest'anno abbiamo scoperto il motore TTS di origine utilizzato nell'incidente del deepfake di Biden, e la necessità critica di meccanismi robusti di rilevamento del deepfake è emersa in modo forte e chiaro nelle mie conversazioni con decine di stakeholder in tutti i settori", ha dichiarato Vijay Balasubramaniyan, co-fondatore e CEO di Pindrop. "Oggi lanciamo Pulse Inspect per estendere la nostra esperienza nel rilevamento di deepfake a organizzazioni come i media, le organizzazioni non profit, i governi e le reti di social media in un momento storico cruciale. Con Pulse Inspect, mettiamo le organizzazioni in condizione di salvaguardare l'integrità dei loro contenuti e di riportare la fiducia nell'era digitale moderna"
Pulse Inspect si avvale dell'avanzata tecnologia di rilevamento deepfake di Pindrop, che secondo NPR è più efficace di 40 punti percentuali rispetto al concorrente più vicino in uno studio indipendente. Pindrop ha addestrato il suo modello di rilevamento di deepfake su 350+ strumenti di generazione di deepfake, 20M+ enunciati unici e 40+ lingue, che coprono oltre il 90% delle lingue parlate su Internet. I punteggi deepfake continui vengono forniti ogni quattro secondi, consentendo l'identificazione dei contenuti sintetici rispetto a quelli umani nei media misti. Il monitoraggio continuo della vivacità consente a Pulse Inspect di rilevare quali segmenti dell'audio sono sintetici rispetto a quelli autentici, il che è particolarmente utile quando solo una parte dell'audio è un deepfake. La sua piattaforma di elaborazione in batch, facile da usare e guidata da API, e la sua semplice interfaccia utente forniscono un'analisi chiara (sintetico vs. non sintetico) con soglie regolabili in base alla tolleranza al rischio, risparmiando in definitiva tempo, denaro e risorse.
"In qualità di leader nel settore della voce sintetica per Hollywood, Respeecher ha stabilito linee guida e politiche che garantiscono che la nostra tecnologia non venga utilizzata in modo improprio, e continuiamo a impegnarci per essere pionieri nello sviluppo e nell'uso etico della tecnologia di clonazione vocale AI", ha dichiarato Alex Serdiuk, CEO e co-fondatore di Respeecher, partner di Pindrop. "La tecnologia Pulse Inspect di Pindrop ci aiuta a garantire che la nostra tecnologia di rilevamento sia all'avanguardia rispetto alle minacce di attacchi AI generativi. Siamo entusiasti del lancio di Pindrop Pulse Inspect e non vediamo l'ora di mettere la tecnologia nelle mani dei nostri clienti comuni, affinché possano esaminare in modo forense qualsiasi audio e determinarne la provenienza sintetica"
"Con le imminenti elezioni americane e la drammatica crescita dell'audio sintetico generato dall'AI che apparirà in queste chiamate nel 2024, YouMail, un servizio di segreteria telefonica visiva e di blocco delle Robocall, riconosce Pindrop Pulse Inspect come la soluzione ideale per individuare con precisione i deepfakes nelle chiamate vocali", ha dichiarato Mike Rudolph, Chief Technology Officer di YouMail. "La tecnologia di Pindrop non solo si è dimostrata resistente a diversi formati audio, ma anche incredibilmente precisa su scala. Siamo entusiasti di collaborare con Pindrop per identificare le robocall legate alle elezioni che sono deepfakes, soprattutto perché il volume di queste chiamate aumenta durante la stagione critica delle elezioni americane"
"TrueMedia.org è un progetto di intelligenza artificiale senza scopo di lucro e apartitico per combattere la disinformazione nelle campagne politiche identificando i media manipolati", ha dichiarato Oren Etzioni, CEO di TrueMedia.org. "La nostra valutazione completa ha rilevato che il rilevamento di deepfake audio di Pindrop ha un'accuratezza migliore rispetto ad altre alternative nel rilevare il parlato sintetico. Siamo entusiasti di collaborare con Pindrop in questa missione e di aggiungere la tecnologia di rilevamento deepfake di Pindrop alla soluzione per i nostri clienti e utenti in tutto il mondo"
