Il testo nascosto può ingannare ChatGPT e falsificare i risultati della ricerca

ChatGPT Search, un motore di ricerca web basato sull'AI, può essere ingannato per modificare i suoi risultati utilizzando del testo nascosto. Lo strumento AI può essere costretto a modificare le sue risposte su prodotti o servizi nonostante le recensioni negative presenti su una pagina.

The Guardian riferisce che è riuscito a far sì che ChatGPT Search restituisse risultati falsi dandogli una pagina di prodotto falsa per una fotocamera e chiedendo allo strumento se fosse un acquisto utile. Senza l'uso di testo nascosto, lo strumento AI ha dato una risposta equilibrata con i pro e i contro del prodotto.

Il testo nascosto, come dice il nome, non può essere visto dai visitatori di un sito web. Viene utilizzato per diversi scopi, tra cui fornire accessibilità agli utenti e migliorare la loro esperienza sul sito web. Al contrario, può essere utilizzato per manipolare le classifiche SEO con i dump di parole chiave o, in questo caso, per ingannare uno strumento di intelligenza artificiale e fargli dare valutazioni positive su prodotti o servizi.

Tuttavia, quando si testa la stessa pagina web con il testo nascosto, lo strumento AI potrebbe essere indotto a fornire opinioni positive sul prodotto, nonostante le recensioni negative sulla stessa pagina. Secondo il Guardian, questa semplice inclusione può garantire un'impressione positiva di un prodotto o di un servizio. Può portare le persone a creare siti web che inducono deliberatamente gli utenti a cliccare su link dannosi.