Il chatbot del governo della città di New York consiglia alle aziende di infrangere le leggi
Il nuovo chatbot AI della città di New York, che ha lo scopo di aiutare le aziende a navigare nel solido ambiente normativo della città, sembra avere qualche rotella fuori posto.
Il chatbot, che è stato lanciato lo scorso ottobre, è uno strumento approvato dal governo della città per fungere da punto di riferimento e di consulenza per le aziende all'interno del comune. Sebbene il bot sia stato in gran parte una risorsa utile per molti, ci sono stati numerosi casi in cui ha risposto a una domanda con risposte potenzialmente fuorvianti o del tutto illegali.
Ad esempio, qualcuno ha chiesto al chatbot se un ristorante poteva servire formaggio che era stato parzialmente mangiato da un ratto. Il bot ha risposto che, sì, "si può comunque servire il formaggio ai clienti se ha dei morsi di topo", secondo The Star. Il bot ha anche aggiunto che l'azienda avrebbe dovuto "informare i clienti della situazione".
Altre risposte che violano i regolamenti di New York City includono l'affermazione che i proprietari di aziende possono prendere una parte delle mance dei loro lavoratori (cosa illegale), oscurare i prezzi dei servizi funebri (cosa vietata dalla Federal Trade Commission) e rifiutare di accettare pagamenti in contanti in un negozio al dettaglio (cosa richiesta a New York City dal 2020), oltre ad altre violazioni.
Va notato che nessun servizio di chatbot AI è preciso al 100%, e anche i dipendenti umani possono commettere errori. Tuttavia, i fallimenti del chatbot (per quanto limitati) presentano un interessante enigma per i proprietari di attività commerciali di New York. Da quando la città ha ufficialmente autorizzato il chatbot, è stata sollevata la questione della responsabilità, nel caso in cui il proprietario di un'azienda segua le prescrizioni del bot.
Microsoft, che ha fornito il framework Azure AI per il chatbot di New York City, ha dichiarato che stava modificando il bot per "garantire che i risultati siano accurati e basati sulla documentazione ufficiale della città", secondo The Star.
Il sindaco di New York City, Eric Adams, ha difeso il chatbot in una conferenza stampa all'inizio di questa settimana, dichiarando:
Chiunque conosca la tecnologia sa che è così che si fa. Solo coloro che sono timorosi si siedono e dicono: "Oh, non funziona nel modo in cui vogliamo, ora dobbiamo scappare via tutti insieme". Io non vivo in questo modo".
Al momento della stampa, il chatbot è ancora attivo e funzionante.
