Scienziati dell'Università di Chicago (USA) hanno condotto uno studio, durante il quale hanno mostrato come l'IA possa essere utilizzata per scrivere complesse recensioni false. Tali recensioni sono indistinguibili da quelle reali con metodi moderni e lettori ignari le trovano altamente affidabili.
Le recensioni dei ristoranti sono state generate utilizzando reti neurali ricorrenti (tecniche di deep learning) che in precedenza si formavano su migliaia di recensioni di vita reale disponibili sul Web.
Secondo i ricercatori, le recensioni generate erano praticamente indistinguibili da quelle reali. Quindi, gli autori del lavoro hanno dimostrato che gli utenti non solo non riconoscevano le recensioni false, ma le consideravano utili quanto quelle vere scritte dalle persone.
Quest'ultimo è probabilmente il più allarmante. Poiché ciò significa essenzialmente che le recensioni scritte dall'intelligenza artificiale svolgono la loro funzione principale: influenzano intenzionalmente l'opinione delle persone.
Si noti che il plagio è stato raramente rilevato in tali revisioni (utilizzando software). Ciò è dovuto al fatto che l'IA li ha generati in base al personaggio e non ha tratto parole da recensioni reali.
Oggi c'è un'industria sotterranea abbastanza grande in cui le persone scrivono recensioni false (per soldi). Tuttavia, come notato dal professore dell'Università di Chicago Ben Y. Zhao in un'intervista a Business Insider, l'introduzione dell'IA può minarla. Lo scienziato afferma di non essere ancora a conoscenza dell'uso di tali algoritmi in questo settore. Ma non vi è alcuna garanzia che qualcuno non tirerà fuori qualcosa di simile e non lo utilizzerà per guadagno personale.
Allo stesso tempo, i ricercatori scrivono che le risposte della rete neurale non erano ancora ideali. Si è scoperto che l'algoritmo utilizzava un set di caratteri più piccolo e questo non era difficile da vedere. Tuttavia, secondo gli autori del lavoro, le future reti neurali potrebbero essere ancora più complesse e, di conseguenza, il feedback che generano sarà più difficile da rilevare.
Zhao osserva che non si tratta solo di false recensioni di ristoranti: tali tecnologie possono generalmente scuotere le nostre convinzioni su ciò che è reale e ciò che non lo è.
Video promozionale:
Il testo dello studio può essere trovato qui.
