Su Internet vengono visualizzati video modificati in cui le persone pronunciano determinate parole (anche se in realtà non le hanno dette) o eseguono alcune azioni (sebbene non le abbiano effettivamente eseguite). Grazie ai nuovi sviluppi basati sull'intelligenza artificiale, la qualità di tali falsi video aumenterà in modo significativo.
Oggi, le tecnologie per la creazione di video falsi non si limitano ai movimenti delle labbra e del viso di una persona nei fotogrammi originali: un sistema basato sull'intelligenza artificiale è in grado di preparare un video realistico, in cui un'immagine digitale modificata di una persona può muovere la testa in direzioni diverse, sbattere le palpebre e mostrare emozioni. Tutte le azioni e le parole dell'attore che è stato filmato nel video originale verranno trasferite nel video falso.
Il team di sviluppo ha confrontato il nuovo algoritmo con i sistemi di manipolazione di foto e video esistenti in cui sono coinvolti Facebook e Google. Il nuovo algoritmo ha superato le tecniche esistenti e i partecipanti all'esperimento difficilmente hanno potuto determinare l'autenticità dei video.
I ricercatori sono stati in parte finanziati da Google. I creatori del sistema sperano che la nuova tecnologia possa migliorare la realtà virtuale. L'intelligenza artificiale deve solo studiare pochi minuti del materiale sorgente per iniziare a creare un video modificato. Pertanto, i ricercatori sostengono che il software di editing video di alta qualità diventerà più conveniente.
Gli sviluppatori comprendono che la loro invenzione potrebbe sollevare alcune preoccupazioni nella comunità.
Il ricercatore Justus Tees ha dichiarato a The Register di essere preoccupato per il lato etico della questione. I risultati dello studio sono stati pubblicati per avvisare le persone dei progressi nelle tecniche di manipolazione, ha detto Tees.
Gli scienziati ancora una volta "hanno avvertito del pericolo", ma hanno continuato a migliorare la tecnologia sospetta. Nel testo dello studio, la questione etica è stata menzionata solo di sfuggita: gli sviluppatori ritengono che qualcuno dovrebbe migliorare il sistema di watermarking o inventare un altro modo per rilevare la falsificazione dei video.
Gli stessi ricercatori non vogliono affrontare questo problema, poiché sono impegnati a lavorare per migliorare lo strumento per la creazione di video falsi.
Video promozionale:
Anton Komarov
