Immagina che un giorno un bambino prodigio inventerebbe una tecnologia che consente a persone o oggetti materiali di passare attraverso i muri e pubblichi istruzioni su Internet su come costruire a buon mercato una macchina miracolosa con materiali domestici comunemente disponibili. Come cambierebbe il mondo?
È probabile che molte industrie diventino significativamente più produttive. Essere in grado di attraversare i muri invece di dover usare le porte renderebbe più facile per le persone muoversi negli uffici, spostare le merci nei magazzini e svolgere innumerevoli attività domestiche quotidiane. Tuttavia, le conseguenze negative potrebbero ben superare quelle positive. Tenere gli oggetti di valore sotto chiave perderebbe ogni significato. Chiunque potrebbe facilmente entrare nel magazzino, entrare in una cassaforte della banca o in una casa.
La maggior parte dei metodi che utilizziamo per proteggere la proprietà privata coinvolgono i muri in un modo o nell'altro, quindi tutti sarebbero inutili dall'oggi al domani. I ladri avrebbero agito impunemente fino a quando la società non avesse inventato modi alternativi per prevenire tali crimini. Il risultato di un tale sviluppo di eventi potrebbe essere un collasso economico o un caos sociale.
Quanto sopra illustra un principio generale: l'innovazione tecnologica non è sempre vantaggiosa per la società, almeno a breve termine. Le tecnologie sono in grado di creare esternalità negative, esternalità. Con questo termine economico si intende il danno causato a terzi o soggetti. Se queste esternalità negative superano l'utilità della tecnologia stessa, l'invenzione in realtà rende il mondo peggiore, non migliore, almeno per un po '.
L'apprendimento automatico, in particolare una variazione nota come apprendimento profondo, è senza dubbio il più importante progresso tecnologico del pianeta. Offre ai computer la capacità di eseguire molte attività che in precedenza solo gli esseri umani potevano svolgere: riconoscere immagini, guidare automobili, commerciare in borsa e altro ancora. Ciò ha causato in alcune persone l'ansia che l'apprendimento automatico possa rendere gli esseri umani non necessari e inutili sul posto di lavoro. E questo è effettivamente possibile, ma c'è un pericolo molto più serio derivante dall'apprendimento automatico che finora non ha ricevuto sufficiente attenzione. Il punto è che se le macchine sono in grado di apprendere, possono imparare a mentire.
Le persone oggi possono falsificare immagini come fotografie, ma questo è un processo laborioso e complesso. E la falsificazione di un'immagine vocale o video è generalmente oltre le capacità di una persona comune. Ma presto, grazie all'apprendimento automatico, sarà probabilmente possibile creare facilmente immagini video false credibili del viso di qualcuno e dare l'impressione che la persona stia parlando con la propria voce. Esiste già una tecnologia per sincronizzare i movimenti delle labbra, che può letteralmente mettere qualsiasi parola nella bocca di una persona. Questa è solo la punta dell'iceberg. Presto, i dodicenni saranno in grado di creare immagini false fotorealistiche e credibili di politici, imprenditori, parenti o amici nelle loro camere da letto, dicendo tutto ciò che possono immaginare.
Questo di per sé provoca qualche evidente abuso. Le bufale politiche, le cosiddette "fake news" o "information stuffing", si diffonderanno a macchia d'olio. Ovviamente, l'inganno verrà rilevato il prima possibile: nessuna tecnologia digitale può essere così buona che un'altra tecnologia non sarà in grado di rilevare il falso. Ma questo accadrà solo dopo che l'idea dannosa è già penetrata nelle menti delle persone che ci credono. Immagina un video falso perfettamente fabbricato di candidati alla presidenza che urlano insulti razzisti o confessano gravi crimini.
Tuttavia, questo è solo l'inizio. Immagina il potenziale per manipolare il mercato azionario. Supponiamo che qualcuno abbia diffuso un video falso in cui il CEO di Tesla Elon Musk ammette che le auto Tesla non sono sicure. Il video si diffonderà su Internet e le azioni della società andranno in crash. Subito dopo la scoperta di un falso, il loro prezzo si riprenderà, tuttavia, durante questo periodo, i manipolatori saranno in grado di fare enormi soldi, giocando per ridurre le quote di Tesla.
Video promozionale:
E questo è lontano dallo scenario più estremo. Immagina un burlone del genere che crei un video falso realistico del presidente Donald Trump che afferma che uno sciopero contro obiettivi nordcoreani è imminente, e poi pubblica quel video dove i nordcoreani possono vederlo. Quali sono le possibilità che la leadership nordcoreana si renda conto che si tratta di un falso prima di dover decidere di iniziare una guerra?
Coloro che tendono a considerare scenari così estremi come allarmisti faranno ragionevolmente notare che qualsiasi falso può essere rilevato, poiché per rilevarli verranno utilizzate le stesse tecnologie di apprendimento automatico come per la creazione. Ma questo non significa che non corriamo il rischio di finire in un mondo pieno di contraffazioni onnipresenti. Una volta che i falsi diventano abbastanza credibili da non essere in grado di rilevarli da soli, perderemo per sempre la fiducia in ciò che vediamo e sentiamo. Invece di fidarci dei nostri sensi, saremo costretti a fare affidamento su algoritmi utilizzati per rilevare falsificazioni e autenticare le informazioni. Durante l'evoluzione, abbiamo imparato a fidarci dei nostri sentimenti,e il trasferimento di queste funzioni all'intelligenza artificiale potrebbe essere troppo brusco per la maggior parte delle persone.
Questa potrebbe essere una cattiva notizia per l'economia. Le reti aziendali e commerciali si basano sulla fiducia e sulla comunicazione. Se un giorno l'apprendimento automatico getta una tempesta senza fine di illusioni e falsi nella sfera dell'informazione pubblica, i muri creati dall'evoluzione per distinguere la realtà dalla finzione crolleranno. In questo caso, il livello di fiducia nella società può diminuire rapidamente, il che non rallenterà per influire negativamente sul benessere globale dell'umanità.
Per questo motivo, il governo dovrebbe probabilmente adottare alcune misure per garantire che la contraffazione digitale sia punita severamente. Sfortunatamente, è improbabile che l'attuale amministrazione faccia un simile passo per amore delle notizie di partito ristretto. E i governi come la Russia probabilmente saranno ancora meno inclini a frenare queste pratiche. In definitiva, la combinazione di una cattiva governance con nuove potenti tecnologie rappresenta una minaccia di gran lunga maggiore per la società umana rispetto alle tecnologie stesse.
Di Noah Smith, giornalista di Bloomberg News
Igor Abramov
