Quasi tutti coloro che si sono tuffati anche un po 'nel tema dell'intelligenza artificiale devono giungere alla conclusione che l'intelligenza artificiale ci porterà a una terribile apocalisse o direttamente a un'utopia favolosa. E non ci sono praticamente opzioni intermedie. Naturalmente, ciò è in parte dettato dal fatto che slogan ad alta voce come "La fine è vicina!" o, ad esempio, "L'utopia sta arrivando!" Ma ancora …
In parte si riduce a come le persone si sentono riguardo al cambiamento, specialmente al grande cambiamento. Il millenarismo non ha nulla a che fare con l'essere nati negli anni '90, essere un "millenario" e ricordare la serie su Buffy la vincitrice del vampiro. È uno stile di pensiero sul futuro associato a un profondo senso del destino. Il millenarismo è "l'aspettativa che il nostro mondo sarà distrutto e sostituito da un mondo perfetto e che apparirà un redentore che abbatterà tutto il male e sarà in grado di confortare i giusti".
Di conseguenza, le credenze dei millennial collegano strettamente le idee di creazione e distruzione. Tra questi ci sono le idee di cambiamenti apocalittici, enormi e sismici che possono distruggere il tessuto del vecchio mondo e costruire qualcosa di completamente nuovo. Un sistema di credenze simile esiste in molte delle principali religioni del mondo, e anche nelle religioni non molto agnostiche e atee, che credono nella tecnologia piuttosto che nelle essenze divine.
Si consideri, ad esempio, come i futuristi anticipano una singolarità tecnologica. Secondo Ray Kurzweil, la singolarità è simile alla creazione del paradiso. Tutti saranno immortali, perché apparirà la biotecnologia che può curare le nostre malattie; e il nostro cervello può essere caricato nel cloud; la sofferenza e la disuguaglianza scompariranno come fenomeni. "Distruzione del mondo" viene sostituito dal termine preferito della Silicon Valley: interruzione, che è un cambiamento radicale nel settore. E, come nel caso di altre credenze millenarie, la tua visione finale dipende fortemente da ciò che ti aspetti: la nascita di un'utopia o la fine del mondo.
Ci sono molte ottime ragioni per essere scettici su questo tipo di pensiero. Forse la più convincente di queste ragioni è che tutte le convinzioni dei millennial riflettono semplicemente gli atteggiamenti stessi delle persone verso il cambiamento; basta guardare quante variazioni di queste credenze sono cresciute nel mondo.
Queste credenze si trovano in aspetti della teologia cristiana, sebbene siano diventate popolari nella loro forma moderna nel diciannovesimo e ventesimo secolo. Idee come il dolore eterno, molti anni di difficoltà e sofferenza e il rapimento, quando i giusti risorgeranno e il male sarà punito. Dopo tutta questa distruzione, il mondo verrà ricreato o le persone andranno in paradiso.
Nonostante l'ateismo dogmatico, c'erano molte credenze simili anche nel marxismo. L'unica domanda è in relazione alla storia. Proprio come i credenti cercano segnali che possano suggerire l'adempimento di tutte le profezie, i marxisti cercano segni che ci troviamo nelle fasi finali del capitalismo. Credono che la società si stia degradando e degenererà inevitabilmente fino in fondo - in effetti, come pensano anche i cristiani.
Come sostiene il marxismo, quando lo sfruttamento della classe operaia da parte dei ricchi è instabile, la classe operaia raccoglie e rovescia l'oppressore. "Dolore" è sostituito da "rivoluzione". A volte figure rivoluzionarie come Lenin o lo stesso Marx vengono proclamate messia che avvicinano il Millennio; la loro retorica contiene sempre inviti alla distruzione del vecchio sistema, sulle cui rovine "costruiremo il nostro, costruiremo un mondo nuovo". Gli operai giusti otterranno ciò che è legittimo e distruggeranno la borghesia malvagia.
Video promozionale:
Anche nella mitologia norrena c'è un elemento di questo, come notato da James Hughes nel suo saggio nel libro di Nick Bostrom Global Catastrophic Risks. In Ragnarok, sia gli umani che gli dei vengono sconfitti nella battaglia apocalittica finale, ma poiché tutto questo è un po 'cupo, gli scandinavi hanno aggiunto l'idea di una nuova terra su cui i sopravvissuti vivranno in armonia.
Doomsday è diventato anche un percorso culturale. Prendi gli antichi egizi e le loro credenze sull'aldilà; il signore degli inferi Osiride pesa il cuore di un mortale insieme a una piuma. Se il cuore del defunto è troppo appesantito dalle trasgressioni, il demone lo mangerà e la speranza per l'aldilà scomparirà.
Probabilmente qualcosa di simile accadrà durante la singolarità. Man mano che la nostra tecnologia migliora, e quindi la nostra forza, i nostri cuori, i cuori delle persone, saranno soppesati dalle piume. Se risultano essere troppo pesanti - con stupidità, arroganza, pregiudizio, male - falliremo la prova e verremo distrutti. Ma se andiamo avanti e indietro dalla singolarità, il paradiso ci aspetta. Come con altri sistemi di credenze, non c'è spazio per i miscredenti; l'intera società cambierà radicalmente, che ti piaccia o no. Ammirazione tecnologica.
Ogni sviluppo importante sembra provocare una risposta simile. E anche armi nucleari. O sarà l'ultima goccia e distruggeremo noi stessi, oppure l'energia nucleare potrà essere utilizzata per creare un mondo migliore. Agli albori dell'era nucleare si parlava di elettricità "troppo a buon mercato per essere contata". Gli scienziati che lavorano alla bomba spesso pensavano che con un tale potere distruttivo nelle mani degli umani, avremmo semplicemente dovuto stare insieme e lavorare insieme come specie.
Quando vediamo la stessa risposta, più e più volte, in circostanze diverse, emergere in campi diversi, che si tratti di scienza, politica o religione, dobbiamo considerare i pregiudizi umani. Amiamo le convinzioni dei millennial, quindi quando viene fuori l'idea di un'intelligenza artificiale che supera l'intelligenza umana, imponiamo immediatamente uno schema familiare.
Non ci piacciono i fatti. Non ci piacciono le informazioni. Non siamo razionali come pensiamo di essere. Stiamo creando narrazioni. I fisici osservano il mondo e noi intrecciamo le nostre osservazioni in teorie narrative, storie di minuscole palle da biliardo che volano qua e là e si scontrano tra loro, o di spazio e tempo che si piega, si piega e si espande. Gli storici cercano di dare un significato a un flusso infinito di eventi. Amiamo le storie: le storie raccontano il nostro passato, il nostro presente e ci preparano anche per il futuro.
La narrativa millenaria è molto bella e avvincente. Ti porta il cambiamento sociale. Può giustificare la tua sofferenza quotidiana se stai soffrendo. Ti dà la speranza che la tua vita sia importante e significativa. Ti dà la sensazione che le cose procedano in una certa direzione, secondo le regole, e non solo nel caos. Promette che i giusti saranno salvati e gli eretici puniti, anche se ci sono sofferenze in arrivo. Infine, la narrativa millenaria promette il paradiso alla fine del tunnel.
Dobbiamo stare attenti alla narrativa millenaria quando pensiamo allo sviluppo tecnologico, alla singolarità e ai rischi esistenziali. Abbiamo gridato "lupi!" Molte volte quando non c'erano. Forse anche adesso il mondo non è sull'orlo del disastro. Ovviamente questa storia non è così attraente. Ovviamente tutti vogliono un finale incantevole.
Ma scavare più a fondo e scoprirai che le convinzioni millenarie non sono sempre le più promettenti, perché portano l'agente umano fuori dall'equazione. Dovremo credere nelle sfumature del grigio e abbandonare la sinistra apocalisse con l'IA dagli occhi rossi e la favolosa utopia con l'onnipotente AI che adora le persone.
