Quasi tutti coloro che si tuffano anche un po 'nel tema dell'intelligenza artificiale giungono alla conclusione che o ci condurrà a un'apocalisse infuocata, oppure a un'utopia magica. Non ci sono praticamente opzioni tra. Naturalmente, ciò è in parte dovuto al fatto che slogan come "La fine è vicina!" o "L'utopia sta arrivando!" Ma comunque …
Parte di ciò si riduce a come le persone si sentono riguardo al cambiamento, soprattutto grande. Il millenarismo non ha nulla a che fare con l'essere un millenario, l'essere nati negli anni '90 e il ricordare la serie Buffy the Vampire Slayer. È uno stile di pensiero sul futuro associato a un profondo senso del destino. Il millenarismo è "l'aspettativa che il mondo sarà distrutto e sostituito da un mondo perfetto e che verrà un redentore che abbatterà il male e consolerà i giusti".
Le credenze millenarie, di conseguenza, collegano strettamente le idee di distruzione e creazione. Tra questi ci sono le idee di enormi, apocalittici e sismici cambiamenti che distruggeranno il tessuto del vecchio mondo e costruiranno qualcosa di completamente nuovo. Un sistema di credenze simile esiste in molte delle principali religioni del mondo, e anche nelle religioni non proprio atee e agnostiche che credono nella tecnologia.
Vedi, ad esempio, come i futuristi attendono una singolarità tecnologica. Secondo Ray Kurzweil, la singolarità è la creazione del paradiso. Tutti diventeranno immortali grazie alla biotecnologia che curerà le nostre malattie; i nostri cervelli possono essere caricati nel cloud; disuguaglianza e sofferenza scompariranno come fenomeni. "Distruzione del mondo" viene sostituito dal termine preferito della Silicon Valley: interruzione o cambiamento radicale del settore. E come per altre credenze millenarie, la tua visione finale dipende dal fatto che tu stia aspettando la fine del mondo o la nascita di un'utopia.
Ci sono molte buone ragioni per essere scettici su questo tipo di pensiero. Forse il più convincente di questi è che le convinzioni dei millennial riflettono semplicemente l'atteggiamento delle persone verso il cambiamento; basta guardare quante variazioni di queste credenze sono cresciute nel mondo.
Queste credenze sono presenti in aspetti della teologia cristiana, sebbene siano diventate popolari nella loro forma moderna nel XIX e XX secolo. Idee come Eternal Sorrow - molti anni di sofferenza e difficoltà - e il Rapimento, quando i giusti saranno resuscitati e il male punito. Dopo queste distruzioni, il mondo verrà creato di nuovo o le persone andranno in paradiso.
Nonostante l'ateismo dogmatico, c'erano molte credenze simili nel marxismo. L'unica domanda è in relazione alla storia. Proprio come i credenti cercano segnali che suggeriscano l'adempimento della profezia, i marxisti cercano segni che ci troviamo nelle fasi finali del capitalismo. Credono che la società inevitabilmente degenererà e degenererà fino in fondo - in effetti, come credono i cristiani.
Secondo il marxismo, quando lo sfruttamento della classe operaia da parte dei ricchi diventa insostenibile, la classe operaia raccoglie e rovescia l'oppressore. "Dolore" è sostituito da "rivoluzione". A volte figure rivoluzionarie come Lenin o lo stesso Marx sono salutate come messia che avvicinano il Millennio; la loro retorica contiene inevitabilmente inviti alla distruzione del vecchio sistema, sulle cui rovine "costruiremo il nostro, costruiremo un mondo nuovo". Gli operai giusti otterranno ciò che è legittimo e la borghesia malvagia sarà distrutta.
Video promozionale:
Anche nella mitologia norrena c'è un elemento di questo, come osserva James Hughes nel suo saggio nel libro di Nick Bostrom, Global Catastrophic Risks. In Ragnarok, sia gli umani che gli dei vengono sconfitti nella battaglia apocalittica finale, ma poiché tutto questo è un po 'cupo, gli scandinavi hanno aggiunto l'idea di una nuova terra su cui i sopravvissuti vivranno in armonia.
Doomsday è diventato anche un percorso culturale. Prendi gli antichi egizi e le loro credenze sull'aldilà; il signore degli inferi Osiride pesa il cuore di un mortale insieme a una piuma. Se il cuore del defunto è troppo appesantito dalle trasgressioni, il demone lo mangerà e la speranza per l'aldilà scomparirà.
Forse qualcosa del genere accadrà durante la singolarità. Man mano che la nostra tecnologia migliora, e quindi la nostra forza, i nostri cuori, i cuori delle persone, saranno soppesati dalle piume. Se risultano essere troppo pesanti - con stupidità, arroganza, pregiudizio, male - falliremo la prova e verremo distrutti. Ma se andiamo avanti e indietro dalla singolarità, il paradiso ci aspetta. Come con altri sistemi di credenze, non c'è spazio per i miscredenti; l'intera società cambierà radicalmente, che ti piaccia o no. Ammirazione tecnologica.
Sembra che ogni sviluppo importante provochi una tale risposta. E anche armi nucleari. O sarà l'ultima goccia e distruggeremo noi stessi, oppure l'energia nucleare potrà essere utilizzata per creare un mondo migliore. Agli albori dell'era nucleare si parlava di elettricità "troppo a buon mercato per essere contata". Gli scienziati che hanno lavorato alla bomba spesso pensavano che con un tale potere distruttivo nelle mani dell'uomo, avremmo semplicemente dovuto stare insieme e lavorare insieme come specie.
Quando vediamo la stessa risposta, più e più volte, in circostanze diverse, che sorge in campi diversi, che si tratti di scienza, religione o politica, dobbiamo considerare i pregiudizi umani. Amiamo le convinzioni dei millennial, quindi quando viene fuori l'idea di un'intelligenza artificiale che supera l'intelligenza umana, imponiamo immediatamente uno schema familiare.
Non ci piacciono i fatti. Non ci piacciono le informazioni. Non siamo razionali come pensiamo di essere. Stiamo creando narrazioni. I fisici osservano il mondo e noi intrecciamo le nostre osservazioni in teorie narrative, storie di minuscole palle da biliardo che volano qua e là e si scontrano tra loro, o di spazio e tempo che si piega, si piega e si espande. Gli storici cercano di dare un significato a un flusso infinito di eventi. Amiamo le storie: le storie raccontano il nostro passato, il nostro presente e ci preparano anche per il futuro.
La narrativa millenaria è bella e avvincente. Ti porta il cambiamento sociale. Può giustificare la tua sofferenza quotidiana se stai soffrendo. Ti dà la speranza che la tua vita sia importante e significativa. Ti dà la sensazione che le cose procedano in una certa direzione, secondo le regole, e non solo nel caos. Promette che i giusti saranno salvati e gli eretici puniti, anche se ci sono sofferenze in arrivo. Infine, la narrativa millenaria promette il paradiso alla fine del tunnel.
Dovremmo stare attenti alla narrativa millenaria quando pensiamo allo sviluppo tecnologico, alla singolarità e ai rischi esistenziali. Abbiamo gridato "lupi!" Molte volte quando non c'erano. Forse anche adesso il mondo non è sull'orlo del disastro. Ovviamente questa storia non è così attraente. Ovviamente tutti vogliono un finale incantevole.
Ma scavare più a fondo e scoprirai che le convinzioni millenarie non sono sempre le più promettenti, perché eliminano l'agente umano dall'equazione. Dovremo credere nelle sfumature del grigio e abbandonare la sinistra apocalisse con l'IA dagli occhi rossi e la favolosa utopia con l'onnipotente AI che adora le persone.
Ilya Khel
