Il filosofo svedese Nick Bostrom, direttore dell'Oxford Institute for the Future of Humanity, è famoso per il suo lavoro sui rischi esistenziali, il principio antropico, l'etica del miglioramento umano e le minacce poste dall'intelligenza artificiale. Ha scritto "Proof of Simulation", in cui suggerisce che la nostra realtà può essere simulata su un computer creato da una civiltà avanzata. A giugno, Nick Bostrom ha visitato la Russia per partecipare all'International Cybersecurity Congress organizzato da Sberbank con il supporto di ANO Tsifrovaya Economy e dell'Associazione delle banche russe. L'inviato speciale di "Lenta.ru" ha parlato con Bostrom della rivolta delle macchine, del governo mondiale e del transumanesimo, e ha anche scoperto perché continuare a vivere se "Matrix" è in giro.
Qual è il significato della futurologia? Se guardiamo alle previsioni dei futuristi del passato, quasi nessuna delle loro previsioni si è rivelata accurata
Bostrom: Parlando di questa disciplina, non credo abbia alcun valore.
Nick Bostrom. Foto: Tom Pilston per The Washington Post / Getty Images.
Sì, ma stai solo cercando di prevedere alcuni eventi globali in futuro
Non descriverei come futurologia ciò che io o un gruppo di ricercatori sotto la mia guida facciamo. Facciamo certe cose. Prima di tutto, sviluppiamo concetti per rendere più facile trovare schemi tra gli eventi nel presente e le loro conseguenze a lungo termine, per vedere dove possono portarci e se qualcosa può essere cambiato radicalmente.
Cerchiamo anche di scoprire quali cambiamenti porteranno a un risultato positivo e quali a uno negativo. Ad esempio, il concetto di rischi esistenziali, che porta al fatto che la vita intelligente si estinguerà o rimarrà bloccata in una sorta di stato radicale non ottimale. In questo esempio, le conseguenze di una catastrofe esistenziale sono davvero molto facili da prevedere ed estremamente rilevanti in termini di una certa prospettiva di valore, il che implica che il futuro è di grande importanza. Quindi tutto ciò aiuterà a concentrarsi sulle conseguenze di determinate azioni.
Video promozionale:
Ma alcune delle ricerche che stiamo facendo sono molto più specifiche. Ad esempio, abbiamo un gruppo di specialisti che lavorano sulla sicurezza dell'intelligenza artificiale (questa è una sottosezione dell'informatica), perché crediamo che tali approfondimenti saranno sicuramente necessari in futuro.
Dovremmo davvero aver paura di cose come una forte intelligenza artificiale, la caduta di un corpo celeste, l'invasione di civiltà aliene? Non pensi che quando le autorità come te, Elon Musk o Stephen Hawking parlano di queste cose, distraggono la società da problemi più urgenti?
Non credo che dovremmo pensare solo ai problemi che abbiamo ora. Dobbiamo pensare a dove stiamo andando. Devi preoccuparti sia del presente che del futuro. Mettere i paraocchi e non vedere i sentieri che portano alla scogliera sarebbe un grosso errore.
Pensi davvero che l'intelligenza artificiale possa rappresentare una minaccia per l'umanità?
Certo, è una forte intelligenza artificiale che può rappresentare una minaccia, non quella che esiste ora. Posso immaginare alcuni scenari in cui questo è possibile. Tuttavia, li vedo piuttosto come un portale attraverso il quale l'umanità deve passare sulla strada per un futuro migliore, il che implica l'inevitabile sviluppo della superintelligenza delle macchine. Quindi la domanda non è se questo passo debba essere fatto o meno. È solo che quando lo facciamo, dovrebbe essere il più attento e responsabile possibile. Dobbiamo assicurarci di attraversare il portale e non sbattere contro il muro.
Ma l'umanità ha bisogno di passare attraverso questo portale se un'intelligenza artificiale forte si rivela migliore, più intelligente, più veloce di un essere umano? In generale, perché, in senso filosofico, è necessaria una persona se un'intelligenza artificiale forte rappresenterà uno strumento più perfetto per la conoscenza di sé dell'universo?
Penso che dovremmo usare le macchine come un'estensione della volontà umana, in modo che possano avvantaggiarci. Ed è possibile. Ma ci sono anche dei rischi che potrebbero impedirci di raggiungere questo obiettivo.
Sto cercando di chiedere se ha senso l'esistenza di una vita organica imperfetta se la macchina è migliore? Perché l'umanità dovrebbe esistere anche dopo aver sviluppato una forte intelligenza artificiale?
Sai, tutto dipende dalle alternative: quale sarà il risultato dell'umanità e quali saranno queste altre forme di vita. Non credo che se qualcosa si rivela più ragionevole, più efficace in senso evolutivo di una persona, allora dal punto di vista della moralità sarà migliore di una persona. Immagino che vari risultati conducano a conseguenze significativamente negative: ad esempio, una civiltà tecnologica estremamente sviluppata può perdere valori universali. Ma di certo non credo che gli umani nella loro forma attuale siano esseri ideali che non hanno nessun altro posto dove evolversi. E qui non sto parlando solo del miglioramento delle forme di vita biologiche: puoi immaginare scenari positivi in cui l'umanità diventerà una forma di vita completamente digitale.
Quindi pensi che la coscienza possa essere trasferita a un'auto?
Sì, ma con l'avvento di una tecnologia sufficientemente matura, non oggi.
E, quindi, credi che la coscienza sia esclusivamente i processi di numerazione?
Sì.
Come ti senti riguardo alle opere dei filosofi che postulano la natura dualistica della coscienza - che la coscienza è un fenomeno soggettivo che esiste al di fuori del mondo oggettivo? Ad esempio, come lo descrive il filosofo australiano David Chalmers
Sono un aderente alla teoria secondo cui la coscienza è un numero. Naturalmente, non credo che ciò che ci rende esseri coscienti ci dia un'esperienza soggettiva dipenda dal fatto che siamo semplicemente fatti di atomi di carbonio. Ma il nostro cervello produce determinati processi di numerazione che, in linea di principio, possono essere avviati in un ambiente diverso. E questo è il postulato chiave: non è il materiale che è importante, ma gli attributi funzionali del processo di numerazione stesso.
E il fatto che percepisco il mondo attraverso la mia coscienza è solo un insieme di impulsi neurali nel mio cervello?
Esattamente. Credo che il tuo cervello dia origine alla tua coscienza. Ma la domanda è: cos'altro può generare la tua coscienza. E penso che in linea di principio non debba essere una struttura organica. Potrebbe essere un computer, ad esempio.
Ma sarà consapevole di se stesso, avrà quella stessa soggettività?
Credo sia possibile creare computer consapevoli di sé. Ancora una volta, questo non è possibile ora, ma in futuro non vedo ostacoli per questo.
Se fosse consapevole di sé, l'umanità non dovrebbe accettarlo come un'eguale forma di vita intelligente?
Mi sembra che ci possano essere molte menti digitali completamente diverse, molto più diverse di quelle umane. Sebbene crediamo di essere tutti molto diversi - Madre Teresa, Hitler, la persona più intelligente del mondo e la più stupida - siamo tutti terribilmente simili tra loro, il cervello di ognuno di noi non è molto diverso da qualsiasi altro cervello umano. Tutto questo è circa un chilogrammo e mezzo di centinaia di miliardi di neuroni. Ma le menti digitali possono essere molto, molto diverse e "aliene" per noi (alcune, ovviamente, possono essere simili alle nostre, e altre no).
Allo stesso tempo, credo che ad alcune menti digitali (specialmente quelle che avranno coscienza, saranno in grado di sentire dolore, pressione e così via) saranno assegnate diverse gradazioni di status morale. Man mano che sviluppiamo un'intelligenza artificiale sempre più sofisticata e sofisticata, la mente digitale, dovremo affrontare una certa questione etica. E non solo su come l'IA ci influenzerà o su come una persona può applicare l'IA in relazione a un'altra persona, ma anche su come ci relazioneremo a questa mente digitale.
Supponiamo che io abbia costruito un piccolo tumulo di pietre e lo abbia distrutto: non ho fatto del male a nessuno. Se, naturalmente, lo costruisci e io lo distruggo, allora potrebbe farti del male, ma il tumulo in sé non ha uno status morale. E, diciamo, ce l'ha un cane, e quindi è sbagliato prendere a calci un cane. È lo stesso con una mente digitale cosciente, anche se all'inizio la sua coscienza è allo stesso livello di quella di un animale. Ciò solleva la questione etica di come dovremmo trattarla. E credo che presto verrà il momento di pensarci seriamente, non solo nel quadro dei seminari filosofici, ma anche in un'ampia discussione pubblica.
Frame: il film "Keepers".
Se parliamo di minacce globali, può essere considerato uno di questi l'aumento del numero di regimi autoritari nel mondo?
Sì, penso che questo sia uno dei possibili scenari di un futuro distopico che può essere immaginato se varie tendenze sociopolitiche si sviluppano nella direzione sbagliata abbastanza a lungo. Alcune tecnologie avanzate possono facilitare lo sviluppo di queste tendenze: migliore sorveglianza dei cittadini, droni più avanzati …
Ora, per governare un paese, anche se sei un dittatore, hai bisogno del sostegno dei militari e delle élite. Puoi immaginare che con l'aiuto della tecnologia e della robotica dell'intelligenza artificiale, il numero di persone necessarie per questo diminuirà costantemente. Alla fine, potrebbe risultare che una dozzina di persone sarà in grado di governare la popolazione di un grande paese, e questo fornisce ricche opportunità per mantenere l'esistenza di regimi dispotici.
Quindi sì, questo è uno dei rischi, ma c'è anche la possibilità che queste tendenze sociopolitiche vadano in una direzione diversa.
Parli e scrivi spesso del singleton, un'associazione statale in cui le decisioni vengono prese da un unico organismo mondiale …
Se guardi alla storia della nostra specie, inizialmente la più grande unità di integrazione politica era costituita da collettivi di cacciatori-raccoglitori, composti da un massimo di cinquanta persone. Nel corso del tempo, le tribù si formarono sotto la guida di leader, poi città-stato, poi nazione-stato. Ora abbiamo associazioni come l'Unione Europea, varie organizzazioni internazionali, e questo continuerà fino a quando non apparirà il singleton. Cioè, è una continuazione di tendenze storiche di vecchia data.
A quanto ho capito, hai postulato che potrebbero esserci due tipi di singleton: "cattivo" - autoritario e "buono" - egualitario …
Non considero affatto un singleton "cattivo" necessariamente autoritario, e uno "buono" - egualitario. Ci sono varie circostanze in cui un singleton può essere "buono" o "cattivo".
Spiega per favore
Non so nemmeno come riassumere tutto … Ma, naturalmente, puoi immaginare un singleton "cattivo" egualitario. Diciamo che potrebbe essere incompetente o inefficace per vari motivi. Ad esempio, se tutti vivessero allo stesso modo male, sarebbe un risultato completamente egualitario, no? Ma ancora male.
Quindi esiste la possibilità che emerga un "buono" singleton autoritario?
Ebbene, forse, se confrontate con le varie alternative, in una situazione in cui un dittatore ben intenzionato è al timone … "buono" e "cattivo" sono termini relativi usati in vista di altre possibili situazioni. Diciamo, se l'alternativa è una catastrofe globale, quel risultato sarebbe relativamente buono.
Ma cosa succede se immagini il perfetto singleton egualitario? Tutto questo sembra una sorta di utopia in cui le persone vivono senza conflitti e guerre in completa armonia. Ma i conflitti sono inerenti alla natura umana
La natura umana non è fusa in bronzo. Se consideriamo la situazione in cui è stata raggiunta la maturità tecnologica della civiltà (qui intendo sia mezzi biotecnologici che culturali per cambiare i suoi vari aspetti), se si pone l'obiettivo di raggiungere il bene comune, questo può essere un buon motivo per modificare la natura umana.
E come si può ottenere esattamente questo? Diventare meno aggressivo, più accomodante e così via? Dopo tutto, le persone tendono a non fidarsi degli estranei, a raggrupparsi in associazioni che si oppongono ad altre associazioni
Sì, e questa è la loro scelta e può essere modificata. Ma se un gruppo di persone tratta male un altro, allora possono decidere di non cambiare in modo tale da trovare un terreno comune con un altro.
Cioè, è molto probabile che il comportamento umano non possa essere modificato su scala globale?
Esattamente. Qui stiamo parlando di un cambiamento nella motivazione, e prima ho parlato della possibilità di un tale cambiamento quando si presentano opportunità tecnologiche. E poi, ovviamente, sorge la domanda se le persone decideranno di usarli per raggiungere questo obiettivo.
A proposito, sulla tecnologia. Abbiamo sempre paura delle nuove tecnologie. Ad esempio, di recente ho letto una colonna in una pubblicazione americana, il cui autore ha fatto una campagna contro l'abbandono della carta moneta in contanti, perché i pagamenti non in contanti presumibilmente danno troppe opportunità alle banche di controllare la popolazione. Sei d'accordo con questo punto di vista? È davvero una minaccia per la società?
I contanti sono un titolo anonimo. Puoi pagare con banconote e non essere identificato. Tutto ciò riduce la capacità delle banche e dello Stato di controllare la vita quotidiana dei cittadini, che in determinate circostanze può essere molto utile, ad esempio nei regimi dispotici. Ma per gli stessi motivi, apre la strada a tutti i tipi di transazioni negative. L'attività criminale comporta pagamenti anonimi, il trasferimento di fatture in buste o la loro controparte moderna: pagamenti in criptovalute. Sono molto più difficili da eseguire, ad esempio, attraverso il sistema VISA, dove i tuoi dati personali sono collegati a ciascuna transazione.
Quindi è molto difficile decidere in quale direzione "spostare il cursore". Ci sono diversi scenari in cui potresti voler avere un maggiore controllo sociale sulle transazioni al fine di rendere la vita più difficile alle organizzazioni criminali, ad esempio. Dal momento che le loro attività sono dannose per la società, molto probabilmente vorrai avere modi per limitarle, e un modo è regolare le transazioni finanziarie.
Questo è un esempio. Ma che dire degli attivisti che chiedono il divieto di Uber e servizi simili, dal momento che, dicono, violano i diritti dei tassisti?
Non so quali diritti stia violando Uber. Penso che semplicemente non vogliano la concorrenza.
Pensi che queste persone possano essere chiamate neoludditi?
È necessario esaminare l'argomentazione di individui specifici. In ogni caso, non credo che etichettarli porterà a una comprensione della loro posizione. Devi ascoltare i loro argomenti e decidere se sono buoni dal tuo punto di vista oppure no.
Frame: il film "Equilibrium".
Parliamo di transumanesimo. C'è una critica popolare al transumanesimo, secondo la quale la biotecnologia, le modificazioni del corpo non saranno disponibili per i poveri e per i cittadini con reddito medio. Solo i ricchi - l'uno per cento della popolazione - possono ottenerli, e questo porterà a un catastrofico aumento della disuguaglianza nella società. Questo non è vero? O pensi che tutto sia giusto: i ricchi e di successo dovrebbero avere il meglio?
Questo deve essere analizzato con esempi specifici. Non credo che tutta la biotecnologia utilizzata per migliorare il corpo umano debba essere costosa. Prendi, ad esempio, il Modafinil moderno, un farmaco usato per migliorare le prestazioni cognitive (diciamo che aiuta alcune persone). Certo, costa denaro, ma non più di un bicchiere di cappuccino Starbucks che bevono ogni giorno. E se fa il suo lavoro, vale i suoi soldi.
I moderni agenti farmacologici che in qualche modo migliorano determinate proprietà di una persona non sono generalmente molto costosi. Piuttosto, il problema è che devi ottenere prescrizioni per loro. È più facile ottenere un farmaco del genere per una persona con una buona istruzione. Prima di tutto, saprà dell'esistenza di questo rimedio, sarà più facile per lui trovare un medico che conosce che possa scrivergli questa ricetta … Tutto questo sarà molto più difficile da fare per un operaio o un contadino non istruito che per un intellettuale, un banchiere e così via. Ma l'ostacolo sta in questo, e non nella quantità di denaro stessa.
Certo, se parliamo delle tecnologie del futuro, possono essere molto costose e discriminatorie in questo senso. E la società dovrà decidere se sono abbastanza utili da sovvenzionarli, nello stesso senso in cui ora vengono forniti i sussidi per l'assistenza sanitaria.
Se parliamo di sussidi, cosa ne pensate del reddito garantito, della somma di denaro regolarmente versata dallo Stato a ciascun membro della società, indipendentemente dal fatto che lavori o meno? Dovrebbe diventare una pratica umana comune?
Penso che questo problema debba essere affrontato dallo stesso punto di vista dell'intelligenza artificiale: dovrebbe giovare a tutta l'umanità e rispettare ideali etici. Mi sembra che tutte le persone che raggiungono una certa età dovrebbero ricevere la loro parte di determinati benefici. Il modo migliore per farlo, se sarà un flusso costante di reddito o un certo capitale pagato una volta, che un individuo può poi spendere a sua discrezione per determinati servizi e beni, non lo so ancora. Il mantenimento di un flusso di reddito ininterrotto, ancora una volta, dipende dalla situazione economica. E a lungo termine, dovrebbe essere chiaro che molto probabilmente dovremo affrontare una crescita esponenziale della popolazione mondiale, che potrebbe superare la crescita dell'economia mondiale - un argomento un po 'malthusiano.
Pensa che l'attuale sistema di welfare europeo - Welfer - abbia dei difetti?
Mi sembra abbastanza buono. Ovviamente ci sono modi per migliorarlo. Ma in ogni caso, va bene quando c'è un sistema di welfare nelle economie ricche che se lo può permettere.
Cosa ne pensi della politica di sinistra contemporanea - correttezza politica, inclusività e così via? Lavora davvero per il bene di tutti?
Da un lato, la presenza di cose di cui non si può parlare e pensare mi priva come filosofo di alcune possibilità. Penso che a volte l'amara verità sia buona, anche se offende qualcuno, e devi pagare un prezzo considerevole per tabù la discussione su ciò che fa parte della realtà moderna.
D'altra parte, se questo contribuisce alla costruzione di una società più sensibile ai problemi della comunità, i cui rappresentanti fanno del loro meglio per non danneggiarsi a vicenda, riducendo così il livello di aggressività e violenza … Tutto questo può essere una cosa estremamente positiva, anche se nel prossimo futuro rappresenta certo rischi. Vedi, se sei estremamente ansioso di essere politicamente corretto su piccole questioni quotidiane, la probabilità che tu intenda effettuare una pulizia etnica maggiore e brutale o iniziare una guerra è significativamente ridotta. In generale, se ci rende più sensibili nelle piccole cose, allora aiuterà in senso globale e tutte le piccole carenze di tali programmi saranno assolutamente giustificate.
Ho letto in una delle tue pubblicazioni che la moderna cultura occidentale "sabota attivamente la nostra fertilità a causa dell'introduzione del controllo delle nascite". Un argomento abbastanza conservatore. Puoi spiegarlo?
Questo è ciò che intendevo: se non usi il controllo delle nascite, avrai più bambini, il che significa che più bambini sopravviveranno. Ora le persone danno alla luce meno bambini di quanto potrebbero, il che significa che non sono in equilibrio evolutivo con l'ambiente moderno.
Dobbiamo dare il ruolo primario all'evoluzione biologica piuttosto che sociale?
Credo che, prima di tutto, il ruolo principale debba essere svolto dai valori umani universali e non da alcuni compiti biologici.
Allora perché non usare il controllo delle nascite?
Certo, puoi sabotare il tuo potenziale riproduttivo, ma devi essere consapevole di quello che stai facendo, e questo è molto vantaggioso. Ad esempio, se stai considerando scenari a lungo termine per lo sviluppo della civiltà umana, devi tenere conto del fatto che le persone che sabotano il potenziale riproduttivo in qualche modo scompariranno dalla faccia della terra. I loro geni non saranno nel pool genetico planetario a meno che questa politica non venga modificata.
Ora, a breve termine, non è necessario pensarci, ma dovresti essere consapevole che qui stai agendo contro varie tendenze evolutive. Ed è importante riconoscere che questo avrà qualche effetto a lungo termine.
Frame: il film "Lucy".
L'evoluzione biologica funziona ancora nella società umana?
Ovviamente. Funziona nella popolazione umana proprio come fa in altre popolazioni. Naturalmente, l'ambiente moderno in cui viviamo è molto diverso dall'ambiente di adattabilità evolutiva, ma credo che in questo momento ci sia una selezione evolutiva molto forte nella popolazione umana. Sulla scala temporale ecologica, va veloce, ma, diciamo, in relazione alla scala temporale del progresso tecnologico, al contrario, molto lentamente. Anche quando la selezione è molto veloce, devono passare molte generazioni prima che si verifichi un grande cambiamento. Allo stesso tempo, penso che in meno di un paio di generazioni riceveremo strumenti perfetti per manipolare il genoma umano e altre possibilità per cambiare lo stato di una persona. Pertanto, non sono particolarmente preoccupato per le lente tendenze nell'evoluzione biologica, data la prospettiva di tali tecnologie all'orizzonte.
Dovremmo scegliere il percorso per migliorare il pool genetico attraverso la biotecnologia, selezionando i geni "cattivi" e mantenendo quelli "buoni"? Questo non porterà al darwinismo sociale?
Non credo che la medicina genetica o la selezione genetica presuppongano un approccio darwiniano sociale. Puoi vedere come sta accadendo ora: quando le coppie decidono di sottoporsi a fecondazione in vitro, gli embrioni vengono sottoposti a diagnosi genetica. Invece di controllare semplicemente le cellule per le anomalie cromosomiche, possiamo diagnosticare una vasta gamma di problemi, compresi quelli non correlati alla malattia. Ad esempio predisposizione a una lunga vita sana, intelligenza, capacità atletiche, tratti della personalità … Avrai maggiori informazioni per scegliere quale dei 6-8-10 embrioni impiantare durante la procedura di fecondazione in vitro. E mi sembra che questo stesso contesto sia molto probabile in termini di utilizzo delle tecnologie genetiche.
Sei l'autore della "prova di simulazione" secondo la quale potremmo vivere in una realtà simulata su qualche tipo di computer. Come può immaginarlo una persona comune? All'inizio è difficile da digerire
Non capisco bene quale compito stai impostando. Devi solo accettare che nulla cambia, è solo che la base di questa realtà osservabile in cui esistiamo non sono le leggi fondamentali della fisica, ma una sorta di programma per computer incorporato in un computer, creato da alcuni esseri intelligenti avanzati - forse più tecnologicamente avanzati civiltà (probabilmente superintelligente). Quindi tutto ciò che vediamo sono i processi in esecuzione su questo computer, ma per gli abitanti di questa simulazione - noi - non c'è una grande differenza in quale sia la sua base.
È più interessante pensare alle ragioni pratiche per creare una simile simulazione. Possono essere diversi, i suoi autori possono eseguire altre simulazioni per risolvere altri problemi. Ci sono molte opzioni su come potrebbe finire la simulazione, e così via. È davvero importante se paragonato a una situazione in cui questa realtà sarebbe fondamentale.
Se parliamo di un computer che simula la realtà, che dire delle leggi della fisica? Un computer del genere sarà gigantesco e consumerà una quantità di energia inimmaginabile, altrimenti come calcolare ogni particella elementare?
Sicuro. Pertanto, non penso che questa civiltà imiterà tutti i dettagli della realtà, fino agli atomi. Credo che sia più razionale imitare quelle parti della realtà che osserviamo nel momento in cui le osserviamo (forse un po 'di più).
Prendi, ad esempio, gli atomi del tavolo a cui sei seduto. Non hai idea di cosa gli stia succedendo adesso. Hai solo bisogno di conoscere le dimensioni del tavolo, il suo colore, il suo peso. E nella simulazione sarà sufficiente calcolare solo questi attributi. Se prendi un microscopio elettronico e metti un pezzo di un tavolo sotto di esso, vedrai più dettagli che saranno calcolati appositamente per questo. Ma saranno calcolati solo in modo tale che tu, una persona normale, non noterai alcuna anomalia.
Quindi, se sei la superintelligenza che controlla completamente la realtà, fino a tutti gli aspetti dei suoi elementi, è saggio aggiungere dettagli come e quando presti attenzione ad essi.
Si scopre che la realtà è simulata per tutti i sette miliardi di persone che vivono sulla terra? Per gli animali? Per gli alieni?
Tutto dipende dal tipo di simulazione. Se parliamo di simulazione per tutte le persone viventi, si può immaginare che copra l'intera storia dell'umanità ed è stata lanciata abbastanza di recente. Puoi anche immaginare una simulazione eseguita per una persona in particolare o un piccolo gruppo di persone. Poi, naturalmente, sorge la domanda: come fanno tutte le altre persone che vediamo in esso sono qui, pur non essendo esseri coscienti? Forse sono solo simulati in termini di aspetto, come gli avatar che si trovano nei videogiochi. Rimane una domanda irrisolta: come imitare il comportamento esterno delle persone senza produrre, come effetto collaterale, la coscienza, che, come di solito si presume, ogni persona possiede? Quindi, probabilmente, creare una persona credibile in termini di comportamento,dovrai simulare con particolare accuratezza i processi che avvengono nel suo cervello, che in un modo o nell'altro dovrebbero portare all'emergere di una mente cosciente. Anche se, ovviamente, esiste la possibilità che tu possa semplicemente fingere. E poi possiamo immaginare l'esistenza di un piccolo gruppo di simulazioni-persone in cui la coscienza si è sviluppata completamente, mentre il resto sono solo extra.
Secondo la tua ipotesi, ci possono essere molte simulazioni in una simulazione, come le bambole nidificanti. L'esistenza di un universo di base, non imitato, è obbligatoria in questo caso? Come è apparso e cos'è?
La mia argomentazione presume che esista un livello base di realtà fisica in cui alcune creature si sviluppano, diventano estremamente tecnologicamente avanzate, usano queste tecnologie per ottenere la superintelligenza (o intelligenza artificiale superintelligente) e quindi hanno molte risorse e tempo. Lo spendono, inclusa la creazione di queste simulazioni di persone intelligenti, forse come noi.
Forse consentono alla simulazione di continuare a funzionare dopo che queste persone hanno creato la loro simulazione, che diventa quindi una simulazione di secondo livello. Ma tutto questo esisterà su un computer creato da una civiltà che esiste al livello base della realtà fisica e, allo stesso tempo, potrebbe esserci un'intera gerarchia di simulazioni in simulazione. Ma qui ci sarà un limite specifico a tutto questo, poiché alla fine l'imitazione viene eseguita su un computer che esiste al livello base della realtà fisica. Esistono limiti all'energia disponibile per mantenere queste capacità e quindi un limite al numero di simulazioni annidate. Certo, puoi adottare un approccio esoterico, provare a trovare scappatoie per l'annidamento infinito, ma non penso che valga la pena farlo.
E se simulassero mondi in cui le leggi della fisica sono completamente diverse dalle nostre?
Anche questo è possibile, possono creare una sorta di fantastiche simulazioni.
Bene, se viviamo in una simulazione, che senso ha fare piani, prevedere i rischi globali … Domanda esistenziale: qual è il punto della vita in una simulazione, quando i suoi creatori possono semplicemente spegnere il computer e tutto finirà?
In generale, "prova di simulazione" non significa che stiamo vivendo in una simulazione, ma piuttosto sui limiti di ciò in cui possiamo credere. Presume che una delle tre affermazioni sia vera. Il primo è che viviamo in una simulazione, ma ci sono due alternative. La seconda è che tutte le civiltà muoiono prima di raggiungere la maturità tecnologica, e la terza è che tutte le civiltà mature perdono interesse a creare tali simulazioni, decidono semplicemente di non farle.
Ma, nell'ambito della nostra argomentazione, se viviamo davvero in una simulazione, non vedo perché il significato della vita quotidiana dipenda dal fatto che la base della nostra realtà è l'imitazione creata da qualche civiltà avanzata, e non le leggi fondamentali della fisica. In ogni caso, cosa ti succederà dopo, cosa succederà ai tuoi parenti, amici e altre persone dipende dalle tue azioni. Quindi quello che fai nella simulazione è importante, anche se al di fuori di essa non lo è.
Inoltre, c'è la possibilità che ciò che accade all'interno della simulazione influenzi ciò che è al di fuori di essa. Forse i creatori lo hanno sviluppato per scopi scientifici, al fine di studiare ciò che le persone fanno, e questo influisce su ciò che fanno, perché è importante per loro capire la natura umana in base alle scelte che facciamo. Quindi potrebbe esserci una serie aggiuntiva di conseguenze oltre l'ovvio.
Intervistato da Mikhail Karpov
