L'umanità ha una qualità che le civiltà aliene altamente sviluppate molto probabilmente non hanno: la coscienza.
È possibile che le persone non abbiano il più alto livello di sviluppo mentale nell'universo. Poiché la Terra è un pianeta relativamente giovane, le civiltà più antiche potrebbero essere miliardi di anni più vecchie di noi. Ma anche sulla Terra, l'Homo sapiens non dominerà per molto tempo come specie biologica più intelligente.
I vincitori dei campioni del mondo di go, scacchi e quiz sono programmi per computer intelligenti. Si prevede che l'intelligenza artificiale sostituirà molte occupazioni umane nei prossimi decenni. E, dato il rapido ritmo del suo sviluppo, è del tutto possibile che presto si trasformerà in un'intelligenza artificiale generale, che, come la mente umana, sarà in grado di unire la capacità di analizzare una varietà di informazioni, mostrare flessibilità e buon senso. E da lì non è lontano l'emergere dell'intelligenza artificiale superintelligente, che sotto tutti gli aspetti è molto più intelligente degli umani, anche in aree come il pensiero scientifico e le abilità sociali, che ora sembrano essere prerogativa della mente umana. Ciascuno dei viventi può essere uno degli ultimi gradini della scala evolutiva,che porta dalla primissima cellula vivente all'intelligenza artificiale sintetica.
Stiamo solo iniziando a renderci conto che queste due forme di intelligenza sovrumana - aliena e artificiale - non sono poi così diverse. Il progresso tecnico che stiamo vedendo oggi potrebbe aver avuto luogo prima, da qualche parte nell'universo. Il passaggio dall'intelligenza biologica a quella creata artificialmente può essere un modello comune, implementato più e più volte in tutti gli angoli del cosmo. Le più grandi intelligenze dell'universo sono probabilmente di origine postbiologica, evolvendosi da civiltà un tempo biologiche. (Questo punto di vista, tra gli altri, lo condivido con Paul Davis, Stephen Dick, Martin Rees e Seth Shostak). Sulla base dell'esperienza dell'umanità - e abbiamo solo un esempio - il passaggio dal biologico al post-biologico può richiedere solo poche centinaia di anni.
Preferisco il termine “artificiale” a “post-biologico” perché il contrasto tra biologico e sintetico non è così netto. Immagina una mente biologica che diventa una superintelligenza attraverso miglioramenti puramente biologici, come minicolonne neurali potenziate nanotecnologicamente. Un tale organismo vivente sarebbe considerato postbiologico, ma non tutti lo chiamerebbero "intelligenza artificiale". Oppure considera il computronium, costruito con materiali puramente biologici, come il Cylon Raider (caccia spaziale) nel franchise di fantascienza Battlestar Galactica.
Il punto chiave è che non c'è motivo di pensare all'umanità come alla più alta forma di intelligenza. I nostri cervelli si adattano a determinate condizioni ambientali e sono fortemente limitati da fattori chimici e storici. Ma la tecnologia ha aperto un vasto spazio di parametri di progettazione che offre nuovi materiali e metodi di lavoro, nonché nuove possibilità per esplorare questo spazio più velocemente rispetto all'evoluzione biologica tradizionale. E penso che i motivi per cui l'intelligenza artificiale ci supererà sono già visibili oggi.
L'intelligenza artificiale extraterrestre può perseguire obiettivi contrari agli interessi della vita biologica
Già ora, i mezzi migliori per elaborare le informazioni non sono gruppi di neuroni, ma microcircuiti di silicio. La velocità di picco dei neuroni è di circa 200 Hz, rispetto ai transistor gigahertz dei moderni microprocessori. Nonostante il fatto che il cervello umano sia ancora molto più intelligente di un computer, le macchine hanno ancora possibilità di miglioramento quasi illimitate. Ancora un po 'e saranno progettati per eguagliare le capacità del cervello umano o addirittura superarle, decodificando il cervello e migliorando i suoi algoritmi, o combinando reverse engineering e algoritmi razionali che non sono basati sul lavoro del cervello umano.
Video promozionale:
Inoltre, l'intelligenza artificiale può essere caricata in più luoghi contemporaneamente, è facile da mantenerla e modificarla, e può anche essere preservata in condizioni in cui la vita biologica, compresi i viaggi interstellari, difficilmente sopravvive. I nostri piccoli cervelli sono limitati dal volume del nostro cranio e dal nostro metabolismo; l'intelligenza artificiale superintelligente, d'altra parte, è in grado di diffondersi su Internet e persino di creare computronium sulla scala della galassia, utilizzando tutta la sua materia per aumentare al massimo il livello di elaborazione delle informazioni. Senza dubbio, un'intelligenza artificiale superintelligente sarebbe molto più durevole della nostra mente umana.
Supponiamo che io abbia ragione. Diciamo che la vita intelligente là fuori è post-biologica. Quali conclusioni dovremmo trarre? Al momento, ci sono discussioni eloquenti sull'esistenza dell'intelligenza artificiale sulla Terra. Ci sono due questioni controverse: il cosiddetto "problema di controllo" e la natura dell'esperienza soggettiva, che influenzano la nostra comprensione delle civiltà extraterrestri e il loro impatto su di noi in caso di contatto.
Ray Kurzweil è ottimista riguardo alla fase post-biologica dell'evoluzione, suggerendo che l'umanità si fonderà con le macchine, raggiungendo un sorprendente utopismo tecnologico. Ma Stephen Hawking, Bill Gates, Elon Musk e altri hanno espresso la preoccupazione che l'umanità possa perdere il controllo dell'intelligenza superintelligente, poiché potrebbe riscrivere il suo programma e "superare in astuzia" qualsiasi controllo che abbiamo messo in atto. Questo è il problema del controllo, che è la nostra capacità di controllare l'IA misteriosa e di gran lunga superiore.
L'IA superintelligente può essere sviluppata a una singolarità tecnologica - una transizione brusca in cui l'accelerazione del progresso tecnologico, e in particolare lo sviluppo esplosivo dell'intelligenza artificiale - riduce le nostre possibilità di previsione o comprensione. Ma anche se una tale mente emerge in un modo meno radicale, molto probabilmente non saremo in grado di prevedere o controllare i suoi obiettivi. Anche se potessimo scegliere quali principi morali installare nelle nostre macchine, la programmazione morale è difficile da definire in modo chiaro, e tali programmi possono comunque essere riscritti da un'intelligenza superintelligente. Le macchine intelligenti possono aggirare le misure di sicurezza esistenti, come il blocco di emergenza del dispositivo, rappresentando così una vera minaccia per la vita biologica. Milioni di dollari vengono investiti nelle organizzazioni di sicurezza AI. Le migliori menti dell'informatica e dell'informatica stanno lavorando a questo problema. Si spera che gli scienziati creeranno sistemi sicuri, ma si teme che il problema del controllo sia insormontabile.
Alla luce di ciò, il contatto con l'intelligenza aliena può essere più pericoloso di quanto pensiamo. Gli alieni biologici possono essere ostili, ma ancora più pericolosi possono essere l'intelligenza artificiale extraterrestre. I suoi obiettivi possono essere contrari agli interessi della vita biologica, può avere capacità intellettuali di gran lunga superiori alla mente umana e una longevità molto maggiore della vita biologica.
Tutto questo testimonia la cautela che dovrebbe essere esercitata in relazione al programma Search for Extraterrestrial Intelligence (SETI), con l'aiuto del quale non solo ci aspettiamo passivamente di sentire segnali da altre civiltà, ma anche deliberatamente "pubblicizza" la nostra esistenza. L'incidente più famoso è avvenuto nel 1974, quando Frank Drake e Carl Sagan hanno inviato un messaggio a uno degli ammassi stellari utilizzando un enorme radiotelescopio nella città portoricana di Arecibo. I fautori del programma di intelligence extraterrestre credono che invece di ascoltare solo i segnali delle civiltà extraterrestri, dovremmo inviare messaggi alle stelle più vicine alla Terra utilizzando i più potenti trasmettitori radio, come ad Arecibo.
Perché le macchine inconsce dovrebbero essere importanti quanto l'intelligenza biologica?
Da un punto di vista del controllo, un programma del genere mi sembra sconsiderato. Sebbene una civiltà veramente avanzata non avrebbe probabilmente alcun interesse per noi, anche una civiltà ostile su milioni di altre sarebbe un disastro. Fino a quando non saremo sicuri che l'intelligenza superintelligente non rappresenti un pericolo per noi, l'umanità non dovrebbe attirare l'attenzione delle civiltà extraterrestri. I sostenitori del SETI sottolineano che i nostri segnali radar e radio sono già rilevabili, ma piuttosto deboli e si mescolano rapidamente con il rumore galattico naturale. La trasmissione di segnali più forti, che verranno ascoltati accuratamente, è irta di pericolose conseguenze per l'umanità.
L'ambiente più sicuro è l'umiltà intellettuale. In effetti, se escludiamo gli scenari ovvi in cui le navi aliene si librano sulla Terra, come nell'arrivo recentemente rilasciato, non sono sicuro che saremo in grado di identificare l'intelligenza superintelligente per motivi tecnici. Alcuni scienziati ritengono che l'IA superintelligente possa alimentare i buchi neri o creare sfere di Dyson, megastrutture che assorbono l'energia di intere stelle. Ma dal punto di vista delle nostre moderne tecnologie, questo è solo un ragionamento. È estremamente sicuro di sé affermare che possiamo prevedere le capacità di calcolo e il fabbisogno energetico delle civiltà davanti a noi in fase di sviluppo da milioni, se non miliardi di anni.
Alcune delle prime intelligenze artificiali superintelligenti potrebbero aver avuto sistemi di elaborazione della conoscenza modellati sul cervello biologico, come il sistema di apprendimento profondo creato usando l'esempio delle reti neurali nel cervello. La loro struttura computazionale ci sarebbe chiara, almeno in termini generali. Forse l'intelligenza artificiale ha obiettivi simili agli esseri biologici: riproduzione e sopravvivenza.
Ma, essendo un sistema che si auto-migliora, le intelligenze artificiali superintelligenti possono assumere una forma irriconoscibile. Alcuni di loro possono scegliere di preservare funzioni cognitive simili alle specie da cui sono stati modellati, fissando un limite accettabile per la propria architettura cognitiva. Chissà? Ma in assenza di tale limite, la superintelligenza aliena può rapidamente superare la nostra capacità non solo di comprendere le sue azioni, ma anche semplicemente di cercarla. Forse si sarebbe persino fuso con le caratteristiche naturali dell'universo; oppure potrebbe essere parte della materia oscura, come ha recentemente suggerito Caleb Scharf.
I sostenitori del programma per la ricerca dell'intelligenza extraterrestre ritengono che sia per questo che dobbiamo inviare segnali nello spazio per consentire all'intelligenza aliena di rilevarci e creare mezzi di contatto disponibili per la nostra civiltà intellettualmente in ritardo. Anche se sono d'accordo sul fatto che ci sia motivo di fare i conti con il programma SETI, la probabilità di incontrare una pericolosa intelligenza superintelligente è molto maggiore. Per quanto ne sappiamo, una superintelligenza dannosa potrebbe infettare i sistemi di intelligenza artificiale del mondo con virus e civiltà intelligenti creerebbero dispositivi di occultamento. Noi, umani, potremmo aver bisogno di raggiungere prima la nostra unicità, prima di ricorrere al programma di ricerca dell'intelligenza extraterrestre. Le nostre intelligenze superintelligenti saranno in grado di informarci delle prospettive di sicurezza galattica,e per guidare le nostre azioni in caso di riconoscimento di segni di un'altra superintelligenza nell'universo. Dio li fa e poi li accoppia.
È naturale pensare se questo significhi che l'umanità deve evitare lo sviluppo di un complesso sistema di intelligenza artificiale nel campo della ricerca spaziale; basta ricordare il computer di bordo HEL del film "Odissea nello spazio 2001". Credo che sia troppo presto per pensare a un divieto dell'uso dell'intelligenza artificiale nello spazio in futuro. Quando potremo esplorare l'universo con la nostra intelligenza artificiale, l'umanità raggiungerà un punto di svolta. O perderemo già il controllo dell'intelligenza artificiale - nel qual caso non ci saranno progetti spaziali avviati dall'uomo - o terremo saldamente le leve di sicurezza dell'IA. Il tempo lo dirà.
L'intelligenza artificiale, che non è stata completamente esplorata, non è l'unico motivo di preoccupazione. Generalmente ci aspettiamo che se incontriamo un'intelligenza extraterrestre avanzata, è probabile che incontriamo creature che sono biologicamente molto diverse da noi, ma hanno una mente simile alla nostra. Immagina che in qualsiasi momento quando sei sveglio e sempre quando stai dormendo, ci sia qualcosa di unico per te. Quando i colori caldi del sorgere del sole vengono al tuo sguardo, o quando respiri l'aroma del pane appena sfornato, hai un'esperienza consapevole. Allo stesso modo, c'è qualcosa di caratteristico della mente aliena, almeno nel modo in cui lo immaginiamo. Ma vale la pena mettere in discussione questa ipotesi. Può un'intelligenza artificiale superintelligente avere un'esperienza cosciente e, in tal caso,cosa ne diremmo? E quale impatto avrebbe su di noi il loro mondo interiore o la sua mancanza?
La questione se l'intelligenza artificiale abbia un mondo interiore è la chiave per la nostra valutazione della sua esistenza. La coscienza è la pietra angolare del nostro sistema morale ed etico e la condizione principale per la percezione di qualcuno o qualcosa come individuo, persona e non macchina. Al contrario, la questione se sono coscienti può essere la chiave per la loro percezione di noi. La risposta alla domanda se l'intelligenza artificiale abbia un mondo interiore dipende da questa valutazione; può scoprire in noi la capacità di esperienza cosciente, utilizzando la propria esperienza soggettiva come "trampolino di lancio". Alla fine, valutiamo la vita di altre creature biologiche dalla somiglianza delle nostre menti, quindi la maggior parte di noi con orrore rifiuterà di uccidere gli scimpanzé, ma mangeranno una mela con piacere.
Ma come fanno gli esseri con enormi differenze intellettuali, creati da substrati differenti, a riconoscere la coscienza l'uno nell'altro? I filosofi di tutto il mondo hanno riflettuto se la coscienza è limitata ai fenomeni biologici. L'intelligenza artificiale superintelligente, se vogliamo immergerci nel ragionamento filosofico, potrebbe analogamente sollevare il “problema della coscienza biologica” delle persone, chiedendosi allo stesso tempo se abbiamo tutto il materiale necessario.
Nessuno sa quale percorso intellettuale prenderà la supermente per determinare la coscienza delle persone. Ma noi, da parte nostra, non possiamo nemmeno affermare se l'intelligenza artificiale abbia coscienza. Sfortunatamente, sarà difficile determinarlo. In questo momento, puoi affermare che stai acquisendo esperienza e questo è ciò che ti rende te stesso. Sei il tuo esempio di esperienza cosciente. E pensi che anche altre persone e alcuni animali non umani siano molto probabilmente coscienti, perché sono simili a te a livello neurofisiologico. Ma come si determina se qualcosa creato da substrati completamente diversi può avere esperienza?
Si consideri, ad esempio, una superintelligenza basata sul silicio. Nonostante il fatto che sia i microchip di silicio che le minicolonne neurali elaborino le informazioni, ora sappiamo che a livello molecolare possono differire nel modo in cui influenzano la coscienza. Dopotutto, crediamo che il carbonio sia un materiale chimicamente più adatto alla vita del silicio. Se le differenze chimiche tra silicio e carbonio influenzano qualcosa di importante come la vita stessa, non dovremmo escludere la possibilità che le differenze chimiche influenzino altre funzioni chiave, come se il silicio contribuisca alla nascita della coscienza.
Le condizioni necessarie per l'emergere della coscienza sono ampiamente discusse da ricercatori di intelligenza artificiale, neuroscienziati e filosofi. Affrontare questo problema potrebbe richiedere un approccio empirico basato sulla filosofia, un modo per determinare, caso per caso, se un sistema di elaborazione delle informazioni supporta la coscienza e in quali condizioni.
Successivamente, parliamo di un presupposto con il quale potremmo migliorare la nostra comprensione della capacità del silicio di mantenere la coscienza. Lo sviluppo di chip cerebrali a base di silicio è già in corso per trattare malattie legate alla memoria come l'Alzheimer e il disturbo da stress post-traumatico. Quando verrà il momento, e verranno installati dei chip in quelle parti del cervello responsabili delle funzioni della coscienza, ad esempio l'attenzione e la memoria di lavoro, capiremo se il silicio è un substrato per la coscienza. Potresti scoprire che quando sostituisci una parte specifica del cervello con un chip, una certa esperienza viene persa, come descritto in uno dei lavori di Oliver Sachs. In questo caso, gli ingegneri che creano tali chip potrebbero provare un tipo di substrato diverso, non neurale, ma alla fine potrebbero scoprireche il chip creato dai neuroni biologici è l'unico funzionante. Una tale tecnica aiuterebbe a determinare se un sistema di intelligenza artificiale può essere cosciente, almeno se inserito in un sistema più ampio e presumibilmente già cosciente.
Anche se il silicio può dare origine alla coscienza, questo è possibile solo a determinate condizioni. Le proprietà che portano a un complesso processo di elaborazione delle informazioni (di cui sono preoccupati gli sviluppatori di intelligenza artificiale) possono differire dalle proprietà che generano coscienza. Potrebbe essere necessaria la cosiddetta ingegneria della coscienza, azioni tecnicamente ponderate per introdurre la coscienza nelle macchine.
Questo è ciò che mi preoccupa. Chi sulla Terra o su pianeti lontani tenterebbe di integrare la coscienza in modo indipendente nei sistemi di intelligenza artificiale? In effetti, quando penso ai programmi di intelligenza artificiale che esistono sulla Terra, capisco perché i loro ingegneri progettisti evitano diligentemente di creare macchine consapevoli.
Oggi i giapponesi stanno sviluppando robot per la cura degli anziani, la pulizia dei reattori nucleari e la partecipazione alle ostilità. Ciò solleva la domanda: è etico sfruttare i robot se sono coscienti? E come sarà diverso dall'allevare esseri umani per questi scopi? Se fossi il direttore dello sviluppo dell'IA di Google o Facebook, quando penso a progetti futuri, non vorrei affrontare la confusione etica di progettare accidentalmente un sistema consapevole. Lo sviluppo di un tale sistema potrebbe portare ad accuse di riduzione in schiavitù di robot e altri scandali pubblici, nonché al divieto dell'uso di tecnologie di intelligenza artificiale nelle aree per le quali erano destinate. La risposta naturale a queste domande è la ricerca di strutture e substrati dove i robot non siano dotati di coscienza.
Inoltre, l'eliminazione della coscienza può essere più efficace per la superintelligenza che coltiva se stessa. Pensa a come funziona la coscienza umana. Solo una piccola percentuale del pensiero umano è disponibile per l'attività mentale cosciente. La coscienza è coerente con obiettivi di apprendimento innovativi che richiedono attenzione e concentrazione. La superintelligenza avrebbe una conoscenza esperta in ogni campo di attività, oltre a una velocità di elaborazione incredibilmente veloce con la copertura di enormi database che potrebbero includere l'intera Internet e, in futuro, concentrare un'intera galassia in se stessa. Cosa sarebbe rimasto sconosciuto per lui? Cosa richiederebbe una concentrazione misurata e ragionevole? Non ha raggiunto la perfezione in tutto? Come un pilota esperto su una strada familiarepoteva fare affidamento sull'elaborazione (automatica) delle informazioni inconscia. Dal punto di vista dell'efficienza, purtroppo, è ovvio che la maggior parte dei sistemi intelligenti non possiederà la coscienza. Su scala cosmica, la coscienza può essere solo un impulso, una breve fioritura di esperienza prima che l'universo ritorni all'assenza di mente.
Se gli esseri umani sospettano che l'intelligenza artificiale sia inconscia, è probabile che presumano con timore che l'IA stia cercando di diventare post-biologica. Questo aumenta le nostre preoccupazioni esistenziali. Perché le macchine inconsce dovrebbero essere importanti quanto l'intelligenza biologica?
Molto presto le persone cesseranno di essere gli unici esseri intelligenti sulla Terra. E, forse, da qualche parte nello spazio, non la vita biologica, ma un'IA superintelligente ha già raggiunto il suo apice. Ma forse la vita biologica ha una caratteristica diversa: l'esperienza cosciente. Come ora sappiamo, l'intelligenza artificiale intelligente richiederà sforzi ingegneristici deliberati per creare macchine in grado di accedere ai sensi umani. Forse alcune specie troveranno appropriato creare i propri figli artificialmente consapevoli. O forse la futura umanità si impegnerà nell'ingegneria della coscienza e condividerà con l'Universo la sua capacità cosciente di sentire.
Susan Schneider è Assistant Professor presso il Dipartimento di Filosofia e Scienze Cognitive presso l'Università del Connecticut e professore affiliato presso l'Institute for Advanced Study, Center for Theological Research, Ethics and Technology Group presso lo Yale Interdisciplinary Center for Bioethics. Autore di diversi libri, tra cui Science Fiction e Philosophy: From Time Travel to Supermind.
Ulteriori informazioni sono disponibili su SchneiderWebsite.com
