In qualità di ricercatore di intelligenza artificiale, mi trovo spesso di fronte all'opinione che molte persone abbiano paura dell'IA e di ciò che può diventare. In effetti, non sorprende se si guarda dal punto di vista della storia umana, prestando attenzione a ciò che l'industria dell'intrattenimento ci sta alimentando, che le persone possano avere paura di una ribellione informatica che ci costringerà a vivere in aree isolate e trasformerà gli altri in un tipo di batterie umane "Matrix-like" …
Eppure, per me, guardando tutti questi modelli di computer evolutivi che utilizzo nello sviluppo dell'IA, è difficile pensare che le mie innocue, pure come le lacrime di un bambino, creature sullo schermo del mio computer possano un giorno trasformarsi in mostri di una futuristica distopia. Posso davvero essere definito un "distruttore di mondi", come una volta Oppenheimer si è pentito e ha detto di se stesso dopo aver guidato il programma per creare una bomba nucleare?
Forse accetterei una tale fama, o forse i critici del mio lavoro hanno ragione dopotutto? Forse dovrei davvero smettere di evitare domande su quali paure ho sull'intelligenza artificiale come esperto di intelligenza artificiale?
Paura dell'imprevedibilità
Il computer HAL 9000, un sogno diventato realtà per lo scrittore di fantascienza Arthur Charles Clarke e portato in vita dal regista Stanley Kubrick in Odissea nello spazio del 2001, è un eccellente esempio di un sistema che si è bloccato a causa di circostanze impreviste.
In molti sistemi complessi - il Titanic, lo space shuttle della NASA e la centrale nucleare di Chernobyl - gli ingegneri dovevano combinare molti componenti. Forse gli architetti di questi sistemi erano ben consapevoli di come ciascuno dei suoi elementi funzionasse individualmente, ma non capivano abbastanza bene come tutti questi componenti avrebbero funzionato insieme.
Video promozionale:
Il risultato sono stati sistemi che non sono mai stati completamente compresi dai loro stessi creatori, il che ha portato a conseguenze ben note. In ogni caso - la nave affondò, due navette esplose e quasi tutta l'Europa e parti dell'Asia dovettero affrontare il problema della contaminazione radioattiva - una serie di problemi relativamente piccoli, ma che si verificarono casualmente allo stesso tempo, creò un effetto catastrofico.
Posso perfettamente immaginare come noi, i creatori dell'IA, possiamo arrivare a risultati simili. Prendiamo gli ultimi sviluppi e ricerche nella scienza cognitiva (la scienza del pensiero - ndr), li traduciamo in algoritmi informatici e aggiungiamo tutto questo ai sistemi esistenti. Stiamo cercando di sviluppare l'IA senza comprendere appieno la nostra intelligenza e coscienza.
Sistemi come Watson di IBM o Alpha di Google sono reti neurali artificiali con una potenza di calcolo impressionante e la capacità di affrontare compiti davvero complessi. Ma per ora, l'unica cosa a cui porterà un errore nel loro lavoro sarà il risultato di una perdita nel gioco intellettuale "Jeopardy!" o un'occasione persa per sconfiggere l'ennesimo miglior gioco da tavolo logico Go.
Queste conseguenze non sono di natura globale. In effetti, la cosa peggiore che può accadere alle persone in questo caso è che qualcuno perde una certa somma di denaro nelle scommesse.
Tuttavia, l'architettura dell'IA sta diventando più complessa e i processi informatici stanno diventando più veloci. Le capacità di intelligenza artificiale aumenteranno solo nel tempo. E già questo ci porterà al fatto che inizieremo ad assegnare sempre più responsabilità all'AI, nonostante i crescenti rischi di imprevisti.
Siamo ben consapevoli che "gli errori fanno parte della natura umana", quindi sarà semplicemente fisicamente impossibile per noi creare un sistema veramente sicuro in ogni cosa.
Paura dell'abuso
Non sono molto preoccupato per l'imprevedibilità delle conseguenze nel lavoro dell'IA, che sviluppo utilizzando il cosiddetto approccio di neuroevoluzione. Creo ambienti virtuali e li popolo di creature digitali, dando ai loro cervelli comandi per risolvere problemi di crescente complessità.
Nel tempo, l'efficienza della risoluzione dei problemi di queste creature aumenta e si evolve. Coloro che fanno il lavoro migliore vengono selezionati per la riproduzione, creando una nuova generazione sulla loro base. Nel corso delle generazioni, queste creature digitali sviluppano capacità cognitive.
Ad esempio, in questo momento stiamo facendo i primi passi nello sviluppo di macchine al livello di eseguire semplici attività di navigazione, prendere decisioni semplici o memorizzare un paio di bit di informazioni. Ma presto vedremo lo sviluppo di macchine in grado di eseguire compiti più complessi e avere un livello generale di intelligenza molto più efficiente. Il nostro obiettivo finale è creare intelligenza a livello umano.
Nel corso di questa evoluzione, proveremo a trovare e correggere tutti i bug e i problemi. Con ogni nuova generazione, le macchine saranno più brave a far fronte agli errori rispetto alle precedenti. Ciò aumenterà le possibilità che saremo in grado di identificare tutte le conseguenze imprevedibili nelle simulazioni ed eliminarle prima che possano essere realizzate nel mondo reale.
Un'altra opportunità che il metodo evolutivo di sviluppo offre è dotare l'intelligenza artificiale di etica. È probabile che caratteristiche etiche e morali di una persona come l'affidabilità e l'altruismo siano il risultato della nostra evoluzione e un fattore nella sua continuazione.
Possiamo creare un ambiente costruito e consentire alle macchine di dimostrare gentilezza, onestà ed empatia. Questo potrebbe essere un modo per assicurarci di sviluppare servitori più obbedienti rispetto a spietati robot assassini. Tuttavia, mentre la neuroevoluzione può ridurre il livello di conseguenze indesiderate nel comportamento dell'IA, non può impedire l'uso improprio dell'intelligenza artificiale.
Come scienziato, devo essere all'altezza del mio impegno per la verità e riferire ciò che ho scoperto attraverso i miei esperimenti, che mi piacciano o no i risultati. Il mio lavoro non è determinare cosa mi piace e cosa no. L'unica cosa importante è che posso rendere pubblico il mio lavoro.
Paura di priorità sociali sbagliate
Essere uno scienziato non significa perdere la propria umanità. Devo ricollegarmi alle mie speranze e paure a un certo livello. In quanto individuo moralmente e politicamente motivato, devo considerare le potenziali conseguenze del mio lavoro e il suo possibile effetto sulla società.
Come scienziati e come rappresentanti della società, non siamo ancora arrivati a un'idea chiara di cosa esattamente vogliamo ottenere dall'IA e di cosa dovrebbe diventare alla fine. Ciò è, ovviamente, in parte dovuto al fatto che ancora non ne comprendiamo appieno il potenziale. Tuttavia, dobbiamo ancora capire e decidere chiaramente cosa vogliamo ottenere da un'intelligenza artificiale veramente avanzata.
Una delle aree principali a cui le persone prestano attenzione quando parlano di intelligenza artificiale è l'occupazione. I robot stanno già facendo un lavoro fisico complesso per noi, come l'assemblaggio e la saldatura di parti di carrozzeria di automobili. Ma un giorno verrà il giorno in cui i robot avranno il compito di svolgere compiti cognitivi, cioè, saranno incaricati di quella che prima era considerata un'abilità esclusivamente unica della persona stessa. Le auto a guida autonoma possono sostituire i tassisti; gli aerei a guida autonoma non avranno bisogno di piloti.
Invece di ricevere cure mediche in pronto soccorso pieni di personale e medici sempre stanchi, i pazienti saranno in grado di condurre esami e apprendere diagnosi utilizzando sistemi esperti con accesso immediato a tutte le conoscenze mediche. Gli interventi chirurgici saranno eseguiti da robot non sensibili alla fatica, con una mano perfettamente “allenata”.
La consulenza legale sarà disponibile da un quadro giuridico completo. Per la consulenza sugli investimenti, ci rivolgeremo a sistemi di previsione di mercato esperti. Forse un giorno tutto il lavoro umano sarà svolto dalle macchine. Anche il mio lavoro può essere svolto più velocemente utilizzando un gran numero di macchine alla ricerca incessante di come rendere le macchine ancora più intelligenti.
Nella realtà della nostra società attuale, l'automazione sta già costringendo le persone a lasciare il lavoro, rendendo i ricchi proprietari di tali macchine automatizzate ancora più ricchi e il resto ancora più poveri. Ma questo non è un problema scientifico. Questo è un problema politico e socioeconomico che la società stessa deve risolvere.
La mia ricerca non cambierà questo, ma le mie basi politiche, insieme all'umanità, possono portare a circostanze in cui l'IA può diventare una funzione estremamente utile, invece di ampliare il divario tra l'uno per cento dell'élite mondiale e il resto di noi.
Paura di uno scenario catastrofico
Siamo arrivati alla paura finale che ci è stata imposta dal folle HAL 9000, dal Terminator e da qualsiasi altra superintelligenza malvagia. Se l'IA continua ad evolversi fino a superare l'intelligenza umana, un sistema superintelligente artificiale (o una raccolta di tali sistemi) considererebbe gli esseri umani un materiale inutile? Come possiamo giustificare la nostra esistenza di fronte a una superintelligenza capace di fare e creare ciò che nessun altro può fare? Riusciremo a evitare il destino di essere spazzati via dalla faccia della Terra dalle macchine che abbiamo contribuito a creare?
Pertanto, la domanda più importante in tali circostanze suonerà così: perché la superintelligenza artificiale avrà bisogno di noi?
Se una situazione del genere fosse accaduta, probabilmente direi che sono una brava persona che ha anche contribuito alla creazione di questa superintelligenza, che sto affrontando ora. Mi appello alla sua compassione ed empatia, in modo che la superintelligenza mi lasci, così compassionevole ed empatica, viva. Aggiungerei anche che la diversità delle specie stessa ha un valore e l'universo è così grande che l'esistenza della specie umana al suo interno è in realtà piuttosto insignificante.
Ma non posso parlare per tutta l'umanità, quindi sarà difficile per me trovare un argomento valido per tutti noi. È solo che quando guardo tutti noi, vedo davvero che abbiamo fatto molto e stiamo facendo molto male. L'odio reciproco regna nel mondo. Andiamo in guerra gli uni contro gli altri. Distribuiamo cibo, conoscenza e assistenza sanitaria in modo ingiusto. Stiamo inquinando il pianeta. In questo mondo, ovviamente, ci sono molte cose buone, ma se guardi tutte le cose cattive che abbiamo creato e continuiamo a creare, sarà molto difficile trovare un argomento a sostegno della nostra continua esistenza.
Fortunatamente, non dobbiamo ancora giustificare la nostra esistenza. Abbiamo ancora tempo. Da 50 a 250 anni, a seconda della velocità con cui si sviluppa l'intelligenza artificiale. Noi, come specie, abbiamo la capacità di unirci e trovare una buona risposta alla domanda sul perché la superintelligenza non dovrebbe cancellarci dalla faccia del pianeta.
Sarà molto difficile risolvere questo problema. Dopotutto, dire che sosteniamo la diversità e le differenze etnoculturali, e farlo sono cose completamente diverse. Come dire che vogliamo salvare il pianeta e affrontarlo con successo.
Tutti noi, che si tratti di ogni individuo o della società nel suo insieme, dobbiamo prepararci a uno scenario catastrofico, usando quel tempo per essere pronti a mostrare e dimostrare perché le nostre creazioni dovrebbero permetterci di continuare ad esistere. Oppure possiamo semplicemente continuare a credere ciecamente che un simile sviluppo di eventi sia impossibile e semplicemente smettere di parlare di questo argomento.
Tuttavia, indipendentemente dal pericolo fisico che la superintelligenza può rappresentare per noi, non dobbiamo dimenticare che rappresenterà anche un pericolo politico ed economico. Se non troviamo un modo per migliorare il nostro tenore di vita, finiremo per alimentare semplicemente il capitalismo con un operaio di intelligenza artificiale che servirà solo pochi eletti che hanno tutti i mezzi di produzione.
Questo articolo è stato originariamente pubblicato su theconversation.com da Arend Hintze, Professore Associato presso il Dipartimento di Biologia Integrativa, Informatica e Ingegneria, Michigan State University.
Nikolay Khizhnyak
