Gli specialisti nel campo della creazione di intelligenza artificiale a livello umano oggi devono risolvere non solo problemi scientifici, ma anche etici. Quali sono le sfide che devono affrontare gli scienziati? Come proteggere l'umanità dalle potenziali minacce poste dalla creazione di una mente superpotente e rimanere umani nel nuovo mondo? Il professore dell'Istituto di sistemi cibernetici intelligenti dell'Università nazionale di ricerca nucleare "MEPhI" (IIKS NRNU MEPhI) Alexey Samsonovich ne ha parlato al corrispondente del progetto "Navigatore sociale" della MIA "Russia Today" Anna Kurskaya.
- Alexey Vladimirovich, la nostra conversazione si svolge nell'ambito della Conferenza Internazionale "Architetture Cognitive Biologicamente Ispirate" BICA 2019. Quali argomenti di discussione oggi vengono alla ribalta in relazione alla creazione dell'intelligenza artificiale a livello umano?- La conferenza ci ha permesso di realizzare ancora una volta le principali sfide nel campo della creazione di un'intelligenza artificiale di prossima generazione, che dovrebbe diventare un partner alla pari e amico dell'uomo. In primo luogo, la sfida è creare un'intelligenza emotiva a livello umano che possa sfruttare le emozioni nel processo decisionale e nella generazione di comportamenti. In particolare, questa qualità consentirà alla macchina di stabilire legami sociali a lungo termine, simili a quelli tra i propri cari. Le permetterà anche di giustificare le sue azioni e decisioni, scegliere obiettivi e un modo di apprendere. L'intelligenza emotiva è la chiave per rispondere ad altre sfide. Non si limita alla capacità di riconoscere ed esprimere le emozioni, che oggi sono occupate dalla maggior parte dei ricercatori che lavorano in questo campo. Sebbene entrambi questi processi siano necessari,è molto più importante e più difficile capire la connessione tra l'uno e l'altro, che fornisce l'intelligenza emotiva. In secondo luogo, l'agente intelligente deve comprendere il contesto di ciò che sta accadendo. Ciò significa che, sulla base delle informazioni a sua disposizione, deve generare autonomamente e aggiornare continuamente lo scenario globale del passato e del futuro, determinare il suo ruolo in esso e quindi, su questa base, porsi obiettivi specifici e sviluppare piani per raggiungerli. Nella letteratura scientifica, questa capacità è solitamente chiamata "intelligenza narrativa" (non deve essere confusa con programmi che funzionano secondo un copione o una narrazione scritta in precedenza da una persona).che deve generare autonomamente e aggiornare continuamente lo scenario globale del passato e del futuro sulla base delle informazioni a sua disposizione, determinare il suo ruolo in esso e quindi, su questa base, fissare obiettivi specifici e sviluppare piani per il loro raggiungimento. Nella letteratura scientifica, questa capacità è solitamente chiamata "intelligenza narrativa" (non deve essere confusa con programmi che funzionano secondo un copione o una narrazione scritta in precedenza da una persona).che deve generare autonomamente e aggiornare continuamente lo scenario globale del passato e del futuro sulla base delle informazioni a sua disposizione, determinare il suo ruolo in esso e quindi, su questa base, fissare obiettivi specifici e sviluppare piani per il loro raggiungimento. Nella letteratura scientifica, questa capacità è solitamente chiamata "intelligenza narrativa" (non deve essere confusa con programmi che funzionano secondo un copione o una narrazione scritta in precedenza da una persona).o narrativa).o narrativa). - C'è una terza sfida?
- Sarà l'implementazione dell'apprendimento attivo dell'intelligenza artificiale, che, come una persona, sviluppa essa stessa un sistema di valori che motiva il processo di apprendimento, forma essa stessa obiettivi e una tabella di marcia per l'apprendimento, sceglie i mezzi (ad esempio, esperimenti per testare ipotesi, ricerca di risorse disponibili o domande a una persona) e, spinto dalla propria iniziativa, utilizza questi mezzi per raggiungere l'obiettivo. Allo stesso tempo, la macchina deve essere in grado di svilupparsi indipendentemente dal livello di un bambino a quello di un adulto e oltre, alla superintelligenza.
Questa terza area potrebbe essere chiamata "intelligenza di apprendimento a livello umano" per distinguerla da "apprendimento profondo" e altri tipi di apprendimento automatico che sono popolari oggi. Nella mia comprensione, l'intelligenza di apprendimento a livello umano sarà possibile attraverso l'intelligenza emotiva e narrativa.
Che ricerca stai facendo adesso? Come sta procedendo il tuo lavoro sulla creazione di assistenti umani virtuali e sui modelli di intelligenza emotiva?
- Siamo impegnati nella modellazione dell'intelligenza emotiva umana con l'obiettivo di sviluppare assistenti umani virtuali socialmente compatibili basati sui nostri modelli.
Consideriamo un'ampia gamma di compiti specifici e aree di ricerca. Ad esempio, questa è la creazione di un partner virtuale in un videogioco; coordinatore o moderatore virtuale; assistente creativo virtuale del compositore, coreografo, designer, assistente del risolutore di problemi di insight; un ascoltatore virtuale (in futuro - un interlocutore virtuale); oltre che un animale domestico virtuale, paragonabile a uno reale per le sue caratteristiche sociali ed emotive.
I risultati sono difficili da presentare in dettaglio qui, ma possono essere trovati nelle nostre pubblicazioni aperte. Per tutta l'ampiezza dei nostri tentativi e dei nostri successi, abbiamo bisogno di una svolta in una direzione: nel dimostrare il valore pratico del modello generale di intelligenza emotiva umana, incarnato in un agente intellettuale.
Recentemente, il nostro BICA Lab presso il Dipartimento di Cibernetica presso NRNU MEPhI si è arricchito di nuovi metodi di ricerca, tra cui una piattaforma sperimentale basata sulla realtà virtuale e mista (con tracciamento della direzione degli occhi del soggetto), così come l'elettromiografia e l'analisi automatica delle espressioni facciali, permettendoci di registrare le emozioni dei soggetti immersi in ambienti virtuali. La maggior parte del nostro lavoro viene ora svolto utilizzando queste tecnologie. In alcuni esperimenti vengono utilizzati anche EEG e fMRI.
Video promozionale:
Il nostro obiettivo globale immediato è perfezionare e convalidare empiricamente l'architettura cognitiva socio-emotiva Ebica (eBICA) e creare dimostrazioni efficaci basate su di essa. Questo lavoro viene svolto presso NRNU MEPhI con il sostegno finanziario della sovvenzione n. 18-11-00336 della Russian Science Foundation.
Recentemente, la startup Neuralink di Elon Musk ha annunciato sviluppi che, in futuro, potrebbero rendere una persona un cyborg, in grado di controllare un computer con il potere del pensiero. Quanto è promettente per te questa linea di ricerca?
- Nella mia comprensione, l'intelligenza artificiale dovrebbe diventare, da un lato, un partner alla pari e amico dell'uomo e, dall'altro, un'estensione delle capacità umane normali o sostitutive, compresi i mezzi basati su un'interfaccia diretta con il cervello umano.
In questo caso, una persona potrebbe letteralmente usare un computer o un microchip come parte del proprio cervello. Entrambi mirano al bene e dovrebbero essere interamente controllati dal suo creatore. Auguro a Elon Musk ogni successo.
Quanto è grande la necessità di sviluppare mezzi per contrastare l'intelligenza artificiale?
- Penso che nella nostra era, gli strumenti di intelligenza artificiale rimarranno sotto il controllo di una persona, se non altro a causa della loro dipendenza dal loro servizio da parte di una persona e fornendo loro tutto ciò di cui hanno bisogno. Se qualcuno può metterli contro una persona, allora solo la persona stessa. Quindi dovrebbe essere considerata la questione del confronto con quelle persone.
Non è un segreto che i militari abbiano bisogno prima di tutto dell'intelligenza artificiale. Oggi, come prima, vengono creati nuovi mezzi di attacco e difesa. Ma la particolarità del nostro tempo è che entrambi includono l'intelligenza artificiale. In questo senso, la necessità di sviluppare mezzi di confronto è grande e per alcuni paesi è una priorità dal punto di vista finanziario.
Cosa ci aspetta dopo la creazione dell'intelligenza artificiale, superiore a quella umana? Coesisteremo con le macchine o ci uniremo in una sorta di un tutto unico?
- L'intelligenza artificiale diventerà, e sta già diventando, parte integrante della civiltà umana. Allo stesso tempo, sono ancora possibili due strade: l'eredità dei nostri valori, aspirazioni e ideali da parte dell'intelligenza artificiale, o la loro sostituzione con "valori macchina", che si estende non solo alle macchine, ma anche alle persone. Sta a noi decidere quale di questi due percorsi realizzare.
Cosa significa rimanere umani nell'era dell'intelligenza artificiale?
- Restare umani nell'era dell'intelligenza artificiale significa attuare il primo percorso.
