DeepMind E Google: La Battaglia Per Il Controllo Dell'intelligenza Artificiale - Visualizzazione Alternativa

Sommario:

DeepMind E Google: La Battaglia Per Il Controllo Dell'intelligenza Artificiale - Visualizzazione Alternativa
DeepMind E Google: La Battaglia Per Il Controllo Dell'intelligenza Artificiale - Visualizzazione Alternativa

Video: DeepMind E Google: La Battaglia Per Il Controllo Dell'intelligenza Artificiale - Visualizzazione Alternativa

Video: DeepMind E Google: La Battaglia Per Il Controllo Dell'intelligenza Artificiale - Visualizzazione Alternativa
Video: AlphaGo - The Movie | Full award-winning documentary 2024, Marzo
Anonim

Una sera nell'agosto 2010, una londinese di 34 anni di nome Demis Hassabis è salita sul palco in una sala conferenze nella Bay Area di San Francisco. Salendo sul podio con la finta andatura di un uomo che cerca di controllare i suoi nervi, ha stretto le labbra in un breve sorriso e ha detto: "Bene, oggi voglio parlare di diversi approcci alla creazione …". Si fermò, come se si rendesse conto di quanto forte stesse dichiarando le sue ambizioni. E lo ha detto: "AGI".

AGI sta per General Artificial Intelligence, un ipotetico programma per computer in grado di eseguire compiti intellettuali oltre che umani, o anche meglio. AGI sarà in grado di svolgere compiti specifici, come riconoscere le persone nelle foto o tradurre le lingue, che attualmente sono in grado di eseguire molte intelligenze artificiali separate nei nostri telefoni e computer. Saranno in grado di portare avanti una conversazione, giocare a scacchi e parlare francese allo stesso tempo. Saranno in grado di comprendere libri di fisica, scrivere romanzi, sviluppare strategie di investimento e mantenere conversazioni informali con estranei. Monitoreranno le reazioni nucleari, gestiranno le reti elettriche e il traffico e riusciranno senza sforzo in tutto il resto. AGI farà sembrare oggi l'IA più avanzata come calcolatrici tascabili.

L'unico intelletto attualmente in grado di svolgere tutti questi compiti appartiene agli umani. Ma la mente umana è limitata dalle dimensioni del cranio che ospita il cervello. Il suo potere è limitato dalla piccola quantità di energia che il corpo può fornire. Poiché AGI verrà eseguito su computer, non soffrirà di queste limitazioni. La sua intelligenza sarà limitata solo dal numero di processori disponibili. AGI può iniziare monitorando le reazioni nucleari. Ma ben presto scoprirà nuove fonti di energia, digerendo più lavoro fisico al secondo di quanto una persona possa in mille anni. L'intelligenza a livello umano, supportata dalla velocità e dalla scalabilità dei computer, ci risparmierà i problemi. Hassabis ha detto al quotidiano britannico Observer che si aspetta che AGI affronti, tra le altre discipline, problemi come "cancro,cambiamento climatico, energia, genomica, macroeconomia e sistemi finanziari ".

La conferenza alla quale ha parlato Hassabis è stata chiamata Singularity Summit. Singolarità - la prima parte del nome - si riferisce alla conseguenza più probabile dell'emergere di AGI, secondo i futurologi. Poiché AGI elaborerà le informazioni ad alta velocità, diventerà molto intelligente molto rapidamente. Cicli di auto-miglioramento rapidi porteranno a un'esplosione dell'intelligenza artificiale, lasciando le persone ad annusare la polvere di silicio. Poiché questo futuro si basa esclusivamente su presupposti non verificati, si presume quasi religiosamente che la Singolarità si rivelerà un'utopia o un inferno.

A giudicare dai titoli degli interventi, i partecipanti alla conferenza hanno creduto di più al primo risultato: "La mente e come costruirla", "L'IA contro l'invecchiamento", "Sostituire i nostri corpi", "Modificare il confine tra la vita e la morte" Il discorso di Hassabis, d'altra parte, sembrava noioso: "Un approccio neuroscientifico sistemico alla creazione di AGI".

Hassabis camminava avanti e indietro tra il podio e lo schermo, parlando in un picchiettio. Indossava un maglione bordeaux e una camicia bianca abbottonata come uno scolaro. La sua bassa statura sembrava solo sottolineare la sua intelligenza. Fino ad ora, ha spiegato Hassabis, gli scienziati si sono avvicinati all'AGI da due lati. Un approccio, noto come AI simbolica, ha cercato di descrivere e programmare tutte le regole necessarie per un sistema che potesse pensare come un essere umano. Questo approccio era popolare negli anni '80 e '90, ma non ha prodotto i risultati desiderati. Hassabis credeva che l'architettura mentale del cervello fosse troppo sottile per essere descritta in questo modo.

Un altro approccio ha riunito scienziati che cercano di replicare digitalmente le reti fisiche del cervello. Aveva un certo senso. Dopo tutto, il cervello è il letto dell'intelligenza umana. Ma anche quei ricercatori erano sulla strada sbagliata, ha detto Hassabis. Il loro compito era simile a creare una mappa di tutte le stelle dell'universo. Più in profondità, si stavano concentrando sul livello sbagliato di funzionamento del cervello. È stato come cercare di capire come funziona Microsoft Excel hackerando un computer e imparando come interagiscono i transistor.

Invece, Hassabis ha offerto una via di mezzo: AGI dovrebbe trarre ispirazione dai modi ampi in cui il cervello elabora le informazioni, non dai sistemi fisici o da regole specifiche che applica a situazioni specifiche. In altre parole, dovrebbe concentrarsi sulla comprensione del software del cervello, non del suo hardware. Nuove tecniche come la risonanza magnetica funzionale (fMRI), che ha permesso di comprendere il cervello mentre funzionava, hanno suggerito che tale comprensione era possibile. Studi recenti, ha detto Hassabis, dimostrano che il cervello impara riproducendo le sue esperienze durante il sonno per rivelare i principi generali. I ricercatori di intelligenza artificiale devono emulare un tale sistema.

Video promozionale:

Nell'angolo inferiore destro della diapositiva di apertura, ostenta il logo a forma di vortice blu rotondo. Le due parole accanto sono stampate di seguito: DeepMind. Questa è stata la prima volta che la società è stata citata pubblicamente. Hassabis ha trascorso più di un anno cercando di ottenere un invito al Singularity Summit. La conferenza era la sua copertina. In effetti, aveva bisogno di un minuto con Peter Thiel, il miliardario della Silicon Valley che ha finanziato la conferenza. Hassabis voleva l'investimento di Thiel.

Hassabis non ha mai parlato del motivo per cui aveva bisogno del supporto di Thiel. Ma Thiel credeva nell'AGI ancor più che nell'Hassabis. Parlando al Singularity Summit nel 2009, Thiel ha detto che la sua più grande paura del futuro non era una rivolta robotica. Era più preoccupato che la Singolarità non sarebbe arrivata presto. Il mondo aveva bisogno di nuove tecnologie per evitare una recessione economica.

DeepMind ha finito per raccogliere 2 milioni di sterline, di cui Thiel 1,4 milioni. Quando Google ha acquistato la società nel gennaio 2014 per $ 600 milioni, Thiel e altri primi investitori hanno ottenuto un ritorno del 5.000% sui loro investimenti.

Per molti fondatori, questo sarebbe un lieto fine. Ci si potrebbe riposare, fare un passo indietro, passare del tempo da soli con i soldi. Per Hassabis, l'acquisizione di Google è stata solo un altro passo nella sua ricerca di AGI. Ha trascorso la maggior parte del 2013 a negoziare i termini dell'accordo. DeepMind doveva operare separatamente dal suo proprietario. Aveva bisogno di ottenere i vantaggi di possedere Google, come l'accesso al flusso di cassa e alla potenza di calcolo, senza perdere il controllo.

Hassabis pensava che DeepMind potesse essere un ibrido, con un motore di avvio, il cervello delle più grandi università e le tasche profonde di una delle aziende più preziose del mondo. Ogni ingrediente era pronto per accelerare l'arrivo dell'AGI ed eliminare le cause della sofferenza umana.

Hu del signor Hassabis

Demis Hassabis è nata nel nord di Londra nel 1976 da una famiglia cinese greco-cipriota e nata a Singapore. Era il maggiore di tre fratelli. Sua madre lavorava nel grande magazzino britannico John Lewis e suo padre gestiva un negozio di giocattoli. Lo stesso Hassabis iniziò a giocare a scacchi all'età di quattro anni, guardando suo padre e suo zio giocare. In poche settimane picchiava già gli adulti. All'età di 13 anni, è diventato il secondo miglior giocatore di scacchi al mondo della sua età. All'età di otto anni ha imparato a programmare su un semplice computer.

Hassabis ha ricevuto la sua istruzione superiore nel 1992, due anni prima del previsto. Ho trovato lavoro come programmatore di videogiochi alla Bullfrog Productions. Hassabis ha scritto Theme Park, in cui i giocatori creano e gestiscono un parco divertimenti virtuale. Il gioco ebbe un grande successo e vendette 15 milioni di copie, creando un intero genere di giochi di simulazione in cui l'obiettivo non era sconfiggere il nemico, ma ottimizzare il funzionamento di un enorme sistema complesso, come un'azienda o una città.

Oltre a creare giochi, Demis li ha giocati bene. Da adolescente, correva tra i piani nelle competizioni di giochi da tavolo, mentre gareggiava in duelli di scacchi, scarabeo, poker e backgammon. Nel 1995, mentre studiava informatica all'Università di Cambridge, Hassabis ha gareggiato nel torneo studentesco. Go è un antico gioco da tavolo di strategia che è significativamente più difficile degli scacchi. La maestria richiede un'intuizione acquisita in molti anni di esperienza. Nessuno sapeva se Hassabis avesse mai giocato a Go prima.

Innanzitutto, Hassabis ha vinto il torneo per principianti. Ha poi sconfitto il vincitore dei giocatori esperti, anche se con un handicap. Charles Matthews, il go master di Cambridge che ha ospitato il torneo, ricorda lo shock di essere stato distrutto da un rookie di 19 anni. Matthews ha preso Hassabis sotto la sua ala protettrice.

L'intelligenza e l'ambizione di Hassabis sono sempre state evidenti nei giochi. I giochi, a loro volta, riaccendono la sua passione per l'intelligenza. Mentre osservava il suo sviluppo negli scacchi, si chiedeva se i computer potessero essere programmati per imparare nello stesso modo in cui faceva acquisendo esperienza. I giochi offrivano un ambiente di apprendimento che non era eguagliato dal mondo reale. Erano severi e chiusi. Poiché i giochi sono separati dal mondo reale, possono essere praticati senza interferenze e appresi in modo efficace. I giochi accelerano il tempo: i giocatori creano un sindacato criminale in pochi giorni e combattono sulla Somme per alcuni minuti.

Nell'estate del 1997, Hassabis si è recato in Giappone. Nel maggio dello stesso anno, il computer Deep Blue di IBM ha battuto Garry Kasparov, il campione mondiale di scacchi. Per la prima volta, un computer ha battuto un grande maestro. La partita ha attirato l'attenzione di tutto il mondo e ha sollevato preoccupazioni sulla crescente potenza e potenziale minaccia dei computer. Quando Hassabis ha incontrato Masahiko Futszuvera, un maestro giapponese di giochi da tavolo, ha parlato di piani che avrebbero combinato i suoi interessi per i giochi di strategia e l'intelligenza artificiale: un giorno avrebbe sviluppato un programma per computer per sconfiggere il più grande giocatore di go.

Hassabis si è avvicinato metodicamente alla sua carriera. "All'età di 20 anni, Hassabis credeva che certe cose dovevano essere a posto prima che l'intelligenza artificiale potesse raggiungere il livello di cui aveva bisogno", dice Matthews. "Aveva un piano."

Nel 1998, ha fondato il suo studio di giochi chiamato Elixir. Hassabis si è concentrato su un gioco estremamente ambizioso, Republic: The Revolution, una complessa simulazione politica. Qualche anno prima, mentre era ancora a scuola, Hassabis aveva detto al suo amico Mustafa Suleiman che il mondo aveva bisogno di simulazioni grandiose per modellare le sue dinamiche complesse e risolvere i problemi sociali più complessi. Ora ha provato a farlo nel gioco.

Era più difficile codificare le sue aspirazioni del previsto. Elixir ha finito per rilasciare una versione ridotta del gioco per ottenere recensioni favorevoli. Altri giochi hanno fallito. Nell'aprile 2005, Hassabis ha chiuso Elixir. Matthews crede che Hassabis abbia fondato l'azienda semplicemente per acquisire esperienza nella gestione. Ad Hassabis ora mancava solo un'importante area di competenza prima di poter iniziare la sua ricerca per trovare AGI. Doveva capire il cervello umano.

Nel 2005, Hassabis ha conseguito il dottorato in neuroscienze presso l'University College di Londra. Ha pubblicato uno studio molto influente sulla memoria e sull'immaginazione. Uno studio, che da allora è stato citato più di 1.000 volte, ha dimostrato che anche le persone con amnesia hanno difficoltà a immaginare nuove esperienze, suggerendo una connessione tra il ricordo e la creazione di immagini mentali. Hassabis ha costruito la comprensione del cervello necessaria per padroneggiare l'AGI. Gran parte del suo lavoro si riduce a una domanda: in che modo il cervello umano riceve e conserva concetti e conoscenze?

Hassabis ha formalmente fondato DeepMind il 15 novembre 2010. La dichiarazione di intenti dell'azienda era la stessa di adesso: "risolvere l'intelligenza" e poi usarla per risolvere tutto il resto. Come ha detto Hassabis al Singularity Summit, questo significa tradurre la nostra comprensione di come il cervello esegue i compiti in un software che può utilizzare gli stessi metodi per insegnare.

Hassabis non afferma affatto che la scienza abbia pienamente compreso la mente umana. Il piano per l'implementazione dell'AGI era impossibile da apprendere da centinaia di studi sulle neuroscienze. Ma crede chiaramente che sia abbastanza possibile iniziare a lavorare su AGI nel modo che gli piace. Tuttavia, è anche possibile che la sua fiducia prevalga sulla realtà. Sappiamo ancora molto poco per certo su come funziona effettivamente il cervello. Nel 2018, un team di ricercatori australiani ha messo in dubbio le stesse scoperte di Hassabis. Naturalmente, questo è solo un documento, ma mostra che la scienza alla base del lavoro di DeepMind è tutt'altro che dimostrata.

Suleiman e Shane Legg, un neozelandese ossessionato dall'AGI che Hassabis ha incontrato all'università, si sono uniti come co-fondatori. La reputazione dell'azienda è cresciuta rapidamente. L'Hassabis fiorì. "Attrae come una calamita", afferma Ben Faulkner, ex dirigente di Deep Mind. Molte reclute vengono dall'Europa. Forse il più grande risultato di DeepMind è stato reclutare attivamente persone di talento in anticipo e mantenere i più brillanti e migliori di loro.

Una delle tecniche di apprendimento automatico su cui l'azienda si è concentrata è nata dalla doppia passione di Hassabis per i giochi e le neuroscienze: l'apprendimento per rinforzo. Tale programma è progettato per raccogliere informazioni sull'ambiente e quindi imparare da esso, riproducendo la sua esperienza più e più volte, proprio come Hassabis ha descritto l'attività cerebrale durante il sonno nella sua conferenza al Singularity Summit.

L'apprendimento per rinforzo inizia con una tabula rasa. Al programma viene mostrato un ambiente virtuale di cui non sa nulla tranne le regole, come un simulatore di scacchi o un videogioco. Il programma contiene almeno un componente noto come rete neurale. Consiste di strati di strutture computazionali che setacciano le informazioni per identificare caratteristiche o strategie specifiche. Ogni livello esplora l'ambiente al proprio livello di astrazione. All'inizio queste reti hanno un successo minimo, ma anche i loro errori - e questo è importante - sono codificati in esse. A poco a poco, diventano sempre più intelligenti, sperimentando strategie diverse e ricevendo ricompense se ci riescono. Se il programma sposta il pezzo degli scacchi e, di conseguenza, perde la partita, non commetterà più un errore del genere. Gran parte della magia dell'intelligenza artificiale sta nella velocità con cui ripete questi compiti.

Il lavoro di DeepMind ha raggiunto il suo apice nel 2016, quando il team ha sviluppato un programma di intelligenza artificiale che utilizzava l'apprendimento per rinforzo insieme ad altri metodi di gioco. Il programma, chiamato AlphaGo, ha sollevato le sopracciglia dopo aver battuto il campione del mondo in una partita di cinque partite a Seoul nel 2016. La vittoria della macchina, a cui hanno assistito 280 milioni di persone, è avvenuta dieci anni prima del previsto. L'anno successivo, una versione migliorata di AlphaGo sconfisse il campione cinese Go.

Come Deep Blue nel 1997, AlphaGo ha cambiato la percezione del successo umano. I campioni umani, le menti brillanti del pianeta, non erano più in cima alla piramide intellettuale. Quasi 20 anni dopo che Hassabis annunciò le sue ambizioni a Fuzuvere, le realizzò. Hassabis ha detto che questa partita lo ha portato alle lacrime. Era grato a Matthews.

DeepBlue ha vinto grazie alla forza bruta e alla velocità di calcolo, ma lo stile di AlphaGo sembrava artistico, quasi umano. La sua eleganza e raffinatezza, la sua potenza di calcolo superiore, sembravano dimostrare che DeepMind era in vantaggio sulla concorrenza nella creazione di un programma in grado di curare malattie e governare le città.

DeepMind e intelligenza artificiale

Hassabis ha sempre affermato che DeepMind cambierà il mondo in meglio. Ma non c'è certezza su AGI. Se mai apparirà, non sappiamo se andrà nel bene o nel male, se si sottometterà al controllo umano. In caso affermativo, chi terrà le redini?

Fin dall'inizio, Hassabis ha cercato di difendere l'indipendenza di DeepMind. Ha sempre insistito affinché DeepMind rimanesse a Londra. Quando Google ha acquistato l'azienda nel 2014, la questione del controllo è diventata più pressante. Hassabis non aveva bisogno di vendere DeepMind a Google. Con abbastanza soldi in mano, ha abbozzato un modello di business in cui la società avrebbe sviluppato giochi per finanziare la ricerca. Avevano promesso molti soldi a Google, ma lui non voleva trasferire l'azienda che aveva cresciuto. Come parte dell'accordo, DeepMind ha creato un accordo che impedirebbe a Google di assumere unilateralmente il controllo della proprietà intellettuale dell'azienda. Nell'anno precedente all'acquisizione, fonti affermano che entrambe le parti hanno firmato un accordo: l'Accordo sull'etica e la sicurezza. Questo accordo è stato redatto da avvocati senior a Londra.

L'accordo trasferisce il controllo dell'eventuale tecnologia di base di AGI DeepMind all'Ethics Governing Board. Secondo la stessa fonte, il Consiglio Etico non è affatto una concessione cosmetica di Google, ma piuttosto fornisce a DeepMind un solido supporto legale per mantenere il controllo della sua tecnologia più preziosa e potenzialmente più pericolosa. I nomi dei commissari non sono stati rilasciati, ma un'altra fonte vicina sia a DeepMind che a Google ha affermato che tutti e tre i fondatori di DeepMind sono nel consiglio. L'azienda stessa non rivela nulla.

L'hassabis può determinare il destino di DeepMind in altri modi. Uno di questi è la devozione. I dipendenti, ex e attuali, affermano che il programma di ricerca di Hassabis è uno dei maggiori punti di forza di DeepMind. Il suo programma, che offre un lavoro entusiasmante e importante senza pressioni da parte del mondo accademico, ha attirato centinaia di esperti di maggior talento al mondo. DeepMind ha filiali a Parigi e Albert. Molti dipendenti si sentono più legati ad Hassabis e alla sua missione che alla sua società madre, che vuole solo reddito. Finché Hassabis mantiene la lealtà personale, ha un potere considerevole sul suo unico azionista. Meglio lasciare che il talento lavori per DeepMind da remoto che finire su Facebook o Apple.

DeepMind ha un'altra fonte di effetto leva, sebbene richieda un rifornimento costante: l'alone di buon auspicio. L'azienda ci è riuscita. AlphaGo è stata una grande pubblicità. Dall'acquisizione di Google, l'azienda ha ripetutamente prodotto miracoli che hanno attirato l'attenzione di tutto il mondo. Un esempio di software è in grado di rilevare i modelli di scansione oculare che sono indicatori di degenerazione maculare. Un altro programma ha imparato a giocare a scacchi da zero, utilizzando un'architettura simile ad AlphaGo, ed è diventato il più grande giocatore di tutti i tempi dopo sole nove ore di gioco con se stesso. Nel dicembre 2018, AlphaFold si è dimostrato più preciso dei concorrenti nel prevedere la struttura tridimensionale delle proteine da un elenco di composti che potrebbero potenzialmente trattare malattie come il Parkinson e l'Alzheimer.

DeepMind è particolarmente orgoglioso degli algoritmi che ha sviluppato per calcolare le soluzioni di raffreddamento più efficienti per i data center di Google, che contengono circa 2,5 milioni di server di computer. Nel 2016, DeepMind ha dichiarato di aver tagliato la bolletta dell'elettricità di Google del 40%. Ma alcuni addetti ai lavori dicono che questo vanto è esagerato. Google ha utilizzato algoritmi per ottimizzare i suoi data center molto prima che arrivasse DeepMind. Si ritiene che DeepMind esageri i suoi meriti per guadagnare valore agli occhi di Alphabet. La società madre di Google Alphabet paga DeepMind per servizi simili. Nel 2017, quest'ultima ha emesso una fattura ad Alphabet per 54 milioni di sterline. Questi numeri impallidiscono rispetto al sovraccarico di DeepMind. Nello stesso anno ha speso 200 milioni di sterline per il personale. Generalmente,nel 2017 DeepMind ha perso 282 milioni di sterline.

È un centesimo per un gigante ricco. Ma altre filiali di Alphabet hanno attirato l'attenzione di Ruth Porat, l'avara CFO di Alphabet. Google Fiber, un tentativo di creare un provider di servizi Internet, è stato sospeso dopo che è diventato chiaro che l'investimento avrebbe richiesto decenni per essere ripagato. I ricercatori di intelligenza artificiale si chiedono anche se DeepMind sarà rovinato.

La divulgazione progressiva dei progressi di DeepMind nell'intelligenza artificiale fa parte di una strategia che costruisce gradualmente la reputazione dell'azienda. Ciò è particolarmente prezioso in un momento in cui Google è accusato di violare la privacy degli utenti e diffondere notizie false. DeepMind ha anche la fortuna di avere un sostenitore di altissimo livello: Larry Page, uno dei due fondatori di Google, ora CEO di Alphabet. Paige è molto vicina ad Hassabis. Il padre di Page, Karl, ha studiato le reti neurali negli anni '60. All'inizio della sua carriera, Page ha affermato di aver creato Google esclusivamente per fondare un'azienda di intelligenza artificiale.

Lo stretto controllo della stampa da parte di DeepMind non è in linea con lo spirito accademico che pervade l'azienda. Alcuni studiosi lamentano che è difficile per loro pubblicare il proprio lavoro: devono superare strati di approvazione interna prima di poter anche presentare un articolo a una conferenza o una rivista. DeepMind ritiene che sia necessario procedere con cautela per non spaventare il pubblico con la prospettiva dell'AGI. Ma accuse eccessivamente dure possono rovinare l'atmosfera accademica e indebolire la lealtà dei dipendenti.

Cinque anni dopo l'acquisizione di Google, la questione di chi controlla DeepMind diventa fondamentale. I fondatori ei primi dipendenti della società si stanno avvicinando alla soglia in cui possono andarsene con il compenso finanziario ricevuto dall'acquisto della società (le azioni Hassabis valgono probabilmente circa 100 milioni di sterline). Ma una fonte vicina all'azienda suggerisce che Alphabet ha respinto i pagamenti ai fondatori per diversi anni. Data la sua incessante concentrazione, è improbabile che Hassabis salti giù dalla nave. È interessato al denaro solo nella misura in cui lo aiuta ad avvicinarsi all'obiettivo di tutta la sua vita. Ma alcuni dei miei colleghi se ne sono andati. Tre ingegneri di intelligenza artificiale hanno lasciato l'azienda dall'inizio del 2019. Ben Laurie, uno degli ingegneri di sicurezza più illustri al mondo, è tornato in Google. Questo non è certo moltoMa DeepMind offre una missione così straordinaria e una paga decente che nessuno dovrebbe andarsene.

Finora, Google non ha davvero infastidito DeepMind. Ma uno sviluppo recente ha sollevato preoccupazioni su quanto a lungo l'azienda sarà in grado di mantenere la sua indipendenza.

DeepMind, Medicina e Intelligenza Artificiale

DeepMind ha sempre pianificato di utilizzare l'IA per migliorare l'assistenza sanitaria. Nel febbraio 2016 è stata creata una nuova divisione di DeepMind Health, guidata da Mustafa Suleiman, uno dei co-fondatori dell'azienda. Suleiman, la cui madre era un'infermiera, sperava di creare un programma chiamato Streams che avvisasse i medici quando la salute di un paziente stava peggiorando. DeepMind verrebbe ricompensato in base alle metriche. Poiché questo lavoro richiedeva l'accesso a informazioni riservate sui pazienti, Suleiman ha istituito un comitato di revisione indipendente (IRP) che ha reclutato professionisti della salute e della tecnologia in inglese di buona qualità. DeepMind era abbastanza saggio da stare attento. Successivamente, il British Information Commissioner ha scoperto che uno dei partner dell'ospedale aveva violato la legge nel trattamento dei dati dei pazienti. Tuttavia, alla fine del 2017, Suleiman aveva firmato accordi con quattro grandi ospedali.

L'8 novembre 2018 Google ha annunciato la creazione della propria divisione sanitaria: Google Health. Cinque giorni dopo, è stato annunciato che DeepMind Health avrebbe unito gli sforzi della società madre. DeepMind non è stato avvisato. Secondo le informazioni ottenute dalle richieste FOI, ha notificato il cambiamento agli ospedali partner solo tre giorni prima. DeepMind ha rifiutato di rivelare quando sono iniziate le discussioni sulla fusione, ma ha affermato che il breve tempo tra l'avviso e l'annuncio pubblico era nell'interesse della trasparenza. Nel 2016, Suleiman ha scritto che "i dati dei pazienti non saranno mai associati ad account, prodotti o servizi Google". La sua promessa sembrava essere stata infranta.

L'annessione di Google ha fatto arrabbiare i dipendenti di DeepMind Health. Secondo le persone vicine al team sanitario, un numero maggiore di dipendenti sta pianificando di lasciare l'azienda al termine del processo di acquisizione.

Questo episodio mostra che le parti periferiche del lavoro di DeepMind sono vulnerabili a Google. DeepMind ha affermato che "siamo tutti d'accordo sul fatto che ha senso unire questi sforzi in uno sforzo di collaborazione con maggiori risorse". Ciò solleva la questione se Google applicherà la stessa logica al lavoro di DeepMind su AGI.

Su larga scala, DeepMind ha fatto passi da gigante. Ha già creato un software in grado di imparare a svolgere compiti a livello sovrumano. Hassabis si riferisce spesso a Breakout, un videogioco per la console Atari. Il giocatore controlla una mazza, che può muoversi orizzontalmente e con il suo aiuto fa rimbalzare le palline, dirigendole in blocchi sopra, che vengono distrutti in caso di collisione. Il giocatore vince quando tutti i blocchi vengono distrutti. Perde se la palla cade oltre la piattaforma. Senza istruzioni umane, DeepMind non solo ha imparato a giocare, ma anche a lanciare palline nello spazio dietro i blocchi per sfruttare il rimbalzo. Ciò dimostra il potere dell'apprendimento per rinforzo e i poteri soprannaturali dei programmi per computer di DeepMind.

La dimostrazione è sicuramente impressionante. Ma Hassabis tace su qualcosa. Se la piattaforma virtuale viene sollevata anche leggermente più in alto, il programma commetterà un errore. L'abilità che DeepMind ha acquisito è così limitata che non può rispondere anche a piccoli cambiamenti nell'ambiente che un essere umano potrebbe facilmente superare. Ma ci sono molte sottigliezze nel mondo. Per l'intelligenza diagnostica, non esistono due organi del corpo uguali. Per l'intelligenza meccanica, due motori simili non saranno mai gli stessi nella messa a punto. Pertanto, rilasciare programmi in libertà è difficile.

Il secondo, di cui DeepMind parla raramente, è che il successo negli ambienti virtuali dipende dall'avere una funzione di ricompensa: un segnale che consente al software di misurarne i progressi. Il programma impara che rimbalzare sul muro di fondo aumenta il suo punteggio. Gran parte del lavoro di DeepMind con AlphaGo è stato quello di creare una funzione di ricompensa compatibile con un gioco così complesso. Sfortunatamente, il mondo reale non offre semplici ricompense. Il progresso è raramente misurato in singoli punti. Il cervello umano riceve un segnale sul successo del compito proprio nel processo di implementazione, e non dopo.

DeepMind ha trovato un modo per aggirare questo problema utilizzando enormi quantità di potenza di elaborazione. AlphaGo gioca da migliaia di anni nel tempo umano per imparare qualcosa. Molti filosofi dell'IA sospettano che questa soluzione sia inaccettabile per attività che offrono ricompense più deboli. DeepMind riconosce tali ambiguità. Recentemente ha iniziato a giocare a StarCraft 2, un gioco di strategia per computer. Le decisioni prese all'inizio del gioco hanno conseguenze che appaiono in seguito, il che è abbastanza caratteristico del feedback tortuoso e tardivo di problemi reali. A gennaio, il software di DeepMind ha battuto alcuni dei migliori giocatori al mondo ed è stato piuttosto impressionante nonostante le rigide restrizioni. I programmi hanno anche iniziato a esplorare le funzioni di ricompensa seguendo il feedback delle persone. Ma includere le istruzioni umane in un ciclo crea il rischio di perdere scala e velocità.

Sia i ricercatori attuali che quelli precedenti di DeepMind e Google, a condizione di anonimato, hanno espresso scetticismo sul fatto che DeepMind sarà in grado di raggiungere AGI utilizzando tali metodi. Per loro, il desiderio di ottenere prestazioni elevate in ambienti simulati rende difficile risolvere il problema della funzione di ricompensa. Eppure proprio questo approccio è al centro di DeepMind. Esiste una concorrenza interna all'interno di un'azienda in cui i programmi delle squadre concorrenti competono per la supremazia.

Hassabis ha sempre visto la vita come un gioco. Gran parte della sua carriera è stata dedicata alla loro realizzazione, la maggior parte del suo tempo libero è stato speso a suonarli. In DeepMind, li usa per sviluppare una potente intelligenza artificiale. Come il suo software, Hassabis impara dalla propria esperienza. La ricerca dell'AGI può alla fine portare a un vicolo cieco, inventando tecnologie mediche utili lungo la strada e sopraffando i migliori giocatori nelle loro abilità. Ma può anche creare AGI proprio sotto il naso di Google, ma fuori dal suo controllo. E se ci riuscirà, Demis Hassabis vincerà la partita più difficile di tutte.

Ilya Khel

Raccomandato: