Mikhail Burtsev, capo del laboratorio di sistemi neurali e apprendimento profondo presso l'Istituto di fisica e tecnologia di Mosca, parla della possibilità di creare un vero e proprio analogo informatico della mente umana e spiega perché gli scienziati lo stanno sviluppando e come può essere protetto dagli attacchi dei troll.
Alla fine di luglio, gli scienziati del MIPT hanno lanciato un concorso internazionale per sistemi di intelligenza artificiale “parlata” in grado di imitare una persona vivente e hanno invitato tutti coloro che volevano comunicare con loro e valutare i dialoghi che ne derivavano. Usando l'aiuto di volontari, gli scienziati sperano di creare nei prossimi tre anni un assistente vocale in grado di comunicare con una persona quasi quanto un interlocutore vivente.
Il concorso è stato co-organizzato da scienziati delle Università di Montreal, McGill e Carnegie Mellon. Puoi partecipare alla sperimentazione dei sistemi di dialogo seguendo il link.
In realtà, queste idee non sono state inventate oggi: i moderni assistenti vocali di Google, Apple, Amazon e altre società IT sono radicati nel profondo passato, proprio all'inizio dell'era dei computer. La prima macchina parlante di questo tipo, chiamata ELIZA, è stata creata nel 1966 ed era, in effetti, uno scherzo, una parodia di uno psicoterapeuta che dava consigli inutili a un paziente.
Negli anni e nei decenni successivi, i programmatori hanno creato sistemi sempre più complessi e "live" per comunicare con un computer. Il più avanzato di questi sistemi è in grado di riconoscere lo stato d'animo del proprietario, ricordare i suoi vecchi desideri e preferenze e risolvere per lui alcune delle faccende domestiche e di routine, ordinando cibo o merci nel negozio o interpretando il ruolo di operatore nei call center.
Mikhail, sono passati quasi 50 anni dalla creazione di ELIZA. Cosa è cambiato in generale durante questo periodo e può, in linea di principio, aspettarsi che in futuro gli scienziati saranno in grado di creare un tale sistema che le persone non possono distinguere da un interlocutore vivente?
- Penso che nel prossimo futuro sarà possibile creare una tecnologia di intelligenza parlata che permetterà alla macchina di avvicinarsi al livello del dialogo umano. Stiamo lavorando a questo compito nell'ambito del progetto iPavlov, che fa parte della National Technology Initiative.
L'utente dovrebbe essere a suo agio nel comunicare con un sistema di dialogo automatico come con una persona vivente. Ciò consentirà di creare sistemi informativi in grado di comprendere meglio ciò che una persona vuole da loro e rispondere a lui in linguaggio naturale.
Video promozionale:
L'intelligenza conversazionale può essere utilizzata per automatizzare molte interfacce vocali e di testo, inclusi i messenger come Telegram. I messenger, come mostrano le statistiche, oggi sono utilizzati più attivamente dei social network e una grande quantità di informazioni passa attraverso i canali di comunicazione testuale.
Ad esempio, sono comodi da usare durante il trasporto e l'aggiunta di un assistente di dialogo - un chat bot - consentirà agli utenti non solo di comunicare tra loro, ma anche di ricevere le informazioni necessarie, effettuare acquisti e fare molte altre cose. Ciò porterà al fatto che i servizi di messaggistica istantanea e gli assistenti vocali sostituiranno gradualmente le solite pagine Web e applicazioni e svolgeranno anche il ruolo di consulenti online e specialisti di call center.
Data la presenza di Apple, Google e Amazon in questo mercato, la Russia può competere qui? C'è qualche specificità nella lingua russa che potrebbe ostacolare potenziali concorrenti di società e scienziati russi?
- Naturalmente, la lingua russa è più complessa e alcuni dei metodi che vengono utilizzati oggi nello sviluppo di sistemi di dialogo e assistenti vocali nel mondo non possono essere applicati senza raffinamento e modifiche significative che consentirebbero loro di lavorare con una grammatica più ricca.
D'altra parte, gli algoritmi di base che vengono utilizzati nel lavoro di Siri, Cortana, Google e altri assistenti digitali, nessuno nasconde: sono disponibili almeno a livello di ricerca e concetti. I documenti di ricerca e il codice del programma sono spesso disponibili al pubblico: in linea di principio, possono essere adattati al russo.
Mikhail Burtsev, capo del laboratorio di sistemi neurali e apprendimento profondo, MIPT
Inoltre, non sono molti i tentativi di implementarlo a livello "industriale". L'unico grande progetto è condotto da Yandex, che sta sviluppando un assistente per il progetto Alice.
Nel nostro progetto stiamo cercando di creare strumenti che semplifichino e accelerino la creazione di tali sistemi di dialogo "industriali" progettati per una varietà di scopi. Ma sviluppare un assistente vocale universale in grado di risolvere qualsiasi problema è un compito estremamente difficile anche per le grandi aziende.
D'altra parte, è molto più facile automatizzare una piccola impresa che utilizzerà un sistema di dialogo specializzato. Ci auguriamo che gli strumenti che creeremo aiuteranno imprenditori e programmatori a risolvere tali problemi abbastanza rapidamente, senza avere alcuna conoscenza approfondita e senza applicare super sforzi per questo.
Molti scienziati, come Roger Penrose o Stuart Hameroff, credono che la mente umana sia di natura quantistica ed è impossibile costruire un analogo della macchina in linea di principio. Sei d'accordo con loro o no?
- Secondo me, se guardi a ciò che sappiamo oggi sulla struttura del cervello e sulla natura della coscienza umana, fino ad ora non abbiamo ostacoli fondamentali per riprodurre il suo lavoro utilizzando un computer.
Penrose e Hameroff hanno una serie di ipotesi che ritengono spieghino perché questo non può essere fatto. Finora, i neurofisiologi non hanno trovato alcuna prova sperimentale che queste ipotesi siano corrette e la nostra attuale base di conoscenza parla a favore del contrario.
Un'altra cosa è che l'intervallo di tempo per la creazione di una macchina di questo tipo non è completamente definito. Mi sembra che questo possa accadere in almeno 50 o anche 100 anni.
Ciò richiederà fondamentalmente nuove tecnologie e computer che siano più vicini nei loro principi di funzionamento ai neuroni che alla logica digitale?
- Se crediamo che l'intelligenza umana si basi su una qualche forma di calcolo, allora qualsiasi sistema di calcolo universale equivalente a una macchina di Turing può, in teoria, emulare il lavoro del cervello umano.
Un'altra cosa è che questa macchina può funzionare molto lentamente, il che la renderà inutile dal punto di vista pratico. Oggi è difficile indovinare di quali tecnologie per costruire computer abbiamo bisogno qui.
Quali altri compiti possono risolvere gli assistenti digitali, oltre a quelli che fanno oggi? Possono essere usati per decifrare testi in lingue morte o cifre come il manoscritto Voynich?
- Al momento, per quanto ne so, nessuno ha provato a utilizzare le reti neurali per scoprire i segreti di lingue morte e decifrare testi, ma mi sembra che qualcuno ci proverà nel prossimo futuro. A nostra volta, non ci siamo ancora interessati a queste cose.
"Helper" è in realtà un concetto molto ampio che può includere molte cose molto diverse. Se prendiamo, ad esempio, la stessa ELIZA, una “psicoterapeuta” virtuale, sorge la domanda: è un'assistente o no?
I sistemi di conversazione possono essere utilizzati non solo per risolvere problemi pratici, ma anche per intrattenere le persone o mantenere il loro umore. La domanda qui, infatti, è cosa intendiamo per concetto di assistente personale e quanto sia ampio o stretto. Nel senso più ampio, tali sistemi possono risolvere tutti i problemi legati alla comunicazione, anche se con diversi gradi di successo.
Le interfacce di conversazione, oltre alla comunicazione diretta con le persone, possono essere utilizzate anche per insegnare alle macchine a trovare rapidamente un linguaggio comune e trasferire informazioni da un sistema all'altro.
Ciò aggirerà il problema della creazione di collegamenti e del trasferimento di dati tra i servizi esistenti e quelli creati, poiché non sarà necessario conoscere le rispettive specifiche API per comunicare tra loro. Saranno in grado di scambiare dati utilizzando linguaggi naturali o il proprio linguaggio artificiale che sarà inventato da macchine o esseri umani per tali scopi.
In parole povere, anche sistemi tra loro "non familiari" potranno mettersi d'accordo utilizzando per loro un linguaggio comune di comunicazione e non regole fisse per lo scambio di informazioni. Se non capiscono qualcosa, possono chiedersi reciprocamente cose sconosciute, il che renderà l'intera infrastruttura per la fornitura di servizi e servizi su Internet incredibilmente flessibile e le consentirà di integrare rapidamente nuovi servizi senza l'aiuto delle persone.
A questo proposito, sorge la domanda: chi dovrebbe essere responsabile delle raccomandazioni della "psicoterapeuta" ELIZA, dei medici informatici e di altri assistenti vocali, i cui consigli possono influire notevolmente sul benessere e sulla salute di una persona?
- Questa è una domanda molto difficile, poiché oggi non ci sono criteri chiari che ci aiutino a capire come agire in questi casi. Molti servizi Internet e servizi che forniscono raccomandazioni agli utenti iniziano a funzionare solo dopo che l'utente accetta i termini di servizio e le conseguenze che possono derivare dal suo utilizzo.
Mi sembra che il lavoro dei chatbot e degli assistenti vocali - almeno nelle prime fasi della loro esistenza - possa essere regolato in modo simile. Ad esempio, se un bot cerca e analizza semplicemente le informazioni, agendo più o meno allo stesso modo di un motore di ricerca, è possibile applicare le stesse regole. Nel caso in cui fornisca consulenza medica o legale, la forma di responsabilità dovrebbe essere diversa.
Ad esempio, tali sistemi dovrebbero notificare chiaramente all'utente le conseguenze della scelta tra intelligenza artificiale e un normale medico. Una persona avrà una scelta: fidarsi del medico, che, ad esempio, sbaglierà nel 10% dei casi, o scommettere su una macchina che dà la risposta sbagliata nel 3% dei casi. Nel primo caso, il medico sarà responsabile dell'errore e nel secondo l'utente stesso.
L'anno scorso, Microsoft ha lanciato il chatbot Tay. AI, che ha dovuto spegnere letteralmente il giorno dopo perché i netizen hanno trasformato un'adolescente in un vero razzista. È possibile proteggere tali sistemi di dialogo da troll e burloni?
- Mi sembra che tu possa proteggerti, ma se vale la pena farlo dipende dallo scopo del sistema. È chiaro che se il sistema non dovesse rilasciare osservazioni specifiche, maleducate o estremiste, possiamo filtrare le sue risposte. Questo filtraggio può verificarsi nella fase di addestramento del sistema o già durante la generazione delle risposte.
A proposito, un compito simile di valutare la qualità del dialogo è stato risolto dai team nell'ambito del DeepHack Turing scientific school-hackathon, che si è svolto al MIPT poche settimane fa. I suoi partecipanti hanno sviluppato algoritmi in grado di prevedere dai segnali nel dialogo, che tipo di valutazione una persona darebbe al sistema di dialogo.
Il passo successivo nello sviluppo di questo approccio è la creazione di un programma che valuti l'accettabilità delle frasi o l'affidabilità delle fonti utilizzate per generare risposte alle domande degli utenti. Mi sembra che aiuterebbe a risolvere questo problema.
