"The Rise of the Machines", "The Terminator Returns" … Gran parte della fantascienza è costruita sul fatto che i computer stanno diventando così intelligenti da capire che staranno meglio senza una persona. Fiabe? Come guardare. Entro il 2050, un tipico computer di casa sarà in grado di elaborare tante informazioni quante tutte le persone sulla terra messe insieme.
Ma il 2050 è a condizione che le macchine si sviluppino gradualmente. Non funziona in questo modo. Il nostro rapporto con il mondo elettronico sta avanzando a passi da gigante. Una volta: un topo era attaccato all'auto. Una volta, è apparso Internet. Una volta c'erano smartphone con tablet.
Il prossimo passo avanti arriverà quando il computer sarà in grado di capire le persone. Gli smartphone hanno già app come Siri e Cortana che possono avere una semplice conversazione con noi. Ma il problema è che il computer capisca, non quello che diciamo, ma quello che intendiamo! L'esempio più semplice: la frase "Mi ha lasciato", detta da una donna macchiata di lacrime e dal capo di un uomo, ha significati completamente diversi.
Quindi: non appena le macchine impareranno a riconoscere le sfumature del linguaggio umano, da un lato, le nostre mani saranno sciolte in senso letterale e figurato. Ho parlato al computer e ha fatto tutto. D'altra parte, non ci stiamo avvicinando a una linea pericolosa, rimuovendo l'ultima barriera nella comunicazione tra le persone e il ferro senz'anima?
Da tempo desideravo parlarne con un famoso scienziato, direttore della ricerca linguistica presso ABBYY, capo dei dipartimenti di linguistica computazionale presso l'Università statale russa per le scienze umane e l'Istituto di fisica e tecnologia di Mosca, Vladimir Selegey. Ma quando gli ho raccontato le mie paure apocalittiche, si è accigliato.
“Sì, la fantascienza è piena di previsioni oscure su come le macchine addestrate dall'uomo ne faranno a meno. Ma non mi è chiaro perché un aumento della quantità di conoscenza incorporata nei programmi indurrà un computer a prendere decisioni senza chiedere il permesso a una persona?
In effetti, il problema non è che il computer imparerà a fare a meno delle persone, ma che le persone vorranno fare a meno di se stesse quando risolveranno determinati problemi. Ecco Chernobyl …
Video promozionale:
E cosa c'entra Chernobyl?
- Un reattore nucleare è un modello fisico molto complesso. Sembra che tutti i parametri di controllo del reattore siano noti, tutto obbedisce a rigide leggi fisiche e il processo decisionale può essere completamente affidato al computer. Ma…
Nel 1986, una settimana dopo l'incidente, ho partecipato a un seminario sull'uso dell'intelligenza artificiale nell'industria. Già allora era chiaro che affidando il processo decisionale a un computer si correva un serio rischio. È comune che i programmi contengano errori. Anche i satelliti hanno problemi di software.
Cioè, una persona è più affidabile di un computer, anche se "pensa" molto più velocemente?
- Una persona ha una motivazione oltre a tutto il resto. Risolve i suoi problemi: istruzione, procreazione, carriera, sa come sentirsi …
Ma qualche astuto programmatore può scrivere un programma che insegni a una macchina aggressiva …
- Puoi provare a realizzare, ad esempio, un robot militare che prenderà decisioni da solo, analizzando ciò che vede e sente. E sarà molto pericoloso. Ma non perché il robot avrà improvvisamente il desiderio di distruggere, come scritto da scrittori di fantascienza. Tuttavia, a causa di un errore del programmatore, la trascuratezza di alcuni fattori può portare a comportamenti imprevedibili del robot.
Ma finora siamo molto lontani dalla capacità di creare programmi di autoapprendimento in grado di generare conoscenze completamente nuove. In parole povere, spostati indipendentemente dalla tavola pitagorica alla capacità di risolvere equazioni complesse.
Nella seconda metà del ventesimo secolo, le previsioni futuristiche nel campo della scienza erano molto popolari. Tutto ciò che riguarda l'intelligenza del computer è finito nel latte. Nessuno ha previsto Internet, l'incredibile libertà di accesso alle informazioni, i telefoni cellulari. Ma tutti parlavano di computer pensanti.
Ad esempio, alla fine degli anni '60, il nostro primo sistema di scacchi KAISA si è esibito con successo al Campionato mondiale tra computer. Si credeva che per far battere una persona una macchina fosse necessario simulare gli algoritmi di un gioco umano. Per porre la mente, l'intelletto, l'intuizione molto misteriosa che fa prendere le giuste decisioni al giocatore di scacchi.
Oggi il computer batte una persona. Ma non gli è mai stato insegnato l'intuizione. Un miliardo di partite giocate, tutta l'esperienza del gioco, tutte le decisioni che sono state prese dai giocatori di scacchi sono state caricate nella sua memoria. E hanno insegnato loro a usarlo nella scelta del piano di gioco ottimale, fornendo loro un'enorme velocità di enumerazione e valutazione delle opzioni. Il computer batte i campioni del mondo, ma non ne trae alcun piacere. Tutto è completamente diverso dalle persone.
Ma tu sei uno di quelli che si limita a insegnare al computer a "girare la testa"
- Stiamo solo cercando di insegnare ai programmi a "comprendere" i testi in modo che possano estrarre informazioni da essi, accumularle e generalizzarle. In modo che le persone ricevano conoscenze filtrate, selezionate da miliardi di fonti. Questo è molto difficile, perché una persona stessa non sa molto bene come sono organizzate le sue capacità linguistiche, su cui si basa la sua comprensione delle altre persone.
La traduzione automatica statistica è ora popolare. Il computer non capisce affatto di cosa tratta il testo tradotto, sa solo come trovare le varianti più probabili della traduzione di piccoli frammenti (in poche parole), analizzando gli enormi volumi di traduzioni umane immagazzinate nella sua memoria. In generale, il testo è chiaro. Ma sarebbe frivolo prendere una decisione responsabile sulla base di una simile traduzione.
Va bene, il computer può tradurre le istruzioni per me?
- Istruzioni? È pericoloso.
- Sì a un semplice frigorifero!
- Anche al frigorifero! Vorrei che i nostri programmi traducessero, cercando di capire il testo, scegliendo tra le opzioni in base alla conoscenza, e non solo perché questa corrispondenza si trova più spesso nel nostro database.
Va bene, diciamo che hai risolto il problema e hai creato un sistema grazie al quale i computer impareranno a comprendere le sfumature del nostro discorso e persino a tradurlo accuratamente in un'altra lingua. E poi un nuovo pericolo minaccia le persone: non ci sarà bisogno di pensare. Non ci sarà bisogno di allenare la memoria, il cervello. Hai bisogno di informazioni - per favore, Wikipedia. Devi parlare con uno straniero - traduttore …
- Maggiore è il livello di intelligenza e conoscenza di una persona, più utile per lui è il prossimo "assistente intelligente". E più in basso, più opportunità sembrano non pensare affatto. Le tecnologie informatiche portano alla polarizzazione della società. In parole povere, l'avvento del calcolatore non ha portato alla degenerazione dei matematici. Ma in alcuni scolari, ovviamente, c'è stata una diminuzione del già basso livello di abilità.
- Sai, per me, un indicatore serio di un calo del livello di istruzione è il numero di persone che scrivono in modo analfabeta o non sono in grado di esprimere i propri pensieri e sentimenti senza usare mate
- Sì, le persone hanno iniziato a scrivere con meno competenza. Semplicemente perché, in generale, c'è meno lettura di testi modificati e molte più risorse di questo tipo in cui l'ortografia è molto sfocata. Questo ha reso le persone più stupide? Probabilmente no.
Vedi una connessione tra il fatto che una persona esprima in modo analfabeta i suoi pensieri nella sua lingua madre e il fatto che sia diventato più stupido?
“Non andrei così lontano. Sebbene sia ovvio: poiché i bambini hanno iniziato a leggere di meno, sono sorti alcuni problemi con il trasferimento di conoscenza e cultura tra le generazioni. Questo è un problema. Oggi vediamo che uno scolaro moderno con lo stesso livello di voti di 30 anni fa conosce la letteratura peggio.
Qui! …
“… Ma d'altra parte, conosce molte altre cose molto meglio, che nessuno pensava di poter sapere.
È un processo naturale?
- Sì. Inoltre, per la prima volta nella storia dell'umanità, la conoscenza non può essere trasferita dagli anziani ai più giovani, come è accaduto per secoli. C'è stato un trasferimento di conoscenza dai giovani agli anziani, che in precedenza non era affatto caratteristico della cultura umana. Un bambino insegna a papà o mamma a lavorare su un computer, con un telefono cellulare, è una fonte di varie conoscenze per i suoi genitori. E ancora più bambini viaggiano in tutto il mondo. Molto spesso sono fonte di conoscenza geografica e culturale.
Ascolta, ma qui è iniziato tutto con i computer. Hanno liberato le persone anche dalla necessità di memorizzare le regole elementari della grammatica
- Solo all'inizio degli anni '90, ho lavorato in un team che ha sviluppato uno dei primi sistemi di controllo ortografico per la lingua russa. È stato utile o dannoso farlo? Molto utile dal mio punto di vista. Questo sistema ha consentito una creazione più rapida dei documenti. E poi tutto dipende dal livello di responsabilità della persona. Chi ha detto che dopo l'auto non c'è bisogno di fare un controllo? Il sistema aiuta solo a renderlo molto più efficiente.
Ma ci fidiamo del computer
- Significa solo che la persona che ha realizzato il programma non ti ha informato che ci sono molti fenomeni che la macchina non può verificare. Negoziazione, per esempio.
Le nuove tecnologie, purtroppo, spesso portano alla perdita delle competenze tradizionali. Ho fatto delle riparazioni nell'appartamento. Volevo installare finestre in legno, che sono state installate prima. Ma questo si è rivelato impossibile. Tutti stanno installando finestre con doppi vetri. La gente, ahimè, smette di fare tante cose con le mani. Cosa fare, è così che funziona la vita. Sfortunatamente.
Quindi sei un conformista?
- No. Credo che fare cose assolutamente dannose non sia una buona cosa. Ma quando hai sia guadagni che perdite, devi valutare i rischi … Se fai droghe, non pensi che non solo le persone buone, ma anche le persone cattive sopravviveranno grazie al suo uso.
Nel nostro caso, contemporaneamente allo sviluppo delle tecnologie, è necessario impegnarsi nella formazione di chi le utilizza. Le conseguenze negative delle nuove tecnologie si riflettono principalmente su coloro che non svolgono molto bene il proprio lavoro a qualsiasi livello tecnologico.
Prendi la medicina, per esempio. Vogliamo aiutare il medico a prendere una decisione, realizziamo un sistema informatico esperto basato sull'analisi di un gran numero di diagnosi affidabili fatte dai migliori medici. Offre a un professionista l'opportunità di rivolgersi a un volume di conoscenze più ampio di quello che ha lui stesso. Ma la decisione finale è sua, non del computer! Per un cattivo medico, tutto è diverso: si fiderà di ciò che non può controllare in modo affidabile. Ma in media, con l'avvento di tali tecnologie, mi sembra che la medicina stia ancora migliorando, non peggiorando.
Ebbene, eravamo convinti che ci sarebbe stato più beneficio che danno dal sistema intellettuale di comprensione di una persona da parte di un computer. Ma quando apparirà?
- Questo è un compito molto difficile che non può essere risolto immediatamente. È necessario insegnare la conoscenza del computer sulla lingua e la conoscenza del mondo, metodi di inferenza e confronto di valori. Qualcosa che sappiamo come fare ora, qualcosa richiederà anni. Ad esempio, abbiamo bisogno di dati affidabili sull'uso della lingua, tenendo conto delle differenze individuali e sociali. E queste differenze sono molto significative. Ad esempio, abbiamo realizzato un progetto speciale dedicato alle differenze regionali nella lingua russa. Raccolto un dizionario, in cui quasi 10mila parole, che sono la norma per i residenti solo di alcune regioni del nostro paese
Chi siamo noi?
“Si tratta di un progetto congiunto denominato Lingue delle città russe, che coinvolge specialisti ABBYY, scienziati linguistici, appassionati di diverse parti della Russia e dei paesi di lingua russa. Abbiamo analizzato la lingua dei media regionali, dei social network, dei decreti e delle decisioni delle autorità locali. E questa è solo una piccola parte della conoscenza che deve essere insegnata a un computer!
Qual è la differenza fondamentale tra il tuo approccio alla traduzione e i sistemi che Google utilizza, ad esempio?
- I sistemi statistici non costruiscono strutture linguistiche. Cercano corrispondenze di traduzione per piccoli frammenti di 5-7 parole. Ma la lingua è così organizzata che molto spesso le parole correlate si trovano molto più lontano e, se questa connessione non viene presa in considerazione, sorgono errori. Ma molto spesso tali dettagli sono importanti nella traduzione, la cui negligenza può cambiare completamente il significato. Per tenere tutto in considerazione, è necessario identificare durante l'analisi l'intero sistema di connessioni linguistiche tra le parole, quella che viene chiamata la struttura di una frase. Non traduciamo parti di frasi dalla lingua alla lingua, stiamo cercando di identificare la struttura semantica della frase e quindi sintetizziamo questa struttura per mezzo di un'altra lingua.
Ma queste strutture semantiche vengono utilizzate non solo e non tanto ai fini della traduzione automatica. Sono inoltre necessari per risolvere efficacemente i problemi della ricerca intelligente e dell'analisi delle informazioni, che sono oggi più importanti per ABBYY come azienda commerciale. Ad esempio, le prime soluzioni recentemente rilasciate per il mercato aziendale si basano su queste tecnologie: consentono solo di cercare e analizzare i dati nell'enorme flusso di informazioni che viene memorizzato nelle organizzazioni.
E quale lingua, dal tuo punto di vista, è più difficile da capire?
- È generalmente accettato che più difficili sono le lingue in cui è necessario imparare più regole. Ma nel caso della comprensione del computer, questo non è il caso.
Qualcosa di difficile per una persona, ad esempio un ricco sistema di flessione in russo o lituano, semplifica il compito di un computer in determinate fasi dell'analisi.
Ad esempio, la lingua cinese è molto difficile perché non contiene morfologia, e quindi la grande quantità di ambiguità che il computer deve affrontare. Pertanto, per l'analisi al computer della lingua cinese, è molto importante utilizzare la conoscenza del mondo, più importante rispetto, ad esempio, all'analisi di lingue con una morfologia sviluppata.
Siamo riusciti a lavorare con russo, tedesco, inglese, francese, spagnolo, cinese. L'analisi del linguaggio è suddivisa in fasi. Alcune fasi hanno specificità, difficoltà per una lingua, altre per un'altra. Ma in sostanza, le tecnologie con cui lavoriamo sono applicabili a tutte le lingue.
Secondo lei, quando verrà il giorno in cui potremo ricevere una traduzione rapida e comprensibile sul computer parallelamente alla nostra conversazione. Diciamo che stiamo parlando ora e ottieni immediatamente una trascrizione della nostra conversazione in spagnolo?
- Sarà possibile molto presto. Non lo penso tra due anni. Ma … cosa serve per risolvere questo problema? Dobbiamo migliorare i nostri sistemi di analisi del parlato. Non possiamo ancora prendere una conversazione spontanea, separarla dal rumore e ottenere il testo desiderato. E ogni anno si fanno progressi in questa direzione.
Ma ci saranno comunque cose del genere che la macchina non può interpretare in modo inequivocabile. E qui l'accuratezza della comprensione e della traduzione dipenderà dalla disponibilità del sistema di conoscenza del mondo, dai meccanismi di inferenza logica.
Ma in ogni caso, il pericolo di una completa fiducia in un tale programma rimarrà. È un errore pensare che, diciamo, tra cinque anni, puoi dettare una lettera a un computer, la tradurrà, la invierà al tuo partner in affari e andrà tutto bene. Nessuno garantisce che la macchina non perderà il "non" da qualche parte o commetterà altri errori, dopo di che il tuo rapporto d'affari può essere considerato completo.
Cioè, una persona come controller dovrebbe essere ancora?
- Certamente. Affidarsi ciecamente alla tecnologia è pericoloso.
