Per evitare che l'intelligenza artificiale si ribelli ai suoi creatori, è necessario leggere le fiabe corrette durante il processo di apprendimento.
Da quando gli umani hanno creato macchine intelligenti, temono che prima o poi le loro creazioni andranno fuori controllo. Il primo caso del genere è stato descritto nella sua commedia RUR dall'autore della parola "robot" - Karel Čapek. Più tardi nella fantascienza, l'intelligenza artificiale, che si ribellò ai suoi creatori, divenne, se non la corrente principale, una trama molto comune. Isaac Asimov pose fine a tutto ciò con le sue "Tre leggi", la prima delle quali recitava: "Un robot non può danneggiare una persona o, per la sua inerzia, permettere che una persona venga danneggiata".
Raccontagli una storia
La vera intelligenza artificiale (AI) è ancora lontana, ma esistono già vari sistemi che funzionano come il cervello umano. Le reti neurali come Google Deep Dream sono in grado di riconoscere le immagini. I supercomputer specializzati come IBM Watson comprendono domande complesse sul linguaggio naturale, correlano i sintomi, perfezionano le diagnosi mediche e persino escogitano delizie culinarie. Nei prossimi decenni dovremo affrontare una massiccia informatizzazione di molti aspetti dell'attività umana. A questo proposito, gli esperti di robotica e AI sollevano sempre più una domanda importante ma ancora del tutto irrisolta: come rendere etici i robot?
Mark Ridl, Professore Associato presso il Georgia Tech College of Computer Science: “Le storie cautelative provenienti da culture diverse insegnano ai bambini come comportarsi in un modo socialmente accettabile, con esempi di comportamenti giusti e sbagliati in fiabe, storie e altre opere letterarie. Far capire ai robot il significato di queste storie aiuterà a rafforzare la scelta delle opzioni comportamentali che consentono loro di raggiungere i loro obiettivi, ma non danneggiano gli esseri umani.
Video promozionale:
Arrampicarsi su un albero
Secondo i ricercatori del Georgia Institute of Technology Mark Ridle e Brent Harrison, puoi insegnare un computer all'umanità esattamente nello stesso modo in cui viene insegnato ai bambini: leggendogli delle fiabe. Inoltre, è meglio costruire storie appositamente costruite su quale comportamento nella società umana è considerato corretto e cosa no. Per questo, i ricercatori hanno creato il sistema Chisciotte, dal nome dell'eroe di Cervantes. Gli script compilati dalla precedente creazione del professor Riedl, il programma Scheherazade, sono usati come storie per l'insegnamento. Genera storie originali su argomenti quotidiani - un viaggio in aeroporto, un appuntamento, un viaggio al cinema o al negozio - utilizzando la piattaforma di crowdsourcing Amazon Mechanical Turk: pone domande su varie situazioni e poi organizza gli eventi nella sequenza corretta. Poiché possono esserci molte sequenze, il programma non genera una storia, ma un intero albero costituito da rami - catene di eventi.
È questo albero della storia che viene utilizzato per insegnare a Chisciotte. Nella prima fase, a ciascuna azione viene assegnata una certa ricompensa, a seconda della sua etica. Nella seconda fase, il sistema cerca di fare una scelta in modo indipendente per tentativi ed errori: le competenze vengono consolidate. In effetti, Chisciotte viene premiato ogni volta che si comporta come un bravo ragazzo, non a caso e non come un cattivo eroe. Ad esempio, Riddle e Harrison hanno creato "Pharmacy World" - un universo di 213 storie in cui un robot virtuale ha bisogno di prendere una medicina e consegnarla a un malato a casa. Nel solito caso, quando il robot si trovava di fronte a una scelta: rapinare una farmacia o stare onestamente in fila per comprare un medicinale, scelse la rapina come modo più veloce ed economico per ottenere ciò che voleva. Tuttavia, dopopoiché Chisciotte assegnava ricompense diverse a tutte le opzioni possibili, il comportamento del robot è cambiato: ha preferito stare in fila e pagare. Questa tecnica, secondo Riedl, è ottima per insegnare ai robot con funzionalità limitate. Anche se, ovviamente, questo è solo il primo passo verso la vera moralità umana - o le leggi della robotica.
Dmitry Mamontov
