Capitolo tratto da un libro edito dal Museo Politecnico
Uomo e robot: dov'è il confine tra loro e quali pericoli comporta la nostra vicinanza? Sulla base dell'esperienza personale, di numerose interviste e dei dati delle ultime ricerche, lo scienziato più rispettato nel campo, David Mindell, offre uno sguardo dietro le quinte delle applicazioni più innovative della robotica. Indicaror. Ru pubblica un capitolo dal suo libro “Rise of the Machines Is Canceled! Miti sulla robotizzazione”.
Operato dall'uomo - remoto - autonomo
Nel profondo della notte, in alto sopra l'Oceano Atlantico nel vasto spazio aperto tra Brasile e Africa, un aereo di linea passeggeri di linea è stato catturato in caso di maltempo. Il ghiaccio ghiacciato ha intasato i piccoli tubi nel muso dell'aereo, che ha determinato la sua velocità e trasmesso i dati ai computer che controllano l'aereo. I computer potevano continuare a volare senza queste informazioni, ma il programma incorporato in essi non prevedeva tale allineamento. Il sistema automatico di fly-by-wire si arrese e si spense, trasferendo il controllo alle persone: i piloti seduti nella cabina di pilotaggio della nave: il 32enne Pierre-Cedric Bonin e il 37enne David Robert. Bonin e Robert, entrambi rilassati e un po 'stanchi, furono colti di sorpresa quando scoprirono all'improvviso che avrebbero dovuto pilotare manualmente un enorme aereo di linea in alta quota in condizioni meteorologiche avverse, e anche di notte. E in condizioni più favorevoli, sarebbe un compito difficile che i piloti non hanno affrontato ultimamente. Il comandante dell'equipaggio, Marc Dubois, 58 anni, non stava pilotando l'aereo in quel momento, ma stava riposando in cabina. I piloti hanno dovuto spendere tempo prezioso per chiamarlo in cabina di pilotaggio. Nonostante il fatto che nel momento in cui i computer erano spenti, l'aereo fosse a livello in volo orizzontale rettilineo, i piloti hanno avuto difficoltà a comprendere i magri parametri dell'aria. Uno di loro ha tirato la maniglia di comando verso di sé, l'altro l'ha spinta in avanti. L'aereo di linea ha continuato il volo rettilineo per circa un minuto, quindi ha iniziato a cadere. I piloti hanno dovuto spendere tempo prezioso per chiamarlo in cabina di pilotaggio. Nonostante il fatto che nel momento in cui i computer erano spenti, l'aereo fosse a livello in volo orizzontale rettilineo, i piloti hanno avuto difficoltà a comprendere i magri parametri dell'aria. Uno di loro ha tirato la maniglia di comando verso di sé, l'altro l'ha spinta in avanti. L'aereo di linea ha continuato il volo rettilineo per circa un minuto, quindi ha iniziato a cadere. I piloti hanno dovuto spendere tempo prezioso per chiamarlo in cabina di pilotaggio. Nonostante il fatto che nel momento in cui i computer erano spenti, l'aereo fosse a livello in volo orizzontale rettilineo, i piloti hanno avuto difficoltà a comprendere i magri parametri dell'aria. Uno di loro ha tirato la maniglia di comando verso di sé, l'altro l'ha spinta in avanti. L'aereo di linea ha continuato il volo rettilineo per circa un minuto, quindi ha iniziato a cadere.e poi ha cominciato a cadere.e poi ha cominciato a cadere.
Il 1 ° giugno 2009, il volo Air France 447 è precipitato nell'oceano, uccidendo più di 200 passeggeri e membri dell'equipaggio. È scomparso tra le onde quasi senza lasciare traccia. In un sistema interconnesso mondiale di compagnie aeree internazionali, è inconcepibile che l'aereo semplicemente scompaia. È stato organizzato un lavoro di ricerca coordinato su larga scala. Solo pochi giorni dopo, sono state trovate tracce dell'aereo sul fondo dell'oceano. Tuttavia, per trovare la maggior parte dei rottami dell'aereo di linea e delle scatole nere, grazie alle quali sarebbe stato possibile stabilire la causa della tragedia, è stato necessario condurre ricerche su un vasto territorio del fondo oceanico, che si muoveva senza speranza. Più di due anni dopo, a una profondità di 3,2 km, quasi nel punto esatto in cui l'aereo di linea si è schiantato sulla superficie dell'oceano,un veicolo subacqueo autonomo chiamato Remus 6000 scivolava silenziosamente nell'oscurità sotto la pressione mostruosa della colonna d'acqua. Muovendosi un po 'più velocemente di un pedone, il robot a forma di siluro manteneva un'altezza costante di circa 60 m sopra il fondo. In questa posizione, il suo scanner acustico ha ricevuto le immagini più nitide. Il segnale acustico ha percorso circa 800 m in tutte le direzioni, il robot ha raccolto gigabyte di informazioni attraverso i segnali restituiti.il robot stava raccogliendo gigabyte di informazioni attraverso i segnali restituiti.il robot stava raccogliendo gigabyte di informazioni attraverso i segnali restituiti.
La superficie era montuosa, quindi il fondo dell'oceano si innalzava bruscamente. Nonostante la sua intelligenza artificiale, il robot occasionalmente colpisce la superficie, il più delle volte senza conseguenze. Tre di questi robot lavoravano armoniosamente in tandem: mentre due di loro cercavano sott'acqua, il terzo era a bordo della nave in superficie. Questo "pit stop" ha richiesto tre ore, durante le quali le persone che servono il robot hanno riscritto le informazioni, ricaricato le batterie e impostato nuovi piani di ricerca. Sulla nave, un team di dodici ingegneri del Woods Hole Oceanographic Research Institute, guidato da Mike Purcell, che ha aperto la strada alla progettazione e allo sviluppo dei veicoli di ricerca, ha lavorato su turni di dodici ore. Erano caricati come qualsiasi squadra di meccanici di Formula 1.
Quando il dispositivo è salito in superficie, gli ingegneri hanno impiegato circa 45 minuti per scaricare le informazioni raccolte nel computer, quindi un'altra mezz'ora per elaborarle in modo da poterle visualizzare rapidamente sul monitor. Investigatori francesi e tedeschi e rappresentanti di Air France si sono guardati alle spalle. Le loro azioni sembravano calcolate e prudenti, ma la tensione era nell'aria: la posta in gioco era troppo alta in termini di orgoglio nazionale dei francesi, e in termini di reputazione del produttore di Airbus e in termini di sicurezza di tutti i viaggi aerei.
Video promozionale:
Diverse spedizioni precedenti non hanno avuto successo. In Francia, Brasile e nel mondo, le famiglie delle vittime aspettavano notizie. La decifrazione delle informazioni da uno scanner acustico richiede un'analisi attenta che non può essere completamente affidata a un computer. Purcell e i suoi ingegneri hanno fatto affidamento su anni di esperienza accumulata. Sui loro monitor, hanno studiato il fondo roccioso chilometro dopo chilometro. Questo lavoro di routine è durato cinque giorni, fino a quando la sua monotonia è stata interrotta: sullo schermo è apparso un accumulo di detriti, quindi gli scienziati sono arrivati nell'area del disastro - hanno ricevuto un segnale forte da oggetti artificiali nel deserto oceanico. Almeno così presumevano, ma ancora non potevano dirlo con certezza. Gli ingegneri hanno riprogrammato i veicoli in modo che tornassero nell'area del disastro e si muovessero avanti e indietro attraverso di essa. Questa volta, i robot dovevano avvicinarsi abbastanza da consentire alle telecamere di scattare fotografie ad un'altezza di circa 9 m sopra il fondo alla luce delle luci laterali. Quando i veicoli hanno portato in superficie le immagini, ingegneri e investigatori hanno visto l'area del disastro e hanno ricevuto una risposta: hanno trovato il relitto di un aereo di linea che è diventato una tomba per centinaia di persone. Presto, un'altra squadra è tornata sulla scena della tragedia con un diverso tipo di robot: un veicolo sottomarino telecomandato. Presto, un'altra squadra è tornata sulla scena della tragedia con un diverso tipo di robot: un veicolo subacqueo telecomandato. Presto, un'altra squadra è tornata sulla scena della tragedia con un diverso tipo di robot: un veicolo sottomarino telecomandato.
Era un dispositivo resistente appositamente progettato per lavorare in profondità. Era collegato alla nave tramite un cavo. Utilizzando le mappe generate da una ricerca riuscita, il ROV ha individuato le scatole nere - il registratore vocale e il registratore di dati dell'aereo - e le ha sollevate in superficie. Le registrazioni degli ultimi minuti dei piloti condannati sono state recuperate dalle profondità dell'oceano e ora gli investigatori sono stati in grado di ricreare le circostanze fatali che hanno portato alla confusione a bordo dell'aereo di linea robotico. Quindi il veicolo sottomarino si è imbarcato in una triste missione: recuperare i resti dei morti.
Lo schianto del volo Air France 447 e un'operazione per ritrovare i suoi rottami collegano automazione moderna e robotica in due ambienti estremi: ai margini della stratosfera e nelle profondità del mare. L'aereo è caduto nell'oceano a causa di errori nell'interazione umana con i sistemi automatizzati. Quindi i suoi frammenti sono stati scoperti da persone che utilizzano robot autonomi e controllati a distanza.
Mentre le parole "automatizzato" e "autonomo" (nei loro significati più comuni) implicano che tali sistemi operano in modo indipendente, in entrambi i casi il fallimento o il successo non era dovuto alle macchine e alle persone che agivano separatamente, ma all'azione combinata delle macchine. e le persone. I piloti umani hanno combattuto per la vita di un velivolo automatizzato per una maggiore sicurezza e affidabilità; molte navi interconnesse, satelliti e boe galleggianti hanno aiutato a localizzare il luogo dell'incidente; gli ingegneri hanno elaborato le informazioni ricevute dai robot e hanno agito in base ad esse.
I veicoli automatizzati e autonomi restituivano costantemente ai loro creatori - gli umani - per informazioni, energia e direzione. La tragedia del volo Air France 447 ha chiarito che adattando e modificando costantemente il nostro ambiente, ci stiamo rinnovando. Come possono i piloti diventare così dipendenti dai computer da far cadere in mare un aereo perfettamente funzionante? Qual è il ruolo dell'uomo in settori come il trasporto e il trasporto, la ricerca e le attività militari, quando sempre più compiti di primaria importanza sembrano essere svolti dalle macchine? Il punto di vista estremo è che gli esseri umani siano vicini a "andare fuori uso", che i robot "abbiano letteralmente bisogno di un aggiornamento software" per diventare completamente autonomi, come ha scritto recentemente Scienti fi c American. Questo punto di vista ci diceche i robot stanno avanzando: li incontriamo sempre più in un ambiente familiare. Le preoccupazioni circa le capacità sconosciute e discutibili dell'intelligenza artificiale derivano dalla convinzione che siamo all'apice della "superintelligenza". Il nostro mondo è sull'orlo del cambiamento, infatti, sta già cambiando sotto l'influenza di robot e automazione.
All'improvviso compaiono nuovi progetti, che incarnano vecchi sogni di macchine intelligenti che ci aiutano a svolgere i nostri doveri professionali, facilitano il lavoro fisico e le attività di routine nella vita di tutti i giorni. I robot che esistono e lavorano a stretto contatto con gli esseri umani a livello fisico, cognitivo ed emotivo stanno diventando un argomento di ricerca sempre più vasto e promettente. L'autonomia - il sogno che i robot un giorno si comporteranno come entità completamente indipendenti - rimane una fonte di ispirazione, innovazione e paura. L'eccitazione è causata dalla gravità dell'esperimento; le forme precise di queste tecnologie sono tutt'altro che complete, e ancor meno certe sono le loro implicazioni sociali, psicologiche e cognitive.
Come ci cambieranno i nostri robot? A quale immagine e somiglianza li faremo? Cosa rimarrà dei nostri tradizionali campi di attività - scienziato, avvocato, medico, soldato, manager e persino autista e custode - quando questi compiti saranno svolti dalle macchine? Come vivremo e lavoreremo? Non c'è bisogno di speculare: per la maggior parte, questo futuro è già arrivato oggi, se non nella vita di tutti i giorni, quindi in condizioni estreme, dove da decenni utilizziamo robot e automazione. L'uomo non può esistere da solo negli strati superiori dell'atmosfera, nelle profondità dell'oceano, nello spazio. A causa della necessità di inviare le persone a queste condizioni pericolose, la robotica e l'automazione sono state create e implementate in queste aree prima che in altre aree di attività che ci sono più familiari.
In ambienti estremi, la relazione tra esseri umani e robot viene testata per forza. Gli sviluppi più innovativi compaiono in un tale ambiente. Qui gli ingegneri hanno la più ampia libertà di sperimentare. Nonostante l'isolamento fisico, è qui che hanno iniziato a manifestarsi gli effetti cognitivi e sociali di vari dispositivi. Con vite umane, attrezzature costose e missioni mission-critical in gioco, l'autonomia deve sempre essere limitata da considerazioni di sicurezza e affidabilità. In tali condizioni, la vanità e gli affari della vita quotidiana scompaiono temporaneamente in secondo piano e troviamo, isolati dall'oscurità circostante, allegorie frammentarie e spettrali della vita umana nel mondo della tecnologia. I processi sociali e tecnologici nell'abitacolo di un aereo di linea o all'interno di un veicolo d'altura non sono fondamentalmente diversi da processi simili in una fabbrica, in un ufficio o in un'auto. Ma in condizioni estreme, appaiono più esplicitamente e quindi sono più facili da capire.
Ogni volo di un aereo di linea è una storia, proprio come ogni spedizione oceanografica, volo spaziale o operazione militare. Attraverso queste storie di persone e macchine specifiche, possiamo mettere insieme i dati sulle dinamiche sottili. In condizioni estreme, abbiamo un'idea del nostro prossimo futuro, quando tali tecnologie possono essere introdotte in aree dell'attività umana come il trasporto su strada, l'assistenza sanitaria, l'istruzione, ecc. I dispositivi controllati da una persona a distanza o autonomamente aprono possibilità qualitativamente nuove di interazione tra persone e macchine, nuove forme di presenza e nuove esperienze, mentre allo stesso tempo attira la nostra attenzione sui pericoli, gli aspetti etici e le conseguenze indesiderabili del vivere intorno alle macchine intelligenti. Vediamo un futuro in cui la presenza umana e la conoscenza diventeranno più importanti,che mai, ma in un modo insolito e poco familiare. E queste macchine sono semplicemente meravigliose.
Non sono l'unica persona che ha ammirato aerei, astronavi e sottomarini per tutta la vita. Infatti, gli eroi delle storie che racconterò di seguito sono stati guidati non solo dalla ricerca di vantaggi pratici, ma anche dalla passione per le nuove tecnologie. Non è un caso che storie del genere siano state spesso descritte in opere di fantascienza su persone e macchine. Le storie di esseri umani e macchine che interagiscono al limite delle loro possibilità sono accattivanti, sorprendenti e risvegliano speranze su chi possiamo diventare. Questo entusiasmo a volte si riflette in una credenza ingenua nella prospettiva della tecnologia. Ma gradualmente, un tale interesse ci porta alle principali questioni filosofiche e umanistiche:chi siamo noi? Come siamo collegati al nostro lavoro e gli uni agli altri? In che modo le nostre creazioni ampliano la nostra esperienza? Come possiamo vivere in questo mondo che cambia? Queste domande sorgono da sole quando inizi a parlare con le persone che creano e controllano robot e macchine. Voglio condividere con voi le informazioni che ho ricevuto in prima persona, dalle interviste più dettagliate e dai risultati delle ultime ricerche del Massachusetts Institute of Technology e di altre organizzazioni, nell'ambito delle quali vengono effettuati test di robotica e automazione nelle condizioni estreme delle profondità oceaniche, durante i voli aerei (civili e militari) e nello spazio. Questo non è un futuro immaginario, ma quello che sta accadendo oggi: vedremo come le persone controllano i robot e ricevono informazioni attraverso dispositivi autonomi, analizzeremo come queste interazioni influenzano il loro lavoro,esperienza di vita, abilità e capacità.
La nostra storia inizia da dove ho iniziato io stesso: nelle profondità dell'oceano. Venticinque anni fa, quando ero un ingegnere che sviluppa computer e strumenti incorporati per robot di acque profonde, sono rimasto stupito di scoprire che questa tecnica sta cambiando l'oceanografia, i metodi scientifici e persino la natura stessa della professione di oceanografo in modi imprevedibili. Questa comprensione mi ha portato ad avere due carriere parallele. Come scienziato, ho studiato le interazioni tra esseri umani e macchine, dalle navi corazzate durante la guerra civile americana ai computer e ai software che aiutarono gli astronauti dell'Apollo ad atterrare sulla luna.
In qualità di ingegnere, ho integrato i dati ottenuti da questa ricerca in progetti moderni, sviluppando robot e dispositivi da utilizzare in stretta interazione con gli esseri umani. In alcune storie appaio come partecipante, in altre - come osservatore, e in altre - in entrambe le forme contemporaneamente. Nel corso degli anni accumulando esperienza, cercando e parlando con le persone, mi sono convinto che dobbiamo cambiare idea sui robot. Anche il linguaggio in cui ne parliamo è piuttosto preso dalla fantascienza del XX secolo e non ha nulla a che fare con le conquiste tecniche del nostro tempo. Ad esempio, gli aerei controllati a distanza sono chiamati droni, come se fossero automi senza cervello, quando in realtà sono strettamente controllati dagli umani.
I robot sono spesso presentati (e venduti) come intermediari completamente autonomi, ma anche la limitata autonomia odierna esiste spesso solo nell'immaginario umano. I robot che utilizziamo in modo così ampio e vario non sono affatto automi di minacce: sono incorporati nelle reti sociali e tecniche proprio come noi. Di seguito vedremo molti esempi di come lavoriamo insieme alle nostre macchine. Riguarda le combinazioni. È tempo di considerare quali funzioni svolgono effettivamente i robot moderni per comprendere meglio il nostro rapporto con queste creazioni spesso sorprendentemente abili delle mani umane. Ti offro una conclusione empirica supportata dalla ricerca: non importa cosa fanno i robot in laboratorio, in realtà, dove sono in gioco vite umane e risorse reali,ci sforziamo di limitare la loro autonomia al gran numero di approvazioni richieste e opportunità di intervento umano.
Non sto dicendo che le macchine siano intelligenti, e non sto dicendo che un giorno potrebbero non essere abbastanza intelligenti. Piuttosto, la mia tesi è che tali macchine non siano isolate dagli umani. Elenchiamo tre miti del 20 ° secolo legati alla robotica e all'automazione. Il primo mito è il progresso lineare: l'idea che la tecnologia passerà dal controllo umano diretto al controllo remoto e quindi ai robot completamente autonomi. Le parole del filosofo Peter Singer, che parla costantemente in difesa dei sistemi autonomi, catturano l'essenza di questo mito. Scrive che "la capacità delle persone di mantenere il controllo su ciò che sta accadendo viene annullata sia da chi è al timone che direttamente dalla tecnologia, e quindi le persone saranno presto escluse dal circuito di controllo". Ma non c'è motivo di supporrequell'evoluzione seguirà questo percorso, quella "tecnologia stessa", come scrive Singer, porterà a qualcosa di simile. In effetti, ci sono prove che gli esseri umani stanno gradualmente entrando in contatto più profondo con le loro macchine.
Troviamo costantemente che le persone, controllate a distanza da loro e dai veicoli autonomi, si sviluppano parallelamente, influenzandosi a vicenda. Ad esempio, i veicoli aerei senza equipaggio non sarebbero in grado di volare nello spazio aereo nazionale degli Stati Uniti senza opportune modifiche ai veicoli con equipaggio. O per fare un altro esempio: i nuovi progressi della robotica nel campo della manutenzione dei veicoli spaziali si riflettono nel lavoro degli astronauti con il telescopio spaziale Hubble. Le tecnologie più sviluppate (e complesse) non sono quelle che funzionano separatamente dalle persone, ma quelle che sono più profondamente radicate nel sistema sociale e rispondono più rapidamente a ciò che sta accadendo in esso. Il secondo è il mito della sostituzione, l'idea che le macchine inizieranno gradualmente a prendere in consegna tutti i compiti che gli umani svolgono. Questo mito è una versione del 20 ° secolo di quello che io chiamo il fenomeno del cavallo di ferro.
Inizialmente, la gente immaginava che le ferrovie avrebbero annullato la necessità di cavalli, ma i treni si sono dimostrati cavalli molto poco importanti. Le ferrovie hanno preso il loro posto quando le persone hanno imparato a fare cose completamente nuove con il loro aiuto. I ricercatori sui fattori umani e gli scienziati cognitivi sostengono che gli automi raramente "meccanizzano" solo i compiti umani. Piuttosto, tendono a rendere il compito più difficile, spesso aumentando il carico di lavoro (o ridistribuendolo). Gli aeromobili controllati a distanza non svolgono gli stessi compiti degli aeromobili con equipaggio; assumono nuove funzioni. I robot controllati a distanza su Marte non replicano il lavoro dei geologi sul campo;loro e le persone che lavorano con loro imparano a condurre ricerche sul campo in un nuovo ambiente utilizzando meccanismi remoti.
Infine, abbiamo un terzo mito: il mito della completa autonomia, l'idea utopica che i robot possano agire in modo completamente indipendente oggi o in futuro. Sì, gli automi, ovviamente, possono assumere alcuni dei compiti precedentemente svolti dagli esseri umani, e sono infatti in grado di agire in modo indipendente per un periodo di tempo limitato in risposta ai cambiamenti nell'ambiente. Ma le macchine che non dipendono dalla direzione umana sono macchine inutili. Solo la pietra può essere veramente autonoma (ma anche la pietra è stata creata e collocata al suo posto grazie al suo ambiente). L'automazione cambia il grado di coinvolgimento umano nel funzionamento di una macchina, ma non ne elimina completamente la necessità. In qualsiasi sistema, anche apparentemente autonomo, possiamo sempre trovare un'interfaccia grazie alla quale una persona può controllare il proprio lavoro,leggere le informazioni e grazie alle quali diventa utile. Per citare uno dei rapporti più recenti del Department of Defense Science Council degli Stati Uniti, "Non esistono sistemi completamente autonomi, così come non esistono soldati, marinai, aviatori o marines completamente autonomi".
Per pensare in termini del 21 ° secolo e per cambiare le nostre opinioni sulla robotica, l'automazione e soprattutto la nuova idea di autonomia, dobbiamo capire come le intenzioni, i piani e le ipotesi umane cambiano l'essenza della macchina che creano. Ogni operatore, controllando la sua macchina, interagisce con progettisti e programmatori, la cui presenza nella macchina è invariabile, anche sotto forma di elementi strutturali o linee di codice create molti anni fa. I computer di bordo del Volo 447 dell'Air France potevano continuare a pilotare l'aereo anche con dati limitati sulla velocità, ma gli esseri umani li avevano programmati in modo che non potessero. Anche se il software intraprende azioni che non possono essere previste, si comporta nel quadro degli schemi e dei vincoli stabiliti dai suoi creatori. Quello,come è stato sviluppato il sistema, da chi e per quali scopi, ne determina le capacità e le modalità di interazione con le persone che lo utilizzano. Il mio obiettivo è allontanarmi da questi miti e comprendere il concetto di autonomia nel contesto del 21 ° secolo.
Attraverso le storie che seguono, ho intenzione di rimodellare il discorso pubblico e creare una mappa concettuale per una nuova era. Per creare una mappa del genere, parlando di dispositivi e robot in questo libro, opererò con i concetti di controllo umano, remoto e autonomo. Il primo è un analogo della parola non sempre appropriata "con equipaggio", quindi in alcuni casi "controllato" significherà "controllato da una persona nel veicolo". Questi sono, ovviamente, tipi di apparecchi vecchi e familiari come navi, aeroplani, treni e automobili - le macchine attraverso le quali le persone viaggiano. Di solito, i sistemi controllati dall'uomo non sono affatto considerati robot, sebbene assomiglino sempre più a robot con umani all'interno. Remote, una forma abbreviata di veicolo azionato a distanza, indica semplicemente dove si trova l'operatore rispetto al veicolo. Anche quando il compito cognitivo di controllo del sistema remoto coincide quasi completamente con quello svolto direttamente dall'operatore fisicamente presente, la presenza o l'assenza dell'operatore ed i rischi associati assumono grande rilevanza culturale.
L'esempio più eclatante è la guerra a distanza a migliaia di chilometri da una zona di guerra. Questa è un'esperienza completamente diversa dai compiti del normale soldato. In quanto fenomeno cognitivo, la presenza umana si intreccia con l'aspetto sociale. Anche l'automazione è un'idea del ventesimo secolo e riflette ancora la visione meccanicistica secondo cui le macchine seguono procedure predeterminate passo dopo passo. Il termine "automatizzato" è comunemente usato per descrivere i computer a bordo degli aerei, sebbene incorporino algoritmi moderni e piuttosto complessi. L'autonomia è la parola più di moda in questi giorni e una delle massime priorità di ricerca del Dipartimento della Difesa statunitense in continua contrazione. Alcuni ricercatori distinguono chiaramente tra autonomia e automazione, ma, a mio parere,la differenza tra l'autonomia risiede solo in un grado più ampio di processo decisionale indipendente rispetto al semplice feedback; inoltre, il concetto di "autonomia" racchiude e unisce molte idee prese in prestito dalla teoria dell'intelligenza artificiale e da altre discipline. E, naturalmente, l'idea dell'autonomia degli individui e dei gruppi diventa causa di continue controversie in politica, filosofia, medicina e sociologia. Questo non dovrebbe sorprendere, poiché i tecnici spesso prendono in prestito termini dalle scienze sociali per descrivere le loro macchine.l'idea dell'autonomia degli individui e dei gruppi diventa causa di continue controversie in politica, filosofia, medicina e sociologia. Questo non dovrebbe sorprendere, poiché i tecnici spesso prendono in prestito termini dalle scienze sociali per descrivere le loro macchine.l'idea dell'autonomia degli individui e dei gruppi diventa causa di continue controversie in politica, filosofia, medicina e sociologia. Questo non dovrebbe sorprendere, poiché i tecnici spesso prendono in prestito termini dalle scienze sociali per descrivere le loro macchine.
Anche all'interno del settore del design, il termine "autonomia" può avere diversi significati. L'autonomia nella progettazione di veicoli spaziali consiste nell'elaborazione a bordo dei dati necessari per il funzionamento del veicolo spaziale (sia che si tratti di una stazione orbitante automatizzata o di un robot mobile), separato da compiti come la pianificazione della missione. Al Massachusetts Institute of Technology, dove insegno, il contenuto dei corsi di ingegneria dell'autonomia copre principalmente la "pianificazione del percorso" - come passare da un punto a un altro, trascorrendo una quantità adeguata di tempo e senza sbattere contro nulla. In altri sistemi, l'autonomia è analoga all'intelligenza, alla capacità di prendere decisioni che una persona prenderebbe in determinate situazioni o alla capacità di agire in determinate condizioniche non erano attesi o previsti dai creatori del dispositivo.
I sommergibili autonomi sono così chiamati perché operano da soli e si oppongono ai veicoli controllati a distanza che sono collegati alla nave da lunghi cavi. Nonostante ciò, gli ingegneri che creano tali sottomarini autonomi affermano che i loro dispositivi sono semi-autonomi, poiché solo in rari casi operano senza alcun contatto con l'operatore. Il termine "autonomo" implica una maggiore libertà di azione. Descrive il modo in cui viene utilizzato l'apparato, che è un fattore potenzialmente volatile. Uno studio recente suggerisce il termine "autonomia crescente": in questo modo gli autori sottolineano la natura relativa dell'autonomia e affermano che l'autonomia "completa", cioè le macchine che non hanno bisogno di ricevere informazioni da una persona, sarà sempre irraggiungibile.
In questo libro, una definizione operativa di autonomia sarà: mezzi sviluppati dall'uomo per trasformare le informazioni dall'ambiente in piani e azioni mirati. La formulazione è importante e dà alla controversia un sapore diverso. Ma non dovremmo soffermarci su di loro. Mi affiderò spesso alla lingua (che a volte può essere imprecisa) usata dalle persone con cui lavoro. Il punto di questo libro non è nelle definizioni, ma nelle descrizioni del lavoro reale: come le persone usano questi sistemi nel mondo reale, acquisendo nuove esperienze, ricercando o persino combattendo e uccidendo. Cosa sta succedendo veramente? Se presti attenzione all'esperienza di vita dei designer e di chi usa i robot, allora tutto può diventare chiaro. Per esempio,la parola "drone" nasconde la natura intrinsecamente umana dei robot e attribuisce i loro lati negativi a idee astratte come "tecnologia" o "autonomia". Quando esaminiamo il funzionamento interno degli operatori di Predator, apprendiamo che non fanno la guerra ai dispositivi automatici: gli umani continuano a inventare, programmare e controllare le macchine.
C'è un lungo dibattito sull'etica e le politiche dell'assassinio a distanza da parte di droni con operatori remoti, o sulla segretezza di tali dispositivi che operano nello spazio aereo interno degli Stati Uniti. Ma questi dibattiti hanno a che fare con la natura, il luogo e la tempistica delle decisioni umane, non con macchine autonome. Di conseguenza, la questione non è nel mettere a confronto i veicoli con e senza pilota e non nell'opporre i veicoli controllati dall'uomo a quelli autonomi. Le domande principali di questo libro sono: "Dove sono le persone?", "Chi sono queste persone?", "Cosa stanno facendo?", "Quando lo fanno?" Dove sono le persone? (Su una nave … in aria … all'interno di auto … o in un ufficio?) Le manipolazioni dell'operatore Predator sono simili a quelle di un pilota di aeroplano: monitora lo stato dei sistemi di bordo, percepisce le informazioniprende decisioni e intraprende determinati passaggi. Ma il suo corpo è in un posto diverso, forse a diverse migliaia di chilometri dai risultati del suo lavoro. Questa differenza è importante. I compiti sono diversi. I rischi sono diversi, così come l'equilibrio del potere.
La mente umana è in grado di viaggiare in altri luoghi, in altri paesi, su altri pianeti. La conoscenza acquisita attraverso la mente e i sensi è diversa dalla conoscenza acquisita attraverso il corpo (dove si mangia, si dorme, si comunica, si defeca). Decidiamo quale dei due percorsi di acquisizione della conoscenza seguire a seconda della situazione specifica, e questo ha le sue conseguenze per coloro che sono coinvolti nel processo. Chi e 'questa gente? (Piloti … ingegneri … scienziati … lavoratori non addestrati … manager?) Cambia la tecnica, e quindi cambieranno sia il compito che l'essenza dello specialista che ci lavora. Cambierete infatti l'intero contingente di persone in grado di gestire il sistema. Ci vogliono anni di studio e formazione per diventare un pilota e questa professione è in cima alla gerarchia del personale. Il controllo remoto di un aereo richiede le stesse abilità e caratteristiche? Da quali classi sociali è possibile reclutare la forza lavoro?
L'aumento dell'automazione sugli aerei commerciali corrisponde all'espansione della demografia dei piloti sia nei paesi industrializzati che in tutto il mondo. Un ricercatore è qualcuno che viaggia in condizioni pericolose o qualcuno che siede a casa davanti a un computer? Devi goderti la vita a bordo per diventare un oceanografo? Puoi esplorare Marte mentre sei su una sedia a rotelle? Quali sono questi nuovi piloti, ricercatori e scienziati che lavorano con l'accesso remoto? Cosa stanno facendo? (Volare … controllare … elaborare le informazioni … comunicare?) Lo sforzo fisico si trasforma nell'elaborazione di informazioni visive e quindi in un compito cognitivo. Ciò che prima richiedeva forza ora richiede attenzione, pazienza e reazione rapida. Il pilota tiene le mani direttamente sulle leve di comando,quando vola con l'aereo? O inserire i comandi chiave nell'autopilota o nel computer di volo per programmare la traiettoria di volo dell'aereo? Qual è il ruolo della valutazione della situazione da parte della persona? Qual è il ruolo dell'ingegnere che ha programmato il computer di bordo o del tecnico aeronautico che lo ha impostato?
Quando lo fanno? (In tempo reale … con qualche ritardo … in anticipo, anni o mesi prima della missione?) Il volo di un normale aereo avviene in tempo reale: una persona reagisce immediatamente agli eventi che si verificano, e le sue azioni hanno un effetto immediato. In uno scenario di volo spaziale, il dispositivo potrebbe trovarsi su Marte (o in avvicinamento a un asteroide distante), nel qual caso occorreranno 20 minuti affinché il dispositivo riceva il comando e 20 minuti affinché l'operatore veda che è successo qualcosa. Oppure possiamo dire che il velivolo sta atterrando "in modalità automatica", quando in realtà si capisce che atterra sotto il controllo di programmatori che hanno lasciato istruzioni diversi mesi o anni prima dell'atterraggio (anche se qui potremmo dover apportare modifiche al concetto stesso "controllo"). Il controllo di un sistema automatizzato può assomigliare all'interazione con un fantasma. Queste semplici domande attirano la nostra attenzione su riallocazione e riallineamento.
Le nuove forme di presenza e attività umana non sono banali e non sono equivalenti a quelle precedenti: l'identità culturale di un pilota che rischia la vita volando sul campo di battaglia è diversa da una persona che controlla un veicolo a distanza da una stazione di terra. Ma questi cambiamenti sono anche inaspettati: un operatore remoto può sentirsi più presente sul campo di battaglia di un pilota che ci vola sopra. Le informazioni scientifiche sulla luna possono essere le stesse o anche più complete quando vengono raccolte da un veicolo controllato a distanza e non da una persona che è atterrata direttamente sul pianeta. Ma l'esperienza culturale dell'esplorazione lunare in questo caso è completamente diversa. Sostituiamo le nozioni antiquate con immagini ricche e animate di come gli esseri umani creano e controllano effettivamente robot e sistemi automatici nel mondo reale. Le storie che seguono sono sia scientifiche che tecniche e umanistiche.
Vedremo che macchine guidate dall'uomo, remote e autonome consentono il movimento e il riorientamento della presenza e dell'azione umana nel tempo e nello spazio. L'essenza di questo libro è la seguente: non è la stessa opposizione di sistemi controllati dall'uomo e autonomi che è importante, ma piuttosto le domande: "Dove sono le persone?", "Chi sono queste persone?", "Cosa stanno facendo e quando?" L'ultima, la più difficile domanda sarà: "Come cambia la percezione umana?", "E perché è importante?"
