L'autore è preoccupato per il ruolo crescente dei robot nella guerra. Dal 1991, dalla guerra del Golfo, aiutano i generali. E ora è stato creato un "robot assassino", una macchina che decide autonomamente di distruggere i nemici, se ciò è coerente con la politica generale del "centro di controllo".
Lo sviluppatore di intelligenza artificiale DeepMind ha annunciato una novità: un bot chiamato AlphaStar, che giocherà al popolare strategia online Starcraft-2 a livello "grandmaster".
Questa non è la prima volta che un bot ha battuto le persone in un gioco di guerra strategico. Nel 1981, un programma chiamato Eurisko, sviluppato da uno dei pionieri dell'intelligenza artificiale, Doug Lenat, vinse l'US Traveller Championship, un gioco di guerra strategico molto complesso in cui il giocatore deve completare la propria flotta e combattere la flotta nemica. Eurisko è stato infine insignito del titolo di ammiraglio onorario viaggiatore. Nel 1982, le regole del torneo furono cambiate nel tentativo di ostacolare il computer. Ma Eurisko ha vinto tutti per due anni di seguito. Dopo che gli sponsor avevano promesso di annullare il torneo se il computer avesse vinto di nuovo, Lenat si ritirò.
DeepMind PR vorrebbe farti credere che StarCraft "è emerso per consenso come la prossima grande sfida (nei giochi per PC)" e "è stata una sfida per gli sviluppatori di intelligenza artificiale per oltre 15 anni".
Nel campionato Starcraft più recente, sono state presentate solo 4 domande da laboratori di ricerca accademici o industriali. Gli altri nove bot sono stati scritti da soli da individui e non come parte della corrente principale della ricerca sull'intelligenza artificiale (AI).
In effetti, il numero di autori (42) dell'articolo di DeepMind pubblicato il 31 ottobre su Nature supera di gran lunga il numero di persone che lavorano sui bot di Starcraft nel resto del mondo. Non voglio oscurare il successo di questa collaborazione ingegneristica, ma se investi risorse sufficienti per risolvere il problema, il successo è garantito.
A differenza delle recenti vittorie negli scacchi al computer, AlphaStar non è stato addestrato giocando contro se stesso. Lo ha imparato imitando i migliori episodi di quasi un milione di partite giocate dai migliori giocatori umani. Prima di questo, AlphaStar ha subito un'innegabile sconfitta in 19 dei 20 combattimenti, giocando con persone reali sul server di gioco di StarCraft. AlphaStar ha giocato in modo anonimo per impedire alle persone di sfruttare i punti deboli che potrebbero essere stati trovati nei giochi precedenti.
Lo scorso dicembre AlphaStar ha sconfitto uno dei migliori giocatori professionisti del mondo: Grzegorz MaNa Komincz. Ma questa era una versione di AlphaStar con riflessi significativamente più veloci di quelli umani e anche con una visione illimitata del campo di gioco (a differenza dei giocatori umani che ne vedono solo una parte alla volta). Difficilmente può essere definito una parità di condizioni.
Video promozionale:
Tuttavia, StarCraft ha alcune caratteristiche che rendono AlphaStar uno sviluppo impressionante, se non una vera svolta. A differenza degli scacchi o del gioco orientale del go (un gioco di strategia che utilizza un tabellone da 361 campi - ndr), i giocatori di StarCraft hanno una comprensione imperfetta dello stato delle cose nel gioco, ma il numero di azioni possibili in esso è molto maggiore. E il combattimento di StarCraft avviene in tempo reale, ma richiede una pianificazione a lungo termine.
Robot Wars
La domanda sorge spontanea: vedremo in futuro come i robot non solo partecipano alle guerre, ma le pianificano? In effetti, entrambi stanno già accadendo.
Nonostante molti avvertimenti da parte di ricercatori di intelligenza artificiale (come me), fondatori di robotica, premi Nobel e leader di chiese, un'arma completamente autonoma nota come "robot assassino" è già stata creata e sarà presto utilizzata.
Nel 2020, la Turchia schiererà droni kamikaze al confine con la Siria. Questi droni useranno la visione artificiale per identificare, rintracciare e uccidere le persone senza l'intervento umano.
Questo è uno sviluppo terribile. I computer non hanno la capacità morale di prendere una decisione moralmente equilibrata su chi vivrà e chi morirà. Mancano di empatia o compassione. I robot assassini cambieranno in peggio la natura stessa del conflitto.
E i "generali robotici"? I computer hanno aiutato i generali a pianificare la guerra per decenni. All'inizio degli anni '90, durante l'operazione Desert Storm durante la Guerra del Golfo, sono stati utilizzati strumenti di intelligenza artificiale (AI) per pianificare un accumulo in Medio Oriente prima del conflitto. Poco dopo un generale degli Stati Uniti mi disse che la quantità di denaro risparmiata era pari alla somma di tutto ciò che era stato speso in precedenza per lo sviluppo dell'IA.
I generali usano anche i computer per sviluppare strategie militari multivariate che potrebbero essere improvvisamente necessarie. Ma non lasciamo tutte le decisioni sul campo di battaglia nelle mani di un solo soldato, quindi trasferire tutte le responsabilità dal cervello del generale al processore del computer è eccessivo.
La macchina non può essere ritenuta responsabile delle sue decisioni. Solo le persone sono responsabili. E questa è la pietra angolare del diritto internazionale umanitario. Tuttavia, i generali faranno sempre più affidamento sul supporto del computer nelle loro decisioni per rompere la nebbia della guerra e gestire la grande quantità di informazioni provenienti dal fronte.
Se ciò si traduce in meno vittime civili, fuoco meno amico e maggiore rispetto per il diritto internazionale umanitario, dovremmo accogliere con favore tale assistenza informatica. Ma la decisione finale deve essere presa dall'uomo, non dalla macchina.
Ecco un'ultima domanda su cui riflettere. Se le aziende tecnologiche come Google non vogliono davvero che temiamo una rivolta delle macchine, perché stanno costruendo robot per vincere guerre virtuali invece di concentrarsi su qualcosa di più pacifico come i giochi elettronici pacifici? Con tutto il rispetto per gli appassionati di sport, dobbiamo ammettere che la posta in gioco sui giochi non bellici è molto più bassa.
Toby Walsh è un professore di intelligenza artificiale presso l'Università del New South Wales e la comunità di ricerca Data61.
