Gli esperti americani stanno sviluppando una rete neurale in grado di spiegare le decisioni prese dai robot da combattimento. Ciò aumenterà il livello di fiducia umana nei "soldati elettronici".
Il progetto Explainable Artificial Intelligence, o semplicemente XAI (Explainable Artificial Intelligence), permetterà agli umani e ai robot di capirsi meglio a vicenda. La rete neurale XAI costruirà una catena logica di "ragionamento" del robot e mostrerà alla persona perché la macchina ha preso proprio una tale decisione - ad esempio, aprire il fuoco su un obiettivo specifico.
È in corso lo sviluppo per creare unità di combattimento miste robot-umani nell'esercito degli Stati Uniti. Finora è difficile da immaginare, ma in pochi decenni i robot diventeranno soldati a tutti gli effetti, proprio come le persone. Inoltre, sono in grado di sostituire una persona in situazioni in cui potrebbe essere necessario aprire il fuoco su un bersaglio vivente. Tale sostituzione solleverà formalmente una persona dalla responsabilità di prendere una decisione mortale, ma non sarà in grado di privarla di dubbi e rimorsi e può anche causare sfiducia nei robot. Non si sa mai - forse i robot sono in realtà maniaci elettronici a cui piace uccidere?
Il progetto XAI dovrebbe risolvere questo problema nell'interazione uomo-robot. Grazie all'introduzione del nuovo sistema, i militari (coloro che sono ancora persone in vita) potranno comprendere con quale criterio la macchina ha valutato questo o quell'oggetto o persona come una minaccia. Inoltre, XAI renderà più facile per i robot da combattimento adattarsi alla realtà di uno specifico conflitto militare e ridurrà il grado di insensata crudeltà.
Il nuovo sviluppo sarà utile non solo per i militari. Può essere utilizzato anche nella sfera civile: nell'industria, nei sistemi di sicurezza e nella medicina. Un esempio di tale utilizzo è fornito da Bill Ferguson, uno dei principali specialisti di Raytheon, che è direttamente coinvolto nello sviluppo di una rete neurale. “Se l'intelligenza artificiale rileva segni di cancro ai polmoni sui raggi X, il medico può scoprire perché la macchina lo ha fatto. Il computer evidenzierà tutte le aree sospette che il medico avrebbe potuto ignorare, scambiandosi per artefatti dell'immagine. Dopodiché, il medico sarà in grado di determinare da solo se vale la pena correggere la diagnosi o se la rete neurale è sbagliata”, spiega lo scienziato.
