Uno studio condotto da scienziati del Massachusetts Institute of Technology ha rivelato i dettagli del processo di analisi dei dati da parte dell'intelligenza artificiale, che è spesso guidata da stereotipi sessisti e razzisti nel processo decisionale. Diversi sistemi che hanno partecipato all'esperimento hanno dimostrato la suscettibilità al pregiudizio umano.
Il quotidiano britannico "The Daily Mail" scrive che dopo aver ricevuto i risultati dello studio, il team di scienziati si è impegnato a riprogrammare l'intelligenza artificiale, eliminando i problemi precedenti. Secondo Irene Chen, che lavora al Massachusetts Institute of Technology, gli informatici tendono a giungere alla conclusione che l'unico modo per eliminare elementi di razzismo e sessismo negli algoritmi di intelligenza artificiale è migliorare il codice del software. La qualità degli algoritmi è direttamente proporzionale ai dati su cui operano. La ricerca di Chen con David Sontag e Fredrik D. Johannson mostra che più dati disponibili possono cambiare radicalmente le cose in meglio.
In un esperimento, il team ha esaminato un sistema che prevedeva il reddito di una persona sulla base delle informazioni disponibili. L'analisi ha dimostrato che nel 50% dei casi l'algoritmo tende a prevedere che il reddito di una donna sarà, in media, inferiore a quello di un uomo. Aumentando la quantità di dati disponibili di 10 volte, gli scienziati hanno scoperto che il fattore di tale errore è diminuito del 40%.
Inoltre, in uno studio del sistema utilizzato negli ospedali e che prevede la sopravvivenza dei pazienti sottoposti a interventi chirurgici gravi, l'accuratezza delle previsioni era molto inferiore per la razza mongoloide rispetto ai caucasici e ai negri. Tuttavia, gli scienziati sostengono che l'uso della tecnica di analisi avanzata può ridurre significativamente l'accuratezza della previsione per i pazienti non appartenenti alla razza mongoloide. Ciò mostra che più dati disponibili potrebbero non correggere sempre gli errori dell'algoritmo. Invece, gli scienziati dovrebbero ricevere maggiori informazioni sui gruppi discriminati.
Il nuovo metodo solleva un'altra domanda per i ricercatori di machine learning su come analizzare in modo efficiente i dati senza discriminazioni esistenti.
Come funziona l'apprendimento automatico nei sistemi basati sull'intelligenza artificiale?
I sistemi di intelligenza artificiale sono basati su reti neurali artificiali (ANN), che estrapolano la memorizzazione delle informazioni e le tecniche di apprendimento utilizzate dal cervello umano a sistemi meccanici. Le ANN si allenano per trovare modelli nelle fonti di informazione disponibili, inclusi parlato, testo e immagini. Migliorare l'accuratezza dell'analisi dei dati è uno dei prerequisiti fondamentali che precedono gli ultimi sviluppi dell'intelligenza artificiale.
L'intelligenza artificiale "normale" utilizza i dati di input per comunicare all'algoritmo l'oggetto dell'analisi, operando con un'enorme quantità di informazioni.
Video promozionale:
Le applicazioni pratiche dell'apprendimento automatico includono i servizi di traduzione di Google, il riconoscimento dei volti dalle foto di Facebook e i filtri in Snapchat che scansionano i volti prima di applicare effetti visivi online.
Il processo di immissione dei dati è spesso dispendioso in termini di tempo e di solito è limitato dal flusso di informazioni su un aspetto dell'oggetto in esame. Un nuovo tipo di ANN - una rete neurale avversaria generativa - si oppone alle capacità di due diversi robot con intelligenza artificiale contemporaneamente, provocando un sistema meno intelligente per imparare a scapito del secondo senza la partecipazione umana. Questa tecnica migliora notevolmente l'efficienza e la velocità dell'apprendimento automatico aumentando la qualità dell'analisi dei dati.
Oliy Kurilov
