L'algoritmo di Compas, che lavora per la polizia americana dal 1998, ha analizzato i dati degli imputati e poi, sulla base delle informazioni ricevute, ha aiutato a decidere, ad esempio, se il criminale dovesse essere rilasciato su cauzione o tenuto in custodia. Quando si sceglie una misura di moderazione, il sistema ha tenuto conto dell'età, del sesso e dei precedenti nell'arena criminale. Per 20 anni di "servizio", l'algoritmo è stato valutato da più di un milione di persone, ma recentemente è stato dichiarato incompetente, dopodiché è stato immediatamente richiamato.
Gli scienziati del Dartmouth College hanno testato l'accuratezza del sistema e se ci si può fidare. Per fare questo, hanno reclutato liberi professionisti, persone comuni senza istruzione legale, per prendere le proprie decisioni sulla base di brevi informazioni sulle persone, fornendo ai soggetti informazioni su sesso, età, storia criminale e molti altri parametri.
L'accuratezza della previsione dei liberi professionisti che avevano un piccolo dossier era quasi del 70%, mentre il programma era in ritardo rispetto alle persone del 5%, pur facendo affidamento su 137 punti biografia. L'analisi dei giudizi dell'algoritmo ha mostrato che i prigionieri neri hanno maggiori probabilità di essere sospettati dal programma.
"Gli errori in questi casi possono essere molto costosi, quindi vale la pena considerare se questo algoritmo debba essere utilizzato per emettere verdetti del tribunale", afferma uno degli autori dello studio.
Dopo aver studiato il principio dell'algoritmo, i ricercatori sono giunti alla conclusione che più giovane è l'imputato e più arresti ha alle spalle, maggiore è la probabilità di una ricaduta, quindi gli specialisti di intelligenza artificiale hanno riconosciuto la tecnologia come inaffidabile.
Viacheslav Larionov
