Le aziende tecnologiche hanno studiato in silenzio le tue foto per migliorare i loro sistemi di riconoscimento facciale. Ed ecco come l'hanno fatto.
Il riconoscimento facciale è una potente tecnologia che minaccia seriamente le libertà civili. È anche un'attività fiorente. Oggi, molte startup e giganti della tecnologia vendono sistemi di riconoscimento facciale ad hotel, rivenditori e persino scuole e campi estivi. Questa attività è in forte espansione grazie a nuovi algoritmi in grado di identificare le persone con una precisione molto maggiore rispetto a cinque anni fa. Per migliorare i loro algoritmi, sono stati addestrati su miliardi di volti, a volte senza il permesso di nessuno. Pertanto, è molto probabile che il tuo viso faccia parte di un "kit di formazione" in uno di questi sistemi o si trovi in un database clienti di qualche azienda.
I metodi di raccolta delle informazioni utilizzati dalle aziende possono sorprendere i consumatori. Ad esempio, in almeno tre casi, le aziende hanno ricevuto milioni di immagini tramite app fotografiche per smartphone. Ora il sistema di riconoscimento facciale è scarsamente regolamentato, quindi le persone non hanno quasi alcun modo per limitare l'uso dei loro volti per scopi commerciali.
Nel 2018, una telecamera ha identificato i volti dei passeggeri che scendevano in fretta da un aereo vicino a Washington, in Columbia. Ma in realtà sia l'aereo che i passeggeri facevano parte di una simulazione creata dal National Institute of Standards and Technology (NIST) per dimostrare come i dati potessero essere raccolti “sul campo”. I volti utilizzati in questo esperimento faranno parte di un concorso NIST in cui aziende di tutto il mondo testeranno i loro sistemi di riconoscimento facciale.
Nella simulazione della situazione dell'aereo, i volontari hanno accettato di usare i loro volti. Questo è stato il caso nelle prime fasi dei sistemi di riconoscimento facciale: i ricercatori hanno cercato di includere costantemente le persone nei loro set. Ora, è improbabile che gli affari si preoccupino e chiedano il permesso.
Secondo Market Research Future, le aziende (inclusi leader come Face ++ e Kairos) stanno gareggiando per essere # 1 in un settore che cresce del 20% all'anno per raggiungere $ 9 miliardi di volume entro il 2022. Il modello di business di questi attori si basa su software concesso in licenza per un numero crescente di clienti - dalle forze dell'ordine alle università - che lo utilizzano nel proprio sviluppo.
Nella competizione, i vincitori sono quei prodotti i cui algoritmi sono in grado di rilevare i volti in modo accurato e senza errori. Come per tutta l'intelligenza artificiale, la creazione di un sistema di riconoscimento facciale implica l'accumulo di una grande quantità di dati per l'addestramento. Sebbene le aziende possano utilizzare dati approvati dal governo e dalle università (come il database facciale di Yale), questi kit di formazione sono abbastanza piccoli da contenere solo poche migliaia di volti.
Video promozionale:
Questi kit ufficiali hanno anche altri svantaggi. Molte persone non hanno la diversità razziale e le diverse condizioni - ombre, cappelli, cosmetici - che alterano la percezione di una persona nel mondo reale. Un sistema di riconoscimento facciale naturale richiede più immagini. Molto più.
“Cento non bastano, mille non bastano. Abbiamo bisogno di milioni di immagini. Se non addestrate il sistema a riconoscere le persone con occhiali e diversi colori di pelle, non otterrete buoni risultati , afferma Peter Trepp, direttore di FaceFirst, una società con sede in California che aiuta i rivenditori a identificare i criminali nei loro negozi.
Applicazione per questo
le. In particolare, l'app l'ha costretta a inviare link sponsorizzati a tutti i contatti degli utenti, una tattica nota nella Silicon Valley come "growth hacking". Gli utenti si sono anche lamentati del furto di dati.
"Immediatamente dopo l'installazione, l'applicazione raccoglie tutti i telefoni dall'elenco dei contatti e inizia a inviare loro messaggi di testo … E poi scarica tutte le tue foto e le copia nel cloud storage", ha scritto Greg Miller, proprietario di uno studio fotografico in Texas, in una recensione del 2015 su Facebook.
Quattro anni dopo, Miller fu inorridito nello scoprire che le sue fotografie erano ancora archiviate a EverRoll, ma ora un'azienda con un sistema di riconoscimento facciale.
"No, non lo sapevo e sono totalmente in disaccordo con questo", si lamentò Miller con Fortune. “Questo tipo di sorveglianza è un vero problema. La riservatezza è sparita e questo mi spaventa molto ".
Doug Ely, CEO di Ever AI, afferma che la società non trasferisce le informazioni dal suo database da nessuna parte e le foto vengono utilizzate solo per addestrare il sistema. Ha anche aggiunto che l'azienda è simile a un social network che può essere abbandonato in qualsiasi momento. Eli ha negato che Ever AI intendesse diventare una società di riconoscimento facciale sin dall'inizio, affermando che la chiusura dell'app è stata una decisione del management. I clienti di Ever AI ora utilizzano i suoi dati per i propri scopi, inclusa la gestione dei sistemi di identificazione dei dipendenti, la vendita al dettaglio, le telecomunicazioni e le forze dell'ordine.
Ever AI non è l'unica azienda di riconoscimento facciale che una volta offriva un'app di fotografia. Orbeus, una startup con sede a San Francisco acquistata da Amazon nel 2016 (che non è stata annunciata), ha offerto anche il popolare storage PhotoTime.
Secondo un ex dipendente di Orbeus, l'appello della startup ad Amazon risiede nelle sue tecnologie di intelligenza artificiale e nella sua vasta gamma di fotografie di persone in luoghi pubblici.
“Amazon stava cercando tali opportunità. Hanno comprato tutto e poi chiuso la domanda , dice un dipendente che desiderava rimanere anonimo, citando un accordo di non divulgazione.
PhotoTime non esiste più, sebbene Amazon continui a vendere un altro prodotto Orbeus noto come marchio Rekognition. Negli affari e nelle forze dell'ordine, viene utilizzato come sistema di riconoscimento facciale.
Amazon ha rifiutato di rivelare i dettagli sul fatto che l'app fotografica Orbeus sia stata utilizzata per addestrare Rekognition, affermando solo che stava prendendo dati da varie fonti. La società ha aggiunto che non utilizza i dati degli utenti dall'app Prime per addestrare i sistemi di identità.
Real Networks è un'altra azienda che utilizza app per addestrare il proprio sistema. Con sede a Seattle e un tempo famosa per il suo lettore video degli anni '90, l'azienda si concentra ora sul riconoscimento dei volti dei bambini nelle scuole. Allo stesso tempo, l'azienda offre un'app per famiglie chiamata RealTimes, che secondo i critici raccoglie dati sui volti degli utenti.
“L'applicazione consente di creare presentazioni video da foto. Immagina che la mamma invii una presentazione del genere alla nonna e il sistema utilizzi queste foto per l'allenamento. Sembra inquietante , afferma Claire Gavry, professoressa alla Georgetown University, che ha pubblicato un documento che ha avuto un impatto importante sulla tecnologia di riconoscimento facciale.
Real Networks ha confermato che l'app veniva utilizzata per migliorare il riconoscimento facciale, ma ha aggiunto che venivano utilizzate altre fonti di informazione.
In tutti i casi in cui le aziende hanno utilizzato i dati delle proprie applicazioni fotografiche per addestrare i propri sistemi, non hanno chiesto l'autorizzazione dell'utente, ma hanno ricevuto il consenso nascosto tramite accordi con l'utente.
Ma questo è già abbastanza rispetto a quello che stanno facendo altre aziende. Secondo Patrick Grother, che gestisce il concorso NIST, va bene che le aziende che raccolgono dati facciali scrivano programmi che "catturano" immagini da siti come SmugMug o Tumblr. In questi casi, il permesso dell'utente non viene nemmeno assunto.
Questo approccio di auto-aiuto è stato evidenziato in un recente rapporto di NBC News che descrive in dettaglio come IBM ha scaricato oltre un milione di immagini del viso da Flickr come parte di uno studio sull'intelligenza artificiale. (John Smith, che sovrintende alle tecnologie di intelligenza artificiale nel dipartimento di ricerca IBM, ha affermato che "i dati personali sono protetti" e che sono in corso lavori con coloro che vogliono rimuovere le informazioni personali dal database).
Tutto ciò solleva interrogativi sulla protezione dei dati personali da parte delle aziende che li raccolgono e sulla necessità di un controllo statale in questo settore. Questo argomento diventerà più serio solo con l'ulteriore diffusione dei sistemi di riconoscimento facciale nella società, così come nell'ambiente di grandi e piccole imprese.
Dai negozi alle scuole
I sistemi di riconoscimento facciale non sono nuovi. Le versioni più semplici di tali programmi esistono dagli anni '80, quando i matematici americani iniziarono a definire i volti come una serie di valori numerici e usarono modelli probabilistici per trovare corrispondenze. La sicurezza di Tampa, in Florida, l'ha usata al Super Bowl del 2001 ed è stata usata nei casinò da anni. Ma molto è cambiato negli ultimi anni.
"Il sistema di riconoscimento facciale sta attraversando qualcosa di simile a una rivoluzione", afferma Patrick Grother, aggiungendo che il cambiamento è più evidente nella qualità crescente delle immagini. “La tecnologia sottostante è cambiata. I vecchi sviluppi sono stati sostituiti da nuovi sistemi molto più efficienti ".
La rivoluzione del riconoscimento facciale è stata guidata da due fattori che hanno notevolmente cambiato e ampliato la portata della tecnologia di intelligenza artificiale. Il primo è l'emergere del deep learning, un sistema di riconoscimento dei pattern che in linea di principio assomiglia al cervello umano. Il secondo è un surplus record di dati che possono essere archiviati e analizzati a basso costo utilizzando il cloud computing.
Non a caso, le prime aziende a trarre il massimo vantaggio da questi sviluppi sono state Google e Facebook. Nel 2014, quest'ultimo ha rilasciato un programma chiamato DeepFace, che può determinare con una precisione del 97,24% che due volti appartengono alla stessa persona: le persone dimostrano un risultato simile in un test del genere. Un anno dopo, Google, con il suo programma FaceNet, ha raggiunto una precisione del 100% (secondo la società di sicurezza Gemalto).
Oggi, grazie in gran parte all'accesso a grandi database di dati facciali, questi e altri giganti della tecnologia (come Microsoft) stanno aprendo la strada al riconoscimento facciale. Ma sempre più start-up stanno mostrando risultati elevati, cercando anche di occupare la loro nicchia nel mercato in crescita dei programmi di identificazione facciale.
Ci sono più di una dozzina di società di questo tipo solo negli Stati Uniti, tra cui Kairos e FaceFirst. Secondo i ricercatori di mercato di PitchBook, la Silicon Valley sta rapidamente guadagnando terreno nel settore, con investimenti significativi negli ultimi anni. PitchBook stima l'investimento totale negli ultimi tre anni a 78,7 milioni di dollari. Questi non sono numeri fantastici per gli standard Valley, ma riflettono la fiducia dei venture capitalist sul fatto che alcune startup front-end diventeranno presto grandi aziende.
Attività di capitale di rischio nel settore del riconoscimento facciale negli Stati Uniti.
Stanno ancora emergendo nuovi modelli di business incentrati sul riconoscimento facciale. Ciò è particolarmente evidente nel software aziendale con licenza. Secondo Crunchbase, i ricavi annuali per aziende come Ever AI e FaceFirst sono modesti, vanno da $ 2 milioni a $ 8 milioni. Amazon e altri giganti della tecnologia non rivelano tali cifre.
Per molto tempo gli utenti più interessati ai sistemi di riconoscimento facciale sono stati le forze dell'ordine. Ma ora molte aziende, inclusa WalMart, utilizzano tali programmi per ottenere maggiori informazioni sugli acquirenti nei loro negozi.
Ad esempio, FaceFirst con sede in California offre i suoi sistemi a centinaia di rivenditori, inclusi negozi di seconda mano e farmacie. Secondo l'amministratore delegato dell'azienda, molti clienti utilizzano la tecnologia per rilevare i furti, ma un numero crescente di coloro che cercano di utilizzarla per altri scopi, tra cui trovare clienti VIP e identificare i dipendenti.
Per molto tempo gli utenti più interessati ai sistemi di riconoscimento facciale sono stati le forze dell'ordine.
Sembra che Amazon stia anche cercando opportunità per applicare sistemi di riconoscimento facciale in un'ampia gamma delle sue attività. Oltre a lavorare con le stazioni di polizia, il gigante della vendita al dettaglio sta aiutando gli hotel ad accelerare i processi di check-in, secondo varie fonti.
"Aziende di tutto il mondo vengono su Amazon e dicono:" Questo è esattamente ciò che vogliamo fare ". E capisci che questa è una zona meravigliosa. Tutti ne sono interessati ", afferma una fonte anonima che si è unita ad Amazon per l'acquisto di Orbeus, una società di riconoscimento facciale.
Per Amazon, questa attività non è stata priva di controverse conseguenze. Lo scorso luglio, l'American Civil Liberties Union (ACLU) ha testato i sistemi dell'azienda confrontando i volti di tutti i membri del Congresso con un database di criminali. Il test ha mostrato 28 false corrispondenze, con la maggior parte degli errori dovuti al colore della pelle dei partecipanti all'esperimento. Di conseguenza, l'Unione ha chiesto il divieto dell'uso del sistema di riconoscimento facciale nelle forze dell'ordine. Tuttavia, Amazon ha insistito per vendere il sistema agli agenti di polizia e alle forze dell'ordine statunitensi in materia di immigrazione e dogana.
Poi alcuni membri del Congresso, tra cui il rappresentante Jerrold Nadler e il senatore Ron Weeden, hanno chiesto all'ufficio di revisione di indagare sull'uso del software di riconoscimento facciale. Anche le aziende leader sono preoccupate per questi sistemi. In particolare, il presidente di Microsoft Brad Smith a dicembre ha chiesto la regolamentazione di tali tecnologie a livello statale.
Ma anche se le preoccupazioni crescono, l'uso dei sistemi di riconoscimento facciale è in espansione poiché le aziende trovano sempre più usi per loro. Ad esempio, Real Networks, uno sviluppatore di app per la fotografia di famiglia, offre gratuitamente il suo software alle scuole di tutto il paese. L'azienda parla di centinaia di scuole come suoi clienti. In un'intervista con la rivista Wired, il CEO di Real Networks Rob Glaser ha affermato di aver lanciato il progetto come soluzione imparziale alle controversie sulla sicurezza scolastica e sul controllo delle armi. Il sito web dell'azienda sta attualmente posizionando questo prodotto come una tecnologia che consente agli organizzatori di eventi di "riconoscere ogni fan, cliente, dipendente o ospite", anche se il loro volto è nascosto.
La tecnologia unica riconosce i volti anche nella colorazione o nel trucco intensivo. Il sistema distingue e identifica i volti in una varietà di condizioni di illuminazione.
Real Networks non è l'unica azienda che si rivolge al mercato dei bambini. Una startup con sede in Texas chiamata Waldo offre una tecnologia simile a centinaia di scuole, oltre a campionati sportivi per bambini e campi estivi. In pratica, ciò implica l'utilizzo di tali sistemi per scansionare immagini scattate da videocamere o fotografi ufficiali e abbinare ulteriormente i volti dei bambini con un database di immagini fornito dai genitori. I genitori possono sempre rifiutarsi di partecipare.
Secondo Rodney Rice, CEO di Waldo, le scuole scattano decine di migliaia di fotografie ogni anno e poche di esse finiscono in album annuali. Il riconoscimento facciale, ha detto, è un modo efficace per diffondere gli avanzi a coloro che ne hanno bisogno.
"Per il prezzo di popcorn o carta marrone, puoi ordinare queste foto per i nonni dei tuoi figli", dice Rice, spiegando che Waldo ha un accordo di condivisione delle entrate con le scuole pubbliche. Attualmente, i servizi dell'azienda sono utilizzati in più di 30 stati degli Stati Uniti.
L'ascesa di Waldo e FaceFirst mostra come le aziende stiano normalizzando il riconoscimento facciale che fino a poco tempo fa sembrava fantascienza. E con la proliferazione di tali tecnologie, sempre più aziende raccoglieranno le foto dei tuoi volti, sia per addestrare algoritmi che per trovare clienti e criminali, anche se il rischio di errori e abusi non fa che aumentare.
Il futuro del tuo viso
Nel 2017 è uscito un episodio della serie TV tecno-distopica Black Mirror, in cui una madre agitata si preoccupa per un giovane spericolato che trascorre del tempo con sua figlia. Per scoprire chi è, carica una sua foto su un servizio di identificazione dei consumatori. Il programma mostra rapidamente il suo nome e il luogo di lavoro e la donna va a occuparsi di lui.
Lo scenario una volta immaginario ora sembra abbastanza reale. Sebbene la maggior parte delle preoccupazioni relative al riconoscimento facciale si siano concentrate sull'uso di questa tecnologia nelle organizzazioni governative, il suo utilizzo tra le società commerciali e persino gli individui (nello stile di "Black Mirror") pone evidenti rischi per i dati personali.
Man mano che sempre più aziende iniziano a vendere sistemi di riconoscimento facciale e le nostre facce entrano in più database, il software potrebbe guadagnare popolarità tra voyeur e stalker. Rivenditori e proprietari possono utilizzarlo per identificare clienti indesiderati e affittuari per negare silenziosamente alloggi e servizi.
"Chiunque abbia una videocamera in un'area densamente popolata può iniziare a raccogliere database di immagini e quindi utilizzare questo software analitico per vedere se le immagini risultanti corrispondono ai dati", afferma Jay Stanley, analista di ACLU.
C'è anche il rischio di attacchi di hacker. Andrei Barisevich di Gemini Advisors, una società di sicurezza informatica, afferma di aver visto i profili in vendita rubati dal database biometrico nazionale indiano su siti darknet. Non ha notato tali informazioni sugli americani, ma ha aggiunto: "È solo questione di tempo". La fuga di dati dei clienti da un hotel o un negozio può aiutare i criminali a commettere frodi o furti di identità.
Poiché la tecnologia è distribuita senza un grande controllo da parte del governo, la responsabilità di limitarne l'uso improprio spetta esclusivamente ai fornitori di software. In un'intervista con Fortune, i CEO delle startup di riconoscimento facciale hanno affermato di essere preparati a tali minacce. Alcuni, tra cui il CEO di FaceFirst, hanno definito pericolosa la diffusione di tali sistemi in Cina.
I leader hanno anche suggerito due approcci per frenare gli abusi. Il primo è lavorare a stretto contatto con gli acquirenti del software per assicurarsi che venga utilizzato correttamente. Ad esempio, Doug Eli di Ever AI afferma che la sua azienda ha uno standard più elevato di Amazon, che sostiene fornisce il suo strumento Rekognition praticamente a chiunque.
In risposta a una domanda sul controllo degli abusi, Amazon ha fornito una dichiarazione rilasciata in precedenza da Matt Wood, che gestisce l'intelligenza artificiale presso Amazon Web Services. Wood sottolinea che è la politica aziendale a proibire attività dannose e illegali.
Un'altra possibile garanzia di sicurezza dei dati è l'uso di misure tecniche per garantire l'impossibilità di hackerare le banche dati dei dati "frontali".
Rodney Rice, CEO di Waldo, afferma che i volti vengono memorizzati come hash alfanumerici. Ciò significa che anche in caso di fuga di dati, la riservatezza non sarà compromessa, poiché un hacker non sarà in grado di decrittografare gli hash e utilizzarli. Questo punto di vista è stato sostenuto da altri.
La Rice teme che la definizione legislativa delle regole per l'uso delle tecnologie "facciali" possa fare più male che bene. "Lasciare che un bambino lo capisca e crei regole è ridicolo", dice.
Nel frattempo, alcune società di software per il riconoscimento facciale stanno adottando nuove tecniche che possono ridurre la necessità di big data per la formazione. È il caso, ad esempio, di Kairos, una startup front-end di Miami che, tra l'altro, lavora con una vasta gamma di hotel. Secondo Stephen Moore, capo della sicurezza dell'azienda, Kairos crea volti "sintetici" per simulare un'ampia gamma di emozioni e luci. Tali "volti artificiali" riducono l'uso di dati facciali dal mondo reale durante la creazione di prodotti tecnologici.
Tutte queste misure - sorveglianza degli utenti del sistema, forte protezione dei dati e strumenti di apprendimento sintetico - possono mitigare alcuni dei problemi di privacy associati all'uso aziendale dei nostri volti. Allo stesso tempo, Trepp di FaceFirst ritiene che l'ansia diminuirà con uno sguardo più attento al sistema. Afferma persino che le scene di riconoscimento facciale nel film di fantascienza del 2002 Minority Report inizieranno a sembrare normali.
“I millennial sono molto più disposti a condividere le informazioni. Questo mondo [da Minority Report] si sta avvicinando al nostro ", dice. - Se fai tutto bene, penso che alle persone piacerà e sarà un'esperienza positiva. Non sarà così spaventoso."
Altri, compreso l'ACLU, sono meno ottimisti. Tuttavia, nonostante la crescente discussione sulla tecnologia, non c'è praticamente nulla a questo punto che limiti l'uso del tuo viso. Le uniche eccezioni sono in tre stati - Illinois, Texas e Washington DC - che richiedono un certo grado di consenso prima di usare la faccia di qualcun altro. Queste leggi non sono realmente utilizzate nella pratica tranne che in Illinois, dove i consumatori possono intraprendere azioni legali per far valere questo diritto.
La legge dell'Illinois è attualmente oggetto di un processo di appello di alto profilo che coinvolge Facebook, secondo il quale il digital crawling non è soggetto a restrizioni sull'ottenimento di volti. Nel 2017, Facebook e Google hanno lanciato una campagna di lobbying senza successo per convincere i legislatori dell'Illinois ad ammorbidire la legge. Alla fine di gennaio, i sostenitori della legge sono stati sostenuti dalla Corte Suprema dell'Illinois quando ha stabilito che i consumatori possono citare in giudizio l'uso non autorizzato dei loro dati biometrici, anche se non è stato fatto alcun danno reale.
Altri stati consentono anche la possibilità di adottare le proprie leggi biometriche. A livello federale, i legislatori finora hanno prestato poca attenzione a questo aspetto. Ciò potrebbe cambiare, tuttavia, poiché questo mese i senatori Brian Schatz e Roy Blount hanno introdotto una legislazione che richiederebbe alle aziende di ottenere l'autorizzazione prima di utilizzare il riconoscimento facciale in luoghi pubblici o condividere i dati del viso con terze parti.
Claire Garvey, una ricercatrice di Georgetown, sostiene le leggi per controllare questi sistemi. Ma dice che i legislatori hanno avuto difficoltà a stare al passo con la tecnologia.
“Una delle sfide del riconoscimento facciale è la loro adozione incredibilmente rapida, grazie ai database esistenti. I nostri volti erano molto illuminati ", dice. "A differenza delle impronte digitali, che da tempo hanno regole per la raccolta dei dati, non esiste ancora una regolamentazione per le tecnologie di riconoscimento facciale".
Di Jeff John Roberts
Tradotto da: Ekaterina Egina
A cura di: Sergey Razumov
