Il riconoscimento facciale, il software che mappa, analizza e quindi conferma l’identità di un volto in una fotografia o in un video, è uno dei più potenti strumenti di sorveglianza mai realizzati. Mentre molte persone interagiscono con il riconoscimento facciale semplicemente come un modo per sbloccare i propri telefoni o organizzare le proprie foto, il modo in cui le aziende e i governi lo usano avrà un impatto molto maggiore sulla vita delle persone.
Quando si tratta di un dispositivo che possiedi o di un software che utilizzi, potresti essere in grado di disattivare o disattivare il riconoscimento facciale , ma l’ubiquità delle fotocamere rende la tecnologia sempre più difficile da evitare nella gestione pubblica. Le preoccupazioni per quell’ubiquità, amplificata dall’evidenza della profilazione razziale e dall’identificazione dei manifestanti , hanno portato le grandi aziende, tra cui Amazon, IBM e Microsoft, a mettere una moratoria sulla vendita dei loro software alle forze dell’ordine. Ma man mano che le moratorie scadono e la tecnologia alla base del riconoscimento facciale diventa sempre più economica, la società dovrà rispondere a grandi domande su come dovrebbe essere regolato il riconoscimento facciale, nonché a piccole domande su quali servizi siamo disposti a utilizzare e quali sacrifici rispetto alla nostra privacy siamo disposti a fare.
Come funziona il software di riconoscimento facciale
La maggior parte delle persone ha visto il riconoscimento facciale usato nei film per decenni (video) , ma raramente è rappresentato correttamente. Ogni sistema di riconoscimento facciale funziona in modo diverso, spesso basato su algoritmi proprietari, ma è possibile ordinare il processo in tre tipi base di tecnologia:
- Il rilevamento è il processo di ricerca di un volto in un’immagine. Se hai mai usato una fotocamera che rileva un viso e disegna una casella attorno per la messa a fuoco automatica, hai visto questa tecnologia in azione. Di per sé, non è nefasto: il rilevamento del volto si concentra solo sulla ricerca di un volto, non sull’identità dietro di esso.
- L’analisi ( nota anche come attribuzione) è il passaggio che mappa i volti, spesso misurando la distanza tra gli occhi, la forma del mento, la distanza tra il naso e la bocca, e quindi li converte in una serie di numeri o punti, spesso chiamati “faceprint.” I filtri di Instagram o Snapchat utilizzano una tecnologia simile (video) . Sebbene l’analisi possa soffrire di problemi tecnici, in particolare comportando un’identificazione errata, ciò è generalmente problematico solo quando il faceprint viene aggiunto a un database di riconoscimento.
- Il riconoscimento è il tentativo di confermare l’identità di una persona in una foto. Questo processo viene utilizzato per la verifica, ad esempio in una funzione di sicurezza su uno smartphone più recente o per l’identificazione, che tenta di rispondere alla domanda “Chi è in questa immagine?” Ed è qui che la tecnologia entra nel lato più inquietante delle cose.
La fase di rilevamento del riconoscimento facciale inizia con un algoritmo che impara cos’è un viso. Di solito il creatore dell’algoritmo lo fa “allenandolo” con foto di volti. Se inserisci un numero sufficiente di immagini per addestrare l’algoritmo, col tempo impara la differenza tra, diciamo, una presa a muro e una faccia. Aggiungi un altro algoritmo per l’analisi, e ancora un altro per il riconoscimento, e hai un sistema di riconoscimento.
La diversità delle foto inserite nel sistema ha un profondo effetto sulla sua precisione durante le fasi di analisi e riconoscimento. Ad esempio, se i set di campioni includono principalmente uomini bianchi, come nel caso dell’addestramento dei primi sistemi di riconoscimento facciale, i programmi faranno fatica a identificare con precisione volti e donne, BIPOC. Il miglior software di riconoscimento facciale ha iniziato a correggere per questo negli ultimi anni, ma i maschi bianchi sono ancora quelli che vengono riconosciuti con maggiore accuratezza (PDF) rispetto ad altri gruppi; alcuni software identificano erroneamente alcuni neri e asiatici 100 volte più spesso degli uomini bianchi. Mutale Nkonde, membro del Digital Civil Society Lab di Stanford e membro del TikTok Content Advisory Council, osserva che anche se i sistemi funzionano perfettamente, i problemi con l’identificazione di genere rimangono: “Le etichette sono tipicamente binarie: maschio, femmina. Non c’è modo per quel tipo di sistema di guardare in modo non binario. “
Una volta che un’azienda addestra il proprio software per rilevare e riconoscere i volti, il software può quindi trovarli e confrontarli con altri volti in un database. Questa è la fase di identificazione , in cui il software accede a un database di foto e riferimenti incrociati per tentare di identificare una persona sulla base di foto provenienti da una varietà di fonti, dalle foto segnaletiche alle foto cancellate dai social network. Quindi visualizza i risultati, in genere li classifica in base alla precisione. Questi sistemi sembrano complicati, ma con una certa abilità tecnica, puoi creare tu stesso un sistema di riconoscimento facciale con un software standard .
Una breve storia del riconoscimento facciale
Le radici del riconoscimento facciale si sono formate negli anni ’60, quando Woodrow Wilson Bledsoe ha sviluppato un sistema di misurazioni per classificare le foto dei volti. Una nuova faccia sconosciuta potrebbe quindi essere confrontata con i punti dati delle foto precedentemente inserite . Il sistema non è stato veloce per gli standard moderni, ma ha dimostrato che l’idea aveva valore. Nel 1967, l’interesse delle forze dell’ordine si stava già diffondendo e tali organizzazioni sembrano aver finanziato la continua ricerca di Bledsoe – che non è mai stata pubblicata.
Nel 2001, le forze dell’ordine hanno usato il riconoscimento facciale sulla folla al Super Bowl XXXV.
Durante gli anni ’70, ’80 e ’90, nuovi approcci con nomi accattivanti come “approccio Eigenface” (PDF) e ” Fisherfaces ” hanno migliorato la capacità della tecnologia di individuare un volto e quindi identificare le caratteristiche , aprendo la strada ai moderni sistemi automatizzati .
Anche il primo passaggio del riconoscimento facciale sulla scena pubblica negli Stati Uniti ha portato alla sua prima grande controversia. Nel 2001, le forze dell’ordine hanno usato il riconoscimento facciale sulla folla al Super Bowl XXXV. I critici l’hanno definita una violazione dei diritti del Quarto emendamento contro la ricerca e il sequestro irragionevoli . Quell’anno vide anche il primo diffuso utilizzo della tecnologia da parte della polizia con un database gestito dall’ufficio dello sceriffo della contea di Pinellas , ora uno dei più grandi database locali nel paese .
Si passa avanti di alcuni anni al 2008, quando entrò in vigore la legge sulla privacy delle informazioni biometriche dell’Illinois , diventando la prima legge del suo genere negli Stati Uniti a regolare la raccolta e la memorizzazione illegali di informazioni biometriche, comprese le foto dei volti. Jennifer Lynch, direttore del contenzioso sulla sorveglianza presso la Electronic Frontier Foundation, descrive il BIPA come modello di regolamentazione commerciale. “L’Illinois richiede preavviso e consenso esplicito scritto per la raccolta di qualsiasi tipo di dato biometrico”, afferma. “A questo punto, l’Illinois è l’unico stato che lo richiede.”
Gli anni 2010 hanno dato il via all’era moderna del riconoscimento facciale, poiché i computer erano finalmente abbastanza potenti da addestrare le reti neurali necessarie per rendere il riconoscimento facciale una caratteristica standard. Nel 2011, il riconoscimento facciale è servito a confermare l’identità di Osama bin Laden . Nel 2014, Facebook ha rivelato pubblicamente il suo software di tag di foto DeepFace , lo stesso anno il riconoscimento facciale ha svolto un ruolo chiave nel condannare un ladro a Chicago e lo stesso anno Edward Snowden ha pubblicato documenti che mostrano in che misura il governo degli Stati Uniti stava raccogliendo immagini per costruire un Banca dati. Nel 2015 la polizia di Baltimora ha utilizzato il riconoscimento facciale identificare i partecipanti alle proteste sorte dopo che Freddie Gray è stato ucciso da una lesione alla colonna vertebrale subita in un furgone della polizia.
Clearview AI ha fatto notizia all’inizio del 2020 quando il New York Times ha rivelato che la società eseguiva regolarmente il suo software di riconoscimento confrontandolo con un database di foto raccolte da fonti su Internet, inclusi social media, siti di notizie e siti di lavoro.
Il riconoscimento facciale è entrato dapprima nei dispositivi personali come funzionalità di sicurezza con Windows Hello e Trusted Face di Android nel 2015, quindi con l’introduzione di iPhone X e Face ID nel 2017 .
Le cose sono aumentate da allora:
- Nel 2017, il presidente Donald Trump ha emesso un ordine esecutivo che accelera l’utilizzo del riconoscimento facciale ai confini degli Stati Uniti (e da allora le compagnie aeree private hanno fatto i propri sforzi per integrare la tecnologia).
- Nel 2018, il team di sicurezza di Taylor Swift ha utilizzato il riconoscimento facciale per identificare gli stalker e la Cina ha aumentato rapidamente il suo utilizzo . Il riconoscimento facciale è arrivato a Madison Square Garden come misura di sicurezza generale e i rivenditori negli Stati Uniti hanno sperimentato la tecnologia per rintracciare sia gli acquirenti legittimi sia i taccheggiatori .
- Nel 2019, un proprietario di New York ha provato a installarlo per sostituire le chiavi e diverse scuole hanno provato lo stesso .
- Oggi, una manciata di città – San Francisco , Oakland e Berkeley in California, oltre a Boston e Somerville in Massachusetts – hanno vietato l’uso del riconoscimento facciale da parte delle entità governative. Il paese ha anche visto il primo caso noto di un falso positivo che ha portato a un arresto negli Stati Uniti. Dopo che Black Lives Matter ha iniziato le proteste contro la brutalità della polizia a giugno, diversi grandi fornitori di riconoscimento facciale, tra cui Amazon, IBM e Microsoft, hanno interrotto la vendita della loro tecnologia alle forze dell’ordine.
Tuttavia, altri, nuovi giocatori sono entrati nell’arena. Clearview AI ha fatto notizia all’inizio del 2020 quando il New York Times ha rivelato che la società eseguiva regolarmente il suo software di riconoscimento confrontandolo con un database di foto scaricate da fonti su Internet, inclusi social media, siti di notizie e siti di lavoro – anche Wirecutter e molti altri , sono stati in grado di confermare con i test, in un processo utilizzato per identificare i sospetti. Nel maggio 2020, l’ACLU ha annunciato una causa contro Clearview AI nel tribunale statale dell’Illinois sostenendo di aver violato i diritti alla privacy dei residenti dell’Illinois ai sensi del BIPA. Clearview AI è un caso anomalo solo in quanto ha affrontato il controllo pubblico: società di software ugualmente meno etiche esistono, aziende che venderanno i loro software alle forze dell’ordine locali, di solito senza supervisione o controllo pubblico sulla provenienza delle foto o sul funzionamento degli algoritmi di identificazione.
Gli argomenti a favore e contro il riconoscimento facciale
I fautori del riconoscimento facciale suggeriscono che il software è utile perché, oltre a identificare i sospetti, può monitorare i criminali noti e aiutare a identificare i bambini vittime di abusi . In mezzo alla folla, potrebbe monitorare i sospetti in occasione di grandi eventi e aumentare la sicurezza negli aeroporti o ai valichi di frontiera. Il tipo più complesso di software di riconoscimento facciale esegue una foto attraverso un database controllato dal governo, come il database dell’FBI di oltre 400 milioni di foto , che include patenti di guida di alcuni stati, per identificare un sospetto. I dipartimenti di polizia locali utilizzano una varietà di software di riconoscimento facciale, spesso acquistati da società private .
C’è una lunga lista di vantaggi che il riconoscimento facciale può offrire al di fuori delle forze dell’ordine, aggiungendo praticità o sicurezza alle cose e alle esperienze di tutti i giorni. Il riconoscimento facciale è utile per organizzare le foto, utile per proteggere dispositivi come laptop e telefoni e utile per aiutare le comunità non vedenti e ipovedenti . Può essere un’opzione più sicura per l’ingresso in luoghi di lavoro, la protezione dalle frodi presso gli sportelli automatici, la registrazione di eventi o l’accesso agli account online. Le applicazioni pubblicitarie e commerciali di riconoscimento facciale promettono una vasta gamma di presunti benefici , incluso il monitoraggio del comportamento dei clienti in un negozio per personalizzare gli annunci online.
I Contrari non pensano che questi benefici valgano i rischi per la privacy, né si fidano dei sistemi o delle persone che li gestiscono. Il primo punto di contesa risiede nell’atto stesso della raccolta: è molto facile per le forze dell’ordine raccogliere foto ma quasi impossibile per il pubblico evitare di farsi fotografare. Le foto segnaletiche, ad esempio, si verificano all’arresto ma prima della condanna. Anche i tassi di errore nel riconoscimento sono problematici, sia in senso di falso positivo, in cui una persona innocente viene identificata erroneamente, sia in senso falso negativo, in cui una persona colpevole non viene identificata.
Il software di riconoscimento facciale utilizzato dalle forze dell’ordine non è attualmente disponibile per l’audit pubblico e gli algoritmi che alimentano il software di rilevamento e identificazione sono spesso sistemi proprietari chiusi a cui i ricercatori non possono partecipare. Quando il pubblico non sa come funzionano questi sistemi di riconoscimento facciale o quanto sono precisi, non sa se questi sistemi vengono utilizzati in modo appropriato, specialmente dalle forze dell’ordine. Joseph Flores, uno sviluppatore di software che nel tempo libero utilizza l’apprendimento automatico per progetti artistici, ha spiegato come spesso distorca intenzionalmente i suoi set di dati per produrre i risultati che desidera, qualcosa che le forze dell’ordine potrebbero anche fare.
Un altro problema crescente è l’interesse delle forze dell’ordine per il riconoscimento in tempo reale nei feed di video in diretta o nei filmati delle telecamere della polizia. Ma anche città che sono andate avanti con entusiasmo con la tecnologia, come Orlando, in Florida, dove il dipartimento di polizia ha utilizzato il software Rekognition di Amazon per tentare di identificare i sospetti in tempo reale dai flussi video, ha ricominciato questi sforzi dopo che la tecnologia non è riuscita ad attendere le aspettative. Ma solo perché il riconoscimento facciale in tempo reale soffre ancora di singhiozzi su larga scala nei test dal vivo non significa che non si diffonderà in futuro. L’idea è così spaventosa per alcune comunità che la pratica è già temporaneamente vietata in California, Oregon e New Hampshire.
Il futuro del riconoscimento facciale e della regolamentazione
In generale, il futuro del riconoscimento facciale può assumere una delle tre forme possibili: nessuna regolamentazione, qualche regolamentazione e divieto.
Nessuna regolamentazione
Gli episodi di Black Mirror che illustrano un mondo privo di regolamentazione del riconoscimento facciale si scrivono da soli. Brenda Leong ha fornito alcuni esempi: “È molto facile creare futuri molto orwelliani, in cui ti seguono ovunque tu vada perché le telecamere sono ovunque. Se sei uno studente, potrebbe letteralmente vedere se sei concentrato sul tuo lavoro piuttosto che sognare ad occhi aperti. Se sei un dipendente, monitora il tuo impegno sul computer o comunica se sei andato via. ” L’elenco delle possibilità di sorveglianza è pressoché infinito, con il “Punteggio di credito sociale” della Cina o l’ uso da parte delle forze di polizia di Londra delle telecamere di riconoscimento facciale in tempo reale che offrono uno scorcio di una realtà particolarmente cupa.
Regole
Al momento della stesura di questo documento, esiste una proposta di legge degli Stati Uniti a livello federale che vieta l’uso alla polizia e all’FBI del riconoscimento facciale, nonché un’altra che consente eccezioni con un mandato . Ancora un altro disegno di legge richiede alle aziende di chiedere il consenso prima di utilizzare pubblicamente il software di riconoscimento facciale, e ancora un altro ne vieta l’uso nelle case popolari.
Quando qualcuno parla di regolare il riconoscimento facciale, deve dividere l’idea in due parti: regolare l’uso commerciale e regolare l’uso del governo, incluso quello delle forze dell’ordine.
Per uso commerciale, sottolinea Leong, la principale spinta della regolamentazione relativa a qualsiasi caratteristica commerciale – un programma di fidelizzazione, l’accesso ai parchi a tema VIP o qualsiasi altra cosa – dovrebbe essere il consenso. Il riconoscimento facciale “non dovrebbe mai essere il valore predefinito”, afferma. “Non dovrebbe mai far parte dei termini standard di servizio o della politica sulla privacy.” Il modo più semplice per vedere come tale regolamento potrebbe funzionare nella pratica a livello federale è quello di esaminare il BIPA dell’Illinois, che richiede il consenso prima che un’entità possa raccogliere e utilizzare i dati biometrici (compresi i faceprint) e imporre requisiti per la memorizzazione di tali dati.
L’elenco delle possibilità di sorveglianza è pressoché infinito.
Il consenso può essere difficile, però. Una cosa è chiedere a un negozio se vuoi saltare la visualizzazione del tuo ID di accesso e un’altra quando il negozio utilizza questa tecnologia per tracciare i taccheggiatori in tutte le sue sedi in franchising. Ad esempio, il Jennifer Lynch del FEP indica un recente caso di un quartiere degli affari a Londra in cui una società ha collocato telecamere in un’area a conduzione privata attraversata da persone che lavoravano nelle vicinanze: “Le persone sono avvisate dalla segnaletica”, dice Lynch. “E così le persone sanno che quando camminano in quest’area il loro viso viene registrato e catturato, ma non credo davvero che le persone possano effettivamente dare un consenso significativo in quella situazione. Se lavori in quella zona, potresti non avere la possibilità di non passare da lì”.
Quando si tratta dell’uso del riconoscimento facciale da parte del governo, gli approcci politici proposti divergono. Leong afferma che sebbene il focus principale del Future of Privacy Forum sia sull’uso commerciale del riconoscimento facciale, il gruppo vorrebbe vedere anche la regolamentazione dell’uso del governo. “Vorremmo davvero vedere una guida normativa palese e intenzionale su come il governo può e dovrebbe usare il riconoscimento facciale”, afferma, “anche se si tratta solo di cose come essere molto chiari su quali livelli di mandato o probabile causa sono richiesti per le agenzie per accedervi. “
Altri gruppi, incluso il FEP, non pensano che la regolamentazione delle forze dell’ordine possa andare abbastanza lontano.
Banning
Lynch, insieme al FEP, sostiene che la regolamentazione non è sufficiente. “Stiamo spingendo per un divieto o almeno una moratoria a livello federale, statale e locale sull’uso da parte del governo del riconoscimento facciale”, afferma Lynch. “È una tecnologia davvero rivoluzionaria e penso che siamo in un punto chiave della storia in cui potremmo impedire un ampio uso da parte del governo del riconoscimento facciale”.
Anche se il riconoscimento facciale affronta il suo problema di diversità, ci sono ancora troppi potenziali problemi riguardanti il modo in cui viene utilizzato. “Le industrie di sicurezza e di polizia sono basate su questa idea che i neri sono pericolosi”, afferma Mutale Nkonde. “E così, quando si pensa a strumenti per la polizia o strumenti per la sicurezza, ci sarà questa distribuzione sproporzionata contro i neri.” Ecco perché Nkonde supporta il divieto assoluto dell’uso del software: “Vorrei vedere un divieto sui soggetti umani, solo perché penso che i compromessi sulla privacy siano troppo grandi.”
Suggerimenti sulla privacy per l’uso delle cose di tutti i giorni con il riconoscimento facciale
Sebbene i cambiamenti di politica, sotto forma di regolamentazione o divieti, offrano il modo più chiaro di procedere su scala nazionale, l’attuazione di tali cambiamenti richiede tempo. Nel frattempo, ci sono modi più immediati ma non insignificanti di interagire quotidianamente con il riconoscimento facciale su cui vale la pena riflettere profondamente.
“Penso che la cosa in questione e il luogo in cui le distinzioni sono un po ‘sfocate è che più usiamo il riconoscimento facciale, meno iniziamo a pensarlo, meno lo consideriamo rischioso nel mondo, più ci abituiamo ad esso “, dice Lynch.
- Che dire del riconoscimento facciale in Google Foto o Apple Photos? Con L’organizzazione fotografica è stata la prima volta che molte persone hanno visto il riconoscimento facciale in azione. Apple ha fatto un grande lavoro nel descrivere come i suoi dati di riconoscimento facciale in Foto vengono eseguiti sul dispositivo (PDF) . Questa tecnologia è più privata di un server cloud, ma è anche meno accurata del software basato su cloud. Il raggruppamento dei volti in Google Foto può essere molto accurato, ma l’ampia gamma di servizi e dispositivi di Google fa capire che l’azienda tende a condividere i dati liberamente attraverso i servizi che fornisce . Nel 2016, Google è stato citato in giudizio in Illinois per l’uso del riconoscimento facciale, ma quella causa è stata successivamente respinta. Sebbene la possibilità di organizzare le foto per volti utilizzando la funzione di riconoscimento facciale in un’app per foto offra vantaggi quantificabili, è necessario considerare un compromesso sulla privacy. È difficile sapere esattamente come un’azienda potrebbe utilizzare impropriamente i tuoi dati; questo è stato il caso della società di archiviazione fotografica Ever, i cui clienti hanno addestrato l’algoritmo Ever AI senza accorgersene. Puoi disabilitare il raggruppamento dei volti in Google Foto . Non puoi disattivare la funzione corrispondente nell’app Foto di Apple, ma se non entri attivamente e colleghi una foto a un nome, i dati di riconoscimento non lasceranno mai il tuo dispositivo.
- Che mi dici di Facebook? Probabilmente Facebook ha il più grande set di dati facciali mai assemblato , e se Facebook ha dimostrato qualcosa nel corso degli anni, è che le persone non dovrebbero fidarsi della società. Facebook ha recentemente accettato di pagare $ 550 milioni per risolvere una causa in Illinois sul suo sistema di tagging delle foto. Ecco come disattivare.
- Che ne dici di utilizzarlo per sbloccare un telefono o un computer? Lo sblocco facciale avviene in genere solo sul dispositivo stesso e tali dati non vengono mai caricati su un server o aggiunti a un database.
- Che dire del riconoscimento facciale nelle telecamere di sicurezza domestiche? I sistemi dietro le telecamere di sicurezza mancano di un chiaro consenso quando registrano, spesso in violazione delle leggi locali sulla privacy, un problema etico che molte persone trascurano di considerare . Al momento, solo una manciata di telecamere di sicurezza domestiche include il riconoscimento facciale, inclusa la scelta di aggiornamento del campanello intelligente di Wirecutter , Nest Hello di Google. Tuttavia, il rilevamento dei volti sulle videocamere Nest è disattivato per impostazione predefinita . Ancora più preoccupante per i sostenitori della privacy è la potenziale inclusione del riconoscimento facciale con le telecamere Ring , un sistema che condivide i dati con la polizia attraverso la sua app Neighbours.
- Devi preoccuparti di quelle app per il cambiare il volto che esplodono una volta all’anno? L’app più recente in quest’arena è stata FaceApp, che ha guadagnato popolarità consentendo alle persone di vedersi invecchiate. Sebbene la società affermi che non utilizza l’app per addestrare il software di riconoscimento facciale , è difficile sapere cosa potrebbe accadere con i dati raccolti dall’app se l’azienda viene venduta. Lo stesso vale per qualunque sia la prossima versione di FaceApp. È meglio diffidare di questo tipo di software.
- Il riconoscimento facciale può identificarti se indossi una maschera? Non è probabile in questo momento ma potrebbe esserlo in futuro. Una società in Cina è stata in grado di far funzionare il riconoscimento facciale sul 95% delle personde che indossavano maschere , ma questo software specifico è stato progettato per database su piccola scala di circa 50.000 dipendenti. Le aziende si stanno impegnando per risolvere questo problema .
La conversazione della politica sulla tecnologia probabilmente non andrà da nessuna parte per molto tempo. Come ogni tecnologia, il riconoscimento facciale è di per sé solo un software, ma il modo in cui la società lo utilizza è ciò che conta: “È il modo in cui lo strumento influisce sui nostri diritti civili e umani che è la chiave della discussione.