Etica del riconoscimento facciale: problemi chiave e soluzioni

Il riconoscimento facciale è considerato una delle affascinanti meraviglie tecnologiche.

Giustamente, dal momento che può riconoscere un volto umano da una foto, da un video o in tempo reale. I sistemi di riconoscimento delle immagini hanno fatto molta strada dal loro inizio all'adozione nelle forze dell'ordine e all'uso diffuso nei dispositivi di consumo in termini di precisione, velocità e algoritmi.

Date le numerose controversie che circondano l'etica del riconoscimento facciale, come la frode d'identità e le preoccupazioni di invasione della privacy espresse da critici e sostenitori della privacy, siamo accolti con la domanda da un milione di dollari: il riconoscimento facciale ha bisogno di una resa dei conti etica per renderlo più equo e d'impatto?

Quali sono i problemi etici dell'utilizzo della tecnologia di riconoscimento facciale?

Negli ultimi anni, i critici hanno messo in dubbio l'accuratezza e il ruolo dei sistemi di riconoscimento facciale nella frode di identità. Le forze dell'ordine hanno erroneamente implicato persone innocenti in rivolte in diversi casi. Inoltre, la gestione e l'archiviazione dell'identità rimangono discutibili per molti, ossessionanti sostenitori della privacy in tutto il mondo. Sembra complicato, vero?

Fonte: AMA Journal of Ethics

Le prime sei preoccupazioni etiche relative ai sistemi di riconoscimento facciale includono pregiudizi razziali e disinformazione, discriminazione razziale nelle forze dell'ordine, privacy, mancanza di consenso informato e trasparenza, sorveglianza di massa, violazioni dei dati e supporto legale inefficiente. Esaminiamo ciascuno di essi in dettaglio.

1. Distorsioni razziali dovute a inesattezze dei test

Il pregiudizio razziale rimane una delle principali preoccupazioni dei sistemi di riconoscimento facciale. Sebbene gli algoritmi di riconoscimento facciale garantiscano un'accuratezza della classificazione superiore al 90%, questi risultati non sono universali.

Sviluppi preoccupanti che sfidano l'etica del riconoscimento facciale sono emersi più e più volte nel recente passato. Più della metà degli adulti americani, ovvero quasi 117 milioni di persone, ha foto sulla rete di riconoscimento facciale delle forze dell'ordine. Tuttavia, è inquietante che gli errori rilevati nel sistema di riconoscimento facciale fossero più comuni sui volti con la pelle scura, ma meno errori quando si abbinavano i volti con la pelle chiara.

Nel luglio 2020, il National Institute of Standards and Technology (NIST) ha condotto valutazioni indipendenti per confermare questi risultati. Ha riferito che le tecnologie di riconoscimento facciale per 189 algoritmi hanno mostrato pregiudizi razziali nei confronti delle donne di colore. Il NIST ha anche concluso che anche i migliori algoritmi di riconoscimento facciale studiati non sono stati in grado di identificare correttamente una persona che indossa una maschera quasi il 50% delle volte.

2. Discriminazione razziale nelle forze dell'ordine

In una recente rivelazione, il governo federale degli Stati Uniti ha pubblicato un rapporto che conferma i problemi di discriminazione nei suoi algoritmi di riconoscimento facciale. Il suo sistema di solito funzionava efficacemente per i volti dei maschi bianchi di mezza età, ma male per le persone di colore, gli anziani, le donne e i bambini. Questi algoritmi razzisti e inclini a errori possono causare il caos, inclusi arresti illeciti, lunghe incarcerazioni e persino violenze mortali da parte della polizia.

Le forze dell'ordine come la polizia del Campidoglio degli Stati Uniti si affidano a database di foto segnaletiche per identificare le persone utilizzando algoritmi di riconoscimento facciale. Ciò porta a un ciclo di feed-forward, in cui le strategie di polizia razziste si traducono in arresti sproporzionati e innocenti.

Nel complesso, i dati di riconoscimento facciale sono imperfetti. Potrebbe comportare sanzioni per i reati non commessi. Ad esempio, un leggero cambiamento nell'angolazione o nell'aspetto della telecamera, come una nuova pettinatura, può causare errori.

3. Riservatezza dei dati

La privacy è una delle preoccupazioni del pubblico in generale, principalmente a causa della mancanza di trasparenza nel modo in cui le informazioni vengono archiviate e gestite. Il riconoscimento facciale viola il diritto intrinseco dei cittadini di essere costantemente sotto la sorveglianza del governo e di conservare le proprie immagini senza consenso.

Nel 2020, la Commissione europea ha vietato la tecnologia di riconoscimento facciale negli spazi pubblici per un massimo di cinque anni per apportare modifiche al proprio quadro giuridico e includere linee guida sulla privacy e sull'abuso etico.

I problemi di privacy relativi al riconoscimento facciale riguardano pratiche di archiviazione dei dati non protette che potrebbero esporre i dati di riconoscimento facciale e altre potenziali minacce alla sicurezza. La maggior parte delle organizzazioni continua a ospitare i propri dati facciali su server locali, causando vulnerabilità di sicurezza e mancanza di professionisti della sicurezza IT per garantire la sicurezza della rete.

Le tecnologie di riconoscimento facciale possono garantire la massima sicurezza dei dati quando sono ospitate sul cloud. Tuttavia, l'integrità dei dati può essere garantita solo attraverso un'adeguata crittografia. L'impiego di personale IT per la sicurezza informatica è essenziale per una corretta archiviazione dei dati, fornendo al contempo il controllo dei consumatori per migliorare la responsabilità e prevenire il traffico dannoso.

Sul lato positivo, i prodotti di consumo dotati di tecnologie di riconoscimento facciale sono meno controversi, data la possibilità di disabilitare o non utilizzare la funzione. Tuttavia, le aziende di beni di consumo sono ancora vittime di divieti a causa dell'erosione della privacy. Ma continuano a offrire prodotti carichi di tecnologia facciale commercializzandoli come funzionalità di sicurezza avanzata.

La determinazione a intraprendere la strada legale è aperta ai dispositivi che consentono a una vittima di chiedere un risarcimento finanziario per la violazione della privacy. Ad esempio, il gigante dei social media Facebook ha risolto una causa collettiva da 650 milioni di dollari in Illinois per aver raccolto foto non pubblicamente disponibili per il riconoscimento facciale.

Tuttavia, la privacy è ancora un problema per le forze dell'ordine che utilizzano la tecnologia di riconoscimento facciale per monitorare, scansionare e tracciare i cittadini a loro insaputa per la sicurezza e la sicurezza pubblica. Ciò ha scatenato numerose proteste che chiedono regolamenti più rigidi per dare ai cittadini un maggiore controllo sulla partecipazione e sulla trasparenza in merito allo stoccaggio e alla governance.

4. Mancanza di consenso informato e trasparenza

La privacy è un problema con qualsiasi forma di data mining, in particolare online, in cui la maggior parte delle informazioni raccolte è anonimizzata. Gli algoritmi di riconoscimento facciale funzionano meglio se testati e addestrati su grandi set di dati di immagini, idealmente acquisiti più volte in diverse condizioni di illuminazione e angolazioni.

Le maggiori fonti di immagini sono i siti online, in particolare le immagini pubbliche di Flickr, caricate con licenze di copyright che consentono un riutilizzo liberale e talvolta piattaforme di social media illegittime.

Gli scienziati della Microsoft Research con sede a Washington hanno accumulato il set di dati più grande del mondo, MSCeleb5, contenente quasi 10 milioni di immagini di 100.000 persone, inclusi musicisti, giornalisti e accademici, prelevate da Internet.

Nel 2019, il sito Web dell'artista berlinese Adam Harvey chiamato MegaPixels ha segnalato questi e altri set di dati. Insieme a un tecnologo e programmatore, Jules LaPlace, ha mostrato che la maggior parte dei caricatori aveva condiviso apertamente le proprie foto. Ma venivano usati in modo improprio per valutare e migliorare i prodotti di sorveglianza commerciale.

5. Sorveglianza di massa

Se utilizzato insieme a telecamere e analisi dei dati onnipresenti, il riconoscimento facciale porta a una sorveglianza di massa che potrebbe compromettere la libertà dei cittadini e i diritti alla privacy. Mentre la tecnologia di riconoscimento facciale aiuta i governi con le forze dell'ordine rintracciando i criminali, compromette anche i diritti fondamentali alla privacy di persone normali e innocenti.

Di recente, la Commissione europea ha ricevuto una lettera aperta da 51 organizzazioni che chiedevano il divieto generale di tutti gli strumenti di riconoscimento facciale per la sorveglianza di massa. In un'altra svolta degli eventi, più di 43.000 cittadini europei hanno firmato una petizione Reclaim Your Face chiedendo il divieto delle pratiche di sorveglianza di massa biometrica nell'UE.

La recente ondata di eventi ha messo in discussione l'etica della tecnologia di riconoscimento facciale a causa dell'uso indisciplinato dell'intelligenza artificiale (AI) per manipolare e minacciare persone, agenzie governative e democrazia collettiva.

L'intelligenza artificiale e l'apprendimento automatico (ML) sono tecnologie dirompenti che possono sfruttare tecnologie di riconoscimento facciale sicure. È importante tracciare linee rosse prima che vengano utilizzati in modo improprio per furto di identità e frode.

6. Violazioni dei dati e supporto legale inefficace

Le violazioni dei dati possono sollevare seri problemi di privacy sia per il pubblico che per il governo.

Sebbene le violazioni della sicurezza siano una delle principali preoccupazioni per i cittadini, lo sviluppo di questa tecnologia ha portato a progressi nella sicurezza informatica e a un maggiore utilizzo dello storage basato su cloud. Con il livello aggiuntivo di sicurezza come la crittografia, i dati archiviati nel cloud possono essere protetti da usi dannosi.

Alla conferenza annuale degli hacker Black Hat organizzata dai ricercatori di sicurezza a Las Vegas, gli hacker hanno violato l'autenticazione dell'utente FaceID dell'iPhone di Apple in soli 120 secondi.

Tali eventi aumentano la vulnerabilità dei dati archiviati per gli hacker, il che alla fine aumenta la probabilità di furto di Face ID in reati gravi. Le vittime di furti facciali hanno relativamente meno opzioni legali da perseguire.

Il regolamento generale sulla protezione dei dati (GDPR) dell'UE non fornisce ai ricercatori una base giuridica per raccogliere foto dei volti delle persone per la ricerca biometrica senza il loro consenso. Gli Stati Uniti hanno leggi diverse sull'utilizzo delle informazioni biometriche di un individuo senza il suo consenso.

Come utilizzare gli strumenti di riconoscimento facciale in modo etico

Gli utenti del riconoscimento facciale possono adottare i seguenti principi proposti dall'American Civil Liberties Union (ACLU) per garantire un uso etico di questa tecnologia:

• Raccolta: le istituzioni dovrebbero ottenere il consenso informato e scritto dei cittadini prima di includere i loro dati biometrici nella banca dati sul riconoscimento facciale.
• Utilizzo: gli utenti devono astenersi dall'utilizzare sistemi di riconoscimento facciale per determinare il colore della pelle, la razza, la religione, l'origine nazionale, il sesso, l'età o la disabilità di un individuo.
• Divulgazione: i risultati di un sistema di riconoscimento facciale non devono essere scambiati o condivisi senza il consenso informato e scritto dell'interessato.
• Accesso: i cittadini dovrebbero avere il diritto di accedere, modificare ed eliminare le proprie informazioni facciali, insieme alle registrazioni di eventuali modifiche apportate ai dati.
• Uso improprio: le organizzazioni che ospitano documenti pubblicamente disponibili relativi all'identità di un individuo dovrebbero adottare misure proattive e controlli appropriati per impedire che il loro uso improprio crei un database di impronte facciali. Alcune misure includono la limitazione dell'accesso automatizzato ai database sensibili e la richiesta contrattualmente ai partner di aderire a linee guida sull'utilizzo etico.
• Sicurezza: le organizzazioni dovrebbero disporre di professionisti della sicurezza dedicati per ospitare, gestire e proteggere le informazioni di riconoscimento facciale.
• Responsabilità: gli utenti finali devono mantenere una pista di controllo che includa i dettagli sulla raccolta, l'uso e la divulgazione delle informazioni insieme alla data e all'ora e ai dettagli degli utenti che richiedono le informazioni.
• Accesso del governo: le organizzazioni possono concedere al governo l'accesso a informazioni riservate ai sensi del Data Protection Act 1974 o al ricevimento di un mandato di probabile causa.
• Trasparenza: le organizzazioni devono definire politiche per la conformità e l'utilizzo dei dati offrendo al contempo le misure tecniche necessarie per verificare la responsabilità.

Esempi di uso etico della tecnologia di riconoscimento facciale

La tecnologia di riconoscimento facciale è al centro della maggior parte delle aziende tecnologiche che si concentrano sulla sicurezza dei clienti proteggendo i propri sistemi da potenziali minacce alla sicurezza. Esaminiamo tre di questi esempi di aziende che utilizzano il riconoscimento facciale in modo etico.

IBM

Il gigante della tecnologia IBM ha imposto restrizioni radicali alle vendite della sua tecnologia di riconoscimento facciale per la regolamentazione federale negli Stati Uniti. Inoltre, IBM ha proposto raccomandazioni specifiche al Dipartimento del Commercio degli Stati Uniti per imporre restrizioni più severe all'esportazione di sistemi di riconoscimento facciale in alcuni casi.

Ha anche spinto per una regolamentazione di precisione, una mossa per imporre restrizioni più severe agli usi finali e agli utenti che potrebbero causare danni significativi alla società. Ha anche proposto sei modifiche al modo in cui le tecnologie di riconoscimento facciale funzionano per trovare corrispondenze, tra cui:

• Limitazione delle tecnologie di riconoscimento facciale che utilizzano usi finali corrispondenti "da 1 a molti" per la sorveglianza di massa, la profilazione razziale e altre aree sensibili che potrebbero violare i diritti umani
• Limitare l'esportazione di sistemi "da 1 a molti" controllando l'esportazione di telecamere ad alta risoluzione e algoritmi utilizzati per raccogliere e analizzare i dati rispetto a un database
• Imporre restrizioni a determinati governi stranieri che acquistano componenti di cloud computing su larga scala per sistemi integrati di riconoscimento facciale.
• Limitazione dell'accesso ai database di immagini online che possono essere utilizzati per addestrare sistemi di riconoscimento facciale da 1 a molti
• Aggiornare gli ultimi documenti sui diritti umani dai gruppi di lotta alla criminalità del Dipartimento del Commercio e implementare il controllo più rigoroso sull'esportazione di tecnologie di riconoscimento facciale che supportano i sistemi di corrispondenza "1-to-many"
• Infine, limitare la capacità dei regimi repressivi di procurarsi tecnologie controllate oltre i confini degli Stati Uniti attraverso meccanismi come gli Accordi di Wassenaar

Microsoft

Microsoft ha stabilito diversi principi per affrontare le questioni etiche dei sistemi di riconoscimento facciale. Ha rilasciato risorse di formazione e nuovi materiali per aiutare i suoi clienti a diventare più consapevoli dell'uso etico di questa tecnologia.

Oltre a lavorare a stretto contatto con i propri clienti, Microsoft sta lavorando duramente per migliorare la capacità della tecnologia di riconoscere i volti in un'ampia gamma di età e tonalità della pelle. Le tecnologie di riconoscimento facciale di Microsoft sono state recentemente valutate dal NIST, che ha riferito che i suoi algoritmi sono stati valutati come i più accurati o quasi i più accurati in 127 test.

Microsoft sta spingendo per nuove leggi per affrontare la trasparenza e test e confronti di terze parti. Per incoraggiare la trasparenza, Microsoft propone che le aziende tecnologiche forniscano documentazione e servizi di riconoscimento facciale per delineare le capacità e i limiti della tecnologia.

Ha inoltre evidenziato la necessità di una legislazione per assumere fornitori di terze parti per testare in modo indipendente i fornitori di servizi commerciali di riconoscimento facciale e pubblicare i loro risultati per affrontare le questioni relative a pregiudizi e discriminazioni.

Amazon

Nel 2020, Amazon ha imposto una moratoria di un anno sull'uso da parte delle forze dell'ordine della sua tecnologia di riconoscimento facciale "Amazon Rekognition". Inoltre, Amazon ne ha convalidato l'uso in scenari di pubblica sicurezza e forze dell'ordine per restringere le potenziali corrispondenze.

Amazon ha anche richiesto un brevetto per ricercare livelli di autenticazione aggiuntivi per garantire la massima sicurezza. Alcuni di questi includono chiedere agli utenti di eseguire azioni come sorridere, sbattere le palpebre o inclinare la testa.

Il riconoscimento facciale è invasivo?

I principali problemi e fallimenti della tecnologia di riconoscimento facciale derivano dalla mancanza di avanzamento, dalla diversità dei set di dati e dalla gestione inefficiente del sistema. Tuttavia, l'adozione di alcuni principi etici può evitare di renderla invasiva.

Eliminare l'imparzialità nel riconoscimento facciale per prevenire o ridurre al minimo i pregiudizi correggendo i problemi nelle applicazioni delle forze dell'ordine, fornendo trasparenza su come funziona l'intelligenza artificiale internamente, facendo rispettare la responsabilità delle parti interessate, monitorando con consenso e preavviso e adottando una legislazione più rigorosa per evitare violazioni dei diritti umani.

La tecnologia di riconoscimento facciale ha un potenziale infinito per varie applicazioni nelle esigenze del mondo reale. Tuttavia, affrontare le preoccupazioni etiche di questa tecnologia è fondamentale per renderla un vantaggio per l'umanità.

Cosa fare in caso di incidente di sicurezza? Gestiscilo e gestiscilo con la risposta agli incidenti per limitare i danni e risparmiare tempo e denaro.