Etica recunoașterii faciale: probleme cheie și soluții

Recunoașterea facială este considerată una dintre minunile tehnologice fascinante.

Pe bună dreptate, deoarece poate recunoaște o față umană dintr-o fotografie, videoclip sau în timp real. Sistemele de recunoaștere a imaginilor au parcurs un drum lung de la începuturi până la adoptarea în forțele de ordine și la utilizarea pe scară largă în dispozitivele de consum în ceea ce privește precizia, viteza și algoritmii.

Având în vedere numeroasele controverse legate de etica recunoașterii faciale, cum ar fi frauda de identitate și preocupările privind invadarea confidențialității exprimate de criticii și susținătorii confidențialității, suntem întâmpinați cu întrebarea de un milion de dolari: recunoașterea facială are nevoie de o evaluare etică pentru a o face mai echitabilă și de impact?

Care sunt problemele etice ale utilizării tehnologiei de recunoaștere facială?

În ultimii ani, criticii au pus la îndoială acuratețea și rolul sistemelor de recunoaștere facială în frauda de identitate. Agențiile de aplicare a legii au implicat în mod eronat oameni nevinovați în revolte în mai multe cazuri. În plus, gestionarea și stocarea identității rămân îndoielnice pentru mulți, bântuind susținătorii confidențialității din întreaga lume. Pare complicat, nu-i așa?

Sursa: AMA Journal of Ethics

Cele mai importante șase preocupări etice legate de sistemele de recunoaștere facială includ părtinirea rasială și dezinformarea, discriminarea rasială în aplicarea legii, confidențialitatea, lipsa consimțământului informat și a transparenței, supravegherea în masă, încălcarea datelor și suport juridic ineficient. Să examinăm fiecare dintre ele în detaliu.

1. Prejudecăți rasiale din cauza inexactităților de testare

Prejudecățile rasiale rămâne una dintre preocupările cheie ale sistemelor de recunoaștere facială. Deși algoritmii de recunoaștere facială asigură o precizie de clasificare de peste 90%, aceste rezultate nu sunt universale.

Evoluții îngrijorătoare care provoacă etica recunoașterii faciale au apărut din nou și din nou în trecutul recent. Mai mult de jumătate dintre adulții americani, sau aproape 117 milioane de oameni, au fotografii în rețeaua de recunoaștere facială a forțelor de ordine. Cu toate acestea, este deranjant faptul că erorile detectate în sistemul de recunoaștere a feței au fost mai frecvente pe fețele cu piele întunecată, dar mai puține erori la potrivirea fețelor cu pielea deschisă.

În iulie 2020, Institutul Național de Standarde și Tehnologie (NIST) a efectuat evaluări independente pentru a confirma aceste rezultate. Acesta a raportat că tehnologiile de recunoaștere facială pentru 189 de algoritmi au arătat părtinire rasială față de femeile de culoare. NIST a concluzionat, de asemenea, că chiar și cei mai buni algoritmi de recunoaștere facială studiați nu au putut identifica corect o persoană care poartă mască în aproape 50% din timp.

2. Discriminarea rasială în aplicarea legii

Într-o revelație recentă, guvernul federal al Statelor Unite a lansat un raport care a confirmat problemele de discriminare în algoritmii săi de recunoaștere facială. Sistemul său a funcționat de obicei eficient pentru fețele bărbaților albi de vârstă mijlocie, dar slab pentru persoanele de culoare, bătrânii, femeile și copiii. Acești algoritmi părtinitori rasial, predispuși la erori pot face ravagii, inclusiv arestări pe nedrept, încarcerări îndelungate și chiar violență mortală a poliției.

Agențiile de aplicare a legii, cum ar fi Poliția Capitoliului Statelor Unite, se bazează pe baze de date cu fotografii pentru a identifica persoanele care folosesc algoritmi de recunoaștere facială. Acest lucru duce la o buclă de feed-forward, în care strategiile de poliție rasiste duc la arestări disproporționate și nevinovate.

În general, datele de recunoaștere facială sunt imperfecte. Ar putea duce la pedepse pentru infracțiunile necomite. De exemplu, o ușoară modificare a unghiului sau aspectului camerei, cum ar fi o nouă coafură, poate duce la erori.

3. Confidențialitatea datelor

Confidențialitatea este una dintre preocupările publicului larg, în principal din cauza lipsei de transparență în modul în care informațiile sunt stocate și gestionate. Recunoașterea facială încalcă dreptul inerent al cetățenilor de a fi sub supraveghere guvernamentală constantă și de a le păstra imaginile fără consimțământ.

În 2020, Comisia Europeană a interzis tehnologia de recunoaștere facială în spațiile publice timp de până la cinci ani pentru a aduce modificări cadrului lor legal și pentru a include linii directoare privind confidențialitatea și abuzul etic.

Preocupările privind confidențialitatea privind recunoașterea facială se referă la practicile de stocare a datelor nesecurizate care ar putea expune datele de recunoaștere facială și alte potențiale amenințări de securitate. Majoritatea organizațiilor continuă să-și găzduiască datele faciale pe servere locale, ceea ce duce la vulnerabilități de securitate și la lipsa profesioniștilor în securitate IT care să asigure securitatea rețelei.

Tehnologiile de recunoaștere facială pot asigura securitate maximă a datelor atunci când sunt găzduite pe cloud. Cu toate acestea, integritatea datelor poate fi garantată numai printr-o criptare adecvată. Implementarea personalului de securitate cibernetică IT este esențială pentru stocarea adecvată a datelor, oferind în același timp controlul consumatorilor pentru a îmbunătăți responsabilitatea și a preveni traficul rău intenționat.

Pe de altă parte, produsele de larg consum echipate cu tehnologii de recunoaștere facială sunt mai puțin controversate, având în vedere opțiunea de a dezactiva sau de a nu folosi funcția. Cu toate acestea, companiile de bunuri de larg consum sunt în continuare victime ale interdicțiilor din cauza erodării confidențialității. Dar continuă să ofere produse faciale încărcate de tehnologie prin comercializarea lor ca o caracteristică avansată de securitate.

Decizia de a merge pe calea legală este deschisă dispozitivelor care permit unei victime să solicite compensații financiare pentru încălcarea confidențialității. De exemplu, gigantul rețelelor sociale Facebook a soluționat un proces colectiv de 650 de milioane de dolari în Illinois pentru colectarea de fotografii care nu sunt disponibile public pentru recunoașterea facială.

Cu toate acestea, confidențialitatea este încă o problemă pentru agențiile de aplicare a legii care folosesc tehnologia de recunoaștere facială pentru a monitoriza, scana și urmări cetățenii fără știrea acestora pentru siguranța și securitatea publică. Acest lucru a stârnit numeroase proteste care cer reglementări mai stricte pentru a oferi cetățenilor mai mult control asupra participării și transparenței în ceea ce privește stocarea și guvernarea.

4. Lipsa consimțământului informat și a transparenței

Confidențialitatea este o problemă cu orice formă de extragere a datelor, în special online, unde majoritatea informațiilor colectate sunt anonimizate. Algoritmii de recunoaștere facială funcționează mai bine atunci când sunt testați și antrenați pe seturi mari de date de imagini, capturate în mod ideal de mai multe ori în condiții de iluminare și unghiuri diferite.

Cele mai mari surse de imagini sunt site-urile online, în special imaginile publice Flickr, încărcate sub licențe de drept de autor care permit reutilizarea liberală și, uneori, platformele de social media ilegitime.

Oamenii de știință de la Microsoft Research, cu sediul în Washington, au adunat cel mai mare set de date din lume, MSCeleb5, care conține aproape 10 milioane de imagini cu 100.000 de oameni, inclusiv muzicieni, jurnaliști și cadre universitare, extrase de pe internet.

În 2019, site-ul web al artistului Adam Harvey din Berlin, numit MegaPixels, a semnalat aceste și alte seturi de date. Împreună cu un tehnolog și programator, Jules LaPlace, a arătat că majoritatea celor care au încărcat și-au împărtășit în mod deschis fotografiile. Dar au fost folosite greșit pentru a evalua și îmbunătăți produsele comerciale de supraveghere.

5. Supraveghere în masă

Când este folosită împreună cu camerele ubicue și analiza datelor, recunoașterea facială duce la supraveghere în masă care ar putea compromite libertatea și drepturile de confidențialitate ale cetățenilor. În timp ce tehnologia de recunoaștere facială ajută guvernele în aplicarea legii prin urmărirea criminalilor, ea compromite și drepturile fundamentale de confidențialitate ale oamenilor obișnuiți și nevinovați.

Recent, Comisia Europeană a primit o scrisoare deschisă de la 51 de organizații care cer interzicerea tuturor instrumentelor de recunoaștere facială pentru supravegherea în masă. Într-o altă întorsătură a evenimentelor, peste 43.000 de cetățeni europeni au semnat o petiție Reclaim Your Face care cer interzicerea practicilor de supraveghere biometrică în masă în UE.

Recentele evenimente a provocat etica tehnologiei de recunoaștere facială din cauza utilizării nedisciplinate a inteligenței artificiale (AI) pentru a manipula și a amenința oamenii, agențiile guvernamentale și democrația colectivă.

AI și învățarea automată (ML) sunt tehnologii disruptive care pot folosi tehnologiile de recunoaștere facială sigure. Este important să trasați linii roșii înainte de a fi utilizate abuziv pentru furt de identitate și fraudă.

6. Încălcări ale datelor și suport juridic ineficient

Încălcările de date pot ridica probleme serioase de confidențialitate atât pentru public, cât și pentru guvern.

În timp ce încălcările de securitate reprezintă o preocupare majoră pentru cetățeni, dezvoltarea acestei tehnologii a condus la progrese în securitatea cibernetică și la creșterea utilizării stocării bazate pe cloud. Cu un strat suplimentar de securitate, cum ar fi criptarea, datele stocate pe cloud pot fi protejate de utilizarea rău intenționată.

La conferința anuală pentru hackeri Black Hat, organizată de cercetătorii în securitate din Las Vegas, hackerii au spart autentificarea utilizatorului iPhone FaceID de la Apple în doar 120 de secunde.

Astfel de evenimente cresc vulnerabilitatea datelor stocate în fața hackerilor, ceea ce în cele din urmă crește probabilitatea furtului Face ID în infracțiuni grave. Victimele furtului de față au relativ mai puține opțiuni legale de urmat.

Regulamentul general al UE privind protecția datelor (GDPR) nu oferă cercetătorilor un temei legal pentru a colecta fotografii ale fețelor oamenilor pentru cercetări biometrice fără consimțământul lor. Statele Unite au legi diferite cu privire la utilizarea informațiilor biometrice ale unei persoane fără consimțământul acesteia.

Cum să utilizați instrumentele de recunoaștere facială în mod etic

Utilizatorii de recunoaștere facială pot adopta următoarele principii propuse de Uniunea Americană pentru Libertăți Civile (ACLU) pentru a asigura utilizarea etică a acestei tehnologii:

• Colectare: instituțiile ar trebui să obțină consimțământul informat și scris din partea cetățenilor înainte de a include datele lor biometrice în baza de date de recunoaștere facială.
• Utilizare: utilizatorii ar trebui să se abțină de la utilizarea sistemelor de recunoaștere facială pentru a determina culoarea pielii, rasa, religia, originea națională, sexul, vârsta sau handicapul unei persoane.
• Dezvăluire: Rezultatele unui sistem de recunoaștere facială nu ar trebui să fie comercializate sau partajate fără consimțământul informat și scris al persoanei vizate.
• Acces: cetățenii ar trebui să aibă dreptul de a accesa, edita și șterge informațiile lor faciale, împreună cu înregistrările oricăror modificări aduse datelor.
• Utilizare greșită: organizațiile care găzduiesc înregistrări disponibile public legate de identitatea unui individ ar trebui să ia măsuri proactive și controale adecvate pentru a preveni utilizarea abuzivă de a construi o bază de date de imprimare facială. Unele măsuri includ restricționarea accesului automat la bazele de date sensibile și solicitarea contractuală a partenerilor să respecte regulile de utilizare etică.
• Securitate: organizațiile ar trebui să aibă profesioniști în securitate dedicați pentru a găzdui, gestiona și securiza informațiile de recunoaștere facială.
• Responsabilitate: utilizatorii finali trebuie să mențină o pistă de audit care să includă detalii de colectare, utilizare și dezvăluire a informațiilor, împreună cu marcajele de dată și oră și detaliile utilizatorilor care solicită informațiile.
• Acces guvernamental: organizațiile pot acorda guvernului acces la informații confidențiale în conformitate cu Legea privind protecția datelor din 1974 sau la primirea unui mandat pentru cauza probabilă.
• Transparență: Organizațiile trebuie să definească politici pentru conformitate și utilizarea datelor, oferind în același timp măsurile tehnice necesare pentru a verifica responsabilitatea.

Exemple de utilizare etică a tehnologiei de recunoaștere facială

Tehnologia de recunoaștere facială se află în centrul majorității companiilor de tehnologie care se concentrează pe siguranța clienților, protejând în același timp sistemele de potențiale amenințări de securitate. Să examinăm trei astfel de exemple de companii care utilizează recunoașterea facială în mod etic.

IBM

Gigantul tehnologic IBM a impus restricții ample asupra vânzărilor sale de tehnologie de recunoaștere facială pentru reglementări federale din Statele Unite. În plus, IBM a propus recomandări specifice Departamentului de Comerț al SUA pentru a impune restricții mai stricte asupra exportului de sisteme de recunoaștere facială în unele cazuri.

De asemenea, a făcut presiuni pentru o reglementare de precizie, o mișcare de a impune restricții mai stricte asupra utilizărilor finale și utilizatorilor care ar putea cauza prejudicii societale semnificative. De asemenea, a propus șase modificări în modul în care funcționează tehnologiile de recunoaștere facială pentru a găsi potriviri, inclusiv:

• Restricționarea tehnologiilor de recunoaștere facială care utilizează utilizări finale potrivite „1-la-mulți” pentru supravegherea în masă, profilarea rasială și alte domenii sensibile care ar putea încălca drepturile omului
• Limitarea exportului de sisteme „1-to-many” prin controlul exportului atât a camerelor de înaltă rezoluție, cât și a algoritmilor utilizați pentru a colecta și analiza date în raport cu o bază de date
• Impunerea de restricții asupra anumitor guverne străine care achiziționează componente de cloud computing la scară largă pentru sistemele integrate de recunoaștere facială.
• Restricționarea accesului la bazele de date de imagini online care pot fi utilizate pentru a antrena sisteme de recunoaștere a feței de la 1 la mulți
• Actualizarea celor mai recente înregistrări privind drepturile omului de la grupurile de luptă împotriva criminalității ale Departamentului de Comerț și implementarea celui mai strict control asupra exportului de tehnologii de recunoaștere facială care acceptă sisteme de potrivire „1-la-mulți”
• În sfârșit, limitarea capacității regimurilor represive de a procura tehnologii controlate dincolo de granițele SUA prin mecanisme precum Acordurile de la Wassenaar

Microsoft

Microsoft a stabilit mai multe principii pentru a aborda problemele etice ale sistemelor de recunoaștere facială. A lansat resurse de instruire și materiale noi pentru a-și ajuta clienții să devină mai conștienți de utilizarea etică a acestei tehnologii.

Pe lângă faptul că lucrează îndeaproape cu clienții săi, Microsoft lucrează din greu pentru a îmbunătăți capacitatea tehnologiei de a recunoaște fețele dintr-o gamă largă de vârste și tonuri de piele. Tehnologiile Microsoft de recunoaștere facială au fost evaluate recent de NIST, care a raportat că algoritmii săi au fost evaluați ca fiind cei mai precisi sau aproape cei mai precisi din 127 de teste.

Microsoft face eforturi pentru noi legi care să abordeze transparența și testarea și compararea de la terți. Pentru a încuraja transparența, Microsoft propune companiilor de tehnologie să furnizeze documente și servicii de recunoaștere facială pentru a delimita capacitățile și limitările tehnologiei.

De asemenea, a subliniat necesitatea unei legislații care să angajeze furnizori terți pentru a testa în mod independent furnizorii comerciali de servicii de recunoaștere facială și pentru a publica rezultatele acestora pentru a aborda problemele legate de părtinire și discriminare.

Amazon

În 2020, Amazon a impus un moratoriu de un an privind utilizarea de către forțele de ordine a tehnologiei sale de recunoaștere facială „Amazon Rekognition”. În plus, Amazon și-a validat utilizarea în scenarii de siguranță publică și de aplicare a legii pentru a restrânge potenţialele potriviri.

De asemenea, Amazon a solicitat un brevet pentru a cerceta straturi suplimentare de autentificare pentru a asigura securitatea maximă. Unele dintre acestea includ solicitarea utilizatorilor să efectueze acțiuni precum zâmbetul, clipirea sau înclinarea capului.

Este recunoașterea facială invazivă?

Principalele probleme și eșecuri ale tehnologiei de recunoaștere facială provin din lipsa de progres, diversitatea setului de date și gestionarea ineficientă a sistemului. Cu toate acestea, adoptarea unor principii etice poate evita ca aceasta să fie invazivă.

Eliminați imparțialitatea recunoașterii faciale pentru a preveni sau a minimiza părtinirea prin remedierea erorilor din aplicațiile de aplicare a legii, oferind transparență asupra modului în care funcționează inteligența artificială la nivel intern, impunând responsabilitatea părților interesate, monitorizând cu consimțământ și notificare prealabilă și adoptând o legislație mai strictă pentru a evita încălcarea drepturilor omului.

Tehnologia de recunoaștere facială are un potențial infinit pentru diverse aplicații în nevoile din lumea reală. Cu toate acestea, abordarea preocupărilor etice ale acestei tehnologii este vitală pentru a o face o binefacere pentru umanitate.

Ce să faci în cazul unui incident de securitate? Gestionați-l și gestionați-l cu răspuns la incident pentru a limita daunele și pentru a economisi timp și bani.