Etyka rozpoznawania twarzy: kluczowe problemy i rozwiązania

Rozpoznawanie twarzy jest uważane za jedno z fascynujących cudów techniki.

Słusznie, ponieważ potrafi rozpoznać ludzką twarz na zdjęciu, filmie lub w czasie rzeczywistym. Systemy rozpoznawania obrazu przeszły długą drogę od ich powstania do przyjęcia w organach ścigania i powszechnego stosowania w urządzeniach konsumenckich pod względem dokładności, szybkości i algorytmów.

Biorąc pod uwagę wiele kontrowersji związanych z etyką rozpoznawania twarzy, takich jak obawy o oszustwa związane z tożsamością i naruszenie prywatności wyrażane przez krytyków i zwolenników prywatności, wita nas pytanie za milion dolarów: czy rozpoznawanie twarzy wymaga etycznego rozliczenia, aby było bardziej sprawiedliwe i wpływ?

Jakie są etyczne kwestie związane z korzystaniem z technologii rozpoznawania twarzy?

W ostatnich latach krytycy kwestionowali dokładność systemów rozpoznawania twarzy i rolę w oszustwach dotyczących tożsamości. W kilku przypadkach organy ścigania błędnie wplątały niewinnych ludzi w zamieszki. Co więcej, zarządzanie tożsamością i przechowywanie danych pozostaje wątpliwe dla wielu nawiedzających zwolenników prywatności na całym świecie. Wydaje się skomplikowane, prawda?

Źródło: AMA Journal of Ethics

Sześć głównych problemów etycznych związanych z systemami rozpoznawania twarzy obejmuje uprzedzenia rasowe i dezinformację, dyskryminację rasową w egzekwowaniu prawa, prywatność, brak świadomej zgody i przejrzystości, masowy nadzór, naruszenia danych i nieefektywne wsparcie prawne. Przyjrzyjmy się szczegółowo każdemu z nich.

1. Uprzedzenia rasowe z powodu niedokładności testów

Uprzedzenie rasowe pozostaje jednym z głównych problemów systemów rozpoznawania twarzy. Chociaż algorytmy rozpoznawania twarzy zapewniają dokładność klasyfikacji na poziomie ponad 90%, wyniki te nie są uniwersalne.

Niepokojące zmiany, które podważają etykę rozpoznawania twarzy, pojawiały się raz po raz w niedalekiej przeszłości. Ponad połowa dorosłych Amerykanów, czyli prawie 117 milionów ludzi, ma zdjęcia w sieci rozpoznawania twarzy organów ścigania. Jednak niepokojące jest to, że błędy wykryte w systemie rozpoznawania twarzy występowały częściej na twarzach o ciemnej karnacji, ale mniej błędów podczas dopasowywania twarzy o jasnej karnacji.

W lipcu 2020 r. Narodowy Instytut Standardów i Technologii (NIST) przeprowadził niezależne oceny w celu potwierdzenia tych wyników. Poinformowano, że technologie rozpoznawania twarzy dla 189 algorytmów wykazały uprzedzenia rasowe w stosunku do kolorowych kobiet. NIST doszedł również do wniosku, że nawet najlepsze zbadane algorytmy rozpoznawania twarzy nie były w stanie poprawnie zidentyfikować osoby noszącej maskę w prawie 50% przypadków.

2. Dyskryminacja rasowa w egzekwowaniu prawa

W niedawnym ujawnieniu rząd federalny Stanów Zjednoczonych opublikował raport, który potwierdził problemy z dyskryminacją w algorytmach rozpoznawania twarzy. Jego system zwykle działał skutecznie na twarzach białych mężczyzn w średnim wieku, ale słabo na osoby kolorowe, osoby starsze, kobiety i dzieci. Te rasistowskie, podatne na błędy algorytmy mogą siać spustoszenie, w tym bezprawne aresztowania, długie więzienia, a nawet śmiertelną przemoc policji.

Organy ścigania, takie jak United States Capitol Police, polegają na bazach danych dotyczących zdjęć policyjnych, aby identyfikować osoby za pomocą algorytmów rozpoznawania twarzy. Prowadzi to do pętli sprzężenia zwrotnego, w której rasistowskie strategie policyjne prowadzą do nieproporcjonalnych i niewinnych aresztowań.

Ogólnie dane dotyczące rozpoznawania twarzy są niedoskonałe. Może to skutkować karami za nie popełnione przestępstwa. Na przykład niewielka zmiana kąta lub wyglądu kamery, taka jak nowa fryzura, może prowadzić do błędów.

3. Prywatność danych

Prywatność jest jedną z obaw opinii publicznej, głównie ze względu na brak przejrzystości w sposobie przechowywania i zarządzania informacjami. Rozpoznawanie twarzy narusza przyrodzone prawo obywateli do bycia pod stałą inwigilacją rządową i przechowywania ich wizerunków bez zgody.

W 2020 r. Komisja Europejska zakazała stosowania technologii rozpoznawania twarzy w przestrzeni publicznej na okres do pięciu lat, aby wprowadzić zmiany w swoich ramach prawnych i uwzględnić wytyczne dotyczące nadużyć dotyczących prywatności i etyki.

Obawy dotyczące prywatności związane z rozpoznawaniem twarzy dotyczą niezabezpieczonych praktyk przechowywania danych, które mogą narazić dane rozpoznawania twarzy i inne potencjalne zagrożenia bezpieczeństwa. Większość organizacji nadal przechowuje swoje dane twarzy na lokalnych serwerach, co prowadzi do luk w zabezpieczeniach i braku specjalistów ds. bezpieczeństwa IT, którzy zapewniają bezpieczeństwo sieci.

Technologie rozpoznawania twarzy mogą zapewnić maksymalne bezpieczeństwo danych hostowanych w chmurze. Jednak integralność danych można zagwarantować tylko poprzez odpowiednie szyfrowanie. Wdrożenie personelu zajmującego się cyberbezpieczeństwem IT ma kluczowe znaczenie dla prawidłowego przechowywania danych, zapewniając jednocześnie kontrolę konsumentom w celu zwiększenia odpowiedzialności i zapobiegania złośliwemu ruchowi.

Z drugiej strony produkty konsumenckie wyposażone w technologie rozpoznawania twarzy są mniej kontrowersyjne, biorąc pod uwagę możliwość wyłączenia lub niekorzystania z tej funkcji. Jednak firmy produkujące dobra konsumpcyjne nadal są ofiarami zakazów z powodu erozji prywatności. Ale nadal oferują produkty z technologią twarzy, reklamując je jako zaawansowaną funkcję bezpieczeństwa.

Determinacja, by pójść drogą prawną, jest otwarta na urządzenia, które umożliwiają ofierze dochodzenie odszkodowania finansowego za naruszenie prywatności. Na przykład, gigant mediów społecznościowych, Facebook, rozstrzygnął w Illinois pozew zbiorowy o wartości 650 milionów dolarów w sprawie zbierania zdjęć, które nie są publicznie dostępne do rozpoznawania twarzy.

Jednak prywatność jest nadal problemem dla organów ścigania wykorzystujących technologię rozpoznawania twarzy do monitorowania, skanowania i śledzenia obywateli bez ich wiedzy na temat bezpieczeństwa publicznego i ochrony. Wywołało to liczne protesty wzywające do zaostrzenia przepisów, aby dać obywatelom większą kontrolę nad uczestnictwem i przejrzystością w zakresie przechowywania i zarządzania.

4. Brak świadomej zgody i przejrzystości

Prywatność jest problemem w przypadku każdej formy eksploracji danych, zwłaszcza online, gdzie większość zebranych informacji jest anonimowa. Algorytmy rozpoznawania twarzy działają lepiej, gdy są testowane i trenowane na dużych zestawach danych obrazów, najlepiej rejestrowanych wielokrotnie w różnych warunkach oświetleniowych i pod różnymi kątami.

Największym źródłem obrazów są strony internetowe, zwłaszcza publiczne obrazy Flickr, przesyłane na podstawie licencji praw autorskich, które pozwalają na liberalne ponowne wykorzystanie, a czasami nielegalne platformy mediów społecznościowych.

Naukowcy z firmy Microsoft Research z siedzibą w Waszyngtonie zgromadzili największy na świecie zbiór danych, MSCeleb5, zawierający prawie 10 milionów zdjęć 100 000 osób, w tym muzyków, dziennikarzy i naukowców, usuniętych z Internetu.

W 2019 roku berliński artysta Adam Harvey zatytułowany MegaPixels oznaczył te i inne zbiory danych. Wraz z technologem i programistą, Julesem LaPlacem, wykazał, że większość przesyłających otwarcie udostępniła swoje zdjęcia. Ale były one niewłaściwie wykorzystywane do oceny i ulepszania komercyjnych produktów do nadzoru.

5. Masowy nadzór

W połączeniu z wszechobecnymi kamerami i analizą danych rozpoznawanie twarzy prowadzi do masowej inwigilacji, która może zagrażać wolności i prawom do prywatności obywateli. Chociaż technologia rozpoznawania twarzy pomaga rządom w egzekwowaniu prawa poprzez tropienie przestępców, narusza ona również podstawowe prawa do prywatności zwykłych i niewinnych ludzi.

Niedawno Komisja Europejska otrzymała list otwarty od 51 organizacji wzywających do całkowitego zakazu stosowania wszelkich narzędzi rozpoznawania twarzy do masowej inwigilacji. W innym obrocie wydarzeń ponad 43 000 obywateli Europy podpisało petycję Reclaim Your Face, wzywającą do zakazu praktyk masowego nadzoru biometrycznego w UE.

Niedawna fala wydarzeń podważyła etykę technologii rozpoznawania twarzy ze względu na niesforne wykorzystanie sztucznej inteligencji (AI) do manipulowania ludźmi, agencjami rządowymi i zbiorową demokracją oraz grożenia im.

Sztuczna inteligencja i uczenie maszynowe (ML) to przełomowe technologie, które mogą wykorzystywać bezpieczne technologie rozpoznawania twarzy. Ważne jest, aby narysować czerwone linie, zanim zostaną wykorzystane do kradzieży tożsamości i oszustw.

6. Naruszenia danych i nieskuteczne wsparcie prawne

Naruszenia danych mogą budzić poważne obawy dotyczące prywatności zarówno opinii publicznej, jak i rządu.

Chociaż naruszenia bezpieczeństwa są poważnym problemem dla obywateli, rozwój tej technologii doprowadził do postępu w zakresie cyberbezpieczeństwa i zwiększonego wykorzystania pamięci masowej w chmurze. Dzięki dodatkowej warstwie zabezpieczeń, takiej jak szyfrowanie, dane przechowywane w chmurze mogą być chronione przed złośliwym wykorzystaniem.

Na dorocznej konferencji hakerów Black Hat organizowanej przez badaczy bezpieczeństwa w Las Vegas hakerzy złamali uwierzytelnianie użytkownika iPhone'a FaceID firmy Apple w zaledwie 120 sekund.

Takie zdarzenia zwiększają podatność przechowywanych danych na hakerów, co ostatecznie zwiększa prawdopodobieństwo kradzieży Face ID w przypadku poważnych przestępstw. Ofiary kradzieży twarzy mają stosunkowo mniej opcji prawnych.

Ogólne rozporządzenie UE o ochronie danych (RODO) nie daje naukowcom podstawy prawnej do zbierania zdjęć twarzy ludzi do badań biometrycznych bez ich zgody. W Stanach Zjednoczonych obowiązują różne przepisy dotyczące wykorzystywania danych biometrycznych osoby bez jej zgody.

Jak etycznie korzystać z narzędzi do rozpoznawania twarzy

Użytkownicy rozpoznawania twarzy mogą przyjąć następujące zasady zaproponowane przez American Civil Liberties Union (ACLU), aby zapewnić etyczne korzystanie z tej technologii:

• Gromadzenie: instytucje powinny uzyskać świadomą, pisemną zgodę obywateli przed włączeniem ich danych biometrycznych do bazy danych rozpoznawania twarzy.
• Sposób użycia: Użytkownicy powinni powstrzymać się od używania systemów rozpoznawania twarzy w celu określenia koloru skóry, rasy, religii, pochodzenia narodowego, płci, wieku lub niepełnosprawności danej osoby.
• Ujawnianie: Wyniki systemu rozpoznawania twarzy nie powinny być przedmiotem obrotu ani udostępniania bez świadomej, pisemnej zgody osoby, której dane dotyczą.
• Dostęp: Obywatele powinni mieć prawo do dostępu, edytowania i usuwania swoich informacji o twarzy, wraz z zapisami wszelkich zmian dokonanych w danych.
• Nadużycie: Organizacje, które przechowują publicznie dostępne dane dotyczące tożsamości danej osoby, powinny podejmować proaktywne środki i odpowiednie kontrole, aby zapobiec ich niewłaściwemu wykorzystaniu w tworzeniu bazy danych odcisków twarzy. Niektóre środki obejmują ograniczenie automatycznego dostępu do poufnych baz danych i umowne wymaganie od partnerów przestrzegania wytycznych dotyczących etycznego użytkowania.
• Bezpieczeństwo: organizacje powinny mieć oddanych specjalistów ds. bezpieczeństwa, którzy będą hostować, zarządzać i zabezpieczać informacje rozpoznawania twarzy.
• Odpowiedzialność: Użytkownicy końcowi muszą prowadzić ścieżkę audytu, która obejmuje dane dotyczące gromadzenia, wykorzystywania i ujawniania informacji wraz ze znacznikami daty i godziny oraz danymi użytkowników proszących o informacje.
• Dostęp rządowy: Organizacje mogą przyznać rządowi dostęp do informacji poufnych zgodnie z ustawą o ochronie danych z 1974 r. lub po otrzymaniu nakazu z prawdopodobną przyczyną.
• Przejrzystość: Organizacje muszą określić zasady zgodności i wykorzystania danych, oferując jednocześnie niezbędne środki techniczne w celu weryfikacji rozliczalności.

Przykłady etycznego wykorzystania technologii rozpoznawania twarzy

Technologia rozpoznawania twarzy jest podstawą większości firm technologicznych, które koncentrują się na bezpieczeństwie klientów, jednocześnie chroniąc swoje systemy przed potencjalnymi zagrożeniami bezpieczeństwa. Przyjrzyjmy się trzem takim przykładom firm stosujących etycznie rozpoznawanie twarzy.

IBM

Gigant technologiczny IBM nałożył znaczne ograniczenia na sprzedaż technologii rozpoznawania twarzy na podstawie przepisów federalnych w Stanach Zjednoczonych. Ponadto IBM zaproponował Departamentowi Handlu Stanów Zjednoczonych konkretne zalecenia, aby w niektórych przypadkach nałożyć surowsze ograniczenia na eksport systemów rozpoznawania twarzy.

Naciskał również na precyzyjne regulacje, ruch w celu nałożenia surowszych ograniczeń na zastosowania końcowe i użytkowników, które mogą powodować znaczne szkody społeczne. Zaproponowano również sześć zmian w sposobie działania technologii rozpoznawania twarzy w celu wyszukiwania dopasowań, w tym:

• Ograniczenie technologii rozpoznawania twarzy, które wykorzystują dopasowanie typu „1 do wielu” w celu masowej inwigilacji, profilowania rasowego i innych wrażliwych obszarów, które mogą naruszać prawa człowieka
• Ograniczenie eksportu systemów „1-do-wielu” poprzez kontrolę eksportu zarówno kamer o wysokiej rozdzielczości, jak i algorytmów wykorzystywanych do zbierania i analizowania danych w bazie danych
• Nałożenie ograniczeń na niektóre zagraniczne rządy zamawiające wielkoskalowe komponenty przetwarzania w chmurze dla zintegrowanych systemów rozpoznawania twarzy.
• Ograniczanie dostępu do internetowych baz danych obrazów, których można używać do trenowania systemów rozpoznawania twarzy typu „od 1 do wielu”
• Aktualizacja najnowszych danych dotyczących praw człowieka od grup zwalczających przestępczość Departamentu Handlu i wdrożenie najściślejszej kontroli eksportu technologii rozpoznawania twarzy, które obsługują systemy dopasowywania „1 do wielu”
• Wreszcie, ograniczenie zdolności represyjnych reżimów do nabywania kontrolowanych technologii poza granicami USA za pomocą mechanizmów takich jak porozumienia z Wassenaar

Microsoft

Firma Microsoft ustanowiła kilka zasad dotyczących etycznych problemów związanych z systemami rozpoznawania twarzy. Wydała zasoby szkoleniowe i nowe materiały, aby pomóc swoim klientom stać się bardziej świadomymi etycznego korzystania z tej technologii.

Oprócz ścisłej współpracy z klientami firma Microsoft intensywnie pracuje nad ulepszeniem zdolności tej technologii do rozpoznawania twarzy w szerokim zakresie wieku i odcieni skóry. Technologie rozpoznawania twarzy Microsoftu zostały niedawno ocenione przez NIST, który poinformował, że jego algorytmy zostały ocenione jako najdokładniejsze lub prawie najdokładniejsze w 127 testach.

Microsoft naciska na nowe przepisy dotyczące przejrzystości oraz testowania i porównywania stron trzecich. Aby zachęcić do przejrzystości, Microsoft proponuje, aby firmy technologiczne zapewniały dokumentację i usługi rozpoznawania twarzy w celu określenia możliwości i ograniczeń technologii.

Zwrócono również uwagę na potrzebę ustawodawstwa zatrudniającego zewnętrznych dostawców do niezależnego testowania komercyjnych dostawców usług rozpoznawania twarzy i publikowania ich wyników w celu rozwiązania problemów związanych z uprzedzeniami i dyskryminacją.

Amazonka

W 2020 r. Amazon nałożył roczne moratorium na używanie przez organy ścigania technologii rozpoznawania twarzy „Amazon Rekognition”. Ponadto Amazon potwierdził swoje zastosowanie w scenariuszach bezpieczeństwa publicznego i egzekwowania prawa w celu zawężenia potencjalnych dopasowań.

Amazon złożył również wniosek o patent na zbadanie dodatkowych warstw uwierzytelniania, aby zapewnić maksymalne bezpieczeństwo. Niektóre z nich obejmują proszenie użytkowników o wykonanie czynności, takich jak uśmiechanie się, mruganie lub przechylanie głowy.

Czy rozpoznawanie twarzy jest inwazyjne?

Główne problemy i niepowodzenia technologii rozpoznawania twarzy wynikają z braku zaawansowania, różnorodności zbiorów danych i nieefektywnej obsługi systemu. Jednak przyjęcie pewnych zasad etycznych może uniknąć inwazyjności.

Wyeliminuj bezstronność w rozpoznawaniu twarzy, aby zapobiec lub zminimalizować uprzedzenia, naprawiając usterki w aplikacjach organów ścigania, zapewniając przejrzystość wewnętrznego działania sztucznej inteligencji, egzekwując odpowiedzialność interesariuszy, monitorowanie za zgodą i uprzednim powiadomieniem oraz uchwalanie bardziej rygorystycznych przepisów w celu uniknięcia naruszeń praw człowieka.

Technologia rozpoznawania twarzy ma nieskończony potencjał do różnych zastosowań w rzeczywistych potrzebach. Jednak zajęcie się problemami etycznymi tej technologii jest niezbędne, aby uczynić ją dobrodziejstwem dla ludzkości.

Co zrobić w przypadku incydentu bezpieczeństwa? Obsługuj je i zarządzaj nimi dzięki reagowaniu na incydenty, aby ograniczyć szkody oraz zaoszczędzić czas i pieniądze.