Éthique de la reconnaissance faciale : principaux problèmes et solutions

La reconnaissance faciale est considérée comme l'une des merveilles technologiques fascinantes.

A juste titre, puisqu'il peut reconnaître un visage humain à partir d'une photo, d'une vidéo, ou en temps réel. Les systèmes de reconnaissance d'images ont parcouru un long chemin depuis leur création jusqu'à leur adoption par les forces de l'ordre et leur utilisation généralisée dans les appareils grand public en termes de précision, de vitesse et d'algorithmes.

Compte tenu des nombreuses controverses entourant l'éthique de la reconnaissance faciale, telles que l'usurpation d'identité et les problèmes d'atteinte à la vie privée exprimés par les critiques et les défenseurs de la vie privée, nous sommes accueillis par la question à un million de dollars : la reconnaissance faciale a-t-elle besoin d'un calcul éthique pour la rendre plus équitable et impactant ?

Quels sont les enjeux éthiques de l'utilisation de la technologie de reconnaissance faciale ?

Ces dernières années, les critiques ont remis en question l'exactitude et le rôle des systèmes de reconnaissance faciale dans la fraude d'identité. Les forces de l'ordre ont impliqué par erreur des innocents dans des émeutes dans plusieurs cas. De plus, la gestion et le stockage de l'identité restent discutables pour de nombreux défenseurs de la vie privée dans le monde entier. Cela semble compliqué, n'est-ce pas ?

Source : Journal d'éthique de l'AMA

Les six principales préoccupations éthiques liées aux systèmes de reconnaissance faciale comprennent les préjugés raciaux et la désinformation, la discrimination raciale dans l'application des lois, la vie privée, le manque de consentement éclairé et de transparence, la surveillance de masse, les violations de données et l'inefficacité du soutien juridique. Examinons chacun d'eux en détail.

1. Préjugés raciaux dus aux inexactitudes des tests

Les préjugés raciaux restent l'une des principales préoccupations des systèmes de reconnaissance faciale. Bien que les algorithmes de reconnaissance faciale assurent une précision de classification supérieure à 90 %, ces résultats ne sont pas universels.

Des développements inquiétants qui remettent en question l'éthique de la reconnaissance faciale sont apparus à maintes reprises dans un passé récent. Plus de la moitié des adultes américains, soit près de 117 millions de personnes, ont des photos sur le réseau de reconnaissance faciale des forces de l'ordre. Cependant, il est inquiétant que les erreurs détectées dans le système de reconnaissance faciale soient plus fréquentes sur les visages à la peau foncée, mais moins d'erreurs lors de la correspondance des visages à la peau claire.

En juillet 2020, le National Institute of Standards and Technology (NIST) a mené des évaluations indépendantes pour confirmer ces résultats. Il a rapporté que les technologies de reconnaissance faciale pour 189 algorithmes montraient des préjugés raciaux envers les femmes de couleur. Le NIST a également conclu que même les meilleurs algorithmes de reconnaissance faciale étudiés ne pouvaient pas identifier correctement une personne portant un masque près de 50 % du temps.

2. Discrimination raciale dans l'application des lois

Dans une révélation récente, le gouvernement fédéral des États-Unis a publié un rapport confirmant les problèmes de discrimination dans ses algorithmes de reconnaissance faciale. Son système fonctionnait généralement efficacement pour les visages des hommes blancs d'âge moyen, mais mal pour les personnes de couleur, les personnes âgées, les femmes et les enfants. Ces algorithmes racistes et sujets aux erreurs peuvent faire des ravages, notamment des arrestations injustifiées, de longues incarcérations et même des violences policières mortelles.

Les organismes chargés de l'application de la loi comme la police du Capitole des États-Unis s'appuient sur des bases de données de mugshots pour identifier les individus à l'aide d'algorithmes de reconnaissance faciale. Cela conduit à une boucle de rétroaction, où les stratégies policières racistes entraînent des arrestations disproportionnées et innocentes.

Dans l'ensemble, les données de reconnaissance faciale sont imparfaites. Cela pourrait entraîner des sanctions pour les crimes non commis. Par exemple, un léger changement d'angle de caméra ou d'apparence, comme une nouvelle coiffure, peut entraîner des erreurs.

3. Confidentialité des données

La confidentialité est l'une des préoccupations du grand public, principalement en raison d'un manque de transparence dans la manière dont les informations sont stockées et gérées. La reconnaissance faciale porte atteinte au droit inhérent des citoyens d'être sous la surveillance constante du gouvernement et de conserver leurs images sans consentement.

En 2020, la Commission européenne a interdit la technologie de reconnaissance faciale dans les espaces publics jusqu'à cinq ans pour apporter des modifications à leur cadre juridique et inclure des lignes directrices sur la vie privée et les abus éthiques.

Les problèmes de confidentialité liés à la reconnaissance faciale sont liés à des pratiques de stockage de données non sécurisées qui pourraient exposer les données de reconnaissance faciale et d'autres menaces potentielles pour la sécurité. La plupart des organisations continuent d'héberger leurs données faciales sur des serveurs locaux, ce qui entraîne des failles de sécurité et un manque de professionnels de la sécurité informatique pour assurer la sécurité du réseau.

Les technologies de reconnaissance faciale peuvent garantir une sécurité maximale des données lorsqu'elles sont hébergées sur le cloud. Cependant, l'intégrité des données ne peut être garantie que par un cryptage approprié. Le déploiement de personnel de cybersécurité informatique est essentiel pour un stockage correct des données tout en offrant un contrôle des consommateurs pour améliorer la responsabilité et empêcher le trafic malveillant.

Du côté positif, les produits de consommation équipés de technologies de reconnaissance faciale sont moins controversés, étant donné la possibilité de désactiver ou de ne pas utiliser la fonctionnalité. Cependant, les entreprises de biens de consommation sont toujours victimes d'interdictions en raison de l'érosion de la vie privée. Mais ils continuent à proposer des produits chargés de technologie faciale en les commercialisant comme une fonctionnalité de sécurité avancée.

La détermination à suivre la voie légale est ouverte aux dispositifs qui permettent à une victime de demander une compensation financière pour la violation de la vie privée. Par exemple, le géant des médias sociaux Facebook a réglé un recours collectif de 650 millions de dollars dans l'Illinois pour avoir collecté des photos non accessibles au public pour la reconnaissance faciale.

Cependant, la confidentialité reste un problème pour les forces de l'ordre qui utilisent la technologie de reconnaissance faciale pour surveiller, scanner et suivre les citoyens à leur insu pour la sécurité publique. Cela a déclenché de nombreuses protestations appelant à des réglementations plus strictes pour donner aux citoyens plus de contrôle sur la participation et la transparence autour du stockage et de la gouvernance.

4. Absence de consentement éclairé et de transparence

La confidentialité est un problème avec toute forme d'exploration de données, en particulier en ligne, où la plupart des informations collectées sont anonymisées. Les algorithmes de reconnaissance faciale fonctionnent mieux lorsqu'ils sont testés et entraînés sur de grands ensembles de données d'images, idéalement capturées plusieurs fois dans des conditions d'éclairage et des angles différents.

Les plus grandes sources d'images sont les sites en ligne, en particulier les images Flickr publiques, téléchargées sous des licences de droits d'auteur qui permettent une réutilisation libérale et parfois des plateformes de médias sociaux illégitimes.

Les scientifiques de Microsoft Research, basé à Washington, ont amassé le plus grand ensemble de données au monde, MSCeleb5, contenant près de 10 millions d'images de 100 000 personnes, dont des musiciens, des journalistes et des universitaires, extraites d'Internet.

En 2019, le site Web de l'artiste berlinois Adam Harvey appelé MegaPixels a signalé ces ensembles de données et d'autres. Avec un technologue et programmeur, Jules LaPlace, il a montré que la plupart des téléchargeurs avaient ouvertement partagé leurs photos. Mais ils étaient utilisés à mauvais escient pour évaluer et améliorer les produits de surveillance commerciaux.

5. Surveillance de masse

Lorsqu'elle est utilisée avec des caméras et des analyses de données omniprésentes, la reconnaissance faciale conduit à une surveillance de masse qui pourrait compromettre la liberté et le droit à la vie privée des citoyens. Alors que la technologie de reconnaissance faciale aide les gouvernements à faire appliquer la loi en traquant les criminels, elle compromet également les droits fondamentaux à la vie privée des personnes ordinaires et innocentes.

Récemment, la Commission européenne a reçu une lettre ouverte de 51 organisations appelant à une interdiction générale de tous les outils de reconnaissance faciale pour la surveillance de masse. Dans une autre tournure des événements, plus de 43 000 citoyens européens ont signé une pétition Reclaim Your Face appelant à l'interdiction des pratiques de surveillance biométrique de masse dans l'UE.

La récente série d'événements a remis en question l'éthique de la technologie de reconnaissance faciale en raison de l'utilisation incontrôlée de l'intelligence artificielle (IA) pour manipuler et menacer les personnes, les agences gouvernementales et la démocratie collective.

L'IA et l'apprentissage automatique (ML) sont des technologies perturbatrices qui peuvent tirer parti des technologies de reconnaissance faciale sécurisées. Il est important de tracer des lignes rouges avant qu'elles ne soient utilisées à des fins d'usurpation d'identité et de fraude.

6. Violations de données et assistance juridique inefficace

Les violations de données peuvent soulever de graves problèmes de confidentialité tant pour le public que pour le gouvernement.

Alors que les failles de sécurité sont une préoccupation majeure pour les citoyens, le développement de cette technologie a conduit à des avancées en matière de cybersécurité et à une utilisation accrue du stockage en nuage. Avec la couche de sécurité supplémentaire comme le cryptage, les données stockées sur le cloud peuvent être protégées contre les utilisations malveillantes.

Lors de la conférence annuelle des pirates Black Hat organisée par des chercheurs en sécurité à Las Vegas, les pirates ont brisé l'authentification de l'utilisateur FaceID de l'iPhone d'Apple en seulement 120 secondes.

De tels événements augmentent la vulnérabilité des données stockées aux pirates, ce qui augmente finalement la probabilité de vol d'identité faciale dans les crimes graves. Les victimes de vol de visage ont relativement moins d'options juridiques à poursuivre.

Le règlement général sur la protection des données (RGPD) de l'UE ne donne pas aux chercheurs une base légale pour collecter des photos de visages de personnes à des fins de recherche biométrique sans leur consentement. Les États-Unis ont des lois différentes concernant l'utilisation des informations biométriques d'un individu sans son consentement.

Comment utiliser les outils de reconnaissance faciale de manière éthique

Les utilisateurs de la reconnaissance faciale peuvent adopter les principes suivants proposés par l'American Civil Liberties Union (ACLU) pour garantir une utilisation éthique de cette technologie :

• Collecte : les institutions doivent obtenir le consentement éclairé et écrit des citoyens avant d'inclure leurs données biométriques dans la base de données de reconnaissance faciale.
• Utilisation : les utilisateurs doivent s'abstenir d'utiliser des systèmes de reconnaissance faciale pour déterminer la couleur de peau, la race, la religion, l'origine nationale, le sexe, l'âge ou le handicap d'un individu.
• Divulgation : les résultats d'un système de reconnaissance faciale ne doivent pas être échangés ou partagés sans le consentement éclairé et écrit de la personne concernée.
• Accès : les citoyens doivent avoir le droit d'accéder, de modifier et de supprimer leurs informations faciales, ainsi que les enregistrements de toute modification apportée aux données.
• Utilisation abusive : les organisations qui hébergent des enregistrements accessibles au public liés à l'identité d'un individu doivent prendre des mesures proactives et des contrôles appropriés pour empêcher leur utilisation abusive de créer une base de données d'empreintes faciales. Certaines mesures incluent la restriction de l'accès automatisé aux bases de données sensibles et l'obligation contractuelle pour les partenaires de respecter des directives d'utilisation éthiques.
• Sécurité : les organisations doivent avoir des professionnels de la sécurité dédiés pour héberger, gérer et sécuriser les informations de reconnaissance faciale.
• Responsabilité : les utilisateurs finaux doivent conserver une piste d'audit qui inclut les détails de la collecte, de l'utilisation et de la divulgation des informations, ainsi que les horodatages et les détails des utilisateurs demandant les informations.
• Accès du gouvernement : les organisations peuvent accorder au gouvernement l'accès à des informations confidentielles en vertu de la loi de 1974 sur la protection des données ou à la réception d'un mandat de cause probable.
• Transparence : les organisations doivent définir des politiques de conformité et d'utilisation des données tout en offrant les mesures techniques nécessaires pour vérifier la responsabilité.

Exemples d'utilisation éthique de la technologie de reconnaissance faciale

La technologie de reconnaissance faciale est au cœur de la plupart des entreprises technologiques qui se concentrent sur la sécurité des clients tout en protégeant leurs systèmes contre les menaces de sécurité potentielles. Examinons trois exemples d'entreprises utilisant la reconnaissance faciale de manière éthique.

IBM

Le géant de la technologie IBM a imposé des restrictions radicales sur ses ventes de technologie de reconnaissance faciale pour la réglementation fédérale aux États-Unis. En outre, IBM a proposé des recommandations spécifiques au département américain du Commerce pour imposer des restrictions plus strictes à l'exportation de systèmes de reconnaissance faciale dans certains cas.

Il a également poussé à une réglementation de précision, une décision visant à imposer des restrictions plus strictes sur les utilisations finales et les utilisateurs qui pourraient causer des dommages sociétaux importants. Il a également proposé six changements dans le fonctionnement des technologies de reconnaissance faciale pour trouver des correspondances, notamment :

• Restreindre les technologies de reconnaissance faciale qui utilisent des utilisations finales « 1 à plusieurs » pour la surveillance de masse, le profilage racial et d'autres domaines sensibles qui pourraient violer les droits de l'homme
• Limitation de l'exportation des systèmes "1 vers plusieurs" en contrôlant l'exportation des caméras haute résolution et des algorithmes utilisés pour collecter et analyser les données par rapport à une base de données
• Imposer des restrictions à certains gouvernements étrangers qui achètent des composants informatiques en nuage à grande échelle pour les systèmes intégrés de reconnaissance faciale.
• Restreindre l'accès aux bases de données d'images en ligne pouvant être utilisées pour former des systèmes de reconnaissance faciale un à plusieurs
• Mettre à jour les derniers registres des droits de l'homme des groupes de lutte contre la criminalité du Département du commerce et mettre en œuvre le contrôle le plus strict sur l'exportation des technologies de reconnaissance faciale qui prennent en charge les systèmes de correspondance "1 à plusieurs"
• Enfin, limiter la capacité des régimes répressifs à se procurer des technologies contrôlées au-delà des frontières américaines par le biais de mécanismes tels que les accords de Wassenaar

Microsoft

Microsoft a établi plusieurs principes pour résoudre les problèmes éthiques des systèmes de reconnaissance faciale. Elle a publié des ressources de formation et de nouveaux supports pour aider ses clients à prendre davantage conscience de l'utilisation éthique de cette technologie.

En plus de travailler en étroite collaboration avec ses clients, Microsoft travaille dur pour améliorer la capacité de la technologie à reconnaître les visages à travers un large éventail d'âges et de tons de peau. Les technologies de reconnaissance faciale de Microsoft ont récemment été évaluées par le NIST, qui a indiqué que ses algorithmes ont été classés comme les plus précis ou presque les plus précis dans 127 tests.

Microsoft fait pression pour que de nouvelles lois traitent de la transparence et des tests et comparaisons par des tiers. Pour encourager la transparence, Microsoft propose que les entreprises technologiques fournissent des services de documentation et de reconnaissance faciale pour délimiter les capacités et les limites de la technologie.

Il a également souligné la nécessité d'une législation pour embaucher des fournisseurs tiers pour tester de manière indépendante les fournisseurs commerciaux de services de reconnaissance faciale et publier leurs résultats pour résoudre les problèmes liés aux préjugés et à la discrimination.

Amazone

En 2020, Amazon a imposé un moratoire d'un an sur l'utilisation par les forces de l'ordre de sa technologie de reconnaissance faciale "Amazon Rekognition". De plus, Amazon a validé son utilisation dans des scénarios de sécurité publique et d'application de la loi pour réduire les correspondances potentielles.

Amazon a également déposé une demande de brevet pour rechercher des couches d'authentification supplémentaires afin d'assurer une sécurité maximale. Certaines d'entre elles consistent à demander aux utilisateurs d'effectuer des actions telles que sourire, cligner des yeux ou incliner la tête.

La reconnaissance faciale est-elle invasive ?

Les principaux problèmes et échecs de la technologie de reconnaissance faciale proviennent du manque de progrès, de la diversité des ensembles de données et de la gestion inefficace du système. Cependant, l'adoption de certains principes éthiques peut éviter de la rendre envahissante.

Éliminer l'impartialité dans la reconnaissance faciale pour prévenir ou minimiser les préjugés en corrigeant les problèmes dans les applications d'application de la loi, en assurant la transparence du fonctionnement interne de l'intelligence artificielle, en appliquant la responsabilité des parties prenantes, en surveillant avec consentement et préavis, et en promulguant une législation plus stricte pour éviter les violations des droits de l'homme.

La technologie de reconnaissance faciale a un potentiel infini pour diverses applications dans les besoins du monde réel. Cependant, il est essentiel de répondre aux préoccupations éthiques de cette technologie pour en faire une aubaine pour l'humanité.

Que faire en cas d'incident de sécurité ? Gérez-le et gérez-le avec une réponse aux incidents pour limiter les dommages et économiser du temps et de l'argent.