Ética do Reconhecimento Facial: Principais Problemas e Soluções

O reconhecimento facial é considerado uma das fascinantes maravilhas tecnológicas.

Com razão, pois pode reconhecer um rosto humano a partir de uma foto, vídeo ou em tempo real. Os sistemas de reconhecimento de imagem percorreram um longo caminho desde o início até a adoção na aplicação da lei e uso generalizado em dispositivos de consumo em termos de precisão, velocidade e algoritmos.

Dadas as muitas controvérsias em torno da ética do reconhecimento facial, como fraude de identidade e preocupações com invasão de privacidade expressas por críticos e defensores da privacidade, somos recebidos com a pergunta de um milhão de dólares: o reconhecimento facial precisa de um cálculo ético para torná-lo mais justo e impactante?

Quais são as questões éticas do uso da tecnologia de reconhecimento facial?

Nos últimos anos, os críticos questionaram a precisão e o papel dos sistemas de reconhecimento facial na fraude de identidade. As agências de aplicação da lei implicaram erroneamente pessoas inocentes em tumultos em vários casos. Além disso, o gerenciamento e o armazenamento de identidades permanecem questionáveis ​​para muitos defensores da privacidade em todo o mundo. Parece complicado, não é?

Fonte: AMA Journal of Ethics

As seis principais preocupações éticas relacionadas aos sistemas de reconhecimento facial incluem preconceito racial e desinformação, discriminação racial na aplicação da lei, privacidade, falta de consentimento informado e transparência, vigilância em massa, violações de dados e suporte jurídico ineficiente. Vamos examinar cada um deles em detalhes.

1. Preconceito racial devido a imprecisões nos testes

O preconceito racial continua sendo uma das principais preocupações dos sistemas de reconhecimento facial. Embora os algoritmos de reconhecimento facial garantam uma precisão de classificação superior a 90%, esses resultados não são universais.

Desenvolvimentos preocupantes que desafiam a ética do reconhecimento facial surgiram várias vezes no passado recente. Mais da metade dos adultos americanos, ou quase 117 milhões de pessoas, têm fotos na rede de reconhecimento facial da polícia. No entanto, é perturbador que os erros detectados no sistema de reconhecimento de rosto sejam mais comuns em rostos de pele escura, mas menos erros ao combinar rostos de pele clara.

Em julho de 2020, o Instituto Nacional de Padrões e Tecnologia (NIST) realizou avaliações independentes para confirmar esses resultados. Ele relatou que as tecnologias de reconhecimento facial para 189 algoritmos mostraram preconceito racial em relação às mulheres de cor. O NIST também concluiu que mesmo os melhores algoritmos de reconhecimento facial estudados não conseguiam identificar corretamente uma pessoa usando máscara em quase 50% das vezes.

2. Discriminação racial na aplicação da lei

Em uma revelação recente, o governo federal dos Estados Unidos divulgou um relatório que confirmou problemas de discriminação em seus algoritmos de reconhecimento facial. Seu sistema geralmente funcionava de maneira eficaz para os rostos de homens brancos de meia-idade, mas mal para pessoas de cor, idosos, mulheres e crianças. Esses algoritmos com preconceito racial e propensos a erros podem causar estragos, incluindo prisões injustas, encarceramentos prolongados e até violência policial mortal.

Agências de aplicação da lei, como a Polícia do Capitólio dos Estados Unidos, dependem de bancos de dados de fotos para identificar indivíduos usando algoritmos de reconhecimento facial. Isso leva a um ciclo de feed-forward, onde as estratégias de policiamento racistas resultam em prisões desproporcionais e inocentes.

No geral, os dados de reconhecimento facial são imperfeitos. Pode resultar em penalidades para crimes não cometidos. Por exemplo, uma pequena mudança no ângulo ou na aparência da câmera, como um novo penteado, pode levar a erros.

3. Privacidade de dados

A privacidade é uma das preocupações do público em geral, principalmente devido à falta de transparência na forma como as informações são armazenadas e gerenciadas. O reconhecimento facial infringe o direito inerente dos cidadãos de estar sob constante vigilância do governo e manter suas imagens sem consentimento.

Em 2020, a Comissão Europeia proibiu a tecnologia de reconhecimento facial em espaços públicos por até cinco anos para fazer alterações em sua estrutura legal e incluir diretrizes sobre privacidade e abuso ético.

As preocupações com a privacidade em relação ao reconhecimento facial estão relacionadas a práticas de armazenamento de dados não seguras que podem expor dados de reconhecimento facial e outras possíveis ameaças à segurança. A maioria das organizações continua a hospedar seus dados faciais em servidores locais, levando a vulnerabilidades de segurança e à falta de profissionais de segurança de TI para garantir a segurança da rede.

As tecnologias de reconhecimento facial podem garantir a máxima segurança dos dados quando hospedados na nuvem. No entanto, a integridade dos dados só pode ser garantida por meio de criptografia adequada. A implantação da equipe de segurança cibernética de TI é essencial para o armazenamento adequado de dados, ao mesmo tempo em que fornece controle ao consumidor para melhorar a responsabilidade e evitar tráfego malicioso.

Pelo lado positivo, os produtos de consumo equipados com tecnologias de reconhecimento facial são menos controversos, dada a opção de desativar ou não usar o recurso. No entanto, as empresas de bens de consumo ainda são vítimas de proibições devido à erosão da privacidade. Mas eles continuam a oferecer produtos faciais carregados de tecnologia, comercializando-os como um recurso de segurança avançado.

A determinação de seguir o caminho legal está aberta a dispositivos que permitem que uma vítima busque uma compensação financeira pela violação de privacidade. Por exemplo, o gigante da mídia social Facebook resolveu uma ação coletiva de US$ 650 milhões em Illinois por coletar fotos não disponíveis publicamente para reconhecimento facial.

No entanto, a privacidade ainda é um problema para as agências de aplicação da lei que usam a tecnologia de reconhecimento facial para monitorar, escanear e rastrear cidadãos sem seu conhecimento para segurança e proteção pública. Isso desencadeou vários protestos pedindo regulamentações mais rígidas para dar aos cidadãos mais controle sobre a participação e transparência em relação ao armazenamento e à governança.

4. Falta de consentimento informado e transparência

A privacidade é um problema com qualquer forma de mineração de dados, especialmente online, onde a maioria das informações coletadas é anonimizada. Os algoritmos de reconhecimento facial funcionam melhor quando testados e treinados em grandes conjuntos de dados de imagens, idealmente capturados várias vezes sob diferentes condições de iluminação e ângulos.

As maiores fontes de imagens são sites online, especialmente imagens públicas do Flickr, carregadas sob licenças de direitos autorais que permitem a reutilização liberal e, às vezes, plataformas de mídia social ilegítimas.

Cientistas da Microsoft Research, com sede em Washington, reuniram o maior conjunto de dados do mundo, o MSCeleb5, contendo quase 10 milhões de imagens de 100.000 pessoas, incluindo músicos, jornalistas e acadêmicos, extraídas da Internet.

Em 2019, o site do artista Adam Harvey, de Berlim, chamado MegaPixels, sinalizou esses e outros conjuntos de dados. Junto com um tecnólogo e programador, Jules LaPlace, ele mostrou que a maioria dos uploaders compartilhou abertamente suas fotos. Mas eles estavam sendo mal utilizados para avaliar e melhorar os produtos de vigilância comercial.

5. Vigilância em massa

Quando usado ao lado de câmeras onipresentes e análise de dados, o reconhecimento facial leva à vigilância em massa que pode comprometer a liberdade e os direitos de privacidade dos cidadãos. Embora a tecnologia de reconhecimento facial ajude os governos na aplicação da lei ao rastrear criminosos, também compromete os direitos fundamentais de privacidade de pessoas comuns e inocentes.

Recentemente, a Comissão Europeia recebeu uma carta aberta de 51 organizações pedindo a proibição total de todas as ferramentas de reconhecimento facial para vigilância em massa. Em outra reviravolta, mais de 43.000 cidadãos europeus assinaram uma petição Reclaim Your Face pedindo a proibição de práticas de vigilância biométrica em massa na UE.

A recente onda de eventos desafiou a ética da tecnologia de reconhecimento facial devido ao uso indisciplinado da inteligência artificial (IA) para manipular e ameaçar pessoas, agências governamentais e democracia coletiva.

AI e machine learning (ML) são tecnologias disruptivas que podem alavancar tecnologias seguras de reconhecimento facial. É importante traçar linhas vermelhas antes que sejam usadas indevidamente para roubo de identidade e fraude.

6. Violações de dados e suporte jurídico ineficaz

As violações de dados podem levantar sérias preocupações de privacidade tanto para o público quanto para o governo.

Embora as violações de segurança sejam uma grande preocupação para os cidadãos, o desenvolvimento dessa tecnologia levou a avanços na segurança cibernética e ao aumento do uso de armazenamento baseado em nuvem. Com a camada adicional de segurança, como criptografia, os dados armazenados na nuvem podem ser protegidos contra uso malicioso.

Na conferência anual de hackers Black Hat organizada por pesquisadores de segurança em Las Vegas, os hackers quebraram a autenticação de usuário do iPhone FaceID da Apple em apenas 120 segundos.

Tais eventos aumentam a vulnerabilidade dos dados armazenados a hackers, o que acaba aumentando a probabilidade de roubo de Face ID em crimes graves. As vítimas de roubo de rosto têm relativamente menos opções legais para buscar.

O Regulamento Geral de Proteção de Dados da UE (GDPR) não dá aos pesquisadores uma base legal para coletar fotos de rostos de pessoas para pesquisa biométrica sem seu consentimento. Os Estados Unidos têm leis diferentes sobre o uso de informações biométricas de um indivíduo sem o seu consentimento.

Como usar ferramentas de reconhecimento facial de forma ética

Os usuários de reconhecimento facial podem adotar os seguintes princípios propostos pela American Civil Liberties Union (ACLU) para garantir o uso ético dessa tecnologia:

• Coleta: as instituições devem obter o consentimento informado e por escrito dos cidadãos antes de incluir seus dados biométricos no banco de dados de reconhecimento facial.
• Uso: Os usuários devem abster-se de usar sistemas de reconhecimento facial para determinar a cor da pele, raça, religião, nacionalidade, sexo, idade ou deficiência de um indivíduo.
• Divulgação: Os resultados de um sistema de reconhecimento facial não devem ser negociados ou compartilhados sem o consentimento informado e por escrito do titular dos dados.
• Acesso: Os cidadãos devem ter o direito de acessar, editar e excluir suas informações faciais, juntamente com registros de quaisquer alterações feitas nos dados.
• Uso indevido: As organizações que hospedam registros disponíveis publicamente relacionados à identidade de um indivíduo devem tomar medidas proativas e controles apropriados para evitar que seu uso indevido crie um banco de dados de impressão facial. Algumas medidas incluem restringir o acesso automatizado a bancos de dados confidenciais e exigir contratualmente que os parceiros cumpram as diretrizes de uso ético.
• Segurança: as organizações devem ter profissionais de segurança dedicados para hospedar, gerenciar e proteger as informações de reconhecimento facial.
• Responsabilidade: Os usuários finais devem manter uma trilha de auditoria que inclua detalhes de coleta, uso e divulgação de informações, juntamente com os carimbos de data e hora e detalhes dos usuários que solicitam as informações.
• Acesso do governo: As organizações podem conceder ao governo acesso a informações confidenciais sob a Lei de Proteção de Dados de 1974 ou mediante o recebimento de um mandado de causa provável.
• Transparência: As organizações devem definir políticas de conformidade e uso de dados, oferecendo as medidas técnicas necessárias para verificar a responsabilidade.

Exemplos de uso ético da tecnologia de reconhecimento facial

A tecnologia de reconhecimento facial está no centro da maioria das empresas de tecnologia que se concentram na segurança do cliente enquanto protegem seus sistemas contra possíveis ameaças à segurança. Vamos examinar três desses exemplos de empresas que usam o reconhecimento facial de forma ética.

IBM

A gigante de tecnologia IBM impôs restrições abrangentes às suas vendas de tecnologia de reconhecimento facial para regulamentação federal nos Estados Unidos. Além disso, a IBM propôs recomendações específicas ao Departamento de Comércio dos EUA para impor restrições mais rígidas à exportação de sistemas de reconhecimento facial em alguns casos.

Também pressionou por uma regulamentação de precisão, um movimento para impor restrições mais rígidas aos usos finais e usuários que poderiam causar danos sociais significativos. Também propôs seis mudanças na forma como as tecnologias de reconhecimento facial funcionam para encontrar correspondências, incluindo:

• Restringir tecnologias de reconhecimento facial que usam usos finais correspondentes "1 para muitos" para vigilância em massa, perfil racial e outras áreas sensíveis que podem violar os direitos humanos
• Limitar a exportação de sistemas "1 para muitos", controlando a exportação de câmeras de alta resolução e algoritmos usados ​​para coletar e analisar dados em um banco de dados
• Impor restrições a certos governos estrangeiros que adquirem componentes de computação em nuvem em larga escala para sistemas integrados de reconhecimento facial.
• Restringir o acesso a bancos de dados de imagens on-line que podem ser usados ​​para treinar sistemas de reconhecimento facial de 1 para muitos
• Atualizando os últimos registros de direitos humanos dos grupos de combate ao crime do Departamento de Comércio e implementando o controle mais estrito sobre a exportação de tecnologias de reconhecimento facial que suportam sistemas de correspondência "1-para-muitos"
• Finalmente, limitar a capacidade dos regimes repressivos de adquirir tecnologias controladas além das fronteiras dos EUA por meio de mecanismos como os Acordos de Wassenaar

Microsoft

A Microsoft estabeleceu vários princípios para abordar as questões éticas dos sistemas de reconhecimento facial. Lançou recursos de treinamento e novos materiais para ajudar seus clientes a se conscientizarem mais sobre o uso ético dessa tecnologia.

Além de trabalhar de perto com seus clientes, a Microsoft está trabalhando duro para melhorar a capacidade da tecnologia de reconhecer rostos em uma ampla variedade de idades e tons de pele. As tecnologias de reconhecimento facial da Microsoft foram avaliadas recentemente pelo NIST, que informou que seus algoritmos foram classificados como os mais precisos ou quase os mais precisos em 127 testes.

A Microsoft está pressionando por novas leis para abordar a transparência e testes e comparação de terceiros. Para incentivar a transparência, a Microsoft propõe que as empresas de tecnologia forneçam serviços de documentação e reconhecimento facial para delinear as capacidades e limitações da tecnologia.

Também destacou a necessidade de uma legislação para contratar fornecedores terceirizados para testar de forma independente os prestadores de serviços comerciais de reconhecimento facial e publicar seus resultados para abordar questões relacionadas a preconceito e discriminação.

Amazonas

Em 2020, a Amazon impôs uma moratória de um ano ao uso da aplicação da lei de sua tecnologia de reconhecimento facial “Amazon Rekognition”. Além disso, a Amazon validou seu uso em cenários de segurança pública e aplicação da lei para reduzir possíveis correspondências.

A Amazon também solicitou uma patente para pesquisar camadas de autenticação adicionais para garantir a máxima segurança. Algumas delas incluem pedir aos usuários que executem ações como sorrir, piscar ou inclinar a cabeça.

O reconhecimento facial é invasivo?

Os principais problemas e falhas da tecnologia de reconhecimento facial decorrem da falta de avanço, diversidade nos conjuntos de dados e manuseio ineficiente do sistema. No entanto, a adoção de alguns princípios éticos pode evitar torná-la invasiva.

Elimine a imparcialidade no reconhecimento facial para evitar ou minimizar o viés corrigindo falhas nos aplicativos de aplicação da lei, fornecendo transparência sobre como a inteligência artificial funciona internamente, reforçando a responsabilidade das partes interessadas, monitorando com consentimento e aviso prévio e promulgando uma legislação mais rigorosa para evitar violações de direitos humanos.

A tecnologia de reconhecimento facial tem um potencial infinito para várias aplicações nas necessidades do mundo real. No entanto, abordar as preocupações éticas dessa tecnologia é vital para torná-la uma bênção para a humanidade.

O que fazer em caso de incidente de segurança? Trate e gerencie com resposta a incidentes para limitar os danos e economizar tempo e dinheiro.