Ética del reconocimiento facial: cuestiones clave y soluciones

El reconocimiento facial es considerado una de las fascinantes maravillas tecnológicas.

Con razón, ya que puede reconocer un rostro humano a partir de una foto, video o en tiempo real. Los sistemas de reconocimiento de imágenes han recorrido un largo camino desde su inicio hasta su adopción en las fuerzas del orden y su uso generalizado en dispositivos de consumo en términos de precisión, velocidad y algoritmos.

Dadas las muchas controversias que rodean la ética del reconocimiento facial, como el fraude de identidad y las preocupaciones sobre la invasión de la privacidad expresadas por los críticos y defensores de la privacidad, nos encontramos con la pregunta del millón de dólares: ¿Necesita el reconocimiento facial un ajuste de cuentas ético para hacerlo más equitativo y impactante?

¿Cuáles son los problemas éticos del uso de la tecnología de reconocimiento facial?

En los últimos años, los críticos cuestionaron la precisión y el papel de los sistemas de reconocimiento facial en el fraude de identidad. Los organismos encargados de hacer cumplir la ley implicaron por error a personas inocentes en disturbios en varios casos. Además, la gestión y el almacenamiento de identidades siguen siendo cuestionables para muchos, lo que preocupa a los defensores de la privacidad en todo el mundo. Parece complicado, ¿no?

Fuente: AMA Revista de Ética

Las seis principales preocupaciones éticas relacionadas con los sistemas de reconocimiento facial incluyen prejuicios raciales y desinformación, discriminación racial en la aplicación de la ley, privacidad, falta de consentimiento informado y transparencia, vigilancia masiva, violaciones de datos y apoyo legal ineficiente. Examinemos cada uno de ellos en detalle.

1. Sesgo racial debido a imprecisiones en las pruebas

El sesgo racial sigue siendo una de las principales preocupaciones de los sistemas de reconocimiento facial. Aunque los algoritmos de reconocimiento facial aseguran una precisión de clasificación de más del 90 %, estos resultados no son universales.

Desarrollos preocupantes que desafían la ética del reconocimiento facial han surgido una y otra vez en el pasado reciente. Más de la mitad de los adultos estadounidenses, o casi 117 millones de personas, tienen fotos en la red de reconocimiento facial de las fuerzas del orden. Sin embargo, es preocupante que los errores detectados en el sistema de reconocimiento de rostros fueran más comunes en rostros de piel oscura, pero menos errores al comparar rostros de piel clara.

En julio de 2020, el Instituto Nacional de Estándares y Tecnología (NIST) realizó evaluaciones independientes para confirmar estos resultados. Informó que las tecnologías de reconocimiento facial para 189 algoritmos mostraron prejuicios raciales hacia las mujeres de color. NIST también concluyó que incluso los mejores algoritmos de reconocimiento facial estudiados no podían identificar correctamente a una persona que usaba mascarilla casi el 50 % de las veces.

2. Discriminación racial en la aplicación de la ley

En una revelación reciente, el gobierno federal de los Estados Unidos publicó un informe que confirmó problemas de discriminación en sus algoritmos de reconocimiento facial. Su sistema generalmente funcionó de manera efectiva para los rostros de hombres blancos de mediana edad, pero no para personas de color, ancianos, mujeres y niños. Estos algoritmos con prejuicios raciales y propensos a errores pueden causar estragos, incluidos arrestos injustificados, encarcelamientos prolongados e incluso violencia policial mortal.

Los organismos encargados de hacer cumplir la ley, como la Policía del Capitolio de los Estados Unidos, se basan en bases de datos de fichas policiales para identificar a las personas que utilizan algoritmos de reconocimiento facial. Esto conduce a un bucle de retroalimentación, donde las estrategias policiales racistas resultan en arrestos inocentes y desproporcionados.

En general, los datos de reconocimiento facial son imperfectos. Podría dar lugar a sanciones por delitos no cometidos. Por ejemplo, un ligero cambio en el ángulo de la cámara o en la apariencia, como un nuevo peinado, puede generar errores.

3. Privacidad de datos

La privacidad es una de las preocupaciones del público en general, principalmente debido a la falta de transparencia en la forma en que se almacena y gestiona la información. El reconocimiento facial infringe el derecho inherente de los ciudadanos a estar bajo vigilancia gubernamental constante y conservar sus imágenes sin consentimiento.

En 2020, la Comisión Europea prohibió la tecnología de reconocimiento facial en espacios públicos hasta por cinco años para realizar cambios en su marco legal e incluir pautas sobre privacidad y abuso ético.

Las preocupaciones de privacidad en torno al reconocimiento facial se relacionan con las prácticas de almacenamiento de datos no seguras que podrían exponer los datos de reconocimiento facial y otras posibles amenazas a la seguridad. La mayoría de las organizaciones continúan alojando sus datos faciales en servidores locales, lo que genera vulnerabilidades de seguridad y una falta de profesionales de seguridad de TI para garantizar la seguridad de la red.

Las tecnologías de reconocimiento facial pueden garantizar la máxima seguridad de los datos cuando se alojan en la nube. Sin embargo, la integridad de los datos solo se puede garantizar mediante un cifrado adecuado. La implementación de personal de ciberseguridad de TI es esencial para el almacenamiento adecuado de datos al tiempo que brinda control al consumidor para mejorar la responsabilidad y evitar el tráfico malicioso.

En el lado positivo, los productos de consumo equipados con tecnologías de reconocimiento facial son menos controvertidos, dada la opción de desactivar o no usar la función. Sin embargo, las empresas de bienes de consumo siguen siendo víctimas de prohibiciones debido a la erosión de la privacidad. Pero continúan ofreciendo productos faciales cargados de tecnología comercializándolos como una característica de seguridad avanzada.

La determinación de seguir la ruta legal está abierta a los dispositivos que permiten a la víctima buscar una compensación financiera por la violación de la privacidad. Por ejemplo, el gigante de las redes sociales Facebook resolvió una demanda colectiva de $ 650 millones en Illinois por recopilar fotos que no estaban disponibles públicamente para el reconocimiento facial.

Sin embargo, la privacidad sigue siendo un problema para las agencias de aplicación de la ley que utilizan la tecnología de reconocimiento facial para monitorear, escanear y rastrear a los ciudadanos sin su conocimiento para la seguridad pública. Esto ha provocado numerosas protestas que piden regulaciones más estrictas para dar a los ciudadanos más control sobre la participación y transparencia en torno al almacenamiento y la gobernanza.

4. Falta de consentimiento informado y transparencia

La privacidad es un problema con cualquier forma de minería de datos, especialmente en línea, donde la mayor parte de la información recopilada se anonimiza. Los algoritmos de reconocimiento facial funcionan mejor cuando se prueban y entrenan en grandes conjuntos de datos de imágenes, idealmente capturadas varias veces bajo diferentes ángulos y condiciones de iluminación.

Las mayores fuentes de imágenes son los sitios en línea, especialmente las imágenes públicas de Flickr, cargadas bajo licencias de derechos de autor que permiten una reutilización liberal y, a veces, plataformas de redes sociales ilegítimas.

Los científicos de Microsoft Research, con sede en Washington, acumularon el conjunto de datos más grande del mundo, MSCeleb5, que contiene casi 10 millones de imágenes de 100 000 personas, incluidos músicos, periodistas y académicos, extraídas de Internet.

En 2019, el sitio web del artista con sede en Berlín Adam Harvey llamado MegaPixels marcó estos y otros conjuntos de datos. Junto con un tecnólogo y programador, Jules LaPlace, demostró que la mayoría de los usuarios habían compartido abiertamente sus fotos. Pero estaban siendo mal utilizados para evaluar y mejorar los productos comerciales de vigilancia.

5. Vigilancia masiva

Cuando se usa junto con cámaras omnipresentes y análisis de datos, el reconocimiento facial conduce a una vigilancia masiva que podría comprometer la libertad y los derechos de privacidad de los ciudadanos. Si bien la tecnología de reconocimiento facial ayuda a los gobiernos a hacer cumplir la ley rastreando a los delincuentes, también compromete los derechos fundamentales de privacidad de las personas comunes e inocentes.

Recientemente, la Comisión Europea recibió una carta abierta de 51 organizaciones que pedían una prohibición total de todas las herramientas de reconocimiento facial para la vigilancia masiva. En otro giro de los acontecimientos, más de 43.000 ciudadanos europeos firmaron una petición Reclaim Your Face pidiendo la prohibición de las prácticas de vigilancia biométrica masiva en la UE.

La reciente serie de eventos ha desafiado la ética de la tecnología de reconocimiento facial debido al uso ingobernable de la inteligencia artificial (IA) para manipular y amenazar a las personas, las agencias gubernamentales y la democracia colectiva.

La IA y el aprendizaje automático (ML) son tecnologías disruptivas que pueden aprovechar las tecnologías seguras de reconocimiento facial. Es importante trazar líneas rojas antes de que se utilicen indebidamente para el robo de identidad y el fraude.

6. Violaciones de datos y soporte legal ineficaz

Las violaciones de datos pueden generar serias preocupaciones sobre la privacidad tanto para el público como para el gobierno.

Si bien las brechas de seguridad son una gran preocupación para los ciudadanos, el desarrollo de esta tecnología ha llevado a avances en ciberseguridad y un mayor uso del almacenamiento basado en la nube. Con la capa adicional de seguridad como el cifrado, los datos almacenados en la nube se pueden proteger contra el uso malicioso.

En la conferencia anual de piratas informáticos Black Hat organizada por investigadores de seguridad en Las Vegas, los piratas informáticos rompieron la autenticación de usuario FaceID del iPhone de Apple en solo 120 segundos.

Dichos eventos aumentan la vulnerabilidad de los datos almacenados para los piratas informáticos, lo que eventualmente aumenta la probabilidad de robo de Face ID en delitos graves. Las víctimas de robo de rostro tienen relativamente menos opciones legales que seguir.

El Reglamento General de Protección de Datos (RGPD) de la UE no otorga a los investigadores una base legal para recopilar fotografías de rostros de personas para investigación biométrica sin su consentimiento. Los Estados Unidos tienen diferentes leyes con respecto al uso de la información biométrica de un individuo sin su consentimiento.

Cómo utilizar las herramientas de reconocimiento facial de forma ética

Los usuarios de reconocimiento facial pueden adoptar los siguientes principios propuestos por la Unión Estadounidense de Libertades Civiles (ACLU) para garantizar el uso ético de esta tecnología:

• Recopilación: las instituciones deben obtener el consentimiento informado por escrito de los ciudadanos antes de incluir sus datos biométricos en la base de datos de reconocimiento facial.
• Uso: Los usuarios deben abstenerse de utilizar sistemas de reconocimiento facial para determinar el color de piel, la raza, la religión, el origen nacional, el sexo, la edad o la discapacidad de una persona.
• Divulgación: los resultados de un sistema de reconocimiento facial no deben comercializarse ni compartirse sin el consentimiento informado y por escrito del interesado.
• Acceso: los ciudadanos deben tener derecho a acceder, editar y eliminar su información facial, junto con los registros de cualquier cambio realizado en los datos.
• Uso indebido: las organizaciones que alojan registros disponibles públicamente relacionados con la identidad de una persona deben tomar medidas proactivas y controles apropiados para evitar que su uso indebido genere una base de datos de huellas faciales. Algunas medidas incluyen restringir el acceso automatizado a bases de datos confidenciales y exigir por contrato a los socios que se adhieran a las pautas de uso ético.
• Seguridad: las organizaciones deben contar con profesionales de seguridad dedicados a alojar, administrar y proteger la información de reconocimiento facial.
• Responsabilidad: los usuarios finales deben mantener un registro de auditoría que incluya detalles de recopilación, uso y divulgación de información junto con las marcas de fecha y hora y los detalles de los usuarios que solicitan la información.
• Acceso del gobierno: las organizaciones pueden otorgar al gobierno acceso a información confidencial en virtud de la Ley de Protección de Datos de 1974 o al recibir una orden de detención de causa probable.
• Transparencia: Las organizaciones deben definir políticas de cumplimiento y uso de datos al tiempo que ofrecen las medidas técnicas necesarias para verificar la rendición de cuentas.

Ejemplos de uso ético de la tecnología de reconocimiento facial

La tecnología de reconocimiento facial está en el corazón de la mayoría de las empresas de tecnología que se enfocan en la seguridad del cliente mientras protegen sus sistemas de posibles amenazas a la seguridad. Examinemos tres ejemplos de empresas que utilizan el reconocimiento facial de forma ética.

IBM

El gigante tecnológico IBM impuso amplias restricciones a sus ventas de tecnología de reconocimiento facial para la regulación federal en los Estados Unidos. Además, IBM propuso recomendaciones específicas al Departamento de Comercio de EE. UU. para imponer restricciones más estrictas a la exportación de sistemas de reconocimiento facial en algunos casos.

También impulsó una regulación de precisión, un movimiento para imponer restricciones más estrictas sobre los usos y usuarios finales que podrían causar un daño social significativo. También propuso seis cambios en el funcionamiento de las tecnologías de reconocimiento facial para encontrar coincidencias, entre ellos:

• Restringir las tecnologías de reconocimiento facial que utilizan usos finales coincidentes "1 a muchos" para vigilancia masiva, perfiles raciales y otras áreas sensibles que podrían violar los derechos humanos.
• Limitación de la exportación de sistemas "1 a muchos" mediante el control de la exportación de cámaras de alta resolución y algoritmos utilizados para recopilar y analizar datos en una base de datos.
• Imponer restricciones a ciertos gobiernos extranjeros que adquieran componentes de computación en la nube a gran escala para sistemas integrados de reconocimiento facial.
• Restringir el acceso a bases de datos de imágenes en línea que se pueden usar para entrenar sistemas de reconocimiento facial de uno a muchos
• Actualizar los últimos registros de derechos humanos de los grupos de lucha contra el crimen del Departamento de Comercio e implementar el control más estricto sobre la exportación de tecnologías de reconocimiento facial que admiten sistemas de coincidencia "1 a muchos".
• Finalmente, limitar la capacidad de los regímenes represivos para adquirir tecnologías controladas más allá de las fronteras de los EE. UU. a través de mecanismos como los Acuerdos de Wassenaar.

microsoft

Microsoft ha establecido varios principios para abordar los problemas éticos de los sistemas de reconocimiento facial. Ha lanzado recursos de formación y nuevos materiales para ayudar a sus clientes a ser más conscientes del uso ético de esta tecnología.

Además de trabajar de cerca con sus clientes, Microsoft está trabajando arduamente para mejorar la capacidad de la tecnología para reconocer rostros en una amplia gama de edades y tonos de piel. Las tecnologías de reconocimiento facial de Microsoft fueron evaluadas recientemente por NIST, que informó que sus algoritmos fueron calificados como los más precisos o casi los más precisos en 127 pruebas.

Microsoft está impulsando nuevas leyes para abordar la transparencia y las pruebas y comparaciones de terceros. Para fomentar la transparencia, Microsoft propone que las empresas de tecnología proporcionen documentación y servicios de reconocimiento facial para delinear las capacidades y limitaciones de la tecnología.

También destacó la necesidad de legislación para contratar proveedores externos para evaluar de forma independiente a los proveedores de servicios comerciales de reconocimiento facial y publicar sus resultados para abordar problemas relacionados con el sesgo y la discriminación.

Amazonas

En 2020, Amazon impuso una moratoria de un año sobre el uso por parte de las fuerzas del orden de su tecnología de reconocimiento facial "Amazon Rekognition". Además, Amazon ha validado su uso en escenarios de aplicación de la ley y seguridad pública para reducir las posibles coincidencias.

Amazon también ha solicitado una patente para investigar capas de autenticación adicionales para garantizar la máxima seguridad. Algunos de estos incluyen pedir a los usuarios que realicen acciones como sonreír, parpadear o inclinar la cabeza.

¿Es el reconocimiento facial invasivo?

Los principales problemas y fallas de la tecnología de reconocimiento facial se derivan de la falta de avance, la diversidad en los conjuntos de datos y el manejo ineficiente del sistema. Sin embargo, la adopción de algunos principios éticos puede evitar que sea invasivo.

Elimine la imparcialidad en el reconocimiento facial para evitar o minimizar el sesgo solucionando fallas en las aplicaciones de cumplimiento de la ley, brindando transparencia sobre cómo funciona la inteligencia artificial internamente, haciendo cumplir la responsabilidad de las partes interesadas, monitoreando con consentimiento y notificación previa, y promulgando una legislación más estricta para evitar violaciones de derechos humanos.

La tecnología de reconocimiento facial tiene un potencial infinito para diversas aplicaciones en las necesidades del mundo real. Sin embargo, abordar las preocupaciones éticas de esta tecnología es vital para que sea una bendición para la humanidad.

¿Qué hacer en caso de un incidente de seguridad? Manéjelo y adminístrelo con respuesta a incidentes para limitar los daños y ahorrar tiempo y dinero.