안면 인식의 윤리: 주요 문제 및 솔루션

안면 인식은 매혹적인 기술적 경이 중 하나로 간주됩니다.

사진, 동영상 또는 실시간으로 사람의 얼굴을 인식할 수 있기 때문입니다. 이미지 인식 시스템은 정확성, 속도 및 알고리즘 측면에서 처음부터 법 집행 기관에 채택되고 소비자 장치에 널리 사용되기까지 먼 길을 왔습니다.

개인 정보 보호 비평가 및 옹호자들이 제기한 신원 사기 및 개인 정보 침해 우려와 같은 안면 인식 윤리에 관한 많은 논란을 감안할 때 우리는 백만 달러짜리 질문을 받게 됩니다. 임팩트 있는?

안면 인식 기술 사용의 윤리적 문제는 무엇입니까?

최근 몇 년 동안 비평가들은 얼굴 인식 시스템의 정확성과 신원 사기에서의 역할에 의문을 제기했습니다. 법 집행 기관은 여러 사건에서 실수로 무고한 사람들을 폭동에 연루시켰습니다. 또한, ID 관리 및 저장은 전 세계의 많은 사생활 보호 옹호자들에게 여전히 의문의 여지가 있습니다. 복잡해 보이죠?

출처: AMA 윤리 저널

안면 인식 시스템과 관련된 상위 6가지 윤리적 문제에는 인종 편견 및 잘못된 정보, 법 집행 기관의 인종 차별, 개인 정보 보호, 사전 동의 및 투명성 부족, 대규모 감시, 데이터 유출, 비효율적인 법적 지원이 포함됩니다. 각각에 대해 자세히 살펴보겠습니다.

1. 부정확한 테스트로 인한 인종적 편견

인종 편견은 얼굴 인식 시스템의 주요 관심사 중 하나로 남아 있습니다. 얼굴 인식 알고리즘은 90% 이상의 분류 정확도를 보장하지만 이러한 결과는 보편적이지 않습니다.

최근 과거에 안면 인식의 윤리에 도전하는 우려스러운 상황이 계속해서 나타났습니다. 미국 성인의 절반 이상인 거의 1억 1,700만 명이 법 집행 기관의 안면 인식 네트워크에 사진을 가지고 있습니다. 그러나 얼굴 인식 시스템에서 감지된 오류는 피부색이 어두운 얼굴에서 더 흔했지만 밝은 피부색 얼굴을 일치시킬 때 오류가 적었다는 것은 안타까운 일입니다.

2020년 7월, NIST(National Institute of Standards and Technology)는 이러한 결과를 확인하기 위해 독립적인 평가를 실시했습니다. 189개 알고리즘에 대한 안면 인식 기술이 유색인종 여성에 대한 인종적 편견을 보였다고 보고했다. NIST는 또한 연구된 최고의 안면 인식 알고리즘조차도 거의 50%의 시간 동안 마스크를 착용한 사람을 정확하게 식별할 수 없다고 결론지었습니다.

2. 법 집행에서의 인종 차별

최근 폭로에서 미국 연방 정부는 안면 인식 알고리즘에서 차별 문제를 확인하는 보고서를 발표했습니다. 그 시스템은 일반적으로 중년 백인 남성의 얼굴에는 효과적으로 작동했지만 유색인종, 노인, 여성 및 어린이에게는 제대로 작동하지 않았습니다. 인종적으로 편향되고 오류가 발생하기 쉬운 이러한 알고리즘은 잘못된 체포, 장기간의 투옥, 치명적인 경찰 폭력을 포함하여 혼란을 일으킬 수 있습니다.

미국 국회의사당 경찰과 같은 법 집행 기관은 얼굴 인식 알고리즘을 사용하여 개인을 식별하기 위해 머그샷 데이터베이스에 의존합니다. 이것은 인종 차별적 경찰 전략이 불균형하고 무고한 체포를 초래하는 피드포워드 루프로 이어집니다.

전반적으로 얼굴 인식 데이터는 불완전합니다. 이는 저지르지 않은 범죄에 대한 처벌을 초래할 수 있습니다. 예를 들어 새로운 헤어스타일과 같이 카메라 각도나 모양이 약간 변경되면 오류가 발생할 수 있습니다.

3. 데이터 프라이버시

개인 정보 보호는 정보가 저장 및 관리되는 방식의 투명성 부족으로 인해 일반 대중의 관심사 중 하나입니다. 안면 인식은 정부의 지속적인 감시를 받고 동의 없이 이미지를 유지할 수 있는 시민의 고유한 권리를 침해합니다.

2020년에 유럽 위원회는 법적 프레임워크를 변경하고 개인 정보 보호 및 윤리적 학대에 대한 지침을 포함하기 위해 최대 5년 동안 공공 장소에서 안면 인식 기술을 금지했습니다.

안면 인식과 관련된 개인 정보 보호 문제는 안면 인식 데이터 및 기타 잠재적인 보안 위협을 노출할 수 있는 보안되지 않은 데이터 저장 방식과 관련이 있습니다. 대부분의 조직은 계속해서 로컬 서버에 얼굴 데이터를 호스팅하므로 보안 취약성과 네트워크 보안을 보장할 IT 보안 전문가 부족이 발생합니다.

얼굴 인식 기술은 클라우드에서 호스팅될 때 최대의 데이터 보안을 보장할 수 있습니다. 그러나 데이터 무결성은 적절한 암호화를 통해서만 보장될 수 있습니다. IT 사이버 보안 인력을 배치하는 것은 책임을 개선하고 악의적인 트래픽을 방지하기 위해 소비자 제어를 제공하면서 적절한 데이터 저장에 필수적입니다.

밝은 면에서 안면 인식 기술이 탑재된 소비자 제품은 해당 기능을 비활성화하거나 사용하지 않을 수 있는 옵션이 있어 논란이 덜합니다. 그러나 소비재 회사는 여전히 개인 정보 침해로 인해 금지의 피해자입니다. 그러나 그들은 고급 보안 기능으로 마케팅하여 안면 기술이 탑재된 제품을 계속 제공하고 있습니다.

피해자가 개인정보 침해에 대한 금전적 보상을 받을 수 있도록 하는 장치에 대해 법적 경로를 선택하는 결정이 열려 있습니다. 예를 들어, 소셜 미디어 거대 기업인 Facebook은 얼굴 인식을 위해 공개적으로 사용할 수 없는 사진을 수집하는 것에 대해 일리노이주에서 6억 5천만 달러의 집단 소송을 해결했습니다.

그러나 개인 정보 보호는 공공 안전 및 보안에 대한 지식 없이 시민들을 모니터링, 스캔 및 추적하기 위해 안면 인식 기술을 사용하는 법 집행 기관의 문제입니다. 이로 인해 시민들이 저장 및 거버넌스에 대한 참여와 투명성에 대해 더 많은 통제를 할 수 있도록 더 엄격한 규제를 요구하는 수많은 시위가 촉발되었습니다.

4. 사전 동의 및 투명성 부족

개인 정보 보호는 모든 형태의 데이터 마이닝, 특히 대부분의 수집 정보가 익명으로 처리되는 온라인에서 발생하는 문제입니다. 얼굴 인식 알고리즘은 다양한 조명 조건과 각도에서 이상적으로 여러 번 캡처한 대규모 이미지 데이터 세트에 대해 테스트하고 훈련할 때 더 잘 작동합니다.

이미지의 가장 큰 출처는 온라인 사이트, 특히 공개 Flickr 이미지로, 자유롭게 재사용할 수 있고 때로는 불법적인 소셜 미디어 플랫폼을 허용하는 저작권 라이선스 하에 업로드됩니다.

워싱턴에 기반을 둔 Microsoft Research의 과학자들은 인터넷에서 스크랩한 음악가, 언론인, 학자를 포함하여 100,000명의 거의 1000만 이미지가 포함된 세계 최대 데이터 세트인 MSCeleb5를 수집했습니다.

2019년, 베를린에 기반을 둔 아티스트 Adam Harvey의 웹사이트 MegaPixels는 이러한 데이터 세트와 기타 데이터 세트에 플래그를 지정했습니다. 기술자이자 프로그래머인 Jules LaPlace와 함께 그는 대부분의 업로더가 자신의 사진을 공개적으로 공유했음을 보여주었습니다. 그러나 상업용 감시 제품을 평가하고 개선하는 데 오용되고 있었습니다.

5. 대량 감시

유비쿼터스 카메라 및 데이터 분석과 함께 사용할 때 얼굴 인식은 시민의 자유와 사생활 권리를 침해할 수 있는 대규모 감시로 이어집니다. 안면 인식 기술은 범죄자를 추적하여 정부의 법 집행에 도움이 되지만 일반 사람들과 무고한 사람들의 기본적인 개인 정보 보호 권리도 침해합니다.

최근 유럽연합 집행위원회는 51개 조직으로부터 대량 감시를 위한 모든 안면 인식 도구의 전면 금지를 요구하는 공개 서한을 받았습니다. 또 다른 사건으로, 43,000명 이상의 유럽 시민이 EU에서 생체 인식 대량 감시 관행을 금지할 것을 요구하는 얼굴을 되찾아달라는 청원에 서명했습니다.

최근의 사건은 사람, 정부 기관 및 집단 민주주의를 조작하고 위협하기 위한 인공 지능(AI)의 무분별한 사용으로 인해 안면 인식 기술의 윤리에 도전했습니다.

AI 및 머신 러닝(ML)은 보안 안면 인식 기술을 활용할 수 있는 파괴적인 기술입니다. 신분 도용 및 사기에 오용되기 전에 빨간색 선을 그리는 것이 중요합니다.

6. 데이터 침해 및 비효율적인 법적 지원

데이터 침해는 대중과 정부 모두에게 심각한 개인 정보 보호 문제를 제기할 수 있습니다.

보안 침해는 시민들의 주요 관심사이지만 이 기술의 발전은 사이버 보안의 발전과 클라우드 기반 스토리지의 사용 증가로 이어졌습니다. 암호화와 같은 보안 계층이 추가되어 클라우드에 저장된 데이터를 악의적인 사용으로부터 보호할 수 있습니다.

라스베이거스에서 보안 연구원들이 주최한 연례 블랙햇 해커 컨퍼런스에서 해커들은 단 120초 만에 Apple의 iPhone FaceID 사용자 인증을 깨뜨렸습니다.

이러한 이벤트는 저장된 데이터의 해커에 대한 취약성을 증가시켜 결국 심각한 범죄에서 Face ID 도용의 가능성을 높입니다. 안면 도용 피해자가 추구할 법적 선택권은 상대적으로 적습니다.

EU GDPR(일반 데이터 보호 규정)은 연구자에게 동의 없이 생체 인식 연구를 위해 사람 얼굴 사진을 수집할 법적 근거를 제공하지 않습니다. 미국에는 동의 없이 개인의 생체 정보를 사용하는 것과 관련하여 다른 법률이 있습니다.

얼굴 인식 도구를 윤리적으로 사용하는 방법

안면 인식 사용자는 이 기술의 윤리적 사용을 보장하기 위해 ACLU(미국 시민 자유 연합)에서 제안한 다음 원칙을 채택할 수 있습니다.

• 수집: 기관은 안면 인식 데이터베이스에 생체 인식 데이터를 포함하기 전에 시민의 사전 서면 동의를 얻어야 합니다.
• 사용법: 사용자는 개인의 피부색, 인종, 종교, 출신 국가, 성별, 연령 또는 장애를 판별하기 위해 안면 인식 시스템을 사용하는 것을 삼가야 합니다.
• 공개: 얼굴 인식 시스템의 결과는 정보 주체의 사전 서면 동의 없이 거래되거나 공유되어서는 안 됩니다.
• 액세스: 시민은 데이터 변경 기록과 함께 얼굴 정보에 액세스, 편집 및 삭제할 수 있는 권한이 있어야 합니다.
• 오용: 개인의 신원과 관련하여 공개적으로 사용 가능한 기록을 호스팅하는 조직은 안면 지문 데이터베이스를 잘못 사용하는 것을 방지하기 위해 사전 조치와 적절한 통제를 취해야 합니다. 일부 조치에는 민감한 데이터베이스에 대한 자동화된 액세스를 제한하고 계약상 파트너가 윤리적 사용 지침을 준수하도록 요구하는 것이 포함됩니다.
• 보안: 조직에는 안면 인식 정보를 호스팅, 관리 및 보호할 전담 보안 전문가가 있어야 합니다.
• 책임: 최종 사용자는 정보를 요청하는 사용자의 날짜 및 시간 스탬프와 세부 정보와 함께 정보 수집, 사용 및 공개 세부 정보를 포함하는 감사 추적을 유지해야 합니다.
• 정부 접근: 조직은 1974년 데이터 보호법에 따라 또는 정당한 사유가 있는 영장을 받으면 기밀 정보에 대한 정부 접근 권한을 부여할 수 있습니다.
• 투명성: 조직은 규정 준수 및 데이터 사용에 대한 정책을 정의하는 동시에 책임을 확인하는 데 필요한 기술적 조치를 제공해야 합니다.

안면 인식 기술의 윤리적 사용 예

얼굴 인식 기술은 잠재적인 보안 위협으로부터 시스템을 보호하면서 고객 안전에 중점을 둔 대부분의 기술 회사의 핵심입니다. 윤리적으로 안면 인식을 사용하는 기업의 세 가지 예를 살펴보겠습니다.

IBM

기술 대기업 IBM은 미국 연방 규정에 따라 안면 인식 기술 판매에 전면적인 제한을 가했습니다. 또한 IBM은 경우에 따라 안면 인식 시스템의 수출을 더 엄격하게 제한하기 위해 미국 상무부에 구체적인 권장 사항을 제안했습니다.

또한 정밀 규제, 심각한 사회적 피해를 초래할 수 있는 최종 사용 및 사용자에 대한 더 엄격한 제한을 부과하는 움직임을 추진했습니다. 또한 안면 인식 기술이 일치 항목을 찾기 위해 작동하는 방식에 다음과 같은 6가지 변경 사항을 제안했습니다.

• 대량 감시, 인종 프로파일링 및 기타 인권을 침해할 수 있는 민감한 영역에 "1:다" 매칭 최종 용도를 사용하는 안면 인식 기술 제한
• 데이터베이스에 대해 데이터를 수집하고 분석하는 데 사용되는 알고리즘과 고해상도 카메라의 내보내기를 모두 제어하여 "일대다" 시스템의 내보내기를 제한합니다.
• 통합 안면 인식 시스템을 위한 대규모 클라우드 컴퓨팅 구성 요소를 조달하는 특정 외국 정부에 제한을 부과합니다.
• 일대다 얼굴 인식 시스템을 훈련하는 데 사용할 수 있는 온라인 이미지 데이터베이스에 대한 액세스 제한
• 상무부 범죄 진압 단체의 최신 인권 기록 업데이트 및 "일대다" 매칭 시스템을 지원하는 안면 인식 기술 수출에 대한 엄격한 통제 시행
• 마지막으로, 바세나르 협정과 같은 메커니즘을 통해 미국 국경을 넘어 통제된 기술을 조달하는 억압적인 정권의 능력을 제한합니다.

마이크로소프트

Microsoft는 얼굴 인식 시스템의 윤리적 문제를 해결하기 위해 몇 가지 원칙을 수립했습니다. 고객이 이 기술의 윤리적 사용을 더 잘 인식할 수 있도록 교육 리소스와 새로운 자료를 발표했습니다.

Microsoft는 고객과 긴밀하게 협력하는 것 외에도 다양한 연령대와 피부색의 얼굴을 인식하는 기술의 기능을 개선하기 위해 열심히 노력하고 있습니다. 마이크로소프트의 안면 인식 기술은 최근 127개 테스트에서 알고리즘이 가장 정확하거나 거의 가장 정확한 것으로 평가된 NIST의 평가를 받았다.

Microsoft는 투명성과 제3자 테스트 및 비교를 다루는 새로운 법률을 추진하고 있습니다. 투명성을 장려하기 위해 Microsoft는 기술 회사가 기술의 기능과 한계를 설명하는 문서 및 얼굴 인식 서비스를 제공할 것을 제안합니다.

또한 상업적 안면 인식 서비스 제공업체를 독립적으로 테스트하고 편견 및 차별과 관련된 문제를 해결하기 위해 결과를 게시하기 위해 제3자 제공업체를 고용하는 법안의 필요성을 강조했습니다.

아마존

2020년, 아마존은 법 집행 기관의 안면 인식 기술 "Amazon Rekognition" 사용에 대해 1년 유예 조치를 취했습니다. 또한 Amazon은 잠재적 일치 범위를 좁히기 위해 공공 안전 및 법 집행 시나리오에서의 사용을 검증했습니다.

Amazon은 또한 최대 보안을 보장하기 위해 추가 인증 계층을 연구하는 특허를 신청했습니다. 이들 중 일부는 사용자에게 미소 짓기, 깜박임 또는 머리 기울이기와 같은 작업을 수행하도록 요청하는 것을 포함합니다.

안면 인식은 침습적입니까?

안면 인식 기술의 주요 문제점과 실패는 발전 부족, 데이터 세트의 다양성, 비효율적인 시스템 처리에서 비롯됩니다. 그러나 몇 가지 윤리적 원칙을 채택하면 침해를 피할 수 있습니다.

법 집행 애플리케이션의 결함을 수정하고, 인공 지능이 내부적으로 작동하는 방식에 대한 투명성을 제공하고, 이해 관계자의 책임을 강화하고, 동의 및 사전 통지를 통해 모니터링하고, 인권 침해를 방지하기 위해 더 엄격한 법률을 제정함으로써 편견을 방지하거나 최소화하기 위해 안면 인식의 공정성을 제거합니다.

안면 인식 기술은 실제 요구 사항에서 다양한 응용 프로그램에 대한 무한한 잠재력을 가지고 있습니다. 그러나 이 기술의 윤리적 문제를 해결하는 것은 인류에게 도움이 되기 위해 매우 중요합니다.

보안 사고 발생 시 어떻게 해야 합니까? 사고 대응으로 처리 및 관리하여 피해를 제한하고 시간과 비용을 절약하십시오.