面部识别的伦理：关键问题和解决方案

面部识别被认为是令人着迷的技术奇迹之一。

没错，因为它可以从照片、视频或实时识别人脸。 图像识别系统从一开始就在执法中得到采用，并在准确性、速度和算法方面广泛应用于消费设备，已经走过了漫长的道路。

鉴于围绕面部识别伦理的许多争议，例如隐私批评者和倡导者所表达的身份欺诈和隐私侵犯问题，我们面临着一个价值数百万美元的问题：面部识别是否需要进行道德清算以使其更加公平和有影响？

使用面部识别技术有哪些伦理问题？

近年来，批评者质疑面部识别系统在身份欺诈中的准确性和作用。 执法机构在多起事件中错误地将无辜者牵连到骚乱中。 此外，身份管理和存储对于全球许多困扰隐私倡导者来说仍然存在疑问。 看起来很复杂，不是吗？

资料来源： AMA 伦理杂志

与面部识别系统相关的前六大道德问题包括种族偏见和错误信息、执法中的种族歧视、隐私、缺乏知情同意和透明度、大规模监控、数据泄露和低效的法律支持。 让我们详细检查它们中的每一个。

1. 测试不准确导致的种族偏见

种族偏见仍然是面部识别系统的主要关注点之一。 尽管人脸识别算法可以确保分类准确率超过 90%，但这些结果并不普遍。

最近，挑战面部识别伦理的令人担忧的事态发展一次又一次地出现。 超过一半的美国成年人，即近 1.17 亿人，在执法部门的面部识别网络上拥有照片。 然而，令人不安的是，在人脸识别系统中检测到的错误在肤色较深的人脸中更为常见，但在匹配浅肤色人脸时错误较少。

2020 年 7 月，美国国家标准与技术研究院 (NIST) 进行了独立评估以确认这些结果。 据报道，189 种算法的面部识别技术显示出对有色人种女性的种族偏见。 NIST 还得出结论，即使是研究过的最好的面部识别算法，也有近 50% 的时间无法正确识别戴口罩的人。

2. 执法中的种族歧视

在最近的一次披露中，美国联邦政府发布了一份报告，证实了其面部识别算法中存在歧视问题。 它的系统通常对中年白人男性的面孔有效，但对有色人种、老人、妇女和儿童的面孔效果不佳。 这些带有种族偏见、容易出错的算法可能会造成严重破坏，包括错误逮捕、长期监禁，甚至是致命的警察暴力。

美国国会警察等执法机构依靠面部照片数据库来识别使用面部识别算法的个人。 这导致了一个前馈循环，种族主义警务策略导致不成比例的无辜逮捕。

总的来说，人脸识别数据是不完善的。 它可能导致对未犯下的罪行进行处罚。 例如，摄像机角度或外观的微小变化（例如新发型）可能会导致错误。

3. 数据隐私

隐私是公众普遍关注的问题之一，主要是由于信息的存储和管理方式缺乏透明度。 人脸识别侵犯了公民在未经同意的情况下受到政府持续监视和保留其图像的固有权利。

2020 年，欧盟委员会禁止在公共场所使用面部识别技术长达五年，以改变其法律框架，并纳入有关隐私和道德滥用的指导方针。

关于面部识别的隐私问题与可能暴露面部识别数据和其他潜在安全威胁的不安全数据存储做法有关。 大多数组织继续在本地服务器上托管他们的面部数据，导致安全漏洞和缺乏 IT 安全专业人员来确保网络安全。

当托管在云上时，面部识别技术可以确保最大的数据安全性。 然而，数据的完整性只能通过适当的加密来保证。 部署 IT 网络安全人员对于正确存储数据至关重要，同时提供消费者控制以提高问责制并防止恶意流量。

从好的方面来说，配备面部识别技术的消费产品争议较小，因为可以选择禁用或不使用该功能。 然而，由于隐私侵蚀，消费品公司仍然是禁令的受害者。 但他们继续通过将面部技术作为高级安全功能进行营销来提供富含面部技术的产品。

走法律途径的决定对允许受害者就隐私侵犯寻求经济赔偿的设备开放。 例如，社交媒体巨头 Facebook 在伊利诺伊州就收集未公开用于面部识别的照片而提起的 6.5 亿美元集体诉讼达成和解。

然而，对于使用面部识别技术来监控、扫描和跟踪公民的执法机构来说，隐私仍然是一个问题，他们不知道公共安全。 这引发了许多抗议活动，呼吁制定更严格的法规，让公民对存储和治理的参与和透明度有更多控制权。

4. 缺乏知情同意和透明度

隐私是任何形式的数据挖掘的一个问题，尤其是在线数据挖掘，其中大多数收集的信息都是匿名的。 面部识别算法在对大型图像数据集进行测试和训练时效果更好，理想情况下是在不同的照明条件和角度下多次捕获。

图片的最大来源是在线网站，尤其是公开的 Flickr 图片，这些图片是根据版权许可上传的，允许自由重复使用，有时甚至是非法的社交媒体平台。

位于华盛顿的微软研究院的科学家们积累了世界上最大的数据集 MSCeleb5，其中包含从互联网上抓取的 100,000 人的近 1000 万张图像，其中包括音乐家、记者和学者。

2019 年，柏林艺术家 Adam Harvey 的网站 MegaPixels 标记了这些数据集和其他数据集。 他与技术专家兼程序员 Jules LaPlace 一起表明，大多数上传者都公开分享了他们的照片。 但它们被滥用于评估和改进商业监控产品。

5. 大规模监视

当与无处不在的摄像头和数据分析一起使用时，面部识别会导致大规模监控，这可能会损害公民的自由和隐私权。 虽然面部识别技术通过追踪犯罪分子来帮助政府执法，但它也损害了普通人和无辜者的基本隐私权。

最近，欧盟委员会收到了一封来自 51 个组织的公开信，呼吁全面禁止所有用于大规模监控的面部识别工具。 在另一轮事件中，超过 43,000 名欧洲公民签署了“收回你的脸”请愿书，呼吁禁止在欧盟进行大规模生物识别监控做法。

由于不守规矩地使用人工智能 (AI) 来操纵和威胁人们、政府机构和集体民主，最近发生的一连串事件对面部识别技术的伦理提出了挑战。

人工智能和机器学习 (ML) 是可以利用安全面部识别技术的颠覆性技术。 在它们被滥用于身份盗窃和欺诈之前画出红线很重要。

6. 数据泄露和无效的法律支持

数据泄露会给公众和政府带来严重的隐私问题。

虽然安全漏洞是公民的主要担忧，但这项技术的发展导致网络安全的进步和基于云的存储的使用增加。 通过增加加密等安全层，可以保护存储在云中的数据免受恶意使用。

在拉斯维加斯安全研究人员组织的年度黑帽黑客大会上，黑客仅用了 120 秒就破解了苹果的 iPhone FaceID 用户身份验证。

此类事件增加了存储数据对黑客的脆弱性，最终增加了严重犯罪中 Face ID 盗窃的可能性。 面部盗窃受害者的法律选择相对较少。

欧盟通用数据保护条例 (GDPR) 并未为研究人员提供法律依据，即在未经他们同意的情况下收集人脸照片进行生物识别研究。 对于未经个人同意而使用个人生物特征信息，美国有不同的法律。

如何合乎道德地使用面部识别工具

面部识别用户可以采用美国公民自由联盟 (ACLU) 提出的以下原则，以确保以合乎道德的方式使用该技术：

• 收集：机构在将其生物特征数据纳入面部识别数据库之前，应获得公民的知情书面同意。
• 使用：用户应避免使用面部识别系统来确定个人的肤色、种族、宗教、国籍、性别、年龄或残疾。
• 披露：未经数据主体知情的书面同意，不得交易或共享面部识别系统的结果。
• 访问：公民应该有权访问、编辑和删除他们的面部信息，以及对数据所做的任何更改的记录。
• 滥用：托管与个人身份相关的公开可用记录的组织应采取积极措施和适当的控制措施，以防止其滥用建立面部指纹数据库。 一些措施包括限制对敏感数据库的自动访问，并通过合同要求合作伙伴遵守道德使用指南。
• 安全性：组织应该有专门的安全专业人员来托管、管理和保护面部识别信息。
• 问责制：最终用户必须维护审计跟踪，其中包括信息收集、使用和披露详细信息，以及请求信息的用户的日期和时间戳以及详细信息。
• 政府访问：组织可以根据 1974 年《数据保护法》或在收到合理理由令时授予政府访问机密信息的权限。
• 透明度：组织必须定义合规性和数据使用政策，同时提供必要的技术措施来验证问责制。

面部识别技术的道德使用示例

面部识别技术是大多数科技公司的核心，它们专注于客户安全，同时保护他们的系统免受潜在的安全威胁。 让我们来看看三个这样的公司在道德上使用面部识别的例子。

IBM

科技巨头 IBM 对其面部识别技术的销售实施了全面限制，以适应美国的联邦监管。 此外，IBM 还向美国商务部提出了具体建议，在某些情况下对面部识别系统的出口实施更严格的限制。

它还推动了精确监管，对可能造成重大社会危害的最终用途和用户施加更严格的限制。 它还提出了面部识别技术如何寻找匹配项的六项变化，包括：

• 限制使用“一对多”匹配最终用途的面部识别技术进行大规模监视、种族定性和其他可能侵犯人权的敏感领域
• 通过控制用于收集和分析数据库数据的高分辨率相机和算法的导出，限制“一对多”系统的导出
• 限制某些外国政府为集成面部识别系统采购大型云计算组件。
• 限制对可用于训练一对多人脸识别系统的在线图像数据库的访问
• 更新商务部打击犯罪组织的最新人权记录，并对支持“一对多”匹配系统的面部识别技术的出口实施最严格的控制
• 最后，限制专制政权通过《瓦森纳协定》等机制在美国境外采购受控技术的能力

微软

Microsoft 制定了几项原则来解决面部识别系统的道德问题。 它发布了培训资源和新材料，以帮助其客户更加了解该技术的道德使用。

除了与客户密切合作外，微软还在努力提高该技术识别各种年龄和肤色的面部的能力。 NIST 最近对微软的面部识别技术进行了评估，报告称其算法在 127 次测试中被评为最准确或接近最准确的算法。

微软正在推动制定新的法律来解决透明度以及第三方测试和比较问题。 为了鼓励透明度，微软建议科技公司提供文档和面部识别服务，以描述该技术的功能和局限性。

它还强调需要立法聘请第三方提供商来独立测试商业面部识别服务提供商并发布他们的结果，以解决与偏见和歧视相关的问题。

亚马逊

2020 年，亚马逊对执法部门使用其面部识别技术“Amazon Rekognition”实施了为期一年的暂停。 此外，亚马逊已验证其在公共安全和执法场景中的用途，以缩小潜在匹配范围。

亚马逊还申请了一项专利来研究额外的身份验证层，以确保最大的安全性。 其中一些包括要求用户执行诸如微笑、眨眼或歪头之类的动作。

面部识别是否具有侵入性？

面部识别技术的主要问题和失败源于缺乏先进性、数据集的多样性和系统处理效率低下。 但是，采用一些道德原则可以避免使其具有侵入性。

通过修复执法应用程序中的故障、提供人工智能内部工作方式的透明度、强制利益相关者问责、在同意和事先通知的情况下进行监控以及制定更严格的立法以避免侵犯人权，消除面部识别的公正性，以防止或最大限度地减少偏见。

人脸识别技术在现实世界的各种应用需求中具有无限潜力。 然而，解决这项技术的伦理问题对于使其造福人类至关重要。

发生安全事故怎么办？ 通过事件响应来处理和管理它，以限制损害并节省时间和金钱。