Этика распознавания лиц: ключевые проблемы и решения

Распознавание лиц считается одним из захватывающих технологических чудес.

Это правильно, так как он может распознавать человеческое лицо по фото, видео или в режиме реального времени. Системы распознавания изображений прошли долгий путь от своего создания до принятия правоохранительными органами и широкого использования в потребительских устройствах с точки зрения точности, скорости и алгоритмов.

Учитывая многочисленные противоречия, связанные с этикой распознавания лиц, такие как мошенничество с идентификацией и опасения по поводу вторжения в частную жизнь, высказанные критиками и защитниками конфиденциальности, нас встречает вопрос на миллион долларов: нуждается ли распознавание лиц в этической оценке, чтобы сделать его более справедливым и справедливым? впечатляющий?

Каковы этические проблемы использования технологии распознавания лиц?

В последние годы критики поставили под сомнение точность систем распознавания лиц и их роль в мошенничестве с идентификацией. Правоохранительные органы в ряде случаев ошибочно причисляли к беспорядкам невиновных людей. Кроме того, управление идентификационными данными и их хранение остаются под вопросом для многих защитников конфиденциальности во всем мире. Кажется сложным, не так ли?

Источник: Журнал этики AMA.

Шесть основных этических проблем, связанных с системами распознавания лиц, включают расовую предвзятость и дезинформацию, расовую дискриминацию в правоохранительных органах, неприкосновенность частной жизни, отсутствие информированного согласия и прозрачности, массовое наблюдение, утечку данных и неэффективную юридическую поддержку. Рассмотрим подробно каждый из них.

1. Расовая предвзятость из-за неточностей тестирования

Расовая предвзятость остается одной из ключевых проблем систем распознавания лиц. Хотя алгоритмы распознавания лиц обеспечивают точность классификации более 90%, эти результаты не являются универсальными.

В недавнем прошлом снова и снова возникали тревожные события, которые бросают вызов этике распознавания лиц. Более половины взрослых американцев, или почти 117 миллионов человек, имеют фотографии в сети распознавания лиц правоохранительных органов. Однако настораживает тот факт, что ошибки, обнаруженные в системе распознавания лиц, чаще встречались на темнокожих лицах, но меньше ошибок при сопоставлении светлокожих лиц.

В июле 2020 года Национальный институт стандартов и технологий (NIST) провел независимую оценку, чтобы подтвердить эти результаты. Сообщалось, что технологии распознавания лиц для 189 алгоритмов показали расовую предвзятость в отношении цветных женщин. NIST также пришел к выводу, что даже самые лучшие изученные алгоритмы распознавания лиц не могут правильно идентифицировать человека в маске почти в 50% случаев.

2. Расовая дискриминация в правоохранительных органах

В недавнем разоблачении федеральное правительство США опубликовало отчет, в котором подтвердились проблемы с дискриминацией в его алгоритмах распознавания лиц. Его система обычно эффективно работала для лиц белых мужчин среднего возраста, но плохо для цветных людей, пожилых людей, женщин и детей. Эти расово предвзятые, склонные к ошибкам алгоритмы могут сеять хаос, включая неправомерные аресты, длительные тюремные заключения и даже смертоносное насилие со стороны полиции.

Правоохранительные органы, такие как полиция Капитолия США, полагаются на базы данных фотографий для идентификации людей с помощью алгоритмов распознавания лиц. Это приводит к петле обратной связи, когда расистские полицейские стратегии приводят к непропорциональным и невиновным арестам.

В целом, данные распознавания лиц несовершенны. Это может привести к наказанию за несовершенные преступления. Например, небольшое изменение угла камеры или внешнего вида, например, новая прическа, может привести к ошибкам.

3. Конфиденциальность данных

Конфиденциальность является одной из основных проблем общественности, в основном из-за отсутствия прозрачности в том, как информация хранится и управляется. Распознавание лиц нарушает неотъемлемое право граждан находиться под постоянным наблюдением правительства и хранить свои изображения без согласия.

В 2020 году Европейская комиссия запретила технологию распознавания лиц в общественных местах на срок до пяти лет, чтобы внести изменения в свою правовую базу и включить руководящие принципы в отношении конфиденциальности и этических нарушений.

Проблемы конфиденциальности, связанные с распознаванием лиц, связаны с незащищенными методами хранения данных, которые могут раскрыть данные распознавания лиц и другие потенциальные угрозы безопасности. Большинство организаций продолжают размещать свои данные о лицах на локальных серверах, что приводит к уязвимостям в системе безопасности и нехватке специалистов по ИТ-безопасности для обеспечения сетевой безопасности.

Технологии распознавания лиц могут обеспечить максимальную безопасность данных при размещении в облаке. Однако целостность данных может быть гарантирована только при правильном шифровании. Развертывание ИТ-специалистов по кибербезопасности необходимо для надлежащего хранения данных, а также для обеспечения контроля потребителей для улучшения подотчетности и предотвращения вредоносного трафика.

С другой стороны, потребительские товары, оснащенные технологиями распознавания лиц, вызывают меньше споров, учитывая возможность отключить или не использовать эту функцию. Тем не менее, компании по производству потребительских товаров по-прежнему являются жертвами запретов из-за нарушения конфиденциальности. Но они продолжают предлагать технологичные продукты для лица, рекламируя их как расширенную функцию безопасности.

Решимость пойти законным путем открыта для устройств, которые позволяют жертве добиваться финансовой компенсации за нарушение конфиденциальности. Например, гигант социальных сетей Facebook урегулировал коллективный иск на 650 миллионов долларов в Иллинойсе за сбор фотографий, недоступных для распознавания лиц.

Тем не менее, конфиденциальность по-прежнему является проблемой для правоохранительных органов, использующих технологию распознавания лиц для мониторинга, сканирования и отслеживания граждан без их ведома в целях общественной безопасности. Это вызвало многочисленные протесты, призывающие к более строгим правилам, чтобы дать гражданам больше контроля над участием и прозрачностью в отношении хранения и управления.

4. Отсутствие информированного согласия и прозрачности

Конфиденциальность является проблемой при любой форме интеллектуального анализа данных, особенно в Интернете, где большая часть собираемой информации является анонимной. Алгоритмы распознавания лиц работают лучше при тестировании и обучении на больших наборах данных изображений, в идеале снятых несколько раз в разных условиях освещения и под разными углами.

Крупнейшими источниками изображений являются онлайн-сайты, особенно общедоступные изображения Flickr, загруженные в соответствии с лицензиями на авторское право, которые допускают свободное повторное использование, а иногда и незаконными платформами социальных сетей.

Ученые из вашингтонской компании Microsoft Research собрали крупнейший в мире набор данных MSCeleb5, содержащий почти 10 миллионов изображений 100 000 человек, включая музыкантов, журналистов и ученых, взятых из Интернета.

В 2019 году веб-сайт берлинского художника Адама Харви под названием MegaPixels пометил эти и другие наборы данных. Вместе с технологом и программистом Жюлем Лапласом он показал, что большинство пользователей открыто делились своими фотографиями. Но они использовались не по назначению для оценки и улучшения коммерческих продуктов наблюдения.

5. Массовая слежка

При использовании наряду с вездесущими камерами и анализом данных распознавание лиц приводит к массовой слежке, которая может поставить под угрозу свободу и права граждан на неприкосновенность частной жизни. В то время как технология распознавания лиц помогает правительствам правоохранительных органов выслеживать преступников, она также ставит под угрозу основные права на неприкосновенность частной жизни обычных и невиновных людей.

Недавно Европейская комиссия получила открытое письмо от 51 организации, призывающей к полному запрету всех инструментов распознавания лиц для массового наблюдения. С другой стороны, более 43 000 граждан Европы подписали петицию Reclaim Your Face, призывающую к запрету практики массового биометрического наблюдения в ЕС.

Недавняя волна событий бросила вызов этике технологии распознавания лиц из-за неуправляемого использования искусственного интеллекта (ИИ) для манипулирования и угроз людям, государственным учреждениям и коллективной демократии.

ИИ и машинное обучение (МО) — это прорывные технологии, которые могут использовать безопасные технологии распознавания лиц. Важно провести красные линии, прежде чем они будут использованы для кражи личных данных и мошенничества.

6. Утечки данных и неэффективная юридическая поддержка

Утечки данных могут вызвать серьезные опасения в отношении конфиденциальности как у общественности, так и у правительства.

Хотя нарушения безопасности являются серьезной проблемой для граждан, развитие этой технологии привело к прогрессу в области кибербезопасности и более широкому использованию облачных хранилищ. Благодаря дополнительному уровню безопасности, такому как шифрование, данные, хранящиеся в облаке, могут быть защищены от злонамеренного использования.

На ежегодной хакерской конференции Black Hat, организованной исследователями безопасности в Лас-Вегасе, хакеры взломали аутентификацию пользователя Apple iPhone FaceID всего за 120 секунд.

Такие события повышают уязвимость хранимых данных для хакеров, что в конечном итоге увеличивает вероятность кражи Face ID при серьезных преступлениях. Жертвы кражи лица имеют относительно меньше юридических возможностей для преследования.

Общий регламент ЕС по защите данных (GDPR) не дает исследователям правовых оснований собирать фотографии лиц людей для биометрических исследований без их согласия. В Соединенных Штатах действуют другие законы, касающиеся использования биометрической информации человека без его согласия.

Как этично использовать инструменты распознавания лиц

Пользователи системы распознавания лиц могут принять следующие принципы, предложенные Американским союзом гражданских свобод (ACLU), для обеспечения этичного использования этой технологии:

• Сбор: Учреждения должны получить информированное письменное согласие граждан, прежде чем включать их биометрические данные в базу данных распознавания лиц.
• Использование: Пользователи должны воздерживаться от использования систем распознавания лиц для определения цвета кожи, расы, религии, национального происхождения, пола, возраста или инвалидности человека.
• Раскрытие информации: результаты работы системы распознавания лиц не должны продаваться или передаваться без информированного письменного согласия субъекта данных.
• Доступ: Граждане должны иметь право доступа, редактирования и удаления информации о своих лицах вместе с записями любых изменений, внесенных в данные.
• Неправомерное использование: Организации, которые размещают общедоступные записи, связанные с личностью человека, должны принимать упреждающие меры и соответствующие меры контроля, чтобы предотвратить их неправомерное использование для создания базы данных отпечатков лица. Некоторые меры включают ограничение автоматизированного доступа к конфиденциальным базам данных и контрактное требование к партнерам соблюдать этические принципы использования.
• Безопасность. В организациях должны быть специальные специалисты по безопасности для размещения, управления и защиты информации распознавания лиц.
• Подотчетность: конечные пользователи должны вести журнал аудита, который включает сведения о сборе, использовании и раскрытии информации, а также отметки даты и времени, а также сведения о пользователях, запрашивающих информацию.
• Правительственный доступ: организации могут предоставить правительству доступ к конфиденциальной информации в соответствии с Законом о защите данных 1974 года или после получения ордера на уважительную причину.
• Прозрачность: организации должны определить политики соответствия и использования данных, предлагая при этом необходимые технические меры для проверки подотчетности.

Примеры этичного использования технологии распознавания лиц

Технология распознавания лиц лежит в основе большинства технологических компаний, которые сосредоточены на безопасности клиентов и защите своих систем от потенциальных угроз безопасности. Давайте рассмотрим три таких примера компаний, использующих распознавание лиц с этической точки зрения.

IBM

Технический гигант IBM ввел радикальные ограничения на продажу своей технологии распознавания лиц в соответствии с федеральным законодательством США. Кроме того, IBM предложила Министерству торговли США конкретные рекомендации по введению в некоторых случаях более строгих ограничений на экспорт систем распознавания лиц.

Он также настаивал на точном регулировании, стремлении наложить более строгие ограничения на конечное использование и пользователей, которые могут нанести значительный общественный вред. Он также предложил шесть изменений в том, как работают технологии распознавания лиц для поиска совпадений, в том числе:

• Ограничение технологий распознавания лиц, которые используют соответствие «один ко многим» для массового наблюдения, расового профилирования и других деликатных областей, которые могут нарушать права человека.
• Ограничение экспорта систем «один ко многим» за счет управления экспортом как камер с высоким разрешением, так и алгоритмов, используемых для сбора и анализа данных в базе данных.
• Наложение ограничений на закупку правительствами некоторых стран крупномасштабных компонентов облачных вычислений для интегрированных систем распознавания лиц.
• Ограничение доступа к онлайн-базам изображений, которые можно использовать для обучения систем распознавания лиц «один ко многим».
• Обновление последних отчетов о правах человека от групп по борьбе с преступностью Министерства торговли и осуществление строжайшего контроля над экспортом технологий распознавания лиц, поддерживающих системы сопоставления «один ко многим».
• Наконец, ограничение способности репрессивных режимов приобретать контролируемые технологии за пределами США с помощью таких механизмов, как Вассенаарские соглашения.

Майкрософт

Microsoft установила несколько принципов для решения этических проблем систем распознавания лиц. Компания выпустила учебные ресурсы и новые материалы, чтобы помочь своим клиентам лучше понять этичное использование этой технологии.

Помимо тесного сотрудничества со своими клиентами, Microsoft усердно работает над улучшением способности технологии распознавать лица людей разного возраста и цвета кожи. Технологии распознавания лиц Microsoft недавно были оценены NIST, который сообщил, что их алгоритмы были оценены как самые точные или близкие к самым точным в 127 тестах.

Microsoft настаивает на принятии новых законов для обеспечения прозрачности и стороннего тестирования и сравнения. Для поощрения прозрачности Microsoft предлагает технологическим компаниям предоставить документацию и услуги по распознаванию лиц, чтобы определить возможности и ограничения технологии.

В нем также подчеркивается необходимость в законодательстве нанимать сторонних поставщиков для независимой проверки коммерческих поставщиков услуг распознавания лиц и публикации их результатов для решения проблем, связанных с предвзятостью и дискриминацией.

Амазонка

В 2020 году Amazon ввела годичный мораторий на использование правоохранительными органами своей технологии распознавания лиц Amazon Rekognition. Кроме того, Amazon подтвердила его использование в сценариях общественной безопасности и правоохранительных органов, чтобы сузить потенциальные совпадения.

Amazon также подала заявку на патент для исследования дополнительных уровней аутентификации для обеспечения максимальной безопасности. Некоторые из них включают в себя просьбу к пользователям выполнять такие действия, как улыбка, моргание или наклон головы.

Является ли распознавание лиц инвазивным?

Основные проблемы и неудачи технологии распознавания лиц связаны с отсутствием прогресса, разнообразием наборов данных и неэффективной работой с системой. Однако, приняв некоторые этические принципы, можно избежать инвазивности.

Устраните беспристрастность в распознавании лиц, чтобы предотвратить или свести к минимуму предвзятость, исправив сбои в приложениях правоохранительных органов, обеспечив прозрачность внутренней работы искусственного интеллекта, обеспечив подотчетность заинтересованных сторон, мониторинг с согласия и предварительного уведомления и приняв более строгое законодательство, чтобы избежать нарушений прав человека.

Технология распознавания лиц имеет бесконечный потенциал для различных приложений в реальных условиях. Однако решение этических проблем, связанных с этой технологией, жизненно важно, чтобы сделать ее благом для человечества.

Что делать в случае нарушения безопасности? Обрабатывайте и управляйте им с реагированием на инциденты, чтобы ограничить ущерб и сэкономить время и деньги.