Facebook представляет новый обзор своих усилий по борьбе с расистскими злоупотреблениями в Интернете после Евро-2020

После очередного крупного инцидента с расистскими оскорблениями в сети, направленными против членов английской футбольной команды, Facebook представил новый обзор того, как он работает над противодействием таким атакам и не дает людям подвергаться оскорблениям на расовой почве на своих платформах.

После поражения Англии в финале чемпионата Европы в воскресенье тролли в социальных сетях опубликовали сотни расистских замечаний, нападая на трех чернокожих игроков сборной Англии по футболу, которые включали использование смайликов в качестве элемента оскорблений. Какие системы Instagram изначально не вызвали беспокойства, но теперь, после проверки, Facebook обновил свои системы и команды, чтобы гарантировать, что он будет решать подобные инциденты в будущем, а также стремится улучшить свои процессы в целом.

Как пояснил Facebook:

«Мы потрясены отвратительными расистскими оскорблениями, которым подверглись некоторые члены футбольной сборной Англии после финала Евро-2020 в прошлые выходные. Это невероятно серьезная проблема, над которой мы работали в течение многих лет, включая прямую работу с футбольными организациями и правоохранительными органами. правоприменение».

Действительно, даже в этом году Facebook столкнулся с серьезными проблемами на этом фронте, опять же связанными с британскими футбольными фанатами.

Еще в феврале Instagram невольно стал источником различных инцидентов, связанных с расовыми атаками на игроков из «Манчестер Юнайтед», «Челси» и «Ливерпуль», среди прочих, которые стали мишенью через Instagram Direct. «Манчестер Юнайтед» в совместном заявлении с «Эвертоном», «Ливерпулем» и «Манчестер Сити » осудил инциденты и призвал материнскую компанию Instagram, Facebook, сделать больше для защиты пользователей от таких инцидентов, что привело к тому, что Instagram вводит более строгие наказания для тех, кто, как было установлено, отправляет оскорбления через DM и новая опция для личных учетных записей, позволяющая отключать DM от людей, на которых они не подписаны.

Тем не менее, очевидно, что есть еще много вопросов, которые нужно добавить к этому. И хотя расизм является социальной проблемой и не ограничивается социальными платформами как таковыми, Facebook должен убедиться, что он не усиливает его, чтобы внести свой вклад в уменьшение его воздействия.

Facebook четко заявляет, что:

«Мы не допускаем нападений на людей на основе их защищенных характеристик, включая расу, религию, национальность или сексуальную ориентацию. Если нам становится известно о каких-либо словах или смайликах, используемых для нападок на людей на основании их расы, мы удаляем их. потому что они нарушают наши правила. Мы публикуем наши правила разжигания ненависти в наших Нормах сообщества и Принципах сообщества Instagram».

Как уже отмечалось, проблема в этом последнем инциденте заключалась в том, что использование смайликов в качестве расистского маркера изначально не было выявлено, что признал глава Instagram Адам Моссери.

Facebook объясняет, что он идентифицирует разжигание ненависти, используя комбинацию искусственного интеллекта и человеческого обзора.

«Искусственный интеллект помогает нам расставлять приоритеты в отчетах для наших рецензентов и при необходимости предпринимать автоматические действия. В период с января по март 2021 года мы удалили более 25 миллионов фрагментов разжигающих ненависть материалов из Facebook — почти 97% до того, как кто-то сообщил нам об этом. И в Instagram , мы предприняли действия в отношении 6,3 миллиона элементов контента, причем 93 % до того, как нам об этом сообщили».

Это хороший результат, но, как показывает этот последний инцидент, все еще бывают случаи, когда эти системы не смогут уловить все. Что, как далее отмечает Моссери, также является проблемой масштаба.

На самом деле, нет никакого способа полностью искоренить такое, но Facebook работает над тем, чтобы обновлять свои системы в режиме реального времени по мере обнаружения случаев, чтобы работать быстрее для борьбы со злоупотреблениями и ограничения воздействия.

«Люди были справедливо разочарованы, когда сообщали о сообщениях, и им неправильно говорили, что ненавистные комментарии с определенными смайликами не нарушают наши правила. Это потому, что наш ИИ не понимал контекста — и это ошибка. Мы переехали быстро исправить это с помощью недавних улучшений нашей технологии. Мы продолжим работать над этим, чтобы быстрее удалять нарушающие правила смайлики с нашей платформы».

Это очень сложный баланс, и ни у кого нет ответов на все вопросы. Различные регулирующие органы, например, предложили ужесточить санкции для социальных платформ, которые своевременно не справляются с такими проблемами. Проблема в том, что то, что считается «своевременным», будет отличаться почти в каждом конкретном случае.

Должен ли Instagram раньше выявить неправильное использование смайликов? Да, но его автоматизированные системы не идентифицировали это как проблему. Потому что этого не было, пока не случилось, и никто не мог этого предвидеть, пока не стало слишком поздно.

Одним из возможных способов решения этой проблемы может быть введение более жестких требований к удостоверениям личности при регистрации учетных записей в социальных сетях, что упростит выявление правонарушителей. Если есть угроза обращения в суд в реальном мире за вашими действиями в Интернете, это может действовать как достаточная угроза, чтобы заставить пользователей пересмотреть свои действия.

Но Facebook говорит, что это не обязательно путь вперед:

«Существуют риски, связанные с проверкой личности, в первую очередь из-за исключения групп, особенно групп, находящихся в неблагоприятном положении, у которых нет легкого доступа к официальным формам идентификации. По последним данным Избирательной комиссии, 11 миллионов человек в Великобритании не имеют водительские права или паспорт, и что эта группа, скорее всего, будет из неблагополучных семей».

Это правильное замечание, которое еще раз дает больше возможностей для стоящей перед ним задачи и для всех онлайн-платформ в этом отношении.

Это сложная, но важная задача, к которой Facebook относится очень серьезно. В идеале можно найти решение, направленное на решение этих ключевых проблем, но в действительности всегда будет определенный уровень злоупотреблений, независимо от того, какие меры будут приняты.

И опять же, в масштабах Facebook даже небольшая погрешность может иметь большое значение.

Надеемся, что по мере развития автоматизированных систем можно будет использовать больше инструментов для обеспечения безопасной среды для всех.