Facebook 提供了其在 2020 年欧洲杯之后打击在线种族主义虐待的努力的新概述

在针对英格兰足球队成员的另一起重大在线种族主义虐待事件之后，Facebook 提供了一个新的概述，说明它如何解决此类攻击，并阻止人们在其平台上遭受基于种族的虐待。

继英格兰队在周日的欧洲锦标赛决赛中失利后，社交媒体上发布了数百条种族主义言论，攻击英格兰足球队的三名黑人球员，其中包括使用表情符号作为辱骂元素。 Instagram 的系统最初并没有引起人们的关注——但现在，经过审查，Facebook 已经更新了它的系统和团队，以确保它能够继续解决类似的事件，同时它还希望整体改进其流程。

正如 Facebook 所解释的：

“我们对英格兰足球队的一些成员在上周末 2020 年欧洲杯决赛后经历的可恶的种族主义虐待感到震惊。这是我们多年来一直在努力解决的一个非常严重的问题，其中包括直接与足球组织和法律合作执法。”

事实上，即使在今年，Facebook 在这方面也面临着严峻的挑战，再次与英国球迷联系在一起。

早在 2 月份，Instagram 就在不知不觉中成为了针对曼联、切尔西和利物浦等球员的各种基于种族的攻击事件的来源，这些球员都是 Instagram Direct 的目标。 曼联在与埃弗顿、利物浦和曼城的联合声明中谴责了这些事件，并呼吁 Instagram 的母公司 Facebook 采取更多措施保护用户免受此类事件的侵害，这导致 Instagram 对那些被发现通过DM，以及一个新的个人帐户选项，用于关闭他们不关注的人的 DM。

然而，显然还有更多的问题需要解决。 虽然种族主义是一个社会问题，并且不仅限于社交平台本身，但 Facebook 需要确保它不会为同样的问题提供任何放大，以尽其所能减少其影响。

Facebook 明确指出：

“我们不允许基于受保护特征（包括种族、宗教、国籍或性取向）对人进行攻击。如果我们发现有任何词语或表情符号被用来基于种族攻击他人，我们会将其删除因为他们违反了我们的政策。我们在我们的社区标准和 Instagram 的社区准则中发布了我们的仇恨言论政策。

如前所述，这一最新事件的问题在于，最初并未发现将表情符号用作种族主义标记，Instagram 负责人亚当·莫塞里 (Adam Mosseri) 承认了这一点。

Facebook 解释说，它通过结合使用人工智能和人工审查来识别仇恨言论。

“人工智能帮助我们为审阅者确定报告的优先级，并在适当的情况下采取自动化行动。在 2021 年 1 月至 3 月期间，我们从 Facebook 删除了超过 2500 万条仇恨言论内容——近 97% 是在有人向我们举报之前。在 Instagram 上，我们对 630 万条内容采取了行动，其中 93% 是在有人向我们举报之前。”

这是一个很好的结果率，但正如最近的事件所显示的那样，这些系统仍然有时无法捕捉到所有东西。 正如 Mosseri 进一步指出的那样，这也是规模的挑战。

实际上，没有办法完全消除这种情况，但 Facebook 正在努力确保在检测到案例时实时更新其系统，以便更快地打击滥用行为并限制曝光。

“人们在举报帖子时感到非常沮丧，并且被错误地告知带有某些表情符号的仇恨评论不会违反我们的规则。那是因为我们的人工智能不了解上下文 - 这是一个错误。我们已经搬家了“通过最近对我们技术的改进，迅速纠正这个问题。我们将继续努力，以便我们可以更快地从我们的平台上删除违规的表情符号。”

这是一个非常困难的平衡，没有人知道所有的答案。 例如，各种监管团体已提议对未能及时解决此类问题的社交平台进行更严厉的处罚。 问题是，被认为是“及时”的东西几乎在逐案的基础上会有所不同。

Instagram 是否应该早点发现滥用表情符号的问题？ 是的——但它的自动化系统并未将其识别为问题。 因为它不是，直到它出现，没有人能预料到会发生这样的事情，直到为时已晚。

解决此问题的一种可能方法是在个人注册社交媒体帐户时对他们施加更严格的身份要求，这将更容易识别犯罪者。 如果您的在线行为存在现实世界法律追索权的威胁，那么这可能足以使用户重新考虑他们的行为。

但 Facebook 表示，这也不一定是前进的方向：

“身份验证存在风险，主要是排除了无法轻松获得官方身份证明的群体——尤其是弱势群体。选举委员会的最新模型估计，英国有 1100 万人没有驾照或护照，而且这个群体更有可能来自弱势背景。”

这是一个有效的观点，并且在这方面再次为之前的挑战以及所有在线平台提供了更多的范围。

这是一项艰巨但重要的挑战，Facebook 非常重视这一挑战。 理想情况下，可以找到解决这些关键问题的解决方案，但实际上，无论实施何种措施，总会存在一定程度的误用。

再说一次，在 Facebook 的规模上，即使是很小的误差幅度也可能意味着巨大的影响。

希望随着自动化系统的发展，可以制定更多工具来为所有人维护一个安全的环境。