Facebook fornece nova visão geral de seus esforços para combater o abuso racista online na esteira do Euro 2020

Após outro grande incidente de abuso racista online, direcionado a membros do time de futebol inglês, o Facebook forneceu uma nova visão geral de como está trabalhando para lidar com esses ataques e impedir que as pessoas sofram abuso racial em suas plataformas.

Após a derrota da Inglaterra na final da Eurocopa no domingo, trolls de mídia social postaram centenas de comentários racistas, atacando os três jogadores negros do time de futebol da Inglaterra, que incluíam o uso de emojis como elemento de abuso. Quais sistemas do Instagram não se preocuparam inicialmente - mas agora, em revisão, o Facebook atualizou seus sistemas e equipes para garantir que resolva incidentes semelhantes no futuro, enquanto também procura melhorar seus processos em geral.

Conforme explicado pelo Facebook:

"Estamos chocados com o abuso racista abominável que alguns membros do time de futebol da Inglaterra sofreram após a final da Euro 2020 no último fim de semana. Esta é uma questão incrivelmente séria na qual estamos trabalhando há anos, que inclui trabalhar diretamente com organizações de futebol e leis execução."

De fato, ainda este ano, o Facebook enfrentou sérios desafios nessa frente, novamente vinculados aos fãs de futebol do Reino Unido.

Em fevereiro, o Instagram involuntariamente se tornou a fonte de vários incidentes de ataques baseados em raça contra jogadores do Manchester United, Chelsea e Liverpool, entre outros, que foram alvos do Instagram Direct. O Manchester United, em uma declaração conjunta com Everton, Liverpool e Manchester City , condenou os incidentes e pediu ao Facebook, empresa controladora do Instagram, que faça mais para proteger os usuários, o que leva o Instagram a implementar penalidades mais duras para aqueles que enviam abusos via DM e uma nova opção para contas pessoais para desativar DMs de pessoas que eles não seguem.

Claramente, no entanto, ainda há mais questões a serem abordadas sobre isso. E enquanto o racismo é uma questão social, e não se limita às plataformas sociais como tal, o Facebook precisa garantir que não forneça nenhuma amplificação para o mesmo, a fim de fazer sua parte para reduzir seus impactos.

O Facebook afirma claramente que:

“Não permitimos ataques a pessoas com base em suas características protegidas, que incluem raça, religião, nacionalidade ou orientação sexual. porque eles violam nossas políticas. Publicamos nossas políticas de discurso de ódio em nossos Padrões da Comunidade e nas Diretrizes da Comunidade do Instagram."

O problema neste último incidente, como observado, foi que o uso de emojis como marcador racista não foi identificado inicialmente, o que o chefe do Instagram, Adam Mosseri, reconheceu.

O Facebook explica que identifica o discurso de ódio usando uma combinação de inteligência artificial e revisão humana.

"A IA nos ajuda a priorizar relatórios para nossos revisores e tomar ações automatizadas quando apropriado. Entre janeiro e março de 2021, removemos mais de 25 milhões de conteúdos de discurso de ódio do Facebook - quase 97% antes de alguém nos denunciar. E no Instagram , agimos em 6,3 milhões de conteúdos, 93% antes que alguém nos denunciasse."

O que é uma boa taxa de resultados, mas como este último incidente mostra, ainda há momentos em que esses sistemas não serão capazes de capturar tudo. O que, como observa Mosseri, também é um desafio de escala.

Realisticamente, não há como eliminar totalmente isso, mas o Facebook está trabalhando para garantir que atualize seus sistemas em tempo real, à medida que os casos são detectados, a fim de trabalhar mais rápido para combater o abuso e limitar a exposição.

"As pessoas ficaram frustradas com razão quando denunciaram postagens e foram informadas incorretamente de que comentários de ódio com certos emojis não violam nossas regras. Isso porque nossa IA não entendeu o contexto - e isso é um erro. rapidamente para corrigir isso por meio de melhorias recentes em nossa tecnologia. Continuaremos trabalhando nisso para que possamos remover emojis violadores de nossa plataforma mais rapidamente."

É um equilíbrio muito difícil, e ninguém tem todas as respostas. Vários grupos reguladores, por exemplo, propuseram penalidades mais duras para plataformas sociais que não abordam isso em tempo hábil. O problema é que o que é considerado 'oportuno' será diferente quase caso a caso.

O Instagram deveria ter percebido o uso indevido de emojis mais cedo? Sim - mas seus sistemas automatizados não identificaram isso como um problema. Porque não era, até que fosse, e ninguém poderia necessariamente ter previsto isso até que fosse tarde demais.

Uma maneira possível de resolver isso poderia ser impor requisitos de identificação mais rígidos aos indivíduos quando eles se inscrevem em contas de mídia social, o que facilitaria a identificação dos infratores. Se houver uma ameaça de recurso legal no mundo real para suas ações on-line, isso pode funcionar como uma ameaça suficiente para fazer os usuários reconsiderarem suas ações.

Mas o Facebook diz que isso também não é necessariamente o caminho a seguir:

"Existem riscos com a verificação de identidade, principalmente a exclusão de grupos - particularmente grupos desfavorecidos - que não têm acesso fácil a formas oficiais de identificação. A modelagem mais recente da Comissão Eleitoral estima que 11 milhões de pessoas no Reino Unido não têm uma carteira de motorista ou passaporte, e que esse grupo era mais provável de ser de origens desfavorecidas".

O que é um ponto válido e, mais uma vez, fornece um pouco mais de escopo quanto ao desafio diante dele, e de todas as plataformas online, a esse respeito.

É um desafio difícil, mas importante, e que o Facebook está levando muito a sério. Idealmente, pode-se encontrar uma solução que aborde essas questões-chave, mas, realisticamente, sempre haverá um nível de uso indevido, não importa quais medidas sejam implementadas.

E, novamente, na escala do Facebook, mesmo uma pequena margem de erro pode significar um grande impacto.

Esperamos que, à medida que os sistemas automatizados evoluam, mais ferramentas possam ser implementadas para manter um ambiente seguro para todos.