A regulamentação efetiva pode reduzir o impacto do conteúdo divisivo nas redes sociais?
Publicados: 2022-04-08Em meio a uma nova tempestade de controvérsias desencadeadas pelos Arquivos do Facebook, uma exposição de vários projetos de pesquisa interna que, de certa forma, sugerem que o Facebook não está fazendo o suficiente para proteger os usuários contra danos, a questão central que precisa ser abordada geralmente é distorcido pelo viés inerente e segmentação específica do Facebook, a empresa, em oposição às mídias sociais, e amplificação de conteúdo algorítmico como um conceito.
Ou seja, o que fazemos para corrigi-lo? O que pode ser feito, realisticamente, que realmente fará a diferença; Que mudanças na regulamentação ou política poderiam ser implementadas para reduzir a amplificação de postagens nocivas e divisivas que estão alimentando mais angústia na sociedade como resultado da crescente influência dos aplicativos de mídia social?
É importante considerar a mídia social de forma mais ampla aqui, porque toda plataforma social usa algoritmos para definir a distribuição e o alcance do conteúdo. O Facebook é de longe o maior e tem mais influência em elementos-chave, como conteúdo de notícias – e, claro, os próprios insights da pesquisa, neste caso, vieram do Facebook.
O foco no Facebook, especificamente, faz sentido, mas o Twitter também amplifica o conteúdo que gera mais engajamento, o LinkedIn classifica seu feed com base no que determina que será mais envolvente. O algoritmo do TikTok é altamente sintonizado com seus interesses.
O problema, como destacado pelo denunciante do Facebook, Frances Haugen, é a distribuição algorítmica, não o próprio Facebook – então, quais ideias temos que podem melhorar realisticamente esse elemento?
E a outra questão é: as plataformas sociais estarão dispostas a fazer essas mudanças, especialmente se apresentarem um risco para seus níveis de engajamento e atividade do usuário?
Haugen, que é especialista em correspondência algorítmica de conteúdo, propôs que as redes sociais sejam forçadas a parar de usar algoritmos baseados em engajamento, por meio de reformas nas leis da Seção 230, que atualmente protegem as empresas de mídia social da responsabilidade legal pelo que os usuários compartilham em seus aplicativos .
Conforme explicado por Haugen:
“Se tivéssemos supervisão apropriada, ou se reformássemos [Seção] 230 para tornar o Facebook responsável pelas consequências de suas decisões intencionais de classificação, acho que eles se livrariam da classificação baseada em engajamento.”
O conceito aqui é que o Facebook – e, por extensão, todas as plataformas sociais – seriam responsabilizados pelas maneiras pelas quais amplificam determinado conteúdo. Portanto, se mais pessoas acabarem vendo, digamos, desinformação sobre COVID por causa de intervenção algorítmica, o Facebook poderá ser responsabilizado legalmente por quaisquer impactos.
Isso adicionaria um risco significativo a qualquer tomada de decisão em torno da construção de tais algoritmos e, como observa Haugen, isso pode ver as plataformas forçadas a dar um passo atrás nas medidas que aumentam o alcance das postagens com base em como os usuários interagem com esse conteúdo. .
Essencialmente, isso provavelmente faria com que as plataformas sociais fossem forçadas a retornar aos dias pré-algoritmo, quando o Facebook e outros aplicativos simplesmente mostrariam uma lista do conteúdo das páginas e pessoas que você segue em ordem cronológica, com base no tempo de postagem. Isso, por sua vez, reduziria a motivação para pessoas e marcas compartilharem conteúdo mais controverso e atraente para o engajamento, a fim de aproveitar os caprichos do algoritmo.
A ideia tem algum mérito – como vários estudos mostraram, provocar uma resposta emocional com suas postagens sociais é fundamental para maximizar o engajamento e, portanto, o alcance com base na amplificação de algoritmos, e as emoções mais eficazes, nesse aspecto, são humor e raiva. Piadas e vídeos engraçados ainda funcionam bem em todas as plataformas, alimentados pelo alcance do algoritmo, mas também as tomadas quentes indutoras de raiva, com as quais os meios de comunicação e personalidades partidárias correram, o que poderia muito bem ser uma fonte importante da divisão e angústia que agora veja on-line.
Para ser claro, o Facebook não pode ser o único responsável por isso. Editores partidários e figuras controversas há muito têm desempenhado um papel no discurso mais amplo e estavam despertando a atenção e o envolvimento com suas opiniões de centro-esquerda muito antes da chegada do Facebook. A diferença agora é que as redes sociais facilitam esse alcance amplo, enquanto também, por meio de curtidas e outras formas de engajamento, fornecem incentivo direto para isso, com usuários individuais recebendo uma dose de dopamina ao acionar a resposta e os editores direcionando mais tráfego de referência e ganhando mais exposição através da provocação.
Realmente, uma questão fundamental ao considerar o resultado anterior é que todos agora têm voz e, quando todos têm uma plataforma para compartilhar seus pensamentos e opiniões, estamos todos muito mais expostos a isso e muito mais conscientes. No passado, você provavelmente não tinha ideia sobre as convicções políticas de seu tio, mas agora você sabe, porque as mídias sociais o lembram todos os dias, e esse tipo de compartilhamento entre colegas também desempenha um papel na divisão mais ampla.
O argumento de Haugen, no entanto, é que o Facebook incentiva isso – por exemplo, um dos relatórios que Haugen vazou para o Wall Street Journal descreve como o Facebook atualizou seu algoritmo de feed de notícias em 2018 para colocar mais ênfase no engajamento entre usuários e reduzir a discussão política, que tornou-se um elemento cada vez mais divisivo no aplicativo. O Facebook fez isso alterando seu peso para diferentes tipos de engajamento com postagens.

A ideia era que isso incentivasse mais discussão, ponderando mais as respostas - mas, como você pode imaginar, valorizando mais os comentários, a fim de gerar mais alcance, isso também levou mais editores e Páginas a compartilhar cada vez mais divisivos, emocionalmente- postagens carregadas, a fim de incitar mais reações e obter pontuações de compartilhamento mais altas como resultado. Com esta atualização, as curtidas não eram mais o principal fator de alcance, como antes, com o Facebook tornando os comentários e as reações (incluindo 'Raiva') cada vez mais importantes. Como tal, provocar discussões sobre tendências políticas realmente se tornou mais proeminente e expôs mais usuários a esse conteúdo em seus feeds.

A sugestão então, com base nesses dados internos, é que o Facebook sabia disso, sabia que essa mudança aumentou o conteúdo divisivo. Mas eles optaram por não voltar atrás ou implementar outra atualização, porque o engajamento, uma medida fundamental para o sucesso do negócio, de fato aumentou como resultado.
Nesse sentido, remover a motivação do algoritmo faria sentido – ou talvez você pudesse remover incentivos de algoritmo para certos tipos de postagem, como discussão política, enquanto ainda maximiza o alcance de postagens mais envolventes de amigos, atendendo a metas de engajamento e divisões preocupações.
É isso que Dave Gillis, do Facebook, que trabalha na equipe de segurança de produtos da plataforma, apontou em um tweet, em resposta às revelações.
De acordo com Gillis:
“ No final do artigo do WSJ sobre classificação de feeds algorítmicos, é mencionado - quase de passagem - que deixamos de usar a classificação baseada em engajamento para conteúdo cívico e de saúde no Feed de Notícias. Mas espere - isso é um grande negócio, não? Provavelmente é razoável classificar, digamos, vídeos de gatos e fotos de bebês por curtidas etc., mas manuseie outros tipos de conteúdo com mais cuidado. E isso é, de fato, o que nossas equipes defendem: usar diferentes sinais de classificação para conteúdo de saúde e cívico, priorizando qualidade + confiabilidade em vez de engajamento. Trabalhamos duro para entender o impacto, obter liderança - sim, Mark também - e é uma mudança importante. ”
Esse pode ser um caminho a seguir, usando diferentes sinais de classificação para diferentes tipos de conteúdo, o que pode funcionar para permitir a amplificação ideal do conteúdo, aumentando o envolvimento benéfico do usuário, ao mesmo tempo em que diminui a motivação de certos atores para postar material divisivo para alimentar os algoritmos. alcançar.
Isso funcionaria? Novamente, é difícil dizer, porque as pessoas ainda seriam capazes de compartilhar postagens, ainda seriam capazes de comentar e redistribuir material online, ainda há muitas maneiras de a amplificação acontecer fora do próprio algoritmo.
Em essência, há méritos em ambas as sugestões, que plataformas sociais poderiam tratar diferentes tipos de conteúdo de forma diferente, ou que algoritmos poderiam ser eliminados para reduzir a amplificação de tal material.
E, como observa Haugen, o foco nos próprios sistemas é importante, porque as soluções baseadas em conteúdo abrem várias complexidades quando o material é postado em outros idiomas e regiões.
“No caso da Etiópia, são 100 milhões de pessoas e seis idiomas. O Facebook suporta apenas dois desses idiomas para sistemas de integridade. Essa estratégia de focar em sistemas específicos de linguagem e conteúdo específico para que a IA nos salve está fadada ao fracasso.”
Talvez, então, remover algoritmos, ou pelo menos mudar os regulamentos sobre como os algoritmos operam, seria uma solução ideal, que poderia ajudar a reduzir os impactos de conteúdo negativo e indutor de raiva em toda a esfera da mídia social.
Mas então voltamos ao problema original que o algoritmo do Facebook foi projetado para resolver – em 2015, o Facebook explicou que precisava do algoritmo do Feed de Notícias não apenas para maximizar o envolvimento do usuário, mas também para ajudar a garantir que as pessoas vissem todas as atualizações da maioria relevância para eles.
Como explicava, o usuário médio do Facebook, naquela época, tinha cerca de 1.500 postagens qualificadas para aparecer em seu feed de notícias em qualquer dia, com base nas páginas que eles curtiram e em suas conexões pessoais - enquanto para alguns usuários mais ativos , esse número era mais como 15.000. Simplesmente não é possível que as pessoas leiam cada uma dessas atualizações todos os dias, então o foco principal do Facebook com o algoritmo inicial era criar um sistema que descobrisse o melhor e mais relevante conteúdo para cada indivíduo, a fim de fornecer aos usuários o mais experiência envolvente e, posteriormente, mantê-los voltando.
Como o diretor de produtos do Facebook, Chris Cox, explicou à Time Magazine:
"Se você pudesse classificar tudo o que aconteceu na Terra hoje que foi publicado em qualquer lugar por qualquer um de seus amigos, familiares, qualquer fonte de notícias e depois escolher os 10 que foram mais significativos para saber hoje, isso seria muito legal. serviço para nós construirmos. Isso é realmente o que desejamos que o Feed de Notícias se torne."
A abordagem do Feed de Notícias evoluiu muito desde então, mas o desafio fundamental que foi projetado para resolver permanece. As pessoas têm muitas conexões, seguem muitas páginas, são membros de muitos grupos para receber todas as atualizações, todos os dias. Sem o algoritmo de feed, eles perderão postagens relevantes, atualizações relevantes, como anúncios de família e aniversários, e simplesmente não estarão tão envolvidos na experiência do Facebook.
Sem o algoritmo, o Facebook perderá, por não otimizar para os desejos do público – e como destacado em outro dos relatórios compartilhados como parte dos Arquivos do Facebook, na verdade já está vendo declínios de engajamento em alguns subconjuntos demográficos.

Você pode imaginar que se o Facebook eliminasse o algoritmo, ou fosse forçado a mudar sua direção sobre isso, esse gráfico só pioraria com o tempo.
Zuck and Co. provavelmente não estarão interessados nessa solução, então um compromisso, como o proposto por Gillis, pode ser o melhor que se pode esperar. Mas isso vem com suas próprias falhas e riscos.
De qualquer forma, vale a pena notar que o foco do debate precisa mudar para algoritmos de forma mais ampla, não apenas no Facebook sozinho, e se existe realmente uma maneira viável e viável de mudar os incentivos em torno de sistemas baseados em algoritmos para limitar a distribuição de elementos mais divisivos.
Porque isso é um problema, não importa como o Facebook ou qualquer outra pessoa tente girá-lo, e é por isso que a posição de Haugen é importante, pois pode ser a faísca que nos leva a um novo debate mais sutil em torno desse elemento-chave.