Social Media Fuels Division and Angst - Mais résoudre les problèmes sous-jacents en jeu est extrêmement complexe

Malgré diverses études et contre-études, largement financées par les réseaux eux-mêmes, les médias sociaux restent un véhicule extrêmement problématique pour les messages de division et les mouvements nuisibles.

Mais son influence est souvent mal comprise, ou des éléments sont confondus pour obscurcir les faits, pour diverses raisons. La véritable influence du social n'est pas nécessairement due aux algorithmes ni à l'amplification en tant qu'éléments de concentration. Le mal le plus important vient de la connexion elle-même et de la capacité de se brancher sur les pensées des gens que vous connaissez, quelque chose qui n'était pas possible dans le passé.

Voici un exemple - disons que vous êtes complètement vacciné contre le COVID, que vous faites entièrement confiance à la science et que vous faites ce que les responsables de la santé ont conseillé, aucun problème, aucune inquiétude concernant le processus. Mais ensuite, vous voyez un message de votre vieil ami - appelons-le "Dave" - ​​dans lequel Dave exprime ses inquiétudes concernant le vaccin et pourquoi il hésite à l'obtenir.

Vous n'avez peut-être pas parlé à Dave depuis des années, mais vous l'appréciez, vous respectez son opinion. Soudain, ce n'est plus un militant sans visage et sans nom que vous pouvez facilement renvoyer, c'est quelqu'un que vous connaissez, et cela vous amène à vous demander s'il y a plus que vous ne le pensiez dans la poussée anti-vax. Dave n'a jamais semblé stupide, ni crédule, peut-être devriez-vous vous renseigner un peu plus.

Alors vous le faites - vous lisez les liens postés par Dave, vous consultez les messages et les articles, peut-être même que vous parcourez quelques groupes pour essayer de mieux comprendre. Peut-être commencez-vous également à publier des commentaires sur des articles anti-vax, et tout cela indique aux algorithmes de Facebook que vous êtes intéressé par ce sujet et que vous êtes de plus en plus susceptible de vous engager dans des publications similaires. Les recommandations commencent à changer dans votre flux, vous vous impliquez davantage dans le sujet, et tout cela vous pousse plus loin d'un côté ou de l'autre de l'argument, alimentant la division.

Mais cela n'a pas commencé avec l'algorithme, qui est une réfutation essentielle des contre-arguments de Meta. Tout a commencé avec Dave, quelqu'un que vous connaissez, qui a publié une opinion qui a suscité votre intérêt.

C'est pourquoi des campagnes plus larges visant à manipuler l'opinion publique sont si préoccupantes. Les campagnes de perturbation orchestrées par l'Agence russe de recherche sur Internet à l'approche des élections américaines de 2016 en sont l'exemple le plus public, mais des poussées similaires se produisent tout le temps. La semaine dernière, des rapports ont révélé que le gouvernement indien utilisait des campagnes de force brute alimentées par des robots sur les réseaux sociaux pour "inonder la zone" et déplacer le débat public sur certains sujets en proposant des sujets alternatifs à la tendance sur Facebook et Twitter. De nombreux projets NFT et cryptographiques cherchent maintenant à profiter du battage médiatique plus large en utilisant des robots Twitter pour rendre leurs offres plus populaires et plus réputées qu'elles ne le sont.

La plupart des gens, bien sûr, se méfient désormais de plus en plus de ces poussées et remettront plus facilement en question ce qu'ils voient en ligne. Mais tout comme l'escroquerie par e-mail nigériane classique, il ne faut qu'un très petit nombre de personnes pour s'y accrocher, et tous ces efforts en valent la peine. Les coûts de main-d'œuvre sont faibles et le processus peut être largement automatisé. Et seuls quelques Daves peuvent finir par avoir un impact important sur le discours public.

Les motivations de ces campagnes sont complexes. Dans le cas du gouvernement indien, il s'agit de contrôler le discours public et de réprimer une éventuelle dissidence, tandis que pour les escrocs, il s'agit d'argent. Il existe de nombreuses raisons pour lesquelles de telles poussées sont adoptées, mais il ne fait aucun doute que les médias sociaux ont fourni un connecteur précieux et viable pour ces efforts.

Mais les contre-arguments sont sélectifs. Meta dit que le contenu politique ne représente qu'une petite partie de l'ensemble du matériel partagé sur Facebook. Ce qui est peut-être vrai, mais cela ne compte que les articles partagés, pas les messages personnels et les discussions de groupe. Meta dit également que le contenu qui divise est en fait mauvais pour les affaires car, comme l'explique le PDG Mark Zuckerberg :

« Nous gagnons de l'argent grâce aux publicités, et les annonceurs nous disent constamment qu'ils ne veulent pas que leurs publicités soient à côté de contenus nuisibles ou agressifs. Et je ne connais aucune entreprise technologique qui se propose de créer des produits qui mettent les gens en colère ou déprimés. Les incitations morales, commerciales et de produit pointent toutes dans la direction opposée. ”

Pourtant, dans le même temps, les propres recherches de Meta ont également montré le pouvoir de Facebook pour influencer l'opinion publique, en particulier dans le contexte politique.

En 2010, environ 340 000 électeurs supplémentaires se sont rendus aux élections du Congrès américain en raison d'un seul message Facebook le jour des élections, stimulé par Facebook.

Selon l' étude :

"Environ 611 000 utilisateurs (1%) ont reçu un "message d'information" en haut de leur fil d'actualité, qui les encourageait à voter, fournissait un lien vers des informations sur les bureaux de vote locaux et incluait un bouton cliquable "J'ai voté" et un compteur de Utilisateurs de Facebook qui avaient cliqué dessus. Environ 60 millions d'utilisateurs (98 %) ont reçu un « message social », qui comprenait les mêmes éléments, mais montrait également les photos de profil de jusqu'à six amis Facebook sélectionnés au hasard qui avaient cliqué sur le bouton « J'ai voté » . Les 1 % d'utilisateurs restants ont été affectés à un groupe de contrôle qui n'a reçu aucun message."

Les résultats ont montré que ceux qui ont vu le deuxième message, avec des images de leurs relations incluses, étaient de plus en plus susceptibles de voter, ce qui a finalement conduit 340 000 personnes supplémentaires à se rendre aux urnes à la suite du coup de pouce des pairs. Et ce n'est qu'à petite échelle en termes de Facebook, parmi 60 millions d'utilisateurs, la plate-forme se rapprochant désormais de 3 milliards d'actifs mensuels dans le monde.

Il est clair, sur la base des propres preuves de Facebook, que la plate-forme détient en effet un pouvoir d'influence important grâce aux connaissances des pairs et au partage personnel.

Ce n'est donc pas spécifiquement Facebook, ni le tristement célèbre algorithme du fil d'actualité qui sont les principaux responsables de ce processus. Ce sont les gens, et ce que les gens choisissent de partager. C'est ce que le PDG de Meta, Mark Zuckerberg, a souligné à plusieurs reprises :

« Oui, nous avons de gros désaccords, peut-être plus maintenant qu'à n'importe quel moment de l'histoire récente. Mais cela s'explique en partie par le fait que nous mettons nos problèmes sur la table – des problèmes dont on n'a pas parlé pendant longtemps. Plus de personnes de plus de parties de notre société ont une voix que jamais auparavant, et il faudra du temps pour entendre ces voix et les rassembler dans un récit cohérent. ”

Contrairement à la suggestion selon laquelle cela cause plus de problèmes, Meta voit Facebook comme un vecteur de véritable changement social, que grâce à la liberté d'expression, nous pouvons atteindre un point de plus grande compréhension, et que fournir une plate-forme pour tous devrait, théoriquement, assurer une meilleure représentation. et connexion.

Ce qui est vrai d'un point de vue optimiste, mais néanmoins, la capacité des mauvais acteurs à influencer également ces opinions partagées est tout aussi importante, et ce sont tout aussi souvent les pensées qui sont amplifiées parmi les connexions de vos réseaux.

Alors, que peut-on faire, au-delà de ce sur quoi les équipes d'application et de modération de Meta travaillent déjà ?

Eh bien, probablement pas grand-chose. À certains égards, la détection de texte répété dans les publications fonctionnerait apparemment, ce que les plates-formes font déjà de différentes manières. Limiter le partage autour de certains sujets pourrait également avoir un certain impact, mais en réalité, la meilleure voie à suivre est ce que fait Meta, en travaillant pour détecter les auteurs de tels sujets et en supprimant les réseaux amplifiant le contenu douteux.

La suppression de l'algorithme fonctionnerait-elle ?

Peut-être. La lanceuse d'alerte Frances Haugen a pointé du doigt l'algorithme du fil d'actualité, et sa concentration sur l'engagement avant tout, comme un problème clé, car le système est effectivement conçu pour amplifier le contenu qui incite à la discussion.

C'est certainement problématique dans certaines applications, mais cela empêcherait-il Dave de partager ses réflexions sur un problème ? Non, ce ne serait pas le cas, et en même temps, rien ne suggère que les Dave du monde obtiennent leurs informations via des sources douteuses, comme celles mises en évidence ici. Mais les plateformes de médias sociaux et leurs algorithmes facilitent les deux, ils améliorent ce processus et offrent de toutes nouvelles voies de division.

Différentes mesures pourraient être adoptées, mais l'efficacité de chacune est très discutable. Parce qu'une grande partie de cela n'est pas un problème de médias sociaux, c'est un problème de personnes, comme le dit Meta. Le problème est que nous avons maintenant accès aux pensées de tout le monde, et nous ne sommes pas d'accord avec certaines d'entre elles.

Dans le passé, nous pouvions continuer, parfaitement inconscients de nos différences. Mais à l'ère des médias sociaux, ce n'est plus une option.

Est-ce que cela finira par, comme le dit Zuckerberg, nous conduire à une société plus compréhensive, intégrée et civile ? Les résultats jusqu'à présent suggèrent que nous avons un moyen d'y parvenir.