Trouver des réponses aux problèmes identifiés dans les dernières fuites Facebook sera un processus complexe

Alors, qu'avons-nous appris de la dernière divulgation de documents et de recherches internes sur Facebook ?

Eh bien, pas beaucoup, vraiment. L'ancienne ingénieure de Facebook, Frances Haugen, a publié le mois dernier une première série de rapports internes de The Social Network, qui décrivaient diverses préoccupations, notamment ses difficultés à gérer le contenu anti-vaccin, les effets néfastes de ses changements d'algorithme et les effets négatifs d'Instagram sur la santé mentale. sur les ados.

Haugen a publié une autre série de rapports cette semaine, via un effort coordonné avec diverses publications majeures, qui développent ces affirmations initiales et ajoutent plus de détails sur divers aspects. Et tout cela est intéressant, sans aucun doute, tout cela met en lumière ce que Facebook sait de ses systèmes et comment ils peuvent semer la division et l'angoisse, et leurs impacts sociétaux plus larges. Mais les révélations, aussi, soulignent largement ce que nous savions ou soupçonnions déjà. Que le manque de prise en charge de la langue locale par Facebook a entraîné une augmentation des dommages dans certaines régions, que son réseau est utilisé pour des activités criminelles, y compris la traite des êtres humains, et que Facebook a peut-être donné la priorité à la croissance plutôt qu'à la sécurité dans certaines prises de décision.

Tout cela était largement connu, mais le fait que Facebook le sache également, et que ses propres recherches le confirment, est significatif et conduira à une toute nouvelle série d'actions prises contre The Social Network, sous des formes variées.

Mais il existe d'autres notes précieuses dont nous n'étions pas au courant et qui sont cachées parmi les milliers de pages d'informations de recherche internes.

Un élément clé, souligné par le journaliste Alex Kantrowitz, concerne spécifiquement l'algorithme controversé du fil d'actualité et la façon dont Facebook a travaillé pour équilibrer les préoccupations avec l'amplification du contenu à travers diverses expériences.

La principale solution préconisée par Haugen dans son discours initial au congrès à propos de la fuite de Facebook Files est que les réseaux sociaux devraient être contraints de cesser complètement d'utiliser des algorithmes basés sur l'engagement, via des réformes des lois de l'article 230, ce qui, selon Haugen, modifierait les incitations pour l'engagement des plateformes sociales et réduire les dommages causés par leurs systèmes.

Comme l'explique Haugen :

"Si nous avions une surveillance appropriée, ou si nous réformions [l'article] 230 pour rendre Facebook responsable des conséquences de leurs décisions de classement intentionnelles, je pense qu'ils se débarrasseraient du classement basé sur l'engagement."

Mais est-ce que ça marcherait ?

Tel que rapporté par Kantrowitz, Facebook a en fait mené une expérience pour découvrir :

"En février 2018, un chercheur de Facebook a pratiquement désactivé l'algorithme de classement du fil d'actualité pour 0,05 % des utilisateurs de Facebook. "Que se passe-t-il si nous supprimons le fil d'actualité classé ?" ont-ils demandé dans un rapport interne résumant l'expérience. Leurs conclusions : sans algorithme de fil d'actualité, l'engagement sur Facebook diminue considérablement, les gens cachent 50 % de publications en plus, le contenu des groupes Facebook monte en tête et - étonnamment - Facebook gagne encore plus d'argent grâce aux utilisateurs qui parcourent le fil d'actualité.”

L'expérience a montré que sans l'algorithme pour classer le contenu en fonction de différents facteurs, les utilisateurs passaient plus de temps à faire défiler pour trouver des publications pertinentes, les exposant à plus de publicités, alors qu'ils finissaient par cacher beaucoup plus de contenu - ce qui, lorsque vous regardez un flux chronologique, n'a pas l'avantage permanent de réduire la probabilité que vous voyiez plus de la même chose à l'avenir. Le contenu des groupes a augmenté parce que les utilisateurs sont plus engagés dans les groupes (c'est-à-dire que chaque fois que quelqu'un publie une mise à jour dans un groupe dont vous êtes membre, vous pouvez le voir dans votre flux), tandis que beaucoup plus de commentaires et de likes de vos amis mènent aux publications de page apparaissant dans les flux d'utilisateurs.

Donc un négatif dans l'ensemble, et non la solution que certains ont vanté. Bien sûr, une partie de cela est également basée sur le comportement habituel, dans la mesure où, éventuellement, les utilisateurs cesseraient probablement de suivre certaines pages et les personnes qui publient beaucoup, ils quitteraient certains groupes qui ne les intéressent pas tellement, et ils ' d apprendre de nouvelles façons de contrôler leur alimentation. Mais cela représente beaucoup d'efforts manuels de la part des utilisateurs de Facebook, et l'engagement sur Facebook en souffrirait.

Vous pouvez voir pourquoi Facebook hésiterait à adopter cette option, alors que les preuves ici n'indiquent pas nécessairement que le flux est moins source de division en conséquence. Et c'est avant que vous ne teniez compte du fait que les escrocs et les pages apprendraient également à jouer avec ce système.

C'est un aperçu intéressant d'un élément clé du débat plus large autour de l'impact de Facebook, l'algorithme étant souvent identifié comme la chose qui a l'impact le plus négatif, en se concentrant sur le contenu qui suscite l'engagement (c'est-à-dire l'argument) afin de garder les gens sur la plate-forme pour longtemps.

Est-ce vrai? Je veux dire, il y a clairement un argument à faire valoir que les systèmes de Facebook optimisent le contenu susceptible d'amener les utilisateurs à publier, et la meilleure façon de déclencher une réponse est par une réaction émotionnelle, la colère et la joie étant les motivations les plus fortes. Il semble donc probable que les algorithmes de Facebook, intentionnellement ou non, amplifient les messages argumentatifs, ce qui peut renforcer la division. Mais l'alternative n'est peut-être pas beaucoup mieux.

Alors, quelle est la meilleure voie à suivre ?

C'est l'élément clé sur lequel nous devons nous concentrer maintenant. Bien que ces informations internes éclairent davantage ce que sait Facebook et ses impacts plus larges, il est également important de considérer quelles peuvent être les prochaines étapes et comment nous pouvons mettre en œuvre de meilleures garanties et processus pour améliorer l'engagement sur les réseaux sociaux.

Ce que Facebook essaie de faire – comme l'a noté le PDG de Facebook, Mark Zuckerberg, en réponse à la fuite initiale de Facebook Files.

« Si nous voulions ignorer la recherche, pourquoi créerions-nous un programme de recherche de pointe pour comprendre ces questions importantes en premier lieu ? Si nous ne nous soucions pas de lutter contre les contenus préjudiciables, alors pourquoi emploierions-nous autant plus de personnes dédiées à cela que toute autre entreprise dans notre espace - même celles plus grandes que nous ? ”

Facebook se penche clairement sur ces éléments. La préoccupation revient alors à savoir où se situent réellement ses motivations, mais aussi, selon cette expérience, ce qui peut être fait pour y remédier. Parce que la suppression complète de Facebook ne se produira pas - alors, quelles sont les façons dont nous pouvons chercher à utiliser ces informations pour créer un forum public plus sûr, plus ouvert et moins conflictuel ?

C'est une question beaucoup plus difficile à répondre et une préoccupation plus profondément réfléchie que beaucoup de reportages hyperboliques selon lesquels Facebook est le méchant.