最新のFacebookリークで特定された問題に対する回答を見つけることは複雑なプロセスになります

公開: 2022-04-08

では、Facebookの内部文書と調査の最新の開示から何を学んだのでしょうか。

まあ、それほど多くはありません、本当に。元Facebookエンジニアのフランセスハウゲンは先月、ソーシャルネットワークから最初の一連の内部レポートをリリースしました。これには、ワクチン対策コンテンツの処理における苦労、アルゴリズム変更の悪影響、Instagramのメンタルヘルスへの悪影響など、さまざまな懸念事項が概説されています。十代の若者たちに。

Haugenは今週、さまざまな主要な出版物との協調的な取り組みを通じて、これらの最初の主張を拡張し、さまざまな側面についてより詳細に追加した、別のレポートのクラスターをリリースしました。そして、それはすべて興味深いものであり、間違いなく、Facebookがそのシステムについて知っていること、そしてそれらが分裂と不安をどのようにまくことができるか、そしてそれらのより広い社会的影響に光を当てています。しかし、啓示はまた、私たちがすでに知っていた、または疑ったことを大部分強調しています。 Facebookの現地語サポートの欠如は、一部の地域で害を増大させ、そのネットワークは人身売買を含む犯罪活動に使用されており、Facebookは一部の意思決定において安全よりも成長を優先している可能性があります。

これらはすべて広く知られていましたが、Facebookも知っており、独自の調査でそれが確認されているという事実は重要であり、さまざまな形でソーシャルネットワークに対して行われるまったく新しい範囲の行動につながるでしょう。

しかし、数千ページに及ぶ内部調査の洞察の中に隠されている、私たちが気付いていなかった貴重なメモが他にもいくつかあります。

ジャーナリストのAlexKantrowitzが強調した重要な要素の1つは、特に物議を醸しているニュースフィードアルゴリズムと、さまざまな実験を通じてFacebookが懸念とコンテンツの増幅のバランスを取るためにどのように取り組んだかに関するものです。

ハウゲンがFacebookファイルのリークについて議会に向けて最初のスピーチで推し進めた主な解決策は、ソーシャルネットワークがエンゲージメントベースのアルゴリズムの使用を完全に停止することを強制されるべきであるということです。ソーシャルプラットフォームの関与のために、そして彼らのシステムによって引き起こされる害を減らします。

ハウゲンによって説明されたように：

「適切な監視があった場合、またはFacebookが意図的なランキング決定の結果に責任を持つように[セクション] 230を改革した場合、彼らはエンゲージメントベースのランキングを取り除くだろうと思います。」

しかし、それはうまくいくでしょうか？

Kantrowitzが報告したように、Facebookは実際に次のことを見つけるための実験を行いました。

「2018年2月、Facebookの研究者は、Facebookユーザーの.05％のニュースフィードランキングアルゴリズムをほとんど停止しました。 「ランク付けされたニュースフィードを削除するとどうなりますか？」 彼らは実験を要約した内部報告で尋ねた。 彼らの調査結果：ニュースフィードアルゴリズムがないと、Facebookでのエンゲージメントが大幅に低下し、人々は50％多くの投稿を非表示にし、Facebookグループのコンテンツがトップに上がり、驚くべきことに、Facebookはニュースフィードをスクロールするユーザーからさらに多くのお金を稼ぎます。」

実験では、さまざまな要因に基づいてコンテンツをランク付けするアルゴリズムがないと、ユーザーはスクロールして関連する投稿を見つけるのに多くの時間を費やし、より多くの広告を表示する一方で、より多くのコンテンツを非表示にすることになりました。時系列のフィードには、将来同じものがさらに表示される可能性を減らすという継続的なメリットはありません。グループのコンテンツは、ユーザーがグループに積極的に参加しているために増加しました（つまり、誰かがあなたがメンバーになっているグループに更新を投稿するたびに、フィードにその更新が表示される可能性があります）。ユーザーフィードに表示されるページ投稿へ。

したがって、全体的にネガティブであり、一部の人が宣伝している解決策ではありません。もちろん、これの一部は習慣的な行動にも基づいています。最終的には、ユーザーは特定のページや多くの投稿者のフォローをやめ、あまり興味のない特定のグループを離れ、彼らはdフィードを制御する新しい方法を学びます。しかし、それはFacebookユーザーの手作業の多くであり、Facebookのエンゲージメントはそれが原因で苦しむでしょう。

Facebookがこのオプションを採用することを躊躇する理由がわかりますが、ここでの証拠は、結果としてフィードの分割が少ないことを必ずしも示しているわけではありません。そしてこれは、詐欺師やページがこのシステムのゲーム方法も学ぶことを考慮する前です。

これは、Facebookの影響に関する幅広い議論の重要な要素への興味深い洞察であり、人々をプラットフォームにとどまらせるためにエンゲージメント（つまり議論）を引き起こすコンテンツに焦点を当てることにより、アルゴリズムが最も悪影響を与えるものとして識別されることがよくあります長いため。

本当？つまり、Facebookのシステムは、ユーザーが投稿する可能性のあるコンテンツを最適化する場合があることは明らかです。応答をトリガーする最善の方法は、怒りと喜びが最も強い動機となる感情的な反応によるものです。したがって、Facebookのアルゴリズムは、意図的にそうであろうとなかろうと、議論の余地のある投稿を増幅し、分裂を後押しする可能性があります。しかし、代替案はそれほど良くないかもしれません。

では、前進するための最良の方法は何ですか？

それが私たちが今焦点を合わせる必要がある重要な要素です。これらの内部洞察は、Facebookが知っていることと、その広範な影響にさらに光を当てますが、次のステップが何であるか、ソーシャルメディアエンゲージメントを改善するためのより良いセーフガードとプロセスをどのように実装できるかを考慮することも重要です。

FacebookのCEOであるMarkZuckerbergが、最初のFacebookファイルのリークに対応して指摘したように、どのFacebookが実行しようとしているのか。

「研究を無視したいのなら、そもそもこれらの重要な問題を理解するために業界をリードする研究プログラムを作成するのはなぜでしょうか。 有害なコンテンツとの戦いを気にしないのなら、なぜ私たちのスペースで他のどの会社よりも多くの人々をこれに専念させるのでしょうか？ 」

Facebookは明らかにこれらの要素を調査しています。懸念は、その動機が本当にどこにあるかということになりますが、この実験によれば、それを修正するために何ができるかもあります。 Facebookを完全に削除することはないので、これらの洞察を使用して、より安全で、よりオープンで、分裂の少ない公開フォーラムを構築するために私たちが見ることができる方法は何でしょうか。

これは答えるのがはるかに難しい質問であり、Facebookが悪者であることをめぐる多くの双曲線の報告よりも深く反省する懸念です。