効果的な規制は、ソーシャルネットワークに対する分割コンテンツの影響を減らすことができますか？
公開: 2022-04-08Facebookファイルによって引き起こされた新たな論争の嵐の中で、Facebookがユーザーを危害から保護するのに十分なことをしていないことを示唆するさまざまな内部調査プロジェクトの公開、対処する必要のある中心的な質問はしばしばソーシャルメディアとは対照的に、Facebook、会社の固有のバイアスと特定のターゲティング、および概念としてのアルゴリズムによるコンテンツの増幅によって歪められています。
つまり、それを修正するために何をしますか？ 現実的に何ができるか、それは実際に違いを生むでしょう。 ソーシャルメディアアプリの影響力の増大の結果として社会内でより多くの不安を煽っている有害で分裂的な投稿の増幅を減らすために、規制またはポリシーにどのような変更を実行可能に実装できますか？
すべてのソーシャルプラットフォームはアルゴリズムを使用してコンテンツの配信とリーチを定義するため、ここではソーシャルメディアをより広く検討することが重要です。 Facebookは群を抜いて最大であり、ニュースコンテンツなどの重要な要素により大きな影響を及ぼします。もちろん、この場合、調査の洞察自体はFacebookから得られました。
特にFacebookに焦点を当てることは理にかなっていますが、Twitterはより多くのエンゲージメントを引き起こすコンテンツも増幅し、LinkedInは最もエンゲージメントが高いと判断したものに基づいてフィードを並べ替えます。 TikTokのアルゴリズムはあなたの興味に非常に適合しています。
Facebookの内部告発者であるフランセスハウゲンが強調しているように、問題はアルゴリズムによる配布であり、Facebook自体ではありません。それでは、その要素を現実的に改善できるアイデアは何でしょうか。
そして、さらなる質問は、ソーシャルプラットフォームは、特にエンゲージメントとユーザーアクティビティレベルにリスクをもたらす場合、そのような変更を喜んで行うでしょうか？
アルゴリズムコンテンツマッチングの専門家であるHaugenは、ユーザーがアプリで共有するものに対する法的責任からソーシャルメディア企業を現在保護しているセクション230法の改正を通じて、ソーシャルネットワークがエンゲージメントベースのアルゴリズムの使用を完全に停止することを強制されるべきであると提案しました。
ホーゲンによって説明されているように：
「適切な監視があった場合、またはFacebookが意図的なランキング決定の結果に責任を持つように[セクション] 230を改革した場合、彼らはエンゲージメントベースのランキングを取り除くだろうと思います。」
ここでのコンセプトは、Facebook、ひいてはすべてのソーシャルプラットフォームが、特定のコンテンツを増幅する方法について責任を負うということです。 したがって、たとえば、アルゴリズムの介入のためにCOVIDの誤った情報を目にする人が増えた場合、Facebookはいかなる影響に対しても法定責任を問われる可能性があります。
これは、そのようなアルゴリズムの構築に関する意思決定に重大なリスクを追加します。Haugenが指摘するように、プラットフォームは、ユーザーがそのようなコンテンツをどのように操作するかに基づいて投稿のリーチを拡大する手段から一歩後退することを余儀なくされる可能性があります。 。
基本的に、Facebookや他のアプリが投稿時間に基づいて時系列でフォローしているページや人々のコンテンツのリストを表示するだけの場合、ソーシャルプラットフォームはアルゴリズム以前の時代に戻ることを余儀なくされるでしょう。 その結果、アルゴリズムの気まぐれを試すために、人々やブランドがより物議を醸すエンゲージメントを狙うコンテンツを共有する動機が低下します。
このアイデアにはいくつかのメリットがあります。さまざまな研究が示しているように、ソーシャルポストで感情的な反応を引き起こすことは、エンゲージメントを最大化するための鍵であり、したがって、アルゴリズムの増幅に基づいて到達することができます。この点で、最も効果的な感情はユーモアと怒りです。 ジョークや面白い動画は、アルゴリズムの到達範囲に支えられて、すべてのプラットフォームで依然としてうまく機能しますが、怒りを誘発するホットテイクも同様に機能します。オンラインを参照してください。
明確にするために、Facebookはそのような責任を単独で負うことはできません。 パルチザンの出版社と物議を醸す人物は、長い間幅広い議論の中で役割を果たしてきました。Facebookが登場するずっと前から、彼らは注目を集め、中心から離れた意見に関与していました。 現在の違いは、ソーシャルネットワークはそのような幅広いリーチを促進する一方で、いいねや他の形態のエンゲージメントを通じて、個々のユーザーが応答をトリガーすることでドーパミンをヒットさせ、パブリッシャーがより多くの参照トラフィックを促進し、獲得することで、そのような直接的なインセンティブを提供することです挑発によるより多くの露出。
実際、前者の結果を検討する際の重要な問題は、誰もが発言権を持っていることです。誰もが自分の考えや意見を共有するためのプラットフォームを持っている場合、私たちは皆、はるかにそのようなことにさらされ、はるかに意識しています。 以前は、叔父の政治的説得について知らなかったかもしれませんが、ソーシャルメディアが毎日あなたに思い出させてくれるので、今では知っています。そのような種類のピア共有も、より広い部門で役割を果たしています。
ただし、Haugenの主張は、Facebookがこれを奨励しているというものです。たとえば、Haugenがウォールストリートジャーナルにリークしたレポートの1つは、Facebookが2018年にニュースフィードアルゴリズムを更新して、ユーザー間のエンゲージメントをより重視し、政治的議論を減らす方法を概説しています。アプリでますます分裂する要素になりました。 Facebookは、投稿とのさまざまなタイプのエンゲージメントの重み付けを変更することでこれを実現しました。
返信をより重視することで、これにより多くの議論が促進されるという考えでしたが、ご想像のとおり、より多くのリーチを促進するためにコメントに価値を置くことで、より多くのサイト運営者とページがますます分裂的で感情的に共有するようになりました-より多くの反応を引き起こし、結果としてより高いシェアスコアを獲得するために、投稿を請求しました。 このアップデートにより、Facebookがコメントとリアクション（「怒り」を含む）をますます重要にするようになり、「いいね」はリーチの主要な推進力ではなくなりました。 そのため、政治動向に関する活発な議論が実際により顕著になり、より多くのユーザーがフィード内のそのようなコンテンツにさらされるようになりました。
この内部データに基づく提案は、Facebookがこれを知っていて、この変更が分裂的なコンテンツを増やしたことを知っていたということです。 しかし、その結果、ビジネスの成功の重要な指標であるエンゲージメントが実際に増加したため、元に戻さないこと、または別の更新を実装しないことを選択しました。
この意味で、アルゴリズムの動機を削除することは理にかなっています。あるいは、政治的な議論など、特定の投稿タイプのアルゴリズムのインセンティブを削除する一方で、友人からのより魅力的な投稿のリーチを最大化し、エンゲージメントの目標と分裂の両方に対応することもできます。懸念。
これは、プラットフォームの製品安全チームで働くFacebookのDave Gillisが、この啓示に応えてツイートスレッドで指摘したことです。
ギリスによると：
「アルゴリズムによるフィードのランキングに関するWSJの記事の最後に、ニュースフィードの市民および健康コンテンツのエンゲージメントベースのランキングから切り替えたことが言及されています。 しかし、ちょっと待ってください-それはちょっと大したことですよね？ たとえば、猫の動画や赤ちゃんの写真をいいねなどでランク付けするのはおそらく合理的ですが、他の種類のコンテンツは細心の注意を払って処理します。 そして、それは実際、私たちのチームが提唱したことです。健康と市民のコンテンツに異なるランキングシグナルを使用し、エンゲージメントよりも品質と信頼性を優先します。 私たちはその影響を理解し、リーダーシップを発揮するために一生懸命働きました-そうです、マークも-そしてそれは重要な変化です。 」
これは、コンテンツの種類ごとに異なるランキングシグナルを使用することで前進する可能性があります。これにより、コンテンツの最適な増幅が可能になり、有益なユーザーエンゲージメントが向上すると同時に、特定のアクターがアルゴリズムにフィードするために分割素材を投稿する動機が低下します。到着。
それはうまくいくでしょうか？ 繰り返しになりますが、人々は引き続き投稿を共有でき、オンラインでコメントしたり、資料を再配布したりできるため、アルゴリズム自体の外部で増幅が発生する可能性のある方法はまだたくさんあります。
本質的に、ソーシャルプラットフォームがさまざまなタイプのコンテンツを異なる方法で処理できること、またはそのような素材の増幅を減らすためにアルゴリズムを排除できることの両方の提案にはメリットがあります。
また、Haugenが指摘しているように、コンテンツベースのソリューションは、資料が他の言語や地域で投稿されるときにさまざまな複雑さを開くため、システム自体に焦点を当てることが重要です。
「エチオピアの場合、1億人の人々と6つの言語があります。 Facebookは、整合性システムに対してこれらの言語のうち2つのみをサポートしています。 AIが私たちを救うために言語固有、コンテンツ固有のシステムに焦点を当てるこの戦略は失敗する運命にあります。」
おそらく、アルゴリズムを削除するか、少なくともアルゴリズムの動作に関する規制を変更することが最適なソリューションであり、ソーシャルメディアの領域全体で怒りを誘発する否定的なコンテンツの影響を減らすのに役立つ可能性があります。
しかし、その後、Facebookのアルゴリズムが解決するように設計された元の問題に戻ります。2015年にFacebookは、ユーザーエンゲージメントを最大化するだけでなく、ユーザーがほとんどの更新をすべて確認できるようにするために、ニュースフィードアルゴリズムが必要であると説明しました。それらとの関連性。
説明したように、当時の平均的なFacebookユーザーは、気に入ったページと個人的なつながりに基づいて、特定の日にニュースフィードに表示される資格のある投稿が約1,500件ありましたが、よりアクティブなユーザーの場合は、その数は15,000のようでした。 人々がこれらの更新のすべてを毎日読むことは不可能であるため、Facebookの初期アルゴリズムの主な焦点は、ユーザーに最も多くの情報を提供するために、各個人に最適で最も関連性の高いコンテンツを発見するシステムを作成することでした。魅力的な経験、そしてその後彼らが戻ってくるようにします。
FacebookのチーフプロダクトオフィサーであるChrisCoxは、TimeMagazineに次のように説明しています。
「今日地球上で起こった、友達、家族、ニュース提供元のどこかで公開されたすべてのことを評価し、今日知っておくべき最も意味のある10を選ぶことができれば、それは本当に素晴らしいことです。私たちが構築するためのサービス。それこそが、ニュースフィードを実現することを目指しているのです。」
それ以来、ニュースフィードのアプローチは大きく進化しましたが、解決するために設計された根本的な課題は残っています。 人々はあまりにも多くのつながりを持っており、あまりにも多くのページをフォローしています。彼らはあまりにも多くのグループのメンバーであり、毎日すべての更新を取得することはできません。 フィードアルゴリズムがないと、関連する投稿、家族のお知らせや誕生日などの関連する更新を見逃し、Facebookのエクスペリエンスにそれほど関与しなくなります。
アルゴリズムがないと、Facebookは視聴者の要望に合わせて最適化できず、負けてしまいます。Facebookファイルの一部として共有されている別のレポートで強調されているように、実際には一部の人口統計サブセットでエンゲージメントが低下しています。
Facebookがアルゴリズムを排除したり、その方向を変えることを余儀なくされたりした場合、このグラフは時間の経過とともに悪化するだけだと想像できます。
したがって、Zuck and Co.はその解決策に熱心ではない可能性が高いため、Gillisが提案したような妥協案が、期待できる最善の方法である可能性があります。 しかし、それには独自の欠陥とリスクが伴います。
いずれにせよ、議論の焦点はFacebookだけでなく、より広くアルゴリズムに移る必要があること、そしてアルゴリズムベースのシステムの周りのインセンティブを変更して配布を制限する実行可能で実行可能な方法があるかどうかは注目に値しますより分裂的な要素の。
それは問題なので、Facebookや他の誰かがそれを回転させようとしても、それがこの重要な要素に関する新しい、より微妙な議論につながる火花になる可能性があるため、Haugenのスタンスが重要である理由です。