Facebookの内部告発者は、ニュースコンテンツに対する会社のアプローチにおける相反する動機の概要を説明します

公開: 2022-04-08

Facebookは社会に悪いのでしょうか、そして会社は使用と利益を最大化するために、故意に分裂と不安に貢献していますか？

これは、特に2016年の米国大統領選挙以来、過去数年間残っている重要な質問です。そして今、私たちはこのテーマに関するFacebook自身の考え方についてある程度の洞察を持っています。過去2週間にわたって、ウォールストリートジャーナルはさまざまな内部調査と、Facebookの幹部からの回答を報告しました。設計の主要な欠陥に対処する際の会社の不作為を明らかにしようとしました。

その元従業員は昨夜、CBSによって、2020年の米国大統領選挙の結果として解散する前にFacebookのCivicIntegrityチームで働いていたアルゴリズム設計の専門家であるFrancesHaugenであることが明らかになりました。 Haugenが共有する情報によると、Facebookは、そのような動きが使用に影響を与え、利益をもたらす可能性があるため、プラットフォームの最悪の側面に対処するためのより強力な行動を取ることを実際に故意に避けてきました。

FacebookはHaugenの主張に反論しているが、彼女の発言は以前の多くの報告が示唆していることと一致しており、Zuckerbergの社会的巨人の社会的影響に関する重要な懸念を強調している。

Haugenの主な論点は、Facebookが独自の調査に基づいて、使用状況とユーザーエンゲージメントを維持することを支持して、調査結果に関して故意に見落としたり、軽視したりしたことです。

ホーゲンによって説明されているように：

「私がFacebookで何度も見たのは、一般の人々にとって良いこととFacebookにとって良いことの間に関心の対立があったことでした。 そして、Facebookは何度も何度も、より多くのお金を稼ぐなど、自身の利益のために最適化することを選択しました。」

これはある程度理にかなっています。Facebookは結局のところビジネスであり、そのため、利益によって推進され、株主に最大の価値を提供します。

Facebookの場合、問題は、歴史上最新の相互接続された人間のネットワークを運用し、30億人のユーザーに接近し、その多くがアプリを使用してさまざまな面で情報を入手し、ニュースに関する重要な洞察を収集することです。当時の。このように、それは意見に影響を与える大きな力を持っています。

つまり、ホーゲンが指摘しているように、その決定は大きな影響を与える可能性があります。

「より多くのコンテンツを消費すると、Facebookはより多くのお金を稼ぎます。 人々は感情的な反応を引き出すものとの関わりを楽しんでいます。 そして、彼らがさらされる怒りが多ければ多いほど、彼らはより多くの相互作用をし、より多くを消費します。 」

実際、HaugenのFacebookファイルで強調されたさまざまな調査結果の中で、彼女がFacebook HQから本質的に密輸した何千もの内部文書は、Facebookが持っている提案です。

そのようなコンテンツはユーザー間のエンゲージメントを促進するという事実のために、そのプラットフォームでのヘイトスピーチの蔓延と影響を見落としていました
プラットフォームがネガティブな身体イメージを増幅することを示す調査結果で、若いユーザーに対するInstagramのネガティブな影響を再生しました
一部には費用便益分析が原因で、開発途上地域でのFacebookの使用に関する主要な懸念に対処できませんでした
ワクチン対策コンテンツの拡散に対処できなかった

繰り返しになりますが、これらの要素の多くは他の場所で広く報告されていますが、Haugenのファイルは、Facebookがこれらの各側面を実際によく認識しており、行動を起こさない、または重大な対抗措置を講じることを選択したという直接的な証拠を提供します。そのビジネス上の利益との対立に。

FacebookのPRチームは、このような主張に対抗するために懸命に取り組んでおり、Facebookファイルの各レポートにポイントごとの回答を提供しています。これらの調査レポートの存在自体が、Facebookがそのような懸念に対処していることを示しています。これらの問題のある要素と戦ってください。

Facebookは、ユーザーにより多くの保護と制御オプションを提供するためにInstagramで行われたさまざまな変更を指摘しています。また、Facebookは、アルゴリズムのランキングを改善して、分裂的で不安を誘発するコンテンツへの露出を制限するよう取り組んでいます。

しかし同時に、Facebookはそのような影響をより広範囲に抑えてきました。

Facebookの政策およびグローバル問題担当副社長として、ニック・クレッグは、Facebookが国会議事堂での選挙後の抗議に貢献する上で重要な役割を果たしたという提案に言及しました。

「1月6日の主張はソーシャルメディアのおかげで説明できると思います。それはばかげていると思います。」

クレッグ氏の見解は、フェイスブックはより広範な社会的変化のほんの一部に過ぎず、さまざまな地域でこのような大きな紛争につながる主要な問題にはなり得ないというものです。

この点でFacebookの影響を知ることは不可能ですが、明らかに、Haugenのファイルに基づいて、そこにはいくつかの重要な貢献者がいます。

「より多くのコンテンツを消費すると、Facebookはより多くのお金を稼ぎます。 人々は感情的な反応を引き出すものとの関わりを楽しんでいます。 そして、彼らがさらされる怒りが多ければ多いほど、彼らはより多くの相互作用をし、より多くを消費します。」

怒りは、最も多くの反応とエンゲージメントを引き起こす感情であり、Haugenは基本的に、Facebookが憎しみを刺激するコンテンツの拡散を促進し、副産物として分裂を増幅することで、それから利益を得ていると主張しています。

「私たちが怒り、憎しみ、二極化したコンテンツでいっぱいの情報環境に住んでいると、それは私たちの市民の信頼を損ない、お互いへの信頼を損ない、お互いを気遣いたいという私たちの能力を損ないます。今日、私たちの社会は崩壊し、世界中で民族的暴力を引き起こしています。」

これには2つの側面があり、どちらも同じように正しい可能性があります。 1つは、Haugenが指摘しているように、Facebookには、憎悪を誘発するコンテンツの拡散を促進するという根本的な動機があり、ユーザー間のエンゲージメントを促進すると同時に、社会的分裂を悪化させます。これは、Facebookの規模で大きな影響を与える可能性があります。

一方、Facebookが指摘しているように、Facebookはそのような調査を無料で行っていません。そのような問題に完全に目をつぶることは、これらの研究をまったく行わないことであり、ザッカーバーグはすべての当事者が望むほど多くの行動をとっていないかもしれませんが、会社がこれらに対処するために取り組んでいることを示唆する証拠があります懸念は、より測定された方法で、理想的には、ビジネスへの影響も軽減します。

問題は、「ビジネスへの影響」をそのような結果的な決定に織り込むべきかということです。

繰り返しになりますが、Facebookは歴史上最大の相互接続された人々のネットワークを運営しているため、アルゴリズムの影響を受けた共有の完全な影響がどのようなものになるかはわかりません。参照する別の例がないため、Facebookとそのより広い影響。

ある意味で、Facebookは、その規模と影響力において、実際には公益事業である必要があります。これにより、Haugenは次のように会社の動機を変えることになります。

「 Facebookの誰も悪意を持っていませんが、インセンティブはずれていますよね？ 同様に、あなたがより多くのコンテンツを消費するとき、Facebookはより多くのお金を稼ぎます。 人々は感情的な反応を引き出すものとの関わりを楽しんでいます。 そして、彼らがさらされる怒りが多ければ多いほど、彼らはより多くの相互作用をし、より多くを消費します。 」

本質的に、これが主要な問題です。情報の配布と配布の主要な手段の1つが、人々に確実に情報を提供することではなく、可能な限り多くの関与を引き起こすことによって動機付けられている状況にあります。そして、それを行う方法は、感情的な反応を刺激することです。憎しみと怒りは、人々を反応させる最も強力な動機の1つです。

調査によると、米国の成人のほぼ3分の1がFacebookのニュースコンテンツに定期的にアクセスしています。つまり、少なくとも8600万人のアメリカ人が、最も不安を引き起こしていることを示す明確な動機を持つプラットフォームから、最新の出来事について直接洞察を得ています。感情的にチャージされた各問題を引き受けます。

ニュース発行者もこれを知っています。政治家もそうです。実際、Facebookファイルによると、さまざまな政治グループがFacebookのアルゴリズムをなだめるために、より党派的で分裂的なアプローチに移行しています。

リーチの規模と、プラットフォームがそのようなメッセージングに与える影響を考慮すると、Facebookが私たちの関与方法に影響を与えていることは明らかです。

しかし、相反する動機と、競争の激化に直面してエンゲージメントを最大化する必要がある中で、Facebookがより大きな利益のためにそのアプローチを変えることを本当に期待できますか？