有效的监管能否减少分裂内容对社交网络的影响？

在 Facebook 文件引发的新一轮争议风暴中，各种内部研究项目的曝光在某些方面表明 Facebook 在保护用户免受伤害方面做得不够，需要解决的核心问题通常是Facebook 的固有偏见和特定目标，而不是社交媒体，以及算法内容放大作为一个概念。

也就是说，我们该怎么做才能修复它？ 实际上，可以做些什么实际上会有所作为； 由于社交媒体应用程序的影响力越来越大，可以实施哪些法规或政策变更来减少有害、分裂性帖子的扩大，这些帖子在社会中加剧了焦虑？

在这里更广泛地考虑社交媒体很重要，因为每个社交平台都使用算法来定义内容分发和覆盖范围。 Facebook 是迄今为止最大的，对新闻内容等关键元素的影响更大——当然，在这种情况下，研究见解本身来自 Facebook。

具体来说，对 Facebook 的关注是有道理的，但 Twitter 也放大了激发更多参与度的内容，LinkedIn 根据它确定的最吸引人的内容对其进行分类。 TikTok 的算法高度契合您的兴趣。

正如 Facebook 举报人 Frances Haugen 所强调的那样，问题在于算法分发，而不是 Facebook 本身——那么我们有什么想法可以切实改进该元素？

那么进一步的问题是，社交平台是否愿意做出这样的改变，特别是如果它们对其参与度和用户活动水平构成风险？

Haugen 是算法内容匹配方面的专家，他建议通过改革第 230 条法律，迫使社交网络完全停止使用基于参与度的算法，该法律目前保护社交媒体公司免于对用户在其应用程序中共享的内容承担法律责任.

正如豪根所解释的：

“如果我们有适当的监督，或者如果我们改革 [Section] 230 以让 Facebook 对其故意排名决定的后果负责，我认为他们将摆脱基于参与度的排名。”

这里的概念是，Facebook——以及所有社交平台——将对它们放大某些内容的方式负责。 因此，如果更多人最终因为算法干预而看到 COVID 错误信息，Facebook 可能会对任何影响承担法律责任。

这将给围绕此类算法构建的任何决策增加重大风险，正如 Haugen 指出的那样，这可能会导致平台被迫退出基于用户如何与此类内容交互来提高帖子覆盖范围的措施.

从本质上讲，这可能会导致社交平台被迫返回算法前的日子，那时 Facebook 和其他应用程序只会根据发布时间按时间顺序向您显示页面内容和您关注的人的列表。 反过来，这会降低人们和品牌分享更具争议性、吸引参与度的内容的动力，以发挥算法的奇思妙想。

这个想法有一些优点——正如各种研究表明的那样，用你的社交帖子引发情绪反应是最大化参与度的关键，因此，基于算法放大的影响力，在这方面，最有效的情绪是幽默和愤怒。 在算法覆盖率的推动下，笑话和有趣的视频在所有平台上仍然表现良好，但引起愤怒的热门镜头也是如此，党派新闻媒体和名人与之合作，这很可能是我们现在的分裂和焦虑的关键来源见网上。

需要明确的是，Facebook 不能对此单独负责。 党派出版商和有争议的人物长期以来一直在更广泛的讨论中发挥作用，早在 Facebook 到来之前，他们就已经引发了对他们中左翼观点的关注和参与。 现在的不同之处在于，社交网络促进了如此广泛的覆盖范围，同时它们还通过点赞和其他形式的参与为此类行为提供了直接激励，个人用户通过触发响应而受到多巴胺的打击，而出版商则推动了更多的推荐流量，并获得通过挑衅更多曝光。

确实，在考虑前一个结果时，一个关键问题是现在每个人都有发言权，当每个人都有一个分享想法和意见的平台时，我们都会更多地接触到这些，也更加意识到。 过去，你可能不知道你叔叔的政治主张，但现在你知道了，因为社交媒体每天都会提醒你，而这种同伴分享也在更广泛的分裂中发挥作用。

然而，豪根的论点是 Facebook 鼓励了这一点——例如，豪根泄露给《华尔街日报》的一份报告概述了 Facebook 如何在 2018 年更新其新闻提要算法，以更加强调用户之间的互动，并减少政治讨论，这已成为应用程序中越来越分裂的元素。 Facebook 通过改变不同类型的帖子参与度的权重来做到这一点。

这个想法是，这将通过更重的回复权重来激励更多的讨论 - 但正如你可以想象的那样，通过更加重视评论，以扩大影响范围，这也促使更多的出版商和页面分享越来越分裂的情绪 -收费的帖子，以引起更多的反应，从而获得更高的分享分数。 随着这次更新，“赞”不再像过去那样成为影响范围的关键驱动因素，Facebook 使评论和反应（包括“愤怒”）变得越来越重要。 因此，围绕政治趋势引发的讨论实际上变得更加突出，并让更多用户在他们的提要中看到此类内容。

然后，基于这些内部数据的建议是，Facebook 知道这一点，它知道这种变化加剧了分裂的内容。 但他们选择不恢复或实施另一次更新，因为参与度是其业务成功的关键衡量标准，因此确实增加了。

从这个意义上说，删除算法动机是有道理的——或者，你可以考虑删除某些帖子类型的算法激励，比如政治讨论，同时仍然最大限度地增加来自朋友的更具吸引力的帖子的覆盖面，同时满足参与目标和分裂担忧。

这就是 Facebook 的 Dave Gillis 所指出的，他在该平台的产品安全团队工作，他在一条推文中指出，以回应这些爆料。

根据吉利斯：

“在《华尔街日报》关于算法提要排名的文章结尾处，几乎顺便提到了我们在新闻提要中放弃了基于参与度的公民和健康内容排名。 但是等等——这很重要，不是吗？ 按喜欢等对猫视频和婴儿照片进行排名可能是合理的，但要更加小心地处理其他类型的内容。 事实上，这就是我们的团队提倡的做法：对健康和公民内容使用不同的排名信号，优先考虑质量 + 可信度而不是参与度。 我们努力了解影响，让领导参与进来——是的，马克也是——这是一个重要的变化。 ”

这可能是一种前进的方式，对不同类型的内容使用不同的排名信号，这可能有助于优化内容放大，提高有益的用户参与度，同时也减少某些参与者发布分裂材料以输入算法的动机抵达。

那行得通吗？ 再说一次，这很难说，因为人们仍然可以分享帖子，他们仍然可以在线评论和重新分发材料，在算法本身之外还有很多方式可以进行放大。

从本质上讲，这两种建议都有其优点，即社交平台可以区别对待不同类型的内容，或者可以消除算法以减少此类材料的放大。

正如豪根所说，关注系统本身很重要，因为当材料以其他语言和地区发布时，基于内容的解决方案会带来各种复杂性。

“就埃塞俄比亚而言，有 1 亿人口和六种语言。 Facebook 仅支持其中两种语言用于完整性系统。 这种专注于特定语言、特定内容系统的人工智能来拯救我们的策略注定要失败。”

那么，也许移除算法，或者至少改变算法运行方式的规定，将是一个最佳解决方案，这有助于减少社交媒体领域的负面、引发愤怒的内容的影响。

但随后我们又回到了 Facebook 算法旨在解决的原始问题——早在 2015 年，Facebook 就解释说，它需要 News Feed 算法不仅可以最大限度地提高用户参与度，还可以帮助确保人们看到大多数人的所有更新。与他们的相关性。

正如它所解释的那样，根据他们喜欢的页面和他们的个人关系，当时的平均 Facebook 用户在任何一天都有大约 1, 500 个帖子有资格出现在他们的新闻提要中 - 而对于一些更活跃的用户来说，这个数字更像是 15,000。 人们不可能每天都阅读这些更新，因此 Facebook 最初算法的重点是创建一个系统，为每个人发现最好、最相关的内容，以便为用户提供最引人入胜的体验，然后让他们回来。

正如 Facebook 的首席产品官 Chris Cox 向时代杂志解释的那样：

“如果你能评价今天地球上发生的一切，由你的任何朋友、任何家人、任何新闻来源在任何地方发表，然后选出今天最有意义的 10 个，那将是一个非常酷的“为我们构建服务。这确实是我们渴望让 News Feed 成为的样子。”

从那时起，News Feed 方法已经发生了很大的变化，但它旨在解决的基本挑战仍然存在。 人们有太多的联系，他们关注了太多的页面，他们是太多组的成员，以至于每天都无法获得所有更新。 如果没有提要算法，他们将错过相关的帖子、家庭公告和生日等相关更新，他们根本不会像 Facebook 那样参与体验。

如果没有该算法，Facebook 将因无法针对受众的需求进行优化而失败——正如作为 Facebook 文件的一部分共享的另一份报告中所强调的那样，它实际上已经看到某些人口统计子集的参与度下降。

你可以想象，如果 Facebook 取消该算法，或者被迫改变其方向，那么随着时间的推移，这个图表只会变得更糟。

因此，Zuck 和 Co. 不太可能热衷于该解决方案，因此像 Gillis 提出的妥协方案可能是可以预期的最佳方案。 但这也有其自身的缺陷和风险。

无论哪种方式，值得注意的是，辩论的焦点需要更广泛地转移到算法上，而不仅仅是 Facebook，以及是否真的有一种可行的、可行的方法来改变围绕基于算法的系统的激励以限制分布更多分裂的元素。

因为这是一个问题，无论 Facebook 或其他任何人如何试图旋转它，这就是豪根的立场很重要的原因，因为它很可能会引发我们围绕这个关键要素展开一场新的、更微妙的辩论。