有毒和有害内容对品牌、他们的团队和客户的影响

已发表: 2023-01-19

在线毒性可能会对品牌造成损害，影响其一线员工的福祉，并在客户接触到它时对品牌产生真正的商业影响。那么，企业如何才能减轻负面影响呢？

Bodyguard.ai 总裁兼联合创始人 Matthieu Boutard 在此概述了内容审核的好处和挑战，并探讨了公司如何采用混合方法来实现最佳结果。

随着在线安全法案将在未来几个月内纳入英国法律，社会媒体对其用户的负面影响引起了广泛关注。

该法案的目标是兑现政府的宣言承诺，使英国成为世界上上网最安全的地方。然而，它需要取得关键的平衡才能有效地实现这一目标。

根据数字、文化、媒体和体育部 (DCMS) 的说法，它旨在保护儿童安全、制止种族仇恨和保护在线民主，同时同样确保英国人民可以自由表达自己的意见并参与多元化和激烈的辩论.

该法案将对组织施加新的义务，以删除非法或有害内容。此外，不遵守这些新规定的公司可能面临高达 1800 万英镑或其全球年营业额的 10% 的罚款——以最高者为准。

这些措施看似严厉，但正变得越来越必要。从社交媒体到游戏内聊天，网络毒害无处不在，涵盖所有沟通渠道。

在探索问题的严重程度时，我们最近发布了一份首份白皮书，研究了截至 2022 年 7 月的 12 个月内针对企业和品牌的在线毒性。

在此过程中，我们分析了 1,200 个品牌频道中六种语言的超过 1.7 亿条内容，发现在线社区生成的所有内容中有多达 5.24% 是有毒内容。事实上，3.28% 可以归类为仇恨（侮辱、仇恨、厌女、威胁、种族主义等），而 1.96% 可以归类为垃圾（诈骗、欺诈、拖钓等）。

不幸的是，在线仇恨和有毒内容的日益流行正越来越多地渗透到基于品牌的沟通渠道，例如客户论坛、社交媒体页面和留言板。

对于品牌而言，这可能会产生重大的商业影响。事实上，一项研究表明，在第一次接触有害语言后，多达十分之四的消费者会离开平台。此外，他们可能会与他人分享他们糟糕的经历，造成无法弥补的品牌损害的多米诺骨牌效应。

因此，重要的是品牌商要调整他们的社交媒体内容以删除有毒评论。然而，有效地做到这一点并非易事，并且存在一些潜在的挑战。

首先，手动完成它可能是一项高度资源密集型和繁重的任务。受过训练的人工审核员通常需要 10 秒来分析和审核一条评论。

因此，如果同时发布成百上千条评论，实时管理仇恨评论流将成为一项不可能完成的任务。结果，许多内容版主因工作量大而精疲力尽。

此外，反复接触脏话、有毒视频和有害内容会对版主产生心理影响。事实上，这些人的心理健康不容忽视，而毒性造成的进一步倦怠对企业来说可能代价高昂，可能会加速员工流失。

第三，公司在进行审核时需要谨慎行事，以确保他们不会被指控进行审查。社交媒体等品牌渠道通常是客户与品牌互动、提供反馈并让品牌承担责任的主要来源。那些给人的印象是他们只是在删除任何批评或负面评论的人也可能会受到抨击。

幸运的是，人工智能和机器学习驱动的技术开始解决人类版主面临的一些挑战。但是，这里还有其他问题需要解决。

Facebook 和 Instagram 等社交平台目前使用的机器学习算法已被证明具有高达 40% 的错误率。因此，根据欧盟委员会的数据，目前只有 62.5% 的仇恨内容从社交网络中删除，留下大量未经审核的内容，很容易影响个人和企业。

更重要的是，这些算法还难以处理敏感的言论自由问题。由于缺乏检测语言细微差别的能力，他们可能过于依赖审查制度，因为算法容易反应过度。

由于人工审核和人工智能驱动的解决方案都有其局限性，因此需要一种混合方法。事实上，通过将智能机器学习与由语言学家、质量控制人员和程序员组成的人类团队相结合，品牌将能够更快、更有效地删除仇恨评论。

当然，在这里选择正确的解决方案将是关键。理想情况下，品牌应该寻求采用一种足够先进的解决方案，以识别朋友使用“丰富多彩”的语言进行互动与针对品牌的敌对评论之间的区别。

取得这种平衡至关重要。为了鼓励参与并建立对在线互动的信任，品牌必须努力确保毒性不会污染沟通渠道，同时为消费者提供批评和辩论的平台。

值得庆幸的是，通过正确的方法，节制是有效的。事实上，这不应该是禁止言论自由，而应该是防止有毒内容到达潜在的接收者手中，从而使互联网成为对每个人来说都更安全的地方。