AI 中的偏见如何破坏营销数据以及您可以采取什么措施

算法是营销和营销技术的核心。 它们用于数据分析、数据收集、受众细分等等。 那是因为它们是建立在它们之上的人工智能的核心。 营销人员依靠人工智能系统提供中立、可靠的数据。 如果没有，它可能会误导您的营销工作。

我们喜欢将算法视为没有偏见或意图的规则集。 他们本身就是这样。 他们没有意见。但这些规则是建立在其创造者的假设和价值观之上的。 这是偏见进入人工智能的一种方式。 另一种也许更重要的方法是通过训练它的数据。

深入挖掘： Bard 和 ChatGPT 最终将改善搜索体验

例如，面部识别系统是根据大多数肤色较浅的人的图像集进行训练的。 因此，他们在识别深色皮肤的人方面出了名的差劲。 在一个例子中，28 名国会议员（主要是有色人种）与面部照片的匹配不正确。 纠正此问题的尝试失败导致一些公司（最著名的是 Microsoft）停止向警察部门出售这些系统。

ChatGPT、谷歌的 Bard 和其他人工智能聊天机器人是使用深度学习生成文本的自回归语言模型。 这种学习是在一个巨大的数据集上进行训练的，可能包括在给定时间段内在互联网上发布的所有内容——一个充满错误、虚假信息，当然还有偏见的数据集。

只和它获得的数据一样好

The Marketing AI Institute 的创始人兼首席执行官 Paul Roetzer 说：“如果你让它访问互联网，它就会固有地存在任何偏见。” “它在很多方面只是人性的一面镜子。”

这些系统的构建者意识到了这一点。

“在 [ChatGPT 创建者] OpenAI 的披露和免责声明中，他们说负面情绪与非裔美国女性名字的联系比其中设置的任何其他名字更密切，”TrustInsights.ai 的联合创始人兼首席数据科学家克里斯托弗佩恩说。 “因此，如果你有任何一种完全自动化的黑匣子情感模型，并且你正在判断人们的名字，如果 Letitia 的分数低于 Laura，那你就有问题了。 你正在强化这些偏见。”

OpenAI 的最佳实践文件还说，“从幻觉的不准确信息到令人反感的输出，再到偏见等等，如果不进行重大修改，语言模型可能并不适合所有用例。”

营销人员要做什么？

减轻偏见对于想要使用尽可能最好的数据的营销人员来说至关重要。 消除它永远是一个移动的目标，一个追求但不一定实现的目标。

“营销人员和营销技术公司应该考虑的是，'我们如何将其应用于输入的培训数据，以便模型在开始时减少我们必须在以后减轻的偏差？'”Christopher Penn 说。 “不要把垃圾放进去，你不必把垃圾过滤掉。”

有一些工具可以帮助您做到这一点。 以下是五个最著名的：

• 来自 Google 的What-If是一个开源工具，通过处理数据点、生成图表和指定标准来帮助检测模型中是否存在偏差，以测试更改是否会影响最终结果。
• IBM 的AI Fairness 360是一个开源工具包，用于检测和消除机器学习模型中的偏差。
• 公平学习 来自 Microsoft，旨在帮助在公平性和模型性能之间进行权衡。
• 由研究员 Marco Tulio Ribeiro 创建的本地可解释模型无关解释(LIME) 允许用户操作模型的不同组件以更好地理解并能够指出存在偏差的来源。
• FairML 来自麻省理工学院的 Julius Adebayo 是一个端到端的工具箱，用于通过量化模型输入的相对重要性来审核预测模型。

“当你知道自己在寻找什么时，它们就很好，”佩恩说。 “当你不确定盒子里装的是什么时，它们就不那么好了。”

判断输入是比较容易的部分

例如，他说，使用 AI Fairness 360，你可以给它一系列的贷款决定和受保护类别的列表——年龄、性别、种族等。 然后它可以识别训练数据或模型中的任何偏差，并在模型开始向有偏差的方向漂移时发出警报。

“当你进行生成时，要做到这一点要困难得多，尤其是当你进行复制或图像制作时，”Penn 说。 “目前存在的工具主要用于表格矩形数据，这些数据具有您试图减轻的明确结果。”

生成内容的系统，如 ChatGPT 和 Bard，是难以置信的计算密集型系统。 添加额外的防止偏见的保障措施将对其绩效产生重大影响。 这增加了构建它们已经很困难的任务，所以不要指望很快有任何解决方案。

等不起

由于存在品牌风险，营销人员不能坐等模型自我修复。 他们需要为 AI 生成的内容采取的缓解措施是不断询问可能出现的问题。 要问的最好的人来自多元化、公平和包容性的努力。

“组织对 DEI 计划口头上说了很多，”Penn 说，“但这正是 DEI 真正可以发挥作用的地方。 [让] 多元化团队……检查模型的输出并说，“这不对，或者这个还可以。” 然后将其构建到流程中，就像 DEI 已经批准了它一样。”

公司如何定义和减轻所有这些系统中的偏见将成为其文化的重要标志。

“每个组织都必须就如何开发和使用这项技术制定自己的原则，”Paul Roetzer 说。 “而且我不知道除了在主观层面‘这就是我们认为的偏见，我们将或不会使用允许这种情况发生的工具’之外，还有什么其他解决办法。”

获取营销技术！ 日常的。 自由的。 在您的收件箱中。

订阅 加工...

见条款。