AI 中的偏見如何破壞營銷數據以及您可以採取什麼措施

算法是營銷和營銷技術的核心。 它們用於數據分析、數據收集、受眾細分等等。 那是因為它們是建立在它們之上的人工智能的核心。 營銷人員依靠人工智能係統提供中立、可靠的數據。 如果沒有，它可能會誤導您的營銷工作。

我們喜歡將算法視為沒有偏見或意圖的規則集。 他們本身就是這樣。 他們沒有意見。但這些規則是建立在其創造者的假設和價值觀之上的。 這是偏見進入人工智能的一種方式。 另一種也許更重要的方法是通過訓練它的數據。

深入挖掘： Bard 和 ChatGPT 最終將改善搜索體驗

例如，面部識別系統是根據大多數膚色較淺的人的圖像集進行訓練的。 因此，他們在識別深色皮膚的人方面出了名的差勁。 在一個例子中，28 名國會議員（主要是有色人種）與面部照片的匹配不正確。 糾正此問題的嘗試失敗導致一些公司（最著名的是 Microsoft）停止向警察部門出售這些系統。

ChatGPT、谷歌的 Bard 和其他人工智能聊天機器人是使用深度學習生成文本的自回歸語言模型。 這種學習是在一個巨大的數據集上進行訓練的，可能包括在給定時間段內在互聯網上發布的所有內容——一個充滿錯誤、虛假信息，當然還有偏見的數據集。

只和它獲得的數據一樣好

The Marketing AI Institute 的創始人兼首席執行官 Paul Roetzer 說：“如果你讓它訪問互聯網，它就會固有地存在任何偏見。” “它在很多方面只是人性的一面鏡子。”

這些系統的構建者意識到了這一點。

“在 [ChatGPT 創建者] OpenAI 的披露和免責聲明中，他們說負面情緒與非裔美國女性名字的聯繫比其中設置的任何其他名字更密切，”TrustInsights.ai 的聯合創始人兼首席數據科學家克里斯托弗佩恩說。 “因此，如果你有任何一種完全自動化的黑匣子情感模型，並且你正在判斷人們的名字，如果 Letitia 的分數低於 Laura，那你就有問題了。 你正在強化這些偏見。”

OpenAI 的最佳實踐文件還說，“從幻覺的不准確信息到令人反感的輸出，再到偏見等等，如果不進行重大修改，語言模型可能並不適合所有用例。”

營銷人員要做什麼？

減輕偏見對於想要使用盡可能最好的數據的營銷人員來說至關重要。 消除它永遠是一個移動的目標，一個追求但不一定實現的目標。

“營銷人員和營銷技術公司應該考慮的是，'我們如何將其應用於輸入的培訓數據，以便模型在開始時減少我們必須在以後減輕的偏差？'”Christopher Penn 說。 “不要把垃圾放進去，你不必把垃圾過濾掉。”

有一些工具可以幫助您做到這一點。 以下是五個最著名的：

• 來自 Google 的What-If是一個開源工具，通過處理數據點、生成圖表和指定標準來幫助檢測模型中是否存在偏差，以測試更改是否會影響最終結果。
• IBM 的AI Fairness 360是一個開源工具包，用於檢測和消除機器學習模型中的偏差。
• 公平學習 來自 Microsoft，旨在幫助在公平性和模型性能之間進行權衡。
• 由研究員 Marco Tulio Ribeiro 創建的本地可解釋模型無關解釋(LIME) 允許用戶操作模型的不同組件以更好地理解並能夠指出存在偏差的來源。
• FairML 來自麻省理工學院的 Julius Adebayo 是一個端到端的工具箱，用於通過量化模型輸入的相對重要性來審核預測模型。

“當你知道自己在尋找什麼時，它們就很好，”佩恩說。 “當你不確定盒子裡裝的是什麼時，它們就不那麼好了。”

判斷輸入是比較容易的部分

例如，他說，使用 AI Fairness 360，你可以給它一系列的貸款決定和受保護類別的列表——年齡、性別、種族等。 然後它可以識別訓練數據或模型中的任何偏差，並在模型開始向有偏差的方向漂移時發出警報。

“當你進行生成時，要做到這一點要困難得多，尤其是當你進行複製或圖像製作時，”Penn 說。 “目前存在的工具主要用於表格矩形數據，這些數據具有您試圖減輕的明確結果。”

生成內容的系統，如 ChatGPT 和 Bard，是難以置信的計算密集型系統。 添加額外的防止偏見的保障措施將對其績效產生重大影響。 這增加了構建它們已經很困難的任務，所以不要指望很快有任何解決方案。

等不起

由於存在品牌風險，營銷人員不能坐等模型自我修復。 他們需要為 AI 生成的內容採取的緩解措施是不斷詢問可能出現的問題。 要問的最好的人來自多元化、公平和包容性的努力。

“組織對 DEI 計劃口頭上說了很多，”Penn 說，“但這正是 DEI 真正可以發揮作用的地方。 [讓] 多元化團隊……檢查模型的輸出並說，“這不對，或者這個還可以。” 然後將其構建到流程中，就像 DEI 已經批准了它一樣。”

公司如何定義和減輕所有這些系統中的偏見將成為其文化的重要標誌。

“每個組織都必須就如何開發和使用這項技術制定自己的原則，”Paul Roetzer 說。 “而且我不知道除了在主觀層面‘這就是我們認為的偏見，我們將或不會使用允許這種情況發生的工具’之外，還有什麼其他解決辦法。”

獲取營銷技術！ 日常的。 自由的。 在您的收件箱中。

訂閱 加工...

見條款。