治理人工智能：營銷應該發揮什麼作用？

已發表: 2022-08-10

如果你有一個人工智能項目，你也有一個委員會、團隊或機構，負責對人工智能的開發、部署和使用進行治理。如果您不這樣做，則需要創建一個。

在我的上一篇文章中，我分享了在營銷中應用 AI 和 ML 模型的關鍵領域，以及這些模型如何幫助您進行創新和滿足客戶需求。在這裡，我看一下營銷對人工智能治理的責任。

那麼，什麼是人工智能治理？

AI 治理就是我們所說的管理您使用 AI 的框架或流程。任何 AI 治理工作的目標都很簡單——降低使用 AI 帶來的風險。為此，組織必須建立一個流程來評估人工智能驅動算法的風險及其道德使用。

治理的嚴格程度高度依賴於行業。例如，在金融環境中部署人工智能算法可能比在製造業中部署人工智能具有更大的風險。使用人工智能來分配消費者信用評分需要比人工智能算法在工廠車間經濟高效地分配零件的透明度和監督。

為了有效地管理風險，人工智能治理計劃應該著眼於人工智能驅動應用程序的三個方面：

數據：算法使用什麼數據？質量是否適合模型？數據科學家是否可以訪問所需的數據？作為算法的一部分，隱私是否會受到侵犯？（儘管這不是故意的，但某些 AI 模型可能會無意中暴露敏感信息。）由於數據可能會隨著時間而變化，因此有必要始終如一地管理數據在 AI/ML 模型中的使用。
算法。 如果數據發生了變化，它會改變算法的輸出嗎？例如，如果創建了一個模型來預測下個月將購買哪些客戶，則數據將隨著時間的推移而老化並影響模型的輸出。模型是否仍在生成適當的響應或操作？由於營銷中最常見的 AI 模型是機器學習，因此營銷人員需要注意模型漂移。模型漂移是模型預測的任何變化。如果模型今天預測的結果與昨天的預測不同，則稱該模型“漂移”了。
利用。 那些使用 AI 模型輸出的人是否接受過如何使用它的培訓？他們是否監控輸出的差異或虛假結果？如果 AI 模型正在生成營銷使用的操作，這一點尤其重要。使用相同的示例，模型是否識別出最有可能在下個月購買的客戶？如果是這樣，您是否對銷售或支持代表進行了有關如何處理可能購買的客戶的培訓？您的網站是否“知道”這些客戶在訪問時該怎麼做？這些信息會影響哪些營銷流程？

人工智能治理可以通過多種方式構建，方法從高度控製到自我監控不等，這高度依賴於行業及其所在的企業文化。

為了能夠指導模型開發及其驗證和部署，治理團隊通常由了解算法如何運行的技術成員和了解模型為何按計劃工作的領導者組成。此外，代表內部審計職能的人通常位於治理結構內。

無論人工智能治理的結構如何，主要目標都應該是一個高度協作的團隊，以確保人工智能算法、它們使用的數據以及使用結果的流程得到管理，從而使組織符合所有內部和外部法規。

這是一個採用集中式方法的組織的 AI 治理設計示例，在醫療保健、金融和電信等高度監管的行業中很常見：

營銷參與人工智能模型的治理有幾個原因。所有這些原因都與營銷的使命有關。

為客戶代言。營銷的工作是確保客戶獲得購買和繼續購買所需的信息，並宣傳公司的產品。營銷負責客戶的體驗並保護客戶的信息。由於這些責任，營銷組織應該參與任何使用客戶信息的人工智能算法或任何影響客戶滿意度、購買行為或宣傳的算法。

保護品牌。營銷的主要職責之一是保護品牌。如果 AI 模型以任何可能損害品牌形象的方式部署，營銷應該介入。例如，如果 AI 生成的信用評分用於提前確定哪些客戶獲得“家庭”折扣，那麼營銷應該是在如何部署該模型方面發揮著重要作用。營銷應該是決定模型是否會產生適當結果的團隊的一部分。營銷人員必須始終問這樣一個問題：“這種情況會改變我們的主要客戶對與我們開展業務的感受嗎？”

確保開放的溝通。 AI/ML 模型開發和部署中最常被忽視的領域之一是講故事，這是幫助其他人理解模型應該做什麼所必需的。透明度和可解釋性是良好的、受管控的 AI/ML 建模的兩個最重要的特徵。透明度意味著創建的模型被創建者和使用它們的人以及組織的管理者和領導者完全理解。由於無法向內部業務負責人解釋該模型的作用以及它是如何做的，AI 治理團隊冒著無法從外部向政府監管機構、外部顧問或股東解釋該模型的巨大風險。傳達模型正在做什麼以及它對業務意味著什麼的“故事”是營銷的工作。

保護營銷部署的 AI 模型。 營銷部門也應該是這些 AI/ML 模型的大用戶，這些模型有助於確定哪些客戶會購買最多，哪些客戶將成為客戶的時間最長，哪些最滿意的客戶可能會將您推薦給其他潛在客戶或確實流失. 在這個角色中，營銷部門應該在 AI 治理表中佔有一席之地，以確保客戶信息得到妥善管理，偏見不會進入模型，並為客戶維護隱私。

閱讀下一篇：營銷中的人工智能和機器學習：您是否部署了正確的模型？

我想說，貴組織的 AI 治理將歡迎營銷人員參與進來，但做好準備並做好功課永遠不會有壞處。在開始之前，您需要熟悉以下一些技能和能力：

人工智能/機器學習理解。 您應該了解什麼是 AI/ML 以及它們是如何工作的。這並不意味著您需要博士學位。在數據科學中，但最好參加有關這些功能是什麼以及它們的作用的在線課程。最重要的是您要了解模型應該產生什麼樣的影響，尤其是當它們冒著暴露客戶信息或使組織面臨財務或品牌風險的風險時。
數據。 您應該精通模型中使用的數據、收集方式以及更新方式和時間。為 AI 模型選擇和管理數據是偏見可以進入算法的第一個地方。例如，如果您嘗試分析特定產品的客戶行為，您通常需要以相同方式收集和整理的大約四分之三的數據，以便獲得完整且準確的信息。如果算法將使用營銷數據，那麼你的角色就更重要了。
過程。 您應該對部署算法的過程有很好的了解。如果您作為營銷代表坐在 AI 治理團隊中，並且正在評估的 AI 算法用於銷售，那麼您應該熟悉該流程以及營銷可能如何以及在何處對該流程做出貢獻。因為如果你在 AI Governance 團隊服務，這是一項重要的技能，許多營銷團隊將任命營銷運營負責人作為他們的代表。

無論您在 AI 治理中扮演什麼角色，請記住它的重要性。確保在您的組織中負責任地部署 AI/ML 不僅勢在必行，而且是一個持續的過程，需要持久性和警惕性，因為模型會繼續從它們使用的數據中學習。

獲取數字營銷人員所依賴的每日通訊。