Управление ИИ: какую роль должен играть маркетинг?

Если у вас есть программа искусственного интеллекта, у вас также есть комитет, команда или орган, который обеспечивает управление разработкой, развертыванием и использованием ИИ. Если вы этого не сделаете, его необходимо создать.

В своей последней статье я рассказал об основных областях применения моделей искусственного интеллекта и машинного обучения в маркетинге и о том, как эти модели могут помочь вам внедрять инновации и удовлетворять потребности клиентов. Здесь я рассматриваю ответственность маркетинга за управление ИИ.

Итак, что такое управление ИИ?

Управление ИИ — это то, что мы называем структурой или процессом, который управляет использованием вами ИИ. Цель любых усилий по управлению ИИ проста — снизить риски, связанные с использованием ИИ. Для этого организации должны установить процесс оценки рисков алгоритмов, управляемых ИИ, и их этического использования.

Строгость управления сильно зависит от отрасли. Например, развертывание алгоритмов ИИ в финансовой сфере может быть сопряжено с большими рисками, чем развертывание ИИ в производстве. Использование ИИ для присвоения потребительских кредитных рейтингов требует большей прозрачности и контроля, чем алгоритм ИИ, который экономически эффективно распределяет детали по цеху.

Чтобы эффективно управлять рисками, программа управления ИИ должна учитывать три аспекта приложений, управляемых ИИ:

• Данные. Какие данные использует алгоритм? Соответствует ли качество модели? Имеют ли ученые данных доступ к необходимым данным? Будет ли нарушена конфиденциальность как часть алгоритма? (Хотя это никогда не делается преднамеренно, некоторые модели ИИ могут непреднамеренно раскрывать конфиденциальную информацию.) Поскольку данные могут меняться со временем, необходимо последовательно управлять использованием данных в модели ИИ/МО.
• Алгоритмы. Если данные изменились, изменяет ли это вывод алгоритма? Например, если модель была создана для прогнозирования того, какие покупатели совершат покупку в следующем месяце, данные будут стареть с каждой проходящей неделей и влиять на результат модели. Модель по-прежнему генерирует соответствующие ответы или действия? Поскольку наиболее распространенной моделью ИИ в маркетинге является машинное обучение, маркетологам необходимо следить за изменением модели. Дрейф модели — это любое изменение предсказаний модели. Если модель предсказывает сегодня что-то, отличающееся от того, что она предсказывала вчера, то говорят, что модель «дрейфовала».
• Использовать. Обучены ли те, кто использует результаты модели ИИ, как ее использовать? Отслеживают ли они выходные данные на предмет отклонений или ложных результатов? Это особенно важно, если модель ИИ генерирует действия, которые использует маркетинг. Используя тот же пример, определяет ли модель тех клиентов, которые с наибольшей вероятностью совершат покупку в следующем месяце? Если да, то обучали ли вы продавцов или представителей службы поддержки тому, как обращаться с клиентами, которые могут совершить покупку? Ваш веб-сайт «знает», что делать с этими клиентами, когда они посещают его? На какие маркетинговые процессы влияет эта информация?

Как она должна быть организована и кто должен в ней участвовать?

Управление ИИ может быть структурировано по-разному с подходами, которые варьируются от строго контролируемого до самоконтролируемого, что сильно зависит от отрасли, а также от корпоративной культуры, в которой он находится.

Чтобы иметь возможность руководить разработкой модели, а также ее проверкой и развертыванием, группы управления обычно состоят как из технических специалистов, которые понимают, как работают алгоритмы, так и из руководителей, которые понимают, почему модели должны работать так, как они запланированы. Кроме того, в структуру управления обычно входит лицо, представляющее службу внутреннего аудита.

Независимо от того, как структурировано управление ИИ, основной целью должна быть сплоченная команда, обеспечивающая управление алгоритмами ИИ, используемыми ими данными и процессами, использующими результаты, чтобы организация соответствовала всем внутренним и внешним нормам.

Вот пример дизайна управления ИИ для организации, использующей централизованный подход, распространенный в строго регулируемых отраслях, таких как здравоохранение, финансы и телекоммуникации:

Что маркетологи могут внести в управление ИИ?

Есть несколько причин, по которым маркетинг должен участвовать в управлении моделями ИИ. Все эти причины связаны с миссией маркетинга.

1. Адвокатирование клиентов . Задача отдела маркетинга состоит в том, чтобы обеспечить клиентов информацией, необходимой им для совершения покупки, и продолжать совершать покупки, а также распространять информацию о предложениях компании. Маркетинг отвечает за опыт клиентов и за защиту информации клиентов. Из-за этих обязанностей маркетинговая организация должна участвовать в любом алгоритме ИИ, который использует информацию о клиентах, или в любом алгоритме, который влияет на удовлетворенность клиентов, покупательское поведение или защиту интересов.

2. Защита бренда . Одной из основных обязанностей отдела маркетинга является защита бренда. Если модели ИИ используются каким-либо образом, который может повредить имиджу бренда, маркетинг должен вмешаться. Например, если оценки кредитоспособности, сгенерированные ИИ, используются для предварительного определения того, какие клиенты получат «семейную» скидку, тогда маркетинг должен быть играют важную роль в том, как эта модель развертывается. Маркетинг должен быть частью команды, которая решает, даст ли модель соответствующие результаты или нет. Маркетинг всегда должен задаваться вопросом: «Изменит ли эта ситуация отношение наших основных клиентов к сотрудничеству с нами?»

3. Обеспечение открытых коммуникаций. Одной из областей разработки и развертывания моделей AI/ML, которой чаще всего пренебрегают, является повествование, которое необходимо, чтобы помочь другим понять, что должны делать модели. Прозрачность и объяснимость — две наиболее важные черты хорошего управляемого моделирования AI/ML. Прозрачность означает, что создаваемые модели полностью понятны тем, кто их создает, и тем, кто их использует, а также менеджерам и руководителям организаций. Не имея возможности объяснить, что делает модель и как она это делает, внутренним бизнес-лидерам, команда по управлению ИИ подвергается огромному риску того, что она также не сможет объяснить модель внешним государственным регулирующим органам, внешним консультантам или акционерам. Сообщить «историю» о том, что делает модель и что она значит для бизнеса, — это работа маркетинга.
   

4. Защита моделей искусственного интеллекта, развернутых в маркетинге. Маркетинг также должен быть активным пользователем тех моделей AI/ML, которые помогают определить, какие клиенты будут покупать больше всего, какие клиенты будут оставаться клиентами дольше всего, и какие из наиболее удовлетворенных клиентов, вероятно, порекомендуют вас другим потенциальным клиентам или действительно уйдут. . В этой роли отдел маркетинга должен иметь место за столом управления ИИ, чтобы гарантировать, что информация о клиентах хорошо управляется, что предвзятость не проникает в модель и что для клиента сохраняется конфиденциальность.

Читать далее: ИИ и машинное обучение в маркетинге: используете ли вы правильные модели?

Но сначала познакомьтесь с основами

Я хотел бы сказать, что управление ИИ в вашей организации будет приветствовать маркетологов за столом переговоров, но никогда не помешает подготовиться и выполнить домашнюю работу. Вот несколько навыков и возможностей, с которыми следует ознакомиться перед тем, как приступить к работе:

• Понимание AI/ML. Вы должны понимать, что такое AI/ML и как они работают. Это не означает, что вам нужна степень доктора философии. в науке о данных, но было бы неплохо пройти онлайн-курс о том, что это за возможности и что они делают. Очень важно, чтобы вы понимали, какое влияние следует ожидать от моделей, особенно если они рискуют раскрыть информацию о клиентах или поставить организацию под финансовый риск или риск для бренда.
• Данные. Вы должны хорошо разбираться в том, какие данные используются в модели, как они собираются, как и когда обновляются. Выбор и обработка данных для модели ИИ — это первое место, где предвзятость может повлиять на алгоритм. Например, если вы пытаетесь проанализировать поведение клиентов в отношении определенного продукта, вам обычно потребуется около трех четвертей данных, собранных таким же образом и отобранных таким образом, чтобы у вас была полная и точная информация. Если алгоритм будет использовать маркетинговые данные, то ваша роль еще более важна.
• Процесс. Вы должны хорошо понимать процесс, в котором будет развернут алгоритм. Если вы входите в команду по управлению ИИ в качестве представителя по маркетингу и оцениваемые алгоритмы ИИ предназначены для продаж, вам следует ознакомиться с этим процессом, а также с тем, как и где маркетинг может способствовать этому процессу. Поскольку это важный навык, если вы работаете в команде по управлению ИИ, многие маркетинговые команды назначают руководителя отдела маркетинга своим представителем.

Независимо от того, какую роль вы играете в управлении ИИ, помните, насколько это важно. Обеспечение ответственного развертывания AI/ML в вашей организации является не только императивом, но и непрерывным процессом, требующим настойчивости и бдительности, поскольку модели продолжают учиться на данных, которые они используют.

Мнения, выраженные в этой статье, принадлежат приглашенному автору, а не обязательно MarTech. Штатные авторы перечислены здесь.