거버닝 AI: 마케팅은 어떤 역할을 해야 합니까?

인공 지능 프로그램이 있는 경우 AI 개발, 배포 및 사용에 대한 거버넌스를 제공하는 위원회, 팀 또는 기관도 있습니다. 그렇지 않은 경우 하나를 만들어야 합니다.

지난 기사에서 저는 마케팅에 AI 및 ML 모델을 적용하기 위한 핵심 영역과 이러한 모델이 고객 요구를 혁신하고 충족하는 데 어떻게 도움이 되는지 공유했습니다. 여기에서는 AI 거버넌스에 대한 마케팅의 책임을 살펴봅니다.

그렇다면 AI 거버넌스는 무엇일까요?

AI 거버넌스는 AI 사용을 관리하는 프레임워크 또는 프로세스라고 부르는 것입니다. 모든 AI 거버넌스 노력의 목표는 간단합니다. AI 사용과 관련된 위험을 완화하는 것입니다. 이를 위해 조직은 AI 기반 알고리즘과 그 윤리적 사용의 위험을 평가하는 프로세스를 수립해야 합니다.

거버넌스의 엄격성은 산업에 크게 의존합니다. 예를 들어, 금융 환경에서 AI 알고리즘을 배포하는 것은 제조에 AI를 배포하는 것보다 더 큰 위험을 초래할 수 있습니다. 소비자 신용 점수를 할당하기 위해 AI를 사용하려면 생산 현장에서 부품을 비용 효율적으로 분배하는 AI 알고리즘보다 더 많은 투명성과 감독이 필요합니다.

위험을 효과적으로 관리하기 위해 AI 거버넌스 프로그램은 AI 기반 애플리케이션의 세 가지 측면을 살펴봐야 합니다.

• 데이터: 알고리즘이 사용하는 데이터는 무엇입니까? 품질이 모델에 적합합니까? 데이터 과학자는 필요한 데이터에 액세스할 수 있습니까? 알고리즘의 일부로 개인 정보가 침해됩니까? (의도적이지는 않지만 일부 AI 모델은 실수로 민감한 정보를 노출할 수 있습니다.) 시간이 지남에 따라 데이터가 변경될 수 있으므로 AI/ML 모델에서 데이터 사용을 일관되게 관리해야 합니다.
• 알고리즘. 데이터가 변경되면 알고리즘의 출력이 변경됩니까? 예를 들어, 다음 달에 어떤 고객이 구매할지 예측하기 위해 모델을 만든 경우 데이터는 매주 경과하면서 노화되어 모델의 출력에 영향을 미칩니다. 모델이 여전히 적절한 응답이나 조치를 생성하고 있습니까? 마케팅에서 가장 일반적인 AI 모델은 머신 러닝이므로 마케터는 모델 드리프트를 관찰해야 합니다. 모델 드리프트는 모델 예측의 모든 변경입니다. 모델이 어제 예측한 것과 다른 것을 오늘 예측하면 모델이 "표류"되었다고 합니다.
• 사용. AI 모델의 출력을 사용하는 사람들은 사용 방법에 대해 교육을 받았습니까? 분산 또는 가짜 결과에 대한 출력을 모니터링하고 있습니까? 이는 AI 모델이 마케팅에서 사용하는 작업을 생성하는 경우 특히 중요합니다. 동일한 예를 사용하여 모델은 다음 달에 구매할 가능성이 가장 높은 고객을 식별합니까? 그렇다면 구매할 가능성이 있는 고객을 어떻게 처리해야 하는지에 대해 영업 또는 지원 담당자를 교육한 적이 있습니까? 귀하의 웹사이트는 해당 고객이 방문할 때 무엇을 해야 하는지 "알고 있습니까"? 이 정보의 결과로 어떤 마케팅 프로세스가 영향을 받습니까?

어떻게 구성되어야 하며 누가 참여해야 합니까?

AI 거버넌스는 고도로 통제되는 접근 방식에서 자체 모니터링 방식에 이르기까지 다양한 접근 방식으로 다양한 방식으로 구성될 수 있으며, 이는 해당 산업과 해당 기업 문화에 크게 의존합니다.

모델 개발과 검증 및 배포를 지시할 수 있도록 거버넌스 팀은 일반적으로 알고리즘 작동 방식을 이해하는 기술 구성원과 모델이 계획대로 작동해야 하는 이유를 이해하는 리더로 구성됩니다. 또한 내부 감사 기능을 대표하는 사람은 일반적으로 거버넌스 구조 내에 앉습니다.

AI 거버넌스가 어떻게 구성되어 있든, 주요 목표는 조직이 모든 내부 및 외부 규정을 준수할 수 있도록 AI 알고리즘, 알고리즘이 사용하는 데이터 및 결과를 사용하는 프로세스가 관리되도록 하는 고도로 협력적인 팀이어야 합니다.

다음은 의료, 금융, 통신과 같이 규제가 심한 산업에서 흔히 볼 수 있는 중앙 집중식 접근 방식을 취하는 조직을 위한 샘플 AI 거버넌스 디자인입니다.

마케터가 AI 거버넌스에 기여할 수 있는 것은 무엇입니까?

마케팅이 AI 모델의 거버넌스에 관여해야 하는 몇 가지 이유가 있습니다. 이러한 모든 이유는 마케팅의 사명과 관련이 있습니다.

1. 고객을 위한 옹호 . 마케팅의 임무는 고객이 구매하고 계속 구매하는 데 필요한 정보를 갖고 있는지 확인하고 회사의 제품을 홍보하는 것입니다. 마케팅은 고객의 경험을 책임지고 고객의 정보를 보호합니다. 이러한 책임 때문에 마케팅 조직은 고객 정보를 사용하는 AI 알고리즘이나 고객 만족도, 구매 행동 또는 옹호에 영향을 미치는 알고리즘에 참여해야 합니다.

2. 브랜드 보호 . 마케팅의 주요 책임 중 하나는 브랜드를 보호하는 것입니다. AI 모델이 브랜드 이미지를 손상시킬 수 있는 방식으로 배포되는 경우 마케팅이 개입해야 합니다. 예를 들어 AI가 생성한 신용도 점수를 사용하여 "가족" 할인을 받을 고객을 미리 결정하는 경우 마케팅은 해당 모델이 배포되는 방식에 중요한 역할을 합니다. 마케팅은 모델이 적절한 결과를 산출할지 여부를 결정하는 팀의 일부여야 합니다. 마케팅은 항상 다음과 같은 질문을 던져야 합니다. "이 상황이 우리의 주요 고객이 우리와 비즈니스를 하는 것에 대해 느끼는 방식을 바꿀까요?"

3. 열린 커뮤니케이션을 보장합니다. AI/ML 모델 개발 및 배포에서 가장 자주 무시되는 영역 중 하나는 다른 사람들이 모델이 수행해야 하는 작업을 이해하는 데 필요한 스토리텔링입니다. 투명성과 설명 가능성은 잘 관리되는 AI/ML 모델링의 가장 중요한 두 가지 특성입니다. 투명성이란 생성된 모델을 생성하는 사람과 사용하는 사람, 조직의 관리자 및 리더가 완전히 이해하는 것을 의미합니다. AI 거버넌스 팀은 모델의 기능과 기능을 내부 비즈니스 리더에게 설명하지 않고 정부 규제 기관, 외부 고문 또는 주주에게 외부적으로 모델을 설명할 수 없다는 큰 위험을 안고 있습니다. 모델이 하는 일과 그것이 비즈니스에 의미하는 바에 대한 "스토리"를 전달하는 것이 마케팅의 일입니다.
   

4. 마케팅에 배포된 AI 모델을 보호합니다. 마케팅은 또한 어떤 고객이 가장 많이 구매할지, 어떤 고객이 가장 오래 고객으로 남을지, 가장 만족한 고객이 다른 잠재 고객에게 귀하를 추천하거나 실제로 이탈할 가능성이 있는지를 결정하는 데 도움이 되는 AI/ML 모델의 큰 사용자여야 합니다. . 이 역할에서 마케팅은 AI 거버넌스 테이블에 앉아 고객 정보가 잘 관리되고 편견이 모델에 들어가지 않으며 고객의 개인 정보가 유지되도록 해야 합니다.

다음 읽기: 마케팅에서의 AI 및 기계 학습: 올바른 모델을 배포하고 있습니까?

하지만 먼저 기본 사항을 알고

귀사의 AI 거버넌스가 마케터를 환영할 것이지만 준비하고 숙제를 하는 것은 결코 나쁠 것이 없습니다. 시작하기 전에 숙지해야 할 몇 가지 기술과 기능은 다음과 같습니다.

• AI/ML 이해. AI/ML이 무엇이며 어떻게 작동하는지 이해해야 합니다. 이것은 박사 학위가 필요하다는 것을 의미하지는 않습니다. 그러나 이러한 기능이 무엇이며 무엇을 하는지에 대한 온라인 과정을 수강하는 것이 좋습니다. 특히 고객 정보를 노출하거나 조직을 재무 또는 브랜드 위험에 빠뜨릴 위험이 있는 경우 모델에서 예상되는 영향을 이해하는 것이 가장 중요합니다.
• 데이터. 모델에서 사용되는 데이터, 수집 방법, 업데이트 방법 및 시기에 대해 잘 알고 있어야 합니다. AI 모델에 대한 데이터를 선택하고 큐레이팅하는 것은 편향이 알고리즘에 들어갈 수 있는 첫 번째 장소입니다. 예를 들어, 특정 제품에 대한 고객 행동을 분석하려는 경우 일반적으로 동일한 방식으로 수집되고 정확한 정보를 얻을 수 있도록 선별된 데이터의 약 3/4이 필요합니다. 알고리즘이 사용할 마케팅 데이터라면 귀하의 역할이 훨씬 더 중요합니다.
• 프로세스. 알고리즘이 배포되는 프로세스를 잘 이해하고 있어야 합니다. AI 거버넌스 팀에 마케팅 담당자로 근무하고 있고 평가 중인 AI 알고리즘이 영업용이라면 해당 프로세스와 마케팅이 프로세스에 기여할 수 있는 방법과 위치를 숙지해야 합니다. 이것은 AI 거버넌스 팀에서 일할 때 갖추어야 할 중요한 기술이기 때문에 많은 마케팅 팀에서 마케팅 운영 책임자를 대표로 임명합니다.

AI 거버넌스에서 어떤 역할을 하든 그것이 얼마나 중요한지 기억하십시오. AI/ML이 조직에 책임감 있게 배포되도록 하는 것은 필수적일 뿐만 아니라 모델이 사용하는 데이터에서 계속 학습하므로 지속성과 경계가 필요한 진행 중인 프로세스입니다.

이 기사에 표현된 의견은 게스트 작성자의 의견이며 반드시 MarTech는 아닙니다. 직원 저자가 여기에 나열됩니다.