Governando a IA: que papel o marketing deve desempenhar?

Se você tem um programa de inteligência artificial, também tem um comitê, equipe ou órgão que fornece governança sobre o desenvolvimento, implantação e uso da IA. Se você não fizer isso, um precisa ser criado.

No meu último artigo, compartilhei as principais áreas para aplicar modelos de IA e ML em marketing e como esses modelos podem ajudá-lo a inovar e atender às demandas dos clientes. Aqui eu olho para a responsabilidade do marketing pela governança da IA.

Então, o que é governança de IA?

A governança de IA é o que chamamos de estrutura ou processo que gerencia seu uso de IA. O objetivo de qualquer esforço de governança de IA é simples – mitigar os riscos associados ao uso de IA. Para fazer isso, as organizações devem estabelecer um processo para avaliar os riscos dos algoritmos orientados por IA e seu uso ético.

O rigor da governança é altamente dependente da indústria. Por exemplo, a implantação de algoritmos de IA em um ambiente financeiro pode ter maiores riscos do que a implantação de IA na fabricação. O uso de IA para atribuir pontuações de crédito ao consumidor precisa de mais transparência e supervisão do que um algoritmo de IA que distribui peças de maneira econômica em um chão de fábrica.

Para gerenciar o risco de forma eficaz, um programa de governança de IA deve considerar três aspectos dos aplicativos orientados por IA:

• Dados: Quais dados o algoritmo está usando? A qualidade é adequada para o modelo? Os cientistas de dados têm acesso aos dados necessários? A privacidade será violada como parte do algoritmo? (Embora isso nunca seja intencional, alguns modelos de IA podem expor inadvertidamente informações confidenciais.) Como os dados podem mudar ao longo do tempo, é necessário controlar consistentemente o uso dos dados no modelo de IA/ML.
• Algoritmos. Se os dados foram alterados, isso altera a saída do algoritmo? Por exemplo, se um modelo foi criado para prever quais clientes comprarão no próximo mês, os dados envelhecerão a cada semana e afetarão a saída do modelo. O modelo ainda está gerando respostas ou ações apropriadas? Como o modelo de IA mais comum no marketing é o aprendizado de máquina, os profissionais de marketing precisam ficar atentos ao desvio do modelo. A deriva do modelo é qualquer mudança nas previsões do modelo. Se o modelo prevê algo hoje que é diferente do que previu ontem, então diz-se que o modelo “desvio”.
• Usar. Aqueles que estão usando a saída do modelo de IA foram treinados sobre como usá-lo? Eles estão monitorando as saídas para variações ou resultados espúrios? Isso é especialmente importante se o modelo de IA estiver gerando ações que o marketing usa. Usando o mesmo exemplo, o modelo identifica os clientes com maior probabilidade de comprar no próximo mês? Em caso afirmativo, você treinou representantes de vendas ou suporte sobre como lidar com clientes que provavelmente comprarão? Seu site “sabe” o que fazer com esses clientes quando eles o visitam? Quais processos de marketing são afetados como resultado dessas informações?

Como deve ser estruturado e quem deve estar envolvido?

A governança de IA pode ser estruturada de várias maneiras com abordagens que variam de altamente controladas a automonitoradas, o que é altamente dependente do setor e da cultura corporativa em que reside.

Para poder direcionar o desenvolvimento do modelo, bem como sua validação e implantação, as equipes de governança geralmente consistem tanto de membros técnicos que entendem como os algoritmos funcionam quanto de líderes que entendem por que os modelos devem funcionar conforme planejados. Além disso, alguém que representa a função de auditoria interna geralmente faz parte da estrutura de governança.

Não importa como a governança de IA esteja estruturada, o objetivo principal deve ser uma equipe altamente colaborativa para garantir que os algoritmos de IA, os dados usados ​​por eles e os processos que usam os resultados sejam gerenciados para que a organização esteja em conformidade com todos os regulamentos internos e externos.

Aqui está um exemplo de design de governança de IA para uma organização que adota uma abordagem centralizada, comum em setores altamente regulamentados, como saúde, finanças e telecomunicações:

O que os profissionais de marketing podem contribuir para a governança da IA?

Existem várias razões para o marketing estar envolvido na governança dos modelos de IA. Todas essas razões estão relacionadas à missão do marketing.

1. Advogando pelos clientes . O trabalho do marketing é garantir que os clientes tenham as informações de que precisam para comprar e continuar comprando, bem como evangelizar as ofertas da empresa. O marketing é responsável pelas experiências dos clientes e pela proteção das informações dos clientes. Por causa dessas responsabilidades, a organização de marketing deve estar envolvida em qualquer algoritmo de IA que use informações do cliente ou com qualquer algoritmo que tenha impacto na satisfação do cliente, comportamento de compra ou defesa.

2. Protegendo a marca . Uma das principais responsabilidades do marketing é proteger a marca. Se os modelos de IA estiverem sendo implantados de alguma forma que possa prejudicar a imagem da marca, o marketing deve intervir. desempenhando um papel importante na forma como esse modelo é implantado. O marketing deve fazer parte da equipe que decide se o modelo produzirá resultados adequados ou não. O marketing deve sempre fazer a pergunta: “Essa situação mudará a forma como nossos principais clientes se sentem ao fazer negócios conosco?”

3. Garantir comunicações abertas. Uma das áreas mais negligenciadas do desenvolvimento e implantação de modelos de IA/ML é a narrativa necessária para ajudar outras pessoas a entender o que os modelos devem fazer. Transparência e explicabilidade são as duas características mais importantes de uma boa modelagem IA/ML governada. Transparência significa que os modelos que são criados são totalmente compreendidos por quem os cria e por quem os usa, bem como pelos gestores e líderes das organizações. Sem poder explicar o que o modelo faz e como ele faz isso para os líderes internos de negócios, a equipe de Governança de IA corre o enorme risco de também não poder explicar o modelo externamente para reguladores governamentais, advogados externos ou acionistas. Comunicar a “história” do que o modelo está fazendo e o que isso significa para o negócio é o trabalho do marketing.
   

4. Protegendo os modelos de IA implantados pelo marketing. O marketing também deve ser um grande usuário desses modelos de IA/ML que ajudam a determinar quais clientes comprarão mais, quais clientes permanecerão clientes por mais tempo e quais dos clientes mais satisfeitos provavelmente recomendarão você a outros clientes em potencial ou desistem. . Nessa função, o marketing deve ter um assento na mesa de Governança de IA para garantir que as informações do cliente sejam bem gerenciadas, que o preconceito não entre no modelo e que a privacidade seja mantida para o cliente.

Leia a seguir: IA e aprendizado de máquina em marketing: você está implantando os modelos certos?

Mas primeiro, conheça o básico

Eu gostaria de dizer que a governança de IA da sua organização dará as boas-vindas aos profissionais de marketing, mas nunca é demais estar preparado e fazer sua lição de casa. Aqui estão algumas habilidades e capacidades para se familiarizar antes de começar:

• Compreensão de IA/ML. Você deve entender o que são AI/ML e como eles funcionam. Isso não significa que você precisa de um Ph.D. em ciência de dados, mas é uma boa ideia fazer um curso online sobre quais são esses recursos e o que eles fazem. É mais importante que você entenda qual impacto deve ser esperado dos modelos, especialmente se eles correm o risco de expor informações do cliente ou colocar a organização em risco financeiro ou de marca.
• Dados. Você deve conhecer bem quais dados estão sendo usados ​​no modelo, como foram coletados e como e quando são atualizados. Selecionar e organizar os dados para um modelo de IA é o primeiro lugar onde o viés pode entrar no algoritmo. Por exemplo, se você estiver tentando analisar o comportamento do cliente em torno de um produto específico, normalmente precisará de cerca de três quartos dos dados coletados da mesma maneira e selecionados para obter informações completas e precisas. Se forem dados de marketing que o algoritmo usará, sua função será ainda mais importante.
• Processo. Você deve ter uma boa compreensão do processo no qual o algoritmo será implantado. Se você faz parte da equipe de governança de IA como representante de marketing e os algoritmos de IA avaliados são para vendas, deve se familiarizar com esse processo e como e onde o marketing pode contribuir para o processo. Como essa é uma habilidade importante se você atua na equipe de governança de IA, muitas equipes de marketing indicarão o chefe de operações de marketing como seu representante.

Não importa qual papel você desempenhe na governança de IA, lembre-se de como isso é importante. Garantir que o AI/ML seja implantado de forma responsável em sua organização não é apenas imperativo, mas também um processo contínuo, exigindo persistência e vigilância, pois os modelos continuam aprendendo com os dados que usam.

As opiniões expressas neste artigo são do autor convidado e não necessariamente da MarTech. Os autores da equipe estão listados aqui.