Gobernando la IA: ¿Qué papel debe jugar el marketing?

Si tiene un programa de inteligencia artificial, también tiene un comité, equipo u organismo que proporciona control sobre el desarrollo, la implementación y el uso de la IA. Si no lo hace, es necesario crear uno.

En mi último artículo, compartí las áreas clave para aplicar modelos de IA y ML en marketing y cómo esos modelos pueden ayudarlo a innovar y satisfacer las demandas de los clientes. Aquí analizo la responsabilidad del marketing en el gobierno de la IA.

Entonces, ¿qué es la gobernanza de la IA?

La gobernanza de la IA es lo que llamamos el marco o proceso que gestiona su uso de la IA. El objetivo de cualquier esfuerzo de gobernanza de IA es simple: mitigar los riesgos asociados al uso de IA. Para hacer esto, las organizaciones deben establecer un proceso para evaluar los riesgos de los algoritmos impulsados ​​por IA y su uso ético.

El rigor de la gobernanza depende en gran medida de la industria. Por ejemplo, implementar algoritmos de IA en un entorno financiero podría tener mayores riesgos que implementar IA en la fabricación. El uso de IA para asignar puntajes de crédito al consumidor necesita más transparencia y supervisión que un algoritmo de IA que distribuye partes de manera rentable en una planta.

Para administrar el riesgo de manera efectiva, un programa de gobierno de IA debe considerar tres aspectos de las aplicaciones impulsadas por IA:

• Datos: ¿Qué datos utiliza el algoritmo? ¿Es la calidad adecuada para el modelo? ¿Los científicos de datos tienen acceso a los datos necesarios? ¿Se violará la privacidad como parte del algoritmo? (Aunque esto nunca es intencional, algunos modelos de IA podrían exponer inadvertidamente información confidencial). Como los datos pueden cambiar con el tiempo, es necesario controlar de manera consistente el uso de los datos en el modelo de IA/ML.
• Algoritmos. Si los datos han cambiado, ¿altera la salida del algoritmo? Por ejemplo, si se creó un modelo para predecir qué clientes comprarán el próximo mes, los datos envejecerán con cada semana que pase y afectarán el resultado del modelo. ¿El modelo sigue generando respuestas o acciones apropiadas? Debido a que el modelo de IA más común en marketing es el aprendizaje automático, los especialistas en marketing deben estar atentos a la desviación del modelo. La desviación del modelo es cualquier cambio en las predicciones del modelo. Si el modelo predice algo hoy que es diferente de lo que predijo ayer, entonces se dice que el modelo se ha “desviado”.
• Usar. ¿Aquellos que están usando el resultado del modelo de IA han sido capacitados sobre cómo usarlo? ¿Están monitoreando los productos en busca de variaciones o resultados falsos? Esto es especialmente importante si el modelo de IA genera acciones que utiliza el marketing. Usando el mismo ejemplo, ¿identifica el modelo a los clientes que tienen más probabilidades de comprar en el próximo mes? Si es así, ¿ha capacitado a los representantes de ventas o soporte sobre cómo manejar a los clientes que probablemente comprarán? ¿Su sitio web “sabe” qué hacer con esos clientes cuando lo visitan? ¿Qué procesos de marketing se ven afectados como resultado de esta información?

¿Cómo debe estructurarse y quién debe participar?

El gobierno de la IA se puede estructurar de varias maneras con enfoques que varían desde altamente controlados hasta autocontrolados, lo que depende en gran medida de la industria y de la cultura corporativa en la que reside.

Para poder dirigir el desarrollo del modelo, así como su validación e implementación, los equipos de gobierno generalmente están formados tanto por miembros técnicos que entienden cómo funcionan los algoritmos como por líderes que entienden por qué los modelos deberían funcionar según lo planeado. Además, alguien que representa la función de auditoría interna generalmente se sienta dentro de la estructura de gobierno.

Independientemente de cómo esté estructurada la gobernanza de la IA, el objetivo principal debe ser un equipo altamente colaborativo para garantizar que los algoritmos de IA, los datos que utilizan y los procesos que utilizan los resultados se gestionen de modo que la organización cumpla con todas las reglamentaciones internas y externas.

Aquí hay un ejemplo de diseño de gobernanza de IA para una organización que adopta un enfoque centralizado, común en industrias altamente reguladas como la atención médica, las finanzas y las telecomunicaciones:

¿Qué pueden aportar los especialistas en marketing a la gobernanza de la IA?

Hay varias razones para que el marketing se involucre en la gobernanza de los modelos de IA. Todas estas razones se relacionan con la misión de marketing.

1. Defensa de los clientes . El trabajo de marketing es garantizar que los clientes tengan la información que necesitan para comprar y continuar comprando, así como evangelizar las ofertas de la empresa. El marketing es responsable de las experiencias de los clientes y de proteger la información de los clientes. Debido a estas responsabilidades, la organización de marketing debe participar en cualquier algoritmo de IA que use información del cliente o en cualquier algoritmo que tenga un impacto en la satisfacción del cliente, el comportamiento de compra o la promoción.

2. Protegiendo la marca . Una de las principales responsabilidades del marketing es proteger la marca. Si los modelos de IA se están implementando de alguna manera que pueda dañar la imagen de la marca, el marketing debe intervenir. Por ejemplo, si los puntajes de solvencia generados por IA se utilizan para determinar de antemano qué clientes obtienen el descuento "familiar", entonces el marketing debe ser desempeñando un papel importante en la forma en que se implementa ese modelo. El marketing debe ser parte del equipo que decide si el modelo dará los resultados adecuados o no. El marketing siempre debe hacerse la pregunta: "¿Esta situación cambiará cómo se sienten nuestros principales clientes acerca de hacer negocios con nosotros?"

3. Garantizar comunicaciones abiertas. Una de las áreas más a menudo descuidadas del desarrollo y la implementación de modelos AI/ML es la narración que se requiere para ayudar a otros a comprender lo que deberían estar haciendo los modelos. La transparencia y la explicabilidad son las dos características más importantes de un buen modelado AI/ML gobernado. La transparencia significa que los modelos que se crean son plenamente entendidos por quienes los crean y quienes los utilizan, así como por los gerentes y líderes de las organizaciones. Sin poder explicar qué hace el modelo y cómo lo hace a los líderes empresariales internos, el equipo de Gobernanza de AI corre el gran riesgo de no poder explicar el modelo externamente a los reguladores gubernamentales, asesores externos o accionistas. Comunicar la “historia” de lo que está haciendo el modelo y lo que significa para el negocio es el trabajo de marketing.
   

4. Protección de modelos de IA implementados en marketing. El marketing también debe ser un gran usuario de esos modelos AI/ML que ayudan a determinar qué clientes comprarán más, qué clientes seguirán siendo clientes por más tiempo y cuáles de los clientes más satisfechos probablemente lo recomendarán a otros clientes potenciales o, de hecho, se retirarán. . En este rol, el marketing debe tener un asiento en la mesa de Gobernanza de AI para garantizar que la información del cliente esté bien administrada, que el sesgo no ingrese al modelo y que se mantenga la privacidad del cliente.

Lea a continuación: IA y aprendizaje automático en marketing: ¿Está implementando los modelos correctos?

Pero primero, familiarízate con los conceptos básicos.

Me gustaría decir que la Gobernanza de IA de su organización dará la bienvenida a los especialistas en marketing a la mesa, pero nunca está de más estar preparado y hacer su tarea. Aquí hay algunas habilidades y capacidades con las que debe familiarizarse antes de comenzar:

• Comprensión de IA/ML. Debe comprender qué son AI/ML y cómo funcionan. Esto no significa que necesite un doctorado. en ciencia de datos, pero es una buena idea tomar un curso en línea sobre cuáles son estas capacidades y qué hacen. Es muy importante que comprenda qué impacto se debe esperar de los modelos, especialmente si corren el riesgo de exponer la información del cliente o poner a la organización en riesgo financiero o de marca.
• Datos. Debe conocer bien qué datos se utilizan en el modelo, cómo se recopilaron y cómo y cuándo se actualizan. Seleccionar y curar los datos para un modelo de IA es el primer lugar donde el sesgo puede ingresar al algoritmo. Por ejemplo, si está tratando de analizar el comportamiento del cliente en torno a un producto específico, generalmente necesitará alrededor de las tres cuartas partes de los datos recopilados de la misma manera y seleccionados para que tenga información completa y precisa. Si se trata de datos de marketing que utilizará el algoritmo, entonces su papel es aún más importante.
• Proceso. Debe tener una buena comprensión del proceso en el que se implementará el algoritmo. Si está sentado en el equipo de Gobernanza de IA como representante de marketing y los algoritmos de IA que se evalúan son para ventas, entonces debe familiarizarse con ese proceso y cómo y dónde el marketing puede contribuir al proceso. Debido a que esta es una habilidad importante si trabaja en el equipo de Gobernanza de AI, muchos equipos de marketing designarán al jefe de operaciones de marketing como su representante.

Independientemente del papel que desempeñe en la gobernanza de la IA, recuerde lo importante que es. Asegurarse de que AI/ML se implemente de manera responsable en su organización no solo es imperativo, sino también un proceso continuo que requiere persistencia y vigilancia, ya que los modelos continúan aprendiendo de los datos que utilizan.

Las opiniones expresadas en este artículo pertenecen al autor invitado y no necesariamente a MarTech. Los autores del personal se enumeran aquí.