كيف يمكن للتحيز في الذكاء الاصطناعي أن يضر ببيانات التسويق وما يمكنك فعله حيال ذلك

الخوارزميات في قلب التسويق و martech. يتم استخدامها لتحليل البيانات وجمع البيانات وتجزئة الجمهور وغير ذلك الكثير. هذا لأنهم في قلب الذكاء الاصطناعي المبني عليهم. يعتمد المسوقون على أنظمة الذكاء الاصطناعي لتوفير بيانات محايدة وموثوقة. إذا لم يحدث ذلك ، فقد يسيء توجيه جهودك التسويقية ..

نحب أن نفكر في الخوارزميات كمجموعات من القواعد بدون تحيز أو نية. في حد ذاتها ، هذا هو بالضبط ما هم عليه. ليس لديهم آراء .. لكن تلك القواعد مبنية على افتراضات وقيم منشئها. هذه طريقة واحدة للدخول في التحيز إلى الذكاء الاصطناعي. الطريقة الأخرى وربما الأكثر أهمية هي من خلال البيانات التي يتم التدريب عليها.

أحفر أكثر عمقا: سيجعل كل من Bard و ChatGPT تجربة البحث أفضل في النهاية

على سبيل المثال ، يتم تدريب أنظمة التعرف على الوجه على مجموعات من الصور لأشخاص ذوي بشرة فاتحة في الغالب. ونتيجة لذلك ، فإنهم معروفون بالسوء في التعرف على الأشخاص ذوي البشرة الداكنة. في إحدى الحالات ، تم مطابقة 28 عضوًا في الكونغرس ، بشكل غير متناسب من الأشخاص الملونين ، بشكل غير صحيح مع صور mugshot. وقد أدى فشل محاولات تصحيح ذلك ببعض الشركات ، وأبرزها مايكروسوفت ، إلى التوقف عن بيع هذه الأنظمة لدوائر الشرطة.

تعد ChatGPT و Google's Bard وروبوتات الدردشة الأخرى التي تعمل بالذكاء الاصطناعي نماذج لغوية ذاتية الانحدار تستخدم التعلم العميق لإنتاج النص. يتم تدريب هذا التعلم على مجموعة بيانات ضخمة ، ربما تشمل كل شيء منشور على الإنترنت خلال فترة زمنية معينة - مجموعة بيانات مليئة بالأخطاء والمعلومات المضللة وبالطبع التحيز.

فقط بجودة البيانات التي تحصل عليها

يقول بول روتزر ، المؤسس والرئيس التنفيذي لمعهد التسويق للذكاء الاصطناعي: "إذا منحته حق الوصول إلى الإنترنت ، فسيكون بطبيعته أي تحيز موجود". "إنها مجرد مرآة على الإنسانية من نواح كثيرة."

يدرك بناة هذه الأنظمة ذلك.

يقول كريستوفر بن ، المؤسس المشارك وكبير علماء البيانات في TrustInsights.ai: "في إفصاحات شركة OpenAI الخاصة بـ ChatGPT وإخلاء المسئولية ، يقولون إن المشاعر السلبية ترتبط ارتباطًا وثيقًا بأسماء الإناث الأمريكيات من أصل أفريقي أكثر من أي اسم آخر موجود هناك". "لذا إذا كان لديك أي نوع من نماذج المشاعر المؤتمتة بالكامل في الصندوق الأسود وكنت تحكم على الأسماء الأولى للأشخاص ، إذا حصلت Letitia على درجة أقل من Laura ، فستواجه مشكلة. أنت تعزز هذه التحيزات ".

تقول مستندات أفضل ممارسات OpenAI أيضًا ، "من الهلوسة للمعلومات غير الدقيقة ، إلى المخرجات الهجومية ، إلى التحيز ، وأكثر من ذلك بكثير ، قد لا تكون النماذج اللغوية مناسبة لكل حالة استخدام دون تعديلات كبيرة."

ما هو المسوق ليفعل؟

يعد التخفيف من التحيز أمرًا ضروريًا للمسوقين الذين يرغبون في العمل باستخدام أفضل البيانات الممكنة. سيكون القضاء عليه هدفًا متحركًا إلى الأبد ، هدفًا يجب متابعته ولكن ليس بالضرورة تحقيقه.

يقول كريستوفر بن: "ما الذي يجب أن يفكر فيه المسوقون وشركات التكنولوجيا العسكرية ،" كيف نطبق هذا على بيانات التدريب التي تدخل فيها بحيث يكون للنموذج تحيزات أقل للبدء بها ، وعلينا التخفيف منها لاحقًا؟ " "لا تضع القمامة ، ليس عليك تصفية القمامة."

هناك أدوات يمكن أن تساعدك على القيام بذلك. فيما يلي الخمسة الأكثر شهرة:

• What-If from Google هي أداة مفتوحة المصدر للمساعدة في اكتشاف وجود تحيز في نموذج من خلال معالجة نقاط البيانات وإنشاء مخططات وتحديد معايير لاختبار ما إذا كانت التغييرات تؤثر على النتيجة النهائية.
• تعد AI Fairness 360 من IBM مجموعة أدوات مفتوحة المصدر لاكتشاف التحيز في نماذج التعلم الآلي والقضاء عليه.
• Fairlearn من Microsoft مصمم للمساعدة في التنقل بين المقايضات بين الإنصاف وأداء النموذج.
• تفسيرات نموذجية محايدة محلية قابلة للتفسير (LIME) أنشأها الباحث ماركو توليو ريبيرو يتيح للمستخدمين معالجة المكونات المختلفة للنموذج لفهم مصدر التحيز بشكل أفضل والقدرة على تحديد مصدر التحيز في حالة وجوده.
• فيرمل من Julius Adebayo من معهد ماساتشوستس للتكنولوجيا هو صندوق أدوات شامل لمراجعة النماذج التنبؤية من خلال تحديد الأهمية النسبية لمدخلات النموذج.

يقول بن: "إنهم جيدون عندما تعرف ما الذي تبحث عنه". "تكون أقل جودة عندما لا تكون متأكدًا مما يوجد في الصندوق."

الحكم على المدخلات هو الجزء السهل

على سبيل المثال ، كما يقول ، مع AI Fairness 360 ، يمكنك منحها سلسلة من قرارات القروض وقائمة بالفصول المحمية - العمر والجنس والعرق وما إلى ذلك. يمكنه بعد ذلك تحديد أي تحيزات في بيانات التدريب أو في النموذج وإصدار إنذار عندما يبدأ النموذج في الانجراف في اتجاه منحاز.

يقول بن: "عندما تقوم بعمل جيل ، يكون القيام بذلك أكثر صعوبة ، خاصة إذا كنت تقوم بالنسخ أو التصوير". "الأدوات الموجودة حاليًا مخصصة أساسًا للبيانات المستطيلة المجدولة ذات النتائج الواضحة التي تحاول التخفيف منها."

الأنظمة التي تنشئ المحتوى ، مثل ChatGPT و Bard ، تتطلب حوسبة مكثفة بشكل لا يصدق. إضافة ضمانات إضافية ضد التحيز سيكون له تأثير كبير على أدائها. هذا يضيف إلى المهمة الصعبة بالفعل المتمثلة في بنائها ، لذلك لا تتوقع أي حل قريبًا.

لا استطيع الانتظار

بسبب مخاطر العلامة التجارية ، لا يستطيع المسوقون الجلوس وانتظار النماذج لإصلاح نفسها. إن التخفيف الذي يحتاجون إلى القيام به للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يسأل باستمرار عن الخطأ الذي يمكن أن يحدث. أفضل الأشخاص الذين يجب أن تسألهم هم من جهود التنوع والإنصاف والشمول.

يقول بن: "تقدم المنظمات الكثير من التشدق الكلامي لمبادرات DEI ، ولكن هذا هو المكان الذي يمكن أن تتألق فيه DEI بالفعل. [احصل على] فريق التنوع ... افحص مخرجات النماذج وقل ، "هذا ليس جيدًا أو هذا جيد." وبعد ذلك ، يجب تضمين ذلك في العمليات ، مثلما أعطت DEI هذا طابع الموافقة ".

إن الطريقة التي تحدد بها الشركات التحيز في جميع هذه الأنظمة والتخفيف من حدتها ستكون علامات مهمة على ثقافتها.

يقول Paul Roetzer: "سيتعين على كل منظمة تطوير مبادئها الخاصة حول كيفية تطوير واستخدام هذه التكنولوجيا". "وأنا لا أعرف كيف يتم حلها بخلاف ذلك على المستوى الشخصي" هذا ما نعتبره تحيزًا وسنستخدم أو لن نستخدم الأدوات التي تسمح بحدوث ذلك. "

احصل على MarTech! يوميًا. حر. في بريدك الوارد.

يشترك يعالج...

انظر الشروط.