تأثير المحتوى السام والضار على العلامات التجارية وفرقهم وعملائهم

يمكن أن تكون السمية عبر الإنترنت ضارة بالعلامات التجارية ، وتؤثر على رفاهية موظفي الخطوط الأمامية وتخلق تأثيرًا تجاريًا حقيقيًا للعلامات التجارية إذا تعرض عملاؤها لها. فكيف يمكن للشركات العمل على التخفيف من الآثار السلبية؟

هنا ، يوضح ماتيو بوتارد ، الرئيس والمؤسس المشارك لشركة Bodyguard.ai ، مزايا وتحديات تعديل المحتوى ويستكشف كيف يمكن للشركات اتباع نهج مختلط لتحقيق أفضل النتائج.

مع دخول قانون الأمان عبر الإنترنت إلى قانون المملكة المتحدة في الأشهر المقبلة ، تم إيلاء الكثير من الاهتمام للتأثير السلبي لوسائل التواصل الاجتماعي على مستخدميها.

الهدف من مشروع القانون هو الوفاء بالتزام الحكومة في بيان الحكومة بجعل المملكة المتحدة المكان الأكثر أمانًا في العالم للاتصال بالإنترنت. ومع ذلك ، سوف تحتاج إلى تحقيق توازن حاسم لتحقيق ذلك بفعالية.

وفقًا لوزارة الثقافة والإعلام والرياضة الرقمية (DCMS) ، فإنها تهدف إلى الحفاظ على سلامة الأطفال ، ووقف الكراهية العنصرية وحماية الديمقراطية عبر الإنترنت ، مع ضمان أن يتمكن الأشخاص في المملكة المتحدة من التعبير عن أنفسهم بحرية والمشاركة في نقاش قوي وقوي. .

سيضع مشروع القانون التزامات جديدة على المنظمات لإزالة المحتوى غير القانوني أو الضار. علاوة على ذلك ، قد تواجه الشركات التي لا تمتثل لهذه القواعد الجديدة غرامات تصل إلى 18 مليون جنيه إسترليني أو 10٪ من مبيعاتها السنوية العالمية - أيهما أعلى.

قد تبدو مثل هذه الإجراءات جذرية ، لكنها أصبحت ضرورية بشكل متزايد. تنتشر السمية عبر الإنترنت ، وتغطي جميع قنوات الاتصال ، من وسائل التواصل الاجتماعي إلى الدردشة داخل اللعبة.

عند استكشاف حجم المشكلة ، نشرنا مؤخرًا ورقة بيضاء افتتاحية لفحص السمية عبر الإنترنت التي تستهدف الشركات والعلامات التجارية في الاثني عشر شهرًا التي انتهت في يوليو 2022.

خلال هذه العملية ، قمنا بتحليل أكثر من 170 مليون قطعة من المحتوى عبر 1200 قناة للعلامات التجارية بست لغات ، ووجدنا أن ما يصل إلى 5.24٪ من المحتوى الذي تم إنشاؤه بواسطة المجتمعات عبر الإنترنت سام. في الواقع ، يمكن تصنيف 3.28٪ على أنها بغيضة (إهانات ، كراهية ، كراهية للنساء ، تهديدات ، عنصرية ، إلخ) ، بينما يمكن تصنيف 1.96٪ على أنها غير مرغوب فيها (عمليات احتيال ، احتيال ، تصيد ، إلخ).

ثلاثة تحديات رئيسية لضبط المحتوى

لسوء الحظ ، فإن الانتشار المتزايد للكراهية عبر الإنترنت والمحتوى السام يتسرب بشكل متزايد إلى قنوات الاتصال القائمة على العلامات التجارية مثل منتديات العملاء وصفحات الوسائط الاجتماعية ولوحات الرسائل.

بالنسبة للعلامات التجارية ، يمكن أن يكون لهذا تأثير تجاري كبير. في الواقع ، تشير إحدى الدراسات إلى أن ما يصل إلى أربعة من كل 10 مستهلكين سيغادرون المنصة بعد تعرضهم لأول مرة للغة ضارة. علاوة على ذلك ، قد يشاركون تجربتهم السيئة مع الآخرين ، مما يخلق تأثير الدومينو لضرر العلامة التجارية الذي لا يمكن إصلاحه.

لذلك من المهم أن تقوم العلامات التجارية بتعديل محتوى الوسائط الاجتماعية الخاص بها لإزالة التعليقات السامة. ومع ذلك ، فإن القيام بذلك بشكل فعال ليس بالمهمة السهلة ، وهناك العديد من التحديات المحتملة.

أولاً ، يمكن أن تكون مهمة مكثفة الموارد ومرهقة لإكمالها يدويًا. عادةً ما يحتاج المشرف البشري المدرب إلى 10 ثوانٍ لتحليل تعليق واحد والإشراف عليه.

لذلك ، إذا تم نشر مئات أو آلاف التعليقات في نفس الوقت ، فقد يصبح من المستحيل إدارة تدفق التعليقات البغيضة في الوقت الفعلي. ونتيجة لذلك ، يُترك العديد من وسطاء المحتوى مرهقين عقليًا من حجم العمل.

بالإضافة إلى ذلك ، التعرض المتكرر للغة بذيئة ومقاطع الفيديو السامة والمحتوى الضار يمكن أن يكون له تأثير نفسي على الوسطاء. في الواقع ، لا يمكن التغاضي عن الصحة العقلية لهؤلاء الأفراد ، في حين أن المزيد من الإرهاق الناجم عن السمية يمكن أن يكون مكلفًا للشركات ، مما قد يؤدي إلى تسريع معدل دوران الموظفين.

ثالثًا ، يتعين على الشركات أن تخطو على خط رفيع عند الاعتدال لضمان عدم اتهامها بالرقابة. غالبًا ما تكون قنوات العلامات التجارية مثل وسائل التواصل الاجتماعي مصدرًا أساسيًا للعملاء الذين يتفاعلون مع العلامات التجارية ، ويقدمون ملاحظاتهم ويحاسبون العلامات التجارية. أولئك الذين يعطون الانطباع بأنهم ببساطة يحذفون أي تعليقات انتقادية أو سلبية قد يتعرضون أيضًا للانتقاد.

نهج مختلط للنتائج المتوازنة

لحسن الحظ ، بدأت تقنيات الذكاء الاصطناعي والتعلم الآلي في معالجة بعض التحديات التي تواجه المشرفين البشريين. ومع ذلك ، هناك المزيد من القضايا التي يجب تسويتها هنا.

تبين أن خوارزميات التعلم الآلي المستخدمة حاليًا بواسطة المنصات الاجتماعية مثل Facebook و Instagram بها معدل خطأ يمكن أن يصل إلى 40٪. نتيجة لذلك ، تتم حاليًا إزالة 62.5٪ فقط من المحتوى البغيض من الشبكات الاجتماعية وفقًا للمفوضية الأوروبية ، مما يترك كميات كبيرة من المحتوى غير الخاضع للإشراف هناك والذي يمكن أن يؤثر بسهولة على الأشخاص والشركات.

علاوة على ذلك ، تكافح هذه الخوارزميات أيضًا لإدارة القضية الحساسة المتعلقة بحرية التعبير. في غياب القدرة على اكتشاف التفاصيل الدقيقة اللغوية ، يمكن أن يميلوا بعيدًا إلى جانب الرقابة لأن الخوارزميات عرضة للمبالغة في رد الفعل.

مع وجود قيود على كل من الاعتدال البشري والحلول التي يحركها الذكاء الاصطناعي ، يلزم اتباع نهج مختلط. في الواقع ، من خلال الجمع بين التعلم الآلي الذكي وفريق بشري يتألف من لغويين ومراقبي الجودة والمبرمجين ، ستكون العلامات التجارية في وضع جيد لإزالة التعليقات البغيضة بسرعة وفعالية أكبر.

بالطبع ، سيكون اختيار الحل المناسب هنا هو المفتاح. من الناحية المثالية ، يجب أن تتطلع العلامات التجارية إلى تبني حل متقدم بما يكفي للتعرف على الاختلافات بين الأصدقاء الذين يتفاعلون بلغة "ملونة" ، والتعليقات العدائية الموجهة نحو العلامة التجارية.

إن تحقيق هذا التوازن أمر حيوي. لتشجيع المشاركة وبناء الثقة في التفاعلات عبر الإنترنت ، من الأهمية بمكان أن تعمل العلامات التجارية لضمان عدم تلوث السمية لقنوات الاتصال مع تزويد المستهلكين أيضًا بمنصة للنقد والمناقشة.

لحسن الحظ ، مع النهج الصحيح ، يمكن أن يكون الاعتدال فعالاً. في الواقع ، لا ينبغي أن يتعلق الأمر بحظر حرية التعبير ولكن منع المحتوى السام من الوصول إلى المستلمين المحتملين لجعل الإنترنت مكانًا أكثر أمانًا للجميع.