فيسبوك يقدم نظرة عامة جديدة على جهوده لمكافحة الإساءات العنصرية عبر الإنترنت عشية يورو 2020

بعد حادثة كبرى أخرى من الإساءة العنصرية عبر الإنترنت ، استهدفت أعضاء فريق كرة القدم الإنجليزي ، قدم Facebook نظرة عامة جديدة على كيفية عمله للتصدي لمثل هذه الهجمات ، ومنع الناس من التعرض للإساءة القائمة على العرق عبر منصاته.

بعد خسارة إنجلترا في نهائي بطولة أوروبا يوم الأحد ، نشر متصيدو وسائل التواصل الاجتماعي مئات التصريحات العنصرية ، وهاجموا اللاعبين السود الثلاثة في فريق كرة القدم الإنجليزي ، والتي تضمنت استخدام الرموز التعبيرية كعنصر إساءة. ما هي أنظمة Instagram التي لم تثير قلقًا في البداية - ولكن الآن ، عند المراجعة ، قام Facebook بتحديث أنظمته وفرقه ، للتأكد من أنه يتعامل مع حوادث مماثلة للمضي قدمًا ، بينما يتطلع أيضًا إلى تحسين عملياته بشكل عام.

كما أوضح Facebook:

"نشعر بالفزع من الإساءات العنصرية المقيتة التي تعرض لها بعض أعضاء فريق كرة القدم الإنجليزي بعد نهائي يورو 2020 في نهاية الأسبوع الماضي. هذه قضية خطيرة بشكل لا يصدق نعمل عليها منذ سنوات ، والتي تضمنت العمل مباشرة مع منظمات كرة القدم والقانون إجباري."

في الواقع ، حتى هذا العام ، واجه Facebook تحديات خطيرة على هذا الصعيد ، مرتبطة مرة أخرى بمشجعي كرة القدم في المملكة المتحدة.

مرة أخرى في فبراير ، أصبح Instagram عن غير قصد مصدرًا لحوادث مختلفة من الهجمات القائمة على العرق ضد لاعبين من مانشستر يونايتد وتشيلسي وليفربول ، من بين آخرين ، الذين تم استهدافهم عبر Instagram Direct. وندد نادي مانشستر يونايتد ، في بيان مشترك مع إيفرتون وليفربول ومانشستر سيتي ، بالوقائع ، ودعا شركة فيسبوك الأم لإنستغرام إلى بذل المزيد من الجهود لحماية المستخدمين من ذلك ، الأمر الذي أدى إلى تطبيق إنستغرام لعقوبات أكثر صرامة على من يتبين أنهم يرسلون إساءة عبر الإنترنت. DM ، وخيار جديد للحسابات الشخصية لإيقاف تشغيل الرسائل المباشرة من الأشخاص الذين لا يتابعونهم.

من الواضح ، مع ذلك ، أنه لا يزال هناك المزيد من القضايا التي يجب إضافتها في هذا الشأن. وبينما تعتبر العنصرية قضية مجتمعية ، ولا تقتصر على المنصات الاجتماعية على هذا النحو ، يحتاج Facebook إلى التأكد من أنه لا يقدم أي تضخيم لنفسه ، من أجل القيام بدوره للحد من آثارها.

ينص Facebook بوضوح على ما يلي:

"لا نسمح بالهجمات على الأشخاص بناءً على خصائصهم المحمية ، والتي تشمل العرق أو الدين أو الجنسية أو التوجه الجنسي. إذا علمنا بأي كلمات أو رموز تعبيرية تُستخدم لمهاجمة الأشخاص على أساس عرقهم ، فإننا نزيلها لأنها تنتهك سياساتنا. ننشر سياسات الكلام الذي يحض على الكراهية في معايير المجتمع وإرشادات مجتمع Instagram. "

كانت المشكلة في هذا الحادث الأخير ، كما لوحظ ، أن استخدام الرموز التعبيرية كعلامة عنصرية لم يتم تحديده في البداية ، وهو ما اعترف به آدم موسيري رئيس Instagram.

يوضح Facebook أنه يحدد خطاب الكراهية باستخدام مزيج من الذكاء الاصطناعي والمراجعة البشرية.

"يساعدنا الذكاء الاصطناعي في تحديد أولويات التقارير لمراجعينا واتخاذ إجراءات آلية عند الاقتضاء. بين يناير ومارس من عام 2021 ، أزلنا أكثر من 25 مليون قطعة من محتوى خطاب الكراهية من Facebook - ما يقرب من 97٪ قبل أن يبلغنا أحدهم بذلك. وعلى Instagram ، اتخذنا إجراء بشأن 6.3 مليون جزء من المحتوى ، 93٪ قبل أن يبلغنا أحدهم بذلك. "

وهو معدل نتيجة جيد ، ولكن كما تظهر هذه الحادثة الأخيرة ، لا تزال هناك أوقات لن تتمكن فيها هذه الأنظمة من التقاط كل شيء. وهذا ، كما يشير موسيري ، يمثل أيضًا تحديًا على نطاق واسع.

من الناحية الواقعية ، لا توجد طريقة للقضاء تمامًا على هذا الأمر ، لكن يعمل Facebook لضمان تحديث أنظمته في الوقت الفعلي ، مع اكتشاف الحالات ، من أجل العمل بشكل أسرع لمكافحة الإساءة والحد من التعرض.

"لقد شعر الناس بالإحباط بحق عندما أبلغوا عن منشورات وقيل لهم بشكل خاطئ أن التعليقات البغيضة مع بعض الرموز التعبيرية لا تنتهك قواعدنا. وذلك لأن الذكاء الاصطناعي لدينا لم يفهم السياق - وهذا خطأ. لقد انتقلنا بسرعة لتصحيح هذا من خلال التحسينات الأخيرة على تقنيتنا. سنواصل العمل على هذا حتى نتمكن من إزالة الرموز التعبيرية المخالفة من منصتنا بشكل أسرع. "

إنه توازن صعب للغاية ، ولا أحد لديه كل الإجابات. اقترحت مجموعات تنظيمية مختلفة ، على سبيل المثال ، عقوبات أكثر صرامة على المنصات الاجتماعية التي تفشل في معالجة مثل هذا في الوقت المناسب. تكمن المشكلة في أن ما يعتبر "مناسبًا" سيكون مختلفًا تقريبًا على أساس كل حالة على حدة.

هل كان يجب على Instagram اختيار إساءة استخدام الرموز التعبيرية عاجلاً؟ نعم - لكن أنظمتها الآلية لم تحدد ذلك على أنه مشكلة. لأنه لم يكن كذلك ، حتى كان الأمر كذلك ، ولم يكن بمقدور أحد بالضرورة توقع ذلك إلا بعد فوات الأوان.

قد تكون إحدى الطرق الممكنة لمعالجة ذلك هي فرض متطلبات هوية أكثر صرامة على الأفراد عند التسجيل في حسابات وسائل التواصل الاجتماعي ، مما يسهل التعرف على الجناة. إذا كان هناك تهديد باللجوء القانوني في العالم الحقيقي لأفعالك عبر الإنترنت ، فقد يكون ذلك بمثابة تهديد كافٍ لجعل المستخدمين يعيدون النظر في أفعالهم.

لكن Facebook يقول أن هذا أيضًا ليس بالضرورة الطريق إلى الأمام:

"هناك مخاطر في التحقق من الهوية ، في المقام الأول استبعاد المجموعات - لا سيما الفئات المحرومة - الذين ليس لديهم وصول سهل إلى الأشكال الرسمية لتحديد الهوية. وتقدر أحدث النمذجة من مفوضية الانتخابات أن 11 مليون شخص في المملكة المتحدة ليس لديهم رخصة قيادة أو جواز سفر ، وأن هذه المجموعة كانت على الأرجح من خلفيات محرومة ".

وهي نقطة صالحة ، وتوفر مرة أخرى مجالًا أكبر للتحدي الذي يواجهه ، وجميع المنصات عبر الإنترنت ، في هذا الصدد.

إنه تحد صعب ، لكنه مهم ، وهو تحد يأخذه Facebook على محمل الجد. من الناحية المثالية ، يمكن إيجاد حل يعالج هذه القضايا الرئيسية ، ولكن من الناحية الواقعية ، سيكون هناك دائمًا مستوى من سوء الاستخدام ، بغض النظر عن التدابير التي يتم تنفيذها.

ومرة أخرى ، على نطاق Facebook ، حتى هامش الخطأ الصغير يمكن أن يعني تأثيرًا كبيرًا.

نأمل ، مع تطور الأنظمة الآلية ، يمكن سن المزيد من الأدوات للحفاظ على بيئة آمنة للجميع.