هل يمكن للتنظيم الفعال أن يقلل من تأثير المحتوى المثير للانقسام على الشبكات الاجتماعية؟

وسط عاصفة جديدة من الجدل أثارتها The Facebook Files ، وهو عرض للعديد من المشاريع البحثية الداخلية التي تشير ، من بعض النواحي ، إلى أن Facebook لا يفعل ما يكفي لحماية المستخدمين من الأذى ، غالبًا ما يتم طرح السؤال الأساسي الذي يحتاج إلى معالجة مشوهًا بالتحيز المتأصل والاستهداف المحدد لشركة Facebook ، على عكس الوسائط الاجتماعية ، وتضخيم المحتوى الحسابي كمفهوم.

هذا هو ، ماذا نفعل لاصلاحها؟ ما الذي يمكن فعله ، بشكل واقعي ، والذي سيحدث فرقًا بالفعل ؛ ما هي التغييرات في اللوائح أو السياسات التي يمكن تنفيذها بشكل عملي للحد من تضخيم المشاركات الضارة والمسببة للانقسام التي تزيد من القلق داخل المجتمع نتيجة للتأثير المتزايد لتطبيقات وسائل التواصل الاجتماعي؟

من المهم هنا النظر إلى وسائل التواصل الاجتماعي على نطاق أوسع ، لأن كل منصة اجتماعية تستخدم خوارزميات لتحديد توزيع المحتوى والوصول إليه. يعد Facebook هو الأكبر ، وله تأثير أكبر على العناصر الرئيسية ، مثل محتوى الأخبار - وبالطبع ، فإن رؤى البحث نفسها ، في هذه الحالة ، جاءت من Facebook.

التركيز على Facebook ، على وجه التحديد ، أمر منطقي ، لكن Twitter يضخم أيضًا المحتوى الذي يثير المزيد من المشاركة ، ويصنف LinkedIn خلاصته بناءً على ما يحدد أنه سيكون أكثر جاذبية. تتوافق خوارزمية TikTok إلى حد كبير مع اهتماماتك.

المشكلة ، كما أوضحت فرانسيس هوغن ، المُبلغ عن المخالفات على Facebook ، هي التوزيع الحسابي ، وليس Facebook نفسه - فما هي الأفكار التي لدينا والتي يمكنها تحسين هذا العنصر بشكل واقعي؟

والسؤال الآخر هو ، هل ستكون المنصات الاجتماعية على استعداد لإجراء مثل هذه التغييرات ، خاصة إذا كانت تمثل خطرًا على مستويات مشاركتها ونشاط المستخدم؟

اقترح Haugen ، وهو خبير في مطابقة المحتوى الخوارزمية ، أنه يجب إجبار الشبكات الاجتماعية على التوقف عن استخدام الخوارزميات القائمة على المشاركة تمامًا ، من خلال إصلاحات لقوانين القسم 230 ، والتي تحمي حاليًا شركات وسائل التواصل الاجتماعي من المسؤولية القانونية لما يشاركه المستخدمون في تطبيقاتهم .

كما أوضح Haugen:

"إذا كان لدينا إشراف مناسب ، أو إذا قمنا بإصلاح [القسم] 230 لجعل Facebook مسؤولاً عن عواقب قرارات التصنيف المتعمدة ، أعتقد أنهم سيتخلصون من التصنيف المستند إلى المشاركة."

المفهوم هنا هو أن Facebook - وبالتالي ، جميع المنصات الاجتماعية - سيكونون مسؤولين عن الطرق التي يقومون بها بتضخيم محتوى معين. لذلك إذا انتهى الأمر بمزيد من الأشخاص إلى رؤية ، على سبيل المثال ، معلومات خاطئة عن COVID بسبب التدخل الحسابي ، يمكن تحميل Facebook المسؤولية القانونية عن أي آثار.

سيضيف ذلك خطرًا كبيرًا على أي عملية صنع قرار بشأن إنشاء مثل هذه الخوارزميات ، وكما يلاحظ هوغن ، قد يؤدي ذلك بعد ذلك إلى إجبار المنصات على التراجع عن الإجراءات التي تعزز وصول المنشورات بناءً على كيفية تفاعل المستخدمين مع هذا المحتوى .

بشكل أساسي ، من المحتمل أن يُجبر ذلك منصات التواصل الاجتماعي على العودة إلى أيام ما قبل الخوارزمية ، عندما يعرض لك Facebook والتطبيقات الأخرى ببساطة قائمة بالمحتوى من الصفحات والأشخاص الذين تتابعهم بترتيب زمني ، بناءً على وقت النشر. سيؤدي ذلك بدوره إلى تقليل الدافع لدى الأشخاص والعلامات التجارية لمشاركة المزيد من المحتوى المثير للجدل والمثير للجدل من أجل اللعب في نزوات الخوارزمية.

للفكرة بعض المزايا - كما أظهرت الدراسات المختلفة ، فإن إثارة الاستجابة العاطفية مع مشاركاتك الاجتماعية هو مفتاح تعظيم المشاركة ، وبالتالي ، الوصول استنادًا إلى تضخيم الخوارزمية ، وأكثر المشاعر فاعلية ، في هذا الصدد ، هي الفكاهة والغضب. لا تزال النكات ومقاطع الفيديو المضحكة تعمل بشكل جيد على جميع المنصات ، والتي يغذيها وصول الخوارزمية ، ولكن أيضًا تفعل اللقطات الساخنة التي تثير الغضب ، والتي تعمل معها المنافذ الإخبارية والشخصيات الحزبية ، والتي يمكن أن تكون مصدرًا رئيسيًا للانقسام ويقلقنا الآن انظر على الانترنت.

للتوضيح ، لا يمكن تحميل Facebook وحده المسؤولية عن ذلك. لطالما لعب الناشرون الحزبيون والشخصيات المثيرة للجدل دورًا في الخطاب الأوسع ، وكانوا يثيرون الانتباه والتفاعل مع آرائهم من يسار الوسط قبل وقت طويل من وصول Facebook. الفرق الآن هو أن الشبكات الاجتماعية تسهل هذا الوصول الواسع ، في حين أنها أيضًا ، من خلال الإعجابات وأشكال المشاركة الأخرى ، توفر حافزًا مباشرًا لمثل هذا ، مع حصول المستخدمين الفرديين على الدوبامين من خلال تحفيز الاستجابة ، ودفع الناشرين المزيد من زيارات الإحالة ، واكتساب مزيد من التعرض من خلال الاستفزاز.

حقًا ، تتمثل إحدى المشكلات الرئيسية عند التفكير في النتيجة السابقة في أن كل شخص لديه الآن صوت ، وعندما يكون لدى كل شخص منصة لمشاركة أفكارهم وآرائهم ، فإننا جميعًا أكثر تعرضًا لمثل هذا الأمر ، وأكثر وعياً بكثير. في الماضي ، ربما لم يكن لديك أي فكرة عن قناعات عمك السياسية ، لكنك تعلم الآن ، لأن وسائل التواصل الاجتماعي تذكرك كل يوم ، وهذا النوع من مشاركة الأقران يلعب أيضًا دورًا في الانقسام الأوسع.

ومع ذلك ، فإن حجة Haugen هي أن Facebook يحفز هذا - على سبيل المثال ، يوضح أحد التقارير التي سربها Haugen إلى صحيفة Wall Street Journal كيف قام Facebook بتحديث خوارزمية موجز الأخبار الخاص به في 2018 لزيادة التركيز على المشاركة بين المستخدمين ، وتقليل المناقشة السياسية ، والتي أصبح عنصرًا مثيرًا للانقسام بشكل متزايد في التطبيق. فعل Facebook ذلك من خلال تغيير وزنه لأنواع مختلفة من التفاعل مع المنشورات.

كانت الفكرة أن هذا من شأنه أن يحفز المزيد من المناقشة ، من خلال ترجيح الردود بشكل أكبر - ولكن كما يمكنك أن تتخيل ، من خلال إعطاء قيمة أكبر للتعليقات ، من أجل زيادة الوصول ، دفع هذا أيضًا المزيد من الناشرين والصفحات للمشاركة بشكل متزايد في الانقسام العاطفي- المشاركات المشحونة ، من أجل إثارة المزيد من ردود الفعل ، والحصول على نتائج أعلى من المشاركات نتيجة لذلك. مع هذا التحديث ، لم تعد الإعجابات هي المحرك الرئيسي للوصول ، كما كانت ، مع قيام Facebook بإبداء التعليقات وردود الفعل (بما في ذلك "Angry") ذات الأهمية المتزايدة. على هذا النحو ، أصبح إثارة النقاش حول الاتجاهات السياسية أكثر بروزًا في الواقع ، وعرّض المزيد من المستخدمين لمثل هذا المحتوى في خلاصاتهم.

الاقتراح إذن ، بناءً على هذه البيانات الداخلية ، هو أن Facebook عرف ذلك ، فقد علم أن هذا التغيير قد أدى إلى زيادة المحتوى المثير للانقسام. لكنهم اختاروا عدم التراجع ، أو تنفيذ تحديث آخر ، لأن المشاركة ، وهي مقياس رئيسي لنجاح أعمالها ، قد زادت بالفعل نتيجة لذلك.

بهذا المعنى ، فإن إزالة دافع الخوارزمية سيكون منطقيًا - أو ربما ، يمكنك البحث عن إزالة حوافز الخوارزمية لأنواع معينة من المنشورات ، مثل المناقشة السياسية ، مع الاستمرار في زيادة الوصول إلى المزيد من المشاركات الجذابة من الأصدقاء ، مما يلبي أهداف المشاركة والانقسام. مخاوف.

هذا ما أشار إليه Dave Gillis من Facebook ، والذي يعمل في فريق سلامة المنتجات بالمنصة في تغريدة ، ردًا على ما تم الكشف عنه.

حسب جيليس:

" في نهاية مقال وول ستريت جورنال حول ترتيب الخوارزميات الخوارزمية ، ذكرنا - بشكل عابر تقريبًا - أننا ابتعدنا عن الترتيب القائم على المشاركة للمحتوى المدني والصحي في آخر الأخبار. لكن تعليق - هذا نوع من الصفقة الكبيرة ، أليس كذلك؟ ربما يكون من المعقول تصنيف مقاطع الفيديو وصور الأطفال حسب الإعجابات وما إلى ذلك ، على سبيل المثال ، ولكن التعامل مع أنواع أخرى من المحتوى بعناية أكبر. وهذا ، في الواقع ، ما دعا فريقنا إلى فعله: استخدام إشارات تصنيف مختلفة للمحتوى الصحي والمدني ، وإعطاء الأولوية للجودة + الجدارة بالثقة على المشاركة. لقد عملنا بجد لفهم التأثير ، والحصول على القيادة على متن الطائرة - نعم ، مارك أيضًا - وهو تغيير مهم. "

قد يكون هذا وسيلة للمضي قدمًا ، باستخدام إشارات ترتيب مختلفة لأنواع مختلفة من المحتوى ، والتي قد تعمل على تمكين التضخيم الأمثل للمحتوى ، وتعزيز مشاركة المستخدم المفيدة ، مع تقليل الحافز لدى بعض الجهات الفاعلة لنشر المواد الخلافية من أجل تغذية الخوارزميات تصل.

هل هذا العمل؟ مرة أخرى ، من الصعب القول ، نظرًا لأن الأشخاص سيظلون قادرين على مشاركة المنشورات ، فسيظلون قادرين على التعليق وإعادة توزيع المواد عبر الإنترنت ، ولا يزال هناك العديد من الطرق التي يمكن أن يحدث بها التضخيم خارج الخوارزمية نفسها.

في الأساس ، هناك مزايا لكلا الاقتراحين ، أن المنصات الاجتماعية يمكن أن تعامل أنواعًا مختلفة من المحتوى بشكل مختلف ، أو أنه يمكن التخلص من الخوارزميات لتقليل تضخيم هذه المواد.

وكما يلاحظ Haugen ، فإن التركيز على الأنظمة نفسها أمر مهم ، لأن الحلول القائمة على المحتوى تفتح تعقيدات مختلفة عندما يتم نشر المواد بلغات ومناطق أخرى.

في حالة إثيوبيا ، هناك 100 مليون شخص وست لغات. يدعم Facebook لغتين فقط من هذه اللغات لأنظمة النزاهة. هذه الإستراتيجية المتمثلة في التركيز على أنظمة خاصة بلغة معينة ومحتوى معين لكي ينقذنا الذكاء الاصطناعي محكوم عليها بالفشل ".

ربما ، إذن ، إزالة الخوارزميات ، أو على الأقل تغيير اللوائح حول كيفية عمل الخوارزميات ، سيكون الحل الأمثل ، والذي يمكن أن يساعد في تقليل آثار المحتوى السلبي المثير للغضب عبر مجال وسائل التواصل الاجتماعي.

ولكن بعد ذلك عدنا إلى المشكلة الأصلية التي تم تصميم خوارزمية Facebook لحلها - في عام 2015 أوضح Facebook أنه يحتاج إلى خوارزمية News Feed ليس فقط لزيادة مشاركة المستخدم ، ولكن أيضًا للمساعدة في ضمان أن الأشخاص قد شاهدوا جميع تحديثات معظم أهميتها لهم.

كما أوضح ، كان لدى مستخدم Facebook العادي ، في ذلك الوقت ، حوالي 1500 مشاركة مؤهلة للظهور في موجز الأخبار الخاص بهم في أي يوم معين ، بناءً على الصفحات التي أحبها واتصالاتهم الشخصية - بينما بالنسبة لبعض المستخدمين الأكثر نشاطًا ، كان هذا الرقم أقرب إلى 15000. ببساطة ، ليس من الممكن أن يقرأ الأشخاص كل تحديث من هذه التحديثات كل يوم ، لذلك كان تركيز Facebook الأساسي مع الخوارزمية الأولية هو إنشاء نظام يكشف عن أفضل المحتويات وأكثرها صلة بكل فرد ، من أجل تزويد المستخدمين بأكبر قدر ممكن. الانخراط في التجربة ، ومن ثم جعلهم يعودون.

كما أوضح مدير المنتجات في Facebook ، كريس كوكس ، لمجلة تايم:

"إذا كان بإمكانك تقييم كل ما حدث على الأرض اليوم والذي تم نشره في أي مكان بواسطة أي من أصدقائك ، أو أي من أفراد عائلتك ، أو أي مصدر أخبار ، ثم اختر العشرة الأكثر أهمية لمعرفة اليوم ، فسيكون ذلك رائعًا حقًا خدمة لنا لنبنيها. هذا ما نطمح إليه حقًا في أن تصبح "آخر الأخبار".

لقد تطور نهج موجز الأخبار كثيرًا منذ ذلك الحين ، لكن التحدي الأساسي الذي تم تصميمه لحله لا يزال قائمًا. الأشخاص لديهم اتصالات كثيرة جدًا ، ويتبعون عددًا كبيرًا جدًا من الصفحات ، وهم أعضاء في مجموعات كثيرة جدًا بحيث يتعذر عليهم الحصول على جميع تحديثاتهم يوميًا. بدون خوارزمية الخلاصة ، سيفوتون المنشورات ذات الصلة والتحديثات ذات الصلة مثل إعلانات العائلة وأعياد الميلاد ، ولن يشاركوا ببساطة في تجربة Facebook.

بدون الخوارزمية ، سيخسر Facebook ، من خلال الفشل في تحسين رغبات الجمهور - وكما هو موضح في تقرير آخر تمت مشاركته كجزء من ملفات Facebook ، فإنه يشهد بالفعل انخفاضًا في المشاركة في بعض المجموعات السكانية الفرعية.

يمكنك أن تتخيل أنه إذا قام Facebook بإلغاء الخوارزمية ، أو تم إجباره على تغيير اتجاهه في هذا الصدد ، فإن هذا الرسم البياني سوف يزداد سوءًا بمرور الوقت.

لذلك من غير المحتمل أن تكون شركة Zuck and Co. حريصة على هذا الحل ، لذا فإن التسوية ، مثل تلك التي اقترحها Gillis ، قد تكون أفضل ما يمكن توقعه. لكن هذا يأتي مع عيوبه ومخاطره.

في كلتا الحالتين ، تجدر الإشارة إلى أن تركيز النقاش يحتاج إلى التحول إلى الخوارزميات على نطاق أوسع ، وليس فقط على Facebook وحده ، وما إذا كانت هناك بالفعل طريقة قابلة للتطبيق وعملية لتغيير الحوافز حول الأنظمة القائمة على الخوارزميات للحد من التوزيع من العناصر الأكثر انقسامًا.

لأن هذه مشكلة ، بغض النظر عن الطريقة التي يحاول بها Facebook أو أي شخص آخر تدويرها ، وهذا هو سبب أهمية موقف Haugen ، حيث قد يكون الشرارة التي تقودنا إلى نقاش جديد أكثر دقة حول هذا العنصر الأساسي.