Bisakah Regulasi yang Efektif Mengurangi Dampak Konten yang Memecah belah di Jejaring Sosial?

Di tengah badai kontroversi baru yang dipicu oleh The Facebook Files, pengungkapan berbagai proyek penelitian internal yang, dalam beberapa hal, menunjukkan bahwa Facebook tidak berbuat cukup untuk melindungi pengguna dari bahaya, pertanyaan inti yang perlu ditangani sering kali adalah terdistorsi oleh bias yang melekat dan penargetan spesifik Facebook, perusahaan, sebagai lawan dari media sosial, dan amplifikasi konten algoritmik sebagai sebuah konsep.

Artinya, apa yang kita lakukan untuk memperbaikinya? Apa yang bisa dilakukan, secara realistis, yang benar-benar akan membuat perbedaan; perubahan peraturan atau kebijakan apa yang dapat diterapkan untuk mengurangi amplifikasi postingan berbahaya dan memecah belah yang memicu lebih banyak kecemasan di masyarakat sebagai akibat dari meningkatnya pengaruh aplikasi media sosial?

Penting untuk mempertimbangkan media sosial secara lebih luas di sini, karena setiap platform sosial menggunakan algoritme untuk menentukan distribusi dan jangkauan konten. Facebook sejauh ini adalah yang terbesar, dan memiliki pengaruh lebih besar pada elemen kunci, seperti konten berita – dan tentu saja, wawasan penelitian itu sendiri, dalam hal ini, berasal dari Facebook.

Fokus pada Facebook, khususnya, masuk akal, tetapi Twitter juga memperkuat konten yang memicu lebih banyak keterlibatan, LinkedIn mengurutkan umpannya berdasarkan apa yang dianggap paling menarik. Algoritme TikTok sangat sesuai dengan minat Anda.

Masalahnya, seperti yang disoroti oleh whistleblower Facebook Frances Haugen adalah distribusi algoritmik, bukan Facebook itu sendiri – jadi ide apa yang kita miliki yang secara realistis dapat meningkatkan elemen itu?

Dan pertanyaan selanjutnya adalah, akankah platform sosial bersedia melakukan perubahan seperti itu, terutama jika mereka menghadirkan risiko pada tingkat keterlibatan dan aktivitas pengguna mereka?

Haugen, yang ahli dalam pencocokan konten algoritmik, telah mengusulkan bahwa jejaring sosial harus dipaksa untuk berhenti menggunakan algoritme berbasis keterlibatan sama sekali, melalui reformasi undang-undang Bagian 230, yang saat ini melindungi perusahaan media sosial dari tanggung jawab hukum atas apa yang dibagikan pengguna di aplikasi mereka. .

Seperti yang dijelaskan oleh Haugen:

“Jika kami memiliki pengawasan yang tepat, atau jika kami mereformasi [Bagian] 230 untuk membuat Facebook bertanggung jawab atas konsekuensi dari keputusan peringkat yang disengaja, saya pikir mereka akan menyingkirkan peringkat berbasis keterlibatan.”

Konsepnya di sini adalah bahwa Facebook – dan selanjutnya, semua platform sosial – akan bertanggung jawab atas cara mereka memperkuat konten tertentu. Jadi, jika lebih banyak orang akhirnya melihat, katakanlah, misinformasi COVID karena intervensi algoritmik, Facebook dapat dimintai pertanggungjawaban hukum atas segala dampaknya.

Itu akan menambah risiko signifikan pada pengambilan keputusan apa pun seputar konstruksi algoritme semacam itu, dan seperti yang dicatat Haugen, yang kemudian dapat membuat platform dipaksa untuk mengambil langkah mundur dari langkah-langkah yang meningkatkan jangkauan posting berdasarkan bagaimana pengguna berinteraksi dengan konten tersebut. .

Pada dasarnya, itu kemungkinan akan melihat platform sosial dipaksa untuk kembali ke masa pra-algoritma, ketika Facebook dan aplikasi lain hanya akan menunjukkan kepada Anda daftar konten dari halaman dan orang yang Anda ikuti dalam urutan kronologis, berdasarkan waktu posting. Hal itu, pada gilirannya, kemudian akan mengurangi motivasi orang dan merek untuk membagikan konten yang lebih kontroversial dan memancing keterlibatan untuk memainkan peran algoritme.

Idenya memiliki beberapa manfaat – seperti yang ditunjukkan oleh berbagai penelitian, memicu respons emosional dengan posting sosial Anda adalah kunci untuk memaksimalkan keterlibatan, dan dengan demikian, jangkauan berdasarkan amplifikasi algoritme, dan emosi yang paling efektif, dalam hal ini, adalah humor dan kemarahan. Lelucon dan video lucu masih berjalan dengan baik di semua platform, didorong oleh jangkauan algoritme, tetapi begitu juga pengambilan panas yang memicu kemarahan, yang dijalankan oleh outlet berita dan tokoh partisan, yang bisa menjadi sumber utama divisi dan kecemasan kita sekarang. lihat online.

Untuk lebih jelasnya, Facebook tidak dapat bertanggung jawab sepenuhnya atas hal tersebut. Penerbit partisan dan tokoh kontroversial telah lama memainkan peran dalam wacana yang lebih luas, dan mereka memicu perhatian dan keterlibatan dengan opini kiri-tengah mereka jauh sebelum Facebook hadir. Perbedaannya sekarang adalah bahwa jejaring sosial memfasilitasi jangkauan yang begitu luas, sementara mereka juga, melalui Suka dan bentuk keterlibatan lainnya, memberikan insentif langsung untuk hal tersebut, dengan pengguna individu mendapatkan pukulan dopamin dengan memicu respons, dan penerbit mendorong lebih banyak lalu lintas rujukan, dan memperoleh lebih banyak eksposur melalui provokasi.

Sungguh, masalah utama ketika mempertimbangkan hasil sebelumnya adalah bahwa setiap orang sekarang memiliki suara, dan ketika setiap orang memiliki platform untuk berbagi pemikiran dan pendapat mereka, kita semua jauh lebih terbuka akan hal itu, dan jauh lebih sadar. Di masa lalu, Anda mungkin tidak tahu tentang bujukan politik paman Anda, tetapi sekarang Anda tahu, karena media sosial mengingatkan Anda setiap hari, dan jenis berbagi teman seperti itu juga berperan dalam pembagian yang lebih luas.

Argumen Haugen, bagaimanapun, adalah bahwa Facebook memberi insentif untuk ini – misalnya, salah satu laporan yang dibocorkan Haugen ke Wall Street Journal menguraikan bagaimana Facebook memperbarui algoritme Umpan Beritanya pada tahun 2018 untuk lebih menekankan pada keterlibatan antara pengguna, dan mengurangi diskusi politik, yang telah menjadi elemen yang semakin memecah belah dalam aplikasi. Facebook melakukan ini dengan mengubah bobotnya untuk berbagai jenis keterlibatan dengan posting.

Idenya adalah bahwa ini akan mendorong lebih banyak diskusi, dengan lebih menimbang balasan - tetapi seperti yang dapat Anda bayangkan, dengan memberi nilai lebih pada komentar, untuk mendorong lebih banyak jangkauan, yang juga mendorong lebih banyak penerbit dan Halaman untuk berbagi yang semakin memecah belah, secara emosional- posting yang dibebankan, untuk memicu lebih banyak reaksi, dan sebagai hasilnya mendapatkan skor berbagi yang lebih tinggi. Dengan pembaruan ini, Suka tidak lagi menjadi pendorong utama jangkauan, seperti sebelumnya, dengan Facebook membuat komentar dan Reaksi (termasuk 'Marah') semakin penting. Dengan demikian, memicu diskusi seputar tren politik menjadi lebih menonjol, dan mengekspos lebih banyak pengguna ke konten semacam itu di feed mereka.

Saran kemudian, berdasarkan data internal ini, adalah bahwa Facebook mengetahui hal ini, mengetahui bahwa perubahan ini telah meningkatkan konten yang memecah belah. Tetapi mereka memilih untuk tidak kembali, atau menerapkan pembaruan lain, karena keterlibatan, ukuran kunci keberhasilan bisnisnya, memang meningkat sebagai hasilnya.

Dalam hal ini, menghapus motivasi algoritme akan masuk akal – atau mungkin, Anda dapat menghapus insentif algoritme untuk jenis pos tertentu, seperti diskusi politik, sambil tetap memaksimalkan jangkauan pos yang lebih menarik dari teman, memenuhi tujuan keterlibatan dan memecah belah. kekhawatiran.

Itulah yang ditunjukkan oleh Dave Gillis dari Facebook, yang bekerja di tim keamanan produk platform dalam utas tweet, sebagai tanggapan atas pengungkapan tersebut.

Menurut Gillis:

“ Di akhir bagian WSJ tentang peringkat umpan algoritmik, disebutkan - hampir secara sepintas - bahwa kami beralih dari peringkat berbasis keterlibatan untuk konten sipil dan kesehatan di Kabar Beranda. Tapi tunggu - itu masalah besar, bukan? Mungkin masuk akal untuk memberi peringkat, katakanlah, video kucing dan foto bayi berdasarkan suka, dll., tetapi tangani jenis konten lain dengan lebih hati-hati. Dan itulah, faktanya, apa yang disarankan tim kami untuk dilakukan: menggunakan sinyal peringkat yang berbeda untuk konten kesehatan dan sipil, memprioritaskan kualitas + kepercayaan daripada keterlibatan. Kami bekerja keras untuk memahami dampaknya, mendapatkan kepemimpinan - ya, Mark juga - dan ini adalah perubahan penting. ”

Ini bisa menjadi jalan ke depan, menggunakan sinyal peringkat yang berbeda untuk berbagai jenis konten, yang mungkin berfungsi untuk memungkinkan amplifikasi konten yang optimal, meningkatkan keterlibatan pengguna yang bermanfaat, sementara juga mengurangi motivasi bagi aktor tertentu untuk memposting materi yang memecah belah untuk dimasukkan ke dalam algoritme. mencapai.

Apakah itu akan berhasil? Sekali lagi, sulit untuk mengatakan, karena orang masih dapat berbagi posting, mereka masih dapat berkomentar dan mendistribusikan kembali materi secara online, masih banyak cara amplifikasi dapat terjadi di luar algoritme itu sendiri.

Intinya, ada manfaat dari kedua saran tersebut, bahwa platform sosial dapat memperlakukan berbagai jenis konten secara berbeda, atau bahwa algoritme dapat dihilangkan untuk mengurangi amplifikasi materi tersebut.

Dan seperti yang dicatat Haugen, fokus pada sistem itu sendiri adalah penting, karena solusi berbasis konten membuka berbagai kerumitan ketika materi diposting dalam bahasa dan wilayah lain.

“Dalam kasus Ethiopia, ada 100 juta orang dan enam bahasa. Facebook hanya mendukung dua bahasa tersebut untuk sistem integritas. Strategi berfokus pada bahasa khusus, sistem khusus konten untuk AI untuk menyelamatkan kita pasti akan gagal. ”

Mungkin, kemudian, menghapus algoritme, atau setidaknya mengubah peraturan seputar cara kerja algoritme, akan menjadi solusi optimal, yang dapat membantu mengurangi dampak konten negatif yang memicu kemarahan di seluruh lingkungan media sosial.

Tetapi kemudian kita kembali ke masalah awal yang dirancang untuk dipecahkan oleh algoritma Facebook – pada tahun 2015 Facebook menjelaskan bahwa dibutuhkan algoritma News Feed tidak hanya untuk memaksimalkan keterlibatan pengguna, tetapi juga untuk membantu memastikan bahwa orang melihat semua pembaruan dari sebagian besar relevansi bagi mereka.

Seperti yang dijelaskan, rata-rata pengguna Facebook, pada saat itu, memiliki sekitar 1.500 postingan yang memenuhi syarat untuk muncul di Kabar Beranda mereka pada hari tertentu, berdasarkan Halaman yang mereka sukai dan koneksi pribadi mereka - sementara untuk beberapa pengguna yang lebih aktif , jumlah itu lebih seperti 15.000. Tidak mungkin bagi orang untuk membaca setiap pembaruan ini setiap hari, jadi fokus utama Facebook dengan algoritme awal adalah menciptakan sistem yang mengungkap konten terbaik dan paling relevan untuk setiap individu, untuk menyediakan pengguna dengan yang paling pengalaman yang menarik, dan selanjutnya membuat mereka datang kembali.

Seperti yang dijelaskan oleh chief product officer Facebook Chris Cox kepada Time Magazine:

"Jika Anda dapat menilai semua yang terjadi di Bumi hari ini yang diterbitkan di mana saja oleh teman Anda, keluarga Anda, sumber berita mana pun, dan kemudian memilih 10 yang paling bermakna untuk diketahui hari ini, itu akan menjadi hal yang sangat keren. layanan untuk kami bangun. Itulah yang kami cita-citakan agar News Feed menjadi."

Pendekatan Umpan Berita telah banyak berkembang sejak saat itu, tetapi tantangan mendasar yang dirancang untuk dipecahkan tetap ada. Orang-orang memiliki terlalu banyak koneksi, mereka mengikuti terlalu banyak Halaman, mereka menjadi anggota dari terlalu banyak grup untuk mendapatkan semua pembaruan mereka, setiap hari. Tanpa algoritme umpan, mereka akan kehilangan posting yang relevan, pembaruan yang relevan seperti pengumuman keluarga dan ulang tahun, dan mereka tidak akan terlibat dalam pengalaman Facebook.

Tanpa algoritme, Facebook akan kalah, dengan gagal mengoptimalkan keinginan audiens – dan seperti yang disorot dalam laporan lain yang dibagikan sebagai bagian dari File Facebook, sebenarnya sudah terlihat penurunan keterlibatan di beberapa subset demografis.

Anda dapat membayangkan bahwa jika Facebook menghilangkan algoritme, atau dipaksa untuk mengubah arahnya, grafik ini hanya akan menjadi lebih buruk dari waktu ke waktu.

Oleh karena itu, Zuck and Co. sepertinya tidak tertarik pada solusi itu, jadi kompromi, seperti yang diusulkan oleh Gillis, mungkin yang terbaik yang bisa diharapkan. Tapi itu datang dengan kekurangan dan risikonya sendiri.

Either way, perlu dicatat bahwa fokus perdebatan perlu beralih ke algoritme lebih luas, tidak hanya di Facebook saja, dan apakah sebenarnya ada cara yang layak dan dapat diterapkan untuk mengubah insentif di sekitar sistem berbasis algoritme untuk membatasi distribusi elemen yang lebih memecah belah.

Karena itu adalah masalah, tidak peduli bagaimana Facebook atau orang lain mencoba memutarnya, itulah mengapa sikap Haugen penting, karena mungkin itu adalah percikan yang membawa kita ke perdebatan baru yang lebih bernuansa seputar elemen kunci ini.