Menemukan Jawaban untuk Masalah yang Diidentifikasi dalam Kebocoran Facebook Terbaru Akan Menjadi Proses yang Kompleks

Jadi, apa yang telah kita pelajari dari pengungkapan terbaru dokumen dan penelitian internal Facebook?

Yah, tidak banyak, sungguh. Mantan insinyur Facebook Frances Haugen merilis serangkaian laporan internal awal dari The Social Network bulan lalu, yang menguraikan berbagai kekhawatiran, termasuk perjuangannya dalam menangani konten anti-vaksin, dampak berbahaya dari perubahan algoritme, dan efek kesehatan mental negatif dari Instagram. pada remaja.

Haugen merilis kelompok laporan lain minggu ini, melalui upaya terkoordinasi dengan berbagai publikasi besar, yang memperluas klaim awal ini, dan menambahkan lebih banyak detail pada berbagai aspek. Dan semuanya menarik, tidak diragukan lagi, semuanya menyoroti apa yang diketahui Facebook tentang sistemnya dan bagaimana mereka dapat menabur perpecahan dan kecemasan, dan dampak sosialnya yang lebih luas. Tapi wahyu, juga, sebagian besar menggarisbawahi apa yang sudah kita ketahui atau duga. Bahwa kurangnya dukungan bahasa lokal Facebook telah menyebabkan peningkatan bahaya di beberapa wilayah, bahwa jaringannya digunakan untuk kegiatan kriminal, termasuk perdagangan manusia, dan bahwa Facebook mungkin telah memprioritaskan pertumbuhan daripada keamanan dalam beberapa pengambilan keputusan.

Semua ini sebagian besar diketahui, tetapi fakta bahwa Facebook juga tahu, dan bahwa penelitiannya sendiri mengkonfirmasi hal itu, adalah signifikan, dan akan mengarah pada serangkaian tindakan baru yang diambil terhadap The Social Network, dalam berbagai bentuk.

Tetapi ada beberapa catatan berharga lain yang tidak kami sadari yang tersembunyi di antara ribuan halaman wawasan penelitian internal.

Salah satu elemen kunci, yang disorot oleh jurnalis Alex Kantrowitz, berkaitan dengan algoritme Umpan Berita yang kontroversial secara khusus, dan bagaimana Facebook bekerja untuk menyeimbangkan kekhawatiran dengan amplifikasi konten melalui berbagai eksperimen.

Solusi utama yang didorong oleh Haugen dalam pidato awalnya di depan kongres tentang kebocoran File Facebook adalah bahwa jejaring sosial harus dipaksa untuk berhenti menggunakan algoritma berbasis keterlibatan sama sekali, melalui reformasi undang-undang Bagian 230, yang, dalam pandangan Haugen, akan mengubah insentif. untuk keterlibatan platform sosial, dan mengurangi bahaya yang disebabkan oleh sistem mereka.

Seperti yang dijelaskan oleh Haugen :

“Jika kami memiliki pengawasan yang tepat, atau jika kami mereformasi [Bagian] 230 untuk membuat Facebook bertanggung jawab atas konsekuensi dari keputusan peringkat yang disengaja, saya pikir mereka akan menyingkirkan peringkat berbasis keterlibatan.”

Tapi apakah itu akan berhasil?

Seperti dilansir Kantrowitz, Facebook sebenarnya melakukan eksperimen untuk mengetahui:

“Pada Februari 2018, seorang peneliti Facebook mematikan algoritme peringkat Umpan Berita untuk 0,05% pengguna Facebook. “Apa yang terjadi jika kita menghapus News Feed berperingkat?” mereka bertanya dalam laporan internal yang menyimpulkan eksperimen tersebut. Temuan mereka: Tanpa algoritme Umpan Berita, keterlibatan di Facebook turun secara signifikan, orang menyembunyikan 50% lebih banyak posting, konten dari Grup Facebook naik ke atas, dan - yang mengejutkan - Facebook menghasilkan lebih banyak uang dari pengguna yang menelusuri Umpan Berita.”

Eksperimen menunjukkan bahwa tanpa algoritme untuk menentukan peringkat konten berdasarkan berbagai faktor yang berbeda, pengguna menghabiskan lebih banyak waktu menggulir untuk menemukan posting yang relevan, mengekspos mereka ke lebih banyak iklan, sementara mereka akhirnya menyembunyikan lebih banyak konten - yang, ketika Anda sedang melihat umpan kronologis, tidak memiliki manfaat berkelanjutan untuk mengurangi kemungkinan Anda melihat lebih banyak hal yang sama di masa mendatang. Konten grup meningkat karena pengguna lebih terlibat dalam grup (yaitu setiap kali seseorang memposting pembaruan di grup tempat Anda menjadi anggota, Anda dapat melihat hal itu di umpan Anda), sementara komentar dan suka teman Anda lebih banyak memimpin ke kiriman Halaman yang muncul di umpan pengguna.

Jadi secara keseluruhan negatif, dan bukan solusi yang disebut-sebut oleh beberapa orang. Tentu saja, sebagian dari ini juga didasarkan pada perilaku kebiasaan, dalam hal itu, pada akhirnya, pengguna kemungkinan akan berhenti mengikuti Halaman tertentu dan orang-orang yang banyak memposting, mereka akan meninggalkan grup tertentu yang tidak begitu mereka minati, dan mereka' d pelajari cara baru untuk mengontrol umpan mereka. Tapi itu banyak upaya manual di pihak pengguna Facebook, dan keterlibatan Facebook akan menderita karenanya.

Anda dapat melihat mengapa Facebook ragu-ragu untuk mengambil opsi ini, sementara bukti di sini tidak selalu menunjukkan bahwa feed tersebut kurang memecah belah sebagai hasilnya. Dan ini sebelum Anda memperhitungkan bahwa scammers dan Pages akan belajar cara memainkan sistem ini juga.

Ini adalah wawasan yang menarik tentang elemen kunci dari perdebatan yang lebih luas seputar dampak Facebook, dengan algoritme yang sering diidentifikasi sebagai hal yang memiliki dampak paling negatif, dengan berfokus pada konten yang memicu keterlibatan (yaitu argumen) untuk membuat orang tetap pada platform Untuk lebih lama.

Benarkah? Maksud saya, jelas ada kasus yang harus dibuat bahwa sistem Facebook memang mengoptimalkan konten yang mungkin membuat pengguna memposting, dan cara terbaik untuk memicu respons adalah melalui reaksi emosional, dengan kemarahan dan kegembiraan menjadi motivator terkuat. Tampaknya algoritme Facebook, entah sengaja atau tidak, memperkuat postingan argumentatif, yang dapat meningkatkan perpecahan. Tapi alternatifnya mungkin tidak jauh lebih baik.

Jadi apa cara terbaik ke depan?

Itulah elemen kunci yang perlu kita fokuskan sekarang. Sementara wawasan internal ini menyoroti lebih banyak tentang apa yang diketahui Facebook, dan dampaknya yang lebih luas, penting juga untuk mempertimbangkan apa langkah selanjutnya, dan bagaimana kami dapat menerapkan perlindungan dan proses yang lebih baik untuk meningkatkan keterlibatan media sosial.

Yang coba dilakukan Facebook – seperti yang dicatat oleh CEO Facebook Mark Zuckerberg sebagai tanggapan atas kebocoran File Facebook awal.

“ Jika kita ingin mengabaikan penelitian, mengapa kita membuat program penelitian terkemuka di industri untuk memahami isu-isu penting ini sejak awal? Jika kami tidak peduli untuk memerangi konten berbahaya, lalu mengapa kami mempekerjakan lebih banyak orang yang berdedikasi untuk ini daripada perusahaan lain di ruang kami - bahkan yang lebih besar dari kami? ”

Facebook jelas sedang melihat ke dalam elemen-elemen ini. Kekhawatiran kemudian turun ke di mana motivasinya benar-benar terletak, tetapi juga, sesuai eksperimen ini, apa yang dapat dilakukan untuk memperbaikinya. Karena menghapus Facebook sepenuhnya tidak akan terjadi – jadi apa cara yang dapat kita lakukan untuk menggunakan wawasan ini untuk membangun forum publik yang lebih aman, lebih terbuka, dan tidak memecah belah?

Itu pertanyaan yang jauh lebih sulit untuk dijawab, dan kekhawatiran yang lebih mendalam daripada banyak laporan hiperbolik di sekitar Facebook sebagai orang jahat.