Pelapor Facebook Menguraikan Motivasi yang Bertentangan dalam Pendekatan Perusahaan terhadap Konten Berita

Apakah Facebook buruk bagi masyarakat, dan apakah perusahaan secara sadar berkontribusi pada perpecahan dan kecemasan, untuk memaksimalkan penggunaan dan keuntungan?

Ini adalah pertanyaan kunci yang bertahan selama beberapa tahun terakhir, terutama sejak pemilihan AS 2016. Dan sekarang, kami memiliki beberapa wawasan tentang pemikiran Facebook sendiri tentang masalah ini – selama dua minggu terakhir, The Wall Street Journal telah melaporkan berbagai studi internal, dan tanggapan terhadap hal tersebut dari eksekutif Facebook, yang dibocorkan oleh mantan staf Facebook yang berusaha untuk mengekspos kelambanan perusahaan dalam mengatasi kelemahan utama dalam desainnya.

Mantan karyawan itu tadi malam diungkapkan oleh CBS sebagai Frances Haugen, seorang ahli desain algoritmik yang pernah bekerja di tim Civic Integrity Facebook sebelum dibubarkan setelah pemilihan AS 2020. Menurut informasi yang dibagikan oleh Haugen, Facebook memang secara sadar menghindari mengambil tindakan yang lebih keras untuk mengatasi aspek terburuk dari platformnya, karena dampak dari tindakan tersebut terhadap penggunaan, dan dengan demikian keuntungan.

Dan sementara Facebook telah membantah klaim Haugen, pernyataannya sejalan dengan apa yang disarankan banyak laporan sebelumnya, menggarisbawahi kekhawatiran utama seputar dampak sosial dari raksasa sosial Zuckerberg.

Pendapat utama Haugen adalah bahwa Facebook dengan sengaja mengabaikan atau mengecilkan temuan, berdasarkan penelitiannya sendiri, demi mempertahankan penggunaan dan keterlibatan pengguna.

Seperti yang dijelaskan oleh Haugen:

“Hal yang saya lihat di Facebook berulang kali adalah ada konflik kepentingan antara apa yang baik untuk publik dan apa yang baik untuk Facebook. Dan Facebook, berulang kali, memilih untuk mengoptimalkan kepentingannya sendiri, seperti menghasilkan lebih banyak uang.”

Yang, sampai taraf tertentu, masuk akal – Facebook, bagaimanapun juga, adalah sebuah bisnis, dan karena itu, didorong oleh keuntungan, dan memberikan nilai maksimum bagi para pemegang sahamnya.

Masalahnya, dalam kasus Facebook, Facebook mengoperasikan jaringan manusia terbaru yang saling terhubung dalam sejarah, mendekati 3 miliar pengguna, banyak di antaranya menggunakan aplikasi untuk tetap mendapat informasi, di berbagai bidang, dan mengumpulkan wawasan penting seputar berita. hari ini. Dengan demikian, ia memiliki kekuatan yang signifikan untuk mempengaruhi opini.

Itu berarti, seperti dicatat Haugen, bahwa keputusannya dapat berdampak besar.

“ Facebook menghasilkan lebih banyak uang ketika Anda mengonsumsi lebih banyak konten. Orang-orang senang terlibat dengan hal-hal yang menimbulkan reaksi emosional. Dan semakin banyak kemarahan yang mereka hadapi, semakin banyak mereka berinteraksi dan semakin banyak yang mereka konsumsi. ”

Memang, di antara berbagai temuan yang disorot dalam File Facebook Haugen, ribuan dokumen internal yang pada dasarnya dia selundupkan dari markas besar Facebook, adalah saran yang dimiliki Facebook:

• Mengabaikan prevalensi dan dampak ujaran kebencian di platformnya, karena fakta bahwa konten semacam itu juga mendorong lebih banyak keterlibatan di antara pengguna
• Mengecilkan dampak negatif Instagram pada pengguna muda, dengan temuan yang menunjukkan bahwa platform memperkuat citra tubuh negatif
• Gagal mengatasi masalah utama seputar penggunaan Facebook di wilayah berkembang, sebagian karena analisis biaya/manfaat
• Gagal mengatasi penyebaran konten anti-vaksin

Sekali lagi, banyak dari elemen ini telah dilaporkan secara luas di tempat lain, tetapi file Haugen memberikan bukti langsung bahwa Facebook memang menyadari setiap aspek ini, dan telah memilih, kadang-kadang, untuk tidak bertindak, atau mengambil tindakan balasan yang signifikan, sebagian besar karena bertentangan dengan kepentingan bisnisnya.

Tim PR Facebook telah bekerja keras untuk melawan klaim semacam itu, memberikan tanggapan poin demi poin untuk setiap laporan File Facebook, mencatat bahwa keberadaan laporan penelitian ini, dengan sendirinya, menunjukkan bahwa Facebook sedang bekerja untuk mengatasi masalah tersebut, dan memerangi elemen-elemen bermasalah ini.

Facebook menunjukkan berbagai perubahan yang dibuat di Instagram untuk memberikan lebih banyak opsi perlindungan dan kontrol bagi pengguna, sementara Facebook juga berupaya meningkatkan peringkat algoritme untuk membatasi paparan konten yang memecah belah dan memicu kecemasan.

Tetapi pada saat yang sama, Facebook telah mengecilkan dampak seperti itu pada skala yang lebih luas.

Sebagai wakil presiden kebijakan dan urusan global Facebook, Nick Clegg telah mencatat saran bahwa Facebook memainkan peran kunci dalam berkontribusi terhadap protes pasca pemilihan di gedung Capitol.

"Saya pikir pernyataan [bahwa] 6 Januari dapat dijelaskan karena media sosial, saya hanya berpikir itu menggelikan."

Clegg berpandangan bahwa Facebook hanyalah satu bagian kecil dari perubahan sosial yang lebih luas, dan itu tidak bisa menjadi masalah inti yang menyebabkan konflik besar seperti itu, di berbagai wilayah.

Tidak mungkin untuk mengetahui apa dampak Facebook dalam hal ini, tetapi jelas, berdasarkan file Haugen, ada beberapa kontributor utama di sana.

“ Facebook menghasilkan lebih banyak uang ketika Anda mengonsumsi lebih banyak konten. Orang-orang senang terlibat dengan hal-hal yang menimbulkan reaksi emosional. Dan semakin banyak kemarahan yang mereka hadapi, semakin mereka berinteraksi dan semakin banyak yang mereka konsumsi.”

Kemarahan adalah emosi yang memicu respons paling banyak, keterlibatan paling banyak, dan Haugen pada dasarnya berpendapat bahwa Facebook mendapat untung dari itu, dengan memfasilitasi penyebaran konten yang menginspirasi kebencian yang kemudian, sebagai produk sampingan, memperkuat perpecahan.

“ Ketika kita hidup di lingkungan informasi yang penuh dengan konten yang penuh kemarahan, kebencian, dan polarisasi, itu mengikis kepercayaan sipil kita, mengikis kepercayaan kita satu sama lain, mengikis kemampuan kita untuk ingin peduli satu sama lain, versi Facebook yang ada hari ini merobek masyarakat kita dan menyebabkan kekerasan etnis di seluruh dunia. ”

Ada dua sisi untuk ini, dan keduanya bisa sama-sama benar. Salah satunya, seperti yang dicatat Haugen, adalah bahwa Facebook memiliki motivasi yang mendasari untuk memfasilitasi penyebaran konten yang memicu kebencian, yang memicu lebih banyak keterlibatan di antara penggunanya, sementara juga memperburuk perpecahan sosial – yang, pada skala Facebook, dapat memiliki dampak yang signifikan.

Di sisi lain, seperti yang dicatat Facebook, mereka tidak melakukan penelitian seperti itu tanpa alasan. Menutup mata terhadap masalah seperti itu sama sekali dengan tidak melakukan studi ini sama sekali, dan sementara Zuck and Co. mungkin tidak mengambil tindakan sebanyak yang diinginkan semua pihak, ada bukti yang menunjukkan bahwa perusahaan sedang berupaya untuk mengatasi masalah ini. kekhawatiran, meskipun dengan cara yang lebih terukur, idealnya, juga mengurangi dampak bisnis.

Pertanyaannya adalah, haruskah 'dampak bisnis' menjadi faktor dalam keputusan konsekuensial seperti itu?

Sekali lagi, Facebook mengoperasikan jaringan orang-orang terbesar yang saling terhubung dalam sejarah, jadi kami tidak tahu apa dampak penuh dari berbagi yang dipengaruhi algoritme, karena kami tidak memiliki contoh lain untuk dirujuk, tidak ada preseden untuk Facebook dan dampaknya lebih luas.

Dalam beberapa hal, Facebook, pada skala dan pengaruhnya, harus benar-benar menjadi utilitas publik, yang kemudian akan mengubah motivasi perusahaan – seperti yang dicatat Haugen:

“ Tidak ada seorang pun di Facebook yang jahat, tetapi insentifnya tidak selaras, bukan? Seperti, Facebook menghasilkan lebih banyak uang saat Anda mengonsumsi lebih banyak konten. Orang-orang senang terlibat dengan hal-hal yang menimbulkan reaksi emosional. Dan semakin banyak kemarahan yang mereka hadapi, semakin banyak mereka berinteraksi dan semakin banyak yang mereka konsumsi. ”

Pada intinya, ini adalah masalah utama – kita sekarang memiliki situasi di mana salah satu kendaraan utama untuk distribusi dan penyebaran informasi dimotivasi bukan dengan menjaga agar orang tetap mendapatkan informasi yang andal, tetapi dengan memicu keterlibatan sebanyak mungkin. Dan cara melakukannya adalah dengan memicu respons emosional, dengan kebencian dan kemarahan menjadi salah satu motivator paling kuat untuk memikat orang agar bereaksi.

Menurut penelitian, hampir sepertiga orang dewasa AS secara teratur mengakses konten berita di Facebook - itu berarti bahwa setidaknya 86 juta orang Amerika mendapatkan wawasan langsung tentang kejadian terbaru dari platform yang memiliki motivasi yang jelas untuk menunjukkan kepada mereka hal yang paling memicu kecemasan, bermuatan emosional mengambil setiap masalah.

Penerbit berita juga mengetahui hal ini, seperti halnya politisi – pada kenyataannya, menurut File Facebook, berbagai kelompok politik telah beralih ke pendekatan yang lebih partisan dan memecah belah untuk menenangkan algoritme Facebook.

Ketika Anda mempertimbangkan skala jangkauan, dan dampak platform terhadap pesan semacam itu, jelas bahwa Facebook memang memiliki pengaruh terhadap cara kami terlibat.

Tetapi dengan motivasi yang saling bertentangan, dan kebutuhan untuk memaksimalkan keterlibatan dalam menghadapi persaingan yang meningkat, dapatkah kita benar-benar berharap Facebook mengubah pendekatannya untuk kebaikan yang lebih besar?