Dampak Konten Beracun dan Berbahaya pada Merek, Timnya, dan Pelanggan

Toksisitas online dapat merusak merek, memengaruhi kesejahteraan staf garis depan mereka, dan menciptakan dampak komersial yang nyata bagi merek jika pelanggan mereka terpapar. Jadi, bagaimana perusahaan dapat bekerja untuk mengurangi efek negatif?

Di sini, Matthieu Boutard, Presiden dan salah satu pendiri Bodyguard.ai, menguraikan manfaat dan tantangan moderasi konten dan mengeksplorasi bagaimana perusahaan dapat mengambil pendekatan terpadu untuk mencapai hasil terbaik.

Dengan Undang-Undang Keamanan Daring yang ditetapkan menjadi undang-undang Inggris dalam beberapa bulan mendatang, banyak perhatian telah diberikan pada dampak negatif media sosial terhadap penggunanya.

Tujuan dari RUU ini adalah untuk memenuhi komitmen manifesto pemerintah untuk menjadikan Inggris sebagai tempat teraman di dunia untuk online. Namun, perlu mencapai keseimbangan kritis untuk mencapai ini secara efektif.

Menurut Departemen Digital, Budaya, Media, dan Olahraga (DCMS), ini bertujuan untuk menjaga keamanan anak-anak, menghentikan kebencian rasial, dan melindungi demokrasi online, sekaligus memastikan bahwa orang-orang di Inggris Raya dapat mengekspresikan diri mereka dengan bebas dan berpartisipasi dalam debat yang pluralistik dan kuat. .

RUU tersebut akan menempatkan kewajiban baru pada organisasi untuk menghapus konten ilegal atau berbahaya. Selanjutnya, perusahaan yang gagal mematuhi peraturan baru ini dapat menghadapi denda hingga £18 juta atau 10% dari omset global tahunan mereka – mana yang tertinggi.

Langkah-langkah seperti itu mungkin tampak drastis, tetapi semakin diperlukan. Toksisitas online marak, mencakup semua saluran komunikasi, dari media sosial hingga obrolan dalam game.

Dalam mengeksplorasi sejauh mana masalahnya, kami baru-baru ini menerbitkan whitepaper perdana yang memeriksa toksisitas online yang ditujukan untuk bisnis dan merek dalam 12 bulan yang berakhir pada Juli 2022.

Selama proses ini, kami menganalisis lebih dari 170 juta keping konten di 1.200 saluran merek dalam enam bahasa, menemukan bahwa sebanyak 5,24% dari semua konten yang dihasilkan oleh komunitas online bersifat beracun. Memang, 3,28% dapat digolongkan sebagai kebencian (penghinaan, kebencian, misogini, ancaman, rasisme, dll), sedangkan 1,96% dapat digolongkan sebagai sampah (penipuan, penipuan, trolling, dll).

Tiga Tantangan Utama Moderasi Konten

Sayangnya, meningkatnya prevalensi konten kebencian dan beracun online semakin merembes ke saluran komunikasi berbasis merek seperti forum pelanggan, halaman media sosial, dan papan pesan.

Untuk merek, ini dapat memiliki dampak komersial yang signifikan. Memang, satu studi menunjukkan bahwa sebanyak empat dari 10 konsumen akan meninggalkan platform setelah pertama kali terpapar bahasa berbahaya. Selanjutnya, mereka mungkin berbagi pengalaman buruk mereka dengan orang lain, menciptakan efek domino dari kerusakan merek yang tidak dapat diperbaiki.

Oleh karena itu, penting bagi merek untuk memoderasi konten media sosial mereka untuk menghapus komentar beracun. Namun, melakukan ini secara efektif bukanlah tugas yang mudah, dan ada beberapa potensi tantangan.

Pertama, ini bisa menjadi tugas yang sangat intensif sumber daya dan melelahkan untuk diselesaikan secara manual. Seorang moderator manusia terlatih biasanya membutuhkan 10 detik untuk menganalisis dan memoderasi satu komentar.

Oleh karena itu, jika ada ratusan atau ribuan komentar yang diposting pada saat yang sama, menjadi tugas yang mustahil untuk mengelola arus komentar kebencian secara real time. Akibatnya, banyak moderator konten yang kelelahan mental karena banyaknya pekerjaan.

Selain itu, berulang kali terpapar bahasa kasar, video beracun, dan konten berbahaya dapat memiliki efek psikologis pada moderator. Memang, kesehatan mental individu-individu ini tidak dapat diabaikan, sementara kelelahan lebih lanjut akibat toksisitas dapat merugikan bisnis, berpotensi mempercepat perputaran karyawan.

Ketiga, perusahaan perlu berhati-hati saat memoderasi untuk memastikan mereka tidak dituduh melakukan penyensoran. Saluran merek seperti media sosial seringkali menjadi sumber utama bagi pelanggan untuk terlibat dengan merek, memberikan umpan balik mereka, dan meminta pertanggungjawaban merek. Mereka yang memberi kesan bahwa mereka hanya menghapus komentar kritis atau negatif juga dapat mendapat kecaman.

Pendekatan Campuran untuk Hasil yang Seimbang

Untungnya, AI dan teknologi bertenaga pembelajaran mesin mulai mengatasi beberapa tantangan yang dihadapi moderator manusia. Namun, ada masalah lebih lanjut yang perlu disetrika di sini.

Algoritme pembelajaran mesin yang saat ini digunakan oleh platform sosial seperti Facebook dan Instagram telah terbukti memiliki tingkat kesalahan yang dapat mencapai 40%. Akibatnya, hanya 62,5% konten penuh kebencian yang saat ini dihapus dari jejaring sosial menurut Komisi Eropa, menyisakan sejumlah besar konten yang tidak dimoderasi di luar sana yang dapat dengan mudah memengaruhi orang dan bisnis.

Terlebih lagi, algoritme ini juga berjuang untuk mengelola masalah sensitif kebebasan berekspresi. Karena kurangnya kemampuan untuk mendeteksi seluk-beluk linguistik, mereka dapat bersandar terlalu jauh pada sisi penyensoran karena algoritme cenderung bereaksi berlebihan.

Dengan moderasi manusia dan solusi berbasis AI yang memiliki keterbatasan, diperlukan pendekatan campuran. Memang, dengan menggabungkan pembelajaran mesin yang cerdas dengan tim manusia yang terdiri dari ahli bahasa, pengontrol kualitas, dan pemrogram, merek akan ditempatkan dengan baik untuk menghapus komentar kebencian dengan lebih cepat dan efektif.

Tentu saja, memilih solusi yang tepat di sini akan menjadi kuncinya. Idealnya, merek harus berupaya mengadopsi solusi yang cukup canggih untuk mengenali perbedaan antara teman yang berinteraksi dengan bahasa yang "penuh warna", dan komentar permusuhan yang ditujukan kepada merek.

Mencapai keseimbangan ini sangat penting. Untuk mendorong keterlibatan dan membangun kepercayaan dalam interaksi online, merek harus bekerja untuk memastikan bahwa toksisitas tidak mencemari saluran komunikasi sambil juga menyediakan platform bagi konsumen untuk mengkritik dan berdebat.

Syukurlah, dengan pendekatan yang tepat, moderasi bisa efektif. Memang, ini bukan tentang melarang kebebasan berekspresi tetapi mencegah konten beracun menjangkau calon penerima untuk menjadikan internet tempat yang lebih aman bagi semua orang.