Zehirli ve Zararlı İçeriğin Markalar, Ekipleri ve Müşterileri Üzerindeki Etkisi

Çevrimiçi toksisite markalar için zarar verici olabilir, ön saflardaki personelinin refahını etkileyebilir ve müşterileri buna maruz kalırsa markalar için gerçek bir ticari etki yaratabilir. Peki, şirketler olumsuz etkileri hafifletmek için nasıl çalışabilir?

Burada, Bodyguard.ai'nin başkanı ve kurucu ortağı Matthieu Boutard, içerik denetiminin faydalarını ve zorluklarını özetliyor ve şirketlerin en iyi sonuçları elde etmek için nasıl harmanlanmış bir yaklaşım benimseyebileceğini araştırıyor.

Çevrimiçi Güvenlik Yasası'nın önümüzdeki aylarda İngiltere yasalarına girmesiyle, sosyal medyanın kullanıcıları üzerindeki olumsuz etkisine çok dikkat edildi.

Tasarının amacı, hükümetin İngiltere'yi çevrimiçi olmak için dünyadaki en güvenli yer haline getirme taahhüdünü yerine getirmektir. Ancak, bunu etkili bir şekilde başarmak için kritik bir denge kurması gerekecek.

Dijital, Kültür, Medya ve Spor Departmanına (DCMS) göre, çocukları güvende tutmayı, ırkçı nefreti durdurmayı ve çevrimiçi demokrasiyi korumayı amaçlarken aynı zamanda Birleşik Krallık'taki insanların kendilerini özgürce ifade etmelerini ve çoğulcu ve sağlam tartışmalara katılmalarını sağlamayı hedefliyor. .

Tasarı, kuruluşlara yasa dışı veya zararlı içeriği kaldırma konusunda yeni yükümlülükler getirecek. Ayrıca, bu yeni kurallara uymayan şirketler, hangisi daha yüksekse, 18 milyon sterline veya yıllık küresel cirosunun %10'una varan para cezalarıyla karşı karşıya kalabilir.

Bu tür önlemler sert görünebilir, ancak giderek daha gerekli hale geliyorlar. Çevrimiçi toksisite, sosyal medyadan oyun içi sohbete kadar tüm iletişim kanallarını kapsıyor.

Sorunun boyutunu araştırırken, kısa bir süre önce, Temmuz 2022'de sona eren 12 ayda işletmelere ve markalara yönelik çevrimiçi toksisiteyi inceleyen bir açılış raporu yayınladık.

Bu süreçte 1.200 marka kanalında altı dilde 170 milyondan fazla içeriği analiz ettik ve çevrimiçi topluluklar tarafından üretilen tüm içeriğin %5,24 kadarının zehirli olduğunu bulduk. Gerçekten de, %3,28'i nefret dolu (hakaret, nefret, kadın düşmanlığı, tehdit, ırkçılık vb.), %1,96'sı önemsiz (dolandırıcılık, dolandırıcılık, trollük vb.) olarak sınıflandırılabilir.

İçerik Denetiminin Üç Temel Zorluğu

Ne yazık ki, çevrimiçi nefret ve zehirli içeriğin artan yaygınlığı, müşteri forumları, sosyal medya sayfaları ve mesaj panoları gibi marka tabanlı iletişim kanallarına giderek daha fazla sızıyor.

Markalar için bunun önemli bir ticari etkisi olabilir. Gerçekten de bir araştırma, her 10 tüketiciden dördünün zararlı bir dile ilk kez maruz kaldıktan sonra bir platformdan ayrıldığını gösteriyor. Ayrıca, kötü deneyimlerini başkalarıyla paylaşarak onarılamaz bir marka hasarının domino etkisi yaratabilirler.

Bu nedenle, markaların toksik yorumları kaldırmak için sosyal medya içeriklerini denetlemeleri önemlidir. Ancak, bunu etkili bir şekilde yapmak kolay bir iş değildir ve birkaç potansiyel zorluk vardır.

İlk olarak, manuel olarak tamamlanması oldukça kaynak yoğun ve vergi gerektiren bir görev olabilir. Eğitimli bir insan moderatörün tek bir yorumu analiz etmesi ve denetlemesi için genellikle 10 saniyeye ihtiyacı vardır.

Bu nedenle, aynı anda yayınlanan yüzlerce veya binlerce yorum varsa, nefret dolu yorumların akışını gerçek zamanlı olarak yönetmek imkansız bir görev haline gelebilir. Sonuç olarak, birçok içerik moderatörü, iş hacminden dolayı zihinsel olarak tükenmiş durumda.

Ek olarak, art arda küfürlü dile, zehirli videolara ve zararlı içeriğe maruz kalmak moderatörler üzerinde psikolojik bir etkiye sahip olabilir. Gerçekten de, bu bireylerin ruh sağlığı göz ardı edilemezken, toksisiteden daha fazla tükenmişlik işletmeler için maliyetli olabilir ve potansiyel olarak çalışan devrini hızlandırabilir.

Üçüncüsü, şirketlerin sansürle suçlanmamalarını sağlamak için denetim yaparken ince bir çizgide yürümeleri gerekir. Sosyal medya gibi marka kanalları, markalarla etkileşim kuran, geri bildirim sağlayan ve markaları sorumlu tutan müşteriler için genellikle birincil kaynaktır. Eleştirel veya olumsuz yorumları sildiği izlenimini verenler de eleştiri yağmuruna tutulabilir.

Dengeli Sonuçlar İçin Harmanlanmış Bir Yaklaşım

Neyse ki yapay zeka ve makine öğrenimi destekli teknolojiler, insan moderatörlerin karşılaştığı bazı zorlukları ele almaya başlıyor. Ancak burada çözülmesi gereken başka sorunlar da var.

Halihazırda Facebook ve Instagram gibi sosyal platformlar tarafından kullanılan makine öğrenimi algoritmalarının %40'a varan hata oranına sahip olduğu gösterilmiştir. Sonuç olarak, Avrupa Komisyonu'na göre şu anda sosyal ağlardan nefret içeren içeriğin yalnızca %62,5'i kaldırılıyor ve ortalıkta insanları ve işletmeleri kolayca etkileyebilecek denetlenmemiş büyük miktarda içerik kalıyor.

Dahası, bu algoritmalar aynı zamanda hassas bir konu olan ifade özgürlüğü sorununu yönetmekte de zorlanıyor. Algoritmalar aşırı tepki vermeye eğilimli olduğundan, dilsel incelikleri tespit etme yeteneğinden yoksun olarak, sansürün yanında çok fazla meyledebilirler.

Hem insan denetlemesi hem de yapay zeka odaklı çözümlerin sınırlamaları olduğu için, harmanlanmış bir yaklaşım gereklidir. Gerçekten de, akıllı makine öğrenimini dilbilimciler, kalite kontrolörler ve programcılardan oluşan bir insan ekibiyle birleştiren markalar, nefret dolu yorumları daha hızlı ve etkili bir şekilde kaldırmak için iyi bir konuma sahip olacak.

Tabii ki, burada doğru çözümü seçmek anahtar olacaktır. İdeal olarak markalar, "renkli" bir dille etkileşim kuran arkadaşlar ile bir markaya yöneltilen düşmanca yorumlar arasındaki farkları tanıyacak kadar gelişmiş bir çözüm benimsemeye çalışmalıdır.

Bu dengeyi sağlamak hayati önem taşıyor. Etkileşimi teşvik etmek ve çevrimiçi etkileşimlerde güven oluşturmak için, markaların zehirliliğin iletişim kanallarını kirletmemesini sağlamaya çalışması ve aynı zamanda tüketicilere eleştirmek ve tartışmak için bir platform sağlaması çok önemlidir.

Neyse ki, doğru yaklaşımla ölçülü olmak etkili olabilir. Aslında mesele, ifade özgürlüğünü yasaklamak değil, interneti herkes için daha güvenli bir yer haline getirmek için zehirli içeriğin potansiyel alıcılara ulaşmasını engellemek olmalıdır.