ผลกระทบของเนื้อหาที่เป็นพิษต่อแบรนด์ ทีมงาน และลูกค้า

ความเป็นพิษทางออนไลน์อาจสร้างความเสียหายให้กับแบรนด์ ส่งผลกระทบต่อความเป็นอยู่ที่ดีของพนักงานแนวหน้า และสร้างผลกระทบเชิงพาณิชย์อย่างแท้จริงสำหรับแบรนด์หากลูกค้าของพวกเขาได้สัมผัสกับสิ่งนี้ แล้วบริษัทต่างๆ จะทำงานเพื่อบรรเทาผลกระทบด้านลบได้อย่างไร?

ที่นี่ Matthieu Boutard ประธานและผู้ร่วมก่อตั้ง Bodyguard.ai ได้สรุปประโยชน์และความท้าทายของการกลั่นกรองเนื้อหา และสำรวจว่าบริษัทต่างๆ สามารถใช้วิธีการแบบผสมผสานเพื่อให้ได้ผลลัพธ์ที่ดีที่สุดได้อย่างไร

ด้วยร่างกฎหมายความปลอดภัยออนไลน์ที่จะมีผลบังคับใช้ในกฎหมายของสหราชอาณาจักรในอีกไม่กี่เดือนข้างหน้า จึงให้ความสนใจอย่างมากกับผลกระทบด้านลบของโซเชียลมีเดียที่มีต่อผู้ใช้

เป้าหมายของร่างกฎหมายคือเพื่อให้เป็นไปตามคำมั่นสัญญาของรัฐบาลในการทำให้สหราชอาณาจักรเป็นสถานที่ที่ปลอดภัยที่สุดในโลกในการออนไลน์ อย่างไรก็ตาม จะต้องมีความสมดุลที่สำคัญเพื่อให้บรรลุเป้าหมายนี้อย่างมีประสิทธิภาพ

ตามรายงานของ Department for Digital, Culture, Media and Sport (DCMS) มีจุดมุ่งหมายเพื่อให้เด็กปลอดภัย หยุดความเกลียดชังทางเชื้อชาติ และปกป้องประชาธิปไตยทางออนไลน์ ในขณะเดียวกันก็รับประกันว่าผู้คนในสหราชอาณาจักรสามารถแสดงออกได้อย่างอิสระและมีส่วนร่วมในการโต้วาทีที่หนักแน่นและหลากหลาย .

การเรียกเก็บเงินจะกำหนดข้อผูกพันใหม่กับองค์กรในการลบเนื้อหาที่ผิดกฎหมายหรือเป็นอันตราย นอกจากนี้ บริษัทที่ไม่ปฏิบัติตามกฎใหม่เหล่านี้อาจถูกปรับสูงถึง 18 ล้านปอนด์ หรือ 10% ของมูลค่าการซื้อขายทั่วโลกต่อปี แล้วแต่จำนวนใดจะสูงสุด

มาตรการดังกล่าวอาจดูรุนแรง แต่มีความจำเป็นมากขึ้นเรื่อยๆ ความเป็นพิษทางออนไลน์มีมากมายครอบคลุมทุกช่องทางการสื่อสาร ตั้งแต่โซเชียลมีเดียไปจนถึงการแชทในเกม

ในการสำรวจขอบเขตของปัญหา เราเพิ่งเผยแพร่สมุดปกขาวฉบับแรกที่ตรวจสอบความเป็นพิษทางออนไลน์ที่มุ่งเป้าไปที่ธุรกิจและแบรนด์ต่างๆ ในช่วง 12 เดือนซึ่งสิ้นสุดในเดือนกรกฎาคม 2022

ในระหว่างกระบวนการนี้ เราได้วิเคราะห์เนื้อหามากกว่า 170 ล้านชิ้นในช่องแบรนด์ 1,200 ช่องในหกภาษา โดยพบว่ามากถึง 5.24% ของเนื้อหาทั้งหมดที่สร้างโดยชุมชนออนไลน์เป็นพิษ แท้จริงแล้ว 3.28% อาจถูกจัดประเภทว่าแสดงความเกลียดชัง (การดูหมิ่น ความเกลียดชัง การเกลียดผู้หญิง การคุกคาม การเหยียดเชื้อชาติ ฯลฯ) ในขณะที่ 1.96% อาจถูกจัดประเภทว่าเป็นขยะ (การหลอกลวง การฉ้อฉล การหลอกล่อ ฯลฯ)

ความท้าทายหลักสามประการของการกลั่นกรองเนื้อหา

โชคไม่ดีที่ความเกลียดชังทางออนไลน์และเนื้อหาที่เป็นพิษมีมากขึ้นเรื่อย ๆ กำลังแทรกซึมเข้าไปในช่องทางการสื่อสารของแบรนด์ เช่น ฟอรัมลูกค้า หน้าโซเชียลมีเดีย และกระดานข้อความ

สำหรับแบรนด์ สิ่งนี้สามารถมีผลกระทบทางการค้าที่สำคัญ แท้จริงแล้ว งานวิจัยชิ้นหนึ่งชี้ให้เห็นว่าผู้บริโภคมากถึง 4 ใน 10 คนจะออกจากแพลตฟอร์มหลังจากสัมผัสกับภาษาที่เป็นอันตรายเป็นครั้งแรก นอกจากนี้ พวกเขาอาจแบ่งปันประสบการณ์ที่ไม่ดีกับผู้อื่น สร้างผลกระทบแบบโดมิโนของความเสียหายต่อแบรนด์ที่แก้ไขไม่ได้

ดังนั้นจึงเป็นเรื่องสำคัญที่แบรนด์จะต้องตรวจสอบเนื้อหาโซเชียลมีเดียของตนเพื่อลบความคิดเห็นที่เป็นพิษ อย่างไรก็ตาม การทำเช่นนี้อย่างมีประสิทธิภาพไม่ใช่เรื่องง่าย และมีความท้าทายหลายประการ

ประการแรก การทำงานให้เสร็จด้วยตนเองอาจเป็นงานที่ต้องใช้ทรัพยากรมากและต้องเสียภาษีมาก โดยทั่วไปแล้วผู้ดูแลที่ผ่านการฝึกอบรมจะใช้เวลา 10 วินาทีในการวิเคราะห์และกลั่นกรองความคิดเห็นหนึ่งๆ

ดังนั้น หากมีโพสต์ความคิดเห็นเป็นร้อยเป็นพันโพสต์ในเวลาเดียวกัน การจัดการการไหลของความคิดเห็นแสดงความเกลียดชังในแบบเรียลไทม์อาจกลายเป็นงานที่เป็นไปไม่ได้ ส่งผลให้ผู้กลั่นกรองเนื้อหาจำนวนมากรู้สึกเหนื่อยล้าทางจิตใจจากปริมาณงานที่ต้องทำ

นอกจากนี้ การพบเห็นการใช้ภาษาที่ไม่ดี วิดีโอที่เป็นพิษ และเนื้อหาที่เป็นอันตรายซ้ำๆ อาจส่งผลทางจิตใจต่อผู้ดูแล อันที่จริง สุขภาพจิตของบุคคลเหล่านี้เป็นสิ่งที่มองข้ามไม่ได้ ในขณะที่ความเหนื่อยหน่ายจากความเป็นพิษที่มากขึ้นอาจทำให้ธุรกิจต้องเสียค่าใช้จ่ายสูง ซึ่งอาจเร่งให้พนักงานเปลี่ยนงานเร็วขึ้น

ประการที่สาม บริษัทจำเป็นต้องเดินบนเส้นแบ่งเมื่อกลั่นกรองเพื่อให้แน่ใจว่าพวกเขาจะไม่ถูกกล่าวหาว่าเซ็นเซอร์ ช่องทางของแบรนด์ เช่น โซเชียลมีเดียมักเป็นแหล่งหลักสำหรับลูกค้าที่มีส่วนร่วมกับแบรนด์ แสดงความคิดเห็นและให้ความสำคัญกับแบรนด์ ผู้ที่สร้างความประทับใจว่าพวกเขาเพียงแค่ลบความคิดเห็นเชิงวิจารณ์หรือเชิงลบอาจถูกตำหนิเช่นกัน

วิธีการแบบผสมผสานเพื่อผลลัพธ์ที่สมดุล

โชคดีที่ AI และเทคโนโลยีที่ขับเคลื่อนด้วยแมชชีนเลิร์นนิงกำลังเริ่มจัดการกับความท้าทายบางอย่างที่ผู้ดูแลของมนุษย์ต้องเผชิญ อย่างไรก็ตาม มีปัญหาเพิ่มเติมที่ต้องแก้ไขที่นี่

อัลกอริทึมแมชชีนเลิร์นนิงที่ใช้โดยแพลตฟอร์มโซเชียลเช่น Facebook และ Instagram มีอัตราข้อผิดพลาดสูงถึง 40% ผลที่ตามมาคือ ปัจจุบันมีเนื้อหาแสดงความเกลียดชังเพียง 62.5% เท่านั้นที่ถูกลบออกจากโซเชียลเน็ตเวิร์กตามรายงานของคณะกรรมาธิการยุโรป ปล่อยให้มีเนื้อหาที่ไม่ได้กลั่นกรองจำนวนมากซึ่งอาจส่งผลกระทบต่อผู้คนและธุรกิจได้ง่าย

ยิ่งไปกว่านั้น อัลกอริทึมเหล่านี้ยังต้องพยายามจัดการประเด็นที่ละเอียดอ่อนเกี่ยวกับเสรีภาพในการแสดงออกอีกด้วย หากขาดความสามารถในการตรวจจับความละเอียดอ่อนทางภาษา พวกเขาอาจเอนเอียงไปทางด้านการเซ็นเซอร์มากเกินไป เนื่องจากอัลกอริทึมมีแนวโน้มที่จะตอบสนองมากเกินไป

เนื่องจากทั้งการควบคุมโดยมนุษย์และโซลูชันที่ขับเคลื่อนด้วย AI มีข้อจำกัด จึงจำเป็นต้องมีวิธีการแบบผสมผสาน อันที่จริงแล้ว การรวมการเรียนรู้ของเครื่องอัจฉริยะเข้ากับทีมมนุษย์ซึ่งประกอบด้วยนักภาษาศาสตร์ ผู้ควบคุมคุณภาพ และโปรแกรมเมอร์ จะทำให้แบรนด์อยู่ในตำแหน่งที่เหมาะสมในการลบความคิดเห็นที่แสดงความเกลียดชังได้รวดเร็วและมีประสิทธิภาพมากขึ้น

แน่นอนว่าการเลือกโซลูชันที่เหมาะสมที่นี่จะเป็นกุญแจสำคัญ ตามหลักการแล้ว แบรนด์ต่างๆ ควรใช้โซลูชันที่ล้ำหน้าพอที่จะรับรู้ถึงความแตกต่างระหว่างเพื่อนที่โต้ตอบด้วยภาษาที่ "มีสีสัน" และความคิดเห็นที่ไม่เป็นมิตรที่มุ่งไปยังแบรนด์

การบรรลุความสมดุลนี้มีความสำคัญ เพื่อส่งเสริมการมีส่วนร่วมและสร้างความไว้วางใจในการโต้ตอบทางออนไลน์ จำเป็นอย่างยิ่งที่แบรนด์ต่างๆ จะต้องดำเนินการเพื่อให้มั่นใจว่าความเป็นพิษจะไม่สร้างมลพิษต่อช่องทางการสื่อสาร ในขณะเดียวกันก็จัดเตรียมแพลตฟอร์มให้ผู้บริโภคได้วิพากษ์วิจารณ์และถกเถียงกัน

โชคดีที่มีแนวทางที่ถูกต้อง การกลั่นกรองจะได้ผล อันที่จริง ไม่ควรเกี่ยวกับการห้ามเสรีภาพในการแสดงออก แต่เป็นการป้องกันไม่ให้เนื้อหาที่เป็นพิษเข้าถึงผู้ที่อาจเป็นผู้รับ เพื่อทำให้อินเทอร์เน็ตเป็นสถานที่ที่ปลอดภัยยิ่งขึ้นสำหรับทุกคน