Facebook, Euro 2020'nin Ardından Çevrimiçi Irkçı İstismarla Mücadele Çabalarına Yeni Bir Bakış Sunuyor

İngiliz futbol takımının üyelerini hedef alan bir başka büyük çevrimiçi ırkçı taciz olayının ardından Facebook, bu tür saldırılara karşı nasıl çalıştığına ve insanların platformlarında ırk temelli tacize maruz kalmasını nasıl engellediğine dair yeni bir genel bakış sağladı.

İngiltere'nin Pazar günü Avrupa Şampiyonası finalinde kaybetmesinin ardından, sosyal medya trolleri, İngiltere'nin futbol takımındaki üç Siyah oyuncuya saldıran ve emojilerin kötüye kullanım unsuru olarak kullanılmasını içeren yüzlerce ırkçı açıklama yayınladı. Hangi Instagram sistemleri başlangıçta bir endişe duymadı - ancak şimdi, incelemede, Facebook, benzer olayları ileriye dönük olarak ele almasını sağlamak için sistemlerini ve ekiplerini güncelledi ve aynı zamanda süreçlerini genel olarak iyileştirmeye çalışıyor.

Facebook'un açıkladığı gibi:

"Geçen hafta sonu Euro 2020 finalinden sonra İngiltere futbol takımının bazı üyelerinin yaşadığı iğrenç ırkçı taciz karşısında dehşete düştük. Bu, yıllardır üzerinde çalıştığımız ve doğrudan futbol organizasyonları ve hukukla çalışmayı da içeren inanılmaz derecede ciddi bir konu. icra."

Gerçekten de, bu yıl bile, Facebook bu cephede yine İngiltere futbol taraftarlarına bağlı ciddi zorluklarla karşı karşıya kaldı.

Şubat ayında Instagram, farkında olmadan Manchester United, Chelsea ve Liverpool'dan oyunculara karşı Instagram Direct aracılığıyla hedef alınan çeşitli ırk temelli saldırı olaylarının kaynağı oldu . Manchester United, Everton, Liverpool ve Manchester City ile ortak bir açıklamada , olayları kınadı ve Instagram'ın ana şirketi Facebook'u kullanıcıları bu tür olaylardan korumak için daha fazlasını yapmaya çağırdı ve bu da Instagram'ın kötüye kullanım gönderdiği tespit edilenler için daha sert cezalar uygulamasına yol açtı. DM ve takip etmedikleri kişilerden gelen DM'leri kapatmak için kişisel hesaplar için yeni bir seçenek.

Bununla birlikte, açıkça, buna eklenecek daha fazla sorun var. Irkçılık toplumsal bir sorun olsa da ve bu şekilde sosyal platformlarla sınırlı olmasa da, Facebook'un etkilerini azaltmak için üzerine düşeni yapmak için herhangi bir amplifikasyon sağlamadığından emin olması gerekiyor.

Facebook açıkça şunu belirtiyor:

"İnsanlara, ırk, din, milliyet veya cinsel yönelim gibi korunan özelliklerine dayalı olarak saldırılara izin vermiyoruz. İnsanlara ırklarına göre saldırmak için kullanılan herhangi bir kelime veya emojinin farkına varırsak, bunları kaldırırız. çünkü politikalarımızı ihlal ediyorlar. Nefret söylemi politikalarımızı Topluluk Standartlarımızda ve Instagram'ın Topluluk Kurallarında yayınlıyoruz."

Bu son olaydaki sorun, belirtildiği gibi, Instagram şefi Adam Mosseri'nin kabul ettiği gibi, emojilerin ırkçı bir işaret olarak kullanımının başlangıçta tanımlanmamasıydı.

Facebook, yapay zeka ve insan incelemesini bir arada kullanarak nefret söylemini tespit ettiğini açıklıyor.

"AI, incelemecilerimiz için raporları öncelik sırasına koymamıza ve uygun olan yerlerde otomatik eylemlerde bulunmamıza yardımcı oluyor. 2021 yılının Ocak ve Mart ayları arasında, Facebook'tan 25 milyondan fazla nefret söylemi içeriği kaldırdık - bu içeriğin yaklaşık %97'si biri bize bildirmeden önce. Ve Instagram'da 6.3 milyon içerik parçası üzerinde, %93'ü bize bildirmeden önce harekete geçtik."

Bu iyi bir sonuç oranı, ancak bu son olayın gösterdiği gibi, bu sistemlerin her şeyi yakalayamayacağı zamanlar hala var. Bu, Mosseri'nin daha da belirttiği gibi, aynı zamanda bir ölçek zorluğudur.

Gerçekçi olarak, bunu tamamen ortadan kaldırmanın bir yolu yok, ancak Facebook, kötüye kullanımla mücadele etmek ve maruz kalmayı sınırlamak için daha hızlı çalışmak için vakalar tespit edildiğinde sistemlerini gerçek zamanlı olarak güncellemesini sağlamaya çalışıyor.

"İnsanlar gönderileri şikayet ettiklerinde ve bazı emojilerle yapılan nefret dolu yorumların kurallarımızı ihlal etmediği yanlış söylendiğinde haklı olarak hüsrana uğradılar. Bunun nedeni, AI'mızın bağlamı anlamamasıdır - ve bu bir hatadır. Biz taşındık. teknolojimizdeki son iyileştirmelerle bunu hızla düzeltmek için. İhlal eden emojileri platformumuzdan daha hızlı kaldırabilmek için bunun üzerinde çalışmaya devam edeceğiz."

Bu çok zor bir denge ve hiç kimse tüm cevaplara sahip değil. Örneğin, çeşitli düzenleyici gruplar, bunları zamanında ele almayan sosyal platformlar için daha sert cezalar önerdi. Sorun şu ki, 'zamanında' olarak kabul edilen şey, neredeyse her durumda farklı olacaktır.

Instagram, emojilerin kötüye kullanımını daha erken almalı mıydı? Evet - ancak otomatik sistemleri bunu bir sorun olarak tanımlamadı. Çünkü olana kadar değildi ve çok geç olana kadar hiç kimse böyle bir şeyi tahmin edemezdi.

Bunu ele almanın olası bir yolu, bireylere sosyal medya hesaplarına kaydolurken daha katı kimlik gereklilikleri uygulamak olabilir, bu da suçluların tespit edilmesini kolaylaştırabilir. Çevrimiçi eylemleriniz için gerçek dünyadan yasal başvuru tehdidi varsa, bu, kullanıcıların eylemlerini yeniden gözden geçirmesi için yeterli bir tehdit olarak hareket edebilir.

Ancak Facebook, bunun mutlaka ileriye dönük bir yol olmadığını söylüyor:

"Kimlik doğrulamasıyla ilgili riskler var, özellikle de resmi kimlik biçimlerine kolay erişimi olmayan grupların - özellikle dezavantajlı grupların - hariç tutulması. bir ehliyet veya pasaport ve bu grubun dezavantajlı kökenden gelme olasılığının daha yüksek olduğunu."

Bu geçerli bir nokta ve bir kez daha önündeki meydan okumaya ve bu açıdan tüm çevrimiçi platformlara biraz daha fazla kapsam sağlıyor.

Bu zor ama önemli ve Facebook'un çok ciddiye aldığı bir zorluk. İdeal olarak, bu kilit sorunları ele alan bir çözüm bulunabilir, ancak gerçekçi olarak, hangi önlemler uygulanırsa uygulansın, her zaman bir düzeyde yanlış kullanım olacaktır.

Ve yine, Facebook ölçeğinde, küçük bir hata payı bile büyük etki anlamına gelebilir.

Umarım, otomatik sistemler geliştikçe, herkes için güvenli bir ortam sağlamak için daha fazla araç uygulanabilir.