Facebook gibt einen neuen Überblick über seine Bemühungen zur Bekämpfung von rassistischem Missbrauch im Internet nach der Euro 2020

Nach einem weiteren großen Vorfall von rassistischem Missbrauch im Internet, der sich gegen Mitglieder der englischen Fußballmannschaft richtete, hat Facebook einen neuen Überblick darüber bereitgestellt, wie es gegen solche Angriffe vorgeht und verhindert, dass Menschen auf seinen Plattformen rassistischen Missbrauch erleben.

Nach der Niederlage Englands im Europameisterschaftsfinale am Sonntag veröffentlichten Social-Media-Trolle Hunderte von rassistischen Äußerungen, in denen sie die drei schwarzen Spieler der englischen Fußballmannschaft angriffen, darunter die Verwendung von Emojis als Missbrauchselement. Die Systeme von Instagram haben anfangs keine Bedenken aufgegriffen – aber jetzt hat Facebook seine Systeme und Teams aktualisiert, um sicherzustellen, dass ähnliche Vorfälle in Zukunft behoben werden, während es auch versucht, seine Prozesse insgesamt zu verbessern.

Wie von Facebook erklärt:

„Wir sind entsetzt über den abscheulichen rassistischen Missbrauch, den einige Mitglieder der englischen Fußballmannschaft nach dem Finale der Euro 2020 am vergangenen Wochenende erlebt haben. Dies ist ein unglaublich ernstes Problem, an dem wir seit Jahren arbeiten, einschließlich der direkten Zusammenarbeit mit Fußballorganisationen und Gesetzen Durchsetzung."

Tatsächlich war Facebook auch in diesem Jahr an dieser Front mit ernsthaften Herausforderungen konfrontiert, die wiederum mit britischen Fußballfans in Verbindung gebracht wurden.

Bereits im Februar wurde Instagram unwissentlich zur Quelle verschiedener Vorfälle von rassenbasierten Angriffen unter anderem gegen Spieler von Manchester United, Chelsea und Liverpool, die über Instagram Direct ins Visier genommen wurden. Manchester United verurteilte in einer gemeinsamen Erklärung mit Everton, Liverpool und Manchester City die Vorfälle und forderte die Muttergesellschaft von Instagram, Facebook, auf, mehr zu tun, um die Nutzer vor solchen zu schützen, was dazu führte, dass Instagram härtere Strafen für diejenigen verhängte, bei denen festgestellt wurde, dass sie Missbrauch per gesendet haben DM und eine neue Option für persönliche Konten, um DMs von Personen zu deaktivieren, denen sie nicht folgen.

Offensichtlich gibt es jedoch noch weitere Probleme, die dazu hinzugefügt werden müssen. Und obwohl Rassismus ein gesellschaftliches Problem ist und nicht auf soziale Plattformen als solches beschränkt ist, muss Facebook sicherstellen, dass es keine Verstärkung dafür bietet, um seinen Teil dazu beizutragen, seine Auswirkungen zu verringern.

Facebook stellt klar, dass:

„Wir erlauben keine Angriffe auf Menschen aufgrund ihrer geschützten Merkmale, zu denen Rasse, Religion, Nationalität oder sexuelle Orientierung gehören. Wenn wir auf Wörter oder Emojis aufmerksam werden, die verwendet werden, um Menschen aufgrund ihrer Rasse anzugreifen, entfernen wir sie weil sie gegen unsere Richtlinien verstoßen. Wir veröffentlichen unsere Richtlinien zu Hassreden in unseren Community-Standards und den Community-Richtlinien von Instagram.“

Das Problem bei diesem jüngsten Vorfall war, wie bereits erwähnt, dass die Verwendung von Emojis als rassistisches Zeichen zunächst nicht identifiziert wurde, was Instagram-Chef Adam Mosseri eingeräumt hat.

Facebook erklärt, dass es Hassreden identifiziert, indem es eine Kombination aus künstlicher Intelligenz und menschlicher Überprüfung verwendet.

„KI hilft uns, Meldungen für unsere Prüfer zu priorisieren und gegebenenfalls automatisierte Maßnahmen zu ergreifen. Zwischen Januar und März 2021 haben wir mehr als 25 Millionen Hassreden-Inhalte von Facebook entfernt – fast 97 %, bevor sie uns jemand gemeldet hat. Und auf Instagram , haben wir bei 6,3 Millionen Inhalten Maßnahmen ergriffen, 93 %, bevor uns jemand darüber gemeldet hat."

Das ist eine gute Ergebnisquote, aber wie dieser jüngste Vorfall zeigt, gibt es immer noch Zeiten, in denen diese Systeme nicht in der Lage sein werden, alles zu erfassen. Was, wie Mosseri weiter anmerkt, auch eine Herausforderung der Größenordnung ist.

Realistischerweise gibt es keine Möglichkeit, solche Fälle vollständig auszumerzen, aber Facebook arbeitet daran, sicherzustellen, dass es seine Systeme in Echtzeit aktualisiert, wenn Fälle erkannt werden, um Missbrauch schneller zu bekämpfen und die Exposition zu begrenzen.

„Die Leute waren zu Recht frustriert, wenn sie Beiträge gemeldet haben und ihnen fälschlicherweise gesagt wurde, dass Hasskommentare mit bestimmten Emojis nicht gegen unsere Regeln verstoßen. Das liegt daran, dass unsere KI den Kontext nicht verstanden hat – und das ist ein Fehler. Wir sind umgezogen schnell, um dies durch kürzliche Verbesserungen unserer Technologie zu korrigieren. Wir werden weiter daran arbeiten, damit wir verletzende Emojis schneller von unserer Plattform entfernen können."

Es ist eine sehr schwierige Balance, und niemand hat alle Antworten. Verschiedene Regulierungsgruppen haben beispielsweise härtere Strafen für soziale Plattformen vorgeschlagen, die solche Probleme nicht rechtzeitig angehen. Das Problem ist, was als „zeitnah“ angesehen wird, ist fast von Fall zu Fall unterschiedlich.

Hätte Instagram den Missbrauch von Emojis früher aufgreifen sollen? Ja – aber die automatisierten Systeme haben dies nicht als Problem erkannt. Weil es nicht so war, bis es so war, und niemand hätte es vorhersehen können, bis es zu spät war.

Eine Möglichkeit, dem entgegenzuwirken, könnte darin bestehen, Einzelpersonen strengere Ausweisanforderungen aufzuerlegen, wenn sie sich für Social-Media-Konten anmelden, was die Identifizierung von Straftätern erleichtern würde. Wenn für Ihre Online-Aktionen ein Rechtsweg in der realen Welt droht, könnte dies als Bedrohung genug wirken, um Benutzer dazu zu bringen, ihre Handlungen zu überdenken.

Aber Facebook sagt, dass dies auch nicht unbedingt der richtige Weg ist:

„Es gibt Risiken bei der Identitätsüberprüfung, vor allem der Ausschluss von Gruppen – insbesondere benachteiligten Gruppen – die keinen einfachen Zugang zu offiziellen Formen der Identifizierung haben. Die neueste Modellierung der Wahlkommission schätzt, dass 11 Millionen Menschen im Vereinigten Königreich keinen haben einen Führerschein oder Reisepass, und dass diese Gruppe eher aus benachteiligten Verhältnissen stammt."

Das ist ein berechtigter Punkt und bietet in dieser Hinsicht noch einmal etwas mehr Spielraum für die bevorstehende Herausforderung und alle Online-Plattformen.

Es ist eine schwierige, aber wichtige Herausforderung, die Facebook sehr ernst nimmt. Im Idealfall kann eine Lösung gefunden werden, die diese Schlüsselprobleme anspricht, aber realistischerweise wird es immer ein gewisses Maß an Missbrauch geben, egal welche Maßnahmen umgesetzt werden.

Und noch einmal, auf der Ebene von Facebook kann selbst eine kleine Fehlerspanne große Auswirkungen haben.

Hoffentlich können mit der Weiterentwicklung automatisierter Systeme mehr Tools eingeführt werden, um eine sichere Umgebung für alle aufrechtzuerhalten.