Facebook fornisce una nuova panoramica dei suoi sforzi per combattere gli abusi razzisti online sulla scia di Euro 2020

Dopo un altro grave incidente di abusi razzisti online, mirati ai membri della squadra di calcio inglese, Facebook ha fornito una nuova panoramica di come sta lavorando per affrontare tali attacchi e impedire alle persone di subire abusi razziali sulle sue piattaforme.

Dopo la sconfitta dell'Inghilterra nella finale del Campionato Europeo di domenica, i troll dei social media hanno pubblicato centinaia di commenti razzisti, attaccando i tre giocatori neri della squadra di calcio inglese, che includevano l'uso di emoji come elemento di abuso. Quali sistemi di Instagram inizialmente non hanno sollevato un problema, ma ora, dopo la revisione, Facebook ha aggiornato i suoi sistemi e i suoi team per assicurarsi che affronti incidenti simili andando avanti, mentre cerca anche di migliorare i suoi processi in generale.

Come spiegato da Facebook:

"Siamo inorriditi per gli aberranti abusi razzisti subiti da alcuni membri della squadra di calcio inglese dopo la finale di Euro 2020 lo scorso fine settimana. Questo è un problema incredibilmente serio su cui lavoriamo da anni, che include il lavoro diretto con le organizzazioni calcistiche e la legge rinforzo."

Infatti, anche quest'anno, Facebook ha dovuto affrontare serie sfide su questo fronte, ancora una volta legato ai tifosi del calcio del Regno Unito.

A febbraio, Instagram è diventato inconsapevolmente la fonte di vari incidenti di attacchi razziali contro giocatori di Manchester United, Chelsea e Liverpool, tra gli altri, che sono stati presi di mira tramite Instagram Direct. Il Manchester United, in una dichiarazione congiunta con Everton, Liverpool e Manchester City , ha condannato gli incidenti e ha invitato la società madre di Instagram, Facebook, a fare di più per proteggere gli utenti da tali incidenti, il che ha portato Instagram a implementare sanzioni più severe per coloro che sono stati trovati a inviare abusi tramite DM e una nuova opzione per gli account personali per disattivare i messaggi diretti dalle persone che non seguono.

Chiaramente, tuttavia, ci sono ancora più questioni da aggiungere su questo. E mentre il razzismo è un problema sociale e non limitato alle piattaforme sociali in quanto tali, Facebook deve assicurarsi che non fornisca alcuna amplificazione per lo stesso, al fine di fare la sua parte per ridurne gli impatti.

Facebook afferma chiaramente che:

"Non consentiamo attacchi alle persone in base alle loro caratteristiche protette, che includono razza, religione, nazionalità o orientamento sessuale. Se veniamo a conoscenza di parole o emoji usati per attaccare le persone in base alla loro razza, li rimuoviamo perché violano le nostre politiche. Pubblichiamo le nostre politiche sull'incitamento all'odio nei nostri Standard della community e nelle Linee guida della community di Instagram".

Il problema in questo ultimo incidente, come notato, era che l'uso degli emoji come indicatore razzista non era stato inizialmente identificato, come ha riconosciuto il capo di Instagram Adam Mosseri.

Facebook spiega che identifica l'incitamento all'odio utilizzando una combinazione di intelligenza artificiale e revisione umana.

"L'intelligenza artificiale ci aiuta a dare priorità ai rapporti per i nostri revisori e ad intraprendere azioni automatizzate ove appropriato. Tra gennaio e marzo del 2021, abbiamo rimosso più di 25 milioni di contenuti di incitamento all'odio da Facebook, quasi il 97% prima che qualcuno ce lo segnalasse. E su Instagram , abbiamo preso provvedimenti su 6,3 milioni di contenuti, il 93% prima che qualcuno ce lo segnalasse."

Il che è un buon tasso di risultati, ma come mostra quest'ultimo incidente, ci sono ancora momenti in cui questi sistemi non saranno in grado di catturare tutto. Che, come nota ulteriormente Mosseri, è anche una sfida di scala.

Realisticamente, non c'è modo di eliminare del tutto questo, ma Facebook sta lavorando per assicurarsi che aggiorni i suoi sistemi in tempo reale, man mano che vengono rilevati casi, al fine di lavorare più velocemente per combattere gli abusi e limitare l'esposizione.

"Le persone sono state giustamente frustrate quando hanno segnalato i post e gli è stato detto in modo errato che i commenti odiosi con determinati emoji non infrangono le nostre regole. Questo perché la nostra IA non capiva il contesto ed è un errore. Ci siamo trasferiti per correggere rapidamente questo problema attraverso i recenti miglioramenti alla nostra tecnologia. Continueremo a lavorare su questo in modo da poter rimuovere più rapidamente gli emoji che violano la nostra piattaforma".

È un equilibrio molto difficile e nessuno ha tutte le risposte. Vari gruppi di regolamentazione, ad esempio, hanno proposto sanzioni più severe per le piattaforme social che non riescono ad affrontarle in modo tempestivo. Il problema è che ciò che è considerato "opportuno" sarà diverso quasi caso per caso.

Instagram avrebbe dovuto raccogliere prima l'uso improprio degli emoji? Sì, ma i suoi sistemi automatizzati non lo hanno identificato come un problema. Perché non lo era, finché non lo era, e nessuno avrebbe potuto necessariamente prevederlo finché non fosse stato troppo tardi.

Un possibile modo per affrontare questo problema potrebbe essere quello di imporre requisiti di identificazione più severi alle persone quando si registrano per account di social media, il che renderebbe più facile identificare i trasgressori. Se c'è una minaccia di ricorso legale nel mondo reale per le tue azioni online, ciò potrebbe agire come una minaccia sufficiente per indurre gli utenti a riconsiderare le loro azioni.

Ma Facebook afferma che anche questa non è necessariamente la via da seguire:

"Ci sono rischi con la verifica dell'identità, principalmente l'esclusione di gruppi - gruppi particolarmente svantaggiati - che non hanno facile accesso a forme ufficiali di identificazione. Il modello più recente della Commissione elettorale stima che 11 milioni di persone nel Regno Unito non abbiano una patente di guida o un passaporto e che questo gruppo aveva maggiori probabilità di provenire da ambienti svantaggiati".

Il che è un punto valido e, ancora una volta, offre un po' di spazio in più sulla sfida che ha davanti, e su tutte le piattaforme online, a questo proposito.

È una sfida difficile, ma importante, che Facebook sta prendendo molto sul serio. Idealmente, è possibile trovare una soluzione che affronti questi problemi chiave, ma realisticamente, ci sarà sempre un livello di uso improprio, indipendentemente dalle misure implementate.

E ancora, sulla scala di Facebook, anche un piccolo margine di errore può significare un grande impatto.

Si spera che, man mano che i sistemi automatizzati si evolvono, possano essere adottati più strumenti per mantenere un ambiente sicuro per tutti.