Facebook oferă o nouă imagine de ansamblu asupra eforturilor sale de a combate abuzurile rasiste online în urma Euro 2020

După un alt incident major de abuz rasist online, care vizează membrii echipei engleze de fotbal, Facebook a oferit o nouă imagine de ansamblu asupra modului în care lucrează pentru a aborda astfel de atacuri și a împiedica oamenii să se confrunte cu abuzuri bazate pe rasă pe platformele sale.

După pierderea Angliei în finala Campionatului European de duminică, trolii din rețelele de socializare au postat sute de remarci rasiste, atacându-i pe cei trei jucători de culoare din echipa de fotbal a Angliei, care includeau utilizarea emoji-urilor ca element de abuz. Sistemele Instagram care nu au declanșat inițial o îngrijorare - dar acum, în urma analizei, Facebook și-a actualizat sistemele și echipele, pentru a se asigura că abordează incidente similare în viitor, în timp ce caută să-și îmbunătățească procesele în general.

După cum a explicat Facebook:

„Suntem înspăimântați de abuzurile rasiste detestabile de către unii membri ai echipei de fotbal a Angliei după finala Euro 2020 de weekendul trecut. Aceasta este o problemă incredibil de serioasă la care lucrăm de ani de zile, care a inclus colaborarea directă cu organizațiile de fotbal și legea. executare.”

Într-adevăr, chiar și în acest an, Facebook s-a confruntat cu provocări serioase pe acest front, din nou legată de fanii fotbalului din Marea Britanie.

În februarie, Instagram a devenit fără să vrea sursa diferitelor incidente de atacuri bazate pe curse împotriva jucătorilor de la Manchester United, Chelsea și Liverpool, printre alții, care au fost vizați prin Instagram Direct. Manchester United, într-o declarație comună cu Everton, Liverpool și Manchester City , a condamnat incidentele și a cerut companiei-mamă a Instagram, Facebook, să facă mai mult pentru a proteja utilizatorii de astfel de lucruri, ceea ce a dus la aplicarea de către Instagram a sancțiuni mai aspre pentru cei aflați că trimit abuzuri prin intermediul DM și o nouă opțiune pentru conturile personale pentru a dezactiva mesajele DM de la persoanele pe care nu le urmăresc.

În mod clar, totuși, există încă mai multe probleme de adăugat în acest sens. Și în timp ce rasismul este o problemă de societate și nu se limitează la platformele sociale ca atare, Facebook trebuie să se asigure că nu oferă nicio amplificare pentru aceeași, pentru a-și face partea pentru a-și reduce impactul.

Facebook afirmă clar că:

„Nu permitem atacuri asupra persoanelor pe baza caracteristicilor lor protejate, care includ rasa, religia, naționalitatea sau orientarea sexuală. Dacă suntem anunțați că orice cuvinte sau emoji-uri sunt folosite pentru a ataca oamenii pe baza rasei lor, le eliminăm. deoarece încalcă politicile noastre. Publicăm politicile noastre privind discursul instigator la ură în Standardele comunității noastre și Regulile comunității Instagram.”

Problema în acest ultim incident, așa cum s-a menționat, a fost că utilizarea emoji-urilor ca marker rasist nu a fost identificată inițial, ceea ce șeful Instagram Adam Mosseri a recunoscut.

Facebook explică că identifică discursul instigator la ură folosind o combinație de inteligență artificială și revizuire umană.

„AI ne ajută să stabilim prioritățile rapoartelor pentru recenzenții noștri și să luăm acțiuni automate acolo unde este cazul. Între ianuarie și martie 2021, am eliminat peste 25 de milioane de conținuturi instigatoare la ură de pe Facebook - aproape 97% înainte ca cineva să ni-l raporteze. Și pe Instagram , am luat măsuri asupra a 6,3 milioane de conținut, 93% înainte ca cineva să ni-l raporteze.”

Ceea ce este o rată de rezultate bună, dar, după cum arată acest ultim incident, există încă momente în care aceste sisteme nu vor putea să prindă totul. Ceea ce, după cum notează în continuare Mosseri, este și o provocare de amploare.

În mod realist, nu există nicio modalitate de a elimina în totalitate acest lucru, dar Facebook lucrează pentru a se asigura că își actualizează sistemele în timp real, pe măsură ce sunt detectate cazuri, pentru a lucra mai rapid pentru a combate abuzul și a limita expunerea.

„Oamenii au fost pe bună dreptate frustrați când au raportat postări și li s-a spus incorect că comentariile pline de ură cu anumite emoji-uri nu încalcă regulile noastre. Asta pentru că AI-ul nostru nu a înțeles contextul - și asta este o greșeală. Ne-am mutat. pentru a corecta rapid acest lucru prin îmbunătățirile recente aduse tehnologiei noastre. Vom continua să lucrăm la acest lucru, astfel încât să putem elimina mai repede emoji-urile care încalcă de pe platforma noastră.”

Este un echilibru foarte dificil și nimeni nu are toate răspunsurile. Diverse grupuri de reglementare, de exemplu, au propus sancțiuni mai dure pentru platformele sociale care nu reușesc să le abordeze în timp util. Problema este că ceea ce este considerat „oportun” va fi diferit aproape de la caz la caz.

Ar fi trebuit Instagram să identifice mai devreme utilizarea abuzivă a emoji-urilor? Da, dar sistemele sale automate nu au identificat acest lucru ca fiind o problemă. Pentru că nu a fost, până nu a fost, și nimeni nu ar fi putut anticipa neapărat așa ceva până nu a fost prea târziu.

O posibilă modalitate de a rezolva acest lucru ar putea fi impunerea unor cerințe mai stricte de identificare asupra persoanelor atunci când se înregistrează pentru conturi de rețele sociale, ceea ce ar facilita identificarea infractorilor. Dacă există o amenințare de recurs legal în lumea reală pentru acțiunile dvs. online, aceasta ar putea reprezenta o amenințare suficientă pentru a-i determina pe utilizatori să-și reconsidere acțiunile.

Dar Facebook spune că aceasta nu este neapărat calea de urmat:

„Există riscuri cu verificarea actului de identitate, în primul rând excluderea grupurilor – în special a grupurilor dezavantajate – care nu au acces ușor la formele oficiale de identificare. Cea mai recentă modelare de la Comisia Electorală estimează că 11 milioane de oameni din Marea Britanie nu au un permis de conducere sau un pașaport și că acest grup era mai probabil să provină din medii defavorizate”.

Ceea ce este un punct valid și oferă încă o dată mai mult spațiu în ceea ce privește provocarea în fața sa și tuturor platformelor online, în acest sens.

Este o provocare grea, dar importantă și una pe care Facebook o ia foarte în serios. În mod ideal, poate fi găsită o soluție care să abordeze aceste probleme cheie, dar în mod realist, va exista întotdeauna un nivel de utilizare greșită, indiferent de măsurile implementate.

Și din nou, la scara Facebook, chiar și o mică marjă de eroare poate însemna un impact mare.

Sperăm că, pe măsură ce sistemele automatizate evoluează, mai multe instrumente pot fi implementate pentru a menține un mediu sigur pentru toți.