Czy skuteczna regulacja może zmniejszyć wpływ treści dzielących na sieci społecznościowe?

Wśród nowej burzy kontrowersji wywołanej przez The Facebook Files, ujawnienie różnych wewnętrznych projektów badawczych, które pod pewnymi względami sugerują, że Facebook nie robi wystarczająco dużo, aby chronić użytkowników przed krzywdą, kluczowym pytaniem, które należy rozwiązać, jest często: zniekształcone przez nieodłączną stronniczość i specyficzne ukierunkowanie na Facebooka, firmę, w przeciwieństwie do mediów społecznościowych, oraz algorytmiczne wzmacnianie treści jako koncepcji.

To znaczy, co robimy, aby to naprawić? Co można realistycznie zrobić, co faktycznie zrobi różnicę; jakie zmiany w przepisach lub polityce można by wprowadzić w celu ograniczenia liczby szkodliwych, dzielących postów, które podsycają coraz większy niepokój w społeczeństwie w wyniku rosnącego wpływu aplikacji mediów społecznościowych?

Ważne jest, aby rozważyć tutaj media społecznościowe szerzej, ponieważ każda platforma społecznościowa wykorzystuje algorytmy do definiowania dystrybucji treści i zasięgu. Facebook jest zdecydowanie największy i ma większy wpływ na kluczowe elementy, takie jak treść wiadomości – i oczywiście same wyniki badań, w tym przypadku, pochodzą z Facebooka.

Koncentracja na Facebooku ma sens, ale Twitter również wzmacnia treści, które wzbudzają większe zaangażowanie, LinkedIn sortuje swój kanał w oparciu o to, co uzna za najbardziej angażujące. Algorytm TikTok jest wysoce dostosowany do Twoich zainteresowań.

Problemem, jak zauważyła informatorka Facebooka Frances Haugen, jest dystrybucja algorytmiczna, a nie sam Facebook – więc jakie mamy pomysły, które mogą realnie poprawić ten element?

Kolejne pytanie brzmi, czy platformy społecznościowe będą skłonne do wprowadzenia takich zmian, zwłaszcza jeśli stanowią zagrożenie dla ich zaangażowania i poziomu aktywności użytkowników?

Haugen, który jest ekspertem w dziedzinie algorytmicznego dopasowywania treści, zaproponował, aby sieci społecznościowe zostały zmuszone do całkowitego zaprzestania korzystania z algorytmów opartych na zaangażowaniu, poprzez reformy przepisów sekcji 230, które obecnie chronią firmy zajmujące się mediami społecznościowymi przed odpowiedzialnością prawną za to, co użytkownicy udostępniają w ich aplikacjach .

Jak wyjaśnił Haugen:

„Gdybyśmy mieli odpowiedni nadzór lub gdybyśmy zreformowali [sekcja] 230, aby Facebook był odpowiedzialny za konsekwencje ich celowych decyzji dotyczących rankingu, myślę, że pozbyliby się rankingu opartego na zaangażowaniu”.

Koncepcja polega na tym, że Facebook – a co za tym idzie, wszystkie platformy społecznościowe – ponosiłby odpowiedzialność za sposoby, w jakie wzmacniają określone treści. Jeśli więc więcej osób zobaczy, powiedzmy, dezinformację o COVID z powodu interwencji algorytmicznej, Facebook może zostać pociągnięty do odpowiedzialności prawnej za wszelkie skutki.

Zwiększyłoby to ryzyko podejmowania decyzji dotyczących budowy takich algorytmów i, jak zauważa Haugen, może to spowodować, że platformy będą musiały cofnąć się o krok od środków zwiększających zasięg postów w oparciu o to, jak użytkownicy wchodzą w interakcję z takimi treściami. .

Zasadniczo prawdopodobnie spowodowałoby to, że platformy społecznościowe musiałyby powrócić do czasów sprzed algorytmu, kiedy Facebook i inne aplikacje po prostu wyświetlałyby listę treści ze stron i osób, które obserwujesz, w porządku chronologicznym, na podstawie czasu publikacji. To z kolei zmniejszyłoby motywację ludzi i marek do dzielenia się bardziej kontrowersyjnymi, zachęcającymi do zaangażowania treściami w celu spełnienia zachcianek algorytmu.

Pomysł ma pewną zaletę – jak wykazały różne badania, wzbudzanie emocji w postach społecznościowych jest kluczem do maksymalizacji zaangażowania, a co za tym idzie zasięgu opartego na wzmocnieniu algorytmu, a najskuteczniejszymi emocjami pod tym względem są humor i gniew. Dowcipy i śmieszne filmy nadal dobrze sobie radzą na wszystkich platformach, napędzane zasięgiem algorytmów, ale także wywołujące gniew gorące ujęcia, z którymi biegały partyjne serwisy informacyjne i osobistości, które mogą być kluczowym źródłem podziału i niepokoju, który teraz zobacz w Internecie.

Żeby było jasne, Facebook nie może ponosić za to wyłącznej odpowiedzialności. Partyzanci i kontrowersyjne postaci od dawna odgrywają rolę w szerszym dyskursie, wzbudzając zainteresowanie i zaangażowanie swoimi lewicowymi opiniami na długo przed pojawieniem się Facebooka. Różnica polega teraz na tym, że sieci społecznościowe ułatwiają tak szeroki zasięg, a jednocześnie, poprzez polubienia i inne formy zaangażowania, zapewniają bezpośrednią zachętę do takich działań, przy czym indywidualni użytkownicy otrzymują uderzenie dopaminy, wywołując reakcję, a wydawcy generują większy ruch polecający i zyskują więcej ekspozycji poprzez prowokację.

Tak naprawdę kluczową kwestią przy rozważaniu poprzedniego wyniku jest to, że każdy ma teraz głos, a kiedy każdy ma platformę do dzielenia się swoimi przemyśleniami i opiniami, wszyscy jesteśmy na to znacznie bardziej narażeni i bardziej świadomi. W przeszłości prawdopodobnie nie miałeś pojęcia o poglądach politycznych swojego wuja, ale teraz wiesz, ponieważ media społecznościowe przypominają ci codziennie, a ten rodzaj dzielenia się rówieśnikami również odgrywa rolę w szerszym podziale.

Argumentem Haugena jest jednak to, że Facebook do tego zachęca – na przykład jeden z raportów, które Haugen wyciekł do Wall Street Journal, opisuje, w jaki sposób Facebook zaktualizował swój algorytm kanału informacyjnego w 2018 r., aby położyć większy nacisk na zaangażowanie między użytkownikami i ograniczyć dyskusję polityczną, co stał się coraz bardziej dzielącym elementem aplikacji. Facebook zrobił to, zmieniając wagę dla różnych rodzajów zaangażowania w posty.

Pomysł polegał na tym, że zachęciłoby to do większej dyskusji, mocniejsze ważenie odpowiedzi – ale jak można sobie wyobrazić, nadanie większej wartości komentarzom w celu zwiększenia zasięgu, skłoniło to również więcej wydawców i stron do dzielenia się coraz bardziej podzielnymi, emocjonalnie- obciążone posty, aby wywołać więcej reakcji i w rezultacie uzyskać wyższe wyniki udostępniania. Dzięki tej aktualizacji polubienia nie były już głównym czynnikiem wpływającym na zasięg, tak jak kiedyś, a Facebook coraz ważniejszy jest komentarzami i reakcjami (w tym „złością”). W związku z tym wywołanie dyskusji na temat trendów politycznych stało się bardziej widoczne i narażało większą liczbę użytkowników na takie treści w swoich kanałach.

Sugestia, oparta na tych wewnętrznych danych, jest taka, że ​​Facebook wiedział o tym, wiedział, że ta zmiana zwiększyła dzielące treści. Ale zdecydowali się nie cofać ani nie wdrażać kolejnej aktualizacji, ponieważ w rezultacie rzeczywiście wzrosło zaangażowanie, kluczowa miara sukcesu biznesowego.

W tym sensie usunięcie motywacji algorytmu miałoby sens – a może mógłbyś spróbować usunąć zachęty algorytmu dla niektórych typów postów, takich jak dyskusja polityczna, jednocześnie maksymalizując zasięg bardziej angażujących postów od znajomych, uwzględniając zarówno cele związane z zaangażowaniem, jak i podziały. obawy.

Właśnie to Dave Gillis z Facebooka, który pracuje w zespole ds. bezpieczeństwa produktów platformy, wskazał w tweecie w odpowiedzi na te rewelacje.

Według Gillisa:

„ Na końcu artykułu WSJ o algorytmicznym rankingu kanałów wspomniano – prawie mimochodem – że odeszliśmy od rankingu opartego na zaangażowaniu dla treści obywatelskich i zdrowotnych w News Feed. Ale czekaj - to trochę poważna sprawa, nie? Prawdopodobnie rozsądne jest ocenianie, powiedzmy, filmów z kotami i zdjęć dzieci według upodobań itp., ale z innymi rodzajami treści należy obchodzić się z większą ostrożnością. I właśnie to zalecały nasze zespoły: używanie różnych sygnałów rankingowych dla treści zdrowotnych i obywatelskich, stawiając na pierwszym miejscu jakość + wiarygodność nad zaangażowaniem. Ciężko pracowaliśmy, aby zrozumieć wpływ, zaangażować kierownictwo – tak, Mark też – i jest to ważna zmiana. ”

Może to być krok naprzód, wykorzystując różne sygnały rankingowe dla różnych rodzajów treści, które mogą działać w celu umożliwienia optymalnego wzmocnienia treści, zwiększenia korzystnego zaangażowania użytkowników, a także zmniejszenia motywacji niektórych aktorów do publikowania materiałów dzielących w celu uwzględnienia ich w algorytmach dosięgnąć.

Czy to zadziała? Ponownie, trudno powiedzieć, ponieważ ludzie nadal będą mogli udostępniać posty, nadal będą mogli komentować i rozpowszechniać materiały online. Nadal istnieje wiele sposobów na wzmocnienie poza samym algorytmem.

Zasadniczo obie sugestie mają swoje zalety, że platformy społecznościowe mogą inaczej traktować różne rodzaje treści lub że można wyeliminować algorytmy w celu zmniejszenia amplifikacji takich materiałów.

Jak zauważa Haugen, koncentracja na samych systemach jest ważna, ponieważ rozwiązania oparte na treści powodują różne komplikacje, gdy materiał jest publikowany w innych językach i regionach.

„W przypadku Etiopii jest 100 milionów ludzi i sześć języków. Facebook obsługuje tylko dwa z tych języków dla systemów integralności. Ta strategia skupiania się na specyficznych dla języka i treści systemach, aby sztuczna inteligencja nas ratowała, jest skazana na porażkę”.

Być może zatem usunięcie algorytmów, a przynajmniej zmiana przepisów regulujących ich działanie, byłoby optymalnym rozwiązaniem, które pomogłoby zmniejszyć wpływ negatywnych, wściekłych treści w sferze mediów społecznościowych.

Ale potem wracamy do pierwotnego problemu, który miał rozwiązać algorytm Facebooka – w 2015 roku Facebook wyjaśnił, że potrzebuje algorytmu News Feed nie tylko do maksymalizacji zaangażowania użytkowników, ale także do zapewnienia, że ​​ludzie zobaczą wszystkie aktualizacje większości znaczenie dla nich.

Jak wyjaśniono, przeciętny użytkownik Facebooka w tym czasie miał około 1500 postów kwalifikujących się do wyświetlenia w swoim kanale aktualności każdego dnia, na podstawie stron, które polubił i ich osobistych powiązań – podczas gdy dla niektórych bardziej aktywnych użytkowników , ta liczba wynosiła około 15 000. Po prostu nie jest możliwe, aby ludzie codziennie czytali każdą z tych aktualizacji, więc głównym celem Facebooka w początkowym algorytmie było stworzenie systemu, który odkrywałby najlepsze, najbardziej odpowiednie treści dla każdej osoby, aby zapewnić użytkownikom jak najwięcej angażujące doświadczenie, a następnie sprawiają, że wracają.

Jak wyjaśnił szef produktu Facebooka Chris Cox magazynowi Time:

„Gdybyś mógł ocenić wszystko, co wydarzyło się dzisiaj na Ziemi, a które zostało opublikowane w dowolnym miejscu przez któregokolwiek z twoich przyjaciół, kogokolwiek z twojej rodziny, jakiekolwiek źródło wiadomości, a następnie wybrać 10, które mają dziś największe znaczenie, byłoby to naprawdę fajne usługi, które możemy zbudować. Właśnie do tego dążymy.”

Podejście News Feed znacznie się zmieniło od tego czasu, ale podstawowe wyzwanie, które ma rozwiązać, pozostaje. Ludzie mają zbyt wiele kontaktów, śledzą zbyt wiele stron, są członkami zbyt wielu grup, aby codziennie otrzymywać wszystkie aktualizacje. Bez algorytmu kanału będą pomijać odpowiednie posty, istotne aktualizacje, takie jak ogłoszenia rodzinne i urodziny, i po prostu nie będą tak zaangażowani w korzystanie z Facebooka.

Bez algorytmu Facebook przegra, ponieważ nie zoptymalizuje się pod kątem potrzeb odbiorców – i jak podkreślono w innym raporcie udostępnionym w ramach plików Facebooka, w niektórych podgrupach demograficznych obserwuje się już spadek zaangażowania.

Można sobie wyobrazić, że gdyby Facebook miał wyeliminować algorytm lub być zmuszony do zmiany kierunku na tym, to ten wykres z czasem będzie się tylko pogarszał.

Zuck and Co. raczej nie będą więc zainteresowani tym rozwiązaniem, więc kompromis, taki jak ten zaproponowany przez Gillisa, może być najlepszym, jakiego można się spodziewać. Ale to wiąże się z własnymi wadami i ryzykiem.

Tak czy inaczej, warto zauważyć, że debata musi skoncentrować się na algorytmach szerzej, nie tylko na samym Facebooku, i czy rzeczywiście istnieje realny, wykonalny sposób na zmianę zachęt związanych z systemami opartymi na algorytmach w celu ograniczenia dystrybucji bardziej dzielących elementów.

Ponieważ jest to problem, bez względu na to, jak Facebook lub ktokolwiek inny próbuje nim kręcić, dlatego stanowisko Haugena jest ważne, ponieważ może być iskrą, która prowadzi nas do nowej, bardziej zniuansowanej debaty wokół tego kluczowego elementu.