Информатор Facebook описывает противоречивые мотивы в подходе компании к новостному контенту

Является ли Facebook плохим для общества, и сознательно ли компания способствует разделению и беспокойству, чтобы максимизировать использование и прибыль?

Это ключевой вопрос, который не давал покоя последние несколько лет, особенно после выборов в США в 2016 году. И теперь у нас есть некоторое представление о собственных мыслях Facebook по этому вопросу — за последние две недели The Wall Street Journal сообщил о ряде внутренних исследований и ответах на них от руководителей Facebook, которые были слиты бывшим сотрудником Facebook, который стремился разоблачить бездействие компании в устранении ключевых недостатков в ее конструкции.

Прошлой ночью CBS сообщила, что этим бывшим сотрудником является Фрэнсис Хауген, эксперт по алгоритмическому дизайну, которая работала в команде Facebook Civic Integrity до того, как она была распущена после выборов в США в 2020 году. Согласно информации, которой поделился Хауген, Facebook действительно сознательно избегал принятия более решительных мер по устранению наихудших аспектов своей платформы из-за влияния любых таких действий на использование и, следовательно, на прибыль.

И хотя Facebook опроверг утверждения Хауген, ее заявления согласуются с тем, что предлагалось во многих предыдущих отчетах, подчеркивая ключевые опасения по поводу воздействия социального гиганта Цукерберга на общество.

Ключевое утверждение Хаугена заключается в том, что Facebook сознательно упускает из виду или преуменьшает выводы, сделанные на основе его собственных исследований, в пользу сохранения использования и вовлеченности пользователей.

Как объяснил Хауген:

«В Facebook я снова и снова наблюдал конфликт интересов между тем, что хорошо для публики, и тем, что хорошо для Facebook. И Facebook снова и снова выбирал оптимизацию в своих интересах, например, чтобы заработать больше денег».

Что, в какой-то степени, имеет смысл — Facebook, в конце концов, это бизнес, и поэтому он движим прибылью и приносит максимальную пользу своим акционерам.

Проблема в случае с Facebook заключается в том, что он управляет новейшей в истории взаимосвязанной сетью людей, приближаясь к 3 миллиардам пользователей, многие из которых используют приложение, чтобы быть в курсе событий по различным направлениям и собирать ключевую информацию о новостях. дня. Как таковой, он имеет значительную силу влиять на мнение.

Это означает, как отмечает Хауген, что его решения могут иметь большое значение.

« Facebook зарабатывает больше денег, когда вы потребляете больше контента. Людям нравится заниматься тем, что вызывает эмоциональную реакцию. И чем больше гнева они испытывают, тем больше они взаимодействуют и тем больше потребляют. ”

Действительно, среди различных находок, отмеченных в файлах Facebook Хауген, тысячи внутренних документов, которые она, по сути, тайно вывезла из штаб-квартиры Facebook, предполагают, что у Facebook есть:

• Упустил из виду распространенность и влияние разжигания ненависти на свои платформы из-за того, что такой контент также стимулирует более активное участие пользователей.
• Преуменьшает негативное влияние Instagram на молодых пользователей, и результаты показывают, что платформа усиливает негативное представление о теле.
• Не удалось решить основные проблемы, связанные с использованием Facebook в развивающихся регионах, отчасти из-за анализа затрат и выгод.
• Не удалось решить проблему распространения антивакцинного контента.

Опять же, о многих из этих элементов широко сообщалось в других источниках, но файлы Хаугена являются прямым доказательством того, что Facebook действительно хорошо осведомлен о каждом из этих аспектов и время от времени предпочитал не действовать или предпринимать серьезные ответные действия, в основном из-за к конфликту с его деловыми интересами.

Команда Facebook по связям с общественностью усердно работала над противодействием таким утверждениям, предоставляя пошаговые ответы на каждый из отчетов Facebook Files, отмечая, что существование этих исследовательских отчетов само по себе показывает, что Facebook работает над решением таких проблем, и бороться с этими проблемными элементами.

Facebook указывает на различные изменения, которые он внес в Instagram, чтобы предоставить пользователям больше возможностей защиты и контроля, в то время как Facebook также работает над улучшением своего алгоритма ранжирования, чтобы ограничить воздействие спорного, вызывающего тревогу контента.

Но в то же время Facebook преуменьшает их влияние в более широком масштабе.

Как вице-президент Facebook по политике и глобальным делам Ник Клегг отметил предположение, что Facebook сыграл ключевую роль в содействии поствыборным протестам у здания Капитолия.

«Я думаю, что утверждение [о том, что] 6 января можно объяснить социальными сетями, я просто думаю, что это смехотворно».

Клегг считает, что Facebook — это лишь небольшая часть более широкого социального сдвига, и что он просто не может быть основной проблемой, которая привела к такому серьезному конфликту в различных регионах.

Невозможно узнать, каково влияние Facebook в этом отношении, но, судя по файлам Хаугена, ясно, что там есть некоторые ключевые участники.

« Facebook зарабатывает больше денег, когда вы потребляете больше контента. Людям нравится заниматься тем, что вызывает эмоциональную реакцию. И чем больше гнева они испытывают, тем больше они взаимодействуют и тем больше потребляют».

Гнев — это эмоция, которая вызывает наибольшую реакцию, наибольшее участие, и Хауген, по сути, утверждает, что Facebook извлекает из этого выгоду, способствуя распространению разжигающего ненависть контента, который затем, как побочный продукт, усиливает разделение.

« Когда мы живем в информационной среде, наполненной злобным, ненавистным, поляризующим контентом, это подрывает наше гражданское доверие, нашу веру друг в друга, подрывает нашу способность заботиться друг о друге, версия Facebook, которая существует сегодня разрывает наши общества на части и вызывает этническое насилие во всем мире. ”

Тут есть две стороны, и обе могут быть одинаково правильными. Один из них, как отмечает Хауген, заключается в том, что у Facebook есть скрытая мотивация, способствующая распространению разжигающего ненависть контента, который вызывает более активное участие среди его пользователей, а также усугубляет разделение общества, что в масштабах Facebook может иметь значительное влияние.

С другой стороны, как отмечает Facebook, он не зря проводит такие исследования. Полностью закрывать глаза на такие проблемы означало бы вообще не проводить эти исследования, и хотя Цук и Ко, возможно, не предпринимают столько действий, сколько хотелось бы всем сторонам, есть основания полагать, что компания работает над решением этих проблем. проблемы, хотя и более взвешенным образом, что в идеале также уменьшает влияние на бизнес.

Вопрос в том, следует ли учитывать «влияние на бизнес» в таких последовательных решениях?

Опять же, Facebook управляет крупнейшей взаимосвязанной сетью людей в истории, поэтому мы не знаем, каковы могут быть полные последствия его алгоритмического обмена, потому что у нас нет другого примера, на который можно было бы сослаться, нет прецедента для Facebook и его более широкое воздействие.

В некотором смысле Facebook, учитывая его масштабы и влияние, действительно должен быть общественным предприятием, что изменит мотивацию компании — как отмечает Хауген:

« Никто в Facebook не злонамерен, но стимулы не соответствуют друг другу, верно? Например, Facebook зарабатывает больше денег, когда вы потребляете больше контента. Людям нравится заниматься тем, что вызывает эмоциональную реакцию. И чем больше гнева они испытывают, тем больше они взаимодействуют и тем больше потребляют. ”

По сути, это главная проблема — сейчас мы имеем ситуацию, когда одно из ключевых средств распространения и распространения информации мотивировано не тем, чтобы надежно информировать людей, а тем, чтобы вызвать максимально возможное участие. И способ сделать это — спровоцировать эмоциональную реакцию, при этом ненависть и гнев являются одними из самых мощных мотиваторов, побуждающих людей к реакции.

Согласно исследованию, почти треть взрослого населения США регулярно получает доступ к новостному контенту на Facebook , а это означает, что по меньшей мере 86 миллионов американцев получают прямую информацию о последних событиях с платформы, у которой есть четкая мотивация показать им самое тревожное. эмоционально заряженные взгляды на каждый вопрос.

Издатели новостей также знают об этом, как и политики — на самом деле, согласно файлам Facebook, различные политические группы перешли к более пристрастным, вызывающим разногласия взглядам в своих подходах, чтобы успокоить алгоритм Facebook.

Если учесть масштабы охвата и влияние платформы на такие сообщения, становится ясно, что Facebook действительно влияет на то, как мы взаимодействуем.

Но с противоречивыми мотивами и необходимостью максимизировать участие в условиях растущей конкуренции, можем ли мы действительно ожидать, что Facebook изменит свой подход к лучшему?