Facebook 내부 고발자는 뉴스 콘텐츠에 대한 회사의 접근 방식에서 상충되는 동기에 대해 설명합니다.

페이스북은 사회에 해롭고 회사가 알면서도 이용과 이익을 극대화하기 위해 분열과 불안에 공헌하는가?

이것은 특히 2016년 미국 대선 이후로 지난 몇 년 동안 지속되어 온 핵심 질문입니다. 그리고 이제 우리는 이 주제에 대한 Facebook의 생각에 대한 통찰력을 얻었습니다. 지난 2주 동안 The Wall Street Journal은 다양한 내부 연구와 이에 대한 Facebook 경영진의 답변을 보고했습니다. 디자인의 주요 결함을 해결하는 데 있어 회사가 아무런 조치를 취하지 않았음을 폭로하려고 했습니다.

그 전 직원은 지난 밤 CBS에 의해 2020년 미국 선거로 인해 해산되기 전에 Facebook의 Civic Integrity 팀에서 일했던 알고리즘 설계 전문가인 Frances Haugen인 것으로 밝혀졌습니다. Haugen이 공유한 정보에 따르면 Facebook은 플랫폼의 최악의 측면을 해결하기 위해 더 강력한 조치를 취하는 것을 의도적으로 피했습니다. 그러한 조치가 사용 및 수익에 미칠 수 있는 영향 때문입니다.

Facebook은 Haugen의 주장을 반박했지만, 그녀의 진술은 많은 이전 보고서가 제안한 것과 일치하며 Zuckerberg의 사회적 거물이 사회적으로 미치는 영향에 대한 주요 우려를 강조합니다.

Haugen의 주요 주장은 Facebook이 사용 및 사용자 참여를 유지하기 위해 자체 연구를 기반으로 한 결과에 대해 고의로 간과하거나 무시했다는 것입니다.

Haugen의 설명:

“페이스북에서 반복해서 본 것은 대중에게 좋은 것과 페이스북에 좋은 것 사이에 이해 충돌이 있다는 것이었습니다. 그리고 페이스북은 계속해서 더 많은 돈을 버는 것과 같은 자신의 이익을 위해 최적화를 선택했습니다."

어느 정도 이해가 갑니다. Facebook은 결국 비즈니스이며, 이익을 추구하고 주주에게 최대 가치를 제공합니다.

Facebook의 경우 문제는 역사상 가장 최신의 상호 연결된 인간 네트워크를 운영하고 있다는 것입니다. 이 중 많은 사용자가 앱을 사용하여 다양한 측면에서 최신 정보를 얻고 뉴스에 대한 주요 통찰력을 수집하는 30억 명의 사용자를 확보하고 있습니다. 오늘의. 그만큼 여론에 영향을 미치는 영향력이 크다.

즉, Haugen이 지적한 대로 결정이 큰 영향을 미칠 수 있습니다.

“ 페이스북은 더 많은 콘텐츠를 소비할 때 더 많은 돈을 번다. 사람들은 감정적 반응을 이끌어내는 일에 참여하는 것을 즐깁니다. 그리고 그들이 더 많은 분노에 노출될수록 더 많이 상호 작용하고 더 많이 소비합니다. "

실제로 Haugen의 Facebook 파일에서 강조된 다양한 결과 중에서 그녀가 본질적으로 Facebook HQ에서 밀수한 수천 개의 내부 문서는 Facebook이 다음과 같이 제안합니다.

• 플랫폼에서 증오심 표현의 유행과 영향을 간과함
• 플랫폼이 부정적인 신체 이미지를 증폭시킨다는 결과와 함께 젊은 사용자에 대한 Instagram의 부정적인 영향을 경시했습니다.
• 비용/이익 분석으로 인해 개발 도상국의 Facebook 사용과 관련된 주요 문제를 해결하지 못했습니다.
• 백신 콘텐츠 확산에 대처하지 못함

다시 말하지만, 이러한 요소 중 많은 부분이 다른 곳에서 널리 보고되었지만 Haugen의 파일은 Facebook이 이러한 각 측면을 실제로 잘 알고 있으며 때때로 행동하지 않거나 상당한 반격을 선택했다는 직접적인 증거를 제공합니다. 비즈니스 이익과 충돌합니다.

Facebook의 PR 팀은 이러한 주장에 대응하기 위해 열심히 노력해 왔으며 각 Facebook Files 보고서에 대해 단계별 답변을 제공했으며 이러한 연구 보고서의 존재 자체가 Facebook이 이러한 문제를 해결하기 위해 노력하고 있음을 보여줍니다. 이러한 문제가 있는 요소와 싸우십시오.

Facebook은 사용자에게 더 많은 보호 및 제어 옵션을 제공하기 위해 Instagram에서 수행한 다양한 변경 사항을 지적하는 반면 Facebook은 분열적이고 불안을 유발하는 콘텐츠에 대한 노출을 제한하기 위해 알고리즘 순위를 개선하기 위해 노력하고 있습니다.

그러나 동시에 페이스북은 그러한 영향을 더 큰 규모로 축소했습니다.

페이스북의 정책 및 글로벌 업무 담당 부사장인 닉 클레그(Nick Clegg)는 페이스북이 국회의사당 건물에서 선거 후 시위에 기여하는 데 핵심적인 역할을 했다는 제안에 주목했습니다.

“1월 6일의 주장이 소셜 미디어 때문에 설명될 수 있다고 생각하는데, 그건 그냥 터무니없다고 생각해요.”

Clegg의 견해는 Facebook은 광범위한 사회 변화의 작은 부분일 뿐이며 다양한 지역에서 이러한 주요 갈등으로 이어지는 핵심 문제가 될 수 없다는 것입니다.

이 점에서 Facebook의 영향이 무엇인지 아는 것은 불가능하지만 Haugen의 파일을 기반으로 하면 분명히 몇 가지 주요 기여자가 있습니다.

“ 페이스북은 더 많은 콘텐츠를 소비할 때 더 많은 돈을 번다. 사람들은 감정적 반응을 이끌어내는 일에 참여하는 것을 즐깁니다. 그리고 그들이 더 많은 분노에 노출될수록 더 많이 상호 작용하고 더 많이 소비합니다.”

분노는 가장 많은 반응과 가장 많은 참여를 불러일으키는 감정이며, Haugen은 본질적으로 Facebook이 증오를 불러일으키는 콘텐츠의 확산을 촉진하여 부산물로 분열을 증폭함으로써 그로부터 이익을 얻고 있다고 주장합니다.

" 우리가 분노하고 증오하며 양극화되는 콘텐츠로 가득 찬 정보 환경에 살면 우리의 시민 신뢰, 서로에 대한 믿음, 서로를 보살피려는 우리의 능력, 존재하는 Facebook 버전이 무너집니다. 오늘날은 우리 사회를 분열시키고 전 세계적으로 인종 폭력을 일으키고 있습니다. "

여기에는 두 가지 측면이 있으며 둘 다 똑같이 옳을 수 있습니다. Haugen이 지적한 것처럼 하나는 Facebook이 증오를 유발하는 콘텐츠의 확산을 촉진하려는 근본적인 동기를 가지고 있다는 것입니다. 이는 사용자 사이에서 더 많은 참여를 유발하는 동시에 사회적 분열을 악화시키기도 합니다. 이는 Facebook 규모에서 상당한 영향을 미칠 수 있습니다.

반면에 페이스북이 언급한 것처럼 아무 이유 없이 그러한 연구를 수행하는 것은 아닙니다. 이러한 문제를 완전히 무시하는 것은 이러한 연구를 전혀 수행하지 않는 것이며 Zuck and Co.는 모든 당사자가 원하는 만큼 많은 조치를 취하지 않을 수 있지만 회사가 이러한 문제를 해결하기 위해 노력하고 있음을 시사하는 증거가 있습니다. 그러나 이상적으로는 비즈니스 영향도 줄이는 보다 측정된 방식으로 우려합니다.

문제는 그러한 결과적인 결정에 '비즈니스 영향'을 고려해야 합니까?

다시 말하지만, Facebook은 역사상 가장 큰 상호 연결된 사람들 네트워크를 운영하므로 알고리즘에 영향을 받은 공유의 완전한 영향이 무엇인지 알지 못합니다. 그것의 더 넓은 영향.

어떤 면에서 페이스북은 그 규모와 영향력 면에서 실제로 공공 유틸리티가 되어야 하며, 이는 Haugen이 언급한 바와 같이 회사의 동기를 변화시킬 것입니다.

“ 페이스북에 악의적인 사람은 아무도 없지만 인센티브가 잘못 정렬되어 있지 않습니까? 마찬가지로 Facebook은 더 많은 콘텐츠를 소비할 때 더 많은 돈을 벌 수 있습니다. 사람들은 감정적 반응을 이끌어내는 일에 참여하는 것을 즐깁니다. 그리고 그들이 더 많은 분노에 노출될수록 더 많이 상호 작용하고 더 많이 소비합니다. "

핵심적으로 이것이 주요 문제입니다. 이제 우리는 정보 배포 및 보급을 위한 핵심 수단 중 하나가 사람들에게 신뢰할 수 있는 정보를 제공하는 것이 아니라 가능한 한 최대한의 참여를 유도함으로써 동기를 부여받는 상황에 있습니다. 그리고 그렇게 하는 방법은 감정적 반응을 불러일으키는 것입니다. 증오와 분노는 사람들이 반응하도록 유인하는 가장 강력한 동기 중 하나입니다.

연구에 따르면 미국 성인의 거의 3분의 1이 Facebook에서 정기적으로 뉴스 콘텐츠에 액세스합니다. 즉, 최소 8600만 명의 미국인이 가장 불안을 유발하는 것을 보여주려는 분명한 동기가 있는 플랫폼에서 최신 사건에 대한 직접적인 통찰력을 얻고 있습니다. 감정적으로 충전된 각 문제에 걸립니다.

뉴스 게시자는 정치인과 마찬가지로 이를 알고 있습니다. 실제로 Facebook Files에 따르면 다양한 정치 단체가 Facebook의 알고리즘을 달래기 위해 접근 방식을 보다 당파적이고 분열적인 방식으로 전환했습니다.

도달 범위의 규모와 플랫폼이 이러한 메시지에 미치는 영향을 고려할 때 Facebook이 참여 방식에 영향을 미친다는 것은 분명합니다.

그러나 동기가 상충하고 경쟁이 치열해짐에 따라 참여를 극대화해야 하는 상황에서 Facebook이 더 큰 이익을 위해 접근 방식을 변경하기를 정말로 기대할 수 있습니까?