소셜 미디어는 잘못된 정보에 어떻게 대응해야 합니까?
게시 됨: 2022-03-09사회로서 우리는 소셜 미디어와 복잡한 관계를 가지고 있습니다. 온라인 괴롭힘, 잘못된 정보 및 증오심 표현에 대해 들을 때 우리는 그것이 사회에 드리우는 추한 그림자를 정당하게 비난합니다. 그러나 러시아가 우크라이나를 둘러싼 내러티브를 통제하기 위해 페이스북을 금지할 때 기본적인 인권이 박탈되는 것처럼 느껴진다.
우리의 혼란은 가치의 충돌로 인한 것입니다: 표현의 자유 vs. 피해로부터의 자유. 그리고 그것은 우리 시대의 가장 중요한 논쟁 중 하나입니다. 그러나 그것은 또한 지나치게 단순화되고 양극화되고 부족화된 논쟁이기도 합니다.
이 논쟁의 양면은 무엇입니까?
한 쪽은 어떤 규칙도 원하지 않는 절대주의자들의 표현의 자유입니다. 그들은 Gab과 Donald Trump의 "Truth Social"과 같은 새로운 소셜 미디어 플랫폼의 부상을 부추겼습니다. 그들은 빠르게 백인 민족주의, 반유대주의, QAnon 음모론으로 흘러갔다.
다른 쪽은 소셜 미디어에 대한 더 큰 국가 규제를 찾고 있습니다. 이로 인해 Google Fact Check, Good Information Inc 및 Trusted News Summit과 같은 새로운 이니셔티브가 생겨 무엇이 사실인지 확인했습니다. 이 쪽은 종종 인터넷을 감시할 국가의 권한을 부여하는 위험을 과소평가합니다. 이것이 어떻게 잘못될 수 있는지에 대한 예는 정보의 자유로운 흐름을 통제하려는 정치 체제의 소셜 미디어 단속입니다.
메타(특정 소셜 미디어 플랫폼을 구별하기 위해 "페이스북" 사용)를 예로 사용하여 논쟁의 양면을 검토하고 가치 충돌을 해결하기 위한 솔루션을 제안합니다.
불타오르는 페이스북
전 세계 인구의 거의 4분의 1이 Facebook을 사용하고 있으며 이는 세계에서 가장 인기 있는 소셜 미디어 플랫폼입니다.
그러나 "커뮤니티를 구축하고 세상을 더 가깝게 만든다"는 그들의 명시된 사명의 신뢰성은 최근에 비난을 받고 있습니다.
내부 고발자들은 Facebook이 사회보다 이익을 고의로 선택했다고 비난했습니다. 그들은 잘못된 정보 를 조장함으로써 페이스북이 민주적 절차의 무결성을 약화시키고 있다고 주장합니다. 또한 소셜 미디어의 잘못된 정보가 전염병에 효과적으로 대응하는 사회의 능력을 약화시켰다고 주장합니다.
Mark Zuckerberg는 다음과 같이 대답했습니다.
"우리 플랫폼에서 잘못된 정보가 갉아먹도록 허용하거나 이 콘텐츠로부터 어떤 식으로든 이익을 얻는다는 생각은 잘못된 것입니다."
페이스북의 변호는 그들이 다른 어떤 기술 플랫폼보다 팩트체킹 파트너를 더 많이 갖고 있다는 것입니다. 매달 500만 개 이상의 혐오 콘텐츠를 제거하는 그들의 노력은 확실히 인상적입니다.
Facebook은 또한 다음과 같은 조치를 취할 수 있는 4가지 유형의 콘텐츠를 나열하는 커뮤니티 표준을 안내합니다.
- 폭력 및 범죄 행위
- 안전 문제(예: 왕따, 아동 학대, 착취)
- 포르노 및 증오심 표현과 같은 불쾌감을 주는 콘텐츠
- 허위 콘텐츠(예: 잘못된 정보)
이 중 1~3번 항목에 대해서는 논란이 거의 없다. 폭력, 따돌림, 증오심 표현 등으로 인한 피해를 예방하기 위해 페이스북이 행동해야 한다는 데에는 폭넓은 공감대가 형성돼 있다.
논란이 되고 있는 것은 포인트 4, 잘못된 정보다.
잘못된 정보의 증가
때때로 우리는 모든 것을 믿으면서 아무 것도 믿지 않을 준비가 된 것처럼 느껴집니다.
그리고 이 느낌은 새로운 것이 아닙니다.
1835년에 New York Sun 신문은 달에 외계 문명이 있다고 주장했습니다. 그것은 너무 잘 팔려서 New York Sun을 최고의 출판물로 만들었습니다.
그러나 심리적 통제의 한 형태로서 표적화된 잘못된 정보는 디지털 커뮤니케이션의 등장과 함께 증가했습니다.
책에서 단어가 나타나는 빈도를 측정하는 Google Ngram 뷰어는 "잘못된 정보"라는 단어의 사용이 급격히 증가한 것을 보여줍니다. 
이를 이해하기 위해서는 잘못된 정보가 어떻게 퍼지는지 이해해야 합니다.
Facebook 알고리즘은 참여에 최적화되어 있습니다. 이는 종종 강력한 감정적 반응을 이끌어내는 콘텐츠를 홍보합니다. 알고리즘에서 중요한 것은 공유되는 정보의 정확성이 아니라 참여입니다.
흥미롭게도, 잘못된 정보는 에코 챔버가 거의 없을 때 멀리 이동하지 않습니다. 콘텐츠는 동의하지 않는 사용자까지 이동하며, 사용자는 이후에 사실을 확인하고 잘못된 정보로 드러냅니다.
그러나 온라인 그룹은 점점 더 이념적 신념에 의해 분리되고 있습니다. 이러한 거품에서 잘못된 정보는 문제 없이 네트워크를 통해 멀리 이동할 수 있습니다.
아래는 영국의 EU 국민투표 토론에서 나온 반향실을 시각적으로 나타낸 것입니다.
확증 편향 은 우리의 기존 견해와 일치하는 정보를 찾고 믿는 경향입니다. 심리학자들은 누군가의 마음은 한번 결정되면 그것을 바꾸기가 어렵다는 것을 알고 있습니다. 따라서 잘못된 정보는 알고리즘, 에코 챔버 및 확인 편향을 활용하여 기존 견해를 증폭하고 강화하는 것을 목표로 합니다. 이것은 극단주의로 이어질 수 있습니다.
이는 현실 세계로 유출될 때 특히 문제가 됩니다.
잘못된 정보가 실제로 미치는 영향의 예:
- QAnon 음모론에 뿌리를 둔 2021년 국회의사당 공격
- 가나, 나이지리아, 통고, 튀니지, 네덜란드를 포함한 국가에서 선거 중단
- 다양한 잘못된 정보 출처와 연결된 Covid-19 백신의 활용 부족
- 우익 극단주의자 포럼이 촉발한 샬러츠빌에서의 죽음
- QAnon에 뿌리를 둔 '피자게이트' 총격 사건
더욱이 잘못된 정보는 기관에 대한 우리의 신뢰를 약화시키고 공중 보건에 영향을 미치고 민주적 절차를 방해하는 잘못된 과학을 퍼뜨리는 것으로 밝혀졌습니다.
그렇다면 어떤 조치를 취해야 할까요?
검열 반대 주장
잘못된 정보의 피해를 방지하기 위해 옹호자들은 소셜 미디어를 규제하고 잘못된 정보를 제거하기 위해 더 큰 국가 개입을 요구하고 있습니다.
예를 들어, 유엔 사무총장 안토니오 구테흐스는 소셜 미디어 콘텐츠를 규제하기 위한 글로벌 규칙을 요구했습니다.
“너무 적은 수의 기업에 너무 많은 권한이 주어지는 세상은 살 수 없다고 생각합니다. 법에 따라 수행할 수 있도록 하는 규칙이 포함된 새로운 규제 프레임워크가 필요합니다.”
~ 유엔 사무총장 안토니오 구테흐스
이 진술 뒤에 숨겨진 감정에 동의하기 어렵습니다. 적절한 확인 없이 기술 회사의 힘은 우리의 통제를 넘어서 팽창할 수 있습니다.
그러나 우리가 소비하는 정보를 결정할 수 있는 권한을 기관에 부여하기 전에 잠재적인 단점을 고려해야 합니다.
첫째, 소셜 미디어 게시물을 검열하는 것은 다음과 같은 인권법 조항을 위반할 수 있습니다.
“모든 사람은 표현의 자유를 누릴 권리가 있습니다. 이 권리는 의견을 가질 자유와 공권력의 간섭 없이 정보와 아이디어를 받아들이고 영향을 미칠 자유를 포함합니다.”
~ 인권법 제10조
흥미롭게도 영국 정부는 현재 인권법을 "권리장전"으로 대체하는 개혁을 모색하고 있습니다.
제안된 한 가지 변경 사항은 "광범위한 공익을 보호"하는 경우 개인의 인권이 침해될 수 있다는 것입니다(56페이지, 인권 개혁). 이 변경으로 인해 주정부에서 잘못된 정보를 더 많이 검열할 수 있습니다.
잘못된 정보의 검열에 반대하는 두 번째 주장은 그것이 권력을 중앙 집중화하려는 정치 체제에 의해 남용될 가능성이 있다는 것입니다. 잘못된 정보가 무엇이고 무엇이 아닌지를 결정할 수 있는 권한은 항의, 집단 행동 및 정치적 행동에 대한 탄압으로 이어질 수 있습니다.
트위터와 페이스북이 당국의 단속을 받았다면 아랍의 봄이 일어날 수 있었을까?
아랍의 봄에서 소셜 미디어의 역할은 언론인에 의해 과장될 가능성이 높지만, 신중한 학술 분석에 따르면 소셜 미디어는 실제로 억압적인 정부가 있는 국가에서 긍정적인 집단 행동의 증가로 이어졌습니다.
또한 소셜 미디어 플랫폼을 금지한 국가의 실적을 볼 수 있습니다.
- 중국
- 러시아
- 이란
- 북한
이 모든 국가는 "세계 자유 지수"에 세계 최악의 시민 자유를 가진 국가로 나열되어 있습니다. 나는 그들이 소셜 미디어를 허용하지 않기 때문에 그들이 시민의 자유가 열악하다고 주장하는 것이 아니라, 온라인으로 정보를 통제하려고 하는 국가가 인권과 관련하여 나쁜 기록을 가지고 있는 경향이 있다는 것을 관찰합니다.
국가 검열이 해결책이 아닐지라도 우리에게는 문제가 있습니다.
전통적인 뉴스 소스에 대한 신뢰가 빠르게 증발하고 있습니다. 이 진공 속으로 잘못된 정보가 몰려들어 진실에 대한 우리의 이해력을 날려버릴 만큼 강한 바람을 일으킵니다. 이것은 백신 주저, 증가된 극단주의 및 민주적 절차의 혼란을 통해 사회에 해를 끼쳤습니다.
그러나 무엇이 사실인지 결정할 수 있는 권한을 국가에 넘기는 무책임한 반응은 잘못된 정보보다 더 큰 피해를 줄 수 있습니다.
그리고 어쨌든 인권침해일 가능성이 높다.
페이스북 솔루션에 대한 도전
Facebook의 목표는 자체 규제를 통해 정부의 규제를 방지하는 것입니다.
잘못된 정보를 해결하기 위한 전략은 다음과 같습니다.
- 잘못된 정보를 감지하기 위해 머신 러닝 적용
- 신고된 콘텐츠를 사실 변경하기 위한 대응 팀
- 콘텐츠를 확인하기 위해 제3자 사실 확인 기관과 협력
그러나 Facebook은 이 자동화된 접근 방식의 한계를 스스로 인정할 것입니다. 예를 들어 자동화된 프로그램이 풍자 웹사이트와 의도적인 잘못된 정보를 어떻게 구분할까요?
또한 클릭을 광고 수익으로 전환하기 위한 목적으로 엄청난 양의 클릭베이트가 존재합니다. 이들은 종종 매력적인 헤드라인을 가진 공식 뉴스 웹사이트처럼 보이는 템플릿 사이트를 사용하여 종종 시청자를 클릭하도록 속입니다.
이러한 사이트는 잘못된 정보가 아니지만 신뢰할 수 있는 정보 출처도 아닙니다.
풍자와 클릭베이트 사이에는 가십 칼럼과 오피니언 저널리즘이 있다. 이것은 객관성을 주장하지 않는 "합법적인" 미디어입니다. 예를 들어, 미국의 우익 언론평론가인 Ben Shapiro는 자신의 뉴스 웹사이트인 The Daily Wire가 뉴스를 보도하기 위해 존재하는 것이 아니라 '문화 전쟁에서 승리하기 위해' 존재한다고 공개적으로 인정합니다. 이러한 게시자의 일반적인 회전과 과장은 잘못된 정보를 찾는 자동화된 프로그램의 회색 영역입니다.
Mark Zuckerberg는 최근 "Facebook은 다른 어떤 회사보다 잘못된 정보를 해결하는 데 더 많은 노력을 기울이고 있습니다"라고 말했습니다. 그가 옳을 수도 있다. 하지만 충분합니까?
제안된 솔루션
우리는 잘못된 정보에 대한 해결책이 표현의 자유와 피해로부터의 자유라는 가치 충돌이라는 것을 보았습니다. 모든 솔루션은 이 둘의 균형을 찾아야 합니다.
나는 사고 실험으로서만 잠재적인 솔루션을 제공합니다. 결국 다른 사람의 작업에서 구멍을 고르는 것이 더 쉽고 스스로 제안하는 것이 훨씬 더 어렵습니다. 분명히, 이것은 내 전문 분야가 아니며 어떤 제안도 기껏해야 비현실적일 것입니다!
그 경고와 함께 저는 세 가지 사항을 제안할 것입니다.
- 개인의 소셜 미디어 게시물에서 잘못된 정보를 검열하려고 하지 마십시오.
- 알고리즘 방식으로 참여보다 권위 있는 콘텐츠 홍보
- 에코 챔버 제한
1. 개인 게시물의 잘못된 정보를 검열하지 않습니다.
이는 개인의 인권을 보호합니다. 또한 억압적인 정치 체제에 대항하기 위해 소셜 미디어를 사용하려는 활동가를 보호합니다.
그러나 이것은 대가를 치르더라도 언론의 자유가 아닙니다.
Facebook은 폭력적인 행동, 왕따, 착취 및 증오심 표현을 조장하는 콘텐츠를 계속해서 중단해야 합니다.
2. 매력적인 콘텐츠보다 권위 있는 콘텐츠 홍보
Facebook의 "EdgeRank" 알고리즘은 뉴스 피드에 표시되는 콘텐츠와 순서를 결정합니다.
그것은 당신의 개인적인 관심사와 더 넓은 커뮤니티가 특정 게시물과 상호 작용하는 방식을 결합하여 피드를 개인화하려고 합니다.
Facebook의 알고리즘은 참여도가 높은 콘텐츠를 홍보합니다. 종종 이것은 잘 작동하며 바이러스성 밈 및 고양이 비디오와 함께 친구 및 가족의 게시물을 볼 수 있습니다. 그러나 동일한 메커니즘이 종종 분열을 일으키거나 사실이 아닌 감정적인 내용을 조장하기도 합니다.
그러나 알고리즘은 Google의 PageRank 알고리즘과 유사한 방식으로 작동하도록 조정할 수 있습니다.
Google은 매력적인 콘텐츠가 아닌 권위 있는 콘텐츠를 홍보합니다. 다른 웹사이트가 하이퍼링크 또는 "백링크" 형태로 콘텐츠를 참조하는 횟수를 분석하여 이를 수행합니다. 예를 들어, Google의 PageRank 알고리즘 작동 방식에 대한 자세한 설명은 해당 페이지의 신뢰성을 나타내는 지표입니다.
개인이 웹사이트의 기사를 Facebook에 게시할 때 Facebook은 반드시 웹사이트를 팩트체크할 필요는 없습니다. 대신 Google과 유사한 방식으로 웹사이트의 권한을 알고리즘적으로 결정할 수 있습니다.
BBC와 같이 뉴스 소스가 권위 있는 경우 뉴스 피드에서 잘못된 정보, 스팸 또는 클릭베이트보다 우선시됩니다.
결정적으로 이 프로세스는 분산되어 있습니다.
BBC가 권위적이라고 결정한 사람은 아무도 없습니다. 대신 이 결론은 크라우드소싱의 결과입니다.
수백만 개의 개별 웹사이트가 BBC를 참조했습니다. 마치 권위 있는 학자의 작업이 합법적인 경우 인용을 받는 것과 같습니다. 따라서 중앙 집중식 제어의 위험이 최소화됩니다.
이 제안된 솔루션은 Facebook이 인터넷의 경찰이 될 필요 없이 잘못된 정보의 범위를 줄일 수 있습니다.
그렇다면 왜 Facebook은 이미 이와 같은 시도를 하지 않았습니까?
글쎄, 그것은 그들의 광고 수익을 감소시킬 것입니다. 매력적인 콘텐츠보다 권위 있는 콘텐츠를 홍보하는 것은 뉴스 피드를 약간... 음, 지루하게 만들 것입니다. 즉, 플랫폼에서 보내는 시간이 줄어들고 클릭이 줄어들고 광고 수익이 줄어듭니다.
Google이 PageRank의 지적 재산권을 소유하고 있다는 작은 문제도 있습니다. Facebook은 유사한 결과를 제공할 수 있지만 IP 침해를 방지할 수 있는 방법은 충분히 다른 자체 알고리즘을 개발해야 합니다.
나는 이것이 비현실성에 의해 제한된 사고 실험이라고 말했습니다!
3. 에코 챔버 제한
연구에 따르면 잘못된 정보는 에코 챔버가 적은 곳으로 멀리 이동하지 않습니다. 또한, 그룹 편파 이론은 에코 챔버가 전체 그룹을 보다 극단적인 위치로 이동시킨다고 제안합니다.
이것은 잘못된 정보가 문제가 아닐 수도 있음을 시사합니다. 아마도 에코 챔버일 것입니다…
분리된 사용자 클러스터가 적은 네트워크에서는 잘못된 정보가 더 멀리 이동하고 도달하는 사용자에게 미치는 영향이 줄어듭니다. 문제는 '분리된 사용자 클러스터'라는 문구가 '커뮤니티'를 기술적으로 표현하는 방식이라는 점입니다!
커뮤니티는 Facebook의 핵심이지만 양극화를 주도하는 것이기도 합니다.
따라서 에코 챔버를 제거하는 것은 실행 가능하지 않지만 피해를 제한하기 위한 조치를 취할 수 있습니다.
이러한 단계에는 다음이 포함될 수 있습니다.
- Facebook은 사용자가 뉴스 피드에서 개인화 기능을 끌 수 있는 기능을 제공하여 알고리즘 없이 다른 사람들이 무엇을 소비하는지 볼 수 있도록 할 수 있습니다.
- Facebook은 극도로 양극화되거나 당파적인 콘텐츠에 플래그를 지정하고 반대 관점에서 콘텐츠와 함께 볼 수 있는 옵션을 제공할 수 있습니다.
- 저널리즘 행동 강령을 준수하는 콘텐츠에 인증 배지를 부착할 수 있습니다.
또한 개인이 자신의 에코 챔버에서 벗어날 수 있도록 교육을 제공할 수 있습니다. 우리는 "비확인"을 추구할 책임이 있습니다.
우리에게 자연스러운 것은 아니지만 정보에 입각한 시민이 된다는 것은 우리가 반드시 동의하지 않을 수도 있는 정보를 소비하는 것을 의미합니다.
우리 모두는 조금 덜 확실하면 유익할 것입니다.
요약
사회적 연결은 우리 사회의 구조를 형성합니다. 그러나 같은 생각을 가진 공동체를 형성하려는 우리의 경향이 악용되어 잘못된 정보와 분열로 이어질 수 있습니다. 검열의 사이렌 외침은 매력적인 해결책처럼 보일 수 있지만 우리가 피하는 것이 더 나은 바위 쪽으로 우리를 유인할 수 있습니다.
합의를 벗어난 주장을 제거하는 것이 바람직해 보이지만 문제를 더 악화시킬 수 있습니다. 검열은 사람들이 권위에 대한 신뢰를 떨어뜨리고 더 악의적인 견해가 퍼질 수 있는 지하로 밀어넣을 수도 있습니다.
대신 우리는 탈중앙화된 솔루션을 찾아야 합니다.
잘못된 정보의 피해를 최소화하는 동시에 우리의 기본적인 인권인 표현의 자유를 보호하는 솔루션입니다.