Etkili Düzenleme, Bölücü İçeriğin Sosyal Ağlar Üzerindeki Etkisini Azaltabilir mi?

Facebook'un kullanıcıları zarardan korumak için yeterince çalışmadığını gösteren çeşitli dahili araştırma projelerinin ifşası olan The Facebook Files'ın ateşlediği yeni bir tartışma fırtınasının ortasında, ele alınması gereken temel soru genellikle şudur: sosyal medyanın aksine Facebook'un, şirketin doğal önyargısı ve belirli hedeflemesi ve bir kavram olarak algoritmik içerik amplifikasyonu tarafından çarpıtılmıştır.

Yani, düzeltmek için ne yapıyoruz? Gerçekçi olarak, aslında bir fark yaratacak ne yapılabilir; Sosyal medya uygulamalarının artan etkisinin bir sonucu olarak toplumda daha fazla öfkeye neden olan zararlı, bölücü paylaşımların büyütülmesini azaltmak için düzenleme veya politikada hangi değişiklikler uygulanabilir?

Burada sosyal medyayı daha geniş olarak ele almak önemlidir, çünkü her sosyal platform, içerik dağıtımını ve erişimini tanımlamak için algoritmalar kullanır. Facebook açık ara en büyüğü ve haber içeriği gibi temel unsurlar üzerinde daha fazla etkiye sahip - ve elbette, bu durumda araştırma içgörüleri Facebook'tan geldi.

Özellikle Facebook'a odaklanmak mantıklı, ancak Twitter daha fazla etkileşim sağlayan içeriği de güçlendiriyor, LinkedIn beslemesini en ilgi çekici olacağını belirlediği şeye göre sıralıyor. TikTok'un algoritması, ilgi alanlarınıza son derece uygundur.

Facebook muhbiri Frances Haugen'in vurguladığı gibi sorun, Facebook'un kendisi değil, algoritmik dağıtımdır - peki bu unsuru gerçekçi bir şekilde iyileştirebilecek hangi fikirlerimiz var?

Diğer soru ise, sosyal platformlar, özellikle katılım ve kullanıcı aktivite seviyeleri için bir risk oluşturuyorsa, bu tür değişiklikleri yapmaya istekli olacak mı?

Algoritmik içerik eşleştirme konusunda uzman olan Haugen, şu anda sosyal medya şirketlerini, kullanıcıların uygulamalarında paylaştığı şeyler için yasal sorumluluktan koruyan 230. .

Haugen'in açıkladığı gibi:

"Uygun bir gözetimimiz olsaydı veya Facebook'u kasıtlı sıralama kararlarının sonuçlarından sorumlu kılmak için [Bölüm] 230'da reform yaparsak, katılıma dayalı sıralamadan kurtulacaklarını düşünüyorum."

Buradaki kavram, Facebook'un - ve buna bağlı olarak tüm sosyal platformların - belirli içerikleri artırma yollarından sorumlu tutulacağıdır. Bu nedenle, örneğin algoritmik müdahale nedeniyle daha fazla insan COVID yanlış bilgilerini görürse, Facebook herhangi bir etkiden yasal olarak sorumlu tutulabilir.

Haugen'in belirttiği gibi, bu, platformların, kullanıcıların bu tür içeriklerle nasıl etkileşime girdiğine bağlı olarak gönderilerin erişimini artıran önlemlerden geri adım atmak zorunda kaldığını görebilir. .

Esasen, bu muhtemelen sosyal platformların, Facebook ve diğer uygulamaların size sayfalardaki içeriğin bir listesini ve takip ettiğiniz kişilerin gönderi zamanına göre kronolojik sırayla gösterdiği, algoritma öncesi günlere geri dönmek zorunda kalacağını görecektir. Bu da, algoritmanın kaprislerine oynamak için insanların ve markaların daha tartışmalı, etkileşimi kışkırtan içeriği paylaşma motivasyonunu azaltacaktır.

Bu fikrin bir değeri var - çeşitli çalışmaların gösterdiği gibi, sosyal gönderilerinizle duygusal tepkileri ateşlemek, katılımı en üst düzeye çıkarmanın anahtarıdır ve bu nedenle, algoritma güçlendirmesine dayalı erişim ve bu açıdan en etkili duygular, mizah ve öfkedir. Algoritma erişimiyle beslenen şakalar ve komik videolar hala tüm platformlarda iyi gidiyor, ancak aynı zamanda, partizan haber kuruluşlarının ve kişiliklerin birlikte çalıştığı, öfke uyandıran sıcak çekimler de öyle. çevrimiçi bakın.

Açık olmak gerekirse, Facebook bunlardan yalnızca sorumlu tutulamaz. Partizan yayıncılar ve tartışmalı kişiler uzun zamandır daha geniş bir söylemde rol oynadılar ve Facebook gelmeden çok önce ortanın solundaki fikirleriyle dikkat ve katılım sağlıyorlardı. Şimdiki fark şu ki, sosyal ağlar bu kadar geniş erişimi kolaylaştırırken, aynı zamanda Beğeniler ve diğer katılım biçimleri aracılığıyla, bireysel kullanıcılar tepki tetikleyerek bir dopamin isabeti elde ederek ve yayıncılar daha fazla yönlendirme trafiğini yönlendirerek ve kazanç elde ederek bu türler için doğrudan teşvik sağlar. provokasyon yoluyla daha fazla maruz kalma.

Gerçekten, eski sonucu düşünürken önemli bir konu, herkesin artık söz sahibi olması ve herkesin düşünce ve görüşlerini paylaşabileceği bir platform olduğunda, hepimiz buna çok daha fazla maruz kalıyoruz ve çok daha farkındayız. Geçmişte, muhtemelen amcanızın politik iknaları hakkında hiçbir fikriniz yoktu, ama şimdi biliyorsunuz, çünkü sosyal medya size her gün hatırlatıyor ve bu tür akran paylaşımı da daha geniş bölünmede rol oynuyor.

Bununla birlikte, Haugen'in argümanı, Facebook'un bunu teşvik ettiğidir - örneğin, Haugen'in Wall Street Journal'a sızdırdığı raporlardan biri, Facebook'un 2018'de Haber Kaynağı algoritmasını kullanıcılar arasındaki etkileşime daha fazla vurgu yapmak ve siyasi tartışmaları azaltmak için nasıl güncellediğini özetliyor. uygulamada giderek bölücü bir unsur haline geldi. Facebook bunu, gönderilerle farklı etkileşim türleri için ağırlığını değiştirerek yaptı.

Buradaki fikir, bunun yanıtları daha fazla ağırlıklandırarak daha fazla tartışmayı teşvik etmesiydi - ancak tahmin edebileceğiniz gibi, daha fazla erişim sağlamak için yorumlara daha fazla değer vererek, bu aynı zamanda daha fazla yayıncıyı ve Sayfayı giderek daha fazla bölücü, duygusal olarak paylaşmaya teşvik etti. Daha fazla tepki çekmek ve bunun sonucunda daha yüksek pay almak için ücretli gönderiler. Bu güncellemeyle, Facebook'un yorumları ve Tepkileri ('Kızgın' dahil) giderek daha önemli hale getirmesiyle, Beğeniler artık eskisi gibi erişimin temel itici gücü değildi. Bu nedenle, siyasi eğilimler hakkında kıvılcım yaratan tartışmalar aslında daha belirgin hale geldi ve daha fazla kullanıcıyı yayınlarında bu tür içeriklere maruz bıraktı.

O zaman, bu dahili verilere dayanarak öneri, Facebook'un bunu bildiği, bu değişikliğin bölücü içeriği artırdığını bildiği yönünde. Ancak geri dönmemeyi veya başka bir güncelleme uygulamamayı seçtiler, çünkü bunun sonucunda, işletmenin başarısı için önemli bir ölçüt olan katılım gerçekten de arttı.

Bu anlamda, algoritma motivasyonunu kaldırmak mantıklı olacaktır - veya belki, siyasi tartışma gibi belirli gönderi türleri için algoritma teşviklerini kaldırmayı düşünebilirsiniz, ancak yine de arkadaşlardan gelen daha ilgi çekici gönderilerin erişimini en üst düzeye çıkararak, hem katılım hedeflerine hem de bölücülere hitap eder. endişeler.

Platformun ürün güvenliği ekibinde çalışan Facebook'tan Dave Gillis, ifşalara yanıt olarak bir tweet dizisinde bunu işaret etti.

Gillis'e göre:

“ WSJ'nin algoritmik özet akışı sıralamasıyla ilgili yazısının sonunda, Haber Kaynağı'nda sivil ve sağlık içeriği için katılıma dayalı sıralamadan ayrıldığımızdan - neredeyse geçerken - bahsedildi. Ama bekle - bu çok önemli bir şey, değil mi? Kedi videolarını ve bebek fotoğraflarını beğenilere vb. göre sıralamak muhtemelen mantıklıdır, ancak diğer içerik türlerini daha dikkatli bir şekilde ele alın. Ve aslında ekiplerimizin yapmayı savunduğu şey de buydu: sağlık ve yurttaşlık içeriği için farklı sıralama sinyalleri kullanmak, katılım yerine kaliteye ve güvenilirliğe öncelik vermek. Etkiyi anlamak, liderliği almak için çok çalıştık - evet, Mark da - ve bu önemli bir değişiklik. ”

Bu, farklı içerik türleri için farklı sıralama sinyalleri kullanarak ileriye dönük bir yol olabilir; bu, içeriğin optimum şekilde genişletilmesini sağlamak için işe yarayabilir, faydalı kullanıcı katılımını artırırken, aynı zamanda bazı aktörlerin algoritmik bilgileri beslemek için bölücü materyal yayınlama motivasyonunu azaltır. ulaşmak.

Işe yarar mı? Yine, söylemek zor, çünkü insanlar hala gönderileri paylaşabilecekler, yine de çevrimiçi olarak yorum yapabilecek ve materyalleri yeniden dağıtabilecekler, amplifikasyonun algoritmanın kendisinin dışında gerçekleşmesinin hala birçok yolu var.

Özünde, sosyal platformların farklı içerik türlerini farklı şekilde ele alabileceği veya bu tür materyallerin çoğaltılmasını azaltmak için algoritmaların ortadan kaldırılabileceği yönündeki her iki önerinin de haklı yönleri vardır.

Haugen'in belirttiği gibi, sistemlerin kendilerine odaklanmak önemlidir, çünkü içerik tabanlı çözümler, materyal diğer dillerde ve bölgelerde yayınlandığında çeşitli karmaşıklıklar yaratır.

“Etiyopya örneğinde 100 milyon insan ve altı dil var. Facebook, bütünlük sistemleri için bu dillerden yalnızca ikisini destekler. Yapay zekanın bizi kurtarması için dile özgü, içeriğe özgü sistemlere odaklanma stratejisi başarısızlığa mahkumdur.”

O halde belki de algoritmaları kaldırmak veya en azından algoritmaların nasıl çalıştığına ilişkin düzenlemeleri değiştirmek, sosyal medya alanında olumsuz, öfke uyandıran içeriğin etkilerini azaltmaya yardımcı olabilecek optimal bir çözüm olabilir.

Ama sonra, Facebook'un algoritmasının çözmek için tasarlandığı orijinal soruna geri dönüyoruz - 2015'te Facebook, Haber Kaynağı algoritmasına yalnızca kullanıcı etkileşimini en üst düzeye çıkarmak için değil, aynı zamanda insanların çoğu güncellemenin tüm güncellemelerini görmesini sağlamak için de ihtiyaç duyduğunu açıkladı. onlar için alaka.

Açıklandığı gibi, o sırada ortalama bir Facebook kullanıcısı, beğendikleri Sayfalara ve kişisel bağlantılarına göre herhangi bir günde Haber Kaynağında görünmeye uygun yaklaşık 1.500 gönderiye sahipti - bazı daha aktif kullanıcılar için , bu sayı 15.000'den fazlaydı. İnsanların bu güncellemelerin her birini her gün okuması mümkün değil, bu nedenle Facebook'un ilk algoritma ile ana odak noktası, kullanıcılara en iyi ve en alakalı içeriği sağlamak için her bir birey için en iyi ve en alakalı içeriği ortaya çıkaran bir sistem oluşturmaktı. ilgi çekici bir deneyim ve daha sonra geri gelmelerini sağlayın.

Facebook'un baş ürün sorumlusu Chris Cox'un Time Magazine'e açıkladığı gibi:

"Bugün Dünya'da olan ve herhangi bir arkadaşınız, aileniz, herhangi bir haber kaynağı tarafından herhangi bir yerde yayınlanan her şeyi değerlendirebilir ve ardından bugün bilmek için en anlamlı olan 10'u seçerseniz, bu gerçekten harika olurdu. bizim için inşa etmemiz gereken bir hizmet. Haber Kaynağı olmasını gerçekten arzuladığımız şey bu."

Haber Kaynağı yaklaşımı o zamandan beri çok gelişti, ancak çözmek için tasarlandığı temel zorluk devam ediyor. İnsanların çok fazla bağlantısı var, çok fazla Sayfa takip ediyorlar, her gün tüm güncellemelerini alamayacak kadar çok grubun üyesiler. Feed algoritması olmadan, ilgili gönderileri, aile duyuruları ve doğum günleri gibi ilgili güncellemeleri kaçıracaklar ve Facebook deneyimiyle eskisi kadar meşgul olmayacaklar.

Algoritma olmadan Facebook, hedef kitle isteklerini optimize etmede başarısız olarak kaybedecek ve Facebook Dosyalarının bir parçası olarak paylaşılan başka bir raporda vurgulandığı gibi, aslında bazı demografik alt kümelerde etkileşim düşüşlerini görüyor.

Facebook algoritmayı ortadan kaldırırsa veya bu konudaki yönünü değiştirmek zorunda kalırsa, bu grafiğin zamanla daha da kötüleşeceğini hayal edebilirsiniz.

Bu nedenle Zuck ve Co.'nun bu çözüme hevesli olması pek olası değildir, bu nedenle Gillis'in önerdiği gibi bir uzlaşma beklenebilecek en iyi şey olabilir. Ancak bu, kendi kusurları ve riskleriyle birlikte gelir.

Her iki durumda da, tartışmanın odağının yalnızca Facebook'ta değil, daha geniş olarak algoritmalara kayması gerektiğini ve dağıtımı sınırlamak için algoritma tabanlı sistemler etrafındaki teşvikleri değiştirmenin gerçekten uygulanabilir, uygulanabilir bir yolunun olup olmadığını belirtmekte fayda var. daha bölücü unsurlardan

Bu bir problem olduğu için, Facebook veya başka biri onu nasıl döndürmeye çalışırsa çalışsın, Haugen'in duruşu bu yüzden önemlidir, çünkü bizi bu kilit unsur etrafında yeni, daha nüanslı bir tartışmaya götüren kıvılcım olabilir.