Dogodki iz resničnega sveta spodbujajo porast spletnega sovražnega govora, ugotavlja študija

Topline

Dogodki v resničnem svetu, kot so volitve in protesti, lahko privedejo do skokov v spletnem sovražnem govoru na običajnih in obrobnih platformah, študija, objavljena v sredo v reviji PLOS ONE, s sovražnimi objavami, ki naraščajo, čeprav jih poskušajo zatreti številne platforme družbenih medijev.

Ključna dejstva

Z uporabo analize strojnega učenja – načina analiziranja podatkov, ki avtomatizira gradnjo modela – so raziskovalci pregledali sedem vrst spletnega sovražnega govora v 59 milijonih objav uporabnikov 1,150 spletnih sovražnih skupnosti, spletnih forumov, v katerih je najverjetneje uporabljen sovražni govor, vključno s spletnimi mesti, kot so Facebook, Instagram, 4Chan in Telegram.

Skupno število objav, vključno s sovražnim govorom, v sedemdnevnem drsečem povprečju je tekom študije, ki je potekala od junija 2019 do decembra 2020, naraščalo in se je povečalo za 67 % s 60,000 na 100,000 dnevnih objav.

Včasih se je sovražni govor uporabnikov družbenih medijev povečal tako, da je zajel skupine, ki niso bile vpletene v dogodke v resničnem svetu tistega časa.

Med primeri, ki so jih opazili raziskovalci, je bil porast verskega sovražnega govora in antisemitizma po ameriškem atentatu na iranskega generala Kasema Sulejmanija v začetku leta 2020 ter porast verskega sovražnega govora in govora na podlagi spola po ameriških volitvah novembra 2020, med katerimi je bila Kamala Harris izvoljena za prvo podpredsednico.

Kljub prizadevanjem posameznih platform za odstranitev sovražnega govora, je spletni sovražni govor po mnenju raziskovalcev še vedno prisoten.

Raziskovalci so opozorili na medijsko pozornost kot enega ključnih dejavnikov pri spodbujanju objav, povezanih s sovraštvom: na primer, malo medijske pozornosti je bilo na primer, ko je policija prvič ubila Breonno Taylor, zato so raziskovalci ugotovili, da je sovražnega govora na spletu minimalno, ko pa je bil nekaj mesecev kasneje ubit George Floyd in medijska pozornost je rasla, prav tako sovražni govor.

Velika številka

250 % Za toliko se je povečala stopnja rasnega sovražnega govora po umoru Georgea Floyda. To je bil največji porast sovražnega govora, ki so ga odkrili raziskovalci v študijskem obdobju.

Ključno ozadje

Sovražni govor že leta razburja družbena omrežja: platforme, kot so Facebook in Twitter imajo politike prepovedi sovražnega govora in so se zavezali, da bodo odstranili žaljivo vsebino, vendar to ni odpravilo širjenja teh objav. V začetku tega meseca je skoraj dva ducata neodvisnih imenovanih ZN so pozvali strokovnjaki za človekove pravice več odgovornosti platform družbenih medijev za zmanjšanje količine sovražnega govora na spletu. In strokovnjaki za človekove pravice niso edini v želji, da bi družbena omrežja naredila več: december USA Today-Raziskava Univerze Suffolk je ugotovilo, da 52 % vprašanih meni, da bi morale platforme družbenih medijev omejiti sovražno in netočno vsebino, medtem ko 38 % meni, da bi morala biti spletna mesta odprt forum.

Tangent

Nekaj ​​dni po tem, ko je milijarder Elon Musk lani sklenil posel o nakupu Twitterja in obljubil omilitev politike moderiranja spletnega mesta, je na spletnem mestu prišlo do »navala sovražnega vedenja«. po besedah ​​Yoela Rotha, Twitterjev nekdanji vodja varnosti in integritete. Takrat je Roth tvitnil, da je ekipa za varnost v treh dneh odstranila več kot 1,500 računov zaradi sovražnega vedenja. Musk se je soočil z ostrimi kritikami zagovorniških skupin, ki trdijo, da je pod Muskovim vodstvom in z omilitvijo predpisov glede govora obseg sovražnega govora na Twitterju dramatično narasel, čeprav je Musk vztrajal prikazi na sovražnih tvitih so upadli.

Nadaljnje branje

Vodja varnostnega oddelka Twitterja priznava "naval sovražnega vedenja", saj obrazec domnevno omejuje dostop do orodij za moderiranje (Forbes)

Nekateri zadržki glede zahteve po doslednosti za odločitve o moderiranju vsebine družbenih medijev. (Forbes)

Kaj naj oblikovalci politik storijo, da bi spodbudili boljše moderiranje vsebine platforme? (Forbes)