Instagram, Pinterest Predlagana vsebina je povzročila smrt

Smrt algoritma: Ko gremo proti poglobljenemu življenju v Metaverse, alarmi tulijo. Tehnološka podjetja morajo urediti svoje algoritme, sicer bi bila to za nekatere lahko tvegana prihodnost.

Čeprav še nismo pri Web3, so težave z Web2 še vedno zelo zaskrbljujoče. Medtem ko so algoritmi, ki jih je izdelala velika tehnologija, lahko dobri za družbo, kot so tisti, ki jih vnaprej predvideti zločin, so še drugi, ki so totalna katastrofa.

Mrliški oglednik Andrew Walker je ugotovil, da je vzrok smrti 14-letne Molly Rose Russell dejanje samopoškodovanja. Dejal je, da je to posledica depresije in negativnega vpliva spletnih vsebin.

Walker je dejal da "za nas ne bi bilo varno, če bi priznali samomor kot vzrok smrti."

Smrt algoritma: Instagram in Pinterest

Strokovnjak je dejal, da sta Instagram in Pinterest uporabila algoritme, ki so izbrali in delili neprimerno vsebino z učenko, ne da bi ona zahtevala informacije. Walker poroča: »Nekatere vsebine so romantizirale samopoškodovanje mladih, medtem ko so druge spodbujale izolacijo in onemogočale razpravo o težavi z ljudmi, ki bi lahko pomagali.«

Po mnenju The Guardian, je Russell leta 2,000 na predvečer svoje smrti shranila, všečkala ali objavila več kot 2017 objav na Instagramu. Vsi so bili povezani s samomorom, depresijo ali samopoškodovanjem. Deklica si je ogledala tudi 138 filmov podobne narave. Med njimi so bile tudi epizode serije 13 razlogi, zakaj za osebe 15+ in 18+.

Otroški psihiater je med zaslišanjem dejal, da potem, ko je analiziral, kaj je Russell gledal malo pred njeno smrtjo, tedne ni mogel trdno spati.

»10 žebljičkov za depresijo, ki vam bodo morda všeč«

Preiskovalci so na dekličinem računu Pinterest našli na stotine fotografij samopoškodovanja in samomora. Izkazalo se je tudi, da je platforma študentom pošiljala e-pošto s priporočili za neprimerne vsebine. Nekateri od njih so imeli naslove: "10 žebljičkov za depresijo, ki vam bodo morda všeč."

Najverjetneje je material, ki si ga je ogledala Molly, ki že trpi za depresivno motnjo in je ranljiva za poškodbe, povezane s starostjo, negativno vplival nanjo. Verjetno je tudi več kot minimalno prispevalo k otrokovi smrti.

Uradniki Mete in Pinteresta so se opravičili in priznali, da je Russell na platformah naletel na vsebino, ki tam ne bi smela biti. Tiskovni predstavnik Mete je dejal: »Želimo, da Instagram zagotovi pozitivno izkušnjo za vse, še posebej za najstnike. Pozorno si bomo ogledali celotno poročilo mrliškega oglednika, ko ga bo podal.«

Pinterest je izjavil, da nenehno izboljšuje platformo in se zavezuje k zagotavljanju varnost za vse.

Drugi primeri

Tik Tok je bil maja tožen zaradi domnevnih "smrtonosnih priporočil" njegovih algoritmov. Decembra 2021 Amazonova virtualna pomočnica Alexa predlagal usoden izzive 10-letnemu otroku.

To je pogumen nov svet, a tudi strašljiv. Velika tehnologija ne more biti zadovoljna s prihodnjo vlogo, ki jo ima v tem vprašanju.

Imate kaj za povedati o smrti algoritma ali o čem drugem? Pišite nam ali se pridružite razpravi v naši Telegram kanal. Lahko nas tudi ujamete Tik tok, Facebook ali Twitter.

Zavrnitev odgovornosti

Vse informacije na našem spletnem mestu so objavljene v dobri veri in zgolj za splošne informacije. Vsako dejanje, ki ga bralec izvede na podlagi informacij na naši spletni strani, je izključno na lastno odgovornost.