Meta podpira novo platformo za pomoč mladoletnikom pri brisanju golih spolnih podob z interneta

TNacionalni center za pogrešane in izkoriščane otroke je uvedel platformo, ki jo financira Meta, da bi otrokom in najstnikom pomagali pri odstranjevanju golih ali spolnih fotografij in videoposnetkov iz družbenih medijev.

Nova storitev za mladoletnike, imenovana Vzemi dol, je bil predstavljen eno leto po izdaji podobnega orodja za odrasle, znanega kot StopNCII (okrajšava za non-consensual intimate imagery). Danes bo Take It Down deloval le na petih platformah, ki so se strinjale s sodelovanjem: Facebook in Instagram v lasti Meta ter Yubo, OnlyFans in Pornhub.

"Ta sistem smo ustvarili, ker se veliko otrok sooča s temi obupnimi situacijami," je povedala predsednica in izvršna direktorica NCMEC Michelle DeLaune. "Upamo, da se bodo otroci zavedali te storitve in občutili olajšanje, ker obstajajo orodja, ki pomagajo odstraniti slike."

Kako podjetja družbenih medijev ščitijo otroke in najstnike – in kje zaostajajo – se je v novem kongresu pojavilo kot glavno vprašanje dvostranske tehnološke politike in tisto, kjer imajo zakonodajalci najboljše možnosti za sprejemanje zakonodaje. Kljub temu je pred nami še dolga pot do kakršnih koli predlogov za ustvarjanje ali krepitev zaščitnih ukrepov, in ker ni neizbežnih zakonov, NCMEC še naprej deluje kot most med spletnimi podjetji in organi kazenskega pregona glede vprašanj varnosti otrok. Leta 2021 je neprofitna organizacija prejela skoraj 30 milijonov namigov iz vse industrije o očitnem spolnem izsiljevanju in spolnem zlorabi otrok na svojih platformah. Večino so poročale platforme v lasti Mete.

Mladoletniki in starši lahko uporabljajo Brezplačno, anonimno orodje NCMEC za označevanje eksplicitnega gradiva mladoletne osebe, ki je bilo – ali mislijo, da se bo – razširilo na spletu. Ko izberejo občutljive fotografije ali videoposnetke v svoji napravi, platforma ustvari ekvivalent digitalnega prstnega odtisa te fotografije (imenovan »hash«), ki ga NCMEC nato deli s sodelujočimi spletnimi mesti družbenih medijev, da lahko poskušajo najti, omejite ali odstranite ter spremljajte to vsebino.

Po mnenju NCMEC zadevne fotografije ali videoposnetki predvsem ne zapustijo naprave in si jih nihče ne ogleda. (Zgoščena vrednost prav tako omogoča, da žrtve niso identificirane tako za NCMEC kot za aplikacijo družbenih medijev, kar sporoča le, da je slika škodljiva in jo je treba odstraniti.) NCMEC je dejal, da ni bilo znanih kršitev njegove zbirke podatkov o zgoščenih podatkih, ki bi lahko razkrila identiteto posameznika. .

Toda ena največjih ovir za to prizadevanje je porast šifriranja od konca do konca. "Ko tehnološka podjetja izvajajo enkripcijo od konca do konca, brez vgrajenih preventivnih ukrepov za odkrivanje znanega gradiva o spolni zlorabi otrok, je vpliv na varnost otrok uničujoč," je dejal DeLaune, predsednik NCMEC, na zaslišanju senatnega odbora za pravosodje ta mesec. . Slon v sobi je, da je finančni zagovornik in najbolj vidno podjetje, vključeno v Take It Down, Meta, premikanje na posnetku proti šifriranju od konca do konca na Instagramu in Messengerju.

Kako lahko obe organizaciji to uskladita, je "vprašanje za milijon dolarjev", je povedal podpredsednik NCMEC Gavin Portnoy Forbes, pri čemer ugotavlja, da NCMEC še vedno ne ve natančno, kakšni so načrti Mete za šifriranje in kakšni zaščitni ukrepi so morda vzpostavljeni. (Meta je povedala, da so v teku in da se na Instagramu in Messengerju preizkušajo različne funkcije šifriranja.)

»Take It Down gradimo za današnjo lokacijo interneta in [ponudnika elektronskih storitev],« je dejal Portnoy. »To je res most, ki ga bomo morali prečkati, ko bomo bolje razumeli, kako izgleda [Metino] okolje šifriranja od konca do konca – in ali obstaja svet, v katerem lahko Take It Down deluje.«

Metina globalna vodja varnosti, Antigone Davis, je povedala Forbes da »šifriranje povzroči, da določenih slik ne bomo prepoznali«, vendar postaja industrijski standard pri sporočanju, ki je ključnega pomena za zasebnost in varnost uporabnikov. Uporaba zgoščevalne tehnologije in podpora NCMEC pri projektih, kot je ta, sta med številnimi načini, s katerimi se Meta poskuša »res soočiti s težavo«, je dejala. (Obe strani nista želeli povedati, koliko denarja je Meta dala NCMEC za izgradnjo Take It Down.)

"Ni zdravila za reševanje teh vprašanj," je dejal Davis v intervjuju in opisal Metin pristop kot "večplasten." Poleg tega, da sodeluje pri tem novem sistemu, namenjenem preprečevanju spolnega izsiljevanja in neprivolitvenega širjenja intimnih podob, Meta odraslim tujcem ne dovoljuje povezovanja z mladoletniki prek svojih funkcij za sporočanje, je dejala. Prav tako uporablja klasifikatorje, da prepreči, da bi bili računi in vsebina mladoletnikov posredovani odraslim uporabnikom Mete, ki so pokazali sumljivo vedenje na spletu, je dodala.

»Upam, da bodo ljudje, ki jim je v mladosti kdo delil takšne slike – starš, ki jih je izkoriščal, druga odrasla oseba, ki jih je izkoriščala, bivši fant ali punca –, začutili zanimanje za uporabite to orodje,« je rekel Davis.

NCMEC je dejal, da jih je nekaj predstavil 200 drugih ponudnikov elektronskih storitev ki so svojemu “CyberTipline” posredovali informacije o pridružitvi programu Take It Down. Še vedno je treba videti, kdo drug – poleg majhne peščice igralcev družbenih medijev, ki ga danes zagovarjajo – se bo pridružil. Yubo je s svoje strani dejal, da upa, da bodo ti prvi uporabniki spodbudili druge, da se pridružijo.

»Za zmanjšanje tveganja in reševanje težav na spletu je potrebno več kot le vladno posredovanje,« je po elektronski pošti povedal izvršni direktor Yubo Sacha Lazimi. »Vsi igralci morajo odigrati svojo vlogo. … Sodelovanje je ključnega pomena za iskanje rešitev za velike izzive, zato upamo, da se bo več platform pridružilo pobudi Take It Down.«

VEČ OD FORBESKako je TikTok Live postal "strip klub, poln 15-letnikov"By Alexandra S. LevineVEČ OD FORBESTi računi TikTok na očeh skrivajo gradivo o spolni zlorabi otrokBy Alexandra S. LevineVEČ OD FORBESModeratorji TikTok se usposabljajo z uporabo grafičnih podob spolne zlorabe otrokBy Alexandra S. Levine