Orodja za zaposlovanje, ki jih poganja umetna inteligenca, morda ne bodo izboljšala raznolikosti zaposlovanja, trdijo strokovnjaki

Topline

Orodja za zaposlovanje, ki trdijo, da uporabljajo umetno inteligenco za izogibanje spolnim in rasnim pristranskosti, morda ne bodo izboljšala raznolikosti pri zaposlovanju in bi lahko dejansko ohranila te predsodke, so v nedeljo trdili raziskovalci z Univerze v Cambridgeu, ki so razvrstili programe, ki so bili v preteklosti deležni kritik, kot način uporabe tehnologije za hitro rešitev globlje težave.

Ključna dejstva

V prispevku, ki ga je objavil Filozofija in tehnologija, so raziskovalci preučili trditve več podjetij, ki ponujajo orodja za zaposlovanje, ki jih poganja umetna inteligenca, od katerih mnoga trdijo, da odpravljajo pristranskosti in spodbujajo raznolikost s skrivanjem imen, spolov in drugih identifikatorjev kandidatov, nekatera pa uvrstitev kandidatov na podlagi skeniranja življenjepisov, spletnega ocenjevanja in analize govora in obrazne mimike prosilcev.

Raziskovalca – dva profesorja na Centru za študije spolov Univerze v Cambridgeu – sta trdila, da lahko ta orodja dejansko spodbujajo enotnost pri zaposlovanju, ker reproducirajo kulturne pristranskosti »idealnega kandidata«, ki je bil v preteklosti beli ali evropski moški.

Orodja prav tako morda ne bodo izboljšala raznolikosti, ker temeljijo na preteklih podatkih podjetja in tako lahko spodbujajo kandidate, ki so najbolj podobni trenutnim zaposlenim.

Obstaja "malo odgovornosti za to, kako so ti izdelki izdelani ali preizkušeni," je v izjavi dejala Eleanor Drage, soavtorica študije in raziskovalka Centra za študije spolov Univerze v Cambridgeu, in dodala, da bi tehnologija lahko služila kot "nevarna" vir »napačnih informacij o tem, kako je zaposlovanje lahko 'nepristransko' in pravičnejše.«

Ključni citat

»S trditvijo, da je mogoče rasizem, seksizem in druge oblike diskriminacije odstraniti iz procesa zaposlovanja z umetno inteligenco, ta podjetja zmanjšajo raso in spol na nepomembne podatkovne točke, namesto na sisteme moči, ki oblikujejo naše premikanje po svetu, «je dejal Drage v izjavi.

Tangent

Amazon je leta 2018 napovedal, da bo stop uporabila orodje za zaposlovanje z umetno inteligenco za pregledovanje življenjepisov kandidatov za zaposlitev, potem ko je ugotovila, da sistem močno diskriminira ženske. To je zato, ker so bili računalniški modeli, na katere se je zanašala, razviti na podlagi življenjepisov, ki so jih podjetju predložili v zadnjih 10 letih in so večinoma prihajali od moških kandidatov.

Ključno ozadje

Organizacije so se vedno bolj obračale na AI za pomoč pri upravljanju postopkov zaposlovanja. V enem Anketa 2020 Od več kot 300 vodij človeških virov, ki so jih navedli avtorji nedeljskega časopisa, je svetovalno podjetje Gartner ugotovilo, da 86 % delodajalcev uporablja virtualno tehnologijo pri zaposlovanju, trend, ki se je pospešil, odkar je pandemija Covid-19 mnoge prisilila, da so delo prestavili na splet. Medtem ko so nekatera podjetja trdila, da lahko umetna inteligenca ponudi stroškovno in časovno učinkovitejši postopek zaposlovanja, nekatera Strokovnjaki imajo je pokazala, sistemi so nagnjeni k spodbujanju – namesto odpravljanju – zaposlovanja na podlagi rase in spola s posnemanjem obstoječih predsodkov iz resničnega sveta. Več ameriških zakonodajalcev je Namerjen za odpravo pristranskosti v sistemih umetne inteligence, saj se tehnologija še naprej hitro razvija in obstaja le malo zakonov, ki bi jo urejali. Bela hiša je ta teden objavila »Načrt za AI Bill of Rights«, ki trdi, da algoritmi, uporabljeni pri zaposlovanju, »odražajo in reproducirajo obstoječe neželene neenakosti« ali vgrajujejo nove »pristranskosti in diskriminacijo«. Načrt – ki ni pravno zavezujoč ali uradna vladna politika – poziva podjetja, naj zagotovijo, da umetna inteligenca ne diskriminira ali krši zasebnosti podatkov, in naj uporabnike obvestijo, kdaj se tehnologija uporablja.

Kaj paziti

Na seznamu priporočil avtorji nedeljskega Filozofija in tehnologija papir je predlagal, da se podjetja, ki razvijajo tehnologije umetne inteligence, osredotočajo na širše, sistematične neenakosti namesto na "individualizirane primere pristranskosti". Predlagajo na primer, da razvijalci programske opreme preučijo kategorije, ki se uporabljajo za razvrščanje, obdelavo in kategorizacijo kandidatov, in kako lahko te kategorije spodbujajo diskriminacijo z zanašanjem na določene predpostavke o spolu in rasi. Raziskovalci prav tako trdijo, da bi morali kadrovski strokovnjaki poskušati razumeti, kako delujejo orodja za zaposlovanje z umetno inteligenco in kakšne so njihove morebitne omejitve.

Presenetljivo dejstvo

Evropska unija je programsko opremo za zaposlovanje in orodja za ocenjevanje uspešnosti, ki jih poganja umetna inteligenca, uvrstila med »visoko tveganje« v svoji novi Osnutek pravni okvir o umetni inteligenci, kar pomeni, da bi bila orodja pod večjim nadzorom in bi morala izpolnjevati nekatere zahteve skladnosti.

Nadaljnje branje

DC želi voditi boj proti pristranskosti AI (Axios)