Najnovejša zaskrbljenost glede etike umetne inteligence je, da lahko umetna inteligenca neločljivo uteleša politične pristranskosti, tudi v neškodljivem primeru samovozečih avtomobilov, ki temeljijo na umetni inteligenci

Govorimo o politiki.

No, zavedam se, da ste verjetno pregoreli zaradi navideznega nenehnega osredotočanja na politiko v vseh virih razpoložljivih medijev v teh dneh. Rdeča stanja v primerjavi z modrimi stanji. Liberalci proti konservativcem. Demokrati proti republikam. Klepetanje o političnih mahinacijah je neskončno neskončno.

Morda ste upravičeno domnevali, da obstajajo teme, pri katerih politika ni posebej pomembna. V bistvu morda obstajata dva ločena razreda tem, in sicer teme, ki so ne glede na vse politično prežete, in druge bolj banalne teme, ki bi obkrožile ali pobegnile iz političnega področja.

Zdi se smiselno, da se bodo pojavile tiste vpadljive teme, ki bodo večno zatopljene v politiko in politične furije, kot je dolgoletni seznam, ki vključuje vidike nacionalnega zdravstvenega varstva, volilne vidike, nadzor nad orožjem, priseljevanje, in podobni. Vse, kar morate storiti, je, da omenite katero koli od teh tem in naslednja stvar, ki se zgodi, je, da ste potopljeni v politično nevihto. Precej vroči argumenti so precej zagotovljeni.

Na drugi strani kovanca je morda nekaj tem, ki ne povzročajo takšnega klečeta političnega odziva. Pred vami bi rad postavil eno takšno temo, da bi dobil vašo prvotno reakcijo.

Pripravljeni?

Avtomobili.

Da, vsakdanja tema avtomobilov, avtomobilov, motornih vozil ali kakorkoli bi jo želeli izraziti, ali to sproža politično ogorčenje ali podžiga politično nabito diatribo ali verbalne pretepe?

Na površju se morda ne zdi, da obstaja povečana politična zaskrbljenost glede avtomobilov. So preprosto oblika dnevnega prevoza. Sedeš v avto in se odpelješ v službo. Svoj avto uporabljate za opravke in greste po živila. Če si lahko vzamete nekaj časa za počitnice, se z avtomobilom odpravite v odprte gozdove ali morda obiščete dragocene nacionalne spomenike.

Zdi se, da so avtomobili apolitični.

Oprostite, ampak to v veliki meri ni tako.

Lahko trdimo, da so avtomobili intimno obkroženi in potopljeni v politiko kot katera koli druga tako imenovana tema žariščne točke. Morda splošni mediji o avtomobilsko usmerjeni politiki ne pokrivajo toliko, kot bi bilo mogoče storiti za druge bolj mikavne teme, a kljub temu politični podtoki še vedno obstajajo.

Ena očitna politična razsežnost je sestavljena iz tega, iz česa bi morali biti naši avtomobili.

Mislim na ličenje oziroma mehanizacijo avtomobilov. Na primer, obstaja burna politična razprava o tem, ali naj avtomobili uporabljajo ICE (motorje z notranjim zgorevanjem) v primerjavi s prehodom na EV (električna vozila). To je področje pomembnega diskurza, ki se navezuje na številne druge politično obremenjene teme, kot so okoljska vprašanja in vidiki podnebnih sprememb.

Manj znana in vendar sorodna zadeva se ukvarja z velikostjo avtomobilov in njihovim skupnim odtisom v različnih pogledih. Ali bi morali imeti velike avtomobile ali samo manjše avtomobile? Ali bi morali oblikovati avtomobile, da bi odvračali od vsepovsod uporabe avtomobilov, da bi ljudi spodbudili k uporabi množičnega in javnega prevoza? In tako naprej.

Tukaj je nekaj, na kar verjetno niste pomislili.

Nekatere študije so preučevale, ali vrsta avtomobila v lasti temelji na političnih nagnjenjih lastnika avtomobila. Verjetno boste morda lahko našli statistično korelacijo med nekom, ki je razglašen za demokrata, glede vrste kupljenega avtomobila, prav tako pa boste našli statistično korelacijo med tem, da je republikanec in vrsto avtomobila v lasti. Ne bom se poglabljal v te študije tukaj, čeprav bi rad omenil, da bi morali takšne študije in njihove rezultate razlagati s previdnim očesom in z veliko dozo skepticizma glede statistične veljavnosti.

Ko že govorimo o uporabi statistike, obstaja še en zanimiv vidik političnih značilnosti in avtomobilov. Zdi se, da obstajajo raziskovalna prizadevanja, ki povezujejo različna vozniško vedenje ljudi do politične pripadnosti teh voznikov.

Pogosto obravnavana vprašanja vključujejo:

· Ali je večja ali manjša verjetnost, da bodo vozniki, ki zaidejo v prometne nesreče ali trčenja, demokrat ali republikanec?

· Ali so pijani vozniki bolj verjetni liberalci ali konzervativci?

· Ko se zgodijo tisti nori incidenti zaradi cestnega besa, ko vozniki pobesnejo in se udarijo drug proti drugemu, ali bi bili ti nori pobesneli norci ponavadi liberalci ali konservativci?

· Kdo dobi več prometnih kazni in verjetno vozi bolj tvegano, demokrati ali republikanci?

· Itd.

Spet se ne bom poglobil v ta raziskovalna prizadevanja. In še enkrat, poskrbite, da bodite na prstih, ko berete takšne študije ali vidite žareče naslove o njihovih rezultatih. Vse, kar bom rekel, je, da je stara trditev o statistiki še danes v veliki meri resnična, tako da obstajajo laži, prekleta laži in statistike (počistil sem ta košček slane modrosti za bolj nežno občinstvo).

Zato se zdi, da imamo dovolj dokazov, da je tema avtomobilov na žalost prežeta s političnimi konotacijami.

Potem bom izbral drugo temo, ki bo morda res popolnoma apolitična.

Ste tokrat pripravljeni?

Umetna inteligenca (AI).

Vsekakor bi lahko upali, da mora biti AI apolitična, zlasti ko gre za notranje zmogljivosti sistemov AI. Seveda lahko sumite, da obstaja politika okolico ali je treba AI uporabiti ali ne, vendar bi navidez mislili, da bi notranjost sistema umetne inteligence presegla kakršno koli politično fermentacijo kot takšno.

Preden si podrobneje ogledamo to razširjeno domnevo, bi bilo morda poučno razmisliti o nekaterih drugih vidikih umetne inteligence, zaradi katerih so mnogi pred kratkim ponovno premislili o brezbrižni želji po izdelavi in ​​instinktivnem sprejemanju sistemov umetne inteligence na koncu.

Vidiš, v hitenju proti AI za dobro Zaradi navdušenja zadnjih nekaj let se je vse bolj zavedalo, da ni nujno, da bo vsa umetna inteligenca dobra. Ugotovili smo, da obstaja tudi veliko priložnosti za AI za slabo nastati. To se lahko zgodi zaradi namenskega namena tistih, ki razvijajo umetno inteligenco, in lahko se zgodi tudi zaradi tega, kar bi nekateri odločno trdili, da je popolnoma neodgovorno pomanjkanje ustreznega nadzora s strani razvijalcev AI in tistih, ki razglašajo sisteme AI.

Veliko teh vprašanj o etiki umetne inteligence sem obravnaval v svoji kolumni, kot sta povezava tukaj in povezava tukaj.

Upoštevajte kot kazalnik AI za slabo stvar prepoznavanja obraza.

Mnogi so mislili, da bo prepoznavanje obrazov najbolj neumna tehnologija umetne inteligence (in v mnogih pogledih je res neke vrste AI za dobro). Bančništvo na bankomatih bi bilo tako enostavno, če bi vaš obraz skenirali za prepoznavanje, namesto da bi uporabljali skrivno kodo PIN in bančno kartico. Tako priročno bi bilo, da bi šli v trgovino z živili in nakupovali tako, da bi svoj obraz zgolj uporabili kot sredstvo za označevanje vašega spletnega računa za živila, ki bi ga lahko zaračunali za vse izdelke, ki jih izberete.

Poznaš vajo.

Naslednja stvar, ki jo veste, je družba začela odkrivati, da prepoznavanje obraza niso vse sladke bonbone in sladko dišeče vrtnice. Nekateri algoritmi za prepoznavanje obrazov, ki temeljijo na umetni inteligenci, so slabo opravili delo, saj so lahko razlikovali ljudi zaradi njihove rase. Pojavila so se številna druga zaskrbljujoča in naravnost nezaslišana vprašanja, vključno z inherentnimi pristranskosti, povezanimi s spolom in drugimi dejavniki. Za moje poročanje o temah etike umetne inteligence, ki podpirajo prepoznavanje obrazov, si oglejte povezavo tukaj.

Bistvo na splošno je, da obstaja velika verjetnost, da obstaja AI za dobro bo prevažal tudi pripadajočo prtljago, ki jo sestavljajo AI za slabo. Obstaja nekaj priložnosti, pri katerih AI za slabo je popolnoma slab in obstaja malo odrešilnih lastnosti, ki bi namigovale na to, da obstaja le malo AI za dobro znotraj. Na splošno pa bo običajno sistem umetne inteligence videti oboje AI za dobro in AI za slabo. Prve bi želeli spodbujati, druge bi želeli preprečiti, omejiti, ublažiti, ko pa vse drugo ne uspe, jih čim prej ujeti in razmahniti.

Morda mislite, da, da, vse to je smiselno in morali bi skrbno preučiti umetno inteligenco glede kakršnih koli rasnih pristranskosti, spolnih pristranskosti in kakršnih koli vrst neenakosti. To bi bilo ustrezno ukrepanje in pomoč družbi pri izogibanju slabemu in plodnemu pridobivanju koristi umetne inteligence.

Verjeli ali ne, obstaja še en dejavnik, ki ga je mogoče dodati na seznam presenetljivih stvari, zavitih v AI, za katere se mnogi niso zavedali, da je v pestri enolončnici AI.

Politične nagnjenosti.

Nedavne študije kažejo, da lahko sistemi umetne inteligence utelešajo (čeprav ne antropomorfno) množico političnih tendenc, mnenj, preferenc in drugih podobnih atributov in infuzij, ki temeljijo na politiki. To lahko posledično vpliva na delovanje umetne inteligence, na primer o tem, kaj se AI »odloči« na podlagi programiranja AI.

Če na spletu zaprosite za posojilo in se uporablja algoritemski sistem odločanja, ki temelji na AI, pogosto nimate pojma, iz česa je sestavljeno programiranje AI. Če rečete, da ste zavrnili posojilo, ne morete biti prepričani, da se je AI pri odločitvi za zavrnitev izognila uporabi vaše rase, spola ali drugih podobnih dejavnikov.

Prav tako ne morete biti prepričani, da AI ni zadušila vaše zahteve za posojilo zaradi svojih političnih pristranskosti.

Ko to trdim v tako ostrih izrazih, ne prenapihujte pojma s prepričanjem, da je AI čuteča. Kot bom omenil še čez trenutek, danes nimamo čuteče AI. Točka, pika. Ne glede na to, kakšne divje naslove vidite, vedite, da danes ni nič blizu tega, da bi bila čuteča umetna inteligenca. Sploh ne vemo, ali je mogoče doseči občutljivost z AI. Prav tako ni navedb, kdaj se bo to zgodilo ali ali se bo kdaj zgodilo.

Nazaj k obravnavani zadevi.

Zdaj, ko sem ugotovil, da lahko umetna inteligenca vsebuje politične pristranskosti, si lahko podrobneje ogledamo, kako se to zgodi in na kakšne načine se lahko politična nagnjenja zahrbtno pojavijo.

Poleg tega, če vam ideja, da lahko umetna inteligenca vgradi politične nagnjenosti, povzroči grozljivo pretresljivo zgroženost ali šok, jo pripišite še enemu primeru prebijanja brezmadežne tančice AI. Zdi se, da je družba doslej sprejela podobo AI kot blagovne znamke, ki vključuje veliko nedolžnost in nedotaknjeno avro nevtralnosti in ravnovesja.

Morda smo to prenesli iz drugih vrst strojev. Zdi se, da opekači nimajo pristranskosti na podlagi rase, spola itd. Podobno ne bi pričakovali, da bo toaster tako rekoč politično naravnan. Toaster je toaster. Razlaga se kot samo stroj.

Razlog, zakaj perspektiva toasterja ne drži vode, ko gre za umetno inteligenco, je ta, da je sistem umetne inteligence programiran tako, da poskuša nadaljevati kognitivne sposobnosti. Kot tako to potisne stroj v zagato kognitivnih vprašanj, kot je utelešenje pristranskosti in podobno. Zagotavljam vam, da bomo kmalu odkrili, da so opekači, ki temeljijo na umetni inteligenci, polni pristranskosti in problematičnih pomislekov.

Priročen način za odpiranje vrat do razumevanja, kako lahko umetna inteligenca postane politično prežeta, je, da si ogledate uporabo AI pri pojavu resničnih samovozečih avtomobilov, ki temeljijo na AI. Lahko zadenemo dve muhi na en mah in preučimo splošno in obsežno temo umetne inteligence, ki vsebuje politično utelešenje, in to storimo v zglednem kontekstu, kako bi se to lahko pojavilo v samovozečih avtomobilih.

Vseeno želim pojasniti, da je politično cepljenje z umetno inteligenco samostojna tema, ki si zasluži, da se ji posveti. Ne prepletajte pomotoma umetne inteligence samovozečih avtomobilov s političnimi dimenzijami umetne inteligence. Vsa AI bo imela politično inherentne možnosti, globina in stopnja pa bosta odvisni od tega, kako je AI zasnovana in uporabljena.

Tu je potem omembe vredno vprašanje, o katerem je vredno razmisliti: Kako bo umetna inteligenca notranje prežela politične nagnjenosti in ali se to sploh lahko zgodi v navidez apolitičnem področju umetne inteligence, ki se uporablja za nastajajoče samovozeče avtomobile, ki temeljijo na AI?

Dovolite mi trenutek, da razložim vprašanje, saj se nanaša na samovozeče avtomobile.

Prvič, upoštevajte, da v pravem samovozečem avtomobilu ni človeški voznik. Upoštevajte, da se pravi samovozeči avtomobili vozijo prek sistema vožnje z umetno inteligenco. Za volanom ni potrebe po človeškem vozniku, niti ni predvideno, da bi človek vozil vozilo. Za moje obsežno in stalno pokritost avtonomnih vozil (AV) in zlasti samovozečih avtomobilov si oglejte povezavo tukaj.

Nadalje bi rad pojasnil, kaj je mišljeno, ko govorim o pravih samovozečih avtomobilih.

Razumevanje ravni samovozečih avtomobilov

Kot pojasnilo so pravi samovozeči avtomobili tisti, ki jih AI vozi povsem sam in med vožnjo ni človeške pomoči.

Ta vozila brez voznika se štejejo za stopnjo 4 in stopnjo 5 (glej mojo razlago na tej povezavi tukaj), medtem ko se avtomobil, za katerega je potreben človeški voznik, ki si deli vozni napor, običajno šteje za stopnjo 2 ali stopnjo 3. Avtomobili, ki delite vozniško nalogo, so opisani kot polavtonomni in običajno vsebujejo različne avtomatizirane dodatke, imenovane ADAS (napredni sistemi za pomoč vozniku).

Na ravni 5 še ni pravega samovozečega avtomobila, za katerega še ne vemo, ali bo to mogoče doseči in koliko časa bo trajalo, da bi prišli do tja.

Medtem si prizadevanja na ravni 4 postopoma prizadevajo doseči nekaj oprijema z izvajanjem zelo ozkih in selektivnih preskusov na javnih cestah, čeprav obstajajo polemike glede tega, ali bi bilo to testiranje dovoljeno samo po sebi (v poskusu smo vsi morski prašički, ki so smrt ali smrt Nekateri trdijo, da potekajo na naših avtocestah in obvoznicah, glejte mojo pokritost na tej povezavi tukaj).

Ker je za avtonomne avtomobile potreben človeški voznik, sprejetje teh vrst avtomobilov ne bo bistveno drugače kot vožnja običajnih vozil, zato o tej temi samih ne bi bilo veliko novega (čeprav, kot boste videli V trenutku se naslednje točke na splošno uporabljajo).

Za polavtonomne avtomobile je pomembno, da je javnost treba opozoriti na moteč vidik, ki se pojavlja v zadnjem času, in sicer, da kljub tistim človeškim voznikom, ki objavljajo video posnetke, ki zaspijo za volanom avtomobila stopnje 2 ali 3 , vsi se moramo izogibati, da verjamemo, da lahko voznik med vožnjo polavtonomnega avtomobila odvzame njihovo pozornost vozniški nalogi.

Vi ste odgovorna za vozniška dejanja vozila, ne glede na to, koliko avtomatizacije se lahko vrže v nivo 2 ali 3.

Samovozeči avtomobili in politična nagnjenja z umetno inteligenco

Pri pravih vozilih za samostojno vožnjo na nivoju 4 in ravni 5 ne bo človeškega voznika, ki bi bil vključen v nalogo vožnje.

Vsi potniki bodo potniki.

AI dela vožnjo.

Eden od vidikov, o katerem je treba takoj razpravljati, je dejstvo, da umetna inteligenca, ki je vključena v današnje sisteme za vožnjo umetne inteligence, ni občutljiva. Z drugimi besedami, umetna inteligenca je v celoti skupek računalniško zasnovanih programov in algoritmov in zagotovo ne more razmišljati na enak način kot ljudje.

Zakaj ta dodaten poudarek na AI ni čuten?

Ker želim poudariti, da pri razpravi o vlogi sistema za upravljanje umetne inteligence umetni inteligenci ne pripisujem človeških lastnosti. Upoštevajte, da v današnjih časih obstaja stalna in nevarna težnja po antropomorfizaciji umetne inteligence. V bistvu ljudje današnji umetni inteligenci pripisujejo človeško občutljivost, kljub nespornemu in nespornemu dejstvu, da taka umetna inteligenca še ne obstaja.

S tem pojasnilom si lahko predstavljate, da vozniški sistem AI v resnici nekako ne bo "vedel" o vidikih vožnje. Vožnjo in vse, kar zanjo pomeni, bo treba programirati kot del strojne in programske opreme samovozečega avtomobila.

Potopimo se v nešteto vidikov, ki se začnejo igrati na to temo.

Najprej se je treba zavedati, da niso vsi samovozeči avtomobili z umetno inteligenco enaki. Vsak proizvajalec avtomobilov in samovozeča tehnološka podjetja uporabljajo svoj pristop k oblikovanju samovozečih avtomobilov. Zato je težko podati izčrpne izjave o tem, kaj bodo sistemi za vožnjo z umetno inteligenco naredili ali ne.

Poleg tega lahko razvijalci, ki v resnici programirajo računalnik, da to storijo, pozneje, ko trdijo, da sistem vožnje AI, ne naredi nekaj posebnega. Korak za korakom se vozniški sistemi AI postopno izboljšujejo in razširjajo. Obstoječa omejitev danes morda ne bo več obstajala v prihodnji iteraciji ali različici sistema.

Verjamem, da to zagotavlja dovolj litanij opozoril, na podlagi katerih bom povedal.

Zdaj smo pripravljeni, da se globoko potopimo v dilemo, ki je vgrajena v politiko AI.

Na kratko pustimo ob strani vidike samovozečega avtomobila in najprej raziščimo temo AI, kako vključuje politične nagnjenosti. Najlažji način, da se AI politično oblikuje, so dejanja razvijalcev AI, ki izdelajo programsko opremo AI. Kot ljudje bi lahko svoje osebne politične nagnjenosti prenesli na to, za kaj programirajo programsko opremo.

Ko so sistemi umetne inteligence prvič začeli prikazovati različne rasne in spolne pristranskosti, je prišlo do velikega navdušenja, da je to verjetno posledica razvijalcev AI, ki so zasnovali te sisteme. Pojavljali so se obtožbe, da je bilo to namerno dejanje razvijalcev AI. Drugi pa so predlagali, da razvijalcem umetne inteligence primanjkuje raznolikosti in zato so brezskrbno ali nepremišljeno dovolili, da se njihove obstoječe pristranskosti prenesejo v svoja prizadevanja za programiranje AI.

Za številne ekipe AI je to spodbudilo, da so se bolj zavedali zagotavljanja raznolikosti med svojimi kolegi razvijalci, vključno z dodajanjem novih članov v njihove programske skupine. Poleg tega so bili ustvarjeni posebni poučni izobraževalni tečaji za povečanje ozaveščenosti o raznolikosti za razvijalce AI. Obstajajo celo metodologije razvoja umetne inteligence, ki zajemajo vidike raznolikosti, da izrecno usmerjajo projekte umetne inteligence, da pazijo na vnašanje pristranskosti in neenakosti v njihove sisteme.

Čeprav se skoraj nihče še ne zaveda politično vgrajene vrste pristranskosti za umetno inteligenco, je verjetno, da bo sčasoma postala bolj pomembna in povzročilo glasno razburjenje. Ponovno bo pod strogim nadzorom razvijalcev AI. Morda nekateri namerno vlivajo svoja politična nagnjenja, drugi pa to morda storijo, ne da bi se zavedali, da to počnejo.

Upam si trditi, da je poudarek na domnevi, da so bili razvijalci umetne inteligence edini vir uvajanja pristranskosti v umetno inteligenco, zgrešil celoto, od kod izvirajo pristranskosti AI. Postopno se je zavedalo, da je uporaba strojnega učenja (ML) in globokega učenja (DL) postala pomemben prispevek tudi k vidikom notranje pristranskosti AI.

Strojno učenje in globoko učenje sta tehniki in tehnologiji ujemanja računalniških vzorcev.

Zberete podatke, ki jih želite vnesti v ML/DL, ki nato računalniško išče matematične vzorce v priloženem naboru podatkov. Na podlagi teh izračunanih vzorcev bo ML/DL uporabljen, na primer zmožen narediti prepoznavanje obraza. Za prepoznavanje obrazov bi morda nahranili kup slik ljudi, ML/DL pa bo izračunal pomembne značilnosti, zaradi katerih so obrazi prepoznavni, kot so oblika in velikost nosu, oblika in velikost ust in ustnic. , oblika in velikost čela itd.

Zdi se, da ta računski pristop presega kakršen koli vpliv pristranskosti. Vse so samo izračuni.

Aha, vendar ne pozabite, da slike (ali karkoli drugega) podajamo v ML/DL kot del »usposabljanja« ali ujemanja računalniških vzorcev. Za prepoznavanje obrazov, če bi hranili predvsem slike, ki prikazujejo ljudi ene določene rase, je verjetno, da bi se ujemanje računalniških vzorcev izpililo v smeri teh vidikov obraza. Pozneje, če predpostavimo, da bomo ta sistem za prepoznavanje obrazov dali v široko uporabo, bi lahko tisti, ki so ga uporabljali in so bili drugačne rase, manj verjetno matematično »prepoznali«, ker se vzorci ML/DL oblikujejo okoli dirke, ki je bila pretežno najdena v treningu. set.

Tako lahko jasno vidite, kako se sicer lahko "nepristranski" matematični pristop ML/DL izkrivlja (obstajajo tudi drugi načini, a tukaj omenjam samo tega velikega). Ali so razvijalci AI namenoma ustvarili nabor podatkov, ki je bil rasno neuravnotežen? Predlagam, da je to le redko namerno dejanje, čeprav pomanjkanje zavedanja, da so to storili, še vedno ni zadosten izgovor.

Dandanes se močno trudijo pridobiti tiste, ki uporabljajo ML/DL, da bodo bolj premišljeni o tem, katere podatke uporabljajo za usposabljanje in kakšne rezultate to prinaša. Na žalost so vsi skočili na kolovoz ML/DL in mnogi od teh novincev ali ponoči, ki so prevzeli plašč ML/DL, to počnejo, ne da bi se zavedali pristranskosti, ki se vlivajo. Morda obstajajo tudi slabi igralci, ki bi to namerno storili, čeprav upajmo, da jih je malo.

Verjamem, da vas je zgoraj omenjeno seznanilo z vidiki etike umetne inteligence, ki vključujejo vlivanje pristranskosti v današnjo umetno inteligenco.

Pojdite naprej in ponovite celotno shebang, zamenjajte generični pojem pristranskosti s posebnimi znaki politično vpetih nagnjenj. Omenil sem že, da lahko sami razvijalci umetne inteligence odkrito ali nehote prenesejo svoje politične nagnjenosti v to, kar počne programirana umetna inteligenca. Drugi vidik, ki sem ga prav tako omenil, je, da za uporabo strojnega učenja in globokega učenja obstaja možnost izbire podatkov o usposabljanju, ki bi lahko namenoma ali po naključju prenašali vzorce, ki ustrezajo določeni politični dimenziji.

No, malo se ukvarjam s tem stolpcem (joj, TLDR, bodo nekateri odločno rekli), zato bom na kratko orisal primer, kako se lahko umetna inteligenca za samovozeči avto, ki temelji na umetni inteligenci, zanese v te vrste političnih nagnjenih črvinih lukenj (za moje obsežno poročanje o takšnih zadevah v številnih mojih objavah v kolumnah glejte povezavo tukaj).

Eno dobro znano in pogosto obravnavano vprašanje potencialnega lastniškega kapitala pri samovozečih avtomobilih z umetno inteligenco se nanaša na uporabo robotskih taksijev in kdo bo imel dostop do te nove možnosti mobilnosti kot storitve. Pomisleki so, da si bodo robotaksije lahko privoščili le premožni, zato bodo tisti v razredih nižjih dohodkov izpuščeni iz nastajajoče dobe avtomobilov brez voznika (glej poglobljeno poročilo o tem na povezavi tukaj ).

Iz te zaskrbljenosti izhaja še en zasuk.

Predstavljajte si, da samovozeči avtomobili romajo po mestu in čakajo na zahtevo za vožnjo. Pojavi se zahteva in bližnji samovozeči robot taksi pripelje po voznika. Kolesar pokaže, kam želi iti, sistem vožnje z umetno inteligenco pa začrta pot do tja. Vozni sistem AI nato nadaljuje z vožnjo avtonomnega vozila do želenega cilja.

Vse to se zdi v redu.

Tukaj je bila izražena streznitev.

Recimo, da se sistem vožnje z umetno inteligenco odloči za oblikovanje poti, ki se izogne ​​bolj zatrtim soseskam. Lahko bi domnevali, da bi navigacijski izris temeljil samo na optimalni poti, kot je najmanjša razdalja ali morda najkrajši čas. Mogoče, morda ne.

Drugi dejavniki bi lahko bili verjetnost, da bo samovozeči avto šel skozi tisto, kar bi lahko izračunali kot kraje, kjer je prežeto kriminal. Lahko se zgodi, da se upošteva nevarnost za avtonomno vozilo in potnike, po kateri poti se ubrati.

Obstaja ročno stiskanje, da bi se samovozeči avtomobili skoraj vedno neločljivo izogibali bolj obubožanim ali potlačenim skupnostim. Zdi se, da se ljudje, ki se vozijo v samovozečih avtomobilih, nikoli ne zavedajo, da takšni kraji obstajajo v njihovih mestih. Zaradi tega se verjetno ne bi zavedali potreb takšnih skupnosti. Poleg tega lahko tisti, ki živijo na teh območjih, le redko dobijo priložnost za uporabo samovozečega avtomobila, tudi če je cenovno ugoden. V njihovi sredini ne bi romali robo-taksiji, ki bi se po izračunu zadržali zunaj teh območij.

Ali bi do te pristranskosti prišlo zaradi namernega programiranja AI s strani razvijalcev?

Lahko, čeprav ni nujno.

Morda ta pristranskost izhaja iz uporabe strojnega učenja in globokega učenja?

Seveda, to je premišljena možnost.

Sistem vožnje z umetno inteligenco bi lahko temeljil na ML/DL, ki je uporabljal podatke za usposabljanje o tem, kje nadaljevati pri načrtovanju poti. Če bi bili ti podatki oblikovani tako, da se izogibajo določenim področjem, bi ML/DL verjetno zaznal tak vzorec in šel naprej z njim. Sčasoma, ob predpostavki, da se takšni podatki še dodatno kopičijo, ko se samovozeči avtomobili vozijo, bi podatki, ki se pozneje uporabljajo za posodobitve in vzdrževanje, še dodatno okrepili te iste izmišljene vzorce.

Lahko bi rekli, da se vzorci zaostrijo, ko se uporaba prejšnjega vzorca vedno znova vzpostavi, nekakšna snežna kepa ali vedno spiralni učinek.

Na nek način bi lahko razumeli, da je ta navidezna pristranskost glede tega, kje voziti, primer, kako bi se lahko pojavila potencialna politično vpeta težnja AI. Ena perspektiva bi bila, da bi AI pustili, da se v tej nagnjenosti ne zmanjša. Druga bi bila revizija umetne inteligence, da bi se namerno zagnala na tista področja, ki so bila usklajena z vzorci izven obsega, kar bi lahko ponovno trdili, da je morda politično nagnjena drža, ki se vliva v AI.

Vse povedano, tudi AI eksponati politično nagnjena tendenca ali pa se vsaj tako dojema, ne glede na to, ali je imela kakršno koli podobo (kar po občutku nima) o politiki stvari.

zaključek

Obstaja veliko tovrstnih primerov, ki jih je mogoče navesti.

Ostal bom pri kontekstu samovozečega avtomobila in vam dal še en hiter primer. Recimo, da voznik zahteva dvig z AI samovozečim avtomobilskim robotskim taksijem in to stori, da pride na politični shod, ki poteka na sodišču v središču mesta. Sistem vožnje z umetno inteligenco voznika noče odpeljati tja.

Zakaj?

Predstavljajte si, da so predhodni podatki, zbrani o političnih shodih kot ciljni točki, pokazali, da se samovozeči avtomobili ujamejo v prometne vretene. Predpostavimo, da je to pomenilo, da so samovozeči avtomobili zaradi dolgih čakalnih dob v prometu in zaračunavanja nižje cene za te čakalne dobe manj zmogli zaslužiti od voznikov. Algoritem umetne inteligence, kot je uporaba ML/DL, bi lahko računalniško določil, da je obisk političnih shodov slaba izbira za ustvarjanje denarja. Zato, ko se pojavijo zahteve, da se robot taksi odpravi na politični shod, je prošnja zavrnjena.

Mislim, da lahko vidite, kako bi to lahko razumeli kot politično motivirano izbiro. Čeprav umetna inteligenca morda ne uporablja neposredno kakršnega koli političnega motiva na kakršen koli način, se v vsakem primeru zdi, da sprejema politično izbiro.

Lahko stavite na svoj najnižji dolar, da se bomo dovolj kmalu soočili s političnim odzivom na politične nagnjenosti AI. Označi moje besede!

Ko smo že pri besedah, je slavni grški pesnik in dramatik Aristofan trdil, da se pod vsakim kamnom skriva politik. V današnjem svetu v vsakem sistemu umetne inteligence obstaja nedvomna možnost, da se skriva politična nagnjenost, če to veste ali ne.

Bolje začnite obračati te kamne.