Etika umetne inteligence in priznana nenavadna dolina umetne inteligence, ki prav tako razburja samovozeče avtomobile na osnovi umetne inteligence

Včasih pride do nekoliko nenavadnih stvari, ki pritegnejo vašo pozornost in spodbudijo vašo intuitivo, da je nekaj narobe. Nenavadnost ni očitna, sploh ne očitna v obraz. Morda niti ne boste mogli takoj ugotoviti, kaj je neskladnost ali zakaj vaš pregovorni pajkov čut mravljinčenje.

Morda se zaznavajo subtilne izdajničke namige. Morda se zgodi, da v svojem črevesju ugotovite, da obstaja disonanca. Predvidevam, da bi lahko rekli, da obstaja le še najmanjši kanček podcenjene srhljivosti in vaš občutljiv človeški radar zaznava sicer navidezno skrite signale.

Dobrodošli v nenavadni dolini.

Če še nikoli niste slišali za nenavadno dolino, temo, ki je relativno popularna na področju umetne inteligence in zlasti robotike, vas čaka malo poslastice, saj je to tema, o kateri bom tukaj podrobno razpravljal in analiziral.

Splošni pojem se lahko uporablja za veliko stvari, ki jih doživljamo v življenju, čeprav temeljna načela in izvorna definicija vključujejo sisteme AI in robote. Najprej bomo raziskali izvor in začetni pomen nenavadne doline, nato pa bomo nadaljevali s širitvijo, da bi videli, kako se zdi, da so pojavi uporabni v večjih kontekstih.

Lahko bi tudi dodal, da bomo razmislili, ali ta nenavadna dolina sploh obstaja.

Vidite, nekateri skeptiki in ciniki trdijo, da je vsa zadeva malce zvijača in ne drži vode. Bodite previdni, ko seznanjate s temo tistim, ki so seznanjeni. Nekateri se bodo veselo nasmehnili in vas ploskali po hrbtu, da dobro poznate nenavadno dolino, drugi pa vam bodo odločno predavali, da je to smodnica svinjine in da morate na hitro očistiti svoje misli s peno mila za duševno čiščenje. .

Dobra novica tukaj je, da se lahko odločite, ali je nenavadna dolina resnična ali ne, skupaj s tem, ali je vredna za premišljeno uporabo ali pa jo je treba namesto tega brez slovesnosti vrgli na odpad tehno idej. V tem smislu ste na voznikovem sedežu.

Vse to se tesno nanaša tudi na rastoče področje etične umetne inteligence in naraščajoče spoznanje, da mora družba resno in trezno biti pozorna na etiko umetne inteligence. To kravato bomo vzpostavili v trenutku.

Najboljše mesto za začetek je neposredno citiranje profesorja, ki je pripravil koncept nenavadne doline in odkrito poimenoval ta razglašeni pojav. Leta 1970 je profesor Masahiro Mori s Tokijskega inštituta za tehnologijo objavil precej majhen članek v nekoliko manj znani reviji z naslovom Energija (ni posebej žarišče za umetno inteligenco in robotiko kot tako) in rekel to:

"Opazil sem, da se pri plezanju proti cilju, da bi roboti izgledali ljudje, naša naklonjenost do njih povečuje, dokler ne pridemo v dolino, ki ji pravim nenavadna dolina."

Upoštevajte, da je zgornji stavek prikazan v angleščini, čeprav je bil izvirni dokument v japonščini. Angleško prevedeno različico je nadzoroval avtor in kasneje objavljeno v IEEE Spectrum leta 2012 in kot avtor pripisan Masahiru Moriju. Prispevek lahko preberete sami, saj je odprt in prosto dostopen na spletu. Gre za zelo hitro branje, ki traja približno deset minut in ne vsebuje nobene težke tehnološke terminologije.

Ob tem je zanimivo in nekoliko neverjetno, da je tako živahni članek, objavljen leta 1970, na koncu sprožil celotno prizorišče raziskovanja in sprožil nešteto povezanih študij, projektov, raziskav in na trenutke nevihto polemik o tem, ali je uvedeno koncept nenavadne doline resnično obstaja. Predvidevam, da to kaže, da zanimivim idejam, ki včasih spreminjajo poglede, ni treba močno zapletati ali pretirano napolniti z žargonom in vzvišenostjo. Jedrnata ideja je lahko ravno tako, kot da ne celo močnejša, kot se morda zdi na prvi pogled.

Verjamem, da vas bo to spodbudilo, da poskusite in spodbujate svoje nove ideje, pri čemer se boste zavedali, da je lahko sladko in preprosto tako veličastno ali včasih bolj kot zapleteno in zapleteno.

Skočimo nazaj v nenavadno dolino.

Naletite na robotski sistem, ki ima obraz, ki je podoben obrazu, ki izgleda kot človek. Predstavljajte si, da je bil ta robotski obraz zasnovan s številnimi ponovitvami. Razvijalci umetne inteligence, ki so sestavljali glavo robota, so si postopoma prizadevali, da bi robotski obrazni del izgledal vse bolj podoben dejanskemu človeškemu obrazu.

Njihov prvi poskus je bil izjemno primitiven. Obraz robota je imel enak videz, kot ste ga videli v znanstvenofantastičnih filmih, da je popolnoma kovinski in prikazuje orodja in žice. Ko se zazrete v napravo, takoj veste, da je robot. O tem se ne sprašujete.

Naslednji poskus razvijalcev AI je vključeval ovijanje nekaj plastičnih materialov okoli kovinskih kosov. Čeprav je to videti nekoliko bolj prijazno, še vedno takoj veš, da gre za robotsko glavo in robotski obraz. Spet, enostavno zaznati.

Ti razvijalci AI so odločeni, da bodo to nadaljevali. Oblikujejo plastiko in ji dajejo tone kože. Dodajajo lastnosti, ki se zdijo zelo podobne človeškemu obrazu, kot so madeži, lasje, madeži in podobno.

Na prvi pogled bi vas morda prepričali, da je to človeški obraz. Če je bila posneta slika robotskega obraza in bi vas prosili, da ugotovite, ali slika prikazuje osebo v primerjavi z robotskim obrazom, bi morda ne boste mogli takoj povedati, kateri je to. Po drugi strani pa, če bi stali poleg naprave, bi verjetno ob natančnem pregledu ugotovili, da ne gre za človeka in namesto tega za robotsko napravo.

Stvar je v tem, da je bilo na obrazu nekaj, kar se ni zdelo povsem ujemajoče, preden ste dobili priložnost, da opravite pregled od blizu. Vsekakor je izgledal kot človeški obraz. Ampak nekaj je bilo narobe. Vedno znova si moral pozorno strmeti, da si pokazal tisto, kar ni videti čisto v redu. Mogoče je pravi obraz. Potem pa morda ni. Vaš um se temu primerno vrti.

Privid srhljivega pride v vaš um.

Niste imeli istega videza grozljivega, ko ste videli dve prejšnji različici. Brez premora ali obotavljanja ste lahko zaznali, da je robot robot. Le otrok bi se lahko zavedel, da bi verjel, da je katera koli od teh različic resnična oseba.

Ta najnovejša različica pa je bila drugačna. Še ni bil izpopolnjen, da bi bil videti kot človeški obraz. Prav tako ni bilo tako daleč od resnične stvari, da bi bilo očitno, da mora biti robot. Dosegla je nekakšna zmotana tla.

Recimo, da so se razvijalci poglobili v svoja raziskovalna prizadevanja in vse uredili tako, da se robotski obraz skoraj ne razlikuje od človeškega obraza. Ne glede na to, kako dolgo strmite v stvar, niste prepričani, ali je človek ali ne. Ko vas obvestijo, da gre za robotski obraz, ste presenečeni. Bože, odlično so naredili, da je izgledalo resnično.

Upoštevajte, da ste do zdaj razmišljali samo o robotskih vidikih, ki temeljijo samo na videzu.

Enačbi bi lahko dodali gibanje. To vam doda dodatno dimenzijo, da lahko ugotovite, ali je robot robot ali človek. Tega v tej razpravi ne želim v celoti obravnavati kot večdimenzionalno vrsto problema, saj je razjasnitev te teme bolj zapletena (čeprav so večdimenzionalne razsežnosti neizogibno prepletene). Vsekakor si predstavljajte, da niste samo videli robotskega obraza, ampak bi lahko tudi opazovali, kako robot premika obrazne poteze, kot so usta, oči, nos itd. robot ali človek.

Eden od pomembnih vidikov, ki jih je treba ohraniti v ospredju nenavadne doline, je, da prvotna zasnova poudarja dejanje človeške afinitete. Predlagani pojav je, da se vaša afiniteta povečuje, ko vidite postopno izboljšane obraze robota, do točke, ko se pojavi nenavadna različica. V tem trenutku naj bi vaš občutek afinitete dramatično padel in padel v prepad afinitete ali dolino.

Za določeno različico, zaradi katere ste sumili, da je nekaj narobe, je domnevno vaša afiniteta radikalno padla. Poleg tega lahko po teoriji vaša afiniteta znova naraste, ko naletite na naprednejšo različico, ki je skoraj identična resnično človeški obliki.

Tukaj je več o tem, kar je avtor izjavil o naši običajni nagnjenosti k domnevi, da se vidiki življenja gladko povečujejo: »Matematični izraz monotono naraščajoča funkcija opisuje razmerje, v katerem je funkcija y = ƒ(x) nenehno narašča s spremenljivko x. Na primer kot napor x raste, dohodek y se poveča, ali ko se avtomobilski plin pritisne, se avto premika hitreje. Ta vrsta razmerja je vseprisotna in zelo lahko razumljiva. Pravzaprav, ker tako monotono naraščajoče funkcije pokrivajo večino pojavov vsakdanjega življenja, lahko ljudje zapadejo v iluzijo, da predstavljajo vse odnose. Ta napačen vtis potrjuje tudi dejstvo, da se mnogi ljudje borijo skozi življenje z vztrajnim potiskanjem, ne da bi razumeli učinkovitost umika nazaj. Zato so ljudje običajno zbegani, ko se soočijo z nekim pojavom, ki ga ta funkcija ne more predstavljati." To je citirano po IEEE Spectrum prevedeni papir.

To skoraj univerzalno predpostavko o vedno povečanju lahko ovržemo, ko naletimo na nekaj narobe. Teorija pravi, da bo grozljivo in sumničavost povzročila razmeroma nenaden in dramatičen padec afinitete, na primer robotska roka, ki ste se jo odločili stisniti in niste čutili kostnih značilnosti človeške roke: »Ko se to zgodi, izgubimo smisel afinitete in roka postane nenavadna. V matematičnem smislu je to lahko predstavljeno z negativno vrednostjo."

Če sprejmete predpostavko, da obstaja ta pojav nenavadne doline, sem prepričan, da se sprašujete, kaj vam koristi, če veste, da ta nenavadna dolina očitno obstaja.

To je klasika vseh časov "pa kaj?" preizkus praktičnosti.

Izkazalo se je, da si je veliko ljudi domislilo veliko interpretacij o tem, kaj bi morali ali lahko storimo glede nenavadne doline. Mnenj je na tone. Nekaj ​​od tega bom kmalu obravnaval.

Medtem pa je Masahiro Mori ponudil naslednje: »Upamo, da bomo načrtovali in izdelali robote in protetične roke, ki ne bodo padli v nenavadno dolino. Zato zaradi tveganja, ki je neločljivo povezan s poskusom povečanja stopnje njihove podobnosti s človekom, da bi dosegli drugi vrh, priporočam, da oblikovalci namesto tega vzamejo za cilj prvi vrh, kar ima za posledico zmerno stopnjo človeške podobnosti in precejšen občutek sorodnosti. . Pravzaprav predvidevam, da je mogoče ustvariti varno raven afinitete z namerno zasledovanjem nečloveškega načrta. Prosim oblikovalce, da razmislijo o tem."

Hitra zgoščenost z moje strani dvanajstih priročnih pravil o tem, kaj storiti v zvezi z nenavadno dolino, je takole, zlasti za razvijalce AI:

1) Zavedajte se nenavadne doline in bodite na nogah

2) Verjetno želite doseči človeško afiniteto do vaše AI, kolikor je le mogoče

3) Bodite pripravljeni na izgubo človeške afinitete, če vaša umetna inteligenca pade v nenavadno dolino

4) Poskusite se izogniti nenavadni dolini tako, da tako oblikujete svojo umetno inteligenco

5) Spoštljivo je imeti cilj, ki ni blizu nenavadne doline

6) Povzpnite se do roba nenavadne doline, vendar ne padite čez pečino

7) Ne bodite obsedeni s tem, da greste onkraj nenavadne doline

8) Obstaja možnost, da lahko skočite mimo nenavadne doline

9) Ne obremenjujte se s skokom, saj lahko vseeno padete v dolino

10) Največjo človeško afiniteto bi res lahko dosegli s prehodom mimo nenavadne doline

11) Kljub temu obstaja ustrezna in primerna sorodnost pred nenavadno dolino

12) Nenehno bodite pozorni na nenavadno dolino in ne dovolite, da vam uide

Vseh teh ducatov je splošnih predpisov, ki jih je mogoče obravnavati kot temeljne točke ali sidrišča znanja o nenavadni dolini. Takoj bom priznal, da obstajajo druge točke, ki niso navedene v teh pičlih ducatih, za katere bi lahko trdili, da so enako pomembne. Prav tako bom zlahka priznal, da bo za vsako od ugotovljenih točk neizogibno prišlo do nestrinjanja, o vsaki navedeni točki pa lahko pride do dolgotrajne burne razprave.

Še več, nekateri bi rekli, da je dvanajst točk skupaj smet, ker za začetek temeljijo na laži. Nenavadna dolina ne obstaja, bi trdili. Vse je zgolj šikaniranje in izmišljena izmišljotina, ki pritegne zgolj in žalostno nagovarjanje šibkih umov (joj, to pa resno boli!). Vsaka pozornost na nenavadno dolino je zapravljen dih zraka in nekdo bi moral priti zraven in postaviti oster lesen teoretični kol v jedro zadeve (nekateri raziskovalci so to poskušali).

Zaradi razprave, pojdimo po toku in predpostavimo, da obstaja nenavadna dolina in da naj bi se na splošno ujemala s tem, kar sem navedel do sedaj. Tisti, ki se ne strinjajo s konceptualizacijo nenavadne doline, so dobrodošli, da se umaknejo ali nadaljujejo branje s stisnjenimi zobmi in njihovo intelektualno jezo, ki se kuha in vre (oprostite).

Evo, kako se uveljavita etična umetna inteligenca in fokus oblikovanja in izvajanja etične umetne inteligence. Mimogrede, za moje tekoče in poglobljeno raziskovanje etike umetne inteligence si oglejte mojo razpravo na tukaj povezava in tukaj povezava, samo da navedem nekaj.

Nenavadna dolina je za tiste, ki se ukvarjajo z etično umetno inteligenco, odločno ljubezen in sovraštvo.

Najprej nekaj potrebnega ozadja. Ena najbolj dražečih etičnih pomislekov, povezanih z umetno inteligenco, je, da je ljudi mogoče preslepiti, da verjamejo, da je sistem umetne inteligence čuteč. Zavedajte se, da v današnjem času ni nobene umetne inteligence, ki bi bila niti približno blizu čuteče. To se trenutno ne dogaja. Moja navidezno "drzna" trditev je podana kljub tem nenehnim in bleščečim naslovom, ki razglašajo, da je ta umetna inteligenca ali da je umetna inteligenca dovolj čuteča ali dovolj blizu, da jo lahko štejemo za tako. Malarkey. Nismo pri umetni inteligenci.

Ne vemo, kako priti tja. Ne vemo, če se bo to zgodilo. Čustvo umetne inteligence so vredne sanje in želja, čeprav ne preskočite in ne mislite, da smo na pragu tega, da to dosežemo.

Seveda mnogi goreče opozarjajo, da se bomo soočili z eksistencialnim tveganjem, če nam nekako uspe izpeljati čutnost AI, pa naj bo to načrtno ali po naključju. Na tak način razmišljanja morda iskanje AI čutenja ni tako vredno. Tveganje je, da bi ta čuteča umetna inteligenca lahko ugotovila, da ljudje niso vredni druženja. Lahko bi bili stisnjeni kot hrošč. Ali pa zasužnjite AI. To se lahko zgodi tako, da se umetna inteligenca odkrito odloči za to, ali pa bo umetna inteligenca na koncu naš lastni stroj sodnega dne, ki nas uniči zaradi naše lastne nesposobnosti. Za moje poročanje o teh zaskrbljujočih rezultatih občutljivosti ali singularnosti AI, glej povezava tukaj.

Ključna skrb za etično umetno inteligenco je, da razvijalci umetne inteligence in tisti, ki se ukvarjajo z umetno inteligenco, včasih nagovarjajo ljudi, da mislijo, da je AI razumna. Način, kako se umetna inteligenca izkaže, na primer z robotsko formulacijo ali njeno pogovorno interaktivnostjo, lahko zahrbtno spodbudi ljudi k domnevi, da je AI čuteča. To vas nato pripelje po potencialno napačni poti jegliča.

Če padete v miselno past razmišljanja, da je sistem umetne inteligence čuteč, se boste verjetno zanašali nanj, da bo naredil stvari, ki bi jih naredila čuteča bitja. Toda v nobeni današnji umetni inteligenci še ni nobenega zdravega razuma o človeku podobni kakovosti. Umetna inteligenca, ki jo trenutno doživljamo, je izjemno krhka in plitka, ko gre za človeške sposobnosti. Lahko se spravite v neprijetne in nevarne vode, če verjamete, da je sistem umetne inteligence čuteč.

Kako je to povezano z nenavadno dolino?

Tukaj je dogovor.

Spomnimo se, da se zdi, da nam nenavadna dolina sporoča, da bo človeška afiniteta postopoma naraščala, ko se bo sistem umetne inteligence ali robot vse bližje človeku podobni formulaciji. V trenutku, ko se sistem umetne inteligence približuje točki, da je precej blizu, a še vedno ne tam, dobimo grozljiv občutek, da nekaj ni v redu. Do takrat smo vedeli, da AI ni človek. Zdaj nismo prepričani. Naša človeška afiniteta upada. Šele ko postane umetna inteligenca ali robot popolnoma prepričljiv glede človeških zmožnosti, ponovno pridobimo navidezno afiniteto do naprave.

Razvijalci umetne inteligence, ki se tega lotijo, verjetno bi namerno trudijo se, da bi svojo umetno inteligenco obdržali iz nenavadne doline, s ciljem, da bi se ustavili v smislu lastnosti AI, tik preden padejo v nenavadno brezno (spomnimo, to je poudaril tudi Masahiro Mori). Razvijalci bi to očitno storili tako, da bi se prepričali, da še vedno obstajajo številni izdajniški namigi, da bi bilo precej jasno, da je AI manj kot čuteča AI in torej ne človek ali enako.

Etiki AI bi na splošno pozdravili ta iskren trud.

Utemeljitev je enostavna. Tisti tako obveščeni in zavzeti razvijalci umetne inteligence poskušajo zagotoviti, da sistem AI ne zavaja ljudi, da bi umetni inteligenci napačno pripisovali objekte, podobne človeku. To je zagotovo dobra novica. Razvijalci bodo namenoma izdelali AI, da preprečijo potop v nenavadno dolino. Ljudje bodo zlahka spoznali, da AI ni čuteč.

Poskušati pridobiti razvijalce umetne inteligence, da sprejmejo tak pristop, ni enostavno. Dejansko je lahko v nasprotju z njihovimi običajnimi instinkti in gonilnimi ambicijami.

Veliko trditev je, da so razvijalci umetne inteligence in tehniki na splošno zavzeti za cilje. Vidijo cilj in ga pogosto z velikim užitkom slepo sledijo. Ni časa, da bi se ustavili in vonjali vrtnice. Gremo na dirke. Na področju umetne inteligence bi bil normativni cilj idealizirana umetna inteligenca, ki se ne loči od ljudi po tem, da bi lahko bila umetna inteligenca inteligentno enakovredna. Ampak še nismo tam. Kot taka nenavadna dolina zagotavlja sekundarni cilj, pristanek pred sicer zajezijočo nenavadno dolino, in postane cilj, ki je kljub temu sprejemljiv. Seveda to ni zlati nagrajeni prstan, a ideja je, da je ta "sekundarna" nagrada v redu, najlepša hvala in lahko ste ponosni nanjo.

Spremenili smo uničujočo najvišjo ambicijo, ki išče cilje, in jo vpregnili v logično zvenečo utemeljeno osnovo, da bi tako rekoč naredili pravo stvar.

Ura!

Dosežite zmago za etiko umetne inteligence.

Toda počakajte na sekundo, opozorilo o spojlerju, obstaja še nekaj, kar moramo enako upoštevati.

Zdaj, ko ti izkušeni razvijalci umetne inteligence vedo za nenavadno dolino, bi lahko svojo pamet in tehnološko spretnost usmerili v namerno skakanje čez brezno, vendar to storijo z videzom prevare. Naj bo AI videti in videti, da je popolnoma človeško podoben, čeprav razvijalci vedo, da to ni res.

Neumno razmišljanje gre takole. Ne dovolite, da vaš sistem umetne inteligence nagne svoj klobuk in povzroči, da ljudje dobijo ta izmuzljivi spodnji tok grozljivega. Odrežite vidike, ki bi lahko dali kakršen koli namig ali namig, da AI ni človeška sposobnost. To storite, medtem ko se na skrivaj zavedate in neopravičljivo veste, da AI ni človeška zmožnost in da gre za skrivanje te resnice pred tistimi, ki so v interakciji z AI ali so od nje odvisni.

Kakšni hudičevi načrti.

Ironično, nenavadna dolina bi lahko bila nekakšen klic za prebujanje razvijalcev umetne inteligence, da morajo biti, če želijo resnično preslepiti ljudi, dovolj pametni, da pobegnejo iz brezna. Tega ne počnejo tako, da dosežejo popolno umetno inteligenco, ampak namesto tega postavijo dim in ogledala, da bi se AI zdela zavajajoča, kot da je človeška. Če razvijalci umetne inteligence ne bi spoznali, da ta nenavadna dolina obstaja, bi na splošno padli vanjo. To je dobro za človeštvo, ker bi ljudje izgubili naklonjenost do AI, ker se ne bi preveč zanašali na današnjo kakovost AI.

Žalostno je, da bodo razvijalci umetne inteligence, ki se želijo pritihotapiti okoli nje, ker vedo, da past obstaja, našli pogubno pametne načine za to.

Dosežite zadetek proti predpisom etične umetne inteligence.

Ali vidite, kako to ustvarja odnos med ljubeznijo in sovraštvom za etike umetne inteligence o nenavadni dolini?

Prekleto, če se, prekleto, če ne.

Zavedam se, da je bil to nekoliko preizkušen pregled nenavadne doline in morda hrepeniš po nekaj vsakodnevnih primerih. Obstaja poseben in zagotovo priljubljen niz primerov, ki so mi pri srcu. Kot strokovnjaka za umetno inteligenco, vključno z etičnimi in pravnimi posledicami, me pogosto prosijo, naj navedem realistične primere, ki prikazujejo dileme etike umetne inteligence, da bi lažje razumeli nekoliko teoretično naravo teme. Eno najbolj osupljivih področij, ki nazorno predstavlja to etično zagato umetne inteligence, je pojav resničnih samovozečih avtomobilov, ki temeljijo na umetni inteligenci. To bo služilo kot priročen primer uporabe ali zgled za obsežno razpravo o tej temi.

Tu je potem omembe vredno vprašanje, o katerem je vredno razmisliti: Ali pojav resničnih samovozečih avtomobilov, ki temeljijo na umetni inteligenci, razsvetljuje kaj o nenavadni dolini, in če je tako, kaj nas to obvešča, naj naredimo?

Dovolite mi trenutek, da razložim vprašanje.

Prvič, upoštevajte, da v pravem samovozečem avtomobilu ni človeški voznik. Upoštevajte, da se pravi samovozeči avtomobili vozijo prek sistema vožnje z umetno inteligenco. Za volanom ni potrebe po človeškem vozniku, niti ni predvideno, da bi človek vozil vozilo. Za moje obsežno in stalno pokritost avtonomnih vozil (AV) in zlasti samovozečih avtomobilov glej povezava tukaj.

Nadalje bi rad pojasnil, kaj je mišljeno, ko govorim o pravih samovozečih avtomobilih.

Razumevanje ravni samovozečih avtomobilov

Kot pojasnilo so pravi samovozeči avtomobili tisti, ki jih AI vozi povsem sam in med vožnjo ni človeške pomoči.

Ta vozila brez voznika se štejejo za 4. in 5. stopnjo (glejte mojo razlago na tukaj povezava), medtem ko se avtomobil, ki zahteva, da človeški voznik sodeluje vozni napor, običajno šteje za stopnjo 2 ali 3. Avtomobili, ki si delijo nalogo vožnje, so opisani kot polavtonomni in običajno vsebujejo različne avtomatizirani dodatki, ki se imenujejo ADAS (Napredni sistemi za pomoč vozniku).

Na ravni 5 še ni pravega samovozečega avtomobila, za katerega še ne vemo, ali bo to mogoče doseči in koliko časa bo trajalo, da bi prišli do tja.

Medtem pa prizadevanja stopnje 4 postopoma poskušajo pridobiti nekaj oprijema z zelo ozkimi in selektivnimi preskusi javnih cest, čeprav obstajajo polemike o tem, ali je treba to testiranje dovoliti samo po sebi (vsi smo poskusni zajčki na življenje ali smrt v poskusu ki se dogaja na naših avtocestah in stranskih cestah, trdijo nekateri, glejte moj prispevek na tukaj povezava).

Ker je za avtonomne avtomobile potreben človeški voznik, sprejetje teh vrst avtomobilov ne bo bistveno drugače kot vožnja običajnih vozil, zato o tej temi samih ne bi bilo veliko novega (čeprav, kot boste videli V trenutku se naslednje točke na splošno uporabljajo).

Za polavtonomne avtomobile je pomembno, da je javnost treba opozoriti na moteč vidik, ki se pojavlja v zadnjem času, in sicer, da kljub tistim človeškim voznikom, ki objavljajo video posnetke, ki zaspijo za volanom avtomobila stopnje 2 ali 3 , vsi se moramo izogibati, da verjamemo, da lahko voznik med vožnjo polavtonomnega avtomobila odvzame njihovo pozornost vozniški nalogi.

Vi ste odgovorna za vozniška dejanja vozila, ne glede na to, koliko avtomatizacije se lahko vrže v nivo 2 ali 3.

Samovozeči avtomobili in nenavadna dolina

Pri pravih vozilih za samostojno vožnjo na nivoju 4 in ravni 5 ne bo človeškega voznika, ki bi bil vključen v nalogo vožnje.

Vsi potniki bodo potniki.

AI dela vožnjo.

Eden od vidikov, o katerem je treba takoj razpravljati, je dejstvo, da umetna inteligenca, ki je vključena v današnje sisteme za vožnjo umetne inteligence, ni občutljiva. Z drugimi besedami, umetna inteligenca je v celoti skupek računalniško zasnovanih programov in algoritmov in zagotovo ne more razmišljati na enak način kot ljudje.

Zakaj ta dodaten poudarek na AI ni čuten?

Ker želim poudariti, da pri razpravi o vlogi sistema za upravljanje umetne inteligence umetni inteligenci ne pripisujem človeških lastnosti. Upoštevajte, da v današnjih časih obstaja stalna in nevarna težnja po antropomorfizaciji umetne inteligence. V bistvu ljudje današnji umetni inteligenci pripisujejo človeško občutljivost, kljub nespornemu in nespornemu dejstvu, da taka umetna inteligenca še ne obstaja.

S tem pojasnilom si lahko predstavljate, da vozniški sistem AI v resnici nekako ne bo "vedel" o vidikih vožnje. Vožnjo in vse, kar zanjo pomeni, bo treba programirati kot del strojne in programske opreme samovozečega avtomobila.

Potopimo se v nešteto vidikov, ki se začnejo igrati na to temo.

Najprej se je treba zavedati, da niso vsi samovozeči avtomobili z umetno inteligenco enaki. Vsak proizvajalec avtomobilov in samovozeča tehnološka podjetja uporabljajo svoj pristop k oblikovanju samovozečih avtomobilov. Zato je težko podati izčrpne izjave o tem, kaj bodo sistemi za vožnjo z umetno inteligenco naredili ali ne.

Poleg tega lahko razvijalci, ki v resnici programirajo računalnik, da to storijo, pozneje, ko trdijo, da sistem vožnje AI, ne naredi nekaj posebnega. Korak za korakom se vozniški sistemi AI postopno izboljšujejo in razširjajo. Obstoječa omejitev danes morda ne bo več obstajala v prihodnji iteraciji ali različici sistema.

Verjamem, da to zagotavlja dovolj litanij opozoril, na podlagi katerih bom povedal.

Zdaj smo pripravljeni, da se poglobimo v samovozeče avtomobile in etična vprašanja umetne inteligence, ki vključujejo nenavadno dolino.

Obstajajo štirje vidiki, ki se nanašajo na to zadevo, ki bodo obravnavani tukaj:

1. Celoten videz samovozečih avtomobilov

2. Vprašanje, kje »gledajo« samovozeči avtomobili

3. Umetna inteligenca, vozne akcije samovozečih avtomobilov

4. Roboti, ki vozijo kot sredstvo za doseganje samovozečih avtomobilov

Dodatni vidiki so prav tako izvedljivo zajeti, toda zaradi prostorske stiske bodo te štiri teme zadostovale za osvetlitev nenavadne doline v zvezi s samovozečimi avtomobili, ki temeljijo na umetni inteligenci.

1. Splošni videz samovozečih avtomobilov

Stavim, da ste videli slike ali videoposnetke današnjih preizkusov samovozečih avtomobilov. Kot tak ste morda opazili, da je večina vozil avtomobilov običajnega videza, ki so opremljeni z dodatno specializirano opremo. Na primer, lahko obstaja strešni prtljažnik, ki vsebuje množico elektronskih senzorjev. Senzorji včasih vključujejo video kamere, radarske enote, LIDAR naprave, ultrazvočne senzorje in podobno.

Futuristični dizajni ponavadi nakazujejo, da bi se lahko oddaljili od avtomobilov običajnega videza in namesto tega preoblikovali avtomobile tako v notranjosti kot zunanjosti, da bi postali bolj gladka avtonomna vozila. Trenutno splošno razmišljanje je, da je preprosteje uporabljati običajne avtomobile in ne porabljati energije, da bi poskušali raztegniti prizadevanje s hkratnim popravljanjem z avtomobili nekonvencionalnega videza (obstaja nekaj izjem od tega splošnega stališča, glejte moj prispevek na povezava tukaj).

Bistvo trenutno je, da če se vozite po cestišču in naletite na bližnji samovozeči avto, lahko skoraj vedno takoj ugotovite, da gre verjetno za samovozeči avto, tako da samo opazite malo senzorjev, nameščenih na avtonomnem vozilu. To je hitra vizualna nagradna igra. Seveda ne veste zagotovo, da gre za samostojno vožnjo, saj so v tem trenutku kontrole za vožnjo običajno še nedotaknjene in je morda za volanom človeški rezervni voznik.

Na nek način razmišljanja lahko predlagate, da je še posebej priročno, da se samovozeči avtomobili fizično zdijo izstopajoči in jih vozniki ljudi v bližnjih avtomobilih, ki jih poganja človek, in tudi pešci v bližini zlahka vizualno opazijo. Spoznanje, da se v bližini vrti samovozeči avto, je lahko priročen namig, da ste na oprezu, kar vas spodbudi, da ste pozorni in previdni, da AI vozi ali morda vozi vozilo.

Recimo, da so samovozeči avtomobili videti enaki običajnemu avtomobilu, ki ga poganja človek. To je realno izvedljivo na vsaj dva načina. Prvič, senzorji bi lahko bili skriti ali oblikovani tako, da ne bi bili tako očitni pri občasnem vizualnem pregledu. Drugič, lahko se zgodi, da so vsi avtomobili, vključno z običajnimi avtomobili, ki jih poganja človek, postopoma opremljeni s sorodnimi senzorji, tudi če bo vozilo kljub temu ostalo kot avtomobil, ki ga večinoma poganja človek. Oglejte si moje nadaljnje poročanje na tukaj povezava.

Če premišljeno premislite o tem, ali so samovozeči avtomobili lahko ali bi morali biti po videzu enaki običajnim avtomobilom, ki jih vozi človek, boste morda pomislili, da se v tej enolončnici morda skriva nenavadna dolina.

Vidite, avtomobile, ki očitno izgledajo kot samovozeči avtomobili, je mogoče označiti za točko, ki je tik pred nenavadno dolino. V bistvu "veš", da gre za robota ali robotsko vrsto sistema. To je sodba, na katero lahko skoraj takoj preskočite.

Ko samovozeči avtomobili izgledajo enako kot avtomobili, ki jih poganja človek, morda to nakazuje, da so avtonomna vozila po svojem robotskem videzu skočila mimo nenavadne doline. Ali obstaja srednja pot med tema dvema fizičnima videzoma, ki nas pripelje v nenavadno dolino?

Morda opazite samovozeči avto, ki prihaja po ulici in se vam zdi, da je verjetno samovozeči avto, po drugi strani pa videz ni niti popolnoma avtonomen niti strogo človeški. Lahko bi trdili, da je samovozeči avto zdaj v grozljivem ali vznemirljivem stanju.

Samovozeči avto se je menda potopil v nenavadno dolino.

Kot rečeno, se vsi ne bi strinjali s to kategorizacijo. Nekateri bi trdili, da fizični videz nima nič opraviti z nenavadno dolino. Nekateri seveda tudi trdijo, da ni nič realistično znanega kot nenavadna dolina.

Kot smo že omenili, se o tem lahko odločite sami.

2. Vprašanje, kam gledajo samovozeči avtomobili

Preteča skrb, ki jo mnogi imajo glede samovozečih avtomobilov, je, da na voznikovem sedežu običajno nimajo človeškega voznika in je zato težko ugotoviti, kam gleda "voznik", medtem ko vozi avto.

Običajno pogledate človeške voznike, da bi vohunili, kam gledajo. Na primer, lahko ste pešec na prehodu za pešce in se prehodu približuje avto. Pozorno pogledate osebo, ki sedi na voznikovem sedežu, in poskušate ugotoviti, kam je obrnjena glava in kam gledajo oči. Če menite, da vas je človeški voznik videl, vam bo morda bolj udobno prečkati ulico. Nasprotno, če se zdi, da vas človeški voznik ni videl, ste upravičeno zaskrbljeni zaradi prečkanja.

V nekaterih mestih obstaja nekakšen gambit mačke in miši glede teh vidikov. Posebna kulturna norma v določenem mestu je lahko, da če vzpostavite očesni stik z voznikom, voznik »zmaga« in ima navidezno pravico, da nadaljuje, ne glede na zakonitost vozne situacije. Druga mesta bi lahko bila povsem nasprotna, in sicer da je kulturna norma, da ob stiku z očmi pešec »zmaga« in naj bi se človeški voznik priklonil dejanjem pešca.

Zdi se, da smo to navado sprejeli v razmeroma dolgem času, ko so avtomobili v naših mestih in skupnostih. Težava s pojavom samovozečih avtomobilov je v tem, da na voznikovem sedežu ni človeškega voznika, zato je zdaj vsak pešec ali bližnji človeški voznik, ki običajno uporablja glavo in oči voznikov avtomobilov kot kulturni pokazatelj namena vožnje. brez sreče.

Proizvajalci avtomobilov in razvijalci samovozečih avtomobilov se zelo zavedajo te nastajajoče težave. Ena predlagana rešitev je, da samovozeči avtomobil utripa žarometi avtonomnega vozila ali morda zatrubi. Druga ideja je, da ima lahko samovozeči avto različico zvočnika in ljudem v bližini pove, kakšni so "nameni" voznega sistema AI. Vsaka od teh idej ima pomembne pomanjkljivosti.

Toda drugačen predlog pomeni, da naredite nekaj, za kar se vam sprva morda zdi smešno. Predlog je sestavljen iz postavitve krogel, podobnih očesnim jabolkom, na zunanjost avtonomnega vozila. Te krogle bi bile precej podobne človeškim očem v navideznosti, da se lahko vrtijo naprej in nazaj, kar vam daje takojšen znak, ki nakazuje, da vas je AI »videla« (to bi razlagali tako, da zrkla gledajo v vašo določeno smer). Ta pristop sem analiziral na povezava tukaj.

Kakšna bi bila vaša reakcija na to, da vidite samovozeči avto, ki prihaja po cestišču in imate te ogromne krogle, ki se pojavljajo, na pokrov motorja ali streho?

Predvidevam, da se vam morda zdi grozljivo, morda grozljivo.

Nekateri bi namigovali, da grozljivost izvira iz tega, da je tako opremljen samovozeči avtomobil v nenavadni dolini. Drugi bi ostro trdili, da to nima nobene zveze z nenavadno dolino. Od teh teh strokovnjakov bi nekateri rekli, da obstaja grozljivo, ki je lahko grozljivo, ne da bi ga bilo treba zasidrati v nenavadni dolini (tj. nenavadna dolina navidezno vedno proizvaja grozljivo, vendar se vsa grozljivost ne proizvaja samo prek nenavadne doline). Drugi zorni kot je, da bi bile krogle verjetno zasnovane tako, da so videti manj zrkla in se zdijo bolj robotizirane, ali da bomo vsi neizogibno sprejeli videz teh krogel in se bo začetna osupljiva reakcija umirila.

3. Umetna inteligenca, ki vozi samovozeče avtomobile

Številne današnje preizkušnje samovozečih avtomobilov so pokazale, da so obstoječi sistemi za vožnjo z umetno inteligenco običajno programirani za vožnjo na precej mlačne in nekoliko strogo zakonske načine. Sistem vožnje z umetno inteligenco običajno ustavi samovozeči avto pri znakih Stop. Sistem vožnje z umetno inteligenco ne omogoča drznih tekov skozi križišča, ko bo prometni signal kmalu rdeč. Te svojeglave prakse vožnje so provinca človeških voznikov.

Na nek način bi lahko skoraj ugibali, da je samovozeči avto samovozeč po slogu vožnje, ki ga razstavlja. Tudi če se je avtonomno vozilo vizualno zdelo kot običajen avtomobil, ki ga poganja človek, bi lahko opazovali dejanja vožnje in morda logično sklepali, da ga verjetno poganja sistem AI.

Nekateri verjamejo, da bomo morali narediti sisteme za vožnjo z umetno inteligenco, da bodo bolj podobni norčijam človeških voznikov, da se bodo učinkovito zlili z normativnimi pristopi k vožnji. Predvidevam, da bi si to lahko razlagali kot gašenje ognja z ognjem.

Ali je to smiselno narediti?

Zavedajte se, da odkriti skeptiki in kritiki to idejo sovražijo. Odločno bi trdili, da želimo, da sistemi za vožnjo z umetno inteligenco vozijo pravilno in previdno. Dodajanje potencialno na milijone samovozečih avtomobilov na cestišča, ki so programirani tako, da delujejo kot zapuščeni človeški vozniki, bi se zdela ogromna nočna mora. O tem kontroverznem predlogu sem razpravljal na povezava tukaj.

Prenovimo dilemo tako, da izkoristimo nenavadno dolino.

Ko je sistem vožnje z umetno inteligenco strogo zakonit s svojimi dejanji vožnje, je to morda namig, da gre verjetno za robotski sistem (ne glede na to, da to počnejo ljudje vozniki, čeprav se v današnjem svetu zdijo zelo redki). Če naj bi sistemi za vožnjo z umetno inteligenco vozili tako nenavadno kot človeški vozniki, ali ta skoči čez nenavadno dolino ali pade v nenavadno dolino?

Premisli o tem.

4. Roboti, ki vozijo kot sredstvo za doseganje samovozečih avtomobilov

Ta zadnja postavka za pokritost je najbolj osupljiva od teh štirih.

Morda se popolnoma ne zavedate, da nekateri razvijalci umetne inteligence poskušajo izdelati robote, ki bi vozili avtomobile. Robot bi v različnih pogledih izgledal kot človek, saj bi imel kot okončine robotske noge in robotske roke. Ko želite, da je kateri koli običajen avtomobil, ki ga poganja človek, samovozeč avtomobil, preprosto postavite tega specializiranega robota za vožnjo z umetno inteligenco na voznikov sedež svojega avtomobila. Glej mojo analizo tega pojma na povezava tukaj.

Zakaj bi želeli voziti robote?

Lepota takega robota je v tem, da bi lahko vsi današnji avtomobili, ki jih poganja človek, na nek način interpretacije skoraj čez noč postali samovozeči avtomobili. Preprosto kupite, najamete ali si nekako pridobite voznega robota. Robota postavite na voznikov sedež, ko se odpravljate na vožnjo. Robot vas odpelje do cilja. Če želite preiti na človeško vožnjo, robota odstranite iz vozila, morda ga pospravite v prtljažnik za kasnejšo uporabo.

Danes je v Združenih državah približno 250 milijonov običajnih avtomobilov. Nekateri verjamejo, da bodo te sčasoma zavržene, ko se bodo pojavili samovozeči avtomobili. Namesto da bi zavrgli te običajne avtomobile, bi jih morda poskušali naknadno opremiti v samovozeče avtomobile, čeprav je to morda precej draga ideja. Na videz bolj preudaren pristop bi bil, da bi bili na voljo vozni roboti.

Če bi videli avtomobil običajnega videza, ki prihaja po vaši soseski in bi imel robota za volanom, kakšna bi bila vaša reakcija?

Verjetno grozljivo.

Ena od trdih, ki je res sporna, je, da je ta grozljivost posledica robota, ki vozi običajen avtomobil, ki se spušča v slavno ali zloglasno nenavadno dolino.

zaključek

Z vidika etične umetne inteligence nenavadna dolina predstavlja zanimivo uganko.

Nekateri v AI popolnoma verjamejo v nenavadno dolino, drugi pa ne. Toda ne glede na to, ali verjamete v nenavadno dolino ali pa tega ne počnete, je tema sama po sebi prepletena. Ne morete skriti glave in se pretvarjati, da konstrukt sam po sebi ne obstaja. Konstrukt kot ideja živi in ​​je na nek način viralno močan. Sovražite ali ljubite, prekleta ali morda vzvišena tema ostaja.

Po mojem prejšnjem diskurzu o zaslugah nenavadne doline z vidika etike umetne inteligence je v njem dvobojni odnos ljubezni in sovraštva. Ali bi morali tisti, ki so na področju etične umetne inteligence, sprejeti nenavadno dolino ali na kratko zavrniti nenavadno dolino ali ostati nekoliko nevtralni glede resničnosti in se namesto tega osredotočiti na vpliv, ki nastane zaradi stalnih različnih prepričanj o njej.

Ta izziv pripelje do vrhunskega ekonomista Adama Smitha, ki je nekoč rekel (parafraziram), da moraš na cesti iz mesta skepticizma skozi Dolino dvoumnosti.