Razlogi za uravnavanje algoritmov AI so enostavnejši, kot si mislite

Vas skrbi, da bo umetna inteligenca prevzela svet? Mnogi to storijo. Od Elona Muska, ki skrbi DeepMind premaga ljudi v napredni igri Go leta 2017 članom kongresa, oblikovalcem evropskih politik (gl Evropski pristop k umetni inteligenci), in akademiki, obstaja občutek, da je to desetletje, da jemljemo umetno inteligenco resno, in se uveljavlja. Čeprav ne zaradi razlogov, kot bi si morda mislili, in ne zaradi kakršne koli sedanje grožnje.

Tukaj pridejo na vrsto algoritmi. Kaj je algoritem, se boste morda vprašali? Najpreprostejši način razmišljanja o tem je nabor navodil, ki jih lahko stroji razumejo in se iz njih učijo. Stroju že lahko naročimo, da izračuna, obdeluje podatke in sklepa na strukturiran, avtomatiziran način. Vendar je težava v tem, da ko so navedena navodila dana, jih bo stroj sledil. Zaenkrat je to bistvo. Za razliko od ljudi, stroji sledijo navodilom. Tega se ne naučijo dobro. Ko pa to storijo, lahko povzročijo težave.

Nočem senzacionalističnega argumenta o ideji, da bi računalniki nekega dne presegli človeško inteligenco, bolj znano kot argument singularnosti (glej filozof NYU David Chalmers' razmišljanja na to temo.) Namesto tega je proizvodnja morda najboljši primer, zakaj so algoritmi umetne inteligence bolj pomembni za širšo javnost. Človek se boji, da bodo stroji na naš račun močno pospešili svojo moč. Ne nujno z nekim naprednim sklepanjem, ampak zaradi optimizacije znotraj meja tega, kar pravi algoritem.

Pri proizvodnji gre za izdelavo stvari. Ko pa stroji izdelujejo stvari, moramo biti pozorni. Tudi če je to, kar izdelujejo stroji, preprosto. Pojasnil bom zakaj.

Od dežnih škornjev do mobilnih telefonov in nazaj

Recimo, tovarna izdeluje dežne škornje. Obožujem dežne škornje, ker sem odraščal na območju Norveške, kjer veliko dežuje; Rad sem zunaj, podvržen številnim elementom narave. Nokia je izdelala dežne škornje, s katerimi sem odraščal. Da, Nokia, ki jo danes poznamo kot podjetje za elektroniko, ki je nekoč izdelovalo gumijaste škornje. Zakaj je ta ključ? Ker ko nekaj narediš, ti je usojeno, da si želiš izboljšati. To ima smisel. Lahko bi rekli, da je to človeška narava.

Kar se je zgodilo z Nokio, je dobro znano in gre nekako takole: sprva je bila papirnica, ko sem bil otrok, proizvodnja gumijastih škornjev (in pnevmatik) za podjetje še posebej uspešna. Vendar so videli dodatne priložnosti. Zato so se v osemdesetih letih prejšnjega stoletja preusmerili na elektroniko in hitro spremenili tovarne okoli ter zgradili veliko strukturo lokalnih dobaviteljev, ko so začeli izdelovati mobilne telefone. To je uvedlo revolucijo mobilnih komunikacij, ki se je začela v Skandinaviji in se razširila na preostali svet. Razumljivo je, da so mnogi napisali zgodbo o Nokii v 1980-ih (gl Skrivnosti finskega čudeža: vzpon Nokie).

Moj primer je preprost. Morda preveč preprosto. Ampak pomisli na to takole. Če lahko veliko podjetje hitro preide od izdelave papirja do pisanja, do škornjev, ki olajšajo preživetje na dežju, potem končno do mobilnih telefonov, ki spremenijo način komuniciranja ljudi: kako enostaven bo naslednji korak? Recimo, da se podjetje, ki izdeluje mobilne telefone, odloči izdelati nanobote in morda ti vzletijo v desetletju in spremenijo človeštvo z majhnimi stroji, ki avtonomno tečejo povsod in so sposobni ponovno sestaviti in spremeniti človeško izkušnjo. Kaj če se to zgodi, ne da bi upoštevali, kako želimo, da se to zgodi, kdo želimo biti glavni in končni cilji?

Predlagati, da so roboti zavestno pomagali Nokii pri odločitvi za izdelavo mobilnih telefonov, bi bilo težko. Priznanje, da je imela tehnologija pomembno vlogo pri omogočanju finskemu podeželju na severni obali, da misli, da lahko pridobi svetovno prevlado v novi industriji, igra pomembno vlogo.

Nokina zgodba v zadnjem desetletju ni bila tako rožnata, saj niso upoštevali pojava operacijskih sistemov iOS in Android, ki temeljijo na programski opremi. Kot rezultat, Nokia ne izdeluje več telefonov. V malce povratni zgodbi zdaj izdelujejo omrežno in telekomunikacijsko infrastrukturo, omrežne varnostne rešitve, Wi-Fi usmerjevalnike, pametno razsvetljavo in pametne televizorje (gl. Nokina zgodba o vrnitvi). Nokia še vedno izdeluje stvari, to je res. Edina ugotovitev je, da Nokia vedno uživa v mešanju stvari, ki jih izdelujejo. Celo proizvodne odločitve ljudi je včasih težko razumeti.

Proizvodnja pomeni ustvarjanje stvari in stvari se razvijajo. Na splošno se je to, kar izdelujemo danes, spremenilo kot pred samo desetletjem. 3D tiskalniki so decentralizirali proizvodnjo številnih naprednih izdelkov, tako v industriji kot doma. Posledice 3D-tiskanja, ki bi spremenile življenje, se še niso pojavile. Ne vemo, ali bo to trajalo, vendar vemo, da se FDA osredotoča na regulacijo proizvodnje izdelkov (gl. tukaj), kot so natisnjene tablete ali medicinske pripomočke, ki sledijo, očitne težave z intelektualno lastnino in odgovornostjo ali težave z možnostjo tiskanja strelnega orožja. Konec koncev, politične razprave o tem, kakšne negativne posledice bi 3D-tiskanje lahko imelo poleg tega, ni in le malo nas se je trudilo razmišljati o tem.

Ne trdim, da je 3D tiskanje samo po sebi nevarno. Morda je to slab primer. Kljub temu lahko stvari, ki so na začetku videti vsakdanje, spremenijo svet. Primerov je veliko: konica puščice lovca/nabiralca iz kovine, ki začenja vojne, ritualne maske, ki nas ščitijo pred COVID-19, žeblji, ki gradijo nebotičnike, tiskarske stroje premičnih tipov, ki (še vedno) polnijo naše tovarne s tiskanim papirjem in poganjajo založniška dejavnost, žarnice, ki vam omogočajo, da vidite in delate notri ponoči, bi lahko nadaljeval. Nihče, ki ga poznam, se je usedel v poznih 1800-ih in napovedal, da bo Nokia svojo proizvodnjo premaknila s papirja na gumo v elektroniko in nato stran od mobilnih telefonov. Morda bi morali imeti.

Ljudje so slabi napovedovalci postopnih sprememb, procesa, kjer ena sprememba vodi do več sprememb, in nenadoma so stvari radikalno drugačne. Tega procesa še ne razumemo, ker imamo malo praktičnega znanja o eksponentnih spremembah; ne moremo si ga predstavljati, izračunati ali dojeti. Vendar nas vedno znova doleti. Pandemije, rast prebivalstva, tehnološke inovacije od tiskanja knjig do robotike nas običajno doletijo brez opozorila.

Trik s futurizmom ni če, ampak kdaj. Morda bi lahko dejansko napovedali spremembe, če bi izbrali nekaj novih proizvodnih metod in izjavili, da bodo v prihodnosti bolj razširjene. To je dovolj preprosto. Težko je ugotoviti, kdaj in predvsem kako.

Sponke za papir niso problem

Razmislite še o mojem tovarniškem primeru, tokrat pa si predstavljajte, da so stroji zadolženi za številne odločitve, ne za vse odločitve, ampak za proizvodne odločitve, kot je optimizacija. V svoji knjigi Superinteligenca, je distopični humanist z univerze Oxford Nick Bostrom slavno zamislil algoritem za optimizacijo umetne inteligence, ki vodi tovarno sponk za papir. Na neki točki, pravi, si predstavljajte, da stroj razlaga, da je učenje preusmerjanja vedno večjih virov za nalogo racionalno, na koncu pa postopoma spremeni naš svet v sponke za papir in se upira našim poskusom, da ga izklopimo.

Kljub temu, da je pameten fant, je Bostromov primer precej neumen in zavajajoč (a vseeno nepozaben). Prvič, ne upošteva dejstva, da ljudje in roboti niso več ločeni entiteti. Smo v interakciji. Večina pametnih robotov se razvija v kobote ali kolaborativne robote. Ljudje bodo imeli veliko možnosti, da popravijo stroj. Kljub temu ostaja njegova osnovna točka. Na neki točki lahko pride do spremembe, in če se ta sprememba zgodi dovolj hitro in brez zadostnega nadzora, se nadzor lahko izgubi. Toda ta skrajni izid se zdi nekoliko namišljen. Kakor koli že, strinjam se, moramo regulirati ljudi, ki upravljajo s temi stroji, in pooblastiti, da so delavci vedno na tekočem z ustreznim usposabljanjem. Takšen trening ne gre dobro. Trenutno traja predolgo in za usposabljanje in usposabljanje so potrebne posebne spretnosti. vem eno stvar. V prihodnosti bodo vse vrste ljudi upravljale robote. Tisti, ki ne bodo, bodo precej nemočni.

Povečanje ljudi je boljše od brezumne avtomatizacije, ne glede na to, če se nikoli ne združimo s stroji. Oba koncepta sta logično različna. Možno je, da se tako ljudje kot roboti zataknejo pri avtomatizaciji zaradi avtomatizacije. To bi povzročilo veliko škodo proizvodnji v prihodnosti. Tudi če ne proizvaja ubijalskih robotov. Verjamem, da je do združitve na stotine let, vendar to ni bistvo. Tudi če je le trideset let stran, samohodni stroji, ki delujejo po poenostavljenih algoritmih, ki izgubijo nadzor, se ta scenarij že dogaja v delavnici. Nekateri od teh strojev so stari trideset let in delujejo na starih, lastniških nadzornih sistemih. Njihov glavni izziv ni v tem, da so napredni, ampak ravno nasprotno. Preveč so poenostavljeni, da bi lahko komunicirali. To ni problem za jutri. Gre za že obstoječo težavo. Za to moramo odpreti oči. Pomislite na to, ko boste naslednjič stopili v gumijaste škornje.

Še vedno imam svoje škornje Nokia iz osemdesetih let prejšnjega stoletja. V njih je luknja, a jih hranim, da se spomnim, od kod sem in kako daleč sem hodil. Tudi dež kar naprej pada, in dokler je dovolj čist, ne želim boljšega popravka zanj kot ti škornji. Potem sem spet človek. Robot bi se verjetno že premaknil naprej. Kakšna je različica dežnih škornjev z umetno inteligenco, se sprašujem. To ni mobilni telefon. To ni senzor za dež. Zamenja um.

Današnji digitalni škornji pomenijo, da jih lahko prilagodite, ker imajo 3D-tiskane vzorce. Obstajajo virtualni čevlji, ki obstajajo samo kot NFT (nezamenljivi žetoni), ki jih je mogoče prodati in trgovati. Najboljše virtualne superge so danes vredne 10,000 $ (gl Kaj so superge NFT in zakaj so vredne 10,000 $?). Teh se ne bojim, a bi se moral? Če bo virtualni svet postal bolj cenjen kot fizični svet, bom morda. Ali pa naj počakam, da me skrbi, dokler lastni avatar AI ne kupi lastnega škorenj NFT, da se spopade z "dežjem"? Če gradimo algoritme po lastni podobi, je bolj verjetno, da bi bila umetna inteligenca dobra pri stvareh, v katerih si želimo, da bi bili dobri, a običajno nismo, kot je nakup delnic, gradnja zvestih prijateljstev (morda s stroji in ljudmi) in spominjanje stvari. Industrijski metavesum je lahko presenetljivo prefinjen – poln digitalnih dvojčkov, ki posnemajo naš svet in ga na plodne načine prekašajo – ali pa je lahko šokantno preprost. Mogoče oboje. Samo še ne vemo.

Algoritme AI moramo regulirati, ker ne vemo, kaj je za vogalom. To je dovolj razloga, toda glede tega, kako to naredimo, je to daljša zgodba. Dovolite mi še eno kratko opazovanje, morda bi morali biti vsi temeljni algoritmi javno dostopni. Razlog je, če ne, ni mogoče vedeti, do česa bi lahko privedli. Najboljši so precej znani (gl 10 najboljših algoritmov strojnega učenja), vendar ni svetovnega pregleda, kje in kako se bodo uporabljali. Zlasti nenadzorovane algoritme je treba pozorno spremljati (gl Šest zmogljivih primerov uporabe za strojno učenje v proizvodnji), ne glede na to, ali se uporabljajo za napovedovanje vzdrževanja ali kakovosti, za simulacijo produkcijskih okolij (npr. digitalnih dvojčkov) ali za ustvarjanje novih modelov, na katere človek nikoli ne bi pomislil. V današnji pokrajini so ti nenadzorovani algoritmi običajno tako imenovane umetne nevronske mreže, ki poskušajo posnemati človeške možgane.

Začel sem skrbeti za nevronske mreže, samo zato, ker težko razumem njihovo logiko. Težava je v tem, da večina strokovnjakov, tudi tistih, ki jih uvajajo, ne razume, kako se ti algoritmi premikajo od koraka do koraka ali sloja do sloja. Mislim, da metafora »skritih plasti«, ki se pogosto uporablja, ni zelo primerna ali zelo smešna. Za začetek ne bi smelo biti skritih plasti v proizvodnji, pri avtomatiziranem pobiranju davkov, pri odločitvah o zaposlovanju ali pri sprejemu na fakulteto. Morda bi morali razmisliti tudi o tem, da bi vas skrbelo? Eno je gotovo, ljudje in stroji, ki delajo stvari skupaj, bodo spremenili svet. Je že, večkrat. Od papirja do dežnih škornjev in plasti današnjih umetnih možganov, nič ne bi smelo ostati neraziskano. Ne smemo se skrivati ​​pred preprostim dejstvom, da se lahko iz številnih majhnih sprememb nenadoma pojavi večja sprememba.