Pretres umetne inteligence, saj ugledni guru umetne inteligence predlaga osupljive "smrtne računalnike", v katere je vključena tudi etika umetne inteligence in pravo umetne inteligence

Tukaj je nekaj, o čemer verjetno še niste razmišljali: Smrtni računalniki.

Ampak morda bi moral biti.

Napeta tema se je pojavila na nedavni in skupaj precej pomembni letni konferenci o umetni inteligenci, ki je še posebej osredotočena na pojav nevronskih mrež in strojnega učenja, in sicer na konferenci o sistemih za obdelavo nevronskih informacij (insajderji poznani kot NeurIPS). Povabljeni osrednji govornik in dolgoletni guru umetne inteligence Geoffrey Hinton je podal zanimivo in morda kontroverzno trditev, da bi morali o računalnikih razmišljati v smrtnem in nesmrtnem kontekstu.

Omenil bom opazno trditev, in to na dva načina, ki se sprva ne bosta zdela nujno povezana, čeprav bosta po dodatni razlagi postala bolj jasno povezana med seboj, kar zadeva spore med smrtnim in nesmrtnim.

Dve temi sta:

1) Integrirano povezovanje strojne in programske opreme za mehanizacije umetne inteligence, namesto da bi ju imeli kot ločena in ločena zaveznika

2) Prenos ali destilacija formulacij strojnega učenja iz enega modela umetne inteligence v drugega, ki to stori, ne da bi zahteval ali nujno želel (ali je celo izvedljivo drugače možno) takojšnje popolno čistokrvno kopiranje

Vse to ima velik pomen za AI in prihodnjo smer razvoja AI.

Poleg tega se pojavljajo tudi številni zelo kočljivi pomisleki glede etike in prava umetne inteligence. Te vrste tehnološkega napredka, ki ga predvideva umetna inteligenca, se običajno razporedijo na povsem tehnološko podlago, veliko preden pride do spoznanja, da bi to lahko imelo tudi omembe vredne posledice za etično umetno inteligenco in pravo o umetni inteligenci. V nekem smislu je običajno mačka že iz vreče ali konj iz hleva, preden se zbudi, da je treba Etiki AI in Pravu AI priskrbeti ustrezno skrbnost.

No, prekinimo ta cikel zapoznelih misli in se lotimo tega v pritličju.

Za tiste, ki vas na splošno zanimajo najnovejši vpogledi v etiko umetne inteligence in zakonodajo o umetni inteligenci, se vam bo morda zdelo informativno in navdihujoče moje stalno in obsežno poročanje na povezava tukaj in povezava tukaj, samo da navedem nekaj.

Tukaj bom najprej obravnaval zgornjo točko o povezovanju strojne in programske opreme. Razprava in analiza teme bo potekala z roko v roki. Nato se bom dotaknil zadeve kopiranja ali nekateri pravijo destilacija ključne elemente sistema umetne inteligence strojnega učenja od ene umetne inteligence do na novo zasnovane umetne inteligence kot tarče.

Začnimo.

Povezovanje strojne in programske opreme za AI

Verjetno veste, da je na splošno zasnova računalnikov takšna, da obstaja strojna stran stvari in ločeno programska stran stvari. Ko kupite vsakdanji prenosni ali namizni računalnik, se razume kot računalniška naprava za splošno uporabo. V računalniku so mikroprocesorji, ki se uporabljajo za zagon in izvajanje programske opreme, ki jo lahko kupite ali napišete sami.

Brez programske opreme za vaš računalnik je kos kovine in plastike, ki vam v bistvu ne bo koristil, razen da bo deloval kot obtežilnik za papir. Nekateri bi rekli, da je programska oprema kralj in vlada svetu. Seveda, če nimate strojne opreme, na kateri bi zagnali programsko opremo, programska oprema ne bo veliko koristila. Napišete lahko toliko vrstic kode, kolikor vam srce poželi, a dokler se programska oprema ne uporablja prek računalnika, je formulirana izvorna koda tako šibka in neleteča kot čudovito pesniško delo ali vznemirljiv detektivski roman.

Dovolite mi, da za trenutek preklopim na drugo pot, ki bi se lahko zdela daleč stran (ne bo).

Pogosto poskušamo potegniti analogije med delovanjem računalnikov in delovanjem človeških možganov. Ta poskus ustvarjanja konceptualnih vzporednic je priročen. Kot rečeno, morate biti previdni pri pretiravanju s temi analogijami, saj se primerjave pokvarijo, ko se približate mesnatim podrobnostim.

Kakorkoli že, zaradi razprave je tukaj pogosto uporabljena analogija.

Sami možgani se včasih neuradno imenujejo wetware. To je privlačen način za ubeseditev stvari. Vemo, da so računalniki sestavljeni iz strojne in programske opreme, zato je pametno uporabiti del skovanke »ware«, da bi opisali, kaj pomenijo možgani. Mogočni in skrivnostni možgani, ugnezdeni v naših nožicah, lebdijo naokoli in mentalno izračunavajo vsa naša dejanja (nekatera dobra, medtem ko nekatere naše misli očitno niso polne dobrote).

S povprečno težo okoli treh funtov so možgani izjemen organ. Nekako in še ne vemo, kako, lahko možgani uporabijo približno 100 milijard nevronov in morda kjer koli od 100 do 1,000 bilijonov medsebojnih povezav ali sinaps, da namesto nas opravijo vse naše misli. Kako biološke in kemične lastnosti možganov povzročajo inteligenco? Nihče ne more reči zagotovo. To je iskanje stoletja.

Sprašujem vas tole, ali so možgani navidezno samo strojni ali so združeni strojna in programska oprema?

Noodle na tej zbadljivki.

Morda vas bo zamikalo trditi, da so možgani preprosto strojna oprema (v splošnem smislu). Je organ telesa. Podobno bi lahko rekli, da je srce strojna oprema, mehur je strojna oprema in tako naprej. Vse so mehanizacije, podobne tistim, ko govorimo o artefaktih, ki imajo fizično obliko in izvajajo fizično povezana dejanja.

Kje je potem programska oprema, ki poganja ljudi?

Upam si trditi, da se skoraj vsi strinjamo, da je "programska oprema" človeštva nekako v možganih. Koraki, potrebni za kuhanje jajca ali popravilo počene gume, so navodila, ki so utelešena v naših možganih. Če uporabimo to prej omenjeno računalniško analogijo strojne in programske opreme, so naši možgani tako rekoč kos strojne opreme, za katero se učimo o svetu in navodila, kaj storiti, "tečejo" in "shranjujejo" v naših možganih.

Na računalniku lahko brez težav pokažemo na strojno opremo in rečemo, da je to strojna oprema. Lahko imamo seznam izvorne kode in pokažemo na seznam kot programsko opremo. Dandanes elektronsko prenašamo programsko opremo iz spleta in jo nameščamo na svoje prenosnike in pametne telefone. V starih časih smo uporabljali diskete in luknjane kartice za shranjevanje programske opreme za nalaganje v strojno opremo računalnika.

Spravljam vas v pomembno uganko.

Ko ste se nekaj naučili in je znanje prisotno v vaših možganih, ali lahko še vedno ločite med "strojno opremo" vaših možganov in domnevno "programsko opremo" vaših možganov?

Eno argumentirano stališče je, da znanje v vaših možganih ni posebej ločeno od konceptov strojne in programske opreme. Nekateri bi goreče trdili, da analogija z naravo računalnikov tako ne uspe. Znanje v možganih je prepleteno in neločljivo povezano s strojno opremo vaših možganov. Biološke in kemijske lastnosti prepletajo znanje, ki ga mentalno posedujete.

Podušite to za malo mentalnega razmisleka.

Če upamo, da bomo nekoč izdelali računalnike, ki bodo enakovredni človeški inteligenci ali jo celo presegli, morda lahko uporabimo strukture možganov in njihovo notranje delovanje kot vodilo, kaj moramo storiti, da dosežemo tako visok cilj. Nekateri na področju umetne inteligence verjamejo, da več ko vemo o tem, kako delujejo možgani, boljše so naše možnosti za oblikovanje prave umetne inteligence, včasih imenovane splošna umetna inteligenca (AGI).

Drugi v AI so manj navdušeni nad tem, da morajo vedeti, kako delujejo možgani. Poudarjajo, da lahko hitro nadaljujemo z izdelavo umetne inteligence, ne glede na to, ali smo sposobni odkleniti skrivno notranje delovanje možganov. Ne dovolite, da skrivnosti možganov ovirajo naša prizadevanja AI. Seveda še naprej poskušajte dekodirati in dešifrirati človeške možgane, vendar ne moremo sedeti in čakati, da bodo možgani vzvratno zasnovani. Če bo to nekega dne izvedljivo, je to čudovita novica, čeprav je morda nemogoče ali pa se bo zgodilo čez eole.

Zdaj sem pripravljen z vami deliti spor o smrtnem in nesmrtnem računalniku. Prepričajte se, da sedite in ste pripravljeni na veliko razkritje.

Računalnik, ki ima jasno ločeno strojno in programsko opremo, bi lahko trdili, da je "nesmrten", saj lahko strojna oprema obstaja večno (seveda v mejah), medtem ko bi lahko programsko opremo vedno znova pisali in prepisovali. Običajni računalnik lahko vzdržujete tako dolgo, dokler lahko popravite strojno opremo in omogočite delovanje naprave. Še danes lahko uporabljate surove domače računalnike iz sedemdesetih let prejšnjega stoletja, ki so prihajali v kompletih za sestavljanje, čeprav so bili stari približno petdeset let (dolgo v računalniška leta).

Recimo, da smo se odločili izdelati računalnike, v katerih sta strojna in programska oprema delovali neločljivo (več o tem bom povedal kmalu). Razmislite o tem na isti podlagi, kot sem prej omenil, da imajo možgani morda celostno sestavo strojne in programske opreme. Če bi bilo tako, bi lahko sklepali, da računalnik te vrste ne bi bil več nesmrten. Namesto tega bi se razlagalo kot "smrtno".

Glede na pripombe, ki jih je na konferenci NeurIPS dal povabljeni osrednji govornik in omembe vreden guru AI Geoffrey Hinton, in kot je navedeno v njegovem spremnem raziskovalnem dokumentu:

• »Digitalni računalniki za splošno uporabo so bili zasnovani tako, da zvesto sledijo navodilom, ker se je domnevalo, da je edini način, da računalnik za splošno uporabo pripravimo do opravljanja določene naloge, pisanje programa, ki natančno določa, kaj je treba storiti, v mučnih podrobnostih. To ne drži več, vendar je raziskovalna skupnost počasi razumela dolgoročne posledice globokega učenja za način izdelave računalnikov. Natančneje, skupnost se je oklepala ideje, da mora biti programska oprema ločljiva od strojne opreme, tako da se isti program ali isti niz uteži lahko izvaja na drugi fizični kopiji strojne opreme. Zaradi tega znanje, ki ga vsebuje program, umre ali uteži nesmrtne: znanje ne umre, ko umre strojna oprema« (kot je vsebovano in citirano v njegovem raziskovalnem članku »Algoritem naprej-naprej: nekatere predhodne preiskave«, prednatis, ki je na voljo na spletu) .

Upoštevajte, da posebna vrsta računalništva, o kateri se razpravlja v tej vrsti umetne inteligence, uporablja umetne nevronske mreže (ANN).

Razčistimo stvari glede tega.

V naših možganih so resnični biološki nevroni. Uporabljate jih ves čas. Biološko in kemično so povezani v mrežo v vaši nogici. Tako lahko to imenujemo a nevronska mreža.

Drugje obstajajo, recimo temu, lažni "nevroni", ki jih računalniško predstavljamo v računalnikih za namene oblikovanja AI. Mnogi ljudje v AI jih imenujejo tudi nevronske mreže. Mislim, da je to nekoliko zmedeno. Vidite, raje jih imenujem kot umetni nevronske mreže. To pomaga takoj razlikovati med sklicevanjem na in-your-head nevronske mreže (prav tako rekoč) in računalniški (umetni nevronske mreže).

Ne zavzemajo se vsi tega stališča. Veliko ljudi v umetni inteligenci samo domneva, da vsi ostali v umetni inteligenci »vedo«, da pri sklicevanju na nevronske mreže skoraj vedno govorijo o ANN – razen če pride do situacije, ko želijo iz nekega razloga razpravljati o resničnih nevronih in resničnih nevronskih mrežah v možgani.

Verjamem, da razumeš mojo smer. Večino časa bodo ljudje z umetno inteligenco rekli "nevronske mreže", kar je potencialno dvoumno, ker ne veste, ali mislijo na resnične v naših glavah ali na računalniške, ki jih programiramo v računalnike. Toda ker se ljudje z umetno inteligenco večinoma ukvarjajo z računalniško podprtimi primerki, privzeto domnevajo, da imate v mislih umetne nevronske mreže. Rad bi dodal besedo "umetno" na sprednji del besedila, da bi bil jasen glede namer.

Če gremo naprej, te računalniške umetne nevrone lahko do neke mere obravnavate kot matematično ali računalniško simulacijo tega, kar mislimo, da dejanski biokemični fizični nevroni počnejo, kot je uporaba številčnih vrednosti kot utežnih faktorjev, ki se sicer biokemično dogajajo v možganih. Danes te simulacije niso niti približno tako zapletene kot pravi nevroni. Sedanje ANN so izjemno groba matematična in računalniška predstavitev.

Na splošno so ANN pogosto osrednji element za strojno učenje (ML) in globoko učenje (DL) – upoštevajte, da je o tem veliko več podrobnosti, zato vas pozivam, da si ogledate mojo obsežno pokritost ML/DL. pri povezava tukaj in povezava tukaj, Npr.

Če se vrnemo k nesmrtnim in smrtnim vrstam računalnikov, je tukaj še nekaj za premišljevanje po raziskovalcu:

• »Ločitev programske in strojne opreme je eden od temeljev računalništva in ima številne prednosti. Omogoča preučevanje lastnosti programov brez skrbi za elektrotehniko. Omogoča enkratno pisanje programa in njegovo kopiranje na milijone računalnikov. Če pa smo pripravljeni opustiti nesmrtnost, bi moralo biti mogoče doseči ogromne prihranke energije, potrebne za izvedbo računanja, in pri stroških izdelave strojne opreme, ki izvaja računanje. Dovolimo lahko velike in neznane variacije povezljivosti in nelinearnosti različnih primerkov strojne opreme, ki naj bi opravljali isto nalogo, in se zanašamo na učni postopek za odkrivanje vrednosti parametrov, ki učinkovito uporabljajo neznane lastnosti vsakega posameznega primerka strojna oprema. Te vrednosti parametrov so uporabne samo za določen primer strojne opreme, zato je izračun, ki ga izvajajo, smrten: umre skupaj s strojno opremo« (ibid).

Zdaj ste se seznanili s tem, kako se v tem kontekstu uporabljata nesmrten in smrten.

Naj pojasnim.

Predlog je, da bi lahko računalnik, ki je namensko zgrajen na podlagi ANN, zasnoval tako, da bi strojna in programska oprema veljala za neločljivi. Ko strojna oprema nekega dne ne bo več delovala (kar seveda pravimo, da celovito prepleta programsko opremo), ta tip računalnika na videz ni več uporaben in ne bo več deloval. Rečeno je, da je smrten. Lahko bi tudi zakopali računalnik, ki temelji na ANN, saj vam odslej ne bo veliko koristil, potem ko neločljiva strojna in programska oprema ne bosta več delovali kot ekipa.

Če bi želeli to poskusiti povezati z analogijo človeških možganov, bi si lahko predstavljali žalosten položaj človeških možganov, ki se popolnoma poslabšajo ali so nekako nepopravljivo poškodovani. Sprejemamo idejo, da je človek smrten in da bodo njegovi možgani na koncu in neizogibno prenehali delovati. Znanje, ki so ga imeli v svojih možganih, ni več na voljo. Razen če slučajno poskušajo povedati drugim ali zapisati, kar so vedeli, je njihovo znanje odšlo v svet na splošno.

Nedvomno ste že slišali ali videli poročila o poskusih ohranitve možganov, na primer o postavitvi v zamrznjeno stanje, v skladu s teorijo, da bi morda ljudje nekoč lahko bili nesmrtni ali vsaj podaljšali svojo običajno življenjsko dobo. Vaši možgani lahko živijo naprej, tudi če niso v vašem telesu. Veliko znanstvenofantastičnih filmov in zgodb je špekuliralo o takšnih zamislih.

Zdaj smo pripravljeni na podroben pogled na smrtni računalnik in nesmrtni računalnik kot koncept in kaj napoveduje.

Premišljena razprava in premišljena analiza

Preden se poglobimo v bistvo te analize predpostavljenega pristopa, je vredno omeniti nekaj pomembnih opozoril in dodatnih točk.

Raziskovalec je poudaril, da je skovan smrtni računalniki ne bi posebej nadomestil ali izrinil iz obstoja nesmrtni računalniki ki jih danes imenujemo običajni digitalni računalniki. Prišlo bi do soobstoja obeh vrst računalnikov. To pravim, ker so nekateri reagirali, da je bil poziv k redu vsesplošna trditev vse nujni računalniki so ali se bodo usmerjali proti smrtnemu tipu.

To ni bila trditev.

Med govorom je omenil, da so te specializirane nevromorfno usmerjeni računalniki bi izvajali računalniško delo, znano kot smrtni izračuni: »Naredili bomo to, kar imenujem smrtno računanje, kjer sta znanje, ki se ga je sistem naučil, in strojna oprema neločljiva« (kot je Tiernan Ray citiral v članku ZDNET 1. decembra 2022).

In predvsem: »Ne bo nadomestil digitalnih računalnikov« (ibid).

Poleg tega te nove vrste računalnikov nedvomno ne bodo kmalu prisotne v vaši lokalni računalniški trgovini ali takoj na voljo za nakup na spletu, kot je dejal med svojo predstavitvijo: »Mislim, da bomo videli popolnoma drugačno vrsto računalnikov. računalnik, ne za nekaj let, vendar obstajajo vsi razlogi za preiskavo tega popolnoma drugačnega tipa računalnika.« Tudi uporaba bi se razlikovala: "Ne bo računalnik tisti, ki je odgovoren za vaš bančni račun in natančno ve, koliko denarja imate."

Dodaten zasuk je, da bi smrtne računalnike navidezno gojili, namesto da bi jih izdelovali, kot to počnemo danes, za proizvodnjo računalniških procesorjev in računalniških čipov.

Med procesom rasti bi smrtniški računalnik povečal zmogljivosti v slogu računalniškega zorenja. Tako lahko dani računalnik smrtnika začne s komaj kakršno koli zmogljivostjo in dozori v to, kar naj bi postal. Denimo, da želimo ustvariti mobilne telefone z uporabo računalnikov smrtnikov. Začeli bi s preprosto različico smrtonosnega računalnika, ki je bil prvotno oblikovan ali zasejan za ta namen. Nato bi dozorel v naprednejšo različico, ki ste jo iskali. Na kratko: "To bi zamenjali z vsakim od teh mobilnih telefonov, ki bi moral začeti kot otroški mobilni telefon in moral bi se naučiti, kako biti mobilni telefon."

Na enem od njegovih temeljnih diapozitivov o računanju smrtnikov so bile prednosti opisane takole: »Če opustimo nesmrtnost in sprejmemo, da je znanje neločljivo povezano z natančnimi fizičnimi podrobnostmi določenega dela strojne opreme, dobimo dve veliki prednosti: (1) Uporabljamo lahko analogno računanje z zelo nizko porabo energije, (2) lahko razvijamo strojno opremo, katere natančna povezljivost in analogno obnašanje nista znana.«

Del istega govora in vsebovanega v njegovem raziskovalnem dokumentu pred natisom je predlagana tehnika, kako je mogoče bolje oblikovati ANN, kar imenuje uporaba naprej-naprej mrežni pristop. Nekateri od vas, ki ste seznanjeni z ANN, se nedvomno že dobro zavedate uporabe povratnega širjenja ali povratne podpore. Morda bi si želeli ogledati njegovo predlagano tehniko naprej naprej. O tem fascinantnem pristopu bom govoril v prihodnji objavi v kolumni, zato bodite pozorni na moje prihodnje poročanje o tem.

Prestavimo prestavo, razmislimo o tem, kaj se na hodnikih in stranpoteh skupnosti umetne inteligence govori o tem predrznem smrtni računalnik mahinacija.

Začeli bomo s tem, za kar bi nekateri rekli, da ni začetnik vsega povedanega.

Ste pripravljeni?

Nehajte imenovati to stvar a smrtni Računalnik.

Prav tako nehajte razglašati, da so današnji običajni računalniki immortal.

Obe uporabi sta preprosto napačni in zelo zavajajoči, opozarjajo skeptiki.

Vsakdanja slovarska definicija tega, kar je nesmrtno, je sestavljena iz nečesa, kar ne more umreti. Živi večno. Da ne bi umrli, morate verjetno reči, da je stvar sama živa. Stopate po napačni poti, ko trdite, da so današnji računalniki živi. Nobena razumna oseba ne bi sodobnim računalnikom pripisala dobrovernih "živih" lastnosti. So stroji. So stvari. Niso osebe, živali ali življenjske razmere.

Če želite raztegniti definicijo nesmrtnega, da dovolite, da mislimo tudi na neživa bitja, v tem primeru neživa entiteta navidezno ne sme nikoli razpasti in ne more neizogibno razpasti v prah. Ali lahko tako trdite o današnjih računalnikih? To se zdi raztegnjeno (opomba ob strani: seveda bi se lahko spustili v veliko filozofsko razpravo o naravi materije in obstoja, vendar se v tem primeru ne spuščajmo tja).

Bistvo je, da je uporaba ali nekateri bi rekli zloraba besed "smrten" in "nesmrten" nenavadna in neprimerna. Jemanje pogosto uporabljenega ljudskega jezika in njegova ponovna uporaba za druge namene je zmedeno in ustvarja motne vode. Pripravljen moraš biti navidezno rekonceptualizirati, kaj smrtno in nesmrtno pomenita v tem specifičnem kontekstu. To postane problematično.

Še bolj zaskrbljujoče je, da te izbire besed ponavadi antropomorfizirajo računalniške vidike.

Težav, povezanih z antropomorfiziranjem umetne inteligence, je že več kot dovolj, zagotovo nam ni treba izmišljevati več takšnih možnosti. Kot sem obširno razpravljal v svojem poročilu o etiki umetne inteligence in etični umetni inteligenci, ljudje na različne načine pripisujejo čuteče sposobnosti računalnikom. To po drugi strani zavaja ljudi, da napačno verjamejo, da lahko računalniki, ki temeljijo na AI, razmišljajo in delujejo kot ljudje. Ko se družba uspava v prepričanje, da sta današnja umetna inteligenca in računalništvo enaka človeškemu intelektu in zdravi pameti, je spolzko pobočje ogroženosti, glejte na primer mojo analizo na povezava tukaj in povezava tukaj.

V redu, lahko zavračamo ali preziramo nerodne izbire besedila, toda ali to pomeni, da bi morali otroka vreči ven s kopalno vodo (star izraz, ki se verjetno bliža upokojitvi)?

Nekateri trdijo, da morda lahko najdemo boljšo ubeseditev za ta splošni pristop ali koncept. Zavrzite uporabo besed »smrten« in »nesmrten«, da ostale ideje ne bodo omadežene zaradi neustrezne ali nepravilne uporabe. Medtem pa obstajajo protiargumenti, da je uporaba teh izbir besed popolnoma sprejemljiva, bodisi zato, ker se spodobijo, bodisi zato, ker ne bi smeli biti neprilagodljivi glede tega, kako se odločimo za ponovno uporabo besed. Vrtnica je vrtnica s katerim koli drugim imenom, izjavljajo.

Da bi se izognil nadaljnji jedki razpravi, se bom odslej izogibal uporabi besed »smrten« in »nesmrten« in bom le izjavil, da imamo dve glavni vrsti računalnikov, ki se povezujejo, enega, ki je današnji običajni digitalni računalnik in drugo je predlagano nevromorfni Računalnik.

Zdi se, da v to ni treba vleči uganke o smrtnosti. Naj bo nebo čisto, da vidimo, kaj še lahko naredimo iz zadeve, ki je pri roki.

V tem primeru bi nekateri trdili, da predlagana ideja o nevromorfnem računalniku ni nič novega.

Lahko se vrnete nazaj v prejšnje čase umetne inteligence, zlasti ko so ANN najprej raziskovali, in vidite, da je bilo govora o oblikovanju specializiranih računalnikov za opravljanje dela umetnih nevronskih mrež. Predlagane so bile vse vrste nove strojne opreme. To se dogaja še danes. Seveda bi lahko trdili, da večina današnjega raziskovanja specializirane strojne opreme za ANN in strojno učenje še vedno temelji na običajnem pristopu k računalništvu. V tem smislu ta analogna neločljivost strojne in programske opreme nekoliko preseže meje, predlog o »razširjanju« računalnika pa tudi, vsaj kar zadeva izstop iz obravnavanega mainstreama.

Skratka, obstajajo nekateri, ki so popolnoma obveščeni o teh zadevah in so presenečeni, da bi bil lahko kdo drug presenečen nad predloženimi predlogi. Ti pojmi so bodisi enaki kot prej bodisi odmevajo tisto, kar se že preučuje v različnih raziskovalnih laboratorijih.

Pravijo, da si ne smete razburjati las.

To nas pripelje do drugega vidika, ki je za mnoge moteč.

Z eno besedo: Predvidljivost.

Današnji računalniki na splošno veljajo za predvidljive. Lahko si ogledate strojno in programsko opremo, da ugotovite, kaj bo računalnik naredil. Podobno lahko izsledite, kaj je računalnik že naredil, da ugotovite, zakaj je naredil karkoli je naredil. Seveda obstajajo omejitve pri tem, zato ne želim pretiravati s predvidljivostjo, vendar mislim, da na splošno razumete idejo.

Morda se zavedate, da je eno od kočljivih vprašanj, s katerimi se danes sooča umetna inteligenca, ta, da je nekatera umetna inteligenca zasnovana tako, da se samoprilagaja. AI, ki so ga uvedli razvijalci, se lahko spremeni med uporabo. Na področju etike umetne inteligence obstajajo številni primeri umetne inteligence, ki so bili uporabljeni in sprva niso imeli nepotrebnih pristranskosti ali diskriminatornih nagnjenj, ki so se nato postopoma računalniško samo-mutirali v času, ko je bila umetna inteligenca v proizvodnji, glejte moj podrobne ocene pri povezava tukaj.

Skrbi, da že vstopamo v okolje, ki vključuje umetno inteligenco, ki ni nujno predvidljiva.

Recimo, da se umetna inteligenca za oborožitvene sisteme samoprilagodi in rezultat je, da umetna inteligenca oboroži in izstreli smrtonosno orožje na tarče in ob nepričakovanih časih. Ljudje morda niso v zanki, da bi zaustavili AI. Ljudje, ki so v zanki, se morda ne bodo mogli odzvati dovolj hitro, da bi prehiteli dejanja umetne inteligence. Za dodatne srhljive primere si oglejte mojo analizo na povezava tukaj.

Za nevromorfne računalnike je zaskrbljujoče, da steroidom dodajamo nepredvidljivost. Od samega začetka bi lahko bilo bistvo nevromorfnega računalnika, da deluje na način, ki kljubuje napovedi. Bahamo se z nepredvidljivostjo. Postane znak časti.

Obstajata dva tabora.

Eden od taborov pravi, da lahko živimo z neprijetnimi pomisleki glede nepredvidljivosti, tako da postavimo zaščitne ograje, ki preprečujejo, da bi umetna inteligenca šla predaleč. Drugi tabor trdi, da peljete svet na nevarno pot. Napočil bo dan, ko bodo zahtevane zaščitne ograje bodisi odpovedale, ali niso dovolj stroge, ali pa so bile zaščitne ograje po nesreči ali zlobnem namenu odstranjene ali se z njimi igrajo.

Ali naj odmislimo pomisleke glede nevromorfnih računalnikov in predvidljivosti?

Po pripombah raziskovalca: "Med ljudmi, ki jih zanima analogno računanje, je še zelo malo takih, ki so se pripravljeni odpovedati nesmrtnosti." Nadalje: "Če želite, da vaša analogna strojna oprema vsakič naredi isto ... imate resnično težavo z vsemi temi potepuškimi električnimi stvarmi in podobnim."

Tole bom dvignil.

Preteča in nekoliko mračna perspektiva je, da gre tako imenovana predvidljivost, povezana z današnjimi digitalnimi računalniki, v smeri nepredvidljivosti. Kot že omenjeno, se to lahko zgodi zlasti pri AI, ki se samoprilagodi na običajnih računalniških platformah. Samo zato, ker so nevromorfni računalniki morda navidezno nepredvidljivi, to še ne pomeni, da so običajni digitalni računalniki v resnici predvidljivi.

Parni valj nepredvidljivosti prihaja k nam s polno paro, ne glede na to, katero računalniško platformo želite izbrati. Za mojo oceno zadnjih prizadevanj za doseganje varnosti umetne inteligence v tej luči glejte povezava tukaj.

Ta preobrat o predvidljivosti bi moral vzbuditi vaš um, da se osredotočite na nekaj nerazkrite narave. Tisti med vami, ki se ukvarjate z etiko umetne inteligence in pravom o umetni inteligenci, morda ne razmišljali o posledicah nevromorfni računalniki.

Verjetno ste ciljali na običajne digitalne računalnike, ki poganjajo AI. No, uganite, imate povsem dodaten in nastajajoč segment računalništva z umetno inteligenco, za katerega lahko zdaj ponoči ne skrbite. Ja, nevromorfni računalniki. Daj to na svoj seznam opravil.

Oprostite, še več neprespanih noči za vas.

Na kratko razmislimo o tem, kaj Etika umetne inteligence in Zakon o umetni inteligenci počneta glede običajnega digitalnega računalništva in umetne inteligence.

V prejšnjih stolpcih sem obravnaval različna nacionalna in mednarodna prizadevanja za oblikovanje in uveljavitev zakonov, ki urejajo umetno inteligenco, glejte povezava tukaj, na primer. Pokril sem tudi različna načela in smernice etike umetne inteligence, ki so jih opredelili in sprejeli različni narodi, vključno na primer s prizadevanji Združenih narodov, kot je Unescov sklop etike umetne inteligence, ki ga je sprejelo skoraj 200 držav, glej povezava tukaj.

Tukaj je koristen temeljni seznam etičnih meril ali značilnosti umetne inteligence v zvezi s sistemi umetne inteligence, ki sem jih že natančno raziskal:

• Preglednost
• Pravičnost in pravičnost
• Nezlobnost
• odgovornost
• Zasebnost
• Dobrotje
• Svoboda in avtonomija
• Zaupajte
• Trajnostni razvoj
• Dostojanstvo
• Solidarnost

Ta načela etike umetne inteligence naj bi resno uporabljali razvijalci umetne inteligence, skupaj s tistimi, ki upravljajo prizadevanja za razvoj umetne inteligence, in celo tistimi, ki na koncu izvajajo in vzdržujejo sisteme umetne inteligence.

Vse zainteresirane strani v celotnem življenjskem ciklu razvoja in uporabe umetne inteligence so obravnavane v okviru spoštovanja že vzpostavljenih norm etične umetne inteligence. To je pomemben poudarek, saj je običajna predpostavka, da morajo »samo koderji« ali tisti, ki programirajo umetno inteligenco, upoštevati pojme etike umetne inteligence. Kot je bilo že poudarjeno v tem dokumentu, je potrebna vas, da zasnuje in uporabi umetno inteligenco, za kar pa mora biti cela vas seznanjena in spoštovati predpise etike umetne inteligence.

Del tega, o katerem morda prej niste veliko razmišljali, je, kako bodo ti isti predpisi etike umetne inteligence in vse večji seznam novih zakonov o umetni inteligenci veljali za nevromorfne računalnike. Če pojasnimo, etika umetne inteligence in zakon o umetni inteligenci morata to res izrecno upoštevati. Poudarjam, da jih malokdo to počne, in zavedajte se, da obstaja velika verjetnost, da bo prihod nevromorfnih računalnikov marsikoga vrgel v zanko v smislu nove razsežnosti za poskus kraljevanja v AI.

Upoštevati moramo etično umetno inteligenco in zakone o umetni inteligenci na dovolj širok način, da zajamejo katero koli novo umetno inteligenco, vključno z nevromorfnimi računalniki.

Alternativa kolebnici je klasični gambit mačke in miši. Takole gre. Zasnovani in zgrajeni so novi načini izdelave AI. Obstoječa etika umetne inteligence in zakoni o umetni inteligenci so ujeti nepripravljeni in ne zajemajo v celoti najnovejših sleparij na področju umetne inteligence. Hitro si prizadevamo posodobiti etične predpise o umetni inteligenci in spremeniti te na novo pripravljene zakone o umetni inteligenci.

Pene, sperite, ponovite.

Za vse bi bilo bolje, da ostanemo v prednosti, namesto da nas ujamejo za osmico.

zaključek

Peljal sem te na malo potovanje.

Na začetku sem predlagal, da bosta preučeni dve glavni temi:

1) Integrirano povezovanje strojne in programske opreme za mehanizacije umetne inteligence, namesto da bi ju imeli kot ločena in ločena zaveznika

2) Prenos ali destilacija formulacij strojnega učenja iz enega modela umetne inteligence v drugega, ki to stori, ne da bi zahteval ali nujno želel (ali je celo izvedljivo drugače možno) takojšnje popolno čistokrvno kopiranje

Prva tema o povezovanju strojne in programske opreme je bila glavnina tega potovanja. To nas je pripeljalo v smrtno in nesmrtno računalniško močvirje. Med temi je bilo nekaj ključnih premislekov glede etike umetne inteligence in zakona o umetni inteligenci, ki sicer običajno ne bi bili omenjeni, saj nekateri na tovrstno temo, povezano z računalniki, običajno gledajo kot na izključno tehnološko, ne pa kot na kakršno koli skrb za družbene vplive.

Pravim, da je najbolj pametno biti prej in varnejši, namesto pozneje in na slabšem, ko gre za obravnavanje etične umetne inteligence in zakona o umetni inteligenci.

Druga tema, ki je tukaj še nisem artikuliral, je materialno povezana s prvo temo.

Tukaj je dogovor.

Recimo, da imamo »smrtni računalnik« in želimo ohraniti zmogljivosti, tako da lahko imamo varnostno kopijo ali navidezne kopije tega, kar vsebuje AI. Morda nas skrbi, da se določen smrtni računalnik bliža koncu. Joj, odvisni smo od tega. Kaj naj storimo? Eden od odgovorov je, da bi morali kopirati prekleta stvar.

Toda kopiranje nevromorfnega računalnika, kot je skiciran, bo težje, kot se morda zdi na prvi pogled. Stvari lahko postanejo zapletene.

Morda bi se morali domisliti zvijače kopiranja, ki bo posplošljiva in uporabna v okoliščinah, ki vključujejo strojno učenje in umetne nevronske mreže. Želimo, da to deluje na obsežnih in izjemno obsežnih primerih. Tudi mi bi želeli, da kopija ne bi bila natančen dvojnik, temveč bi bila lahko v bistvu enakovredna ali morda celo bolje zasnovana kot rezultat kopiranja.

Tehnika, znana kot destilacijo je bil predlagan.

Za današnjo kolumno mi je zmanjkalo prostora, zato se bom lotil te druge teme v naslednji kolumni. Ugotovil sem, da bi želeli takoj izvedeti o razmerju med to drugo temo in prvo temo, ki je bila tukaj obširno obravnavana. Zamislite si to kot dodatno opombo, ki služi kot dražljivka ali napovednik tega, kar sledi.

Ostanite na robu svojega sedeža, saj je tema o destilaciji precej dobra.

Kot je rekel Batman, imejte prekrižana krila in bodite pripravljeni na isti netopirski čas in netopirski kanal, ko boste razkrili mučno vprašanje, kako kopirati ANN ali model strojnega učenja ali nevromorfni računalnik v drugega.

Končna pripomba za zdaj. V filmu je znan stavek Temni vitez se vrača v katerem naš križar s ogrinjalom pravi tole: "Svet ima smisel le, če ga v to prisiliš." Ko bom obravnaval drugo temo o destilaciji, povezani z umetno inteligenco, se bom poskušal držati tega ideala.

Spremljajte nas za 2. del tega vznemirljivega in očarljivega dvoboja.