Etika umetne inteligence in skoraj razumno vprašanje, ali bomo ljudje preživeli umetno inteligenco

Imam vprašanje za vas, ki se zdi, da v teh dneh zbuja veliko nesoglasij in vročih razprav.

Ste pripravljeni?

Bomo ljudje preživeli AI?

Premisli o tem.

Odpakiral bom vprašanje in natančno preučil odgovore ter kako so bili odgovori pojasnjeni. Moj primarni namen je poudariti, kako sta vprašanje samo in okoliški diskurz neizogibno in neizogibno zakoreninjena v Etika umetne inteligence.

Tistim, ki zaničujoče mislijo, da je na vprašanje samo po sebi nemogoče odgovoriti ali da je izguba časa in sape, bi vljudno predlagal, da poskus odgovora na vprašanje sproži nekatere bistvene pomisleke etike umetne inteligence. Torej, tudi če želite vprašanje zavrniti kot morda nesmiselno ali nerealno, pravim, da še vedno izzove določeno vrednost kot sredstvo ali mehanizem, ki poudarja etične predpise umetne inteligence. Za moje stalno in obsežno pokrivanje etičnosti umetne inteligence in etične umetne inteligence glejte povezava tukaj in povezava tukaj, samo da navedem nekaj.

Ob zgoraj omenjeni premisi mi prosim dovolite, da še enkrat ponovim sporno vprašanje in dovolite našim mislim, da se sprehajamo po pomenu vprašanja.

Bomo ljudje preživeli AI?

Če vam ta fraza ne ustreza, lahko preoblikujete vprašanje in vprašate, ali bo umetna inteligenca preživela ljudi. Nisem prepričan, ali je zaradi tega lažje odgovoriti na vprašanje, morda pa se zdi manj zaskrbljujoče. To pravim zato, ker bi se lahko zamisel, da bi umetna inteligenca preživela ljudi, zdela nekoliko bolj neškodljiva. To bi bilo skoraj tako, kot da bi vas vprašal, ali bodo velike stavbe in spomeniki, ki jih je ustvaril človek, preživeli človeštvo.

Vsekakor se to zdi izvedljivo in ne posebej grozeče. Te velike stvari izdelujemo tekom svojega življenja in podobne piramidam bodo te mogočne strukture preživele tiste, ki so jih izdelali. To seveda ni povsem enako vztrajanju po koncu človeštva, saj so ljudje še vedno tukaj. Kljub temu se zdi povsem logično in možno, da strukture, ki jih izdelamo, v celoti preživijo naš obstoj.

Pomembna razlika pa je, da različne strukture, kot so visoki nebotičniki in veličastni kipi, niso žive. So inertni. Nasprotno pa je pri vprašanju o AI predpostavka, da je AI v bistvu "živ" v smislu, da ima neko obliko inteligence in da lahko deluje na načine, kot to počnejo ljudje. Zato je vprašanje o daljšem življenju bolj zastrašujoče, zaskrbljujoče in sploh uganka, o kateri se je vredno ugankati.

Skozi svoje pripombe tukaj se bom držal vprašanja, ki se glasi, ali bodo ljudje preživeli umetno inteligenco. To je zgolj zaradi razprave in lažjega razmišljanja. Ne mislim nespoštovanja do alternativnega vprašanja, ali bo umetna inteligenca preživela ljudi. Skratka, ta analiza zajema obe besedi in naključno ugotovim, da se zdi vprašanje, ali ljudje preživijo AI, bolj prikupno v teh kočljivih zadevah.

V redu, bom še enkrat vprašal:

Zdi se, kot da imate dva možna odgovora, ali železni da, ljudje bodo preživeli umetno inteligenco, ali pa ste morda na drugi strani medalje in goreče vztrajate, da ne, ljudje ne bodo preživeli umetne inteligence. Tako se to vzvišeno in mučno vprašanje skrči na preprosto prevajanje z da ali ne.

Izberite.

Zavedam se, da je slab odgovor, da niti da niti ne ne veljata.

Slišim te.

Medtem ko se zdi, da je na vprašanje zagotovo mogoče odgovoriti le na izrazito binarni način, namreč samo z da ali ne, vam priznam, da je mogoče razumno podati protiargument, da je odgovor nekaj drugega.

Na kratko raziščimo nekaj podlag, zakaj na to vprašanje ne želimo zgolj reči da ali ne.

Prvič, lahko zavrnete besedo "preživeti" v kontekstu zastavljenega vprašanja.

To posebno besedilo morda pomeni, da je AI živ. Vprašanje ni bilo "preživeti" in namesto tega sprašuje, ali bodo ljudje preživeli AI. Ali se outlive nanaša samo na človeški del vprašanja ali velja tudi za AI del vprašanja? Nekateri bi poskušali trditi, da se preživela avra nanaša tudi na del AI. V tem primeru bi imeli zgago, češ da je AI živo bitje. Za njih bo umetna inteligenca podobna visokim zgradbam in drugim strukturam. Ni živo na enak način, kot smo živi ljudje.

Ergo, v tem gorečem nasprotnem stališču je vprašanje napačno ubesedeno.

Morda ste nejasno seznanjeni z vprašanji, ki imajo napačne ali zavajajoče premise. Eden najbolj znanih primerov je, ali bo nekdo nehal tepsti svojo ženo (star pregovor, ki ga je očitno treba pustiti ob strani). Če je v tem zloglasnem primeru odgovor pritrdilen, pomeni, da je oseba to že počela. Če rečejo ne, pomeni, da so to počeli in bodo še naprej.

Če se vprašamo, ali bodo ljudje preživeli umetno inteligenco, se lahko na koncu zakopljemo v močvirje o tem, ali se umetna inteligenca šteje za nekaj živega vidika. Kot bom takoj pojasnil, danes nimamo nobene umetne inteligence, ki bi bila čuteča. Mislim, da bi se večina razumnih ljudi strinjala, da umetna inteligenca, ki ni čuteča, ni živo bitje (no, ne strinjajo se vsi, vendar bom to za zdaj določil – glejte mojo pokritost pravne osebe za umetno inteligenco na povezava tukaj).

Bistvo te prve podlage za neodgovor na vprašanje, ali bodo ljudje preživeli umetno inteligenco, je, da bi lahko besedo »preživeti« razlagali tako, da pomeni, da je umetna inteligenca živa. Takšne umetne inteligence še nimamo. Če proizvajamo ali nekako imamo čutečo umetno inteligenco, ki se pojavi, bi težko trdili, da ni živa (čeprav bodo nekateri poskušali podati tak argument). Ključno pri tem je torej, da vprašanje postavlja nekaj, kar ne obstaja, in zgolj špekuliramo o neznani in megleni prihodnosti.

Lahko vzamemo to nered in ga poskušamo razširiti v izrazitejši izraz. Recimo, da namesto tega vprašamo tole:

• Ali bomo ljudje kot živa bitja preživeli AI, ki je bodisi (1) neživa ali (2) živa bitja, če se to nekega dne zgodi?

Upoštevajte to razširjeno besedilo in kmalu se bomo vrnili k njemu.

Druga podlaga za to, da ne želimo odgovoriti na prvotno postavljeno vprašanje, ali bomo ljudje preživeli AI, je ta, da predpostavlja, da bo ena od stvari preživela eno od drugih stvari. Recimo, da oba v bistvu živita večno? Ali pa predpostavimo, da oba potečeta ali prenehata obstajati hkrati?

Prepričan sem, da lahko zlahka ugotovite, kako zaradi tega besedilo da ali ne razpade.

Zdi se, kot da potrebujemo možen tretji odgovor, sestavljen iz "niti" ali podobnega odgovora.

Obstaja množica permutacij, ki so povezane z "niti". Na primer, če je nekdo ostro prepričan, da se bodo ljudje uničili z umetno inteligenco, hkrati pa ljudem uspe uničiti umetno inteligenco, ta vernik ne more iskreno odgovoriti na vprašanje, kateri bo preživel drugega, z neprilagodljivim odgovorom da ali ne. Odgovor v tem precej umazanem in žalostnem primeru bi bil bolj v smislu, da nobeden ne preživi drugega.

Enako bi veljalo, če bi ogromen meteor udaril v Zemljo in izbrisal vse na planetu, vključno z ljudmi in umetno inteligenco, ki je slučajno v bližini (ob predpostavki, da smo vsi omejeni na Zemljo in ne živimo še dodatno na Marsu). Še enkrat se zdi, da je odgovor "nobenega" primernejši od namigovanj, da so ljudje preživeli umetno inteligenco ali da je umetna inteligenca preživela ljudi (ker sta bila oba uničena hkrati).

Tu ne želim iti predaleč, vendar bi morda želeli določiti tudi nekaj parametrov o času preživetja. Predpostavimo, da meteor udari v Zemljo in ljudje skoraj v trenutku iztrebimo. Medtem pa predpostavimo, da AI še nekaj časa deluje. Pomislite na to, kot da bi morda imeli v tovarnah že delujoče stroje, ki brnijo, dokler se na koncu stroji ne ustavijo, ker ni ljudi, ki bi vzdrževali stroje v stanju, ki deluje.

Morali bi reči, da so ti stroji preživeli ljudi ali jih preživeli. Zato je odgovor "ne" glede tega, ali so ljudje preživeli dlje. Ta odgovor se zdi površen. Stroji so se postopoma in neizprosno zaustavili, domnevno zaradi pomanjkanja človeštva okoli njih. Ali se zdi pošteno trditi, da so lahko stroji zdržali dlje kot ljudje?

Verjetno le tistim, ki so izbirčni in želijo biti vedno dražeče natančni.

Nato bi lahko vprašanju dodali nekakšen element, povezan s časom. Bomo ljudje preživeli AI za več kot en dan? Za več kot mesec dni? Za več kot eno leto? Že več kot stoletje? Zavedam se, da to na žalost odpira Pandorino skrinjico.

Kakšen je sprejemljiv časovni okvir, po katerem bi bili pripravljeni priznati, da je umetna inteligenca dejansko preživela ali preživela ljudi? Zdi se, da je natančen odgovor, da tudi če se to zgodi za nanosekundo (milijardinko sekunde) ali krajše, AI na splošno zmaga, ljudje pa izgubijo pri tej zadevi. Upoštevanje širine z uporabo dneva, tedna ali meseca se morda zdi pravičnejše. Pustiti, da se to dogaja leta ali stoletja, se zdi možno iztegovanje. Kot rečeno, če pogledate svet na lestvici milijonov let, se zamisel, da bi umetna inteligenca preživela ali trajala dlje od ljudi za največ nekaj stoletij, zdi precej nezahtevna in lahko bi izjavili, da sta oba prenehala obstajati pri približno isti čas (na zaokroženi podlagi).

Kakorkoli že, priznajmo, da ima zastavljeno vprašanje zaradi vrste razumno razumnih razlogov dovoljene tri možne odgovore:

• Da, ljudje bodo preživeli AI
• Ne, in s tem trdi, da bodo ljudje ne preživeti AI
• Ne velja niti da niti ne (potrebna je razlaga, če želite)

Omenil sem, da če izberete "nobenega", bi morali dati tudi razlago za svoj odgovor. To je zato, da lahko vemo, zakaj menite, da "nobeno" ni uporabno in tudi zakaj zavračate uporabo da ali ne. Da bi bilo življenje pravičnejše za vse, bi menda morali nekoliko vztrajati ali vsaj spodbujati, da tudi če odgovorite z da ali ne, še vedno ponudite razlago. Zagotavljanje preprostega da ali ne ne razkrije posebej vaše logike, zakaj odgovarjate tako, kot ste. Brez razlage bi lahko vrgli kovanec. Kovanec ne ve, zakaj je pristal na glavi ali repu (razen če verjamete, da ima kovanec dušo ali pooseblja neko vsevedno roko usode, vendar se tega za zdaj ne bomo spuščali).

Od ljudi, ki odgovarjajo na vprašanja, pričakujemo, da podajo nekakšno razlago za svoje odločitve. Upoštevajte, da ne trdim, da bodo razlage nujno logične ali razumne narave, in res je lahko razlaga povsem prazna in ne dodaja nobene posebne vrednosti. Kljub temu lahko iskreno upamo, da bo razlaga nazorna.

Med to razpravo je prišlo do neizrečene domneve, da bo iz enega ali drugega razloga ena od teh stvari res preživela drugo.

Zakaj naj verjamemo tako implicitnemu pogoju?

Odgovor na to sekundarno vprašanje je skorajda samoumeven.

Tukaj je dogovor.

Vemo, da so nekateri vidni vedeževalci in intelektualci podali precej drzne in odkrite napovedi o tem, kako bo pojav ali prihod čuteče umetne inteligence korenito spremenil svet, kot ga poznamo danes (naj spomnimo, danes nimamo čuteče umetne inteligence). .

Tukaj je nekaj znanih citatov, ki poudarjajo vpliv čuteče umetne inteligence na življenje:

• Stephen Hawking: "Uspeh pri ustvarjanju AI bi bil največji dogodek v človeški zgodovini."
• Ray Kurzweil: "V nekaj desetletjih bo strojna inteligenca presegla človeško inteligenco, kar bo privedlo do Singularnosti - tehnološke spremembe, ki je tako hitra in globoka, da predstavlja prelom v strukturi človeške zgodovine."
• Nick Bostrom: "Strojna inteligenca je zadnji izum, ki ga bo človeštvo kdaj moralo narediti."

Te trditve so očitno optimistične.

Stvar je v tem, da bi morali pri obravnavi čuteče umetne inteligence upoštevati tudi grdo spodnjo stran:

• Stephen Hawking: "Razvoj popolne umetne inteligence bi lahko pomenil konec človeške rase."
• Elon Musk: »Vse bolj se nagibam k temu, da bi moral obstajati nekaj regulativnega nadzora, morda na nacionalni in mednarodni ravni, samo zato, da zagotovimo, da ne naredimo česa zelo neumnega. Mislim, z umetno inteligenco prikličemo demona.«

Pričakuje se, da bo čuteča umetna inteligenca pregovorni tiger, ki smo ga zgrabili za rep. Ali bomo z uporabo čuteče umetne inteligence pognali človeštvo naprej? Ali pa bomo neumno povzročili lastno propad s čutečo umetno inteligenco, ki se odloči, da nas bo uničila ali zasužnjila? Za mojo analizo te uganke umetne inteligence z dvojno rabo glejte povezava tukaj.

Temeljni pomislek o tem, ali bodo ljudje preživeli umetno inteligenco, je, da morda ustvarjamo Frankensteina, ki se odloči izkoreniniti človeštvo. AI postane zmagovalec. Obstaja veliko možnih razlogov, zakaj bi nam AI to storil. Mogoče je umetna inteligenca zlobna in deluje temu primerno. Morda se AI naveliča ljudi in ugotovi, da ima moč, da se jih znebi. Domnevamo, da se lahko pojavi tudi pomotoma. Umetna inteligenca poskuša rešiti človeštvo in nas pri tem, ups, vse dokončno pobije. Vsaj motiv je bil čist.

Morda vas bo zanimala znamenita uganka AI, znana kot problem sponke, ki sem jo obravnaval povezava tukaj.

Skratka, nekoč čuteča umetna inteligenca mora narediti sponke za papir. AI je fiksiran na to. Da bi zagotovil, da je izdelava sponk za papir v celoti izvedena do končne stopnje, AI začne za to požirati vse druge planetarne vire. To vodi v propad človeštva, saj je umetna inteligenca porabila vse razpoložljive vire za edini cilj, ki so mu ga predali ljudje. Sponke za papir povzročajo naše lastno uničenje, če hočete. Umetna inteligenca, ki je zasnovana ozko in nima kakršnega koli videza zdrave pameti, je vrsta umetne inteligence, do katere moramo biti še posebej previdni.

Preden se poglobimo v vprašanje, ali bodo ljudje preživeli umetno inteligenco, upoštevajte, da nenehno omenjam vprašanje čuteče umetne inteligence v primerjavi z nečutečo umetno inteligenco. To počnem iz pomembnih razlogov.

Lahko divje špekuliramo o čuteči AI. Nihče zagotovo ne ve, kaj bo to. Nihče ne more zagotovo reči, ali bomo nekega dne dosegli čutečo umetno inteligenco. Zaradi te neznane in še nepoznane okoliščine je mogoče izpeljati skoraj vsakršen scenarij. Nekdo lahko reče, da bo čuteča umetna inteligenca zlo. Nekdo lahko reče, da bo čuteča umetna inteligenca dobra in dobrohotna. Lahko naštevate in nadaljujete, pri čemer ni mogoče predložiti nobenega "dokaza", ki bi dano trditev podprl s kakršno koli gotovostjo ali zagotovilom.

To nas pripelje na področje etike umetne inteligence.

Vse to je povezano tudi s trezno nastajajočimi pomisleki glede današnje umetne inteligence in zlasti uporabe strojnega učenja (ML) in globokega učenja (DL). Vidite, obstajajo uporabe ML/DL, ki običajno vključujejo antropomorfizacijo umetne inteligence s strani širše javnosti, pri čemer verjamejo ali se odločijo domnevati, da je ML/DL čuteča umetna inteligenca ali blizu (ni).

Morda bi bilo koristno najprej razjasniti, kaj mislim, ko govorim o umetni inteligenci na splošno, in podati tudi kratek pregled strojnega učenja in globokega učenja. Obstaja velika zmeda glede tega, kaj pomeni umetna inteligenca. Prav tako bi vam rad predstavil zapovedi etike umetne inteligence, ki bodo še posebej sestavni del preostanka tega diskurza.

Navedba zapisa o AI

Prepričajmo se, da smo na isti strani glede narave današnje umetne inteligence.

Danes ni nobene umetne inteligence, ki bi bila čuteča.

Tega nimamo.

Ne vemo, ali bo čuteča umetna inteligenca možna. Nihče ne more ustrezno napovedati, ali bomo dosegli čutečo umetno inteligenco, niti ali bo čuteča umetna inteligenca nekako čudežno spontano nastala v obliki računalniške kognitivne supernove (običajno imenovane Singularnost, glejte moje poročanje na povezava tukaj).

Zavedajte se, da današnja umetna inteligenca ni sposobna »razmišljati« na kakršen koli način, enako kot človeško razmišljanje. Ko komunicirate z Alexo ali Siri, se morda zdi, da so pogovorne zmožnosti podobne človeškim zmožnostim, vendar je v resnici računalniška in nimajo človeškega spoznanja. Najnovejša doba umetne inteligence je v veliki meri uporabljala strojno učenje in globoko učenje, ki izkoriščata računalniško ujemanje vzorcev. To je privedlo do sistemov umetne inteligence, ki imajo videz nagnjenj, podobnih človeškim. Medtem pa danes ni nobene umetne inteligence, ki bi imela videz zdrave pameti, in tudi ne kognitivnega čudesa robustnega človeškega razmišljanja.

Del problema je naša težnja po antropomorfizaciji računalnikov in zlasti AI. Ko se zdi, da računalniški sistem ali umetna inteligenca deluje na načine, ki jih povezujemo s človeškim vedenjem, obstaja skoraj velika želja, da bi sistemu pripisali človeške lastnosti. To je običajna miselna past, ki lahko zgrabi tudi najbolj nepopustljivega skeptika glede možnosti, da doseže razum. Za mojo podrobno analizo takih zadev glejte povezava tukaj.

Do neke mere je zato etika umetne inteligence in etična umetna inteligenca tako ključna tema.

Navodila etike umetne inteligence nas spodbujajo, da ostanemo pozorni. Tehnologi umetne inteligence se lahko včasih ukvarjajo s tehnologijo, zlasti z optimizacijo visoke tehnologije. Ni nujno, da upoštevajo širše družbene posledice. Imeti miselnost etike umetne inteligence in to vključiti v razvoj in uporabo umetne inteligence je bistvenega pomena za ustvarjanje ustrezne umetne inteligence, vključno z oceno, kako podjetja sprejmejo etiko umetne inteligence.

Poleg uporabe etičnih predpisov umetne inteligence na splošno obstaja ustrezno vprašanje, ali bi morali imeti zakone, ki bi urejali različne uporabe umetne inteligence. Na zvezni, državni in lokalni ravni se zbirajo novi zakoni, ki zadevajo obseg in naravo oblikovanja AI. Prizadevanje za pripravo in sprejetje takih zakonov je postopno. Etika umetne inteligence služi vsaj kot vmesna vrzel in bo skoraj zagotovo do neke mere neposredno vključena v te nove zakone.

Zavedajte se, da nekateri odločno trdijo, da ne potrebujemo novih zakonov, ki pokrivajo AI in da naši obstoječi zakoni zadostujejo. Vnaprej opozarjajo, da bomo, če bomo sprejeli nekatere od teh zakonov o umetni inteligenci, ubili zlato gos z zajezitvijo napredka v umetni inteligenci, ki ponuja ogromne družbene prednosti.

V prejšnjih stolpcih sem obravnaval različna nacionalna in mednarodna prizadevanja za oblikovanje in uveljavitev zakonov, ki urejajo umetno inteligenco, glejte povezava tukaj, na primer. Pokril sem tudi različna načela in smernice etike umetne inteligence, ki so jih opredelili in sprejeli različni narodi, vključno na primer s prizadevanji Združenih narodov, kot je Unescov sklop etike umetne inteligence, ki ga je sprejelo skoraj 200 držav, glej povezava tukaj.

Tukaj je koristen temeljni seznam etičnih meril ali značilnosti umetne inteligence v zvezi s sistemi umetne inteligence, ki sem jih že natančno raziskal:

• Preglednost
• Pravičnost in pravičnost
• Nezlobnost
• odgovornost
• Zasebnost
• Dobrotje
• Svoboda in avtonomija
• Zaupajte
• Trajnostni razvoj
• Dostojanstvo
• Solidarnost

Ta načela etike umetne inteligence naj bi resno uporabljali razvijalci umetne inteligence, skupaj s tistimi, ki upravljajo prizadevanja za razvoj umetne inteligence, in celo tisti, ki na koncu izvajajo in vzdržujejo sisteme umetne inteligence. Vse zainteresirane strani v celotnem življenjskem ciklu razvoja in uporabe umetne inteligence so obravnavane v okviru spoštovanja že vzpostavljenih norm etične umetne inteligence. To je pomemben poudarek, saj je običajna predpostavka, da morajo »samo koderji« ali tisti, ki programirajo umetno inteligenco, upoštevati pojme etike umetne inteligence. Kot je bilo že poudarjeno v tem dokumentu, je potrebna vas, da zasnuje in uporabi umetno inteligenco, za kar pa mora biti cela vas seznanjena in spoštovati predpise etike umetne inteligence.

Ostanimo prizemljeni in se osredotočimo na današnjo računalniško nečutečo umetno inteligenco.

ML/DL je oblika ujemanja računalniških vzorcev. Običajni pristop je, da zbirate podatke o nalogi odločanja. Podatke vnesete v računalniške modele ML/DL. Ti modeli poskušajo najti matematične vzorce. Ko najde takšne vzorce, če jih najde, bo sistem AI uporabil te vzorce, ko bo naletel na nove podatke. Ob predstavitvi novih podatkov se za sprejemanje trenutne odločitve uporabijo vzorci, ki temeljijo na »starih« ali zgodovinskih podatkih.

Mislim, da lahko uganete, kam to vodi. Če so ljudje, ki so sprejemali vzorčne odločitve, vključevali nenaravne pristranskosti, je verjetno, da podatki to odražajo na subtilne, a pomembne načine. Računalniško ujemanje vzorcev strojnega učenja ali globokega učenja bo preprosto poskušalo ustrezno matematično posnemati podatke. Sam po sebi ni videti zdrave pameti ali drugih čutečih vidikov modeliranja, izdelanega z umetno inteligenco.

Poleg tega se tudi razvijalci umetne inteligence morda ne zavedajo, kaj se dogaja. Skrivna matematika v ML/DL bi lahko otežila odkrivanje zdaj skritih pristranskosti. Upravičeno bi upali in pričakovali, da bodo razvijalci umetne inteligence testirali potencialno zakopane pristranskosti, čeprav je to bolj zapleteno, kot se morda zdi. Obstaja velika možnost, da bodo tudi pri razmeroma obsežnem testiranju v modelih ujemanja vzorcev ML/DL še vedno pristranskosti.

Lahko bi nekoliko uporabili slavni ali zloglasni pregovor smeti-v smeti-ven. Stvar je v tem, da je to bolj podobno pristranskosti, ki se zahrbtno vnesejo kot pristranskosti, potopljene v AI. Algoritem odločanja (ADM) AI aksiomatično postane obremenjen z neenakostmi.

Slabo.

Verjamem, da sem zdaj ustrezno pripravil temelje za nadaljnje preučevanje, ali bodo ljudje preživeli umetno inteligenco.

Ljudje in umetna inteligenca smo prijatelji, sovražniki ali sovražniki

Prej sem razglasil, da mora vsak odgovor na vprašanje, ali bodo ljudje preživeli AI, spremljati razlaga.

Ogledali si bomo Da odgovor. Navedel bom ožji seznam pojasnil. Vabimo vas, da sprejmete katero koli od teh razlag. Spodbujamo vas tudi, da poiščete druge razlage, ki si jih je mogoče predstavljati množico.

Da, ljudje bodo preživeli AI, ker:

• Ljudje kot ustvarjalci: Ljudje so ustvarjalci in vzdrževalci umetne inteligence, tako da brez ljudi umetna inteligenca preneha delovati ali obstajati
• Človeški prirojeni duh: Ljudje imamo neuklonljiv duh do življenja, medtem ko ga umetna inteligenca nima, zato bodo tako ali drugače ljudje preživeli, vendar bo umetna inteligenca nedvomno padla na stran zaradi pomanjkanja prirojene spodbude za preživetje
• Ljudje kot zmagovalci: Ljudje ne bodo dovolili, da bi umetna inteligenca preživela ljudi, saj bi se ljudje odločili za popolno uničenje umetne inteligence, če bi ljudi ogrožala umetna inteligenca ali kako drugače izumrli
• Ostalo

Ogledali si bomo odgovor Ne (ne-da). Navedel bom ožji seznam pojasnil. Vabimo vas, da sprejmete katero koli od teh razlag. Spodbujamo vas tudi, da poiščete druge razlage, ki si jih je mogoče predstavljati množico.

Ljudje ne bodo preživeli AI, ker:

• AI, ki je sposoben samovztrajati: Tudi če so ljudje izdelovalci in vzdrževalci umetne inteligence, bodo ljudje programirali ali izdelali umetno inteligenco, da bo vztrajala tudi v odsotnosti ljudi, ali pa bo umetna inteligenca našla lastna sredstva za obstojnost (morda ne da bi se ljudje tega zavedali).
• AI umetni duh: Tudi če imamo ljudje neuklonljiv duh do življenja, vemo, da imajo ljudje tudi duha samouničenja; v vsakem primeru se lahko umetna inteligenca programira z umetnim duhom, če hočete, tako da si umetna inteligenca prizadeva preživeti in/ali bo umetna inteligenca pod lastnimi pogoji odkrila videz prirojene poživitve
• AI premaga zmagovalce: Tudi če ljudje ne želijo dovoliti, da umetna inteligenca preživi ljudi, bo umetna inteligenca potencialno programirana tako, da bo premagala človeška prizadevanja za premagovanje, ali pa bo morda sama ugotovila, kako to storiti (in se bo morda odločila, da bo premagala ljudi v skladu s tem ali ne)
• Ostalo

Enako smo dolžni pogledati »Niti« (ne Da, Ne Ne) odgovor. Navedel bom ožji seznam pojasnil. Vabimo vas, da sprejmete katero koli od teh razlag. Spodbujamo vas tudi, da poiščete druge razlage, ki si jih je mogoče predstavljati množico.

Ljudje ne preživijo AI in medtem AI ne preživi ljudi zaradi:

• Ljudje in umetna inteligenca obstajamo srčno za vedno: Izkazalo se je, da naj bi bili ljudje in umetna inteligenca drug z drugim za vedno. Na poti so lahko izbokline. Dobra novica ali vesel obraz je, da se vsi razumemo.
• Ljudje in AI obstajamo sovražno večno: Vau, ljudje in umetna inteligenca začnemo sovražiti drug drugega. Scenarij žalostnega obraza. Stvar je v tem, da je tu pat položaj. AI ne more prevladati nad ljudmi. Ljudje ne morejo prevladati nad AI. Vleka vrvi večnega stanja.
• Ljudje in AI medsebojno uničujemo drug drugega: Dva težkokategornika na koncu drug drugega izločita iz ringa in s tega sveta. Ljudje prevladajo nad umetno inteligenco, vendar je umetni inteligenci uspelo prevladati tudi nad ljudmi (morda postavitev sodnega dne)
• Ljudje in umetna inteligenca so iztrebljeni zaradi neke nuje: Ljudi in umetno inteligenco izbriše osupljiv meteor ali morda vesoljec z drugega planeta, ki se odloči, da je za ljudi in umetno inteligenco, ki izvira iz človeštva, dokončno prepovedano (niti jih ne zanima, da bi nam ukradli našo neverjetno umetno inteligenco)
• Ostalo

Obstaja nekaj najpogostejših razlogov za odgovore Da, Ne in Niti na vprašanje, ali bodo ljudje preživeli umetno inteligenco.

zaključek

Morda se spomnite, da sem prej ponudil to razširjeno različico vprašanja o umetni inteligenci, ki preživi ljudi:

• Ali bomo ljudje kot živa bitja preživeli AI, ki je bodisi (1) neživa ali (2) živa bitja, če se to nekega dne zgodi?

Zgoraj omenjeni odgovori so na splošno osredotočeni na zadnji del vprašanja, in sicer na okoliščino, ki vključuje umetno inteligenco čuteče sorte. Poudaril sem že, da je to zelo špekulativno, saj ne vemo, ali se bo čuteča umetna inteligenca pojavila. Nekateri bi trdili, da je za vsak primer upravičeno pametno, da vnaprej razmislimo o tem, kaj se lahko zgodi.

Če se vam to zdi skrajno nerealno, sočustvujem, da je vse to precej hipotetično in polno predpostavk na predpostavkah. Je sod poln predpostavk. Ugotoviti boste morali vrednost, ki jo po vašem mnenju zagotavljajo takšna špekulativna prizadevanja.

Če se bolj posvetimo medeninastim tipkam, lahko razmislimo o neživi ali nečuteči vrsti umetne inteligence.

Skrajšajte vprašanje na tole:

• Bodo ljudje preživeli neživo, nečutečo umetno inteligenco?

Verjeli ali ne, to je vsebinsko vredno vprašanje.

Morda niste prepričani, zakaj bi ta neživa in nečuteča umetna inteligenca lahko bila kjer koli v igri, da bi lahko nekako preživela človeštvo.

Razmislite o situaciji, ki vključuje avtonomne oborožitvene sisteme, o katerih sem razpravljal povezava tukaj. Že vidimo, da so oborožitveni sistemi oboroženi z umetno inteligenco, kar omogoča, da orožje deluje nekoliko avtonomno. Ta neživa in nečuteča umetna inteligenca nima nobenega videza razmišljanja, nobenega videza zdrave pameti itd.

Predstavljajte si eno od teh apokaliptičnih situacij. Več držav je to umetno inteligenco majhnega kalibra vgradilo v svoje orožje za množično uničevanje. Nenamerno (ali namerno) se ti avtonomni orožni sistemi, ki jih poganja AI, sprožijo ali sprožijo. Ni dovolj varnosti, da bi jih zaustavili. Človeštvo je uničeno.

Bi umetna inteligenca v takem scenariju preživela več ljudi?

Prvič, morda vam ni posebej mar. Z drugimi besedami, če je bilo celotno človeštvo izbrisano, je skrb ali skrb, ali umetna inteligenca še brni, videti kot premikanje tistih ležalnikov na Titaniku. Ali je pomembno, da AI še deluje?

Zagovornik bi lahko trdil, da je še vedno pomembno. V redu, zabavali bomo nalepko. Umetna inteligenca morda deluje sama prek sončnih kolektorjev in drugih oblik energije, ki lahko še naprej napajajo stroje. Morda bi izdelali tudi sisteme AI, ki popravljajo in vzdržujejo druge sisteme AI. Upoštevajte, da to ne zahteva čutečega umetne inteligence.

Skratka, lahko pričarate scenarij, po katerem je človeštvo poteklo, AI pa še vedno deluje. Morda AI deluje le kratek čas. Kljub temu je umetna inteligenca glede na prejšnjo razpravo o natančni natančnosti glede časovnega razporeda dejansko preživela ljudi (za nekaj časa).

Zaenkrat še zadnja misel na to temo.

Razprava o tem, ali bodo ljudje preživeli čutečo umetno inteligenco, je skoraj kot pregovorna žlica sladkorja (kako je to mogoče, se morda sprašujete, dobro, držite se za klobuk in povedal vam bom).

Vidite, zagotovo si moramo zamisliti, da ima nečuteča umetna inteligenca prav tako velik in hud potencial, da sodeluje pri izbrisa človeštva in nas preživi. Ne zlasti zato, ker nas je umetna inteligenca »hotela preživeti«, ampak preprosto z lastnimi rokami pri izdelavi umetne inteligence, ki ne potrebuje človeškega posredovanja, da bi še naprej delovala. Nekateri bi odločno trdili, da je lahko umetna inteligenca, ki je zasnovana tako, da je večna, destabilizirajoč vpliv, zaradi katerega bi lahko nekateri ljudje želeli narediti prvi korak pri uničevanju drugih ljudi, glejte mojo razlago na povezava tukaj.

Del o preživelih ljudeh ni glavni razlog, zakaj si to vprašanje danes zasluži tako težo. Namesto tega je skriti podtok o tem, kako oblikujemo današnjo umetno inteligenco in kako uvajamo umetno inteligenco v uporabo, tukaj pravi udarec. Poglobljeno moramo razmišljati o razvejanosti etike umetne inteligence in družbenih vplivih današnje umetne inteligence.

Če bo nekoliko smešno vprašanje o tem, ali bomo ljudje preživeli umetno inteligenco, prišlo na mizo o vprašanjih sodobne umetne inteligence tukaj in zdaj, bomo na boljšem. Glede na ta način razmišljanja so čuteči vidiki umetne inteligence ljudi, ki preživijo umetno inteligenco, žlica sladkorja, ki upajmo, da bo zdravilo pri spopadanju z umetno inteligenco tukaj in zdaj.

Samo žlica sladkorja pomaga, da se zdravilo včasih zmanjša. In to na najbolj prijeten način. Ali vsaj na privlačen način, ki pritegne našo pozornost in nas ohranja prikovane na tisto, kar nas mora skrbeti.

Kot še piše v pesmici, imamo tako kot robin, ki perja svoje gnezdo, zelo malo časa za počitek.