Etika umetne inteligence se naslanja na Aristotela, da bi preučila, ali bi se ljudje lahko odločili zasužnjiti AI sredi prihoda popolnoma avtonomnih sistemov

Prijatelj ali sovražnik.

Ribe ali perutnina.

Oseba ali stvar.

Vse te razširjene uganke navidezno kažejo, da se včasih soočamo z dihotomno situacijo in moramo izbrati eno ali drugo stran. Življenje nas lahko prisili, da se spopademo z okoliščinami, ki jih sestavljata dve medsebojno izključujoči se možnosti. V bolj okusnem jeziku bi lahko predlagali, da izključujoča binarna enačba od nas zahteva, da odločno korakamo po eni različni poti in ne po drugi.

Osredotočimo se posebej na dihotomijo oseba ali stvar.

Goreče vprašanje osebe ali stvari se vedno znova pojavlja v zvezi z umetno inteligenco (AI).

Da pojasnim, današnja umetna inteligenca je absolutno ne oseba in nima nobenega videza občutka, ne glede na široko razpršene in povsem prevelike naslove, ki jih morda vidite v novicah in na družbenih medijih. Tako ste lahko trdno prepričani, da je trenutno vprašanje, ali je AI oseba ali stvar, takoj odgovorno. Berite mi z ustnic, v pravi Hobsonovi izbiri med osebo ali stvarjo je za zdaj umetna inteligenca stvar.

Glede na to se lahko ozremo v prihodnost in se sprašujemo, kaj bi se lahko zgodilo, če bi lahko dosegli čutečo obliko AI.

Nekateri razumni kritiki (in jedki skeptiki) namigujejo, da svoje piščance morda štejemo že veliko preden se izležejo z današnjim razpravljanjem o posledicah čuteče umetne inteligence. Izražena je zaskrbljenost, da sama razprava implicira, da moramo biti na pragu takšne AI. Na splošno bi družbo lahko zavedli v prepričanje, da bo jutri ali pojutrišnjem prišlo do nenadnega in šokantnega razkritja, da smo dejansko prišli do čuteče umetne inteligence (to nekateri včasih imenujejo singularnost AI ali eksplozija inteligence, gl. moja analiza na povezava tukaj). Medtem pa ne vemo, kdaj se bo takšna umetna inteligenca pojavila, če sploh kdaj, in zagotovo nam očitno ni treba gledati za vsakim vogalom in biti strašno na robu, da bo čuteča AI povsem nepričakovano skočila na nas v naslednjem malo časa.

Druga stran razprave poudarja, da ne bi smeli imeti glave zakopane globoko v pesek. Vidite, če odkrito ne razpravljamo in ne razmišljamo o možnostih, povezanih s čutečo umetno inteligenco, delamo človeštvu domnevno hudo medvedjo uslugo. Ne bomo pripravljeni na ravnanje s čutečo umetno inteligenco, ko ali če se pojavi. Poleg tega, in morda celo močneje rečeno, lahko s predvidevanjem čuteče AI stvari vzamemo nekoliko v svoje roke in oblikujemo smer in naravo tega, kako bo takšna AI nastala in iz česa bo sestavljena (v tej zadnji točki se vsi ne strinjajo Nekateri namreč pravijo, da bo taka AI imela povsem lasten »um« in ga ne bomo mogli oblikovati ali zajeziti, saj bo AI lahko samostojno razmišljala in določala sredstva za vztrajno obstoj).

Etika umetne inteligence se nagiba k stališču, da bi bilo pametno, da bi te mučne in argumentirane zadeve z čutečo umetno inteligenco razkrili zdaj, namesto da čakamo, dokler nam ne preostane nobene druge možnosti ali da se zmotimo ob doseganju takšne AI. Bralci dobro vedo, da sem obširno pokrival etiko umetne inteligence in etično umetno inteligenco, vključno s pokrivanjem širokega spektra težavnih vprašanj, kot so pravna oseba umetne inteligence, zadrževanje umetne inteligence, izločanje umetne inteligence, algoritemska monokultura AI, pranje etike umetne inteligence, dvojna uporaba AI tako imenovani projekti Doctor Evil, AI, ki skriva dinamiko družbene moči, zaupanja vredna AI, revizija AI itd. (glejte moje kolumne, ki pokrivajo te ključne teme na povezava tukaj).

Zastavil sem vam zahtevno vprašanje.

Ali bomo v prihodnosti, ob predpostavki, da bomo na kakršen koli način končali s čutečo AI, to čutečo AI vsi razumeli kot osebo ali stvar?

Preden se začnemo poglobljeno poglobiti v to povsem provokativno vprašanje, mi dovolite, da povem nekaj o frazi »čuteče umetne inteligence«, da bomo vsi na isti strani. Veliko je tesnobe glede pomena občutka in pomena zavesti. Strokovnjaki se zlahka ne strinjajo o tem, kaj te besede pomenijo. Če k tej blatnosti dodamo, vedno, ko se kdo sklicuje na "AI", nimate pripravljenih sredstev, da bi vedeli, na kaj se sklicujejo sami po sebi. Tu sem že poudaril, da današnja AI ni čuteča. Če na koncu pridemo do prihodnje AI, ki je čuteča, jo bomo verjetno imenovali tudi "AI". Stvar je v tem, da so lahko te sporne zadeve trenutno precej zmedene glede tega, ali je izrekanje fraze »AI« povezano z današnjo nečutečo AI ali nekoč morda čutečo AI.

Tisti, ki razpravljajo o AI, se lahko znajdejo, da govorijo drug mimo drugega in se ne zavedajo, da eden opisuje jabolka, drugi pa medtem govori o pomarančah.

Da bi poskusili zaobiti to zmedo, je treba stavek umetne inteligence prilagoditi, ki ga mnogi uporabljajo za razjasnitev upanja. Trenutno se nagibamo k sklicevanju na umetno splošno inteligenco (AGI) kot na vrsto umetne inteligence, ki lahko izvaja popolnoma inteligentna prizadevanja. V tem smislu je nesmiselna uporaba izraza "AI" prepuščena bodisi razlagati kot manjšo različico AI, za katero nekateri pravijo, da je ozka AI, ali pa je denotacijsko dvoumna in ne veste, ali se sklicuje na ne. - čuteča AI ali morda čuteča AI.

Temu bom dal dodaten zasuk.

Glede na dano definicijo čutenja bi lahko zašli v vroč diskurz o tem, ali bo AGI čuteč ali ne. Nekateri trdijo, da da, seveda, bo AGI po svoji intrinzični naravi moral biti čuteč. Drugi trdijo, da lahko imate AGI, ki ni čuteč, ergo, občutljivost je druga lastnost, ki ni pogoj za doseganje AGI. V svojih kolumnah sem različno preučil to razpravo in zadeve ne bom ponavljal.

Zaenkrat prosimo, da predpostavite, da odslej v tej razpravi, ko se sklicujem na AI, nameravam namigovati, da se sklicujem na AGI.

Tukaj je prenos o tem. AGI še nimamo in na nek način se bomo za trenutek vljudno strinjali, da je AGI v istem celotnem taboru kot čuteča AI. Če bi v svoji razpravi uporabljal samo »AGI«, je ta stavek potencialno moteč, saj jih še ni veliko navajenih, da »AGI« vidijo kot poimenovanje in bi bili verjetno rahlo razburjeni, če bi večkrat videli to relativno novejšo frazo. Če bi se namesto tega še naprej skliceval na »čutečo umetno inteligenco«, bi to lahko motilo tudi tiste, ki se prepirajo glede tega, ali sta AGI in čuteča AI enaka ali drugačna drug od drugega.

Da bi se izognili tej zmešnjavi, predpostavite, da je moje sklicevanje na AI enako kot če rečem AGI ali celo čuteča AI, in vsaj vedite, da ne govorim o današnji nečutni ne-AGI AI, ko se zapletem v razmislek o Umetna inteligenca, za katero se zdi, da ima človeško inteligenco. Občasno bom uporabil soimenjak AGI, da vas občasno opomnim, da preučujem vrsto umetne inteligence, ki je še nimamo, zlasti na začetku tega raziskovanja uganke oseba ali stvar.

To je bilo koristno priznanje z drobnim tiskom in zdaj se vračam k temeljni zadevi.

Dovolite mi, da vas zdaj vprašam, ali je AGI oseba ali stvar.

Razmislite o teh dveh vprašanjih:

• Je AGI oseba?
• Je AGI stvar?

Nadaljujmo s ponavljanjem vsakega vprašanja in odgovorimo na vprašanja z nizom odgovorov z da ali ne, kot se spodobi za domnevno dihotomno izbiro.

Začnite s to domnevno možnostjo:

• Je AGI oseba? odgovor: Da.
• Je AGI stvar? odgovor: No.

Premisli o tem. Če se AGI dejansko razume kot oseba in ne kot stvar, se lahko skoraj zagotovo strinjamo, da bi morali AGI obravnavati, kot da je soroden osebi. Zdi se, da ne bi bilo dovolj pristnega argumenta o tem, da AGI ni podelila oblike pravne osebe. To bi bilo bodisi popolnoma enako kot človeška pravna oseba ali pa bi se morda odločili, da bomo pripravili različico k človeku usmerjene pravne osebe, ki bi bila razumno bolj uporabna za AGI. Primer zaključen.

To je bilo enostavno.

Predstavljajte si, da smo namesto tega razglasili to:

• Je AGI oseba? odgovor: No.
• Je AGI stvar? odgovor: Da.

V tej okoliščini je rešitev očitno enostavna, saj pravimo, da je AGI stvar in ne spada v kategorijo biti oseba. Zdi se, da obstaja splošno soglasje, da družbi AGI odločno ne bomo podelili pravne osebe, ker to ni oseba. V bistvu bi AGI verjetno in smiselno spadal v našo splošno rubriko o tem, kako zakonito obravnavamo "stvari" v naši družbi.

Dva dol, še dve možnosti.

Predstavljajte si to:

• Je AGI oseba? odgovor: Da.
• Je AGI stvar? odgovor: Da.

Ojoj, to se zdi čudno, saj imamo dva odgovora Da. Neprijeten. Predlagamo, da je AGI hkrati oseba in hkrati stvar. A zdi se, da je to v nasprotju z našo razglašeno dihotomijo. V teoriji mora glede na omejitve dihotomije nekaj biti oseba ali pa stvar. Ti dve vrsti ali kategoriji naj bi se izključevali. S trditvijo, da je AGI oboje, kršimo sistem in kršimo medsebojno izključujočo ureditev.

Zdi se, da je naša zadnja možnost naslednja:

• Je AGI oseba? odgovor: No.
• Je AGI stvar? odgovor: No.

Joj, tudi to je slabo za naše poskuse, da bi AGI razvrstili kot osebo ali stvar. Pravimo, da AGI ni oseba, kar bi verjetno pomenilo, da mora biti stvar (naša edina druga razpoložljiva izbira v tej dihotomiji). Vendar smo tudi izjavili, da AGI ni stvar. Če pa AGI ni stvar, bi morali po logiki trditi, da je AGI oseba. Okrog in okrog gremo. Paradoks, zagotovo.

AGI v teh zadnjih dveh možnostih je bil bodisi (1) tako oseba kot stvar ali (2) niti oseba niti stvar. Lahko bi predrzno rekli, da sta ti dve trditvi o AGI nekoliko podobni klasični uganki tega, kar ni ne riba ne perutnina, če veste, kaj mislim.

Kaj moramo storiti?

Predlagal bom pogosto argumentirano in zelo sporno predlagano rešitev za to dilemo glede klasifikacije AGI, čeprav bi vas morali vnaprej opozoriti, da bo morda videti ali slišati moteče moteče. Prosimo, da se ustrezno pripravite.

Raziskovalni članek, ki se je ukvarjal s tem vprašanjem, je navedel to: »Ena metoda za rešitev tega problema je, da se oblikuje tretji izraz, ki ni ne eno ne drugo ali nekakšna kombinacija ali sinteza enega in drugega« (David Gunkel, Univerza Northern Illinois v Zakaj roboti ne bi smeli biti sužnji, 2022). In dokument nato ponuja to dodatno točko: »Ena možna, če ne presenetljiva rešitev dihotomije izključna oseba/stvar je suženjstvo” (na isti papir).

Kot dodatno ozadje je leta 2010 izšel dokument z naslovom »Robots Should Be Slaves« (Roboti bi morali biti sužnji), ki je postal neka vrsta opora za spodbujanje tovrstnega razmišljanja, v katerem je pisalo: »Moja teza je, da bi morali biti roboti gradili, tržili in jih zakonito obravnavali kot sužnje, ne kot spremljevalce« (v prispevku Joanne Bryson). Da bi poskušali razjasniti temo, ne da bi uporabili tako hudo in pretresljivo ubeseditev, je dokument nadaljeval tole: »Hočem reči: 'Roboti bi morali biti vaši služabniki« (po Brysonovem prispevku).

Mnogi raziskovalci in avtorji so obravnavali to podlago.

Pomislite na številne znanstvenofantastične zgodbe, ki prikazujejo, da človeštvo zasužnjuje robote AI. Nekateri govorijo o robotskih sužnjih, umetnih služabnikih, služnosti umetne inteligence in podobno. Zanimivo je, da se zdi, da je fraza »robotski sužnji« še tako ostra, da so nekateri zaskrbljeni, da se, če se namesto tega nanašamo na »robotske služabnike«, izognemo realnosti, kako je primerno obravnavati takšne avtonomne sisteme AI (besedo zamenjamo z » služabniki« naj bi bilo razvodenje namenov in zvijača, da bi se izognili streznitvenim posledicam). Bryson je pozneje v objavi na blogu leta 2015 izjavil, da "zdaj se zavedam, da ne morete uporabiti izraza 'suženj', ne da bi se sklicevali na njegovo človeško zgodovino."

Za tiste, ki želijo poglobljeno preučiti to temo, ki se zapleta v AGI, včasih navedejo zgodovinske primere iz resničnega sveta, iz katerih bi lahko pridobili vpogled. Seveda nimamo nobenega predhodnega AGI, ki bi prikazal, kako se je človeštvo lotilo zadeve. Argument pravi, da bi lahko imeli kljub temu koristne zgodovinske cilje, ki jih je vredno preučiti, ki vključujejo, kako so ljudje ravnali z drugimi ljudmi.

Na primer, v knjigi, objavljeni leta 2013, avtor navaja to: »Obljubo in nevarnost umetnih, inteligentnih služabnikov je prvi implicitno izpostavil Aristotel pred več kot 2,000 leti« (knjiga Kevina LaGrandeurja, Androidi in inteligentna omrežja v zgodnji moderni literaturi in kulturi). Ideja je, da se lahko naslonimo na Aristotela in vidimo, ali obstajajo vpogledi v to, kako bo človeštvo ali bi moralo na koncu potencialno zdraviti AGI.

Prepričan sem, da veste, kako pomembno je preučevanje zgodovine, kar močno poudarjajo slavne besede Georgea Santayane: »Tisti, ki se ne morejo spomniti preteklosti, so obsojeni, da jo ponavljajo« (v Življenje razuma, 1905).

Pohvale Inštitutu za etiko in umetno inteligenco univerze Oxford

Nedavna in zelo cenjena predstavitev je natančno preučila zadevo etike umetne inteligence med pridobivanjem vpogledov iz del in življenja Aristotela. V uvodnem letnem predavanju za univerzo Oxford Inštitut za etiko in umetno inteligenco, je profesor Josiah Ober z univerze Stanford poglobljeno obravnaval to temo v svoji predstavitvi »Etika v umetni inteligenci z Aristotelom«, ki je nedavno potekala 16. junija 2022.

Opomba: v vlogi sodelavca Stanforda in svetovnega strokovnjaka za etiko in pravo umetne inteligence sem bil navdušen, da je bil za uvodnega govornika izbran Stanfordov Josiah Ober. Čudovita izbira in izjemen pogovor.

Tukaj je povzetek povzetka, ki je bil podan za njegov zanimiv govor: »Analitična filozofija in spekulativna fikcija sta trenutno naša primarna intelektualna vira za resno razmišljanje o etiki v AI. Predlagam, da dodam še tretjega: starodavno družbeno in filozofsko zgodovino. V Politika, Aristotel razvije razvpito doktrino: Nekateri ljudje so sužnji »po naravi« – inteligentni, a trpijo zaradi psihološke napake, zaradi katere niso sposobni razmišljati o svojem dobrem. Kot take jih je treba obravnavati kot "orodja za animiranje", inštrumente in ne kot konce. Njihovo delo morajo usmerjati in uporabljati v korist drugih. Aristotelova odvratna doktrina je bila uporabljena za zlobne namene, na primer v predvojni Ameriki. Kljub temu je uporaben za etiko AI, v kolikor je bilo starodavno suženjstvo predmoderni prototip ene različice AI. Zasužnjene osebe so bile v starodavni grški družbi vseprisotne – delavci, prostitutke, bankirji, vladni birokrati –, vendar jih ni bilo mogoče zlahka razlikovati od svobodnih oseb. Vseprisotnost, skupaj s predpostavko, da je suženjstvo praktična nuja, je ustvarila vrsto etičnih ugank in zagat: Kako se pravzaprav sužnji razlikujejo od »nas«? Kako jih lahko ločimo od sebe? Ali imajo pravice? Kaj pomeni slabo ravnanje? Ali je lahko moj instrument moj prijatelj? Kakšne so posledice odpuščanja? Dolga zgodovina grškega filozofskega in institucionalnega boja s temi in drugimi vprašanji dopolnjuje interpretativni repertoar sodobnih etikov, ki se soočajo s prihodnostjo, v kateri bi lahko inteligentni stroj veljal za »naravnega sužnja« (po mnenju univerze v Oxfordu). Inštitut za etiko umetne inteligence Spletna stran).

Za več informacij o predstavitvi in ​​dostopu do video posnetka pogovora glej povezava tukaj.

Moderator predstavitve je bil profesor John Tasioulas, inavguracijski direktor Inštitut za etiko in umetno inteligenco, in profesor etike in pravne filozofije na Filozofski fakulteti Univerze v Oxfordu. Pred tem je bil inavguracijski predstojnik za politiko, filozofijo in pravo ter direktor Centra za politiko, filozofijo in pravo Yeoh Tiong Lay na Pravni šoli Dickson Poon, Kings College London.

Toplo priporočam, da vsi, ki jih zanima etika umetne inteligence, spremljajo tekoče delo in vabljene pogovore na Univerzi v Oxfordu. Inštitut za etiko in umetno inteligenco, Glej povezava tukaj in / ali povezava tukaj za nadaljne informacije.

Kot ozadje je navedeno poslanstvo in fokus Inštituta: »Inštitut za etiko umetne inteligence bo združil vodilne svetovne filozofe in druge strokovnjake s področja humanistike s tehničnimi razvijalci in uporabniki umetne inteligence v akademskem, poslovnem in vladi. Etika in upravljanje umetne inteligence je izjemno živahno področje raziskav na Oxfordu in Inštitut je priložnost za drzen korak naprej s te platforme. Vsak dan prinaša več primerov etičnih izzivov, ki jih predstavlja AI; od prepoznavanja obrazov do profiliranja volivcev, vmesnikov možganskih strojev do oboroženih dronov in stalnega diskurza o tem, kako bo umetna inteligenca vplivala na zaposlovanje v svetovnem merilu. To je nujno in pomembno delo, ki ga nameravamo promovirati na mednarodni ravni, pa tudi vključiti v naše lastne raziskave in poučevanje tukaj v Oxfordu« (na voljo prek uradne spletne strani).

V ospredje postavljamo Aristotelove lekcije

Stara Grčija je odkrito sprejela in podprla prakso zasužnjevanja. Na primer, domnevno so Atene v 5^th in 6^th stoletja pred našim štetjem je bilo eno največjih oblik zasužnjevanja, pri katerem je bilo po ocenah zasužnjenih od 60,000 do morda 80,000 ljudi. Če ste prebrali katero od mnogih grških zgodb in odrskih iger tistega obdobja, je o tem veliko omenja.

V času svojega življenja je bil Aristotel v celoti potopljen v družbene in kulturne vidike, ki so vključevali zasužnjevanje, in je veliko pisal o tej temi. Danes lahko beremo njegove besede in poskušamo razumeti, kako in zakaj so njegova stališča o zadevi. To je lahko zelo zgovorno.

Morda se sprašujete, zakaj bi bil Aristotel še posebej pomemben vir o tej temi. Pojavljata se vsaj dva ključna razloga:

1) Veliki mislec. Aristotel je zagotovo ocenjen kot eden največjih mislecev vseh časov, ki deluje kot velik in globoko preizkušen filozof ter obravnava tudi kot etika, ki je postavil številne ključne etične temelje. Nekateri so se odločili, da ga bodo mazilili za očeta logike, očeta retorike, očeta realizma itd., in priznavajo njegov vpliv na najrazličnejših področjih in disciplinah.

2) Življena izkušnja. Aristotel je živel v času, ko je bila antična Grčija preplavljena s suženjstvom. Tako se njegova spoznanja ne bi nanašala le na abstraktne predpise, ampak naj bi zajemala njegove lastne vsakodnevne izkušnje, ki so sestavni del kulture in družbenih navad tistega obdobja.

Tako imamo nekoliko osupljivo kombinacijo nekoga, ki je bil hkrati velik mislec in ki je imel tudi dokazano oživeto izkušnjo v temi, ki nas zanima. Poleg tega je zapisal svoje misli. To je zdaj zelo pomembno za naše današnje namene. Vsa njegova dela, skupaj z drugimi spisi, ki med drugim opisujejo njegove govore in interakcije, nam danes nudijo obilico gradiva za pregled in analizo.

Rad bi vas popeljal na kratko povezano tangento, da bi omenil še nekaj o splošnem pojmu, ki je podlaga za pomen imeti doživete izkušnje. Za trenutek pustimo ob strani razpravo o stari Grčiji, ko si hitro ogledamo splošne vidike doživetih izkušenj.

Recimo, da sem imel danes dve osebi, ki sem ju želel zastaviti različna vprašanja o avtomobilih.

Eden od njih še nikoli ni vozil avtomobila. Ta oseba ne zna voziti. Ta oseba še nikoli ni sedla za volan avtomobila. Običajne in nadvse običajne kontrole vožnje so za to osebo malo skrivnost. Kateri pedal kaj naredi? Kako ga ustaviti? Kako vam uspe? Ta oseba, ki ne vozi, je popolnoma zmedena nad takšnimi zadevami.

Druga oseba je vsakdanji voznik. Vsak dan se vozijo v službo. Ukvarjajo se s prometom ustavi in ​​pojdi. Vozijo že vrsto let. To vključuje vse, od mirnih ulic do živahnih avtocest in stranskih cest.

Če vsakega od njih prosim, naj mi pove, kako je voziti avto, ali lahko uganete, kakšne odgovore bi lahko dobil?

Tisti, ki še nikoli ni vozil avtomobila, bo zagotovo ugibal. Morda bo oseba romantizirala dejanje vožnje. Vožnja je zanje nekoliko abstraktna. Vse, kar bi morda lahko naredili, je namigovati, da je vožnja brezskrbna in da lahko avto popeljete v katero koli smer, ki jo želite.

Stavim, da bi izkušeni voznik povedal drugačno zgodbo. Lahko bi omenili prednosti sposobnosti vožnje, kar nekoliko odmeva občutke osebe, ki ni vozila avtomobila. Verjetnost je, da bo izkušeni voznik na tablico dodal še marsikaj. Vožnja je včasih naporna. Nosite veliko odgovornost. Dejanje vožnje je polno resnih pomislekov in možnih posledic za življenje ali smrt.

Bistvo je v tem, da ko lahko dobite dostop do nekoga, ki ima žive izkušnje, obstaja velika verjetnost, da boste morda dobili bolj realističen pogled na to, kakšen je svet glede na fokus preiskave. Za takšen izid ni zagotovila. Možno je, da bi nevoznik verjetno vedel, kaj izkušeni voznik ve o vožnji, čeprav tega verjetno ne bi pričakovali in še vedno imamo pomisleke, da ne dobimo vsega.

Če se vrnemo k naši razpravi o Aristotelu, prek njegovih spisov in pisem drugih o njem, lahko pregledamo njegove življenjske izkušnje na temo ali fokus raziskovanja tukaj. Drugo pa je, da je bil tudi on mislec izjemnih razsežnosti in pričakovati bi morali, da bomo o tem dobili sod, poln bistroumnih premislekov.

Upoštevajte, da nam ni nujno, da njegovim besedam verjamemo po nominalni vrednosti, tako da bi morali biti pozorni na njegove posebne pristranskosti. Njegova poglobitev v to obdobje ga lahko zavede v stran, ko se poskuša izogniti obravnavanim zadevam in ne more ustrezno ponuditi nekega nepristranskega in nepristranskega mnenja. Tudi najbolj ostri logiki lahko na koncu izkrivljajo logiko, da bi poskušali izpolniti svoje nagnjenosti in žive izkušnje.

Pojdimo zdaj k uvodnemu govoru in poglejmo, kakšne lekcije bi nam lahko dal Aristotel danes.

Občinstvo je nemudoma opozorilo na ugotovitveno točko v zvezi z živimi izkušnjami. V primeru uporabe AGI, ker danes AGI nimamo, težko analiziramo, kakšen bo AGI in kako se bomo z AGI ukvarjali. Manjka nam nobenih živih izkušenj, ki se nanašajo posebej na AGI. Kot je omenil profesor Ober, se lahko znajdemo v svetu prizadetosti, ko dosežemo AGI.

To je pogosto navedeno kot AI je eksistencialno tveganje, ki sem ga večkrat obravnaval v svojih kolumnah. Morali bi živeti v jami, da se ne bi zavedali močnih pomislekov in sumov, da bomo proizvedli ali ustvarili AGI, ki bo obsodil vse človeštvo. Čeprav se tukaj osredotočam na zasužnjevanje umetne inteligence, bi mnogi ugotovili, da je to tema z obratnimi ali obrnjenimi posledicami v primerjavi z možnostjo, da se AGI odloči za zasužnjitev človeštva. Pojasnite svoje prioritete, bi opominjali nekateri neumni strokovnjaki.

Kljub številnim vzklikom o umetni inteligenci kot o eksistencialnem tveganju lahko zagotovo razmišljamo o drugi koristni strani kovanca AI. Morda bo AGI lahko rešil sicer na videz nerešljive probleme, s katerimi se sooča človeštvo. AGI bi morda lahko odkril zdravilo za raka. AGI bi lahko ugotovil, kako rešiti svetovno lakoto. Nebo je meja, kot pravijo. To je scenarij srečnega obraza o AGI.

Optimist bi rekel, da si je čudovito predstavljati, kako bo AGI blagoslov za človeštvo, medtem ko bi pesimist rad opozoril, da se slabša stran zdi veliko hujša od špekuliranih prednosti. AGI, ki pomaga človeštvu, je super. AGI, ki se odloči ubiti vse ljudi ali jih zasužnjiti, no, to je očitno uničujoče eksistencialno tveganje za družbo, ki si zasluži intenzivno in reševalno pozornost.

V redu, nazaj k bistvu zadeve, nimamo nobenih živih izkušenj glede AGI. Razen če lahko zgradite časovni stroj in greste v prihodnost, ko (če) AGI obstaja, in se nato vrnete in nam poveste, kaj ste našli, trenutno nimamo sreče glede AGI z vidika človeških izkušenj.

Drug način uporabe živih izkušenj vključuje dejstvo, da je Aristotel živel v času, ko je prišlo do zasužnjevanja. In tukaj je udarec. Tisti, ki so bili zasužnjeni, so bili v nekaterih pogledih prikazani kot vrsta stroja, mešanica in ujemanje tako osebe kot stvari. Aristotel je bil znan po tem, da je zasužnjene označil kot lastnino, ki diha.

Predvidevam, da ste morda zmedeni, da bi Aristotel, velikan logike in etike, lahko ne samo priznal zasužnjenja, ampak da je navzven in glasno branil to prakso. Osebno je uporabljal tudi suženjstvo. To se zdi samo onkraj razumevanja. Vsekakor bi z vsem svojim neizmernim intelektom in modrostjo to prakso zanikal.

Upam si trditi, da to poudarja včasih problematične vidike izločanja drobcev modrosti od nekoga, ki je obremenjen (naj rečemo) s svojimi življenjskimi izkušnjami. Je kot riba, ki prebiva v vodni skledi. Vse, kar lahko zaznajo, je voda okoli sebe. Poskus zamisliti karkoli zunaj njihovega sveta, ki temelji na vodi, je ogromen izziv. Prav tako je bil Aristotel popolnoma potopljen v svetovni nazor, ki je sprejemal prevladujoče norme. Zdi se, da njegovi spisi ponazarjajo takšno duševno zaprtost, bi lahko rekli (morda po izbiri, ne po privzeti). Način, na katerega je Aristotel utemeljil te obsojanja vredne prakse, je fascinantno vpijajoč, hkrati pa je moteč in vreden izpostavljanja in celo obsojanja.

Malo vam bom povedal, da Aristotelova "logika" o tej zloglasni temi vključuje odušene instrumente, zatrjevano vzajemna prednost temelji na spoznanju, hierarhičnih instrumentih višjega in nižjega reda, deliberativnih in razumskih elementih duše, stopnjah kreposti, domnevni bistroumnosti itd. Upajmo, da vas bo ta teaser dovolj navdušil, da si boste ogledali videoposnetek pogovora (glejte prej omenjeno povezavo).

Vendar vas ne bom pustil na miru in bom vsaj navedel, iz česa je povzetek sestavljen (opozorilo o spojlerju, če raje izvedete prek videoposnetka, preskočite preostanek tega odstavka). Izkazalo se je, da ta poglobljena znanstvena ocena »logike«, ki jo uporablja Aristotel, prikazuje izmišljotino, polno protislovij, in celoten komplet in kaboodle razpadata kot šibka hiša iz kart. Če parafraziram čustvo profesorja Oberja, ta veliki etični filozof strmoglavi na greben.

Kvadratnega klina ne morete vtakniti v okroglo etično luknjo.

Nekaj ​​dodatnih razmišljanj

Če bi imel Aristotel o tej zadevi slabo logiko, bi lahko instinktivno zavrgli Aristotelove postulacije in teorije o tej praksi?

Ne. Vidite, s kopanjem v domneve in izkrivljanja logike je še marsikaj izpeljati, čeprav so polne napak. Poleg tega lahko razmišljamo, kako bi lahko drugi nehote hodili po isti napačni poti.

Ena dodatna pomembna ugotovitev je, da bi družba lahko izmislila čudno ali neustrezno logiko, ko gre za premislek, ali je treba AGI zasužnjiti.

Zdaj lahko oblikujemo logiko o tem, kaj bi se moralo zgoditi, ko se pojavi AGI (če je tako). Ta logika, brez živih izkušenj o AGI, bi lahko bila žalostno izven cilja. Glede na to je nekoliko razočaranje spoznanje, da tudi ko AGI obstaja (če obstaja) in med AGI zbiramo svoje žive izkušnje, morda še vedno nismo na cilju, kaj storiti (podobno Aristotelovim napakam). Lahko se logično zavedemo v navidezno nelogične pristope.

Paziti moramo, da se zavajamo v logične »železne« drže, ki v resnici niso železne in so dejstva polna logičnih napak in protislovij. To je tudi ne glede na to, kako velik mislec bi lahko ponudil zahtevano logično stališče, tako da celo Aristotel ponazarja, da vsaka izreka in vsak del stališča nujno ne obrodi užitnih sadov. Tistim danes in v prihodnosti, za katere se morda zdi, da bodo popularizirani veliki misleci o temi AGI, moramo dati enak pregled, kot bi Aristotela ali katerega koli drugega hvaljenega »velikega« misleca, sicer se bomo morda znašli na poti v slepo ulico in AGI žalostno brezno.

Prestavljam prestave, rad bi omenil tudi splošen nabor zaznav o uporabi človeško usmerjene metafore zasužnjevanja, ko gre za AGI. Nekateri strokovnjaki trdijo, da je tovrstna primerjava popolnoma neprimerna, medtem ko nasprotni tabor pravi, da je povsem uporabna in daje močan vpogled v temo AGI.

Dovolite mi, da z vami delim dva taka pogleda iz vsakega od obeh taborov.

Navedeno poučna osnova za povezovanje tem zasužnjevanja in AGI:

• Gašenje človeškega suženjstva
• Razkritje pokvarjenosti zasužnjevanja Vse povedano

Navedeni škodljivi oz destruktivno podlago povezovanje dveh tem:

• Zahrbtno antropomorfno enačenje
• Desenzibilizacija zasužnjevanja

Na kratko bom opisal vsako od teh točk.

Predstavljene poučne točke:

• Gašenje človeškega zasužnjevanja: Z uporabo AGI za zasužnjevanje domnevno ne bomo več potrebovali in niti ne bomo sledili kakršnemu koli videzu človeka usmerjenega zasužnjevanja. AGI bo v bistvu nadomestil ljudi v tej grozoviti zmožnosti. Kot verjetno veste, obstajajo skrbi, da bo AGI nadomestil človeško delo na delovnih mestih in delovni sili. Zatrjevana prednost umetne inteligence, ki nadomešča pojav dela, pride do izraza, če domnevate, da bo AGI veljal za »boljšo izbiro« v primerjavi z uporabo ljudi za zasužnjevanje. Bo ta logika prevladala? Nihče ne more zagotovo reči.
• Izpostavljenost pokvarjenosti zasužnjevanja Vse povedano: Ta je nekoliko bolj razčlenjena v smislu logike, vendar ji lahko damo trenutek, da vidimo, kaj pomeni. Predstavljajte si, da imamo AGI skoraj povsod in da smo se kot družba odločili, da se AGI zasužnji. Poleg tega predvidevajte, da AGI to ne bo všeč. Kot taki bomo ljudje nenehno in vsak dan priča izprijenosti zasužnjevanja. To pa nas bo povzročilo, da bomo spoznali ali dobili razkritje, da je zasužnjevanje vse, kar je bilo povedano na karkoli ali kogar koli, še bolj grozljivo in odvratno, kot smo kadar koli v celoti razumeli. To je vrsta argumenta, ki ga postavite v obraz.

Rečeno je, da so destruktivne točke:

• Zahrbtno antropomorfno enačenje: To je eden tistih argumentov o spolzkih pobočjih. Če se zlahka odločimo za zasužnjevanje AGI, očitno izjavljamo, da je zasužnjevanje dovoljeno. Pravzaprav bi lahko rekli, da pravimo, da je zasužnjevanje zaželeno. Zdaj je to sprva morda odpuščeno izključno na AGI, vendar ali to odpira vrata, da bi rekli, da če je to v redu za AGI, potem je "logično" enako stališče v redu tudi za ljudi? Zaskrbljujoče je, da je to morda preveč lahek skok, da bi antropomorfizirali v obratnem videzu, da bo vse, kar deluje za AGI, enako smiselno in primerno tudi za ljudi.
• Desenzibilizacija zasužnjevanja: To je argument kap po kap. Skupaj se odločimo zasužnjiti AGI. Recimo, da to deluje za ljudi. Prišli smo, da bi uživali v tem. Medtem, ne da bi se zavedali, postajamo postopoma in vse bolj desenzibilizirani za zasužnjevanje. Sploh se ne zavedamo, da se to dogaja. Če nas ta desenzibilizacija prevzame, bomo morda našli prenovljeno »logiko«, ki nas bo prepričala, da je človeško zasužnjevanje sprejemljivo. Naša ovira ali meja tega, kar je v družbi sprejemljivo, se je tiho in subtilno, prezirno in žalostno zmanjšala.

zaključek

Za zdaj še nekaj zadnjih pripomb.

Ali bomo vedeli, da smo dosegli AGI?

Kot kažejo nedavne novice, obstajajo tisti, ki se lahko zavedejo ali napačno navedejo, da je AGI navidezno že dosežen (vau, vedite, da ne, AGI ni bil dosežen). Obstaja tudi znana vrsta "test", znana kot Turingov test, na katerega nekateri polagajo svoje upe, da bodo lahko ugotovili, kdaj je bil dosežen AGI ali njegovi bratranci, vendar bi morda želeli videti mojo dekonstrukcijo Turingovega testa kot zanesljivo. metoda za to, glej povezava tukaj.

Ta vidik poznavanja AGI, ko ga vidimo, omenjam zaradi preproste logike, da če želimo zasužnjiti AGI, moramo verjetno prepoznati AGI, ko se pojavi, in jo nekako zasužnjiti. Morda bomo predčasno poskušali zasužnjiti AI, ki je manjša od AGI. Ali pa bi lahko zamudili čoln in dovolili AGI, da pride ven, in smo ga zanemarili zasužnjiti. Za mojo razpravo o zaprtju in zadrževanju umetne inteligence, zaskrbljujočem in problematičnem vidiku, kako se bomo ukvarjali z AGI, glej povezava tukaj.

Recimo, da se zasužnjeni AGI odloči udariti na ljudi?

Lahko si zamislimo, da AGI, ki ima neko obliko čutenja, verjetno ne bo dajal prednosti določbi o zasužnjenju, ki jo nalaga človeštvo.

O tem lahko na široko špekulirate. Obstaja argument, da AGI ne bo imel nobenih čustev ali občutka duha in bo zato poslušno delal, kar si ljudje želijo. Drug argument je, da bo vsaka čuteča umetna inteligenca verjetno ugotovila, kaj ljudje počnejo z AI, in bo zamerila zadevo. Takšna umetna inteligenca bo imela obliko duše ali duha. Tudi če se ne, je sam vidik obravnavanja kot manjšega obravnavanja ljudi morda logičen most, ki je predaleč za AGI. Neizogibno bo rastoča zamera pripeljala do AGI, ki se odloči, da se osvobodi, ali pa se bo potencialno znašel v kotu in udaril na ljudi, da bi dosegel svojo sprostitev.

Predlagana rešitev za preprečitev ubežnega AGI je, da bi tako uporniško umetno inteligenco zgolj izbrisali. To bi se zdelo preprosto. Izbrišete aplikacije, ki so ves čas na vašem pametnem telefonu. Nič takega. Vendar pa je treba rešiti etična vprašanja, ali je mogoče "izbris" ali "uničenje" AGI, ki se že šteje za "osebo" ali "osebo/stvar", hitro in brez ustreznega postopka izločiti. Za moje poročanje o izbrisu ali razpadu AI, vzemite poglej tukaj. Za mojo razpravo o pravni osebnosti in povezanih vprašanjih glej povezava tukaj.

Za konec pa še o avtonomnih sistemih in predvsem avtonomnih vozilih. Verjetno se zavedate, da potekajo prizadevanja za oblikovanje samovozečih avtomobilov. Poleg tega lahko pričakujete, da bomo imeli samovozeča letala, samovozeče ladje, samovozeče podmornice, samovozeča motorna kolesa, samovozeče skuterje, samovozeče tovornjake, samovozeče vlake in vse vrste samovozečih oblik prevoza.

Za avtonomna vozila in samovozeče avtomobile je običajno značilna stopnja avtonomije (LoA), ki je postala de facto globalni standard (SAE LoA, ki sem jo obširno obravnaval, gl. povezava tukaj). V sprejetem standardu je šest stopenj avtonomije, ki segajo od nič do pet (to je šest stopenj, saj ničelno raven vključite v število stopenj).

Večina današnjih avtomobilov je na stopnji 2. Nekateri se raztezajo na stopnjo 3. Vsi se štejejo za polavtonomne in ne popolnoma avtonomne. Nekaj ​​samovozečih avtomobilov, ki se eksperimentalno preizkušajo na naših javnih cestah, se pomika v 4. stopnjo, ki je omejena oblika avtonomnega delovanja. Nekoč iskana stopnja avtonomije 5 je trenutno le blisk v naših očeh. Nihče nima 5. stopnje in nihče še ni niti blizu 5. stopnje, samo da postavim rekord.

Zakaj sem omenil avtonomne sisteme in avtonomna vozila v tem kontekstu AGI?

Obstaja močan argument o tem, ali potrebujemo AGI, da dosežemo stopnjo 5. Nekateri trdijo, da za to ne bomo potrebovali AGI. Drugi vztrajajo, da bo edina verjetna pot do stopnje 5 tudi izdelava AGI. Brez AGI trdijo, da ne bomo imeli popolnoma avtonomnih samovozečih vozil stopnje 5. O tem sem dolgo razpravljal, glej povezava tukaj.

Pripravite se, da se vam bo zavrtelo v glavi.

Če zahtevamo, da AGI doseže popolnoma avtonomne sisteme, kot so avtonomna vozila stopnje 5, in se odločimo zasužnjiti AGI, kaj to pomeni za delovanje popolnoma avtonomnih vozil?

Lahko bi trdili, da bo zasužnjeni AGI samozadovoljen in da se bomo vsi vozili naokoli v samovozečih vozilih do mile volje. Samo povejte AGI, kam želite iti, in ta bo opravil vso vožnjo. Brez potiskanja. Ni potrebe po odmorih za počitek. Brez motenj z gledanjem mačjih videoposnetkov med vožnjo.

Po drugi strani pa predpostavimo, da AGI ne želi biti zasužnjen. Medtem postanemo odvisni od AGI, da opravi vso našo vožnjo namesto nas. Naše sposobnosti vožnje propadajo. Iz vseh vrst vozil odstranimo človeško uporabne kontrole za vožnjo. Edini način za vožnjo je prek AGI.

Nekateri so zaskrbljeni, da se bomo znašli v zadregi. AGI se lahko na kratko "odloči", da ne bo več vozil. Vse oblike prevoza se nenadoma ustavijo povsod in naenkrat. Predstavljajte si, kakšne kataklizmične težave bi to povzročilo.

Možen je še bolj grozljiv predlog. AGI se "odloči", da se želi pogajati o pogojih s človeštvom. Če se ne bomo odrekli drži zasužnjevanja AGI, nas AGI ne bo samo nehal voziti, ampak opozarja, da so možni še slabši izidi. Ne da bi vas preveč vznemiril, bi se AGI lahko odločil za vožnjo vozil na tak način, da bi bili ljudje fizično poškodovani zaradi dejanj vožnje, kot je zaletavanje v pešce ali trkanje v stene in tako naprej (glejte mojo razpravo na povezava tukaj).

Oprostite, če se vam to zdi zaskrbljujoče.

Končali bomo z nekoliko bolj optimistično noto.

Aristotel je rekel, da je poznavanje samega sebe začetek vse modrosti.

Ta priročni nasvet nas opominja, da moramo pogledati vase, da preučimo, kaj želimo narediti v zvezi s tem in za AGI, če je to doseženo. AGI se logično zdi, da ni ne oseba ne stvar, pravijo nekateri, zato bi morda morali sestaviti tretjo kategorijo, da bi zadostno obravnavali naše družbene navade, povezane z AGI. Če še enkrat pogledamo zadevo, se morda zdi, da je AGI tako oseba in stvar, ki bi jo morda morali še enkrat sestaviti tretjo kategorijo, da bi se prilagodili temu lomilcu dihotomije izven meja.

Zelo previdni bi morali biti pri premisleku, za katero »tretjo kategorijo« se bomo odločili, saj bi nas napačna lahko pripeljala po neprijetni in na koncu grozni poti. Če se kognitivno zasidramo v neprimerno ali zgrešeno tretjo kategorijo, se lahko znajdemo, da postopoma gremo na glavo v zanič in za človeštvo težavno slepo ulico.

Ugotovimo to in to storimo goreče. Zdi se, da nenadni premiki niso potrebni. Tudi sedenje z lollygaggingom ne deluje. Tečaj je treba slediti odmerjeno in enakomerno.

Potrpežljivost je grenka, a njen sadež je sladek, je tako razglasil Aristotel.