Etika umetne inteligence in geopolitična rokoborba o tem, kdo bo zmagal v tekmi za pridobitev prave umetne inteligence

Svet je v divji tekmi.

Geopolitične sile trdijo, da bo zmagovalec domov tako rekoč odnesel vso slanino.

Katera dirka se divje bije in vztrajno zasleduje?

To je dirka AI.

Morda bi temu bolj primerno rekli dirka za doseganje Res Umetna inteligenca (AI), ki se trenutno imenuje bolj umetna splošna inteligenca (AGI). Želimo nekako priti do navidezno največje umetne inteligence ali znane kot AGI, ki je primerljiva s človeško inteligenco. Nismo še tam. Dejansko kljub vsem vrstam divjih in nesramno oznanjajočih naslovov ne vemo, kdaj in če bomo dosegli to visoko mejo. Zmožnosti današnje umetne inteligence so veliko manjše od vseobsegajoče človeške inteligence, čeprav zagotovo obstaja veliko ožjih načinov, na katere je umetna inteligenca naredila impresivne pohode, na primer zmožnost igranja vrhunskega šaha svetovnega razreda ali opravljanja drugih razmeroma omejenih nalog.

Zlati prstan pa je pojav umetne inteligence, ki kaže človeško inteligenco pobožne narave in globino, podobno človeški inteligenci. To je sveti gral raziskovalcev in praktikov umetne inteligence. Od časa do časa so se pojavile lažne trditve, da je že prečkal ciljno črto dirke z umetno inteligenco, kar sem ovrgel v svoji kolumni na povezava tukaj. Tisti, ki se poskušajo boriti za prečkanje ciljne črte, zmedejo širšo javnost in včasih to počnejo z vneto nedolžnostjo, medtem ko imajo drugič v rokah zelo vprašljive motive. Skratka, to sproža precej pomembna in pomembna vprašanja etike umetne inteligence. Za moje stalno in obsežno pokrivanje etičnosti umetne inteligence in etične umetne inteligence glejte povezava tukaj in povezava tukaj, samo da navedem nekaj.

Kakorkoli že, ni dvoma, da je globalna šprinterska dirka AI vneto v teku. Težko bi trdili drugače.

Razmislite o tem na ta način. Če bi nam že uspelo doseči pravi AI ali AGI, je velika verjetnost, da bi bila dirka z umetno inteligenco uradno in globalno razglašena za uspešno zaključeno. Zagotavljam vam, da bi bila svetovna pozornost prikovana na tako odmeven in pretresljiv preboj. Ti bi vedel za to. Vsi bi. AI madcap dash dejansko ne bi več obstajal, čeprav bi se morda pojavila sekundarna različica, ki bi vključevala tiste, ki niso dosegli pravega AI, ki bi mrzlično poskušali dohiteti. Obstaja tudi vznemirljivo vprašanje, kako bomo na koncu nadzirali ali upravljali AGI, če ali ko pridemo tja.

Nobena oseba, subjekt ali država še ne more pravilno zahtevati krone proizvajanja prave AI ali AGI.

Medtem pa poteka ogromno in neizprosno količino prepirov o tem, kateri narod (ali narodi) je na čelu tropa in kdo sledi bolj za njim. Predpostavka je, da če ne boste prvi, boste ostali v blatu. Jedli boste ostanke zmagovalcev AI. Potencialno boste za vedno podrejeni narodu ali narodom, ki naredijo napovedani preskok v pravi AI ali AGI.

Na kratko in za olajšanje besedila te razprave bom odslej uporabljal »AGI«, kadar koli bom želel priklicati avro pravega umetne inteligence. Uporaba nekoliko novejše fraze "AGI" je včasih moteča za tiste, ki je niso vajeni uporabljati. Vsi poznamo "AI" in morda vas bo motilo, če boste namesto tega videli akronim "AGI". Dovolite mi, da pojasnim, zakaj se to postopoma pojavlja kot trend besedičenja.

Del razloga, da se je AGI dvignil v areni ljudskega jezika AI, je, da je samo navedba "AI" zdaj postala žal razvodenela besedna zveza. Nihče ne ve, ali je umetna inteligenca, ki jo omenjate, različica komajda umetne inteligence ali nekakšna kvazi-boljša infuzija umetne inteligence, ki napreduje, ali morda namiguje na nekoč futuristično umetno inteligenco, ki bo popolnoma enaka človeku. Da bi se spopadli s preobremenjenostjo »AI« kot fraze, vzdevek AGI pridobiva prednost tistih poznavalcev na področju umetne inteligence, ki želijo posebej in posebej namigovati na pravo umetno inteligenco.

Torej, skratka, menite, da je moja omemba AGI enaka besedi "prava umetna inteligenca" robustnega kalibra, podobnega človeški inteligenci, hvala.

Preudarno globoko vdihnimo in pozorno preučimo nekatere vidike tekmovanja za pridobitev AGI. Obstaja celo meta-vidik, ki ga je treba najprej navesti. Zavedajte se, da je uporaba alegorije domnevne peš dirke ali kakšne druge vrste dirkalne dejavnosti kot prispodobe za AGI dirko nekoliko grozljiva zgaga. Zakaj tako? Za trenutek vam bom povedal o zapletih in zapletenosti, zakaj je (nekateri pravijo) stopalnica ali njen ekvivalent popolnoma zavajajoč in zahrbten preprost pogled.

Tukaj so ključne točke, ki jih bom pregledal z vami v tem diskurzu:

• Če je to dirka, se ciljna črta AGI zdi precej slabo definirana
• Tekma AGI lahko pripade osebi, entiteti ali državi
• Meritve in kako se države primerjajo v tekmi AGI
• Geopolitično manevriranje in usklajevanje za tekmo AGI
• Mednarodni zakoni in etika umetne inteligence kot sodniki v tekmi AGI

Morda bi se želeli pripeti z varnostnim pasom, medtem ko pregledujem nujni tek AGI footrace (da, upam si reči, da je footrace), zaradi katerega se skoraj vsi premikajo z vrtoglavo hitrostjo in navidezno skokovito napredujejo na tej goreči nalogi. Nekateri bi morda rekli, da je to tekma za izboljšanje človeštva, drugi pa opozarjajo, da bi lahko dirka pomenila popolno pogubo za vse nas.

Čas bo povedal.

Če je to dirka, se ciljna črta AGI zdi precej slabo definirana

Ciljna črta je običajno precej dokončna razmejitev. Prišli ste do cilja ali pa še niste. Zdi se, da vam izpad ne bo veliko koristil. Predstavljajte si olimpijski tek na 400 metrov in ali bi si še posebej zapomnili ali pohvalili tekače, ki sploh niso končali tekme (niso nikoli prečkali ciljne črte). Malo verjetno.

Ali bomo vedeli, kdaj bomo dosegli AGI, tako da se razumno vsi strinjamo, da je ciljna črta dosežena?

Glede razmejitve AGI prihaja do hudih nesoglasij.

Na primer, predpostavimo, da izdelamo umetno inteligenco, za katero se zdi, da je povsem sposobna razkazati človeško inteligenco, vendar v njej ni niti najmanjšega videza čutenja (glejte moje poročanje o argumentih glede čutenja umetne inteligence na povezava tukaj). AI je računalniško sposoben posnemati ali kako drugače delovati kot človeška inteligenca. Ni pa iskrice živosti ali občutka, ki bi jo povezovali z ljudmi in drugimi živimi bitji. Ali ta AGI šteje kot doseganje cilja, za katerega smo mislili, da ga imamo?

Nekateri bi trdili, da ne bi bilo pomembno, če bi se čustvo samo po sebi zdelo zavito v ta AGI. Dokler lahko kaže človeško inteligenco, je vključevanje občutka nekaj drugačnega, kar bi morda želeli ali ne želeli videti. Sentience v tem pomenu stvari je dodatek.

Drugi odločno trdijo, da bo edino sredstvo za doseganje človeške inteligence v AGI celostno utelešenje občutka. AGI in občutek se štejeta za isto ali pa sta mešanica nezmanjšljive neločljive dvojne utelešenja. Če želite pridobiti AGI, morate imeti občutek, bi trdili.

Če pustimo ob strani ta kot razprave, je druga perspektiva, da bi lahko uporabili znameniti Turingov test za oceno, ali je bil AGI dosežen. Turingov test sem podrobno obravnaval na povezava tukaj. Na kratko, pojem je sestavljen iz tega, da človek postavlja vprašanja AGI in če človek ne more razlikovati odgovorov, ki jih ustvari AGI, od odgovorov človeštva, potem bi razglasili, da je AGI sposoben pokazati človeško inteligenco.

S Turingovim testom je pogosto povezanih veliko težav ali pomanjkljivosti.

Predpostavimo, da človek, ki poizveduje, slabo opravi svoje delo in ne postavlja preudarnih vprašanj. Eden od pomislekov je, da lahko veliko današnjih navidezno zmogljivih velikih jezikovnih modelov (LLM) vrne človeku vsebino, na kateri se je izobraževal LLM (tj. besedilo in digitalni mediji, pogosto pridobljeni prek obsežnega strganja interneta). Tako lahko LLM na posebej izbranega človeka, ki postavlja vprašanja običajne vrste, na katera je že odgovoril in obstaja na spletu, zlahka "odgovori", vendar to verjetno ni posledica kakršne koli utelešenja človeške inteligence kalibra AGI.

Pojavi se še veliko drugih pomislekov. Recimo, da človek ne more razumeti odgovorov. Ali pa predpostavimo, da se ljudje zavajajo in verjamejo, da vsi odgovori kažejo na človeško inteligenco. Nekateri so celo opisali izrabljeno idejo, da je vse, kar moramo storiti, vprašati AI, ali je AGI ali čuteč, kar pojasnjujem, da ni zelo prepričljiva oblika AGI dokaza, glej povezava tukaj.

Nazadnje, kot ena dodana misel, ali moramo v celoti doseči ciljno črto, da se šteje, da je AGI dosežen?

Prej sem omenil, da običajno pozabimo na tiste, ki ne pridejo do cilja. To morda ni smiselno podobno dirki AGI. Verjamem, da je mogoče podati prepričljiv primer, da če bomo sposobni doseči bistveno pot do AGI, se bomo že znašli v stanju presenečenja in bodisi velike koristi bodisi velikih težav. Vidite, veliko pomembnih in zelo uporabnih rezultatov bi lahko prineslo AGI, ki je skoraj tam. Priti do krajšega ne bo tako problematično, kot da ne končate 400-metrskega teka, še posebej, ker je to lahko bistvena podlaga za našo pot do popolnejše različice AGI (v primerjavi z maratonom).

Metafora, da je AGI dosežek vrsta tekaške dirke ali njenega ekvivalenta, je včasih nezadovoljiva in neustrezna.

Dirka AGI bi lahko pripadla osebi, subjektu ali narodu

Nekateri imajo zasanjano predstavo, da bo AGI dosegel nek cinkar, ki dela v garaži v pižamah, in da bo rezultat noro inventivnih računalniških eksperimentov, s katerimi se trudijo leta za leti. To je klasični visokotehnološki trop volka samotarja.

Žal vam moram sporočiti, da je to zelo nizka kvota.

Večja verjetnost bi bila, da bo subjekt, kot je podjetje ali kakšna raziskovalna skupina, pridobil AGI. Močno in prevladujoče prepričanje je, da bo do AGI potrebna vas. Volk samotar sam ne bo imel sredstev niti vpogledov, da bi dosegel AGI. Lahko prispevajo k iskanju. Lahko zagotovijo potrebne dele sestavljanke. Ne bodo mogli zbrati celotnega kompleta in nakladanja.

Ko že govorimo o vaseh, je še eno močno uveljavljeno stališče, da bodo narodi tisti, ki bodo lahko dosegli samo AGI. Prek kombinacije ljudi, podjetij, akademikov in vseh drugih oblik subjektov znotraj nacionalne države bo AGI prišel kot rezultat združenega dela nacionalne celote. Raven pozornosti zmagovalca v tej tekmi je na ravni nacionalne države in ne na nečem bolj razpršenem, svobodnem ali individualističnem.

Skratka, če vzame vas, bo vas nacionalnega obsega, zato bo nacionalna država določena tekačica, ki bo prečkala ciljno črto v dirki AGI.

Meritve in kako se države primerjajo v AGI Race

Vzemite kot samoumevno, da bo dosežek AGI temeljil na ravni nacionalne države.

Če ponovim, tega ne vemo zagotovo, vendar se zdi utemeljena domneva.

Razmislite o razvejanosti osnove nacionalne države. Recimo, da volk samotar najprej uspe priti do AGI in verjame, da njihovo delo presega delo nacionalne države, katere član je. Ta oseba razglaša, da ne pripada nobeni nacionalni državi v smislu izdelanega AGI. Ali bi še vedno pripisovali priznanje tej nacionalni državi in ​​ali bi bil AGI pod nadzorom in v pristojnosti tega naroda?

Zamislite si drugo alternativo, da veliki večnacionalni konglomerat najprej prispe v AGI. Kateri narod lahko reče, da je AGI njihova "stvar" za uporabo in uvajanje (bo tolmačeno kot lastnina ali namesto tega zbrano kot različica pravne osebe)? Morda bodo vse države, znotraj katerih obstaja podjetje, dobile enak kredit. Ali morda le tam, kjer je geografsko uradni sedež. Lahko bi šlo za zapleteno delitev pravega lonca zlata.

V vsakem primeru je splošno splošno mnenje, da bo nacionalna država odločilna determinanta doseganja AGI. Država, ki spodbuja raziskave in razvoj umetne inteligence v svojih nacionalnih prizadevanjih, bo predvidoma prišla do AGI prej kot druge države, ki tega ne počnejo.

Prevladuje mnenje, da je dirka AI nacionalna.

Nepopravljivo vprašanje je, kako naj ugotovimo, ali je ena država pred ali za drugo državo v AGI tekmi.

Pri običajni tekaški tekmi bi zlahka prepoznali meritve, s katerimi lahko ugotovimo, kateri tekači gredo dobro in kateri ne. Hitrost tekača je mogoče enostavno izračunati. To ne zagotavlja, da bodo končali prvi, vendar vsaj obeta. Fizična razdalja med tekači in preostala razdalja do ciljne črte sta očitno bistvena kriterija, ki ju zlahka merimo.

Dirka AGI nima takšnih zagotovljenih oblik meritev ali meritev.

Uporabljamo vse vrste nadomestnih meril, saj ni nobenega dokončnega načina za izračun, kje je končna črta in niti kako daleč smo od nje.

Oglejmo si vrste meritev, ki se običajno upoštevajo. Posebej priročen vir globalnih meritev, povezanih z umetno inteligenco, vsako leto zbere in objavi Stanfordski inštitut za umetno inteligenco, osredotočeno na človeka (HAI) na univerzi Stanford. Poročilo je brezplačno na voljo na spletu, zadnja izdaja pa ima naslov Letno poročilo Indeksa umetne inteligence 2022 (na podlagi podatkov, zbranih za 2020-2021). Čez trenutek bom z vami delil nekaj poudarkov nacionalnih primerjav, omenjenih v njihovi najnovejši zbirki.

Meritve, ki se uporabljajo za merjenje nacionalnega in mednarodnega napredka na področju umetne inteligence, običajno vključujejo malo vsega, včasih pa mejijo tudi na vključitev pravega kuhinjskega korita.

Tipi ukrepov, ki se običajno preučujejo, vključujejo:

• Število raziskovalnih člankov o AI, pripisanih določenemu narodu
• Število citiranih referenc na članke AI določenega naroda
• Število revij AI s sedežem v določeni državi
• Število konferenc AI, ki potekajo znotraj določene države
• Število konferenc AI, ki jih sponzorira določena država
• Število patentov, povezanih z umetno inteligenco, podeljenih v določeni državi
• Število novoustanovljenih podjetij z umetno inteligenco v določeni državi
• Število delovnih mest AI v določeni državi
• Število novih delovnih mest na področju umetne inteligence ali zaposlitev v določeni državi
• Število zakonov o AI ali zakonodajnih predlogov, uvedenih v določeni državi
• Število zakonov o AI, ki so bili sprejeti ali sprejeti v določeni državi
• Ostalo

Upoštevajte te sodobne indikacije iz indeksa HAI AI 2022:

• Citati publikacije AI: “Pri citiranosti publikacij repozitorija umetne inteligence so Združene države na vrhu seznama z 38.6 % skupnih citatov v letu 2021, kar predstavlja prevladujočo prednost pred Evropsko unijo ter Združenim kraljestvom (20.1 %) in Kitajsko (16.4 %).”
• Revije/konference AI: »V letu 2021 je Kitajska še naprej vodilna v svetu po številu objav v revijah, konferencah in repozitoriju AI – 63.2 % več kot Združene države z vsemi tremi vrstami publikacij skupaj. Medtem so imele Združene države prevladujočo prednost med velikimi silami umetne inteligence po številu citatov na konferencah in repozitorijih.«
• Patenti AI: »Kitajska zdaj vloži več kot polovico svetovnih patentov za umetno inteligenco in dobi približno 6 %, približno enako kot Evropska unija in Združeno kraljestvo. Združene države Amerike, ki prijavijo skoraj vse patente v Severni Ameriki, to storijo tretjinsko hitreje kot Kitajska. V primerjavi z naraščajočim številom prijavljenih in podeljenih patentov umetne inteligence ima Kitajska veliko večje število patentnih prijav (87,343 leta 2021) kot odobrenih (1,407 leta 2021).«
• Na novo financirana podjetja AI: »Podatki o naložbah glede na število na novo financiranih podjetij z umetno inteligenco v vsaki regiji. Za leto 2021 so vodile Združene države z 299 podjetji, sledijo Kitajska s 119, Združeno kraljestvo z 49 in Izrael z 28. Vrzeli med obema so velike.«
• Hitrost zaposlovanja AI: "Nova Zelandija, Hong Kong, Irska, Luksemburg in Švedska so države ali regije z največjo rastjo zaposlovanja umetne inteligence od 2016 do 2021.«
• Objave delovnih mest z umetno inteligenco: »Leta 2021 so bile Kalifornija, Teksas, New York in Virginija zvezne države z največjim številom objav AI v Združenih državah Amerike, pri čemer je imela Kalifornija več kot 2.35-krat več objav kot Teksas, ki je drugi največji. Washington, DC, je imel največjo stopnjo objav AI v primerjavi s skupnim številom objav
• Zakonodajni ukrep AI: »Analiza zakonodajnih zapisov o umetni inteligenci v 25 državah z indeksom AI kaže, da je število zakonov, ki vsebujejo 'umetno inteligenco' in so bili sprejeti v zakonodajo, naraslo s samo 1 leta 2016 na 18 leta 2021. Španija, Združeno kraljestvo in Združene države sprejel največje število zakonov, povezanih z umetno inteligenco, v letu 2021, pri čemer je vsak sprejel tri.«

Izjemno lahko občudujemo in cenimo trdo delo, vloženo pri zbiranju teh statističnih podatkov o tekačih v nacionalni državi za dirko AGI.

Skeptiki pa se precej prepirajo o uporabi kakršnih koli vrst meritev v sodelovanju z dirko AGI.

Kočljivo vprašanje je, ali lahko potegnete kakršno koli ravno črto od števila člankov o AI ali konferenc o AI v določeni državi do končnega dosežka AGI. Enako velja za število delovnih mest z umetno inteligenco, število podjetij z umetno inteligenco in množico drugih meritev. Lahko se zgodi, da ta števila nimajo veliko opraviti z doseganjem AGI. Argument pravi, da so ti ukrepi bolj toplotni kot svetlobni.

Protiargument je, da moramo poskušati izmeriti, kje smo in kam gremo. Potiskati glavo v pesek se ne zdi ravno izvedljiv način za oceno, ali gremo proti AGI ali morda še dlje od AGI. Upamo in na splošno domnevamo, da več energije in pozornosti v smeri napredka v AI, bližje bomo AGI. Te metrike so najboljše, kar lahko naredimo, da ugotovimo, koliko energije in pozornosti se dodeli in porabi v tekmi AGI.

Naokoli, kar gre.

Vsaka od metrik se lahko sama po sebi tudi udari po glavi.

Na primer, razmislite o številu zakonodajnih zakonov ali računov o AI.

Lahko trdite, da če se zakonodajalci osredotočajo na zakone, povezane z umetno inteligenco, je to dober znak, da država zelo trezno jemlje pomen umetne inteligence in družbene posledice tega, kam je usmerjena umetna inteligenca. Lahko trdimo, da to dokazuje, da se v tej določeni državi pojavlja veliko prizadevanj za napredek AI. Zakaj bi se trudili sprejeti zakone o umetni inteligenci, razen če se umetna inteligenca še posebej razvija in brbota kot demonstracijski element vaše države?

Na ta način se tiste države, ki razglašajo nove zakone o AI, razlagajo kot znak ali znak napredka AGI v tej državi.

Nekateri kritiki trdijo, da bodo predlagani novi zakoni o umetni inteligenci zadušili prizadevanja za umetno inteligenco znotraj vsake take posamezne države. Zakonodajalci in politični voditelji si bodo prestrelili lastne noge. Zakoni bodo prezgodaj postavili mračno senco na prizadevanja AI, ki potekajo v tej državi. Pipa za napredek umetne inteligence se bo zataknila s pravnimi zamašitvami in tempo napredka AGI se bo upočasnil v državi, ki razglaša zakon o umetni inteligenci. Medtem bodo druge države, ki ne sprejemajo tovrstnih zakonov o umetni inteligenci, neomajno nadaljevale. To je tako, kot da bi se tekaču, ki je že na 400-metrski progi, odločil nadeti svinčene uteži. Če ste jim želeli pomagati in jih pospešiti, ste storili ravno nasprotno.

Vau, odgovor gre, uzakonitev zakonov o AI je bolj podobna zagotavljanju, da pred tekačem ni nepotrebnih ovir. Zakoni zagotavljajo smernice, kar pomeni, da so črte na dirkališču tam, da tekača nemoteno premikajo v pravo smer. Brez teh naslikanih linij bi lahko tekači podivjali. Novi zakoni o umetni inteligenci bodo poskrbeli, da bodo enotno korakali proti želenemu rezultatu. Države, ki ne ravnajo enako v smislu novih zakonov o umetni inteligenci, bodo ugotovile, da njihovi tekači gredo v vse divje smeri, vključno z morebitnim potekom v celoti s steze in škodovanjem tistim, ki so nedolžni izven same dirke AGI.

Obstajajo tudi »skriti« zakoni, povezani z umetno inteligenco, ki jih nekateri štejejo, medtem ko nekateri drugi ne štejejo kot del teh meritev (pri poskusu primerjave štetja pride do mešanja).

Na primer, če država sprejme zakon o avtonomnih vozilih, kot so samovozeči avtomobili, ali to štejete za zakon o AI? Če pojasnimo, da bo avtonomno vozilo, kot je popolnoma avtonomni samovozeči avtomobil, imelo sistem vožnje z umetno inteligenco, ki je bistvenega pomena za zmogljivosti brez voznika (glejte mojo pokritost na povezava tukaj). Zaradi vpletene umetne inteligence bi lahko vse zakone o avtonomnih vozilih razumno obravnavali kot zakone o umetni inteligenci. Po drugi strani pa bi lahko prepričljivo trdili, da se zakon nanaša na avtonomno vozilo in ne sam po sebi na umetno inteligenco, zato to ne šteje v štetje zakonov, specifičnih za umetno inteligenco.

Neurejeno je.

Vsa ta zaskrbljenost glede meritev bi lahko povzročila, da skomignete z rameni sredi nasprotnih pogledov na te tehtne premisleke. Kot je morda očitno, so metrike skoraj vedno predmet različnih razlag o tem, kaj pomenijo in kako se ustrezno analizira status države glede AGI.

Geopolitično manevriranje in usklajevanje za tekmo AGI

Kateri narodi vodijo v AGI tekmi?

Kateri narodi zaostajajo?

Zgoraj omenjene meritve poskušajo pokazati, kje je trenutno vsak od tekačev. Osnovna predpostavka je, da če meritve res prikazujejo ustrezen pokazatelj AGI, ki išče pozicioniranje, lahko ti različni glavni položaji skozi čas ostanejo enaki. Seveda je resničnost taka, da se nacionalni interes in pozornost lahko povečata ali zmanjšata med nerodno potjo do AGI. Morda bi bilo najbolj pametno pričakovati spremembe v položaju.

Eden od pomembnih dejavnikov je, da narodi v tej tekmi pravzaprav niso sami.

Narodi si bodo verjetno predajali štafetno palico naprej in nazaj. Dirka AGI včasih vključuje eno ali več držav, ki z veseljem sodelujejo z roko v roki. Včasih se to naredi previdno in ne s prijateljskim veseljem. V drugih primerih se lahko narodi zadržujejo drug pred drugim. V katerem koli trenutku je lahko položaj dirke precej drugačen, kot je bil nekaj korakov nazaj, poleg tega pa je lahko precej drugačen nekaj korakov v prihodnosti.

Razmislite o tem, kar je podalo poročilo HAI AI Index 2022 o meddržavnem sodelovanju: »Kljub naraščajočim geopolitičnim napetostim sta imeli Združene države in Kitajska največje število meddržavnih sodelovanj v publikacijah AI od leta 2010 do 2021, od leta 2010 pa se je petkrat povečalo. ... Sodelovanje med državama je ustvarilo 2.7-krat več publikacij kot med Združenim kraljestvom in Kitajsko – drugo najvišje na seznamu.«

Ciniki bi rekli, da se morda uporaba navzkrižnega sodelovanja občasno izvaja kot zvijača. Narod bi lahko odkrito trdil, da navzkrižno sodeluje, pri čemer se na prvi pogled zdi, da to počne, medtem ko globoko v sebi svoj najboljši napredek AGI ohranjajo kot skrito nacionalno skrivnost. Morda je to storjeno zato, da bi se preprečil napredek navzkrižnega sodelovanja. Morda se to naredi zato, da se skrivna omaka ne izda nehote. Možni so različni razlogi.

V današnjem sodobnem digitalnem internetnem spletnem svetu je lahko skrivanje vpogledov AGI težko opravilo. Močna želja po odkrivanju ali izumljanju AGI je prepričljiva privlačnost, ki lahko spodbudi posamezne razvijalce in raziskovalce AGI, da odkrito delijo svoje najnovejše delo. Države lahko ugotovijo, da je poskušanje omejiti takšno skupno rabo veliko težje, kot se morda zdi, in verjetno veliko težje kot v dneh, ko je bilo vse papirnato in je bilo potrebno fizično premikanje dokumentov po vsem svetu.

Gibanje proti odprti kodi je zagotovo sodoben poudarek za večino najnovejših raziskav AI in AGI, kot je omenjeno v poročilu HAI AI Index 2022: »Vsako leto je objavljenih na tisoče in tisoče publikacij AI v odprti kodi, bodisi ob na konferencah ali na spletnih mestih za izmenjavo datotek. Raziskovalci bodo svoje ugotovitve odkrito delili na konferencah; vladne agencije bodo financirale raziskave umetne inteligence, ki končajo v odprtokodnih virih; razvijalci pa uporabljajo knjižnice odprte programske opreme, ki so prosto dostopne javnosti, za izdelavo najsodobnejših aplikacij AI. Ta odprtost prispeva tudi k globalno soodvisni in medsebojno povezani naravi sodobnih raziskav in razvoja umetne inteligence.«

Skratka, narodi si na splošno delijo, vendar morda kažejo le del svoje roke. Drugi narodi morda ne delijo ali pa se le pretvarjajo, da to počnejo. Nekateri narodi se zelo trudijo, ko poskušajo izmeriti, kaj tisti v njihovem narodu razdajajo in ne vztrajajo. In tako naprej.

Naravo teh nacionalnih potez sem označil na te načine:

• AI Go-it-one Nation (poskuša nadaljevati sam)
• AI Enosmerna nacija (vzemi, ne izda)
• AI Leftover Nation (dobi, kar lahko od drugih)
• AI Open-sharing Nation (ponosen je na deljenje)
• AI Hollow-sharing Nation (neresnost pri deljenju)
• AI Alliances Nation (poskuša skleniti čim več zavezništev)
• AI Not-in-the-game Nation (iskanje AGI ni nacionalna prednostna naloga)
• AI goljufivi narod (povratni inženiring ali zahrbtna kraja od drugih narodov)
• Ostalo

Narod je lahko v več kot enem od teh veder hkrati.

Narod je lahko nekaj časa v enem od teh veder, se premakne iz vedra in se morda kasneje vrne vanj.

Želje nacionalne države in pozornost, ki se nanašajo na iskanje AGI, so dinamične oseke in oseke, ki se bodo zagotovo nadaljevale in bodo premikajoča se tarča glede tega, katera nacija je kje v tekmi, in nenehno oko bo potrebno, da ugotovimo kjer so vsi igralci postavljeni v danem trenutku.

Mednarodni zakoni in etika umetne inteligence kot sodniki v dirki AGI

V prejšnjih stolpcih sem obravnaval različna nacionalna in mednarodna prizadevanja za oblikovanje in uveljavitev zakonov, ki urejajo umetno inteligenco, glejte povezava tukaj in povezava tukaj, na primer. Pokril sem tudi različna načela in smernice etike umetne inteligence, ki so jih opredelili in sprejeli različni narodi, vključno na primer s prizadevanji Združenih narodov, kot je Unescov sklop etike umetne inteligence, ki ga je sprejelo skoraj 200 držav, glej povezava tukaj.

Tukaj je koristen temeljni seznam etičnih meril ali značilnosti umetne inteligence v zvezi s sistemi umetne inteligence, ki sem jih že natančno raziskal:

• Preglednost
• Pravičnost in pravičnost
• Nezlobnost
• odgovornost
• Zasebnost
• Dobrotje
• Svoboda in avtonomija
• Zaupajte
• Trajnostni razvoj
• Dostojanstvo
• Solidarnost

Ta načela etike umetne inteligence naj bi resno uporabljali razvijalci umetne inteligence, skupaj s tistimi, ki upravljajo prizadevanja za razvoj umetne inteligence, in celo tistimi, ki na koncu izvajajo in vzdržujejo sisteme umetne inteligence.

Vse zainteresirane strani v celotnem življenjskem ciklu razvoja in uporabe umetne inteligence so obravnavane v okviru upoštevanja že vzpostavljenih norm etične umetne inteligence. To je pomemben poudarek, saj je običajna predpostavka, da morajo »samo koderji« ali tisti, ki programirajo AI, upoštevati pojme etike AI. Kot je bilo že poudarjeno v tem dokumentu, je potrebna vas, da zasnuje in uporabi umetno inteligenco, za kar mora biti cela vas seznanjena in spoštovati predpise etike umetne inteligence.

Razmislimo o vplivu in vitalni naravi mednarodnih zakonov o umetni inteligenci in mednarodnih razglasih etičnih predpisov o umetni inteligenci na tekmo AGI.

Narodi, ki si prizadevajo za AGI, bi to lahko storili brez skrbi in se znašli v smeri nekaterih pogosto populariziranih eksistencialnih tveganj AGI. Upamo, da bodo narodi z uvedbo mednarodnih zakonov o umetni inteligenci in mednarodnih predpisov etike umetne inteligence usmerjeni k AI za dobro in se izogibajte AI za slabo.

Po naši analogiji z dirkališčem so ti zakoni o umetni inteligenci in etični vidiki umetne inteligence podobni temu, da bi tekače preprečili, da bi šli izven steze. Obstajajo ogromne skušnjave, da bi ubrali bližnjice v AGI tekmi. Te bližnjice bi lahko pripeljale narod navidezno prej do ciljne črte, čeprav so hkrati ta narod in drugi narodi izpostavljeni nepotrebnemu tveganju. Subtilen, a zgovoren primer je umetna inteligenca z dvojno rabo, ki sem jo preučil povezava tukaj, pri čemer se napredek umetne inteligence z zelo malo truda takoj spremeni iz ciljanja na dobroto na ustvarjanje kataklizmične slabosti.

Lahko bi trdili, da so mednarodni zakoni o umetni inteligenci in mednarodna etika o umetni inteligenci kot sodniki ali razsodniki.

Domneva se, da bodo ti mednarodno oblikovani pravni in etični mehanizmi ohranjali tekmo AGI na bolj izenačeni kobilici. Stvar je v tem, ali se posamezne države odločijo upoštevati sodnike ali arbitre, je druga stvar. Podobno je moteče vprašanje, kako lahko ti organi zagotovijo kazni ali spodbude, da bodo tekače ohranili na pravi poti. Možnosti so, da bodo narodi storili, kot si želijo, za kar bodo morda morali drugi narodi preusmeriti svojo težo, da bi okrepili podporo neobičajnemu kršenju pravil, ki so ga nekateri narodi prisiljeni storiti.

zaključek

Louis Pasteur, legendarni kemik in mikrobiolog, je rekel: »Znanost ne pozna nobene države, saj znanje pripada človeštvu in je svetilka, ki razsvetljuje svet. Znanost je najvišja poosebitev naroda, ker bo ta narod ostal prvi, ki bo najdlje ponesel dela misli in inteligence.«

Ali lahko rečemo, da pridobitev AGI ne pozna nobene države in da bo AGI pripadal vsemu človeštvu?

Ali pa bo narod, ki bo prvi prispel na AGI, posesiven nad njim, postal pijan od ponižne moči in ponorel od moči?

Tisti med vami, ki radi malo zasukate to posebno uganko, upoštevajte, da je AGI sam po sebi morda vrsta dosežka, ki je pregovorna kača v travi. Odkritelj kače bo morda prvi dobil kačji ugriz. Biti prvi ima svoja tveganja.

Prečkanje ciljne črte na AGI ne bo nujno tako slavnostno in brezskrbno, kot si nekateri mislijo. Izkoriščanje AGI tudi ne bo nujno enostavno. Nekateri bi morda trdili, da bi bilo spopadanje z AGI skoraj nemogoče, saj bo imel AGI primerljivo zvitost in iznajdljivost kot človeštvo. Narodi bi morali biti pozorni na to, kaj poskušajo doseči in kakšen bo rezultat, in to storiti vnaprej in ne biti presenečeni. Morda imajo v svoji nacionalni zakladnici sršenje gnezdo.

Kot je dejal Pasteur: "Sreča je naklonjena pripravljenemu umu."