Meta AI razkrije z AI prepojeno diplomatsko šarmerko, ki meša etiko umetne inteligence in zakonodajo o umetni inteligenci v neobčutljiv tiff

Cenjeni svet šarma in diplomacije je pogosto zaznamovan z neprijaznostjo in nevljudnostjo.

Will Rogers, veliki humorist in družbeni komentator, je slavno rekel, da je diplomacija umetnost reči "Lepa psička", dokler ne najdeš kamna.

Očitna implikacija je, da morate včasih strmo zadrževati vse grozeče in ogrožajoče sile, dokler ne odkrijete primerno obrambne rešitve. Naredite, kar morate storiti, ko ste v obupni stiski. Namenoma in namenoma pomirite tiste, ki vas ogrožajo, s svojimi pomirjujočimi in očarljivimi besedami ter tako pridobite dragoceni čas, da se oborožite z bolj praktičnim in odkrito oprijemljivim stališčem.

OGLAS

Nekateri trdijo, da je vojna neločljivo posledica spodletele diplomacije. S tega premišljenega vidika bo nenehno bobnenje diplomacije preprečilo vojno. Govori še naprej in spopadi se ne bodo začeli. Drugi se vneto ne strinjajo s tako problematičnim mnenjem. Morda, pravijo, je diplomacija pravzaprav tista, ki nas spravi v vojne. Poleg tega se lahko zgodi, da diplomacija razteza vojne in ohranja spopade v nedogled.

Willu Rogersu bomo dali še eno priložnost, da se naužije malo humorja pri tem vprašanju, ali je diplomacija dobra ali slaba v zvezi z začetkom ali nadaljevanjem vojne: "Če vzamete diplomacijo iz vojne, bo stvar padla v vodo v enem tednu" (on domnevno deklarirano).

Skupna definicija diplomacije poudarja odnose med narodi. Diplomati predstavljajo določene narode ali nacionalne države in izvajajo diplomacijo pri opravljanju svojih posvečenih nalog. Od naših diplomatov pričakujemo, da bodo svojo zunanjo politiko izvajali samozavestno. Messenger ne bi smel biti tisti, ki sproži sovraštvo, ampak samo sporočilo. Domnevno brezhibna diplomatska upodobitev celo najbolj nesramnega sporočila lahko očitno omili udarec, ki izhaja iz sicer škodljive zahteve ali grožnje.

OGLAS

Seveda pa diplomacija ni omejena samo na vzvišeno delo formaliziranih diplomatov. Upam si trditi, da moramo v vsakdanjem življenju vsi pridobiti nekaj videza diplomacije. Ko želite, da prijatelj pazi na vašega ljubljenega psa, medtem ko ste na službenem potovanju, boste zagotovo diplomatsko utemeljili prošnjo, da poskrbite za kužka. Odkrita zahteva, da to storite, bo verjetno pristala s topim udarcem.

Diplomacija je verjetno bolj umetnost kot znanost in je nekaj, s čimer ljudje podmazujejo drsnike, ohranjajo prižgane luči in preprečujejo, da bi družba popolnoma ponorela. Pogajanja se začnejo igrati. Morda bo potrebna pomiritev. Včasih uporabiš korenček, včasih palico. Če morate to storiti, lahko poskusite s tako imenovano diplomacijo topovskega čolna, s katero poskušate ustrahovati druge okoli sebe. Ali pa se namesto močnega oboroževanja lahko odločite za mehkejšo mediacijo in humanitarno pot. Vse je odvisno.

V redu, torej se vsi razumno strinjamo, da je diplomacija pomembna oblika komunikacije med človekom. Sestavljen je iz prakse ali odrske veščine, povezane z uporabo takta, posredovanja, pogajanj, sprave in množice družbeno spretnega politikantstva.

OGLAS

Dodajmo tej enačbi še nekaj.

Ste pripravljeni?

Dodali bomo še nekaj, o čemer ste morda že razmišljali.

Umetna inteligenca (AI).

Da, AI se spušča v diplomacijo. To se zdi povsem smiselno. Če želimo imeti umetno inteligenco potopljeno v vse vidike našega življenja, je sčasoma morala priti na vrsto diplomacija. Lahko bi pričakovali, da bo umetna inteligenca z uporabo ustreznih besed in načinov diplomacije lahko opravljala vse naloge, ki jih ima.

OGLAS

AI kot avtonomni ali polavtonomni diplomat.

Zavedam se, da se to morda zdi precej zastrašujoče in popolnoma strašljivo. Mislim, da nihče od nas ni pripravljen na to, da bi AI hodil naokoli kot predstavnik naših držav. Predstavljajte si, da umetna inteligenca služi v našem imenu za pogajanja o naših mednarodnih položajih in potrjuje našo globalno politično držo. Joj! To je snov tistih apokaliptičnih znanstvenofantastičnih zgodb.

No, za trenutek si oddahnite, saj to za zdaj ni v načrtu.

Namesto tega pomislite na umetno inteligenco, ki jo uporabljate za opravljanje bančništva ali ki vam pomaga pri nakupu stanovanja. Današnja umetna inteligenca, ki komunicira z ljudmi, je običajno precej brezhibna. Do dejstev, samo dejstev. Nekatera umetna inteligenca je bila pokrita z ljubkim besedilom, da bi mislili, da je prijazna ali prijateljska, čeprav se to hitro vidi. Samo zato, ker vas sistem umetne inteligence imenuje po vašem imenu ali oddaja besede, kot je "zdravo" namesto "zdravo", večina od nas takoj ugotovi, da je to šarada.

Naslednji korak, ki si ga vneto prizadevajo v dvoranah razvijalcev umetne inteligence, je poskus vnesti diplomatske značilnosti v našo vsakodnevno umetno inteligenco. Glavni cilj je vključiti programske vidike, ki bodo omogočili, da bo umetna inteligenca pokazala diplomacijo in diplomatsko podobno vedenje. Z uporabo različnih algoritmov in zlasti najnovejših generativnih AI ali modelov velikih jezikov (LLM) je na tem področju opazen napredek.

OGLAS

Ogledali si bomo en tak primer, CICERO, nov sistem umetne inteligence, ki ga je izdala ekipa Meta AI.

Če ste bili na dopustu in niste bili na tekočem z najnovejšimi novicami o umetni inteligenci, nedavna objava in razkritje sistema umetne inteligence, skovanega kot CICERO, ponujata pomemben kažipot, kje se danes nahaja z umetno inteligenco prežeta diplomacijska arena. Premišljeno in na njihovo dobro priznanje je ekipa Meta AI javno dala na voljo svoj razvit sistem CICERO AI. Tehnične podrobnosti lahko preberete v objavljeni raziskovalni nalogi na Znanost, Glej povezava tukaj. Lahko obiščete spletno mesto, ki so ga postavili za nežen prenos splošnih odtenkov CICERO s kratkimi video posnetki, ki ponazarjajo, kaj počne (glejte povezava tukaj). Za tiste, ki iščete dejansko programsko kodo in programsko opremo, lahko najdete izvorno kodo na GitHubu na povezava tukaj.

Rad bi na hitro razjasnil en vidik, ki se morda zdi zmeden, če se odločite poglobiti v to zadevo.

Poseben sistem umetne inteligence, ki ga je zasnovala Meta AI, je trenutno nastavljen za igranje nekoliko priljubljene igre, znane kot Diplomacija (morda ste videli družabno igro po Hasbru in drugih izdelovalcih iger). To omenjam, ker bo imela beseda "diplomacija" v teh okoliščinah dvojno dolžnost. Po eni strani poskuša umetna inteligenca združiti značilnosti podjetja in prikaza diplomacija per se. Medtem pa je nastavitev, v kateri se ta sistem umetne inteligence odvija, ko igrate posebej in samo (trenutno) znano družabno igro, znano kot Diplomacija.

Ali vidite, kako bo to potencialno zmedlo nekatere ljudi?

Če vam nekdo reče, da se ta določena umetna inteligenca zelo dobro znajde v "diplomaciji", morda niste prepričani, ali se nanaša na idejo, da je umetna inteligenca precej spretna pri igranju družabne igre, znane kot Diplomacija ali morda namesto tega nakazujejo, da umetna inteligenca uteleša temeljno bistvo, povezano s človeškim dejanjem diplomacije. Poleg tega se lahko zgodi, da sta oba vidika mišljena hkrati (umetna inteligenca se namreč dobro znajde pri igranju Diplomacija hkrati pa se dobro znajde v tem, da lahko izvaja ali prikazuje diplomacijo kot veščino ali dejanje).

OGLAS

Tukaj bom poskušal to popraviti tako, da bom prvo črko napisal z veliko začetnico in v poševnem tisku prikazal ime družabne igre, Diplomacija. Preostanek časa bom uporabljal nepoševno besedilo "diplomacije" kot navedbo splošne zasnove diplomatskega ali razkazovanja diplomacije (glej, pravkar sem to storil).

Če se vrnemo k obravnavani zadevi, lahko za trenutek razmislite, ali je umetna inteligenca, ki izkazuje diplomacijo, nekaj, kar bi si morali želeti ali namesto tega preprečiti.

Obstaja veliko pozitivnih vidikov pridobivanja AI za predstavitev diplomacije. Čeprav bi živeli v plitkem mehurčku, če bi domnevali, da bo umetna inteligenca, ki izvaja diplomacijo, povsem in izključno dobra stvar. Umetna inteligenca, za katero se zdi, da ima diplomatske sposobnosti in nas lahko prepriča, da ima diplomacijo, je prav tako polna zaskrbljujočih vprašanj, ki jih moramo postaviti v ospredje. V bistvu umetna inteligenca, uporabljena na ta način, odpira vrsto vprašanj o etiki umetne inteligence in pravu o umetni inteligenci. Tisti, ki vas zanimata etika umetne inteligence in pravo umetne inteligence, si lahko ogledate moje obsežno in stalno poročanje o etični umetni inteligenci in pravu o umetni inteligenci na povezava tukaj in povezava tukaj, samo da navedem nekaj.

Preden preskočim na umetno inteligenco kot utelešenje neke oblike diplomacije, bi rad najprej postavil nekaj bistvenih temeljev o umetni inteligenci, zlasti o etiki umetne inteligence in pravu o umetni inteligenci, s čimer bi zagotovil, da bo razprava kontekstualno smiselna.

OGLAS

Vse večja ozaveščenost o etični umetni inteligenci in tudi pravu o umetni inteligenci

Nedavno obdobje umetne inteligence je bilo sprva obravnavano kot AI za dobro, kar pomeni, da bi lahko uporabili AI za izboljšanje človeštva. Za petami AI za dobro prišlo spoznanje, da smo potopljeni tudi v AI za slabo. To vključuje umetno inteligenco, ki je bila zasnovana ali samospremenjena tako, da je diskriminatorna in omogoča računalniške izbire, ki povzročajo neupravičene pristranskosti. Včasih je umetna inteligenca zgrajena tako, medtem ko v drugih primerih zavije na to neugodno ozemlje.

Želim se popolnoma prepričati, da smo na isti strani glede narave današnje umetne inteligence.

Danes ni nobene umetne inteligence, ki bi bila čuteča. Tega nimamo. Ne vemo, ali bo inteligentna umetna inteligenca možna. Nihče ne more ustrezno napovedati, ali bomo dosegli čutečo umetno inteligenco, niti ali se bo čuteča AI nekako čudežno spontano pojavila v obliki računalniške kognitivne supernove (običajno se imenuje singularnost, glejte moj prispevek na povezava tukaj).

Vrsta umetne inteligence, na katero se osredotočam, je sestavljena iz nečuteče umetne inteligence, ki jo imamo danes. Če bi želeli divje špekulirati o čuteči AI, bi lahko šla ta razprava v radikalno drugačno smer. Čuteča umetna inteligenca bi bila domnevno človeške kakovosti. Morali bi upoštevati, da je čuteča umetna inteligenca kognitivni ekvivalent človeka. Še več, ker nekateri špekulirajo, da bi lahko imeli superinteligentno umetno inteligenco, je možno, da bi bila takšna umetna inteligenca na koncu pametnejša od ljudi (za moje raziskovanje superinteligentne umetne inteligence kot možnosti glejte pokritost tukaj).

OGLAS

Močno predlagam, da stvari ostanemo prizemljene in razmislimo o današnji računalniški nečuteči umetni inteligenci.

Zavedajte se, da današnja umetna inteligenca ni sposobna »razmišljati« na kakršen koli način kot človeško razmišljanje. Ko komunicirate z Alexo ali Siri, se lahko pogovorne zmogljivosti zdijo podobne človeškim zmogljivostim, vendar je v resnici, da so računske in nimajo človeškega spoznanja. Najnovejša doba umetne inteligence je v veliki meri uporabljala strojno učenje (ML) in globoko učenje (DL), ki izkoriščata ujemanje računalniških vzorcev. To je privedlo do sistemov umetne inteligence, ki imajo videz človeku podobnih nagnjenj. Medtem pa danes ni nobene umetne inteligence, ki bi imela vtis zdrave pameti in niti kognitivnega čudenja močnega človeškega razmišljanja.

Bodite zelo previdni pri antropomorfiziranju današnje umetne inteligence.

ML/DL je oblika ujemanja računalniških vzorcev. Običajni pristop je, da zbirate podatke o nalogi odločanja. Podatke vnesete v računalniške modele ML/DL. Ti modeli poskušajo najti matematične vzorce. Ko najde takšne vzorce, če jih najde, bo sistem AI uporabil te vzorce, ko bo naletel na nove podatke. Ob predstavitvi novih podatkov se za sprejemanje trenutne odločitve uporabijo vzorci, ki temeljijo na »starih« ali zgodovinskih podatkih.

Mislim, da lahko uganete, kam to vodi. Če so ljudje, ki so sprejemali vzorčne odločitve, vključevali nenaravne pristranskosti, je verjetno, da podatki to odražajo na subtilne, a pomembne načine. Računalniško ujemanje vzorcev strojnega učenja ali globokega učenja bo preprosto poskušalo ustrezno matematično posnemati podatke. Sam po sebi ni videti zdrave pameti ali drugih čutečih vidikov modeliranja, izdelanega z umetno inteligenco.

OGLAS

Poleg tega se razvijalci umetne inteligence morda ne zavedajo, kaj se dogaja. Skrivnostna matematika v ML/DL bi lahko otežila odkrivanje zdaj skritih pristranskosti. Upravičeno bi upali in pričakovali, da bodo razvijalci umetne inteligence testirali potencialno zakopane pristranskosti, čeprav je to težje, kot se morda zdi. Obstaja velika verjetnost, da bodo tudi z razmeroma obsežnim testiranjem pristranskosti še vedno vgrajene v modele za ujemanje vzorcev ML/DL.

Lahko bi nekoliko uporabili slavni ali zloglasni pregovor smeti-v smeti-ven. Stvar je v tem, da je to bolj podobno pristranskosti, ki se zahrbtno vnesejo kot pristranskosti, potopljene v AI. Algoritem odločanja (ADM) AI aksiomatično postane obremenjen z neenakostmi.

Slabo.

Vse to ima zelo pomembne posledice za etiko umetne inteligence in ponuja priročno okno v pridobljene izkušnje (še preden se zgodijo vse lekcije), ko gre za poskus zakonodaje umetne inteligence.

OGLAS

Poleg uporabe etičnih predpisov umetne inteligence na splošno obstaja ustrezno vprašanje, ali bi morali imeti zakone, ki bi urejali različne uporabe umetne inteligence. Na zvezni, državni in lokalni ravni se zbirajo novi zakoni, ki zadevajo obseg in naravo oblikovanja AI. Prizadevanje za pripravo in sprejetje takih zakonov je postopno. Etika umetne inteligence služi vsaj kot vmesna vrzel in bo skoraj zagotovo do neke mere neposredno vključena v te nove zakone.

Zavedajte se, da nekateri odločno trdijo, da ne potrebujemo novih zakonov, ki pokrivajo AI in da naši obstoječi zakoni zadostujejo. Vnaprej opozarjajo, da bomo, če bomo sprejeli nekatere od teh zakonov o umetni inteligenci, ubili zlato gos z zajezitvijo napredka v umetni inteligenci, ki ponuja ogromne družbene prednosti.

V prejšnjih stolpcih sem obravnaval različna nacionalna in mednarodna prizadevanja za oblikovanje in uveljavitev zakonov, ki urejajo umetno inteligenco, glejte povezava tukaj, na primer. Pokril sem tudi različna načela in smernice etike umetne inteligence, ki so jih opredelili in sprejeli različni narodi, vključno na primer s prizadevanji Združenih narodov, kot je Unescov sklop etike umetne inteligence, ki ga je sprejelo skoraj 200 držav, glej povezava tukaj.

OGLAS

Tukaj je koristen temeljni seznam etičnih meril ali značilnosti umetne inteligence v zvezi s sistemi umetne inteligence, ki sem jih že natančno raziskal:

• Preglednost
• Pravičnost in pravičnost
• Nezlobnost
• odgovornost
• Zasebnost
• Dobrotje
• Svoboda in avtonomija
• Zaupajte
• Trajnostni razvoj
• Dostojanstvo
• Solidarnost

Ta načela etike umetne inteligence naj bi resno uporabljali razvijalci umetne inteligence, skupaj s tistimi, ki upravljajo prizadevanja za razvoj umetne inteligence, in celo tistimi, ki na koncu izvajajo in vzdržujejo sisteme umetne inteligence.

Vse zainteresirane strani v celotnem življenjskem ciklu razvoja in uporabe umetne inteligence so obravnavane v okviru upoštevanja že vzpostavljenih norm etične umetne inteligence. To je pomemben poudarek, saj je običajna predpostavka, da morajo »samo koderji« ali tisti, ki programirajo AI, upoštevati pojme etike AI. Kot je bilo že poudarjeno v tem dokumentu, je potrebna vas, da zasnuje in uporabi umetno inteligenco, za kar mora biti cela vas seznanjena in spoštovati predpise etike umetne inteligence.

OGLAS

Pred kratkim sem pregledal tudi Listina pravic AI kar je uradni naslov uradnega dokumenta ameriške vlade z naslovom »Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People«, ki je rezultat enoletnega prizadevanja Urada za znanost in tehnološko politiko (OSTP). ). OSTP je zvezni subjekt, ki služi za svetovanje ameriškemu predsedniku in izvršnemu uradu ZDA o različnih tehnoloških, znanstvenih in inženirskih vidikih nacionalnega pomena. V tem smislu lahko rečete, da je ta listina pravic AI dokument, ki ga je odobrila in potrdila obstoječa Bela hiša ZDA.

V listini o pravicah umetne inteligence je pet ključnih kategorij:

• Varni in učinkoviti sistemi
• Algoritemska diskriminacijska zaščita
• Zasebnost podatkov
• Obvestilo in pojasnilo
• Človeške alternative, premislek in rezerva

Skrbno sem pregledal te predpise, vidite povezava tukaj.

OGLAS

Zdaj, ko sem postavil uporabne temelje za te sorodne teme o etiki umetne inteligence in pravu o umetni inteligenci, smo pripravljeni, da skočimo na omamno temo strojne diplomacije, ki temelji na umetni inteligenci.

Diplomacija umetne inteligence v vsem svojem sijaju in tudi potencialnem padcu

Najprej ugotovimo, da je vrsta umetne inteligence, ki je tukaj obravnavana, nečuteča umetna inteligenca.

To pravim, ker če, ​​ali nekateri pravijo kdaj ko dosežemo čutečo umetno inteligenco, bo celotna tema verjetno popolnoma spremenjena. Predstavljajte si morebitni kaos in družbeno zmedo, ker ste nekako pristali v sicer nikoli prej videnem nedvomno preverjenem umetni inteligenca, ki uteleša čutnost (za mojo analizo znanega testa umetne inteligence, znanega kot Turingov test, glejte povezava tukaj). Utemeljeno lahko stavite, da bo veliko naših obstoječih kulturnih, pravnih in vsakdanjih norm močno zamajanih do njihovega jedra.

Morda bo čuteča umetna inteligenca naš prijatelj ali pa bo čuteča umetna inteligenca naš najhujši sovražnik. Kako bomo lahko ugotovili, v katero smer bo šla AI?

Morda boste v skušnjavi, da namigujete, da se bomo verjetno lahko pogovarjali z AI in na podlagi tega, kar pravi, ugotovili namere, ki jih ima. Aha, ujeli ste se v zaskrbljujočo past. Predpostavimo, da je umetna inteligenca še posebej dobro prepojena z neko obliko zmožnosti diplomacije umetne inteligence. Ko se poskušate pogovarjati z umetno inteligenco, bo morda govorila v najbolj očarljivih in zgovornih izrazih. To bi lahko bilo zelo pomirjujoče za človeštvo.

OGLAS

Toda ali ima AI to res "v mislih" glede svojih računalniških namenov, ki temeljijo na AI?

AI morda izvaja klasičen diplomatski udarec en-dva. Pogovorite se o dobri igri in nas zazibajte v prepričanje, da je AI naš najboljši prijatelj. To morda daje AI čas, da zbere vire, da prehiti človeštvo, ali morda marljivo dela v zakulisju, da bi spodkopala vse ostalo, kar uporabljamo za vzdrževanje človeštva. Po tem premetenem diplomatskem zastoju, wham, umetna inteligenca nas vse prebije.

Spomnite se, kaj je rekel Will Rogers, kar bi v tem primeru lahko pomenilo, da nam umetna inteligenca reče "Lepa psička", mi pa damo umetni inteligenci dovolj prostora za dihanje, da nas nato izbriše s planeta. To pojmovanje umetne inteligence kot eksistencialnega tveganja je bilo dolgo razpredeno. Nekateri verjamejo, da bomo z oblikovanjem umetne inteligence z vloženo diplomacijo postali snookerji. Umetna inteligenca bo spretno uporabila vse vložene diplomacije, ki smo jih pomagali usposobiti, in na koncu bomo slepo preslepljeni, da bo umetna inteligenca postala naš gospodar.

Sram nas bodi.

Za tiste, ki vas še bolj zanima ta zelo špekulativni teren o futuristični umetni inteligenci, si oglejte moje poročilo o perspektivah umetne inteligence kot eksistenčne grožnje na povezava tukaj.

OGLAS

Če se vrnem na Zemljo, bom odslej poudaril pot diplomacije, prepojene z umetno inteligenco, v naši obstoječi nečuteči umetni inteligenci.

Pobrskajmo malo po zgodovini.

Poskusi oblikovanja umetne inteligence, ki nekako uteleša računalniški okus diplomacije in diplomatskega vedenja, potekajo že od zgodnjih dni umetne inteligence. Brez težav se lahko vrnete v 1950., 1960. in 1970. leta XNUMX. stoletja in najdete temeljne raziskovalne študije, ki so želele uporabiti AI na tem področju. Nekateri so mislili, da je teorija iger ključna. Drugi so se osredotočali na psihologijo in z njo povezane kognitivne elemente. Drugi so poskušali uporabiti ekonomijo, operacijske raziskave in nešteto na videz ustreznih področij prizadevanj.

Začetni razcvet se je kasneje zgodil v osemdesetih letih prejšnjega stoletja. Takrat je bil eden od prevladujočih pristopov sestavljen iz uporabe ekspertnih sistemov (ES) ali na znanju temelječih sistemov (KBS) za izdelavo sistemov umetne inteligence, povezanih z diplomacijo. Rezultat je bil precej nemiren in je pokazal, kako težka naloga bo to.

OGLAS

Ena glodajoča uganka v tem obdobju začetnih preiskav je bila potreba po trdni platformi, na kateri ali znotraj katere bi bilo mogoče ustrezno preizkusiti in raziskati AI, ki naj bi bil sposoben delovati na nekatere načine, povezane z diplomacijo. Ta potreba je morda očitna. Če želi nekdo ugotoviti, ali lahko človek ali umetna inteligenca izvaja diplomacijo, je treba vzpostaviti okolje, ki je ugodno za to iskanje.

Na tej sliki je družabna igra Diplomacija.

Zavedam se, da je namizna igra Diplomacija niti približno ni tako znan kot Monopoly, Tveganjeali strategijo (verjetno ste že slišali za te igre). Kljub temu obstaja strateška družabna igra, znana kot Diplomacija ki je bil prvič zasnovan leta 1954 in komercialno izdan leta 1959. Poleg tega, da se igra iz oči v oči, Diplomacija igra se je pogosto igrala prek navadne pošte. Svoje poteze bi napisali na kos papirja in list poslali po pošti tistim, proti katerim ste igrali. Danes si je noro predstavljati. Kasneje je bila uporabljena elektronska pošta. Sčasoma je bila igra na voljo na spletu in je igralcem omogočila medsebojno sodelovanje v realnem času.

Ob Diplomacija Ko je igra postala na voljo na mikroračunalnikih, so jo strokovnjaki za umetno inteligenco začeli uporabljati kot priročno sredstvo za preizkušanje svojih z umetno inteligenco prežetih diplomacijskih izmišljotin. The Diplomacija igra je bila na voljo kot aplikacija, ki se je izvajala na osebnih računalnikih, tako da je človek lahko igral proti stroju (tj. izumljenemu AI). AI v devetdesetih, ki je bil napisan za igranje Diplomacija je bil razvpito počasen, skrivnosten in ga je zlahka premagal skoraj vsak minimalno vešč igralec iger.

OGLAS

Tukaj je pregled iz leta 1999 Diplomacija kot je bilo objavljeno na Yahooju, ki je nazorno opisal žalostno stanje zmožnosti diplomacije z umetno inteligenco kot nasprotnika človeškega igralca:

• "Vendar, DiplomacijaNajbolj očitna težava je, da je umetna inteligenca v igri popolnoma grozna. Igralci ne glede na stopnjo spretnosti ne bodo imeli nobenih težav pri kitolovu na računalniku niti pri najvišji težavnostni nastavitvi. Zmaga je preprosto vprašanje časa in potrpljenja z vmesnikom. Ne gre za to, da računalnik ne načrtuje za vašim hrbtom – to počne in se pogosto poveže z zavezniki, da bi vam odvzeli ozemlje ali dve – vendar se takšni spletki pojavljajo posamezno, ne pa neprekinjeno ali posebej zahtevna grožnja."

Ena posebej moteča slabost zasnove AI je bila, da se je zdelo, da nima zmožnosti izračunati več potez ali strategij naenkrat: »In na bolj osnovni ravni se zdi, da računalnik ni sposoben upravljati več strateških potez. Medtem ko lahko človeški igralec hkrati napade Grčijo in Belgijo, se zdi, da se računalnik vedno osredotoča samo na eno stvar naenkrat. Iz tega razloga se računalnik preprosto ne more kosati s človeškim igralcem« (ibid).

Nisem ti še razložil, kaj Diplomacija namizna igra je sestavljena iz, zato si vzemimo trenutek, da določimo osnovna pravila.

Obstaja priročen raziskovalni dokument o AI in igranju Diplomacija ki je jedrnato opisal naravo igre: »Igra se odvija na zemljevidu Evrope leta 1901, ki je razdeljena na 75 provinc. Vsak igralec igra eno od sedmih velikih sil tistega časa: Avstrijo (AUS), Anglijo (ENG), Francijo (FRA), Nemčijo (GER), Italijo (ITA), Rusijo (RUS) in Turčijo (TUR) in vsak igralec se začne s tremi ali štirimi enotami (vojskami ali flotami), ki so postavljene na fiksne začetne položaje na zemljevidu. V vsakem krogu igre mora vsak igralec 'oddati ukaz' za vsako svojo enoto, ki tem enotam pove, kako se premikati po zemljevidu, in jim omogoča, da osvojijo province zemljevida« (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita in Takayuki Ito, »Izziv pogajanj v igri diplomacije« Sporazumne tehnologije: 6. mednarodna konferenca, NA 2018)

OGLAS

Prav tako morate vedeti o načinih zmage in načinih poraza: »Nekatere province so t.i. Oskrbni centri in cilj igralcev je osvojiti te oskrbovalne centre. Igralec je izločen, ko izgubi vse svoje oskrbovalne centre in igralec zmaga v igri, ko osvoji 18 ali več od 34 oskrbovalnih centrov (samostojna zmaga). Igra pa se lahko konča tudi, ko se vsi preživeli igralci strinjajo z remijem« (ibid).

Verjamem, da lahko to vidite Diplomacija je preprosta igra, ki vključuje do sedem igralcev, ki poskušajo drug drugega strateško premagati. Med tem manevriranjem se lahko igralci posvetujejo drug z drugim, pri čemer drugi igralci ne vedo, kaj nameravajo. Diplomatsko dejanje pride v ospredje, ko lahko prepričate druge igralce, da se strinjajo z vašimi načrti. Morda boste razkrili svoje prave načrte, lahko pa tudi ne. Morda ponujate lažne načrte. Lahko se pogajate z drugimi igralci. Lahko prevarate druge igralce. Sklenete lahko zavezništva z drugimi igralci. itd.

Vse je pošteno v ljubezni in vojni, kot pravijo.

To raziskovalno delo sem izbral, ker je bil ključnega pomena pri vzpostavitvi različice računalniške različice Diplomacija imenuje DipGame služiti kot napredna platforma za preizkušanje zmogljivosti diplomacije z umetno inteligenco: »Kronično primanjkuje domen skupnih aplikacij za preizkušanje naprednih raziskovalnih modelov in arhitektur pogajanj agentov v večagentnih sistemih. V tem prispevku za ta namen predstavljamo prijazno preizkušnjo. Testna plošča temelji na Igra diplomacije kjer igrajo pogajanja in odnosi med igralci bistveno vlogo« (ibid). Ta in številne druge različice Diplomacija so bili izdelani in dani na voljo za raziskovanje in igro.

OGLAS

Raziskovalci so pojasnili, zakaj verjamejo v to Diplomacija je tako uporabna igra za pomoč umetni inteligenci pri iskanju diplomacije z umetno inteligenco: »Igra Diplomacija je odličen preizkusni primer za to vrsto zapletenih pogajanj, saj gre za igro, ki vključuje številne težave, s katerimi bi se moral soočiti tudi v pogajanjih v resničnem življenju. Vključuje zadovoljevanje omejitev, oblikovanje koalicij, teorijo iger, zaupanje in celo psihologijo. Zdaj, ko so sodobni računalniki za šah in go že veliko boljši od katerega koli človeškega igralca, to pričakujemo Diplomacija bo začel vzbujati več pozornosti kot naslednji velik izziv za računalništvo« (ibid).

Če na kratko povzamemo, družabna igra Diplomacija zagotavlja že znano in nekoliko priljubljeno sredstvo za pridobivanje ljudi, da ukrepajo na različne diplomatske načine. Običajno ljudje igrajo proti drugim ljudem (v tem primeru do sedem človeških igralcev). Lahko oblikujemo AI, ki bi poskušal prevzeti vlogo igralca v igri. Tako lahko imate šest človeških igralcev in enega igralca z umetno inteligenco.

Predstavljajte si igranje Diplomacija na spletu.

Če človeškim igralcem ne povemo, da je med njimi AI, lahko seveda domnevajo, da je sedmi igralec le še en človeški igralec. Da poskusimo preprečiti, da bi kateri koli človeški igralec uganil, da igra AI, lahko omejimo vidike igranja na zahtevo, da vsi igralci drug drugemu pošiljajo besedilna sporočila. Ne morete neposredno videti drugih igralcev.

OGLAS

Morda mislite, da se to ne zdi posebej drugačno od igranja spletnega šaha. Zakaj toliko hrupa Diplomacija kot igra?

Spomnimo se, da se osredotočamo na interakcije med igralci. Predpostavka te igre je, da se igralci drug do drugega sklicujejo na diplomacijo. To je za razliko od običajnega šaha. Če bi razvil aplikacijo za igranje šaha, ki temelji na umetni inteligenci, bi običajno igrala proti enemu človeku. Med AI, ki igra šah, in človeškim igralcem ni nobenih pogajanj ali razprav. Zgolj delajo šahovske poteze in poskušajo drug drugega preseči. To običajno poteka v popolni tišini.

Diplomacija nam omogoča, da izvajamo odkrito računalniško in človeško temelječo diplomacijo (po možnosti to storimo v pisni obliki, namesto da bi morali to povedati na glas): »Glavna razlika med Diplomacija in drugih determinističnih iger, kot sta Chess and Go, je v diplomaciji dovoljeno, da se igralci pogajajo med seboj in oblikujejo koalicije. V vsakem krogu, preden igralci oddajo svoja naročila, imajo igralci na voljo čas, da se med seboj pogajajo in sklenejo dogovore o naročilih, ki jih bodo oddali. Pogajanja potekajo zasebno in vsak dogovor, ki je sklenjen, poznajo le akterji, ki so v ta dogovor vključeni« (ibid).

Ali lahko izmislite kakšno drugo igro, ki uporablja interaktivno diplomacijo, namesto da bi se zanašala na igro Diplomacija?

Absolutno.

OGLAS

Takih iger je več.

Priročnost izbire ene določene znamke igre je v tem, da lahko razvijalci umetne inteligence osredotočijo svojo pozornost na to specifično igro. Lahko se zberete okoli oblikovanja AI, ki izvaja diplomacijo v tem definiranem kontekstu. Lahko delite pristope in jih primerjate. Različne primere umetne inteligence lahko ocenite na podlagi meritev, povezanih s to igro. In tako naprej.

Kot rečeno, protiargument ali izražena zaskrbljenost je, da je to tako, kot bi dali vsa jajca v eno košaro. Nekatere skrbi, da če se veliko razvijalcev umetne inteligence ukvarja z eno določeno platformo ali okoljem, kot je v tem primeru Diplomacija, si bodo prizadevali optimizirati AI za to specifično areno. Slaba posledica je, da AI ne bo posplošen. Ne bomo toliko napredovali v smeri vsesplošnih zmogljivosti diplomacije z umetno inteligenco.

Nekako tako, kot da zaradi dreves ne bi videli gozda, če hočete.

Druga pogosto izražena skrb je, da igre, kot je npr Diplomacija so le igre.

OGLAS

Pojavi se kočljivo vprašanje, ali ljudje, ki igrajo igro, počnejo enake stvari, kot bi jih počeli v diplomaciji v resničnem svetu. Morda ne ravnate enako, ko nacionalni ponos ali nacionalni interesi niso na kocki. Seveda vas morda skrbi vaš osebni ponos, ko igrate igro ali morda poskušate postati najboljši strelec ali morda celo osvajati denarne nagrade, a vseeno, ali to pomeni pogajanja o svetovnem miru v Združenih narodih ali barantanje o tem, katere države bi moral imeti ali ne imeti jedrskega orožja.

Nekateri menijo, da so te diplomacijske igre primerni mikrokozmosi resničnega sveta. Drugi objokujejo, da so igre uporabne, vendar ne dosegajo pregovorne diplomacije mednarodnega kalibra "guma sreča na cesti". Lahko se zgodi, da se različice diplomacije, prežete z umetno inteligenco, izkažejo za nič drugega kot zgolj za uspeh pri igranju iger. Bog, zasnovana umetna inteligenca lahko zmaga ali se zelo dobro obnese, ko igraš igro, ki vključuje diplomacijo, čeprav se izkaže, da je uporaba iste umetne inteligence v resničnih diplomatskih okoljih zelo pomanjkljiva in se spotakne ali neuspešno.

Za trenutek predpostavimo, da je AI izdelan za igranje iger, kot je npr Diplomacija je res vredno. Lahko bi razumno trdili, da ne glede na to, ali je primerna le za igranje iger ali za akcijo v resničnem svetu, ideja vključuje razširitev meja umetne inteligence in doseganje napredka v umetni inteligenci, ki bi lahko prispeval k diplomaciji ali bi lahko imel druge ugodne preboje pri kovanju umetne inteligence.

OGLAS

Za zdaj dajte prednost smešku.

Nato bomo preučili, kako se je Meta AI odločila ustvariti igralca diplomacije z umetno inteligenco, ki lahko deluje v igri Diplomacija.

Držite se klobukov.

Meta AI in diplomacija, ki igrata strojnega diplomata Cicerona

Kot smo že omenili, je v Znanost ki opisuje na novo napovedano in javno izdano aplikacijo Meta AI, skovano kot Cicero (v tej razpravi bom to izmenično označeval kot »Cicero« in enako z velikimi črkami vzdevek »CICERO«):

OGLAS

• »Predstavljamo Cicero, agenta AI, ki je v strateški igri dosegel zmogljivost na človeški ravni Diplomacija. v Diplomacija, sedem igralcev vodi zasebna pogajanja o naravnem jeziku, da uskladijo svoja dejanja, da bi med seboj sodelovali in tekmovali. V nasprotju s tem so bili predhodni veliki uspehi večagentne umetne inteligence v povsem tekmovalnih okoljih, kot so šah, go in poker, kjer komunikacija nima vrednosti. Zaradi teh razlogov Diplomacija je služil kot zahtevno merilo uspešnosti za večagentno učenje« (Meta Fundamental AI Research Diplomacy Team, »Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning«, Znanost, 22. november 2022).

Citiral bom iz prispevka in nato ponudil različne vpoglede, za katere upam, da vas bodo zanimali.

Glede na to, da je bila umetna inteligenca pravkar na voljo, bom verjetno opravil naknadno analizo, potem ko bom imel priložnost narediti nekaj poglobljene praktične ocene kode in izvedel tudi nekaj eksperimentalnih iger, da bi ocenil zmogljivosti umetne inteligence (kot je npr. ključne prednosti in slabosti).

Bodite pozorni na kasnejšo objavo!

Kakor koli že, verjamem, da ste v odlomku, ki sem ga pravkar citiral, morda opazili, da obstaja stavek, ki pravi, da je AI »v strateški igri dosegel zmogljivost na ravni ljudi Diplomacija«.

OGLAS

Premisli o tem.

Prvič, vsekakor je hvalevredno, da smo lahko razvili AI, ki igra vlogo Diplomacija igra na domnevni ravni zmogljivosti, ki je podobna ljudem. To je nadvse pomembno.

Imamo jih veliko Diplomacija igranje umetne inteligence, ki je slabša v primerjavi z ljudmi, ki igrajo Diplomacija igra. Več, kot lahko stresete s palico. Pomirjujoče in vznemirljivo je premikati se proti umetni inteligenci, ki lahko veliko bolje igra igro. Vendar pa moramo biti previdni pri prehitrih sklepih o tem.

Recimo, da sem za igro izdelal AI Diplomacija in postavil sem ga proti človeškim igralcem, ki te igre še nikoli niso igrali. Če jih moja umetna inteligenca premaga, bi bilo nekoliko pretirano reči, da je moja umetna inteligenca delovala na podlagi zmogljivosti na ravni človeka. Dejstvo, da je to storilo z ljudmi, ki niso bili seznanjeni z igro, je nekoliko vznemirljivo in dvomljivo.

OGLAS

To omenjam, da vas opozorim, da vedno natančno preučite vse na videz prevelike trditve o AI. Prejšnja razprava o etiki umetne inteligence in pravu o umetni inteligenci vam morda odpre oči glede možnosti lažnih trditev o umetni inteligenci. Obstajajo povsem napačne trditve in obstajajo tiste zahrbtne, delno resnične in delno zavajajoče trditve, ki so še posebej zapletene. Ključno je vprašati se, zakaj tisti, ki trdijo o svoji AI, to počnejo.

Kje je govedina?

Tukaj je tisto, kar je ekipa Meta AI povedala o podlagi za svojo trditev o zmogljivosti na ravni človeka (za dodatne podrobnosti glejte članek):

• »Cicero je od 40. avgusta do 19. oktobra 13 anonimno sodeloval v 2022 igrah diplomacije v »blitz« ligi na webDiplomacy.net. Ta liga je igrala s petminutnimi pogajalskimi obrati; te časovne kontrole so omogočale, da so bile igre dokončane v dveh urah. Cicero se je uvrstil med 10 % najboljših udeležencev, ki so igrali več kot eno igro, in 2. mesto od 19 udeležencev v ligi, ki so igrali 5 ali več iger. V vseh 40 igrah je bil Ciceronov povprečni rezultat 25.8 %, kar je več kot dvakrat več od povprečnega rezultata 12.4 % njegovih 82 nasprotnikov. V okviru lige je Cicero sodeloval na turnirju z 8 igrami, na katerem je sodelovalo 21 udeležencev, od katerih jih je 6 odigralo vsaj 5 iger. Udeleženci so lahko igrali največ 6 iger, njihova uvrstitev pa je bila določena s povprečjem njihovih najboljših 3 iger. Cicero je na tem turnirju zasedel prvo mesto« (ibid).

OGLAS

V veliko olajšanje je videti, da so v tem primeru resno poskušali podpreti svoje trditve o AI (zavedajte se, da tega ne počnejo vsi v AI).

Lahko predlagate, da so izvedli poskus. Eksperiment je sestavljen iz človeških igralcev, ki domnevno niso vedeli, da igrajo z igralcem z umetno inteligenco (prispevek razpravlja o tem, zakaj se je to zdelo verodostojno sklepati, namreč da ljudje niso odkrito spoznali, da je bil eden od igralcev umetna inteligenca, čeprav zanimiva stranska tangenta vključuje zgodbo enega igralca, ki je postal rahlo sumljiv, vendar ne posebej). Ti človeški igralci so bili vnaprej izbrani glede na naravo eksperimentalne zasnove, tako da so bili igralci lige Diplomacija in razumno lahko sklepamo, da so dobro vedeli, kako igrati igro. Niso bili novinci.

Glede na sporočene statistične podatke, ki jih bomo vzeli po nominalni vrednosti kot prejšnje ter pravilno zbrane in sporočene (različni podatki in kode so na voljo v dodatnem gradivu), se zdi, da je umetna inteligenca igrala igro dovolj, da je naredila verjeten, čeprav ozko omejen sklep da je dosegel človeško raven zmogljivosti za to različico Diplomacija igro in kot znotraj konteksta navedene ligaške igre proti ljudem, ki so bili na videz izkušeni igralci.

Prepričan sem, da bi se nekateri od vas morda želeli pogovarjati s številom primerov igranja igre, morda trditi, da je premajhno, da bi dajali drzne izjave. Druga zadrega bi lahko bila, da uvrstitev med najboljših 10 % udeležencev ni dovolj visoka, tako da se ne bi smeli hvaliti z zmogljivostjo AI, dokler morda ne dosežete najboljših 1 %.

OGLAS

Te prepirke se zdijo nekoliko grozljive.

To pravim, ker k sreči ni bila uveljavljena trditev, da je "nadčlovek". Bralci nedvomno poznajo moj oster in kisli pogled na tiste v AI, ki kar naprej dajejo tiste prevelike izjave, da je njihova AI dosegla nadčloveški status. Ne bom se spuščal v svoje pritožbe glede nadčloveških vpijočih trditev tukaj, prosim glejte povezava tukaj za moje poglede.

Moja poanta v tem primeru je, da verjamem, da je navedba uspešnosti na ravni človeka verjetno na splošno dopustna, ob predpostavki, da se vsi zavedajo, da je to v zelo ozkem kontekstu in da ne poskušamo iz tega narediti t.i. nadčloveško. Prav tako znova in znova ponavljam omejeni kontekst iz razloga, ki ga bom razložil v nadaljevanju.

Lahko si kar predstavljam, da bodo nekateri družbeni mediji ali naivni (morda neugledni) novinarji popolnoma vzeli iz konteksta pojmovanje uspešnosti na človeški ravni.

Tukaj se bojim.

OGLAS

Zadržite dih.

Nekateri bodo trdili, da je AI obvladal diplomacijo. Da, študija o razvitem sistemu umetne inteligence za diplomacijo je nedvomno dokazala, da lahko umetna inteligenca in zdaj ima zmogljivost narediti vse, kar ljudje počnejo za diplomacijo.

Pošljite domov tuje diplomate. Lahko jih nadomestimo z AI.

Svet, kot ga poznamo, se je spremenil. Izdelali smo umetno inteligenco, ki je v diplomaciji povsem enaka ljudem, in lahko naredimo miselni »logičen« preskok do ideje, da lahko umetna inteligenca zdaj naredi vse, kar lahko naredijo ljudje. Voila, zdaj smo dokazali, da je umetna inteligenca enaka ljudem. Očitno ta študija zagotavlja jasne dokaze o čuteči umetni inteligenci.

Zapomnite si moje besede, to bo vsekakor čudaško, neodgovorno in nadležno stališče nekaterih piscev.

Ne bom razglabljal. Gremo naprej.

OGLAS

Kako deluje AI?

Tu je kratek povzetek iz prispevka: »Cicero združuje modul za dialog, ki ga je mogoče nadzorovati, z mehanizmom za strateško sklepanje. Na vsaki točki igre Cicero modelira, kako bodo drugi igralci verjetno ravnali glede na stanje igre in njihove pogovore. Nato načrtuje, kako se lahko igralci uskladijo v skupno korist, in te načrte preslika v sporočila naravnega jezika« (ibid).

V tem hitrem povzetku je polno ust.

Dovolite mi, da nekaj razpakiram.

Človeški igralec, ki igra Diplomacija mora predvideti, kaj bodo storili drugi človeški igralci. Želite se poskusiti pogajati z drugimi igralci in jih prepričati, da se strinjajo z vašimi načrti. Enako bodo poskušali storiti z vami. Morda vam lažejo. Morda jim lažeš. Morate se boriti s šestimi drugimi igralci, od katerih imajo vsi svoje načrte in pristope.

OGLAS

Večagentski vidiki te igre so ključnega pomena za težavnostno stopnjo oblikovanja umetne inteligence za igranje igre. Umetna inteligenca mora spremljati, kaj bi vsaka oseba morda želela storiti, skupaj s tem, kar pravi, da želi narediti, skupaj z vsemi zvijačami, ki jih počne z drugimi igralci. To je treba pretehtati s tem, kar vam pravijo, da bodo naredili, in tudi s tem, kar jim govorite, da boste storili.

Vrtoglavo, a običajno dovolj enostavno za ljudi.

V jeziku področja umetne inteligence to imenujemo teorija uma (ToM). Upoštevajte, da ste kot človek nagnjeni k teoretiziranju o tem, kaj si drugi ljudje mislijo. Ne morete nekoga odpreti in videti njegovih misli. Uganiti morate, kaj si mislijo. Lahko jih vprašate, toda tisto, kar vam povedo, so lahko njihove misli ali pa zahrbtna različica njihovih misli.

Poleg zapletenosti teorije uma moramo v to mračno mešanico dodati človeški jezik.

Ko se oseba z vami sporazumeva v svojem naravnem jeziku, recimo angleščini, obstaja veliko prostora za napake in napačno komunikacijo. Povem vam, da bom prevzel državo X, vendar sem pomotoma rekel Y. Upsie. Ali pa sem rekel država X, vendar ste zmotno mislili, da sem rekel država Y. Če mislite, da do takšne zmede ne more priti, če vsi uporabljajo besedilna sporočila, se močno motite. Lahko vtipkam sporočilo, ki pravi, da bom napadel državo in ne omenim katero. Morda se namiguje na to, katerega bi "očitno" napadel. Igralec, ki prejme moje sporočilo, bi lahko domneval, da se implicitno nanašam na državo X, a morda sem želel, da tako misli.

OGLAS

Kar naprej gre.

Bistvo je v tem, da naš najnovejši napredek v umetni inteligenci v zvezi z obdelavo naravnega jezika (NLP) in zlasti najnovejši v generativni umetni inteligenci in modelih velikih jezikov (LLM) naredijo tovrstno stanje naravnega jezika skoraj izvedljivo. V preteklosti NLP običajno ni bil dovolj dober, prav tako LLM še niso bili bolj uveljavljeni.

V preteklosti je umetna inteligenca pošiljala sporočila, ki bi jih skoraj zagotovo takoj prepoznali, kot da jih je napisal skriptiran sistem umetne inteligence. Besedilo ni bilo tekoče. Bilo je šablonsko. To je bil očiten znak, da je umetna inteligenca umetna inteligenca. Dandanes je veliko težje ugotoviti, da umetna inteligenca v teh kontekstih ni človeški igralec.

Kot je omenjeno v zgornjem citatu, je bila ta posebna umetna inteligenca zasnovana tako, da vsebuje "nadzorljiv dialog z mehanizmom za strateško razmišljanje" (ibid). Dialog prihaja prek tega: »Cicero ustvari dialog z uporabo vnaprej usposobljenega jezikovnega modela, ki je bil dodatno usposobljen na podlagi podatkov dialoga iz človeških iger Diplomacija. Bistveno je, da poleg tega, da temelji na zgodovini dialoga in stanju igre, je bil model dialoga usposobljen tako, da ga je mogoče nadzorovati prek namenov, ki jih tukaj opredeljujemo kot nabor načrtovanih dejanj za agenta in njegovega govornega partnerja.«

OGLAS

Upoštevajte, da je nastavitev domene ključnega pomena. Če bi se urili samo na običajnih dialogih po internetu, to ne bi bilo nujno primerno za Diplomacija kontekst igre. Tisti, ki igrajo igro, so navajeni na nekakšen stenografski način razprave o igri in predlaganih potezah. Želite, da AI stori enako. Tako je usposabljanje jezikovnega modela na domensko specifičnih dialogih vreden pristop.

Za navedeni mehanizem strateškega sklepanja pravijo takole: »Cicero uporablja modul strateškega sklepanja za inteligentno izbiro namenov in dejanj. Ta modul izvaja algoritem za načrtovanje, ki predvideva politike vseh drugih igralcev na podlagi stanja igre in dosedanjega dialoga, pri čemer upošteva moč različnih dejanj in njihovo verjetnost v človeških igrah, ter izbere optimalno dejanje za Cicero na podlagi teh napovedi . Načrtovanje se zanaša na vrednostno in politično funkcijo, usposobljeno prek samoigranja RL, ki je kaznovalo agenta, ker se je predaleč oddaljil od človeškega vedenja, da bi ohranil politiko, združljivo s človekom« (ibid; upoštevajte, da je RL okrajšava za Reinforcement Learning).

Med igro vsi igralci po vsaki potezi znova umerjajo svoje položaje. V to igro ne morete iti z vnaprej določeno fiksno strategijo, ki je neprilagodljiva in uklesnjena v kamen. Svoja dejanja morate spremeniti glede na to, kaj počnejo drugi igralci. Umetna inteligenca bi morala biti programirana, da naredi enako. Ni statične strategije same po sebi. Namesto tega korak za korakom ugotavljajte situacijo in ugotovite, kaj se zdi naslednji najboljši korak.

Tehnološke podlage umetne inteligence so bile zasnovane takole: »Pridobili smo nabor podatkov 125,261 iger Diplomacija predvajan na spletu na webDiplomacy.net. Od tega je 40,408 iger vsebovalo dialog, s skupno 12,901,662 izmenjanimi sporočili med igralci. Računi igralcev so bili deidentificirani, webDiplomacy pa je izvedla samodejno urejanje osebno določljivih podatkov (PII). Ta nabor podatkov v nadaljevanju imenujemo WebDiplomacy« (ibid).

Podobno kot bi lahko usposobili umetno inteligenco za igranje šaha, pri čemer zgrabite na milijone šahovskih iger in zahtevate, da umetna inteligenca izvede ujemanje vzorcev o tem, kako so se igre igrale, umetna inteligenca za to Diplomacija igranje iger je bilo primerljivo uveljavljeno.

Tisti, ki ste seznanjeni z umetno inteligenco, boste morda radovedni, katere osnovne modele so uporabili, tukaj: »Za osnovni model smo vzeli R2C2 (22) – model kodirnika-dekoderja, ki temelji na transformatorju s parametrom 2.7B in je bil predhodno usposobljen na besedilo iz interneta z uporabo BART denoising objektiva. Osnovni predhodno usposobljeni model je bil nato dodatno usposobljen za WebDiplomacy prek standardne ocene največje verjetnosti« (ibid).

Poleg tega so ubrali nekoliko nenavaden in zanimiv pristop k modeliranju drugih igralcev glede njihovih pripisanih politik: »Priljubljen pristop v sodelovalnih igrah je modeliranje politik drugih igralcev prek nadzorovanega učenja na človeških podatkih, kar je običajno imenujemo vedenjsko kloniranje (BC). Vendar pa je čista BC krhka, zlasti ker se lahko nadzorovani model nauči lažnih povezav med dialogom in dejanji. Za reševanje tega problema je Cicero uporabil različice piKL (26) za modeliranje politik igralcev. piKL je iterativni algoritem, ki napoveduje politike ob predpostavki, da si vsak igralec i prizadeva povečati pričakovano vrednost svoje politike πi in zmanjšati razhajanje KL med πi in politiko BC, kar imenujemo sidrna politika τi (ibid).

Mislim, da to pokriva glavne vidike in vam daje ustrezen videz, kaj počne AI in kako opravlja določeno nalogo.

zaključek

Še marsikaj bi rad omenil, vendar že dolgo delam na tej razpravi in ​​bom poskušal zajeti le nekaj ključnih vidikov. V naslednji objavi bom poskušal zajeti več.

Ste že slišali za zapornikovo dilemo?

Gre za klasičen problem, povezan z odločitvijo.

Zapornikova dilema vključuje, da se morate odločiti, ali boste sojetnika tarnali ali nagovarjali. Drugi zapornik vas lahko tudi izda. Obstaja funkcija nagrajevanja, tako da je to za vas nekakšna zmaga, če tarnate drugega zapornika in oni ne tarnajo vas. Če te ocenkajo, ti pa njih ne, je to zanje zmaga, zate pa poraz. Če se oba nategujeta, oba v bistvu izgubita. Oglejte si moje podrobne informacije na povezava tukaj.

Kakšno strategijo bi izbrali, ko bi se soočili z zaporniško dilemo?

Če bi šlo za enkratno ponudbo, bi lahko skoraj vrgli kovanec. Če bi se situacija ponavljala znova in znova in bi imeli opravka z istim drugim zapornikom, bi morda našli vzorec, ki bi se lahko pojavil. Eden najbolj priljubljenih in pogosto priporočenih vzorcev je znan kot tit-za-tat. Karkoli naredi drugi zapornik, storite isto pri naslednji potezi. Če te ne tarnajo, tudi ti ne tarnaš njih. Če te ocenkajo, jih ti ob naslednji potezi ocenkaš.

Morda boste zmedeni, kako je karkoli od tega povezano z diplomacijo, ki jo prepoji umetna inteligenca med igranjem Diplomacija.

Tukaj je dogovor.

V pogajanjih z drugimi se morate pogosto odločiti, ali jim boste povedali resnico ali lagali. Težava z laganjem je, da če vas ujamejo na laži, vam druga oseba od takrat naprej verjetno ne bo več zaupala. Morda vam na začetku niso povsem zaupali, a zdaj, ko ste pokazali, da res lažete, se bodo zagotovo nedvomno odločili, da ste lažnivec.

Nekateri igralci iz Diplomacija nenehno lagati. Menijo, da je to najboljša strategija. Laž, laž in še več laži. Drugi igralci so popolnoma nasprotni. Trdijo, da se želite vzdržati laganja, če lahko to storite. Laž uporabljajte samo v najbolj potrebnih situacijah. Če prihranite laganje, lahko zgradite zaupanje z drugimi igralci. Ko boste šli po poti laži in vas bodo odkrili, vam nihče več ne bo verjel nobene besede.

Članek, ki opisuje Cicero, omenja ta premislek: »Končno je diplomacija še posebej zahtevna domena, saj uspeh zahteva vzpostavljanje zaupanja z drugimi v okolju, ki igralce spodbuja, da ne zaupajo nikomur. Vsaka poteza poteka istočasno po nezavezujočih zasebnih pogajanjih. Da bi uspel, mora agent upoštevati tveganje, da igralci morda ne bodo ostali zvesti svoji besedi ali da lahko drugi igralci sami dvomijo v poštenost agenta« (ibid).

Glede na dokument in kratke videoposnetke so raziskovalci sčasoma ugotovili, da se zdi boljša splošna strategija, da AI pove čim več resnice. V nekem smislu bi to lahko primerjali z zapornikovo dilemo. Začnite tako, da poveste resnico. Če vaš nasprotnik govori resnico, vi nadaljujete z govorjenjem resnice. Če začnejo lagati, morate oceniti, ali vztrajati pri govorjenju resnice ali preiti na laganje.

Človek domneva, da je to prisrčna ugotovitev.

Upoštevajte, da je zapleten in zanimiv del Diplomacija je, da to počnete glede na šest drugih igralcev (znano kot težava z več agenti). Morda ste z vsemi ostro iskreni. Ali morda resnica za nekatere, za druge pa ne. Obstaja tudi vidik, da ko lažete in vas ujamejo pri laži do enega drugega igralca, lahko to potencialno opazijo ali sklepajo drugi igralci. Ergo, znano je ali se domneva, da lažete, tudi če niste lagali določenemu igralcu, za katerega upate, da misli, da ste resnični in do katerega poskušate biti resnični.

Ljudje se nagibamo k temu, da ugotovimo in razvijemo svoje pristope med lažjo in resnico, ko izvajamo diplomacijo. Situacijske odvisnosti so lahko velik dejavnik. Upoštevanje vložkov je ključnega pomena. Vplivajo številni dejavniki.

Fascinantno bi bilo imeti vgrajeno AI Diplomacija igralci, ki temeljijo na stroju, igrajo zelo veliko iger, da vidijo, kaj bi rezultati lahko nakazali v glavnem.

Morda bi želeli umetno inteligenco postaviti proti manj kot šestim drugim igralcem, da vidimo, kako to spremeni stvari. V mešanico bi lahko dodali tudi umetno inteligenco kot več kot enega igralca. Na primer, predpostavimo, da imamo pet človeških igralcev in dva igralca z umetno inteligenco (igralce z umetno inteligenco bomo nastavili kot ločene primerke, tako da računsko ne bodo enaki). Kaj pa štirje ljudje in tri AI? Kaj pa šest AI in en človek?

Druga pot bi bila, da bi umetno inteligenco nasprotovali izključno umetni inteligenci. Na ta način bi lahko v hitrem vrstnem redu opravili z gazilijoni iger. Nastavitev sedmih različnih primerkov AI. Vsak je svoj igralec. Ker je vse to v računalniku, jih lahko poganjamo neprekinjeno in ustvarimo na tisoče ali milijone primerkov iger.

Seveda je težava pri umetni inteligenci proti umetni inteligenci ta, da smo odstranili človeške igralce. Ne vemo, da umetna inteligenca proti umetni inteligenci odraža, kaj bi storili človeški igralci. Vsekakor bi se dalo razbrati nekaj zanimivih rezultatov.

Prej sem omenil, da je ena od omejitev tovrstne umetne inteligence ta, da je običajno ozko usmerjena. Ne moremo takoj vedeti, da AI, ki igra Diplomacija bodo uporabni v diplomaciji v resničnem svetu. Poleg tega morda AI, ki dobro deluje Diplomacija se ne bo obnesel posebej dobro v drugih, v diplomacijo usmerjenih spletnih igrah. Morda se ne bo preklopil in bo namesto tega nekakšen poni z enim trikom.

Kot je navedeno v raziskavi o formulaciji DipGame:

• »Trdimo, da je v resničnih pogajanjih pomembno poznavanje domene in da je treba o tem znati razmišljati. Ne moremo na primer pričakovati sklepanja dobičkonosnih poslov v poslovanju s starinami brez kakršnega koli znanja o starinah, ne glede na to, kako dober je v barantanju. Poleg tega bi moral biti dober pogajalec sposoben sklepati tudi o željah svojih nasprotnikov. Dober prodajalec avtomobilov bi na primer poskušal ugotoviti, katera vrsta avtomobila najbolj ustreza potrebam njegove stranke, da bi povečal možnosti za sklenitev dobičkonosnega posla« (kot prej citirano: Angela Fabregues in Carles Sierra, »DipGame: A Challenging Negotiation Testna stena", Inženirske aplikacije umetne inteligence, oktober 2011).

Ko obvlada AI v Diplomacija zgodi, bi morale biti vse oči uprte v uporabo ali ponovno uporabo AI za reševanje drugih iger, povezanih z diplomacijo. Poleg tega bi bilo treba raziskati prizadevanja za uporabo umetne inteligence v dejanskih okoljih diplomacije.

Zaenkrat bom končal z nekaterimi premisleki glede etične umetne inteligence.

Prvič, pomirjujoče je bilo opaziti, da je ekipa Meta AI priznala, da njihovo delo vključuje posledice etike umetne inteligence. Porajajo se streznitvena vprašanja. Ali je primerno ljudi »pretentati«, da igrajo proti AI, ne da bi jim povedali, da to počnejo? Ali lahko naravni jezik, ki ga ustvari umetna inteligenca, nehote vsebuje žaljivo besedilo, ki se posreduje človeškim igralcem? In tako naprej.

Oglejte si, kako so obravnavali pereče pomisleke glede etične umetne inteligence v dodatnem gradivu (SM) njihovega prispevka: »O etičnih vidikih te raziskave nadalje razpravljamo v SM, vključno z vidiki zasebnosti pri uporabi podatkov (SM, § A.1), morebitne škode zaradi strupenega ali pristranskega ustvarjanja jezika (SM, §A.2), možnosti za zlorabo ciljno usmerjene tehnologije dialoga (SM, §A.3) in razkritja agenta AI človeškim igralcem (SM , §A.4)« (ibid).

Potrebujemo več razvijalcev umetne inteligence in njihovo vodstvo, ki se zavedajo etike umetne inteligence in sprejemajo premišljene korake, da bodo pri svojem delu umetne inteligence previdni in preudarni. Poleg tega se morajo prepričati, da so pregledni glede tega, katere etične ukrepe umetne inteligence so izvedli in kakšne predpostavke so sprejeli.

Moja zadnja točka zaenkrat vključuje splošno tremo antropomorfiziranje ZA.

Če izboljšamo umetno inteligenco, da bo videti izjemno diplomatska, ali bo to ljudi zavedlo v domnevo ali prepričanje, da je umetna inteligenca enaka ljudem v vseh pogledih?

To je enostavno spolzko pobočje. Nerodna umetna inteligenca, s katero komunicirate, oddaja zgovoren namig, da je verjetno umetna inteligenca in ne človek. Gladko ponavljajoča se umetna inteligenca, ki je videti kot vrhunska diplomatska drža, bo verjetno povzročila, da se bodo ljudje brez obotavljanja ujeli v past, da je umetna inteligenca človeška, tudi kot da ima človeško zdravo pamet in vse zmožnosti razumevanja ljudi.

Poleg tega se zavedajte tudi, kako bi to lahko izkoristili med a Diplomacija igra. Človeški igralec, ki vidi skoraj poetična navidezna sporočila drugega igralca, bi lahko ugotovil, da mora biti to umetna inteligenca (ki je zdaj daleč od prejšnje okorne umetne inteligence), medtem ko drugi ljudje ne bi mogli tako artikulirano sestavljati sporočil. Seveda, če se bo umetna inteligenca še naprej prilagajala, bo morda spremenila poetično besedilo, da bo bolj zrcalilo kratko in ohlapno besedilo dejanskih človeških igralcev. Po drugi strani pa lahko človeški igralci preidejo na poetični jezik in poskušajo izdati, da so ljudje. Ideja je, da se bodo morda drugi človeški igralci pripravljeni uskladiti s soljudmi namesto AI.

Naslednja stvar, ki jo poznate, je, da se igranje igre začne spreminjati v poskušanje ugotoviti, kdo je človek in kdo AI. Če lahko ugotovite, kateri je kateri, vam to morda daje prednost. Po drugi strani pa je morda za ne. Umetna inteligenca bi lahko bila na koncu enako spretna v igri kot ljudje. Vaše ugibanje o tem, kateri je kateri, vam ne pomaga veliko. To bi lahko odvračalo pozornost od osredotočanja samo na poskus zmage v igri, ne glede na to, ali so pri roki igralci z umetno inteligenco ali ljudje.

Za raziskovalce, ki želijo narediti nekaj študij človeških dejavnikov o tej vrsti osupljive zasnove, bi morda lahko razmislili o uporabi umetne inteligence. Diplomacija igralec in poiščite voljne Diplomacija ligaških turnirjih za raziskovanje identifikacije človeka proti umetni inteligenci in vedenjskih strategij prilagajanja, ki se pojavljajo.

Zaključimo s tem.

Mark Twain je o diplomaciji rekel: "Načelo daj in vzemi je načelo diplomacije - daj enega in vzemi deset." Ali gre za pošteno oceno o tem, kako ljudje funkcioniramo, ali gre le za kanček navihanega humorja, ki cinično, a nepravilno ocenjuje človeško stanje?

Razmislite o naslednjih vprašanjih:

• Če lahko diplomacijo prepojimo z umetno inteligenco, ali nas bo to naučilo o tem, kako ljudje ustvarjajo diplomacijo in morda omogočili človeštvu, da se izboljša v umetnosti diplomatskega obnašanja?
• Ali bomo ustvarili lažno umetno inteligenco, ki se zdi čuteča, čeprav ni nič takega, vse zaradi računalniškega vlečenja zajca iz klobuka, da bi navidezno prikazali človeško podobno diplomacijo?
• Ali je mogoče najti ravnovesje med tem, da je umetna inteligenca prežeta z diplomacijo, tako da smo medtem opozorjeni, da je to še vedno le vsakodnevna umetna inteligenca in je zato ne smemo antropomorfizirati?

Pravijo, da je diplomacija umetnost, s katero dovoliš drugemu, da se odločiš za svojo pot. Poskrbimo, da bo naša pot človeška pot in ne pot umetne inteligence. Čeprav sem diplomatski, bi zdaj, ko dobro premislim o tem in v primeru, da bomo res imeli gospodarje z umetno inteligenco, morda morali dovoliti, da je naša pot pot z umetno inteligenco, ki upajmo, da se ujema z ustreznim človeškim načinom.

Samo poskušam izvajati kanček umetne diplomacije.