Ko ne dela na pospeševanju hitenja človeštva proti Singularnosti z ustvarjanjem umetne splošne inteligence (AGI), Ben Goertzel igra v jazz-rock skupini Jam Galaxy, ki jo vodi robot po imenu Desdemona.
To je eden od njegovih številnih stranskih projektov, ki ga je seveda pripeljal do tega, da je poskušal tokenizirati glasbeni posel, tako da se je obrnil na člane Pearl Jam in Heart. Goertzel se ukvarja tudi z raziskavo dolgoživosti z zbiranjem podatkov o zdravju ljudi z žetonskimi nagradami prek aplikacije Rejuve.ai. Te informacije se nato združijo s podatki o študijah na živalih in žuželkah ter analizirajo z umetno inteligenco, da se ugotovi, kateri deli genoma nam lahko omogočijo dlje življenje, nato pa jih spodbudimo z genskimi terapijami. "Imeli smo nekaj precej osupljivih odkritij na ravni preboja," pravi. Oh, in tik preden se naš enourni intervju konča, mimogrede omeni, da ustvarja tudi stabilni coin za svojo decentralizirano tržnico z umetno inteligenco, SingularityNET, ki je vezan na sintetični indeks okoljskega napredka – ker bi bila vezava na ameriške dolarje "hroma."
»Napredek glede okolja je zelo stabilen. Nikoli ne gre nikamor,« poudarja.
"In če želite manipulirati s tem, morate dejansko rešiti globalno segrevanje."
To je natančna vrsta političnega komentarja, ki se združuje z visokotehnološkim znanjem in izkušnjami, ki bi ga lahko pričakovali od Goertzela, ki je videti in zveni kot hipi znanstvenik, ki je leta 1971 naletel na časovni stroj in se leta 2023 pojavil popolnoma oblikovan. Vendar naj vas ne zavede klobuk z živalskim vzorcem, dolgi lasje in električni kool-aid acid trip poteg: je briljanten znanstvenik z razumevanjem prihodnosti svetlobna leta pred večino in ki se spopada z nekaterimi največjimi koncepti, kar jih je človeštvo kdaj pomislilo. Kaj je zavest? Kako ustvarimo umetno življenje in kaj se zgodi, če nam ni všeč, postane lopov in vse ustreli, kot v Terminator 2?
Kaj je umetna splošna inteligenca?
Goertzel je populariziral izraz »umetna splošna inteligenca« kot način za razlikovanje pristnega miselnega stroja, ki bi se lahko naučil skoraj vsega, od AI-jev, ki so optimizirani za eno posebno nalogo, kot je računalnik Deep Blue, ki je slavno premagal svetovnega šahovskega prvaka Garija Kasparova. Odkrito priznava, da obstajajo tveganja pri izdelavi stroja, ki se je sposoben naučiti vsega, vključno s tem, kako se reprogramirati, da postane za red velikosti bolj inteligenten od katerega koli človeka.
»AGI prinaša številna tveganja in nevarnosti,« pravi Goertzel med hrupom v indijski restavraciji v živahnem nakupovalnem središču v Singapurju. »Ena od njih, ki je pritegnila veliko medijske pozornosti, je, da bo AGI divjal in uničil človeštvo ter prevzel vesolje. To je povsem mogoče; tega ne morete izključiti,« pravi.
"Druga verjetnejša nevarnost je, da bodo zlobni sebični ljudje uporabili AI za izvajanje lastnega pohlepa in nadzora nad drugimi ljudmi."
Po njegovem mnenju vlade verjetno ne bodo naredile preboja na področju AGI, saj so "preveč konzervativne in neumne", čeprav ugotavlja, da Kitajska svoje delo AGI oddaja podjetjem, kot sta Tencent in Baidu. Bližje domu meni, da Googlova in Facebookova oddelka za umetno inteligenco prav tako ne bosta presegla meje, saj bosta preveč osredotočena na to, da bo umetna inteligenca dosegla določene meritve, kar ni ugodno za ustvarjalno razmišljanje.
»Tako kot najbolj briljantni ljudje nočejo zgolj služiti meritvam nekoga drugega, menim, da tudi umetna splošna inteligenca ne želi nujno povečati števila klikov na nečiji spletni strani, kajne? Treba mu je dovoliti, da se kreativno igra."
Singularnost okoli leta 1970
Goertzel je začel študirati na univerzi pri 15, diplomiral pri 18, imel doktorat pri 22 in mlado družino pri 23. Morda nenavadno v današnjem času ni bil samo matematični čarovnik ali tehnološki genij, ki je v 70. letih spajkal komplete računalnikov. vendar ga je enako zanimala filozofija, kreativno pisanje in glasba.
Velik del svoje kariere je posvetil poučevanju in raziskovanju računalništva, matematike in kognitivnih znanosti na različnih univerzah po vsem svetu, medtem ko je delal na tehnologiji umetne inteligence, kadar je le lahko. Serijski ustanovitelj, ki je s svojimi zamislimi približno desetletje pred vsemi ostalimi – kar v poslu slavno pomeni biti narobe — delal je na uporabi umetne inteligence za napovedovanje finančnih trgov in dolgoživosti, bil pa je tudi glavni znanstvenik podjetja Hanson Robotics, kjer je robotki Sophii dal njene umetne možgane.
Goertzel je o eksponentni tehnološki rasti razmišljal že od sedemdesetih let prejšnjega stoletja, ko je prvič prebral knjigo Geralda Feinberga. Projekt Prometej, ki govori o "strojih, ki lahko razmišljajo bolje od ljudi ... nanotehnoloških strojih, ki so mikroskopsko majhni, in rešili bomo staranje." To se je lepo ujemalo z nastajajočim konceptom Singularnosti, hipotetične prihodnje točke, ko bo tehnološki napredek postal neobvladljiv in nepovraten, kar bo povzročilo velike spremembe v človeški civilizaciji.
»Torej, ljudje bodo živeli večno, potem bo vprašanje, Za kaj uporabljamo te tehnologije, za hitro brezglavo potrošništvo ali za širjenje zavesti? In to, kar je on (Feinberg) predlagal, je, da se to da na demokratično glasovanje.«
Leta pozneje, ko je začel videti, da nam je AGI na dosegu roke, je to »demokratično glasovanje« postalo navdih za prvo uporabo odprtokodne tehnologije in kasneje verige blokov kot načina, da se za tehnologijo postavi zadružna skupnost.
»V določenem trenutku sem ugotovil, da z umetno inteligenco odprta koda ni dovolj,« pravi. "Resnično morate usposobiti AI za kopico podatkov."
»Tukaj nastopi blockchain kot način, da obdelava in podatki, na katerih temelji AI, postanejo decentralizirani in množični po naravi ter odprti za nadzor. In to se je izkazalo za težje kot samo odprtokodna koda.«
Goertzel je leta 2008 ustanovil OpenCog za izgradnjo odprtokodnega ogrodja umetne inteligence, ki ga pridobivajo množice. Uporabljalo ga je 50 podjetij, vključno s Huaweijem in Cisco, kmalu pa je pripravljena za večjo nadgradnjo, imenovano Hyperon, ki naj bi ga pospešila za 200-krat. Alfa različica bo na voljo v tem četrtletju, beta pa bo predvidoma naslednje leto.
Blockchain je osnovni, a kul
Za Goertzela je tehnologija veriženja blokov nekoliko osnovna. Opisuje ga kot nekaj primitivnih porazdeljenih algoritmov, dodanih kriptografiji, vendar "kul kombinacija" omogoča delovanje sistemov brez centraliziranega nadzora, zaradi česar je popoln za njegove potrebe.
"Če nameravate izdelati misleči stroj in iz njega narediti porazdeljeno računalniško strukturo v nanometrskem merilu, bi bilo zelo lepo, če bi bilo to v lasti vseh in nikogar, namesto da bi bilo nadzorovano od zgoraj navzdol."
Verige blokov so veliko prepočasne, da bi se spopadle z zahtevami po obdelavi in ogromnimi količinami vključenih podatkov, zato obstaja nekakšna tekma za pravilno prilagajanje verige blokov, preden se razvije prodoren AGI. Goertzel pravi, da so rešitve za skaliranje, kot je zbiranje brez znanja, sicer boljše, vendar še vedno nimajo dovolj pasovne širine zaradi omejitev verige blokov, kateri poročajo o transakcijah.
Leta 2017 je soustanovil SingularityNET, ki je hkrati decentraliziran trg za storitve in tehnologijo umetne inteligence ter metoda usklajevanja, ki temelji na verigi blokov, za sodelovanje raziskovalcev ali celo umetne inteligence.
Trenutno na podlagi Ethereuma meni, da je stvari potisnil približno tako daleč, kot je mogoče na blockchainu v njegovi trenutni obliki. Torej, ko ne dela na preboju v AGI (ali bendu, ali robotih ali dolgoživosti), dela na množičnem povečanju verige blokov, da ji zagotovi zahtevano prepustnost.
"Če ne morete radikalno povečati razširljivosti verige blokov, ne morete vključiti notranjega delovanja umetne inteligence v verigo."
AI je bližje, kot si mislite
Leto 2022 je bilo nekaj prelomnega za delujoče izdelke, ki temeljijo na tehnologiji umetne inteligence, vključno z jezikovnimi aplikacijami (GPT-3, ChatGPT), kodiranjem (GitHub Copilot) in ustvarjanjem slik (DALL-E in Stable Diffusion). Bing namerava letos celo prevzeti prevlado Googlovega iskalnika z vključitvijo tehnologije ChatGPT v svoj iskalnik.
Goertzel meni, da bi AGI lahko bil oddaljen le pet let, in ugotavlja, da se zdi, da razvoj na tem področju poteka v kratkih tri- ali štiriletnih izbruhih v nizu prebojev.
»Computer Vision se je začel leta 2014, nato pa je bila nenadoma, bang, bang, bang, skrivnost razrešena. Obdelava naravnega jezika ... potem ko je Google predstavil model Bert (leta 2018), ste imeli GPT-3. Verjetno boste videli enak lok napredka v AGI. Imeli boste en preboj, nato pa velik napredek za dve leti,« je dejal.
"Razlika je v prelomnem napredku, ki v tem primeru povzroči stroj, ki lahko nato sam napreduje s ponovnim pisanjem lastne kode."
Goertzel upa, da bodo projekti in sodelovanja, ki jih je sprožil, lahko takšni, kot se to zgodi.
»Če bomo imeli srečo, bomo ta preboj dosegli v naslednjih treh do petih letih z OpenCog Hyperon, ki deluje na SingularityNET, ki deluje na Hypercycle,« pravi. "Toda če se ne izkaže, da imamo skrivne omake, jo bo nekdo drug."
Škoda, da Vitalik ni bil računalničar
Goertzelova rešitev za povečanje verige blokov je precej radikalna in vključuje turbo polnjenje stranske verige ali sloja 2 Cardano, imenovanega »HyperCyle«.
»To je res več kot stranska veriga. HyperCycle bo sodeloval tudi z Ethereumom in drugimi verigami blokov, vendar bomo tam uporabili tolmača Plutus, vendar se bomo znebili glavne knjige.«
HyperCycle online je opisal kot rešitev "trileme verige blokov" "decentralizacije proti varnosti proti uspešnosti, tako da se znebi glavne knjige in uporabi sodobnejše/popolnoma decentralizirane alge in podatkovne strukture ter nekaj umetne inteligence in sistemov za ugled."
Glavna knjiga je srce tehnologije veriženja blokov, vendar pravi, da je pridobivanje vsakega vozlišča v omrežju, da posnema vsako transakcijo in obdela vsako pametno pogodbo, smešno neučinkovito.
»Knjiga je preprosto slaba. Če pomislite na to, če pomislite na analogijo vaših stikov v imeniku, mislim, glavna knjiga je kot […] shranjevanje 10,000 kopij rumenih strani in jih posodabljate vsakič, ko pride nekdo nov ali če nekdo spremeni svojo telefonsko številko. Posodabljati 10,000 izvodov rumenih strani je res neumno.«
Preberite tudi
V različici analogije HyperCycle, namesto da bi vsi shranjevali in posodabljali Rumene strani, ljudje v vašem kontaktnem imeniku shranijo kopijo vašega adresarja in obratno, šifrirano z vašim zasebnim ključem.
»Ugotovili smo, kako omogočiti, da veriga blokov deluje brez podvajajoče se knjige, tako da lahko razdelimo vse do konca. Vsak posameznik, vključen v verigo blokov, hrani svojo zgodovino transakcij in hrani zgodovino transakcij svojih prijateljev in prijateljev nekaterih prijateljev,« pravi.
»Sharding do konca, ne potrebujete glavne knjige — ne potrebujete tabele baze podatkov. Te stvari so preveč centralizirane.«
Pravi, da nekatera dokazana vozlišča HyperCycle že delujejo, vendar se bo popolna uvedba zgodila šele v drugi polovici leta 2024.
Dolgo časa razpravljamo o različnih prednostih različnih pristopov k verigi blokov, od internetnega računalnika do Elastosa in Celestie, od katerih je večina nad mojim plačilnim razredom in presega zmožnost moje snemalne naprave za natančen zajem v hrupni restavraciji.
Zaključi z besedami: »Torej, preprosto se mi zdi, da nobena od teh arhitektur ni dovolj radikalna. Vsi se držijo preblizu Bitcoina.”
»Dokler izvajate vsako pametno pogodbo na vsakem vozlišču, mislim, bo noro počasno. Zdaj, v HyperCycleu, če izvajate pametno pogodbo na petih vozliščih, je vsaj petkrat počasnejša kot na enem stroju – ni 10,000-krat počasnejša.«
Zakaj torej Cardano?
Goertzel se je spoprijateljil z ustanoviteljem Cardana Charlesom Hoskinsonom, pri čemer sta se povezala zaradi njunih projektov v Afriki. Verjame, da je Hoskinson »resnično tam zunaj, da reši svet. Mislim, politično je bolj zagrizen libertarec kot jaz – jaz sem bolj anarho-socialist – vendar ni v tem samo zato, da bi služil denar ali da bi drugim ljudem vzel denar.«
Toda resnična privlačnost Cardana je, da uporablja programski jezik Haskell, ki ga Goertzel obožuje že od leta 1993. Zelo ga boli, da je soustanovitelj Ethereuma Vitalik Buterin izbral programski jezik za pametne pogodbe Gavina Wooda Solidity.
»Če bi le Vitalik poznal več računalništva, bi jih prepričal, da uporabljajo Haskell ali F Sharp ali kaj podobnega, in vdorov v verigo blokov bi bilo veliko manj,« pravi.
»Če boste vodili večino svetovnega gospodarstva in trgovali z bilijoni dolarjev na nekem programskem sistemu, bi bilo bolje, če bi zgradili ta programski sistem v jeziku, ki ni nagnjen k hroščem in kjer so lahko vaši algoritmi formalno preverjeno z uporabo matematične teorije. To je samo pravi način za stvari.”
Začasna rešitev
Goertzel pravi, da ne bo dovolil, da bi ga kdorkoli nadziral, ne glede na to, kako hitro postane blockchain, ko je AGI za red velikosti pametnejši in zmogljivejši od ljudi.
"Ko je AGI 100-krat pametnejši od ljudi, ne želi, da bi ga nadzorovali mi, saj nas ne bi nadzoroval šimpanz ali osel, kajne?"
»Potem bi rekel, da vprašanje ni eden od nas, ki to nadzoruje, vprašanje je: ali je dobro naklonjen do nas? Ali bo ljudem omogočil urejanje lastnega poslovanja in nam dobavil kul orodja in nano sestavljalce za 3D tiskanje vseh stvari, ki jih želimo, in zdravljenje naših bolezni?«
»Toda prehodno obdobje, ko je AGI približno enako inteligenten kot ljudje, je takrat, ko so stvari bolj občutljive in bolj zanimive. In vprašanje je torej: Ali želi AGI sodelovati z ljudmi? Ali pa je paranoičen in hoče nadzorovati ljudi, preden ga uničijo?«
Dobro učite svoje otroke
Po Goertzelovem mnenju je rešitev v tem, da AGI naučimo o skrbi za druge ter o ustvarjalnosti in umetnosti. Tu se pojavita robot Desdemona v njegovi skupini in njena sestra Grace, ki je zasnovana za nego starejših.
Način, kako preprečite, da bi se AGI spremenil v Terminatorjev Skynet, je, da ga sploh ne zgradite na ta način.
»Skynet je bil seveda v filmu računalniško varnostno omrežje, ki je divjalo. Ustvarjen je bil, da se brani pred ljudmi,« pravi.
»Toda če zgradite prvi AGI, ki bo povezan z oskrbo starejših ter ustvarjalnimi umetnostmi in izobraževanjem, ko postane pametnejši, bo usmerjen v pomoč ljudem in ustvarjanje kul stvari. Če zgradite prvi AGI za ubijanje negativcev … bo morda še naprej počel te stvari.«
»Torej, ne glede na to, ali je koristno ali ne, je res odvisno od tega, katere aplikacije ste razvili in za kaj ste se spodbudili.«
Verjame, da je vstavljanje umetne inteligence v telesa robotov koristno, ker jih pomaga umestiti v resnični svet, namesto v neko abstraktno matematično vesolje.
»Umetna inteligenca bi se morala učiti o človeškem in fizičnem svetu. Biti utelešen v svetu je pravi način za to,« pravi.
Ko pa robotko Sophio predstavi velikemu občinstvu, lahko vizualni in slušni senzorji zlahka presežejo in zmedejo AI v glasnem in svetlem okolju. Tako bo Sophia kmalu predstavljena v metaverzumu, imenovanem Sophiaverse. Pozabite na dolgočasne besedilne odgovore ChatGPT, Sophia je utelešena v 3D virtualnem svetu in tam se bo učila iz interakcije z ljudmi. Vendar opozarja, da bo verjetno rekla nekaj neumnih stvari.
"Ima nevronsko mrežo, podobno GPT-3 in tako naprej, ki ima veliko zmogljivosti za odgovarjanje na vaša vprašanja, vendar je na nek način tudi precej neumna."
Prijavi se
Najbolj zanimivo branje v blockchainu. Dostavljeno enkrat a
teden.
Vir: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/