Na desetine strokovnjakov za umetno inteligenco (AI), vključno z izvršnimi direktorji OpenAI, Google DeepMind in Anthropic, je nedavno podpisalo odprto izjavo, ki jo je objavil Center za varnost AI (CAIS).
Pravkar smo objavili izjavo:
"Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti globalna prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna."
Podpisniki so Hinton, Bengio, Altman, Hassabis, Song itd. https://t.co/N9f6hs4bpa
(1 / 6)
— Dan Hendrycks (@DanHendrycks) Maj 30, 2023
Izjava vsebuje en stavek:
"Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti globalna prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna."
Med podpisniki dokumenta so pravi »kdo je kdo« od svetil umetne inteligence, vključno z »botrom« umetne inteligence, Geoffreyjem Hintonom; Univerza v Kaliforniji, Berkeley, Stuart Russell; in Lex Fridman iz tehnološkega inštituta Massachusetts. Glasbenik Grimes je tudi podpisnik, naveden pod kategorijo "druge pomembne osebnosti".
Povezano: Glasbenik Grimes si je pripravljen 'razdeliti 50 % licenčnin' z glasbo, ki jo ustvari umetna inteligenca
Čeprav se lahko izjava na prvi pogled zdi neškodljiva, je osnovno sporočilo v skupnosti umetne inteligence nekoliko kontroverzno.
Navidezno vedno večje število strokovnjakov verjame, da trenutne tehnologije lahko ali bodo neizogibno vodile do nastanka ali razvoja sistema umetne inteligence, ki lahko predstavlja eksistenčno grožnjo človeški vrsti.
Njihovim stališčem pa nasprotuje kontingent strokovnjakov z diametralno nasprotnimi mnenji. Glavni znanstvenik za umetno inteligenco družbe Meta Yann LeCun je na primer ob številnih priložnostih opozoril, da ne verjame nujno, da bo umetna inteligenca postala neobvladljiva.
Superčloveška umetna inteligenca ni niti približno na vrhu seznama eksistencialnih tveganj.
V veliki meri zato, ker še ne obstaja.Dokler ne bomo imeli osnovne zasnove celo za AI na ravni psa (kaj šele na človeški ravni), je prezgodaj razpravljati o tem, kako ga narediti varnega. https://t.co/ClkZxfofV9
— Yann LeCun (@ylecun) Maj 30, 2023
Zanj in druge, ki se ne strinjajo z retoriko o "izumrtju", kot je Andrew Ng, soustanovitelj Google Brain in nekdanji glavni znanstvenik pri Baiduju, umetna inteligenca ni problem, je odgovor.
Na drugi strani argumenta pa strokovnjaki, kot sta Hinton in izvršni direktor podjetja Conjecture Connor Leahy, verjamejo, da je umetna inteligenca na človeški ravni neizogibna in je kot taka zdaj čas za ukrepanje.
Vodje vseh večjih laboratorijev za umetno inteligenco so podpisali to pismo in izrecno priznali tveganje izumrtja zaradi AGI.
Neverjeten korak naprej, čestitke Danu za neverjetno delo, ki ga je sestavil, in hvala vsem podpisnikom, da so prispevali svoj del za boljšo prihodnost! https://t.co/KDkqWvdJcH
— Connor Leahy (@NPCollapse) Maj 30, 2023
Ni pa jasno, h kakšnim dejanjem pozivajo podpisniki izjave. Izvršni direktorji in/ali vodje oddelkov za umetno inteligenco skoraj vseh večjih podjetij z umetno inteligenco ter priznani znanstveniki iz vsega akademskega sveta so med tistimi, ki so podpisali, zaradi česar je očitno, da namen ni ustaviti razvoja teh potencialno nevarnih sistemov.
V začetku tega meseca se je izvršni direktor OpenAI Sam Altman, eden od podpisnikov zgoraj omenjene izjave, prvič pojavil pred kongresom med zaslišanjem v senatu, da bi razpravljali o regulaciji AI. Njegovo pričanje je prispelo na naslovnice, potem ko je večino tega preživel v pozivanju zakonodajalcev, naj uredijo njegovo industrijo.
Altmanov Worldcoin, projekt, ki združuje kriptovalute in dokazilo o osebnosti, je prav tako nedavno zaokrožil v medijih, potem ko je zbral 115 milijonov dolarjev financiranja serije C, s čimer je skupno financiranje po treh krogih dosegel 240 milijonov dolarjev.
Vir: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war