NTT in Univerza v Tokiu razvijata prvo optično računalniško umetno inteligenco na svetu z uporabo algoritma, ki ga navdihujejo človeški možgani

Sodelovanje pospešuje praktično uporabo nizkoenergijske in hitre umetne inteligence, ki temelji na optičnem računalništvu

TOKIO–(BUSINESS WIRE)–#TechforGood -NTT Corporation (Predsednik in izvršni direktor: Akira Shimada, "NTT") in Univerza v Tokiu (Bunkyo-ku, Tokio, predsednik: Teruo Fujii) so zasnovali nov učni algoritem, ki ga je navdihnila obdelava informacij v možganih in je primeren za večplastne umetne nevronske mreže (DNN) z uporabo analognih operacij. Ta preboj bo povzročil zmanjšanje porabe energije in časa izračuna za AI. Rezultati tega razvoja so bili objavljeni v britanski znanstveni reviji Nature Communications 26. decembra^th.

Raziskovalci so dosegli prvo predstavitev učinkovito izvedenega optičnega učenja DNN na svetu z uporabo algoritma za DNN, ki uporablja optično analogno računanje, kar naj bi omogočilo strojno učenje z visoko hitrostjo in nizko porabo energije. Poleg tega so dosegli najvišjo zmogljivost večplastne umetne nevronske mreže, ki uporablja analogne operacije, na svetu.

V preteklosti so se visokoobremenjeni učni izračuni izvajali z digitalnimi izračuni, ta rezultat pa dokazuje, da je mogoče izboljšati učinkovitost učnega dela z uporabo analognih izračunov. V tehnologiji globoke nevronske mreže (DNN) se ponavljajoča se nevronska mreža, imenovana računalništvo z globokimi rezervoarji, izračuna ob predpostavki, da je optični impulz nevron in nelinearni optični obroč kot nevronska mreža z rekurzivnimi povezavami. S ponovnim vnosom izhodnega signala v isto optično vezje se omrežje umetno poglobi.

Tehnologija DNN omogoča napredno umetno inteligenco (AI), kot so strojno prevajanje, avtonomna vožnja in robotika. Trenutno zahtevana moč in računski čas naraščata s hitrostjo, ki presega rast zmogljivosti digitalnih računalnikov. Tehnologija DNN, ki uporablja analogne izračune signalov (analogne operacije), naj bi bila metoda za realizacijo visoko učinkovitih in hitrih izračunov, podobnih nevronski mreži možganov. Sodelovanje med NTT in Univerzo v Tokiu je razvilo nov algoritem, primeren za analogno delovanje DNN, ki ne predvideva razumevanja učnih parametrov, vključenih v DNN.

Predlagana metoda se uči s spreminjanjem učnih parametrov na podlagi končne plasti omrežja in nelinearne naključne transformacije napake želenega izhodnega signala (signala napake). Ta izračun olajša izvajanje analognih izračunov v stvareh, kot so optična vezja. Prav tako se lahko uporablja ne samo kot model za fizično izvedbo, temveč tudi kot vrhunski model, ki se uporablja v aplikacijah, kot so strojno prevajanje in različni modeli AI, vključno z modelom DNN. Pričakuje se, da bo ta raziskava prispevala k reševanju nastajajočih težav, povezanih z računalništvom z umetno inteligenco, vključno s porabo energije in podaljšanim časom izračuna.

Poleg preučevanja uporabnosti metode, predlagane v tem dokumentu, za specifične probleme bo NTT spodbujal tudi obsežno in majhno integracijo optične strojne opreme, s ciljem vzpostavitve visokohitrostne optične računalniške platforme z nizko porabo energije za prihodnje optične omrežja.

Podpora za to raziskavo:

JST/CREST je podprl del teh rezultatov raziskave.

Objava v reviji:

Revija: Nature Communications (Spletna različica: 26. dec.)

Naslov članka: Fizično globoko učenje z biološko navdahnjeno metodo usposabljanja: Pristop brez gradientov za fizično strojno opremo

Avtorji: Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto in Kohei Nakajima

Razlaga terminologije:

1. Optično vezje: vezje, v katerem so silicijevi ali kvarčni optični valovod integrirani na silicijeve rezine z uporabo tehnologije izdelave elektronskih vezij. V komunikaciji se razvejanje in združevanje optičnih komunikacijskih poti izvaja z optično interferenco, multipleksiranjem/demultipleksiranjem valovnih dolžin ipd.
2. Metoda širjenja nazaj (BP): najpogosteje uporabljen učni algoritem pri globokem učenju. Gradiente uteži (parametrov) v omrežju dobimo med širjenjem signala napake nazaj, uteži pa se posodobijo tako, da postane napaka manjša. Ker postopek povratnega širjenja zahteva prenos utežne matrike omrežnega modela in nelinearno diferenciacijo, ga je težko implementirati na analognih vezjih, vključno z možgani živega organizma.
3. Analogno računalništvo: Računalnik, ki izraža realne vrednosti z uporabo fizikalnih količin, kot so intenziteta in faza svetlobe ter smer in jakost magnetnih vrtljajev, in izvaja izračune s spreminjanjem teh fizikalnih količin v skladu z zakoni fizike.
4. Metoda izravnave z neposredno povratno informacijo (DFA): Metoda psevdo-izračunavanja signala napake vsake plasti z izvajanjem nelinearne naključne transformacije signala napake končne plasti. Ker ne zahteva diferencialnih informacij omrežnega modela in ga je mogoče izračunati samo z vzporedno naključno transformacijo, je združljiv z analognim izračunom.
5. Rezervoarsko računalništvo: vrsta ponavljajoče se nevronske mreže s ponavljajočimi se povezavami v skritem sloju. Zanj so značilne naključno pritrjene povezave v vmesnem sloju, imenovanem rezervoarski sloj. Pri računanju globokih rezervoarjev se obdelava informacij izvaja s povezovanjem slojev rezervoarjev v več plasti.

NTT in logotip NTT sta registrirani blagovni znamki ali blagovni znamki družbe NIPPON TELEGRAPH AND TELEPHONE CORPORATION in/ali njenih podružnic. Vsa druga navedena imena izdelkov so blagovne znamke njihovih lastnikov. © 2023 NIPPON TELEGRAPH AND TELEPHONE CORPORATION

Kontakti

Stephen Russell

Žične komunikacije®

Za NTT

+ 1-804-362-7484

[e-pošta zaščitena]