Avstralska vlada začenja posvetovanje za oceno prepovedi umetne inteligence z visokim tveganjem – Cryptopolitan

Avstralska vlada je sprožila nepričakovano osemtedensko posvetovalno obdobje, katerega namen je ugotoviti, ali je treba prepovedati nekatera orodja umetne inteligence (AI) z visokim tveganjem. Ta poteza sledi podobnim ukrepom, ki so jih sprejele druge regije, vključno z Združenimi državami, Evropsko unijo in Kitajsko, pri obravnavanju tveganj, povezanih s hitrim razvojem umetne inteligence.

1. junija je minister za industrijo in znanost Ed Husic razkril dva dokumenta za javni pregled: enega o »varni in odgovorni umetni inteligenci v Avstraliji« in drugega o generativni umetni inteligenci iz Nacionalnega sveta za znanost in tehnologijo. Ti dokumenti so bili objavljeni skupaj s posvetovalnim obdobjem, ki bo odprto do 26. julija.

Avstralska vlada išče povratne informacije o strategijah za spodbujanje »varne in odgovorne uporabe umetne inteligence«, pri čemer raziskuje možnosti, kot so prostovoljni etični okviri, posebni predpisi ali kombinacija obeh pristopov. Predvsem posvetovanje neposredno sprašuje, ali bi bilo treba nekatere aplikacije ali tehnologije umetne inteligence z visokim tveganjem popolnoma prepovedati, in išče informacije o merilih za prepoznavanje takih orodij.

Obsežen dokument za razpravo vključuje osnutek matrike tveganja za modele umetne inteligence, ki kategorizira samovozeče avtomobile kot "visoko tveganje" in generativna orodja umetne inteligence za ustvarjanje zdravstvenih kartotek bolnikov kot "srednje tveganje". Dokument poudarja tako pozitivne uporabe umetne inteligence v sektorjih, kot so medicina, inženiring in pravo, kot tudi potencialne škode, povezane z orodji za globoko ponarejanje, ustvarjanjem lažnih novic in primeri, ko so roboti z umetno inteligenco spodbujali samopoškodovanje.

Avstralska vlada proti AI

V dokumentu za razpravo so obravnavani tudi pomisleki glede pristranskosti v modelih umetne inteligence ter ustvarjanje nesmiselnih ali lažnih informacij, znanih kot »halucinacije« sistemov umetne inteligence. Priznava, da je sprejetje umetne inteligence v Avstraliji trenutno omejeno zaradi nizke stopnje zaupanja javnosti. Prispevek kot primere navaja predpise o umetni inteligenci, ki se izvajajo v drugih jurisdikcijah, in začasno prepoved ChatGPT v Italiji.

Poleg tega poročilo Nacionalnega sveta za znanost in tehnologijo poudarja ugodne zmogljivosti Avstralije na področju robotike in računalniškega vida, vendar ugotavlja relativne slabosti na ključnih področjih, kot so veliki jezikovni modeli. Vzbuja zaskrbljenost glede koncentracije generativnih virov umetne inteligence v majhnem številu pretežno ameriških tehnoloških podjetij, kar predstavlja potencialno tveganje za Avstralijo.

Poročilo nadalje raziskuje globalno regulacijo umetne inteligence, ponuja primere generativnih modelov umetne inteligence in nakazuje, da bodo takšni modeli verjetno imeli daljnosežne vplive na sektorje, od bančništva in financ do javnih storitev, izobraževanja in kreativnih industrij.