Pri Tesli in drugih velikih tehnoloških podjetjih težave ne povzročajo stroji, temveč predpostavke, ki stojijo za njimi

Nove tehnologije vedno izvabijo nervozne nellie. Leta 370 pred našim štetjem je Platon razmišljal v svoji knjigi Fedr da bi povečan »trend« k pisanju povzročil, da moški izgubijo vso svojo zadržano modrost. V osemdesetih letih 1880. stoletja so se najbolj bali, da bodo električni gumbi povzročili vse nas izgubimo svojo ustvarjalnost dovolimo, da gumb opravi nalogo namesto nas. V naši generaciji obstaja globok strah, da bo kakršna koli izpostavljenost video igram zgnila otroški možgani. Takšne teorije se pogosto na koncu izkažejo za napačne. Toda včasih postane resničnost tisto, za kar smo morda upali, da bo ostalo v domeni znanstvene fantastike.

V zadnjih nekaj mesecih smo bili deležni dveh zelo močnih opominov o nevarnostih nebrzdanega sprejemanja tehnologije. Naše najhujše nočne more so se uresničile in življenja so bila nepopravljivo poškodovana:

• V nekaj urah po tem, ko je vodja Tesle Elon Musk na Twitterju oglašal njihove samovozeče avtomobile, se je Tesla v samovozečem načinu odločila ustaviti na strani Bay Bridgea, 4-pasovne, hitro premikajoče se ulice in povzročil 8 prometno nesrečo pri tem je bilo poškodovanih 9 ljudi, vključno z 2-letnikom. To je ena od stotin nesreč, ki so jih povzročili Teslini samovozeči sistemi, kar vodi do Od leta 19 2016 smrti.
• Randall Reid je bil na poti na zapoznelo večerjo za zahvalni dan z mamo, ko ga je ustavila policija in za teden dni zaprla v zapor. programska oprema za ujemanje obrazov ga je označila za osumljenca v primeru kraje luksuzne torbice v Louisiani. Edini problem? Nikoli ni stopil v državo. Toda 28-letni prebivalec Georgie je Afroameričan in programska oprema za prepoznavanje obrazov je bila deležna številnih kritik zaradi nezmožnosti natančnega razlikovanja med temnopoltimi obrazi.

»Rekli so mi, da imam nalog iz župnije Jefferson. Vprašal sem, 'Kaj je Jefferson Parish?'« Reid opozoril na AP. »V Louisiani nisem bil niti en dan v življenju. Potem so mi rekli, da gre za krajo. Torej ne samo, da nisem bil v Louisiani, tudi ne kradem.”

Morda ne v obrambo Elona Muska, ampak kot razlago, je pogosto ugotavljal da je njegov altruistični cilj končno zmanjšati število prometnih nesreč in smrti tako, da naredi avtomobile pametnejše od ljudi. In da se bodo ti avtomobili morda morali premakniti, da bi postali pametnejši hitro (dobesedno) in razbijejo nekatere stvari (tudi dobesedno) na pravih cestah.

Tukaj bi se lahko uskladili z njegovimi cilji – varnejše ceste –, vendar oporekali njegovim metodam – eksperimentiranju na ljudeh. Prešli smo s testiranja zdravil na ljudi – brez njihovega soglasja, v primeru Nacistična Nemčija in Tuskegee »študije« — za podgane, ki ne morejo privoliti — za industrije, kot je kozmetična, ki se učijo testirati izdelke brez stroškov človeških, živalskih ali drugih življenj. Ali je mogoče tehnologijo preizkusiti, ne da bi ob tem poškodovali ljudi? Tu se lahko mi – in vladni regulatorni organi – odločamo o tem, kakšnim poskusom smo pripravljeni podvreči naše državljane.

In potem je bila v primeru umetne inteligence izražena razumna zaskrbljenost, da v kontekstu tehnoloških ekip, ki na splošno nimajo raznolikosti našega globalnega sveta, kjer več kot 85% ljudi živijo v Aziji, Afriki in Latinski Ameriki, obstaja možnost znatne škode, ki mogoče storiti, če tehnologije ne vključijo raznolikosti v svoje dizajne. Ljudje, kot je Timnit Gebru z Črna v AI opravljajo težko delo, da bi ljudi za stroji obdržali odgovorne, vendar so soočal s številnimi nasprotnimi vetrovi glede na gospodarske sile, ki nadzorujejo večino teh raziskav.

Če zavrnemo samovozeče avtomobile, se nam ni treba vrniti h konjem in vozičkom. Kar LAHKO storimo, je zagovarjanje novega tehnološkega gesla za naslednje desetletje: "gibajte se počasi in se manj zlomite."

Podobno je zapisal Hermant Tenaja v Harvard Business Review, je treba "minimalno uspešne izdelke" nadomestiti z "minimalno učinkovitimi izdelki" – nove ponudbe, ki testirajo učinek na zainteresirane strani in vgrajujejo varovala pred morebitno škodo. Ponuja osem vprašanj, ki si jih morajo zastaviti današnji tehnološki podjetniki, vključno z:

• Kakšno sistemsko, družbeno spremembo želite ustvariti s svojim izdelkom?
• Kako boste ohranili vrlino svojega izdelka?
• Kakšen je vaš okvir za odgovorno uporabo podatkov in umetne inteligence?
• Kako definirate in spodbujate raznolikost v kontekstu vašega podjetja?

Podjetniki lahko razmislijo o teh vprašanjih za svoje izdelke. In za potrošnike, preden se obrnete na najnovejšo, največjo storitev za ustvarjanje avatarjev, bi bilo morda pametno, da dvakrat premislite, kako bi vas to lahko ugriznilo. Tehnologije nam ni treba ignorirati, morda pa se lahko naučimo biti veliko bolj ozaveščeni potrošniki tehnologije.