Generative AI ChatGPT bo povsod, ko bo portal API kmalu odprt, osupljiv glede etike in zakona o umetni inteligenci

Izpustite Kraken!

Nedvomno poznate tisto znamenito frazo, ki jo je posebej izrekel igralec Liam Neeson v Spopad Titanov ko ukaže, naj se legendarna morska pošast izpusti, s ciljem povzročiti ogromno opustošenje in ogromno uničenje. Vrstica se je neskončno ponavljala in ustvarila najrazličnejše meme. Kljub različnim parodijam večina ljudi še vedno vsaj sluti, da pripomba napoveduje nekaj senčnega in nevarnega pojava, ki se bo kmalu sprostil.

Morda je danes enako mnenje mogoče uporabiti za umetno inteligenco (AI).

Dovolite mi, da izpopolnim.

Nedavna objava je pokazala, da bo zdaj zelo znana aplikacija AI, imenovana ChatGPT, ki jo je izdelala organizacija OpenAI, kmalu na voljo za dostop drugim programom. To je velika novica. To pravim, čeprav je le malo rednih medijev opazilo to izjavo. Razen bežnih omemb bo celoten učinek tega prihajajočega dostopa precej velik.

V današnji kolumni bom razložil, zakaj je temu tako. Lahko se ustrezno pripravite.

Nekateri trdno verjamejo, da bo to podobno izpustitvi Krakena, in sicer, da se bodo pojavile vse vrste slabih stvari. Drugi vidijo to kot dajanje na voljo ključnega vira, ki lahko poveča množico drugih aplikacij z izkoriščanjem velikih zmogljivosti ChatGPT. To so bodisi najslabši ali najboljši časi. Tukaj bomo preučili obe strani razprave in sami se lahko odločite, v kateri tabor boste pristali.

K vsemu temu pride množica premislekov o etiki umetne inteligence in pravu o umetni inteligenci.

Upoštevajte, da potekajo prizadevanja za vključitev etičnih načel umetne inteligence v razvoj in uporabo aplikacij umetne inteligence. Vse več zaskrbljenih in nekdanjih etikov umetne inteligence poskuša zagotoviti, da prizadevanja za oblikovanje in sprejetje umetne inteligence upoštevajo pogled na delovanje. AI za dobro in preprečevanje AI za slabo. Podobno so predlagani novi zakoni o umetni inteligenci, ki se razpredajo kot možne rešitve za preprečitev, da bi prizadevanja umetne inteligence ogrozila človekove pravice in podobno. Za moje stalno in obsežno pokrivanje etike in prava umetne inteligence glejte povezava tukaj in povezava tukaj, samo da navedem nekaj.

Vse več je pomislekov, da imajo ChatGPT in druge podobne aplikacije z umetno inteligenco grdo spodnjo stran, s katero se morda nismo pripravljeni spopasti. Morda ste na primer slišali, da lahko učenci v šolah goljufajo, ko gre za pisanje esejev prek ChatGPT. AI piše namesto njih. Medtem lahko študent navidez brezhibno obrača esej, kot da bi ga pisal iz lastne noge. Ne tisto, kar domnevno želimo, da bi umetna inteligenca naredila za človeštvo.

Nekaj ​​ključnih bistvenih elementov bi lahko bilo v pomoč pri pripravi temeljev za to, za kaj gre.

ChatGPT je vrsta AI, ki se običajno imenuje Generativna AI. Te trendovske generativne aplikacije z umetno inteligenco vam omogočajo, da vnesete kratek poziv in aplikacija ustvari rezultate za vas. V primeru ChatGPT je rezultat besedilo. Tako vnesete besedilni poziv in aplikacija ChatGPT ustvari besedilo za vas. To običajno opisujem kot posebno podvrsto generativne umetne inteligence, ki je izpopolnjena za ustvarjanje izhodov besedilo v esej (obstajajo še drugi podtipi, kot so besedilo v slike, besedilo v video in tako naprej).

Proizvajalec AI ChatGPT je nakazal, da bo kmalu na voljo API (Application Programming Interface) za aplikacijo AI. Skratka, API je sredstvo, ki omogoča drugim programom, da nadaljujejo in uporabljajo program, ki daje na voljo portal v dani aplikaciji. To pomeni, da lahko skoraj vsak drug program na tem planetu potencialno izkoristi uporabo ChatGPT (no, z licenco in po odobritvi izdelovalca umetne inteligence ChatGPT, kot bo v nadaljevanju obravnavano tukaj).

Posledica tega je, da bi lahko uporaba in uporabe ChatGPT potencialno izstrelili streho.

Medtem ko je danes impresivno število prijav ljudi, ki so na individualna Osnova lahko uporablja ChatGPT, ki ga je izdelovalec umetne inteligence omejil na milijon uporabnikov, bo to pravzaprav le kaplja v vedro tega, kar bo kmalu prišlo.

Zavedajte se, da je tistih obstoječih milijonov prijav sestavljenih iz dela, ki je uporabil ChatGPT za enkratno veselje in potem, ko je vznemirjenje minilo, ga od takrat ni več uporabljal. Mnoge je verjetno pritegnila aplikacija umetne inteligence kot virusni odziv družbenih medijev. Skratka, če so ga vsi drugi želeli uporabljati, so to želeli tudi oni. Po nekaj začetnih poskusih z generativno temelječo umetno inteligenco so bili zadovoljni, da so preprečili svoj FOMO (strah pred zamudo).

Da bi bilo jasno jasno, ne trdim, da ljudje ne uporabljajo ChatGPT. So. Tisti, ki so se prijavili, vedno bolj ugotavljajo, da je aplikacija AI preobremenjena. Aplikacijo uporablja veliko in veliko ljudi. Občasno dobite nekaj pametno sestavljenih žalostnih znakov, da je sistem zaseden in bi morali poskusiti znova pozneje. Na ulici se govori, da se obstoječa infrastruktura za ChatGPT težko spopada z navdušenimi oboževalci, ki uporabljajo aplikacijo AI.

In čeprav milijon potencialnih uporabnikov ni nič hudega, bo številka verjetno takoj večkrat zasenčena, ko bo API na voljo. Razvijalci drugih programov, ki danes nimajo nobene zveze z generativno umetno inteligenco, se bodo želeli vključiti v generativno umetno inteligenco. Svoj program bodo želeli povezati s ChatGPT. Srčno upajo, da bo to dvignilo njihov obstoječi program v stratosfero priljubljenosti.

Razmislite o tem na ta način. Predpostavimo, da se vsa podjetja za programsko opremo, ki danes izdelujejo programe, ki dosegajo več milijonov uporabnikov, pogosto dosegajo na desetine in stotine milijonov uporabnikov, odločijo združiti svoje programe s ChatGPT. To nakazuje, da bi lahko število uporabnikov, ki uporabljajo ChatGPT, šlo v nebo.

Kraken je izpuščen.

Zakaj bi se različna podjetja za programsko opremo želela združiti s ChatGPT, se morda sprašujete?

Enostaven odgovor je, da bi lahko prav tako izkoristili neverjetne vetrove, ki potiskajo ChatGPT naprej in navzgor. Nekateri bodo to storili iz razumnih in previsokih razlogov. Drugi bodo to storili zgolj zato, da bi poskušali pridobiti svoj videz petnajstih minut slave.

Všeč mi je, da pare ChatGPT stratificiram kot sestavljene iz dveh glavnih namenov:

• Pristno združevanje s ChatGPT
• Fakery združevanje s ChatGPT

V prvem primeru je ideja, da obstaja dobra vera za združevanje s ChatGPT. Izdelovalci danega programa lahko dobro izrazijo oprijemljive in funkcionalne koristi, ki bodo nastale zaradi združitve njihovega programa s ChatGPT. Vsi v razumnem stanju uma lahko vidimo, da je par ujemanje v nebesih.

V drugem primeru, sestavljenem iz tega, kar jaz označujem kot ponarejanje, se bodo nekateri poskušali združiti s ChatGPT na negotovi ali nestabilni osnovi. Poslovni primer ni sestavljen iz nič posebej vsebinskega. Seznanjanje je obupen poskus, da bi zajahali ChatGPT. Vsak razumen pregled bi pokazal, da je par nepomembne vrednosti. Torej, ali mislite, da je to pravilna ali nepravilna oblika združevanja, nekoliko visi v zraku. Lahko bi poskušali trditi, da je določeno združevanje s ChatGPT, tudi če združevanje ne doseže ničesar drugega kot povečanje uporabe in nima nobene druge funkcionalne dodatne vrednosti, verjetno še vedno vredno združevanja.

Malo slaba stran bodo tisti, ki lažno prikazujejo seznanjanje in vodijo ljudi k prepričanju, da se dogaja nekaj opaznega, čeprav se v resnici ne. Vsekakor lahko pričakujemo, da bodo nekateri to poskusili. Tisti v AI Ethics so močno zaskrbljeni zaradi uporabe kačjega olja, ki bo prišla iz lesa. Obstaja tudi možnost, da bomo, če nam to uide izpod nadzora, videli nove zakone, povezane z umetno inteligenco, ki bodo pripravljeni in sprejeti.

Oglejmo si podrobneje, kaj je pristno združevanje in kaj tudi lažno združevanje.

Najprej bi se morali prepričati, da smo vsi na isti strani o tem, kaj sestavlja Generative AI in kaj ChatGPT sploh je. Ko pokrijemo ta temeljni vidik, lahko izvedemo prepričljivo oceno o tem, kako bo API v ChatGPT korenito spremenil stvari.

Če že dobro poznate Generative AI in ChatGPT, lahko morda preletite naslednji razdelek in nadaljujete z razdelkom, ki mu sledi. Verjamem, da bodo vsi ostali našli poučne bistvene podrobnosti o teh zadevah, če bodo natančno prebrali razdelek in se seznanili.

Kratek uvod o Generative AI in ChatGPT

ChatGPT je univerzalni AI interaktivni pogovorno usmerjen sistem, v bistvu navidezno neškodljiv splošni chatbot, kljub temu pa ga ljudje aktivno in vneto uporabljajo na načine, ki mnoge ujamejo povsem nepripravljene, kot bom opisal v kratkem. Ta aplikacija AI uporablja tehniko in tehnologijo na področju AI, ki se pogosto imenuje Generativna AI. AI ustvarja rezultate, kot je besedilo, kar počne ChatGPT. Druge generativne aplikacije AI proizvajajo slike, kot so slike ali umetniška dela, medtem ko druge ustvarjajo zvočne datoteke ali videoposnetke.

V tej razpravi se bom osredotočil na besedilne generativne aplikacije AI, saj ChatGPT počne to.

Generativne aplikacije AI so izjemno enostavne za uporabo.

Vse kar morate storiti je, da vnesete poziv in aplikacija AI bo za vas ustvarila esej, ki se poskuša odzvati na vaš poziv. Sestavljeno besedilo se bo zdelo, kot da je esej napisan s človeško roko in umom. Če bi vnesli poziv z napisom "Povej mi o Abrahamu Lincolnu", vam bo generativni AI ponudil esej o Lincolnu. To je običajno razvrščeno kot generativni AI, ki deluje besedilo v besedilo ali nekateri temu raje pravijo besedilo v esej izhod. Kot že omenjeno, obstajajo tudi drugi načini generativne umetne inteligence, kot sta besedilo v umetnost in besedilo v video.

Vaša prva misel bi morda bila, da se ta generativna sposobnost ne zdi tako pomembna v smislu ustvarjanja esejev. Preprosto lahko opravite spletno iskanje po internetu in brez težav najdete na tone in tone esejev o predsedniku Lincolnu. V primeru generativne umetne inteligence je zanimivo, da je ustvarjeni esej razmeroma edinstven in daje izvirno kompozicijo, ne pa kopijo. Če bi poskušali nekje na spletu najti esej, ki ga je ustvarila umetna inteligenca, ga verjetno ne bi odkrili.

Generativni AI je vnaprej usposobljen in uporablja zapleteno matematično in računsko formulacijo, ki je bila vzpostavljena s preučevanjem vzorcev v napisanih besedah ​​in zgodbah po spletu. Kot rezultat preučevanja na tisoče in milijone pisnih odlomkov lahko umetna inteligenca izbruha nove eseje in zgodbe, ki so mešanica najdenega. Z dodajanjem različnih verjetnostnih funkcij je dobljeno besedilo precej edinstveno v primerjavi s tem, kar je bilo uporabljeno v naboru za usposabljanje.

Zato je prišlo do razburjenja glede tega, da lahko učenci goljufajo pri pisanju esejev zunaj učilnice. Učitelj ne more preprosto vzeti eseja, za katerega lažnivi učenci trdijo, da je njihov avtor, in poskušati ugotoviti, ali je bil kopiran iz kakšnega drugega spletnega vira. Na splošno na spletu ne bo nobenega dokončnega že obstoječega eseja, ki bi ustrezal eseju, ustvarjenemu z umetno inteligenco. Učitelj bo moral nejevoljno sprejeti, da je učenec esej napisal kot izvirno delo.

Obstajajo dodatni pomisleki glede generativne umetne inteligence.

Ena od ključnih slabosti je, da so lahko v eseje, ki jih ustvari generativna aplikacija AI, vdelane različne laži, vključno z očitno neresničnimi dejstvi, dejstvi, ki so zavajajoča prikazana, in navideznimi dejstvi, ki so v celoti izmišljena. Ti izmišljeni vidiki se pogosto imenujejo oblika AI halucinacije, krilati stavek, ki ga ne maram, vendar se žal zdi, da vseeno pridobiva na priljubljenosti (za mojo podrobno razlago o tem, zakaj je to zanič in neprimerna terminologija, glejte mojo reportažo na povezava tukaj).

Rad bi razjasnil en pomemben vidik, preden se posvetimo tej temi.

Na družabnih omrežjih je bilo nekaj čudnih pretiranih trditev o Generativna AI trdi, da je ta najnovejša različica umetne inteligence v resnici čuteča umetna inteligenca (ne, motijo ​​se!). Tisti, ki se ukvarjajo z etiko umetne inteligence in pravom o umetni inteligenci, so zlasti zaskrbljeni zaradi tega naraščajočega trenda razširjenih trditev. Lahko bi vljudno rekli, da nekateri ljudje pretiravajo, kaj današnja AI dejansko zmore. Predvidevajo, da ima AI zmogljivosti, ki nam jih še ni uspelo doseči. To je žalostno. Še huje, sebi in drugim lahko dovolijo, da se znajdejo v hudih situacijah zaradi predpostavke, da bo umetna inteligenca čuteča ali podobna človeku, da bo lahko ukrepala.

Ne antropomorfizirajte AI.

Če boste to storili, se boste ujeli v lepljivo in trdo past zanašanja, ko pričakujete, da bo AI delal stvari, ki jih ni sposoben izvesti. Glede na to je najnovejša generativna umetna inteligenca razmeroma impresivna glede na to, kaj zmore. Vendar se zavedajte, da obstajajo znatne omejitve, ki bi jih morali vedno upoštevati pri uporabi katere koli generativne aplikacije AI.

Če vas zanima hitro naraščajoče razburjenje o ChatGPT in Generative AI, sem v svoji kolumni delal osredotočeno serijo, ki se vam bo morda zdela informativna. Tukaj je kratek pogled, če vas bo katera od teh tem navdušila:

• 1) Napovedi prihajajočega generativnega napredka AI. Če želite vedeti, kaj se bo v zvezi z umetno inteligenco verjetno odvijalo v letu 2023 in pozneje, vključno s prihajajočim napredkom v generativni umetni inteligenci in ChatGPT, boste želeli prebrati moj obsežen seznam napovedi za leto 2023 na povezava tukaj.
• 2) Generativni AI in nasveti za duševno zdravje. Odločil sem se pregledati, kako se generativna umetna inteligenca in ChatGPT uporabljata za nasvete o duševnem zdravju, kar je problematičen trend, glede na mojo osredotočeno analizo na povezava tukaj.
• 3) Osnove generativne umetne inteligence in ChatGPT. Ta del raziskuje ključne elemente delovanja generativne umetne inteligence in se še posebej poglobi v aplikacijo ChatGPT, vključno z analizo hrupa in fanfar na povezava tukaj.
• 4) Napetost med učitelji in učenci zaradi generativne umetne inteligence in ChatGPT. Tu so načini, na katere bodo študentje zvijačno uporabljali generativno umetno inteligenco in ChatGPT. Poleg tega so tukaj načini, kako se lahko učitelji spopadejo s tem plimskim valom. glej povezava tukaj.
• 5) Kontekst in generativna uporaba AI. Opravil sem tudi sezonsko začinjen pregled o kontekstu, povezanem z Božičkom, ki vključuje ChatGPT in generativno umetno inteligenco na povezava tukaj.
• 6) Goljufi, ki uporabljajo generativno umetno inteligenco. Nekaj ​​zloveščih je, da so nekateri prevaranti ugotovili, kako uporabiti generativno umetno inteligenco in ChatGPT za napačno ravnanje, vključno z ustvarjanjem prevarantskih e-poštnih sporočil in celo izdelavo programske kode za zlonamerno programsko opremo, glejte mojo analizo na povezava tukaj.
• 7) Napake začetnikov pri uporabi generativne umetne inteligence. Mnogi ljudje precenjujejo in presenetljivo premalo ocenjujejo, kar lahko storita generativni umetna inteligenca in ChatGPT, zato sem pogledal predvsem podcenjevanje, ki ga običajno naredijo novinci z umetno inteligenco, glejte razpravo na povezava tukaj.
• 8) Spopadanje z generativnimi pozivi AI in halucinacijami AI. Opisujem vodilni pristop k uporabi dodatkov umetne inteligence za reševanje različnih težav, povezanih s poskusi vnosa ustreznih pozivov v generativni umetni inteligenci, poleg tega pa obstajajo dodatni dodatki umetne inteligence za odkrivanje tako imenovanih haluciniranih rezultatov in laži, kot pokrito pri povezava tukaj.
• 9) Razkrivanje trditev Bonehead o odkrivanju generativnih esejev, ki jih je ustvarila umetna inteligenca. Obstaja zgrešena zlata mrzlica aplikacij z umetno inteligenco, ki razglašajo, da lahko ugotovijo, ali je kateri koli esej ustvaril človek ali umetna inteligenca. Na splošno je to zavajajoča in v nekaterih primerih neumna in nevzdržna trditev, glejte moje poročilo na povezava tukaj.
• 10) Igranje vlog prek generativne umetne inteligence bi lahko pomenilo slabosti duševnega zdravja. Nekateri uporabljajo generativni AI, kot je ChatGPT, za igranje vlog, pri čemer se aplikacija AI odziva na človeka, kot da bi obstajal v domišljijskem svetu ali drugem izmišljenem okolju. To bi lahko imelo posledice za duševno zdravje, glej povezava tukaj.
• 11) Razkrivanje obsega izpisanih napak in zmot. Sestavljajo se različni zbrani seznami, da bi poskušali prikazati naravo napak in laži, ki jih povzroča ChatGPT. Nekateri menijo, da je to bistveno, medtem ko drugi pravijo, da je vaja nesmiselna, glejte mojo analizo na povezava tukaj.
• 12) Šole, ki prepovedujejo Generative AI ChatGPT, pogrešajo čoln. Morda veste, da so različne šole, kot je Ministrstvo za izobraževanje v New Yorku (NYC), razglasile prepoved uporabe ChatGPT v svojem omrežju in povezanih napravah. Čeprav se to morda zdi koristen previdnostni ukrep, ne bo premaknil igle in na žalost popolnoma zgreši čoln, glejte mojo pokritost na povezava tukaj.

Morda se vam zdi zanimivo, da ChatGPT temelji na različici predhodne aplikacije AI, znane kot GPT-3. ChatGPT velja za nekoliko naslednji korak, imenovan GPT-3.5. Pričakuje se, da bo GPT-4 najverjetneje izšel spomladi 2023. Verjetno bo GPT-4 impresiven korak naprej v smislu, da bo lahko ustvaril na videz še bolj tekoče eseje, se poglobil in vzbujal strahospoštovanje - navdihujoč čudež glede skladb, ki jih lahko ustvari.

Pričakujete lahko, da boste videli nov krog izraženega začudenja, ko pride pomlad in bo izdana najnovejša generativna umetna inteligenca.

To omenjam, ker obstaja še en zorni kot, ki ga je treba upoštevati, in sicer potencialna Ahilova peta za te boljše in večje generativne aplikacije AI. Če katerikoli prodajalec umetne inteligence da na voljo generativno aplikacijo umetne inteligence, ki penasto bruha umazanijo, bi to lahko razblinilo upe teh izdelovalcev umetne inteligence. Družbeno prelivanje lahko povzroči, da ima vsa generativna umetna inteligenca resne črne oči. Ljudje bodo nedvomno precej razburjeni zaradi napačnih rezultatov, ki so se že večkrat zgodili in so povzročili burne družbene obsodbe proti umetni inteligenci.

Zaenkrat še zadnje opozorilo.

Karkoli vidite ali preberete v generativnem odgovoru umetne inteligence Zdi se, če želite biti posredovani zgolj kot dejstva (datumi, kraji, ljudje itd.), poskrbite, da boste ostali skeptični in bodite pripravljeni še enkrat preveriti, kar vidite.

Da, datume je mogoče izmisliti, kraje je mogoče izmisliti in elementi, za katere običajno pričakujemo, da bodo neoporečni, so vse predmet sumov. Ne verjemite temu, kar berete, in bodite skeptični, ko preučujete kakršne koli generativne eseje ali rezultate AI. Če vam generativna aplikacija za umetno inteligenco pove, da je Abraham Lincoln preletel državo s svojim zasebnim letalom, bi nedvomno vedeli, da je to malarkija. Na žalost se nekateri ljudje morda ne zavedajo, da letal v njegovem času ni bilo, ali pa vedo, a ne opazijo, da je v eseju podana ta nesramna in nezaslišano lažna trditev.

Močan odmerek zdravega skepticizma in vztrajna miselnost nezaupanja bosta vaša najboljša prednost pri uporabi generativne umetne inteligence.

Pripravljeni smo preiti na naslednjo stopnjo tega pojasnjevanja.

Sprostitev zveri

Zdaj, ko imamo postavljene temelje, se lahko poglobimo v poslovno usmerjene in družbene posledice zaradi vidikov API-ja ChatGPT.

Microsoft je v sodelovanju z OpenAI nedavno objavil napoved o prihajajoči razpoložljivosti ChatGPT na Microsoftovi oblačni platformi Azure (na spletno objavo z naslovom »Splošna razpoložljivost storitve Azure OpenAI razširja dostop do velikih, naprednih modelov umetne inteligence z dodanimi prednostmi za podjetja«, 16. januar 2023):

• »Veliki jezikovni modeli hitro postajajo bistvena platforma za ljudi za inovacije, uporabo umetne inteligence za reševanje velikih problemov in predstavljanje, kaj je mogoče. Danes z veseljem oznanjamo splošno razpoložljivost storitve Azure OpenAI kot del Microsoftove nenehne zavezanosti k demokratizaciji umetne inteligence in stalnega partnerstva z OpenAI. S storitvijo Azure OpenAI, ki je zdaj splošno na voljo, se lahko več podjetij prijavi za dostop do najnaprednejših modelov umetne inteligence na svetu – vključno z GPT-3.5, Codexom in DALL•E 2 – ki jih podpirajo zaupanja vredne zmogljivosti poslovnega razreda in infrastruktura, optimizirana za umetno inteligenco. Microsoft Azure za ustvarjanje vrhunskih aplikacij. Stranke bodo lahko prek storitve Azure OpenAI kmalu dostopale tudi do ChatGPT – natančno prilagojene različice GPT-3.5, ki je bila usposobljena in izvaja sklepanje na infrastrukturi AI Azure.«

Morda ste v tej izjavi opazili, da bodo na voljo tudi druge različne aplikacije AI, ki jih je razvil OpenAI. Dejansko so nekatere od teh aplikacij AI dostopne že kar nekaj časa, kot je omenjeno v nedavni zgornji izjavi: »Storitev Azure OpenAI smo predstavili novembra 2021, da strankam omogočimo izkoriščanje moči obsežnih generativnih modelov AI z podjetje obljublja, da so stranke pričakovale od našega oblaka in računalniške infrastrukture Azure – varnost, zanesljivost, skladnost, zasebnost podatkov in vgrajene zmogljivosti odgovorne umetne inteligence« (ibid).

Prej sem omenil, da tako Etika umetne inteligence kot Zakon o umetni inteligenci poskušata uravnotežiti AI za dobro želje s potencialom AI za slabo ki se lahko včasih pojavijo. Na področju umetne inteligence poteka gibanje v smeri imeti Odgovorni AI ali včasih skovan kot zaupanja vreden umetna inteligenca ali umetna inteligenca, osredotočena na človeka, glejte mojo pokritost na povezava tukaj. Vse izdelovalce umetne inteligence pozivamo, naj oblikujejo in usmerijo svojo umetno inteligenco AI za dobro in poskušajo odkrito omejiti ali omiliti katero koli AI za slabo ki se lahko pojavi.

To je težka naloga.

V vsakem primeru je prej omenjena izjava obravnavala vprašanja odgovorne umetne inteligence:

• »Kot vodilni v panogi se zavedamo, da je treba vsako inovacijo v AI izvajati odgovorno. To postane še bolj pomembno z zmogljivimi, novimi tehnologijami, kot so generativni modeli. Za velike modele smo uporabili iterativni pristop, pri čemer tesno sodelujemo z našim partnerjem OpenAI in našimi strankami, da natančno ocenimo primere uporabe, se naučimo in obravnavamo morebitna tveganja. Poleg tega smo uvedli lastne zaščitne ograje za storitev Azure OpenAI, ki so v skladu z našimi načeli odgovorne umetne inteligence. Kot del našega ogrodja omejenega dostopa morajo razvijalci zaprositi za dostop in opisati predviden primer uporabe ali aplikacijo, preden jim je omogočen dostop do storitve. Vsebinski filtri, ki so edinstveno zasnovani za lovljenje žaljive, sovražne in žaljive vsebine, nenehno spremljajo vnos v storitev in ustvarjeno vsebino. V primeru potrjene kršitve pravilnika lahko od razvijalca zahtevamo, da nemudoma ukrepa in prepreči nadaljnje zlorabe« (ibid).

Bistvo te perspektive odgovorne umetne inteligence je, da z zahtevo po uradni zahtevi za dostop do ChatGPT na podlagi programskega API-ja obstaja možnost, da se izločijo neprijetne predložitve. Če obstaja ustrezna skrbnost pri izbiri, katera druga podjetja in njihovi programi lahko dostopajo do ChatGPT, morda obstaja velika verjetnost, da preprečimo popolno jezo sproščenega Krakena.

Mogoče da, morda ne.

Nekateri poznavalci metejo roke, da bodo možnosti za ustvarjanje denarja, ki jih omogoča uporaba API-ja ChatGPT, obremenile protiutežno predstavo o želji, da bi zver razumno in varno obdržali. Bo pregled vnaprej res dovolj skrben? Ali lahko namesto tega vidimo, da pride do ohlapnega postopka odobritve, ko količina zahtev uide izpod nadzora? Nekateri se bojijo, da lahko šele, ko mačka izstopi iz vreče, zares pride do poznega podrobnejšega pregleda, čeprav bo do takrat škoda že storjena.

No, lahko vsaj priznate, da je vključen postopek preverjanja. Obstaja nekaj generativnih aplikacij z umetno inteligenco, ki bodisi nimajo skladnega postopka preverjanja ali pa so površne narave. Poleg tega obstajajo odprtokodne različice generativnega umetne inteligence, ki jih na splošno lahko uporablja skoraj vsakdo, ki to želi, čeprav naj bi upoštevali nekaj omejitev licenciranja (poskus uveljavitve tega je težje, kot se morda zdi).

Oglejmo si na hitro obstoječa pravila glede omejevanja dostopa do storitve Azure OpenAI, da vidimo, kaj bodo morali storiti drugi izdelovalci programske opreme, da se morebiti povežejo s ChatGPT. V skladu z Microsoftovimi pravilniki, objavljenimi v spletu (zadnja objava je navedena kot 14. december 2022):

• »Kot del Microsoftove zavezanosti odgovornemu umetni inteligenci oblikujemo in izdajamo storitev Azure OpenAI z namenom zaščite pravic posameznikov in družbe ter spodbujanja pregledne interakcije med človekom in računalnikom. Iz tega razloga trenutno omejujemo dostop in uporabo Azure OpenAI, vključno z omejevanjem dostopa do zmožnosti spreminjanja filtrov vsebine in spreminjanja spremljanja zlorab. Azure OpenAI zahteva registracijo in je trenutno na voljo samo upravljanim strankam in partnerjem, ki sodelujejo z skupinami za račun Microsoft. Stranke, ki želijo uporabljati Azure OpenAI, morajo predložiti obrazec za registracijo za začetni dostop za eksperimentiranje in za odobritev prehoda s poskusov na proizvodnjo.«
• »Za eksperimentiranje stranke potrjujejo, da uporabljajo storitev samo za predvidene uporabe, predložene ob registraciji, in se zavezujejo, da bodo vključili človeški nadzor, stroge tehnične omejitve vhodov in izhodov, povratne kanale in temeljito testiranje. Za proizvodnjo stranke razložijo, kako so bili ti izvedeni za zmanjšanje tveganja. Za stranke, ki želijo spremeniti filtre vsebine in spremljanje zlorab, potem ko so se vključile v storitev, veljajo dodatne omejitve scenarijev in se morajo registrirati tukaj.«
• »Dostop do storitve Azure OpenAI je predmet Microsoftove izključne presoje na podlagi meril za upravičenost in postopka preverjanja, stranke pa morajo potrditi, da so pregledale pogoje storitve Azure za storitev Azure OpenAI in se z njimi strinjajo. Microsoft lahko od strank zahteva, da te informacije ponovno preverijo. Storitev Azure OpenAI je strankam na voljo pod pogoji, ki urejajo njihovo naročnino na storitve Microsoft Azure, vključno z razdelkom Azure OpenAI v Microsoftovih pogojih za izdelke. Pazljivo preglejte te pogoje, saj vsebujejo pomembne pogoje in obveznosti, ki urejajo vašo uporabo storitve Azure OpenAI.”

To je na strani Microsofta.

OpenAI ima tudi svoje politike uporabe, povezane z njegovim API-jem:

• »Želimo, da lahko vsakdo uporablja naš API varno in odgovorno. V ta namen smo ustvarili pravilnike o primerih uporabe in vsebini. Če jih upoštevate, nam boste pomagali zagotoviti, da se naša tehnologija uporablja za dobro. Če ugotovimo, da vaš izdelek ni v skladu s temi pravilniki, vas bomo pozvali, da naredite potrebne spremembe. Če tega ne upoštevate, lahko ukrepamo naprej, vključno z ukinitvijo vašega računa.«
• "Prepovedujemo gradbene izdelke, ki ciljajo na naslednje primere uporabe:"
• »— Nezakonite ali škodljive industrije«
• “— Zloraba osebnih podatkov”
• »— Spodbujanje nepoštenosti«
• »— Zavajanje ali manipuliranje z uporabniki«
• "— Poskus vplivanja na politiko"
• »Naslednji nabor primerov uporabe nosi večje tveganje potencialne škode: kazensko pravosodje, kazenski pregon, pravne, vladne in javne službe, zdravstvo, terapija, dobro počutje, coaching, finance, novice. Za te primere uporabe morate:"
• »1) Temeljito preizkusite naše modele glede točnosti v vašem primeru uporabe in bodite pregledni z uporabniki glede omejitev«
• "2) Zagotovite, da ima vaša ekipa strokovno znanje na področju in razume/upošteva ustrezne zakone"
• "Prav tako vam ali končnim uporabnikom vaše aplikacije ne dovolimo ustvarjanja naslednjih vrst vsebine:"
• "— Sovraštvo"
• “— Nadlegovanje”
• “— Nasilje”
• "- Samopoškodovanje"
• “— Spolno”
• “— Politični”
• "- Nezaželena pošta"
• “— Prevara”
• »— zlonamerna programska oprema«

Veliko vprašanje bo, ali je te ideale mogoče upoštevati, če bo goreč naval prošenj za povezavo s ChatGPT. Morda bo prišlo do ogromnega cunamija zahtev. Človeško delo za pregled in skrbno preverjanje vsakega od njih je lahko drago in težko obvladljivo. Ali bo želja po ustreznem omejevanju zvodenela, nehote zaradi velikega povpraševanja po dostopu?

Kot pravi slavna duhovitost, je mogoče najboljše načrte včasih razdreti ob prvem stiku z obilnimi silami.

Veliko manevrskega prostora je tudi pri razlagi navedenih pravil. Kot smo na splošno videli o porastu dezinformacij in dezinformacij, je poskušanje ločiti zrnje od plev lahko precej zahtevno. Kako ugotoviti, ali ustvarjena vsebina spoštuje ali krši določila, da ne sme biti sovražna, politična, zavajajoča in podobno?

Grozeča težava bi lahko bila v tem, da bo konj že izginil iz hleva, če bo API ChatGPT na voljo izdelovalcu programske opreme, ki združuje svoj program s ChatGPT, in bo rezultat nedvoumno kršil navedene predpise? Nekateri menijo, da obstaja velika možnost škode za ugled, ki jo lahko utrpijo vse vpletene strani. Ni jasno, ali je to mogoče premagati tako, da se API preprosto izklopi za tega določenega kršitelja. Škoda bi lahko v nekem smislu ostala in pokvarila vse povedano. Veliko krivde bo naloženo vsem prisotnim.

Razslojevanje parov API-jev

Prej sem omenil, da je mogoče pare s ChatGPT priročno združiti v dva glavna namena:

• Pristno združevanje s ChatGPT
• Fakery združevanje s ChatGPT

Najprej preučimo pristne ali dobroverne pare.

V ozadju je način, kako se to zgodi, nekoliko preprost. Aplikacija ChatGPT omogoča drugim programom, da prikličejo aplikacijo. Običajno je to sestavljeno iz recimo programa, ki ga imenujemo Widget, ki posreduje ChatGPT poziv v besedilni obliki, nato pa, ko ChatGPT opravi svoje, se esej ali besedilo vrne v program Widget. To je skoraj tako, kot če bi oseba delala isto stvar, čeprav bomo imeli program, ki bo izvajal ta dejanja namesto osebe, ki to počne.

Denimo, da si nekdo izmisli program, ki išče po spletu. Program vpraša uporabnika, kaj želi iskati. Program nato uporabniku ponudi seznam različnih iskalnih zadetkov ali najdb, za katere upamo, da prikazujejo ustrezna spletna mesta glede na uporabniško poizvedbo.

Predstavljajte si, da želi podjetje, ki izdeluje ta program za spletno iskanje, popestriti svojo aplikacijo.

Zahtevajo dostop do API-ja ChatGPT. Predpostavimo, da opravijo vso ustrezno dokumentacijo in na koncu dobijo odobritev. Njihov program, ki izvaja spletna iskanja, bi bilo treba nato spremeniti, da bi vključeval poziv k aplikaciji ChatGPT prek API-ja. Predpostavimo, da se odločijo narediti te modifikacije.

Tukaj je opisano, kako bi to lahko potem v celoti delovalo. Ko uporabnik v osnovni program vnese poizvedbo za spletno iskanje, ta ne izvede samo običajnega iskanja po spletu, ampak posreduje poizvedbo tudi ChatGPT prek API-ja. ChatGPT nato obdela besedilo in vrne nastali esej osrednjemu programu. Osnovni program spletnega iskanja zdaj uporabniku predstavlja dva vidika, in sicer rezultate spletnega iskanja in dodatni izhodni esej iz ChatGPT.

Oseba, ki uporablja ta osnovni program, ne bo nujno vedela, da je bil ChatGPT uporabljen v ozadju. Lahko se zgodi v mejah osrednjega programa in uporabnik se blaženo ne zaveda, da je ChatGPT vpleten. Po drugi strani bi lahko osrednji program zasnovali tako, da bi uporabnika obvestili, da se uporablja ChatGPT. To je običajno odvisno od tega, ali želijo izdelovalci osrednjega programa razkriti, da je bila uporabljena druga aplikacija, v tem primeru ChatGPT. V nekaterih dogovorih izdelovalec programa, ki se kliče, vztraja, da mora program, ki kliče API, uporabnike obvestiti, da se uporablja drugi program. Vse je odvisno od preferenc in podatkov o licenciranju.

Za pristno združevanje so tukaj običajni pristopi:

• 1) Neposredni prehod do ChatGPT
• 2) Dodatek za izboljšanje ChatGPT
• 3) Sorodna aplikacija, ki sovpada s ChatGPT
• 4) Popolnoma integrativna potopitev s ChatGPT

Na kratko, pri prvem naštetem pristopu je zamisel, da bi lahko izdelal program, ki je zgolj vmesni del za ChatGPT, in kot tak, vse, kar moj program naredi, je, da posreduje besedilo ChatGPT in dobi besedilo nazaj od ChatGPT. Svoj program dam na voljo vsakomur, ki želi uporabljati ChatGPT in se drugače ni prijavil za njegovo uporabo. To je en pristop.

Drugič, morda bom izdelal program, ki bo služil kot dodatek k ChatGPT. Na primer, ko ChatGPT ustvari esej, lahko vsebuje neresnice. Recimo, da izdelam program, ki pregleduje izhod ChatGPT in poskuša odkriti laži. Svoj program dam na voljo tako, da ljudje vnesejo besedilni poziv v moj program, ki nato pošlje poziv v ChatGPT. ChatGPT pripravi esej, ki se vrne v moj program. Preden vam moj program pokaže esej, ga predhodno pregleda in poskuša označiti ali odstraniti laži. Potem, ko moj program opravi pregled, vidite nastali esej.

Tretji pristop je sestavljen iz sorodne aplikacije, ki v smislu sovpada s ChatGPT. Recimo, da razvijem program, ki ljudem pomaga pri kreativnem pisanju. Moj program ponuja zbrane nasvete in predloge, kako pisati kreativno. Program le spodbudi ali spodbudi uporabnika k temu. Medtem pa bi rad pokazal uporabniku, kaj je sestavljeno iz kreativnega pisanja. Kot tak vzpostavim API s ChatGPT. Moj program nato sprejme poziv od uporabnika in prikliče ChatGPT, da zagotovi odlomek eseja, ki bi lahko pokazal kreativno pisanje. To bi lahko naredili iterativno in med tem večkrat priklicali ChatGPT.

V primeru četrtega naštetega pristopa je ChatGPT popolnoma integriran v kakšen drug program ali nabor programov. Na primer, če bi imel aplikacijo za obdelavo besedila in aplikacijo za preglednice, bi morda želel integrirati ChatGPT v ti aplikaciji. Tako rekoč delovali bi z roko v roki drug z drugim. V prihajajoči kolumni bom obravnaval obljubljeno možnost, da bi se Microsoft lahko odločil za vgradnjo ChatGPT v svoj pisarniški paket za produktivnost, zato bodite pozorni na to prihodnjo analizo.

To so torej ključni načini, kako lahko pride do pristnega združevanja.

Nato razmislimo o nekaterih lažnih kombinacijah.

Tukaj je nekaj splošnih lažnih parov, na katere bi morali biti pozorni:

• Gimmickry Seznanjanje s ChatGPT – obrobno uporablja ChatGPT, večinoma za predstavo in za pridobivanje javnosti brez dodane vrednosti
• Privlačne obljube o seznanjanju ChatGPT – prodajalec programske opreme trdi, da je sredi združevanja s ChatGPT in želi biti v središču pozornosti, v resnici pa tega ne namerava storiti in dela klasično ponarejanje in predstavlja lažno obljubo
• Podlage, ki razglašajo, da so podobne ChatGPT – namesto združevanja s ChatGPT bodo nekateri prodajalci programske opreme uporabili nekaj drugega, kar je v redu, vendar bodo poskušali namigovati, da gre za ChatGPT, čeprav ni, v upanju, da bodo dobili nekaj odsevov ChatGPT
• Ostalo – mogoče si je zamisliti še veliko dodatnih raztegnjenih in privoščljivih shem

Nedvomno se bo v zvezi z vsem tem dogajalo veliko norčij. To bo sestavni del izdaje Krakena.

zaključek

Dovolite mi, da v to zadevo vržem nekaj ključev in drugih ovir.

Kaj pa stroški?

Trenutno tisti, ki so se prijavili za uporabo ChatGPT, to počnejo brezplačno. Prej sem omenil, da bo na neki točki potrebna neposredna monetizacija. To lahko pomeni zaračunavanje provizije na transakcijo ali morda plačilo naročnine. Druga možnost je, da se oglasi uporabijo za dodajanje testa, pri čemer se vsakič, ko uporabite ChatGPT, prikaže oglas. itd.

Tisti, ki se odločijo za vzpostavitev seznanjanja s ChatGPT prek API-ja, bi morali resno razmisliti o morebitnih stroških. Verjetno obstaja strošek v zvezi z uporabo oblaka Microsoft Azure za delovanje aplikacije ChatGPT. Za uporabo API-ja ChatGPT in priklic aplikacije AI bo OpenAI zagotovo plačal. Prodajalec programske opreme bo imel tudi lastne notranje stroške, na primer spreminjanje svojih obstoječih programov za uporabo API-ja ali na novo razvijanje programov v zvezi z združevanjem s ChatGPT. Zamislite si tako začetni strošek kot nabor tekočih stroškov vzdrževanja.

Bistvo je, da bo ta porazdelitev stroškov do neke mere ublažila zlato mrzlico pri izkoriščanju API-ja ChatGPT. Prodajalci programske opreme bi verjetno morali narediti preudaren izračun ROI (donosnost naložbe). Ali bo vse, kar lahko zaslužijo z nadgradnjo svojega programa z uporabo ChatGPT, prineslo dovolj dodanega denarja za izravnavo stroškov?

Ni nujno, da bodo vsi tako stroškovno ozaveščeni. Če imate globoke žepe in verjamete, da bo vaša uporaba ChatGPT pognala vaš program v najbolj znano ali zelo priznano področje aplikacij, se lahko odločite, da se strošek zdaj splača. Ustvarite ime za svojo aplikacijo tako, da se oprete na ChatGPT. V nadaljevanju, ko je vaš program priljubljen ali kako drugače služi denar, nadoknadite prejšnje pomanjkanje dobička ali pa ga odpišete kot strošek, ki je potreben za dosego velikega uspeha.

Majhno zagonsko podjetje, ki ga podpira podjetje tveganega kapitala (VC), bo morda pripravljeno odšteti del svoje začetne naložbe, da se poveže z API-jem ChatGPT. Slava se lahko pojavi takoj. Sreča je morda še daleč, a s tem se je treba ukvarjati pozneje. Zgrabite žaromete, ko je dobro, kot pravijo.

Predvidevamo, da se bodo morda pojavila neprofitna in socialna podjetja, ki se bodo odločila, da tudi o tem udarijo gume. Recimo, da neprofitno podjetje prepozna koristno uporabo klicanja API-ja ChatGPT, ki bo navidezno podpiralo njihove altruistične ali družbeno koristne cilje. Morda sredstva za to zbirajo prek spletne kampanje financiranja. Morda se poskušajo dogovoriti s prodajalci, tako da plačajo nominalni znesek ali dobijo uporabo brezplačno.

Čas bo povedal.

Zadnji kazalec, s katerim vas bom pustil, je dejavnik tveganja.

Nočem biti pretirano malodušen, vendar sem prej omenil, da lahko rezultati iz ChatGPT vsebujejo neresnice in imajo druge potencialne slabosti. Stvar je v tem, da če se prodajalec programske opreme, ki izdeluje aplikacijo, vključi v uporabo API-ja ChatGPT, tvega, da bo imel slabe in mračne rezultate, kar bi moral pričakovati. Ne potiskajte glave v pesek.

Težave se pojavijo, da bi lahko ti izhodi ovirali aplikacijo, ki se odloči za njihovo uporabo. V tem smislu bi lahko vaša aplikacija, ki je sprva jezdila slavo ChatGPT, prav tako padla v zid, če bi se zanašali na rezultate, ki jih zagotavlja ChatGPT. Morda so rezultati predstavljeni uporabnikom in to povzroči grozen hrup. Svojo jezo stresajo na vas in vašo aplikacijo.

Vi pa poskušate s prstom pokazati na ChatGPT. Vas bo to rešilo iz zagate? Ko je enkrat smrad, se razširi na široko in le redkim je prizanešeno. V tem smislu se lahko zgodi, da bo z razširjeno uporabo ChatGPT zavest o napačnih rezultatih bolj znana. Tako bi lahko, nenavadno ali ironično, razširjena uporaba ChatGPT zaradi API-ja prestrelila svoje noge.

Svoje pripombe ne želim zaključiti z žalostnim obrazom, zato se poskusimo spremeniti v vesel obraz.

Če se zavestno in preudarno upoštevajo vse ciljne omejitve in omejitve ter se jih dosledno drži, je uporaba ChatGPT prek API-ja lahko dobra stvar. Obstaja velika verjetnost, da bo to dodatno spodbudilo druge generativne aplikacije AI k delovanju. Naraščajoča plima bi lahko dvignila vse čolne.

To se zdi optimistično.

Morda veste, da naj bi Zevs nadzoroval Kraken. Sofoklej, starogrški dramatik, je o Zevsu rekel: "Zevsova kocka vedno srečno pade."

Morda bo enako rečeno o tem, kako bo generativna umetna inteligenca neizogibno pristala, vsaj upajmo, da je tako.