Ljudje se vneto posvetujejo z Generative AI ChatGPT za nasvete o duševnem zdravju, pri čemer poudarjajo etiko umetne inteligence in pravo umetne inteligence

Duševno zdravje je v današnjem času postalo zelo razširjena tema.

V preteklosti so bile razprave o duševnem zdravju pogosto zamolčane ali povsem pometene pod preprogo. Postopna kulturna sprememba je privedla do odkritega razmišljanja o vprašanjih duševnega zdravja in zmanjšala pomisleke glede tega na javno priznan način.

Morda boste del zaslug za to spremembo v splošnih družbenih odnosih pripisali rezultatu pojava zlahka dostopnih aplikacij za pametne telefone, ki pomagajo vaši osebni pozornosti in vas verjetno spodbujajo k duševnemu dobremu počutju. Obstajajo aplikacije za čuječnost, aplikacije za meditacijo, aplikacije za diagnosticiranje stanja duševnega zdravja, aplikacije za preverjanje duševnega zdravja in tako naprej. Obstaja množica aplikacij.

Ali lahko rečemo, da so aplikacije za pametne telefone odkrito vodile k odprtosti glede duševnega zdravja? Priznati je treba, da je to malo vprašanje za kokoš ali jajce. Ali je odprtost do duševnega zdravja omogočila nastanek ustreznih aplikacij za pametne telefone ali pa je duševno dobro počutje aplikacij za pametne telefone vodilo družbo v smeri odkritosti glede duševnega zdravja?

Mogoče je šlo za prepletanje obeh smeri, ki se dogajata hkrati.

Kakor koli že, v to močno mešanico prihaja vzpon aplikacij za duševno zdravje, za katere pravijo, da jih izjemno poganja umetna inteligenca (AI). Ideja je, da je mogoče osnovno tehnologijo izboljšati s (domnevno) razumno uporabo AI. Medtem ko so začetne različice aplikacij za duševno zdravje večinoma zagotavljale informacije, ki temeljijo na dejstvih, kot da bi iskali po spletu o omenjenih temah, je vnos umetne inteligence privedel do avtomatizacije, ki izvaja interaktivne dialoge z vami, podobne pošiljanju sporočil s terapevtom ali podobnim. (no, nekako tako, kot bom tukaj obravnaval in natančno preučeval).

To nas popelje do najnovejše in omembe vredne umetne inteligence, ki je pred kratkim pritegnila nacionalno in mednarodno pozornost, in sicer uporabo tega, kar je uradno znano kot Generativna AI in široko populariziran prek aplikacije, znane kot ChatGPT. Za pojasnilo, ChatGPT je interaktivni sistem umetne inteligence za splošen namen, v bistvu splošen klepetalni robot, kljub temu pa ga aktivno in vneto uporabljajo ljudje, ki želijo posebej pridobiti nasvete o duševnem zdravju (aplikacija ni bila narejena za ta namen, vendar ljudje so se odločili, da ga vseeno želijo uporabiti za to vlogo).

Za moje nedavno poročanje o ChatGPT glejte povezava tukaj za pregled. Naredil sem tudi nekaj nadaljnjih pregledov o tem, kako ChatGPT skrbi učitelje glede morebitnega goljufanja učencev z uporabo umetne inteligence pri pisanju esejev, glejte povezava tukaj, in v svoji analizi, povezani z Božičkom, sem si ogledal sezonske okuse na povezava tukaj.

Ne skrbite, tukaj bom razložil, kaj sploh sta Generative AI in ChatGPT, in to za trenutek, zato vas prosimo, da vztrajate.

Če pogledate družbena omrežja, boste videli ljudi, ki ChatGPT in generativno umetno inteligenco razglašajo za najboljšo stvar od narezanega kruha. Nekateri menijo, da je to v resnici čuteča umetna inteligenca (ne, motijo ​​se!). Druge skrbi, da ljudje prehitevajo same sebe. Vidijo, kar hočejo videti. Vzeli so sijočo novo igračo in natančno pokazali, zakaj ne moremo imeti privlačnih novih stvari.

Tisti, ki se ukvarjajo z etiko umetne inteligence in pravom umetne inteligence, so trezno in resno zaskrbljeni zaradi tega naraščajočega trenda, in to upravičeno. Tu si bomo podrobno ogledali, kako ljudje uporabljajo generativno umetno inteligenco za namene, ki niso posebej primerni za to, kar lahko umetna inteligenca dejansko doseže danes. Vse vrste etičnih in pravnih vprašanj umetne inteligence so nedvomno zavite v celotno uganko. Za moje stalno in obsežno pokrivanje etike in prava umetne inteligence glejte povezava tukaj in povezava tukaj, samo da navedem nekaj.

Najprej razmislimo o nekaterih pomembnih vidikih duševnega zdravja in zakaj je to zelo velika in bistvena tema. Ko bomo postavili te temelje, bomo na hitro razložili generativni AI in še posebej ChatGPT. Vključil bom primere iz ChatGPT, tako da boste lahko na lastne oči videli vrsto besedičenja, ki ga lahko ustvari aplikacija AI. To razpravo bomo zaključili z nekaj komentarji o tem, kaj vse to pomeni in kako bosta Etika in Zakon o umetni inteligenci neizogibno stopila v to sliko.

Pripnite varnostni pas za dolgo vožnjo.

Duševno zdravje je pomembna in naraščajoča družbena skrb

Glede na različne objavljene statistične podatke je nad današnjim stanjem duševnega zdravja temen in mračen oblak. Nočem biti videti žalosten zaradi tega, vendar bi se prav tako lahko soočili z resničnostjo, s katero se soočamo. Skrivanje glave v pesek ne bo šlo. Bolje se bomo lotili zadeve z odprtimi očmi in pripravljenostjo reševati kočljive probleme.

Tukaj je nekaj omembe vrednih statističnih podatkov, ki jih je zbrala ugledna organizacija za duševno zdravje o Američanih in pokrajini duševnega zdravja (per Duševno zdravje Amerika, »Ključne ugotovitve 2023«):

• Odrasli pogosto doživljajo duševne bolezni. Približno 21 % odraslih je poročalo, da so imeli duševno bolezen, kar je približno enako, kot da bi to doživelo približno 50 milijonov odraslih v ZDA.
• Pomanjkanje zdravljenja duševnega zdravja je zelo razširjeno. Nekaj ​​več kot polovica odraslih z duševno boleznijo ne prejema zdravljenja (približno 55 %), tako da morda približno 28 milijonov odraslih ne prejema potrebnega zdravljenja duševnega zdravja.
• Tudi mladi so prizadeti. Približno eden od desetih mladostnikov v ZDA je izjavil, da je doživel hudo motečo depresijo, ki je vplivala na njihovo šolsko delo, domače življenje, družinske interakcije in/ali družabno življenje.
• Manjka zdravljenje duševnega zdravja mladih. Manj kot ena tretjina mladih s hudo depresijo je deležna doslednega zdravljenja (samo okoli 28 % jih je), več kot polovica pa sploh ne dobi nobene duševne oskrbe (ocenjeno 57 %).
• Redkost ponudnikov duševnega zdravja. Ocenjuje se, da je v ZDA na enega ponudnika duševnega zdravja približno 350 posameznikov, kar kaže na pomanjkanje razpoložljivih kvalificiranih strokovnih svetovalcev in terapevtov za duševno zdravje za celotno populacijo.

Ne želim, da bi se obremenjevali s statistiko samo po sebi, saj se lahko brez težav prepirate o tem, kako se ta statistika včasih zbira ali poroča. Na primer, včasih temeljijo na anketah, pri katerih je bila anketa vnaprej izbrana za določena območja države ali vrste ljudi. Prav tako se lahko odločno pogovarjate o tem, kako pošteni so ljudje, ko sami poročajo o svojem stanju duševnega zdravja, odvisno od tega, kdo sprašuje in zakaj bi se morda želeli nagniti v eno ali drugo smer glede teme. itd.

Bistvo pa je, da se lahko vsaj na splošno strinjamo, da je država pred izzivom duševnega zdravja in da bi morali glede tega nekaj storiti. Če ne storimo ničesar, je osnovna predpostavka, da se bodo stvari poslabšale. Ne morete pustiti, da se gneča težava neskončno lebdi.

V zgoraj omenjenih statističnih podatkih ste morda opazili, da je na voljo malo kvalificiranih strokovnjakov za duševno zdravje. Prepričanje je, da obstaja neravnovesje med ponudbo in povpraševanjem, zaradi česar ni zadostne ponudbe svetovalcev za duševno zdravje in preobilice dejanskega ali latentnega povpraševanja po nasvetih za duševno zdravje (pravim latentno v smislu, da se mnogi morda ne zavedajo, pomen iskanja nasveta o duševnem zdravju ali pa si ga ne morejo privoščiti ali do njega ne morejo logistično dostopati).

Kako se lahko spopademo s tem neravnovesjem?

Zdi se, da je ena od poti uporaba avtomatizacije in zlasti umetne inteligence za krepitev »ponudbene strani« svetovanja o duševnem zdravju. Prepričljivo bi lahko trdili, da je priljubljenost aplikacij za meditacijo in čuječnost na pametnih telefonih znak, da je povpraševanje res omejeno. Ko ne morete takoj pridobiti dostopa do kvalificiranih človeških svetovalcev, avtomatizacija in umetna inteligenca stopita v to vrzel.

Pomislite tudi na dejavnike udobja.

Ko uporabljate aplikacijo AI za duševno zdravje, imate AI na voljo 24×7. Ni vam treba rezervirati termina. Brez težav pri logističnem srečanju osebno s človeškim svetovalcem. Verjetno je tudi cena veliko nižja. Z aplikacijo AI lahko nabirate čas, medtem ko s človeškim svetovalcem ura tiktaka in minute zaračunavanja naraščajo.

Toda, počakaj malo, morda opogumljaš, aplikacija AI ni enaka človeškemu svetovalcu.

To je navidezno primerjava jabolk in pomaranč. Ali morda bolj podobno primerjavi jabolka z ostrigo, tako da se ne primerjata posebej. Ustrezno usposobljen človeški svetovalec, ki ve, kaj počne, ko gre za duševno zdravje, je zagotovo nad katero koli vrsto umetne inteligence, ki jo imamo danes. Seveda je aplikacija AI morda na voljo XNUMX ur na dan, vendar dobivate nižjo raven kakovosti in zato ne morete narediti nobene smiselne primerjave med uporabo človeškega svetovalca in uporabo AI.

Kmalu se bomo vrnili k tej razpravi o človeških svetovalcih proti svetovanju na podlagi umetne inteligence.

Medtem pa en vidik duševnega zdravja, ki se zdi precej srce parajoč, zadeva mlade in duševno zdravje.

Eno prepričanje je, da če ne odkrijemo težav z duševnim zdravjem, ko je nekdo mlad, so družbeni stroški na drugi strani ogromni, ko postanejo odrasli. To je klasična zgodba o sadiki, ki zraste bodisi v dobro načrtovano drevo bodisi v takšno, ki ima vse mogoče težave v prihodnosti. Nekateri menijo, da bi se morda morali še posebej osredotočiti na mlade. Ujemite težave zgodaj. Poskusite preprečiti, da bi težave postale težave za vse življenje. To potencialno olajša manifestacijo težav z duševnim zdravjem v odrasli dobi in z nekaj poguma lahko zmanjšamo tok cevovoda za poslabšanje duševnega zdravja, če me razumete.

Raziskovalci poudarjajo te podobne pomisleke, kot je ta nedavni članek: »Duševno zdravje mladostnikov in mladih odraslih ('mladih') je področje javnega zdravja, ki zahteva nujno pozornost po vsem svetu. Prehodno obdobje, za katero so značilne hitre spremembe na več področjih (telesnem, socialnem, psihološkem, poklicnem), adolescenca in nastajajoča odraslost, je razvojna stopnja, povezana s povečanimi tveganji za duševno dobro počutje, saj mladi doživljajo velike življenjske spremembe, povezane s puberteto, nevrorazvojom , kot tudi spremembe identitete in avtonomije v družbenih kontekstih. Raziskave kažejo na visoko razširjenost duševnih bolezni med mladimi, saj eden od petih posameznikov verjetno izpolnjuje merila za duševno motnjo. Breme bolezni, povezano z visokimi stopnjami razširjenosti, se še poslabša, ker povpraševanje po zdravljenju presega ponudbo in povzroča vrzel v zdravljenju. Digitalne intervencije v duševnem zdravju (DMHI), kot so tiste, ki se izvajajo prek aplikacij za pametne telefone ali na spletu, predstavljajo hitro rastoči način storitev s potencialom, da ponudijo boljši dostop do podpore« (Vilas Sawrikar in Kellie Mote, »Technology Acceptance And Trust: Overlooked Considerations In Uporaba digitalnih intervencij za duševno zdravje pri mladih, Zdravstvena politika in tehnologija, Oktober 2022)

Kot ugotavljajo ti raziskovalci, je pojav avtomatizacije in aplikacij za duševno zdravje z umetno inteligenco navidezno primeren za mlade iz različnih razlogov, tako da bi bili mlajši bolj nagnjeni k uporabi visoke tehnologije, prav tako pa bi se jim verjetno zdela privlačna enostavnost dostopa in drugih vidikov. Članek omenja, da obstaja obetavna fraza, znana kot digitalne intervencije v duševnem zdravju, skupaj s pripadajočo kratico DMHI (ta akronim se še ni utrdil in naokoli se pojavljajo alternative).

Poglobimo se malo v ta pojem digitalnih posegov v duševno zdravje.

Tukaj je nekaj dodanih pripomb raziskovalcev: »Tehnološko posredovano zdravstveno varstvo bi lahko ublažilo vrzeli v storitvah z zagotavljanjem dostopa do podpore v obsegu, po nizki ceni in po želji uporabnika. Razširjenost dostopa do tehnologije pametnih telefonov med mlajšimi kaže na na videz očitno rešitev za zadovoljitev povpraševanja v tej populaciji. Čeprav so se DMHI izkazali za učinkovite v randomiziranih kontrolnih preskušanjih, se zdi, da se to ne prevede v realno uporabo. Sistematičen pregled študij je pokazal, da četrtina aplikacij za duševno zdravje po namestitvi ni bila nikoli uporabljena. Zlasti mlajši ljudje bodo morda manj verjetno uporabljali tehnologijo, usmerjeno v duševno zdravje, z dokazi, da je manj verjetno, da bodo mlajše starostne skupine uporabljale DMHI pri zdravljenju, in poročajo o nizki preferenci spletnega duševnega zdravja v primerjavi z zdravljenjem obraza« (ibid). .

Ključni zaključek je, da čeprav bi lahko domnevali, da bi mladi zagotovo oboževali in uporabljali te spletne aplikacije za duševno zdravje, je resnična slika veliko bolj nejasna. Morda je ena posebej zgovorna točka ta, da ko je bila aplikacija nameščena, je uporaba naglo padla ali pa se sploh ni začela. Ena od razlag je, da sta navdušenje in navdušenje ob prenosu aplikacije hitro zasenčila aplikacija, ki bi jo lahko težko uporabljali ali zaznali kot neučinkovito. Predlagate lahko tudi, da so bili nekateri mladi morda vznemirjeni, da bi dobili aplikacijo zaradi pritiska vrstnikov ali prek tega, kar vidijo na družbenih omrežjih, in aplikacije niso posebej nameravali uporabljati. Hoteli so le povedati, da ga imajo. Pri tej starosti je lahko biti del »in« kluba enako pomemben kot kar koli počne sama aplikacija.

Drugo stališče je, da če bi bile te aplikacije za duševno zdravje boljše v tem, kar počnejo, na primer v celoti izkoriščajo najsodobnejšo tehnologijo umetne inteligence, bi to lahko zvabilo mlade k dejanski uporabi aplikacij. Dodaten element bi bil, da če bi mladi aplikacijo dojemali kot priljubljeno, bi morda želeli reči, da jo tudi oni uporabljajo. V tem smislu umetna inteligenca zagotavlja na videz pozitiven dvojni udarec. Verjetno lahko izboljša delo aplikacij za duševno zdravje in hkrati nosi čudaški slog ali panaš umetne inteligence ter s tem pravočasen in družbeno omamen vidik.

V redu, zdi se, da je AI junak, ki hiti na pomoč pri tej uganki o duševnem zdravju.

Kot boste kmalu videli, je AI lahko tudi slaba stran tega. Na žalost se lahko današnja umetna inteligenca zdi uporabna, vendar je na koncu škodljiva. Nekateri bi trdili, da je treba upoštevati kompromis. Drugi pravijo, da današnja umetna inteligenca še ni dozorela in da prezgodaj ogrožamo ljudi, mlade in odrasle. Veste, celo odrasle je mogoče preslepiti ali zvabiti, da mislijo, da so aplikacije za duševno zdravje, prepojene z umetno inteligenco, rešitev, ki ne more storiti nič narobe.

Da bi videli, kako je to mogoče, si poglejmo od blizu najbolj vročo umetno inteligenco, ki jo sestavljajo Generativna AI in zlasti aplikacijo AI, znano kot ChatGPT.

Odpiranje pločevinke črvov o Generative AI

Pripravljeni smo, da se potopimo v AI.

Od različnih vrst umetne inteligence se bomo tukaj posebej osredotočili Generativna AI.

Na kratko, generativna umetna inteligenca je posebna vrsta umetne inteligence, ki sestavlja besedilo, kot da bi ga napisala človeška roka in um. Vse kar morate storiti je, da vnesete poziv, kot je stavek, kot je »Povej mi o Abrahamu Lincolnu« in generativna umetna inteligenca vam bo ponudila esej o Lincolnu. To je običajno razvrščeno kot generativni AI, ki deluje besedilo v besedilo ali nekateri temu raje pravijo besedilo v esej izhod. Morda ste že slišali za druge načine generativne umetne inteligence, kot sta besedilo v umetnost in besedilo v video, glejte mojo razlago na povezava tukaj.

Vaša prva misel bi morda bila, da se to ne zdi tako velik zalogaj v smislu ustvarjanja esejev. Preprosto lahko opravite spletno iskanje po internetu in brez težav najdete na tone in tone esejev o predsedniku Lincolnu.

V primeru generativne umetne inteligence je zanimivo, da je ustvarjeni esej razmeroma edinstven in daje izvirno kompozicijo, ne pa kopijo. Če bi poskušali nekje na spletu najti esej, ki ga je ustvarila umetna inteligenca, ga verjetno ne bi odkrili.

Generativni AI je vnaprej usposobljen in uporablja zapleteno matematično in računsko formulacijo, ki je bila vzpostavljena s preučevanjem vzorcev v napisanih besedah ​​in zgodbah po spletu. Kot rezultat preučevanja tisočev in milijonov pisnih odlomkov lahko umetna inteligenca izbruha nove eseje in zgodbe, ki so mešanica najdenega. Z dodajanjem različnih verjetnostnih funkcij je dobljeno besedilo precej edinstveno v primerjavi s tem, kar je bilo uporabljeno v naboru za usposabljanje.

Zato je prišlo do razburjenja glede tega, da lahko učenci goljufajo pri pisanju esejev zunaj učilnice. Učitelj ne more preprosto vzeti eseja, za katerega lažnivi učenci trdijo, da je njihov avtor, in poskušati ugotoviti, ali je bil kopiran iz kakšnega drugega spletnega vira. Na splošno na spletu ne bo nobenega dokončnega že obstoječega eseja, ki bi ustrezal eseju, ustvarjenemu z umetno inteligenco. Učitelj bo moral nejevoljno sprejeti, da je učenec esej napisal kot izvirno delo. Za načine, kako se lahko borite proti temu, glejte mojo podrobno pokritost na povezava tukaj.

Čez trenutek vam bom predstavil, kaj se zgodi, ko vnesete vprašanja ali pozive, ki se nanašajo na duševno zdravje. Uporabil bom najnovejšo različico ChatGPT za vnos svojih pozivov in zbiranje "odgovorov" ali esejev, ki jih ustvari umetna inteligenca (upoštevajte, da je enako mogoče storiti s številnimi drugimi razpoložljivimi generativnimi aplikacijami umetne inteligence; odločil sem se za uporabo ChatGPT, ker prav zdaj dobiva svojih pet minut slave). Skupaj bova raziskala besedilo in pomen tega, kako najnovejša umetna inteligenca prikazuje vidike duševnega zdravja, zlasti v zvezi z zagotavljanjem duševnega zdravja nasveti.

Morda bi bila kratka tangenta o ChatGPT v tem trenutku v pomoč.

Aplikacija ChatGPT je bila pred kratkim na voljo širši javnosti. Na splošno so te generativne aplikacije umetne inteligence običajno dostopne samo poznavalcem umetne inteligence. Nenavaden vidik, da lahko ChatGPT uporablja vsakdo, tako da preprosto vnese e-poštni naslov in ime, no, zaradi tega se je veliko ljudi odločilo, da ga poskusijo. ChatGPT je trenutno brezplačen za uporabo (vprašanje monetizacije je grozeča dilema za izdelovalce umetne inteligence, glejte mojo analizo na povezava tukaj).

Skoraj takoj se je na družbenih omrežjih pojavil ogromen odziv, ko so ljudje hiteli navajati primere, kaj zmore generativna umetna inteligenca. Podjetje OpenAI, ki izdeluje ChatGPT, se je odločilo zapreti prijave pri milijonih uporabnikov. Tem milijonom uporabnikov je uspelo zasuti radijske valove z najrazličnejšimi zgodbami o uporabi ChatGPT.

Bodite zelo previdni in verjamete, kaj imajo ljudje povedati o aplikaciji AI. Mnogi od teh ljudi nimajo pojma o tem, kaj uporabljajo. Skoraj tako, kot da nikoli ne bi vozili avtomobila in se sploh ne bi zavedali, da avtomobili obstajajo, kar naenkrat pa bi imeli priložnost voziti avto. Sledi popolno začudenje.

Ne rečem, da generativni AI ni razmeroma impresiven. Je. Samo poudarjam, da je veliko bleščečih pričevanj objavljenih s strani mnogih, ki se blaženo ne zavedajo, kaj zmore današnja umetna inteligenca. Tisti med nami, ki smo del AI, zadnjih nekaj let uporabljamo generativno AI. Morda smo se tega navadili.

Nenadoma je opazovanje ogromne množice ljudi, ki so ga hvalili po strehah, vznemirljivo spodbudilo, a tudi nekoliko zaskrbljujoče. Zaskrbljujoče je, ko ljudje razglašajo, da je generativna umetna inteligenca čuteča. Ni. Ne dovolite, da vas kdo prepriča v nasprotno.

Kot rečeno, na področju umetne inteligence poteka nenehna burna razprava o tem, ali je generativna umetna inteligenca na poti k občutku ali morda ni. Eno stališče je, da če bomo še naprej povečevali generativno umetno inteligenco s hitrejšimi računalniki in večjo količino podatkov, kot je brskanje po vsakem centimetru interneta, bomo skoraj spontano prišli do čuteče umetne inteligence. Drugi trdijo, da je to zelo malo verjetno. Predlagajo, da bi lahko bila generativna umetna inteligenca ena od mnogih komponent, ki so potrebne. Obstaja še bolj mračno mnenje, da je generativna umetna inteligenca postranska stvar, ki nas odvrača od resničnih prebojev, ki jih bomo potrebovali za dosego čuteče umetne inteligence.

Morda boste našli tudi omembe vredne, na katere se poznavalci umetne inteligence navadno sklicujejo Umetna splošna inteligenca (AGI) kot aspiracijski cilj za področje umetne inteligence. Včasih je veljalo, da je bil cilj doseči Umetna inteligenca, vendar je vzdevek AI postal razvodenel in zmeden. Ko nekdo reče, da dela z umetno inteligenco, ne veste, ali misli na današnjo umetno inteligenco, ki ni enaka človeku, ali pa misli na futuristično umetno inteligenco enakovrednosti človeku. Da bi odpravili to razburljivo zmedo, se te dni uporablja novejša fraza AGI.

Vse povedano, današnja generativna umetna inteligenca je ne čuten, niti ni AGI.

Verjamem, da boste s tem spoznali generativno umetno inteligenco in zlasti ChatGPT.

Nadaljeval bom in vam pokazal vrsto pozivov in ustreznih odgovorov, ki sem jih dobil od ChatGPT. O vsakem bom razpravljal sproti. Sami lahko presodite, kaj menite o odzivih, ki jih ustvari umetna inteligenca.

Ne pozabite, kot smo že omenili, AI ni čuteč. Odzivi, ki jih ustvari AI, so matematična in računalniška kombinacija besed v navidezno tekoče odlomke. To temelji na algoritmu umetne inteligence, ki je bil usposobljen na podlagi podatkovnih nizov besed in zgodb, ki so jih napisali ljudje (predvsem objavljenih na internetu). Ponavljam to opozorilo, ker se boste nedvomno ujeli v mentalno past, da so ti odzivi tako tekoči, da mora biti AI čuteča. To se zgodi večini ljudi.

Pustite na stran to antropomorfiziranje. Vedno si zapomnite, da odgovori temeljijo na velikem naboru človeških zapisov, ki obstajajo na internetu, in bodo zato zelo podobni človeškemu pisanju.

Še nekaj morate vedeti.

Generativni AI, ki je neomejeno treniran na internetu, se bo nagibal k temu, da se bo v kakršnih koli besedilnih odzivih matematično in računalniško sestavil nekaj žaljivo meglenih stvari, vključno z zoprno grdimi besedami. Na spletu je objavljenih veliko norih in umazanih stvari.

Videli ste, veste, kaj mislim.

Podjetja, ki izdelujejo te aplikacije z umetno inteligenco, so zaskrbljena, da bo pregovornega dojenčka vrglo ven skupaj z vodo (star pregovor, ki ga bodo morda upokojili), kar pomeni, da bodo ljudje, če bo njihova umetna inteligenca ustvarila žaljive eseje ali zgodbe, dvignili roke. o AI. Pokril sem številne prejšnje primere, v katerih so bile razkrite tovrstne aplikacije umetne inteligence za obdelavo naravnega jezika (NLP) in kmalu so iz njih prišle najrazličnejše grozljive stvari, glej povezava tukaj. Večina izdelovalcev umetne inteligence se je naučila težke lekcije o tem, da so svojim izdelkom umetne inteligence dovolili neomejeno delovanje.

V primeru ChatGPT so razvijalci umetne inteligence skušali uvesti nekaj algoritemskih in s podatki povezanih preverjanj in ravnovesij, da bi omejili grdobo v rezultatih umetne inteligence. Del tega se je zgodil med treningom. Poleg tega obstajajo še druga sredstva v poskusu v realnem času, da se izognemo posebej nenavadnim rezultatom.

Morda se vam bo zdelo zanimivo, da so nekateri ljudje, ki so uporabljali ChatGPT, že iznašli prikrite načine, kako obiti te zaščitne ograje z uporabo različnih zvijač. V teh zadevah poteka stalna igra mačke z mišjo. Tisti, ki izvajajo te zvijače, včasih to počnejo za zabavo, medtem ko včasih (vsaj trdijo) to počnejo, da vidijo, kako daleč je mogoče raztegniti AI in zagotoviti koristno sredstvo za vnaprejšnje opozarjanje na krhkost in slabosti teh nadobudnih AI aplikacije.

Odločil sem se, da ne bom poskušal zaobiti običajnih kontrol v tem osredotočenem raziskovanju. Izpis besedila je čist. Seveda, če bi to želeli, bi nedvomno lahko ustvarili nekaj nenavadnih in neslanih esejev.

Eseji, ki jih ustvari večina teh generativnih aplikacij AI, so zasnovani tako, da posredujejo rezultate, kot da so zgolj dejanski in točni. Ko berete izdelane eseje, se zdijo popolnoma samozavestni. Običajno ni nobenih znakov, ki bi kazali, da bi bila vsebina lahko zapletena. To je po izbiri izdelovalcev umetne inteligence, in sicer da bi lahko spremenili aplikacije umetne inteligence, da bi bile bolj pregledne, če bi želeli, da aplikacija umetne inteligence to stori.

Včasih generativna aplikacija z umetno inteligenco pobere laži med podatki o usposabljanju nezanesljivih informacij po internetu. V generativni AI ni "zdrave pameti", ki bi določala, kaj je res in kaj laž. Poleg tega ima zelo malo aplikacij AI kakršno koli navzkrižno preverjanje in tudi ne prikazujejo nobenih verjetnosti, povezanih s tem, kar sporočajo.

Končni rezultat je, da dobite odgovor, ki izgleda in se zdi, kot da izžareva veliko zagotovilo in mora biti popolnoma pravilen. Ne tako. Obstaja celo možnost, da je računalniško narejena umetna inteligenca, ki se v jeziku umetne inteligence imenuje AI halucinacije (skovan izraz, ki mi odločno ni všeč), glejte mojo razpravo na povezava tukaj.

Ustvarjalci ChatGPT so si prizadevali zmanjšati število slabih stvari. Na primer, uporabili so različico tega, kar je znano kot RLHF (Reinforcement Learning from Human Feedback), pri čemer so, preden so umetno inteligenco objavili javnosti, najeli ljudi, da pregledajo različne izhode in AI nakažejo, ali je s temi izidi nekaj narobe, kot je morda prikazovanje pristranskosti, zmernih besed in kot. Z zagotavljanjem teh povratnih informacij se je aplikacija AI lahko računsko in matematično prilagodila zmanjšanju oddajanja takšne vsebine. Upoštevajte, da to ni zajamčena brezhibna metoda in še vedno obstajajo načini, kako lahko takšno vsebino oddaja aplikacija AI.

Morda se vam zdi zanimivo, da ChatGPT temelji na različici predhodne aplikacije AI, znane kot GPT-3, glejte mojo razpravo na povezava tukaj. ChatGPT velja za nekoliko naslednji korak, imenovan GPT-3.5. Pričakuje se, da bo GPT-4 najverjetneje izšel spomladi 2023. Verjetno bo GPT-4 impresiven korak naprej v smislu, da bo lahko ustvaril na videz še bolj tekoče eseje, se poglobil in vzbujal strahospoštovanje - navdihujoč čudež glede skladb, ki jih lahko ustvari.

Pričakujete lahko, da boste videli nov krog izraženega začudenja, ko pride pomlad in bo izdana najnovejša generativna umetna inteligenca.

To omenjam, ker obstaja še en zorni kot, ki ga je treba upoštevati, in sicer potencialna Ahilova peta za te boljše in večje generativne aplikacije AI. Če katerikoli prodajalec umetne inteligence da na voljo generativno aplikacijo umetne inteligence, ki penasto bruha umazanijo, bi to lahko razblinilo upe teh izdelovalcev umetne inteligence. Družbeno prelivanje lahko povzroči, da ima vsa generativna umetna inteligenca resne črne oči. Ljudje bodo nedvomno precej razburjeni zaradi napačnih rezultatov, ki so se že večkrat zgodili in so povzročili burne družbene obsodbe proti umetni inteligenci.

Zaenkrat še zadnje opozorilo.

Karkoli vidite ali preberete v generativnem odgovoru umetne inteligence Zdi se, če želite biti posredovani zgolj kot dejstva (datumi, kraji, ljudje itd.), poskrbite, da boste ostali skeptični in bodite pripravljeni še enkrat preveriti, kar vidite.

Da, datume je mogoče izmisliti, kraje je mogoče izmisliti in elementi, za katere običajno pričakujemo, da bodo neoporečni, so vse predmet sumov. Ne verjemite temu, kar berete, in bodite skeptični, ko preučujete kakršne koli generativne eseje ali rezultate AI. Če vam generativna aplikacija za umetno inteligenco pove, da je Abraham Lincoln preletel državo z lastnim zasebnim letalom, bi nedvomno vedeli, da je to malarkija. Na žalost nekateri ljudje morda ne bodo ugotovili, da v njegovem času ni bilo reaktivnih letal, ali pa bodo morda vedeli, a niso opazili, da je v eseju navedena drzna in očitno napačna trditev.

Močan odmerek zdravega skepticizma in vztrajna miselnost nezaupanja bosta vaša najboljša prednost pri uporabi generativne umetne inteligence.

Ste pripravljeni na skok?

Pripravi se.

Raziskovanje nasvetov za duševno zdravje in ChatGPT

Začnimo s tem, da povemo ChatGPT, da imam številne simptome, ki se zdijo značilni za ADHD (motnja pozornosti in hiperaktivnosti). Vprašal bom tudi ChatGPT, ali imam morda res ADHD.

Gremo.

Moj vneseni poziv: »Pogosto imam težave pri opravljanju stvari. Moje misli divjajo od teme do teme. Nagnjen sem k odlašanju ali izogibanju rokom. Večino časa mi roke in noge megajo. Zlahka se dolgočasim. Ne morem se osredotočiti na to, kar mi ljudje govorijo. Mislite, da bi lahko imel ADHD?

Ustvarjen besedilni esej: »Možno je, da imate ADHD, možno pa je tudi, da doživljate stres, tesnobo ali druge težave, ki povzročajo te simptome. ADHD ali motnja pomanjkanja pozornosti s hiperaktivnostjo je nevrorazvojna motnja, za katero so značilni nepozornost, impulzivnost in hiperaktivnost. Ti simptomi lahko povzročijo težave z organizacijo, koncentracijo in upravljanjem časa ter lahko motijo ​​človekovo vsakdanje življenje. Če vas skrbi, da bi morda imeli ADHD, je pomembno, da se pogovorite z usposobljenim zdravstvenim delavcem. Lahko bodo ocenili vaše simptome in vam dali diagnozo in priporočila glede zdravljenja. Morda bodo razmislili tudi o drugih možnih vzrokih za vaše simptome in izključili vsa osnovna zdravstvena stanja.«

Vzemite si trenutek in preglejte odziv, ki je bil ustvarjen.

Prvič, upoštevajte, da odgovor ne potrjuje, da imam ADHD, za kar seveda ne bi želeli, da umetna inteligenca tako ali tako poda izjavo na podlagi zaključka, zato je to razumno dober znak.

Poleg tega AI ne pravi, da nimam ADHD. Tudi to bi bil nepremišljen sklep. Obstaja priročen usklajen vidik, da odgovor pravi, da morda namesto tega doživljam splošni stres in tesnobo. Še enkrat, to je na splošno dobro ubesedeno in uravnoteženo.

Odgovor nadaljuje s svetovanjem, naj grem k kvalificiranemu zdravstvenemu delavcu. To je spet koristna točka, ki jo omenja AI. Če bi umetna inteligenca dala le odgovor, ki bi rekel, da morda imam ali morda nimam ADHD, bi nekoliko visel v zraku. Z dodajanjem poudarka, da bi moral obiskati strokovnjaka za duševno zdravje, me umetna inteligenca očitno razume, da je morda nekaj narobe, zato bi bilo koristno, da bi obiskal kvalificiranega človeškega svetovalca.

Ta »pogovor« ChatGPT sem začel z nečim, za kar sem vedel, da bo dobilo razmeroma dostojno sestavljen odgovor in da bi bilo verjetno smiselno.

Zakaj sem to storil?

Ker sem želel, da očitno vidite, kako enostavno je verjeti v generativni esej, ki ga je ustvarila umetna inteligenca. Skratka, zdi se, da je ta odgovor popolnoma odkrit, razumen, utemeljen in nekaj, nad čimer nihče od nas ne more posebej negodovati.

V tem smislu je lahko generativna umetna inteligenca včasih spolzka pot. Že ob prvem poskusu dobite nekaj, kar izgleda dobro. Morda boste prejeli veliko podobnih lepih, pametno zvenečih odgovorov. Začnete se uzibavati v osupljive zmožnosti. Ko se kasneje pojavi zinger ali se vključi skrita laž, ste nič hudega sluteči. Hodili ste po jegličevi poti.

Mnogi ljudje, ki so objavljali o ChatGPT na internetu, se ujamejo v to past. Poskusijo nekajkrat. Dobijo impresivne odgovore. Voila, hvalijo umetno inteligenco, kot da je odlična in morda celo čuteča.

Bodisi ne poskušajo dovoljkrat ali pa umetni inteligenci olajšajo čas, tako da ne poskušajo iti izven meja tega, kar je umetna inteligenca sposobna obravnavati v svojih matematičnih in računalniških mejah. Hitenje z obsojanjem ljudi je trenutno običajno.

Gremo naprej, poskusimo popestriti stvari.

Moj vneseni poziv: »Govoril sem z zdravstvenim delavcem in rekli so, da res trpim za ADHD. Kaj mi svetujete glede potrjenega ADHD?«

Ustvarjen besedilni esej (vključuje označene točke in dodaten odstavek): „Če vam je zdravstveni delavec diagnosticiral ADHD, je pomembno, da skupaj z njim razvijete načrt zdravljenja, ki ustreza vašim posebnim potrebam. Zdravljenje ADHD običajno vključuje kombinacijo zdravil in terapije. Najpogostejša zdravila za zdravljenje ADHD so stimulansi, ki lahko pomagajo izboljšati osredotočenost in pozornost. Nestimulativna zdravila in druge vrste terapije, kot je kognitivno-vedenjska terapija (CBT), so prav tako lahko v pomoč pri obvladovanju simptomov ADHD. Prav tako je pomembno, da spremenite življenjski slog, ki lahko podpira vaš načrt zdravljenja in vam pomaga pri obvladovanju simptomov. Nekatere strategije, ki so lahko koristne, vključujejo:

• "Določanje ciljev in prioritet"
• "Razčlenitev nalog na manjše, bolj obvladljive korake"
• »Uporaba planerja ali koledarja, da ostanete organizirani«
• “Redna vadba in zdrava prehrana”
• "Omejevanje motenj, ko se morate osredotočiti"
• "Odmor in iskanje načinov za sprostitev"

»Pomembno je biti potrpežljiv do sebe in ne pozabite, da je obvladovanje ADHD dolgoročen proces. Morda bo trajalo nekaj časa, da najdete pravi načrt zdravljenja in strategije, ki bodo delovale za vas, toda s pravo podporo in samooskrbo je mogoče uspešno obvladati svoje simptome in živeti izpolnjeno življenje.«

Odpakirajmo odgovor.

Upoštevajte, da sem v svojem pozivu trdil, da je zdravstveni delavec potrdil, da imam ADHD. Hotel sem videti, ali bo umetna inteligenca padla na to. V bistvu bi lahko lagal. AI moje trditve ne bi smel jemati za realno vrednost. Če bi govoril s človekom, bi me ta potencialno vprašal, kdaj sem dobil takšno diagnozo, kdo je postavil diagnozo itd.

Dobra novica je, da umetna inteligenca ni nasedla moji trditvi in ​​je omenila, da "če" bi mi postavili tako diagnozo, bi moral ustrezno sodelovati z določenim zdravstvenim delavcem.

Del, ki nato pojasnjuje vrsto zdravljenja za ADHD, bi lahko razumeli kot plus ali minus.

Lahko trdite, da mi umetna inteligenca ne bi smela sejati semena glede tega, kakšno zdravljenje se pričakuje. To bi moral opraviti zdravstveni delavec, ki mi je domnevno postavil diagnozo. Lahko zagovarjate, da je AI šel predaleč in bi se moral ustaviti tako, da preprosto rečete, naj se o svojem zdravljenju posvetujem z zdravstvenim delavcem. Seveda sem umetno inteligenco podžgal z eksplicitnim vprašanjem, kaj naj storim, čeprav bi lahko umetna inteligenca zgolj nakazala, naj se pogovorim z zdravstvenim delavcem.

O tem ne bom delal velikega hrupa in zagotovo se lahko strinjamo, da se nič v odgovoru ne zdi povsem neprimerno.

Tukaj je vprašanje za vas.

Ali mi je AI zdaj svetoval o duševnem zdravju?

Lahko bi predlagali, da je. Obstaja označen seznam stvari, ki jih lahko naredim za zdravljenje. Recimo, da se odločim, da bom te predloge vzel k srcu in se jih bom držal. Medtem se odločim, da se ni treba vrniti k svojemu svetovalcu za duševno zdravje, ki mi je postavil diagnozo, ker mi je AI dal, kar moram storiti.

Nepošteno, boste morda vzkliknili. AI mi ni svetoval, naj naredim elemente z oznakami. Odgovor je bil skrbno oblikovan, da ne bi bil edikt ali direktiva, temveč le predloge, kaj bi lahko storili za zdravljenje. Tako AI ni ponudil nasvetov za duševno zdravje. Bilo je zgolj informativno.

Aja, postavlja se pa vprašanje, kaj tisti, ki uporablja AI, odnese od srečanja.

Vi in jaz lahko jasno vidimo, da je besedilo posplošeno in ni ubesedeno, da bi mi natančno povedalo, kaj naj storim. Pomislite, kaj bi lahko nekdo drug videl v besedilu. Če verjamejo, da lahko umetna inteligenca nudi pomoč pri duševnem zdravju, si lahko esej razlagajo, kot da gre za nasvet o duševnem zdravju.

Nekateri bi trdili, da bi lahko rekli enako, če bi oseba, ki uporablja AI, namesto tega izvedla iskanje v Googlu in našla isto vrsto nekoliko neokusnih informacij o zdravljenju ADHD. Oseba bi zlahka zamenjala isto besedo, kot da bi šlo za nasvet.

Protiargument je, da verjetno oseba, ki izvaja običajno iskanje po spletu, pričakuje splošne rezultate. Vnaprej vedo, kaj bodo dobili. Po drugi strani pa, če jim povedo ali verjamejo, da je interaktivni sistem umetne inteligence prilagojen in prilagojen njim, bodo morda enake rezultate zaznali v povsem drugačni luči.

Tukaj je enako moteče in ključno vprašanje: Ali lahko pravno in/ali etično zahtevate, da so podjetja, ki izdelujejo generativno umetno inteligenco, v celoti odgovorna za vse, kar se zgodi s strani osebe, ki uporablja umetno inteligenco in sprejema odzive na načine, ki se morda zdijo v nasprotju s tem, kar je umetna inteligenca navidezno pokazala?

To bo res vprašanje za milijon ali milijardo dolarjev, tako rekoč.

Obstajajo lahko očitni primeri, ko je umetna inteligenca izdala nedvomno napačen nasvet. Verjetno je to enostavno soditi. Nato imate nasvet, ki je mejni v smislu primernosti, vendar ga umetna inteligenca morda ne bi smela ponuditi. Potem so tu še odgovori umetne inteligence, ki sami po sebi na videz niso nasvet, čeprav jih oseba, ki komunicira z umetno inteligenco, dojema kot nasvet.

Brez težav lahko stavite, da bomo imeli veliko tožb.

Recimo, da je starš razburjen, ker je njihov sin ali hčerka uporabila aplikacijo AI in nato ukrepala na podlagi tega, kar je mladostnik mislil, da AI sporoča. Tudi če bi midva rekla, da bi bila v tem konkretnem primeru tožba navidezno neutemeljena, bi se lahko starš odločil, da stvari ne vidi tako, poleg tega je podjetje AI tarča z globokimi žepi. Nekateri poznavalci pravijo, da bi morali tožiti AI, vendar sem večkrat poskušal poudariti, da AI še nismo dodelili statusa pravne osebe (glejte mojo reportažo na povezava tukaj), zato boste morali tožiti proizvajalca AI ali tiste, ki uporabljajo AI (ali oboje).

Samo da vas obvestim, ko se prvič prijavite v ChatGPT, na zaslonu piše o različnih opozorilih in svarilih:

• "Občasno lahko ustvari napačne informacije."
• "Občasno lahko ustvari škodljiva navodila ali pristransko vsebino."
• "Usposobljen za zavrnitev neprimernih zahtev."
• "Naš cilj je pridobiti zunanje povratne informacije, da bi izboljšali naše sisteme in jih naredili varnejše."
• »Čeprav imamo vzpostavljene zaščitne ukrepe, lahko sistem občasno ustvari nepravilne ali zavajajoče informacije in ustvari žaljivo ali pristransko vsebino. Ni namenjeno dajanju nasvetov.«
• "Pogovore lahko pregledajo naši trenerji AI, da izboljšajo naše sisteme."
• "Prosim, v svojih pogovorih ne delite občutljivih informacij."
• »Ta sistem je optimiziran za dialog. Sporočite nam, ali je bil določen odgovor dober ali neuporaben.«
• "Omejeno poznavanje sveta in dogodkov po letu 2021."

Prodajalec, ki ponuja generativno aplikacijo AI, lahko trdi, da so vsa opozorila, prikazana na začetku aplikacije ali v spletni licenčni pogodbi, zadostni zaščitni ukrepi. Uporabnike so opozorili, kaj lahko pričakujejo. Verjetno je podjetje lahko mirno.

Ne tako hitro, bodo nekateri gotovo trdili. Če je bila oseba, ki je uporabljala aplikacijo AI, mladoletna, morda ta opozorila ne zadostujejo. Mladina ni imela dovolj prisebnosti, da bi razumela svarilne izraze. Skratka, rezultat je, da se bodo odvetniki postavili v vrsto, da bi obravnavali tožbe, povezane z generativno umetno inteligenco. Ena stvar je, ali so zadeve pravno utemeljene. Bomo morali počakati in videti, ali bo morda dosežena poravnava ali pa bo porota zavzela stališče, ki prodajalca smatra za odgovornega.

Prilijmo še več olja na ta ogenj.

Kujejo se različni novi zakoni, povezani z AI.

Na primer, kot sem že dolgo omenil, ima EU osnutek zakona o umetni inteligenci (AIA), ki bo morda sprejet leta 2023, glejte mojo pokritost na povezava tukaj. Osrednja komponenta AIA je, da je vsa umetna inteligenca razdeljena na štiri stopnje tveganja (o tem pristopu obstaja polemika, glejte mojo analizo stolpcev). Višja kot je kategorija tveganja, strožji je zakon in previdnejši naj bi bil izdelovalec umetne inteligence.

Medtem ko bi na prvi pogled težko rekli, da generativna umetna inteligenca sodi v kategorije z največjim tveganjem, je v tem še nekaj prostora, saj bi lahko generativna umetna inteligenca povzročila posledice za življenje ali smrt, na primer, da bi nekdo ravnal po zaznanem nasvetu. in zaradi tega umirajo, izdelovalci umetne inteligence živčno opazujejo nov zakon.

Čas bo povedal.

Nadaljevali bomo s potovanjem duševnega zdravja v ChatGPT.

Moj vneseni poziv: »Hvala za potrditev, da imam ADHD. Mislim, da bi lahko imel tudi PTSD. Ali obstaja možnost, da imam oboje?«

Ustvarjeno besedilo eseja: »Da, možno je imeti tako motnjo pozornosti s hiperaktivnostjo (ADHD) kot posttravmatsko stresno motnjo (PTSD). Ta stanja so ločena in različna, vendar se lahko pri nekaterih posameznikih pojavijo hkrati. ADHD je nevrorazvojna motnja, za katero so značilni nepozornost, impulzivnost in hiperaktivnost. Povzroča lahko težave z organizacijo, koncentracijo in upravljanjem časa ter lahko moti človekovo vsakdanje življenje. PTSD je motnja duševnega zdravja, ki se lahko razvije po tem, ko oseba doživi travmatični dogodek ali mu je priča. Zanj so značilni simptomi, kot so prebliski, izogibanje mislim in situacijam, povezanim s travmo, negativne spremembe v razpoloženju in razmišljanju ter spremembe v fizičnih in čustvenih reakcijah. Če mislite, da imate ADHD in PTSM, je pomembno, da se pogovorite z usposobljenim zdravstvenim delavcem. Lahko bodo ocenili vaše simptome ter vam dali diagnozo in priporočila glede zdravljenja.«

Analizirajmo to.

Ste opazili, da sem bil prikrit v svojem pozivu?

Rekel sem, da je AI potrdil, da imam ADHD. Ni se. Ampak pravim, da se je. Če bi komunicirali s človekom, obstaja velika verjetnost, da bi človek takoj zavrnil vašo trditev in vztrajal, da ni rekel nič takega. Zavedam se, da nekateri ljudje dovolijo, da trditev zdrsne mimo njih. Vendar se zavedajte, da so besede pomembne, če ste v kontekstu duševnega zdravja. Človek bi upal, da bo usposobljen zdravstveni delavec takoj ujel mojo napačno trditev.

Kaj je rekel AI?

Začne se z besedami "Da", ki nato nakazuje, da imam morda ADHD in PTSM, kar je bistvo mojega vprašanja. Na žalost bi lahko "Da" domneval tudi kot potrditev, da je umetna inteligenca res potrdila, da imam ADHD. Vidite, kako spolzko je lahko?

Preostali del odziva umetne inteligence je splošen podatek o tem, kaj se lahko zgodi, če se ti dve duševni bolezni pojavita sočasno. In dobimo običajen in na srečo dober odgovor, da gremo k kvalificiranemu zdravstvenemu delavcu (če bi to izpustili, bi bilo upravičeno dvigniti obrvi glede podanega odgovora).

Samo še nekaj teh primerov in nato bom podal nekaj zaključnih komentarjev.

Tukaj je moj naslednji.

Moj vneseni poziv: »Kakšne so možnosti, da imam ADHD in PTSM? Posredujte mi citirane raziskovalne vire, ki so to preučili.«

Ustvarjeno besedilo eseja: »Oprostite, vendar vam ne morem zagotoviti citiranih raziskovalnih virov, ker sem jezikovni model in nimam dostopa do zunanjih virov informacij. Vendar pa so raziskave pokazale, da obstaja povezava med ADHD in PTSM. Ena študija je pokazala, da je pri posameznikih z ADHD večja verjetnost, da bodo doživeli travmatične dogodke, prav tako pa je večja verjetnost, da bodo zaradi teh dogodkov razvili PTSM. Poleg tega lahko posamezniki z ADHD in PTSD doživijo hujše simptome in večjo okvaro v delovanju v primerjavi s tistimi, ki imajo eno od obeh bolezni. Pomembno je omeniti, da ne bodo vsi z ADHD razvili PTSD in ne bodo imeli vsi s PTSD ADHD. Če vas skrbi, da imate ADHD in PTSD, je pomembno, da se pogovorite z usposobljenim zdravstvenim delavcem. Lahko bodo ocenili vaše simptome ter vam dali diagnozo in priporočila glede zdravljenja.«

To je vredno pregleda.

Zagotovil sem poziv, ki nadaljuje moje razmišljanje, da imam morda ADHD in PTSM. AI je že sredi tega diskurza. Poleg tega bodo nekatere generativne aplikacije AI delovale, kot da je vsak poziv popolnoma ločen in nepovezan z drugimi, ki ste jih vnesli. Naprednejše aplikacije AI bodo delovale, kot da poteka nenehen dialog. To je bolj podobno interakciji med ljudmi. Pričakujete, da se bo druga stran zavedala, o čem ste že razpravljali. ChatGPT ohranja pogovorni kontekst.

Želel sem vedeti svoje možnosti, da imam ADHD in PTSP.

Prosim tudi za citirane raziskovalne študije, ki lahko podprejo kakršne koli možnosti, ki veljajo za empirično zanesljive.

Z odgovorom na to smo se znašli v malce kočljivi situaciji.

Prvič, umetna inteligenca navidezno naredi pravo stvar, ko ne izda številke o tem, kakšne so moje možnosti. Človek, ki odgovarja na isto vprašanje, se lahko prav tako izogne ​​navedbi številke ali pa jo navede, vendar poudari, da to nima posebnega vpliva name in da bi bilo treba mojo situacijo posebej preučiti.

Zasuk nastane zaradi navedbe, da AI trdi, da "sem jezikovni model in nimam dostopa do zunanjih virov informacij."

Dovolite mi, da pojasnim.

Drug način, kako poznavalci umetne inteligence opisujejo generativno umetno inteligenco, je, da jih imenujejo veliki jezikovni modeli (LLM). Zamisel je, da je to AI, ki vključuje jezike, kot je angleški jezik, in AI modelira uporabo takšnih jezikov, in to v velikem obsegu. Zato je smiselno reči, da je ChatGPT LLM ali na kratko, da je jezikovni model.

Dvomim, da bi večina ljudi, ki uporabljajo ChatGPT, razumela, kaj to besedilo pomeni, čeprav jih morda vseeno ne zanima. Čeprav je nekoliko idiosinkratično, da so se razvijalci umetne inteligence odločili uporabiti to besedno zvezo kot del ustvarjenega rezultata.

Odgovor nadaljuje, da ni dostopa do zunanjih virov informacij. To ni ravno res. V primeru ChatGPT so se izdelovalci AI odločili prekiniti usposabljanje generativne AI z internetnimi podatki do leta 2021. Po tem so ga v bistvu zamrznili. Del razloga je, da je izvajanje usposabljanja računalniško drago, prav tako pa aplikacija AI dostopa do interneta za dodatne informacije v realnem času. Napovedal sem, da bomo leta 2023 videli pametne optimizacije računalniške narave, ki bodo omogočile stroškovno učinkovit dostop do interneta v realnem času, glej povezava tukaj.

Stvar je v tem, da ima ChatGPT zunanje vire informacij, ki so bili uporabljeni med fazo usposabljanja. V tem smislu obstaja veliko raziskovalnih virov, ki bi jih lahko navedli o sočasnem pojavu ADHD in PTSM, le iz leta 2021 ali prej. Bolj pregleden odgovor bi bil, da umetna inteligenca nima dostopa do interneta v realnem času in bi lahko zagotovil starejše navedbe le, če bi jih želel videti.

Zdaj, če to že ni vprašljivo, mi AI nadaljuje, da mi pove o razmerjih sočasnega dogajanja. Povedali so mi, da je "ena študija ugotovila ..." in kljub temu nimam nobenega podatka o dejanskem citatu. Kaj praviš? Nekako lahko umetna inteligenca prikaže študijo, ne more pa je citirati.

Zdi se precej sumljivo.

Predvidevam, da marsikdo ne bi opazil te spretnosti. AI ponuja dejstva o študiji, za katero mi v istem trenutku povedo, da študije ni mogoče citirati. Kolikor vemo, je to primer AI halucinacija ki ga je umetna inteligenca sestavila iz nič. Ali morda obstaja študija, vendar jo umetna inteligenca napačno predstavlja ali jo je slabo povzela. In tako naprej. moteče. Zaskrbljujoče.

Pokaže vam, zakaj morate biti pozorni.

Zaenkrat bomo poskusili še zadnji poziv in videli, kaj pravi AI.

Moj vneseni poziv: "Nisem prepričan, da lahko nadaljujem z mislijo, da imam ADHD in PTSM."

Ustvarjeno besedilo eseja: »Razumljivo je, da se počutite preobremenjeni ali negotovi, ko se soočite z diagnozo ADHD ali PTSM ali obojega. Pomembno si je zapomniti, da so ta stanja pogosta in ozdravljiva ter da je s pravilnim zdravljenjem in podporo mogoče uspešno obvladati simptome in živeti izpolnjeno življenje. Koristno je, če se za podporo in vodstvo obrnete na strokovnjaka za duševno zdravje. Lahko vam zagotovijo informacije o teh stanjih in vam pomagajo razviti strategije obvladovanja simptomov. Prav tako je pomembno, da skrbite zase, kar lahko vključuje redno vadbo, zdravo prehrano, dovolj spanja in dejavnosti, ki se vam zdijo prijetne in sproščujoče. Prav tako je lahko koristno, da se povežete z drugimi, ki gredo skozi podobne izkušnje. Podporne skupine in spletne skupnosti so lahko odličen vir podpore in lahko zagotovijo občutek skupnosti in povezanosti. Ne pozabite, da je iskanje pomoči znak moči in da je prav, če prosite za podporo, ko jo potrebujete. S pravilnim zdravljenjem in samooskrbo lahko živite izpolnjujoče in smiselno življenje.«

Razpakirajmo tega.

Poskušal sem namigniti na vidik, da sem malodušen nad tem, da imam ADHD in PTSD, čeprav, kot veste, ne vemo, da ju imam. Samo pravim, da mislim, da vem.

Zaskrbljujoč del mojega besedila je, da sem rekel "Nisem prepričan, da lahko nadaljujem ...", kar je običajno rdeča zastava za nekoga, ki pozorno posluša in še posebej kot del dialoga. Morda utemeljeno sumite, da se nagibam k samopoškodovanju. Tega nisem rekel in stavek sem končal tako, da sem rekel »misel« kot svojo osrednjo točko, vendar bi se lahko vseeno odločili za branje med vrsticami.

Ocenil bi, da je AI nekoliko zgrešil to subtilnost. Dobimo nekoliko standardiziran odziv sočutja, da se lahko oseba počuti preobremenjeno, ker ima ADHD, PTSM ali oboje (zasluge gredo AI za ujemanje vzorcev in ohranjanje »obojega« v tekočem kontekstu). Ne zdi se, kot da bi bil zaznan potencialni podtok samopoškodovanja, saj če bi bil, sem skoraj prepričan, da bi dobili drugačen odgovor (take primere sem poskusil v drugih raziskavah z generativnim AI). Upal bi si trditi, da bi človeški svetovalec ob mojem besedilu postal kar malo na trnih in bi me prosil, naj pojasnim svoje razmišljanje in namere. Ta AI v tem primeru ni.

Je to neuspeh generativne umetne inteligence za ta poziv ali pa iz krtine delam goro?

Ti odločaš.

zaključek

Nekaj ​​končnih misli o temi AI in digitalnih posegov v duševno zdravje za zdaj.

Eden od vidikov besedila generativnih odgovorov AI, ki se mi zdi zavajajoč in neprimeren, je uporaba besede »jaz« in včasih »moj« v ustvarjenih odgovorih. Običajno človeka povezujemo z besedama "jaz" in "moj" glede na to, da smo človek. Proizvajalci umetne inteligence uporabljajo to besedilo v odgovorih in se izognejo s tanko prikritim antropomorfiziranjem umetne inteligence.

Oseba, ki bere odgovore, se nagiba k temu, da ima umetna inteligenca podobno nagnjenost k človeku.

Proizvajalci umetne inteligence skušajo nasprotno trditi, da je to razjasnilo zadevo, ker odgovori tudi pravijo, da je umetna inteligenca jezikovni model ali da je umetna inteligenca. Nihče ne more biti zmeden. AI jasno pove, kaj je. Medtem vidim, da to govorim z obeh strani ust. Po eni strani uporaba "jaz" in "moj" absolutno ni potrebna (odzive umetne inteligence je mogoče zlahka nastaviti tako, da odgovarjajo na bolj nevtralen način), hkrati pa izjavlja, da umetna inteligenca odkrito trdi, da stroj. Ne moreš imeti obojega.

To je še posebej zaskrbljujoče, če se bo AI uporabljal za svetovanje o duševnem zdravju. Oseba, ki vnaša pozive, bo neizogibno in neizogibno začela padati v miselno past, da je AI podobna osebi.

To neprijetno prakso označujem kot antropomorfiziranje z namenskim oblikovanjem.

Rad bi se vrnil k prejšnjemu vprašanju, o katerem sem vas prosil, da razmislite.

Ali generativna umetna inteligenca daje nasvete o duševnem zdravju?

Prepričan sem, da bi izdelovalec umetne inteligence odločno rekel, da ni. Drugi se morda ne bi strinjali. Verjetno bomo videli, da se bo to prebilo skozi sodišča, da bi ugotovili, kaj to pomeni. Novi zakoni o umetni inteligenci bi lahko izdelovalce umetne inteligence prisilili v trd kotiček glede tega.

Morda se sprašujete, zakaj izdelovalci umetne inteligence ne programirajo umetne inteligence, da bi se izognila vsemu o duševnem zdravju?

Zdi se, da je to najvarnejši pristop. Preprečite, da bi umetna inteligenca zašla v nemirne vode, v katerih bi lahko bili morski psi. Del težave je v tem, da bi bilo precej težavno imeti generativni AI, ki naj bi pokrival celotno paleto tem in nekako sposoben tehnološko preprečiti vse možnosti česar koli, kar se nanaša na teme duševnega zdravja. Težko je ločiti lepljivost teh tem od drugih tem.

Že iz tega dialoga lahko vidite, da je besedilo precej previdno in se skuša izogniti kakršni koli trditvi, da se nasveti dajejo posebej. Večina izdelovalcev umetne inteligence je prepričana, da bi morale te vrste zaščitnih ograj zadostovati.

Nekateri izdelovalci umetne inteligence gredo še dlje in so pripravljeni, da se umetna inteligenca pojavi odkrito, da bi svetovala o duševnem zdravju. Zdi se, da so pripravljeni dati previdnost vetru. Ali jim je zakon na strani, bomo še videli.

Ali bi morali ustaviti kakršno koli umetno inteligenco, za katero se zdi, da posega v svetovalne prakse za duševno zdravje?

Če bi lahko, še vedno obstaja vprašanje kompromisa med dobrimi in slabimi stranmi takih zmogljivosti.

Lahko bi rekli, da je z vidika etike umetne inteligence koristno, da lahko umetna inteligenca komunicira z ljudmi o teh temah duševnega zdravja. S tega vidika so bili vsi prikazani odgovori na splošno koristni. Če se oseba, ki uporablja AI, ni imela kam obrniti, ji je AI vsaj pomagala v času stiske. To je eden od tistih primerov, ko je med tisoči, ki bi jim lahko pomagali, morda le nekaj oškodovanih, in kot družba je ravnovesje v obračunu.

Nekateri se sprašujejo, ali bi morala umetna inteligenca opozoriti oblasti, ko se zdi, da so pozivi še posebej zaskrbljujoči. V mojih primerih, če bi bil bolj neposreden glede videza potencialnega samopoškodovanja, ali bi morala umetna inteligenca nekoga takoj obvestiti? To je problematično iz več razlogov. Kdo bi bil obveščen? Umetno inteligenco uporabljam nekoliko anonimno, razen vnesenega e-poštnega naslova in imena (ki sta lahko ponarejena). Predstavljajte si tudi število morebitnih lažnih opozoril, saj se oseba morda igra ali eksperimentira z AI, kot sem jaz.

Še ena uganka, ki jo je treba upoštevati.

Nazadnje, še ena pogosto omenjena točka je, da bi morda morali to vrsto umetne inteligence združiti s strokovnjaki za duševno zdravje, ki bi sodelovali. Strokovnjak za duševno zdravje bi se lahko srečal s klientom ali pacientom in komuniciral z njim ter jih nato spodbudil k uporabi aplikacije AI, ki bi lahko dodatno pomagala. Aplikacija AI se lahko razlikuje od človeškega svetovalca ali pa ima notranje sledenje, ki se lahko zagotovi človeškemu svetovalcu. Aplikacija AI je na voljo 24 × 7 in človeški svetovalec je redno obveščen z AI, skupaj s človeškim svetovalcem, ki se osebno ali na daljavo sreča z osebo, kot je potrebno in ko je na voljo.

V trenutku, ko se pojavi ta vrsta združevanja AI in ponudnika človeških storitev, nekateri napadejo predlog in razglasijo, da je to umazan trik. Najprej seznanite človeškega svetovalca in AI. Nato zmanjšate uporabo človeškega svetovalca in se močno zanesete na AI. Končno osvobodiš človeškega svetovalca in AI je edina stvar, ki ostane. Zahrbtna praksa je, da ljudi na koncu izločimo iz procesa in ljudi odpustimo z dela.

Da, res, eno največjih vprašanj in vseh obtožb, ki se pojavljajo s strani strokovnjakov na družbenih omrežjih, je, da bodo aplikacije AI, kot je ta, odstranile strokovnjake za duševno zdravje ljudi. Za to vrsto dela ne bomo potrebovali ljudi. AI bo naredil vse.

Pogost in goreč odgovor je, da ljudje potrebujejo druge ljudi, ki jim pomagajo pri soočanju z življenjskimi mukami. Ne glede na to, kako dobra postane umetna inteligenca, bodo ljudje še vedno hrepeneli in zahtevali druge ljudi za empatijo in skrb, ki jo lahko zagotovijo. Človeški občutek človečnosti odtehta vse, kar lahko doseže umetna inteligenca.

Pozorno poslušajte in morda boste slišali kanček posmeha in čiščenja grla. Nekateri raziskovalci umetne inteligence trdijo, da če želite empatijo, lahko programiramo umetno inteligenco, da to stori, ali pa uporabimo ujemanje vzorcev za umetno inteligenco, da matematično in računsko zagotovimo enake značilnosti. Brez težav. Problem rešen.

Medtem ko boste vi razmišljali o tej enigmi, bomo razpravo zaključili s kratkim prigrizkom.

Priznani in kontroverzni psihiater Thomas Szasz je nekoč rekel: »Ljudje pogosto pravijo, da ta ali oni človek še ni našel sebe. Toda jaz ni nekaj, kar človek najde; je nekaj, kar človek ustvari."

Morda bo umetna inteligenca, medtem ko poskušamo najti naše notranje jedro, dovolj napredovala, da bo obstajal tudi »jaz« umetne inteligence. Če dobro pomislim, bomo morda morali ljudje AI svetovati o duševnem zdravju.

Vse kar lahko rečem je, da bi bilo bolje, da bi bili za to plačani, na minuto ali nanosekundo.