Razjarjene skrbi, da Generative AI ChatGPT spodbuja študente k velikemu goljufanju pri pisanju esejev, vzbudi očarano pozornost za etiko umetne inteligence in pravo umetne inteligence

Je pisni esej sodobnih študentov nikoli več?

Ali gre študentska seminarska naloga, polna tesnobe, mrzlično skozi okno?

To je bruhaha, ki je nedavno izbruhnila v vsesplošno razburjenje. Vidite, pojav aplikacije AI, znane kot ChatGPT, je pritegnil veliko pozornosti in prav tako veliko jeze. Za mojo celovito pokritost ChatGPT glejte povezava tukaj. Za moje stalno in obsežno pokrivanje etike in prava umetne inteligence glejte povezava tukaj in povezava tukaj, samo da navedem nekaj.

Bistvo vpitja in tulenja je, da je ta vrsta umetne inteligence, ki se običajno imenuje generativni AI, bo smrtni zvon za študente, naj opravijo naloge v slogu eseja.

Zakaj tako?

Ker je najnovejša generativna umetna inteligenca sposobna ustvariti navidezno tekoče eseje s samim vnosom preprostega poziva. Če vnesete vrstico, kot je »Povej mi o Abrahamu Lincolnu«, bo umetna inteligenca ustvarila esej o Lincolnovem življenju in času, ki je pogosto dovolj dober, da bi ga zamenjali, da so ga v celoti in izključno napisale človeške roke. Poleg tega, kar je prava zanimivost, esej ne bo dvojnik ali opazna kopija nečesa drugega, kar je že napisano na isto temo. Izdelava eseja bo v bistvu "izvirnik", kolikor bi lahko ugotovil vsak naključni pregled.

Študent, ki se sooči s pisno nalogo, lahko preprosto prikliče eno od teh generativnih aplikacij AI, vnese poziv in voila, njihov celoten esej je bil napisan zanj. Samodejno ustvarjeno besedilo morajo samo izrezati in prilepiti v prazen dokument, nanj prikrito vnesti svoje ime in podatke o razredu ter z nekoliko pogumne bravure nadaljevati in ga predati kot svoje delo.

Možnosti, da bi učitelj lahko ugotovil, da je esej napisal umetna inteligenca in ne učenec, so skoraj enake ničli.

Škandalozno!

Naslovi časopisov so naglo razglašali, da smo dosegli grenak konec tega, da študentje pišejo eseje ali v bistvu opravljajo kakršne koli pisne naloge izven razreda. Zdi se, da je edino sredstvo za spopadanje s situacijo pisanje esejev v razredu. Ko so učenci v nadzorovanem okolju, kot je učilnica, in domnevajo, da nimajo dostopa do prenosnih računalnikov ali pametnih telefonov, se bodo znašli omejeni na pisanje esejev na staromoden način.

Če pojasnimo, staromoden način pomeni, da bodo morali pisati izključno z uporabo lastnih nožic.

Kakršen koli esej, narejen zunaj učilnice, bo takoj sumljiv. Je študent napisal esej ali je to storila aplikacija z umetno inteligenco? Kot smo že omenili, bo esej tako dobro napisan, da ne boste zlahka ugotovili, da ga je napisal stroj. Črkovanje bo brezhibno. Sintaksa bo ogromna. Linija diskurza in morebitnih pripravljenih argumentov bo prepričljiva.

Hudiča, na nek način bi lahko predlagali, da bo generativni AI nagnil svojo pregovorno roko tako, da bo naredil esej, ki presega zmožnosti študenta, ki se odloči za to nečedno pot. Učitelj lahko postane sumničav zgolj zato, ker je esej nekoliko predober. Pametnega učitelja bi zamikalo uganiti, da učenec ne bi mogel napisati tako elegantne in nepredušne proze. Začnejo zvoniti interni alarmi.

Seveda bo izzivanje študenta glede njegovega eseja grdo in ima lahko škodljive posledice.

Recimo, da je študent skrbno napisal esej, popolnoma sam. Morda so dvakrat ali trikrat preverili. Obstaja tudi možnost, da so morda prosili prijatelja ali znanca, da pogleda, da bi ugotovil, kaj potrebuje dodatno poliranje. Vse skupaj je še vedno njihov esej, kot so ga napisali sami. Predstavljajte si učitelja, ki temu resnemu in marljivemu študentu postavlja ostra vprašanja o eseju. Zadrega in žalost ob v bistvu obtoženih goljufanja sta očitna, tudi če učitelj tega ne trdi naglas. Samo soočenje je dovolj, da spodkoplje spoštovanje študenta in povzroči, da se počutijo lažno obrekovane.

Nekateri vztrajajo, da bi moral vsak učitelj, ki sumi o avtorstvu eseja, od študenta zahtevati, da pojasni, kaj je napisal. Verjetno, če je esej napisal študent, ga lahko določen študent ustrezno razloži. Učitelji že več eonov izvajajo tovrstne preiskave. Študent je morda nategnil drugega študenta, da namesto njega napiše esej. Študent je morda dobil starša, da napiše njegov esej. V današnjem svetu lahko študent plača nekomu prek interneta, da na skrivaj napiše esej v njegovem imenu.

Zato je zahteva od študenta, da preveri avtorstvo s poizvedbo v učilnici, običajno in ni nič posebnega.

Vesel sem, da si to izpostavil.

Poskus blagega ali dokazljivega tarnanja študenta ni ravno tako preprost lakmusov test, kot bi si mislili. Študent bi lahko natančno preučil esej, ki ga je ustvarila umetna inteligenca, in se pripravil na morebitno zaslišanje.

Razmislite o tem na ta način. Študent najprej ustvari esej zgolj s pritiskom na gumb. Študent nato porabi veliko časa, ki bi ga posvetil pisanju eseja, namesto da bi natančno preiskoval in študiral esej. Čez nekaj časa se besede skoraj popolnoma zapomnijo. Študent se skoraj zavede, da verjame, da je res napisal esej. Ta videz samozavesti in zavedanja bi jih zlahka spravil skozi učiteljev nadzor.

Aha, nekateri pravijo z nekoliko nasprotja strahu pred generativnimi aplikacijami umetne inteligence, upoštevajte, da se je študent dejansko nekaj »naučil«, ko je ustvaril esej. Seveda učenec ni delal dela, da bi raziskal temo, niti ni sestavil eseja, vendar kljub temu, če so pozorno preučili esej, se zdi, da kaže, da so se naučili o dodeljeni temi. Učenec, ki se zaveže, da se bo esej o Lincolnu naučil na pamet, se je verjetno naučil nekaj bistvenega o Lincolnu.

Učenje se je zgodilo.

Vau, odgovor se glasi, dodelitev je bila verjetno dvojen proces. Učenje o Lincolnu je bilo morda relativno drugotnega pomena. Pravi namen je bil, da se učenec nauči pisati. Ta bistveni del naloge je bil popolnoma spodrezan. Učitelji pogosto dodelijo odprte teme in v resnici le želijo, da učenec pridobi izkušnjo pisanja. Postaviti morate, kaj želite napisati, ugotoviti morate besede, ki jih boste uporabili, besede morate postaviti v razumen nabor stavkov in odstavkov itd. Zgolj branje eseja, ki ga ustvari umetna inteligenca, se sploh ne ujema s tem temeljnim vidikom esejske naloge.

Protiudarec temu je trditev, da se študent potencialno uči pisanja s podrobnim preučevanjem pisanja, ki ga ustvari umetna inteligenca. Ali ne preučujemo vsi velemojstrov pisanja, da bi videli, kako pišejo? Naše pisanje je poskus doseči Shakespeareja in druge velike pisatelje. Preučevanje pisane besede je veljavno sredstvo za pridobivanje znanja o tem, kako pisati.

Kot na hudi teniški tekmi se žogica premakne na drugo stran mreže. Čeprav je učenje dobrega pisanja dobro, morate na koncu pisati, če želite biti sposobni pisati. Ne morete kar neskončno brati in potem prazno domnevati, da učenec zdaj zna pisati. Morajo pisati, pisati in pisati, dokler ne bodo sposobni oprijemljivo pokazati in izboljšati svojih pisnih sposobnosti.

Ali vidite, da je vse to prava uganka?

Zavedajte se, da je pri vsem tem približno milijon ali več preobratov.

Pokril bom nekaj bolj domiselnih in zanimivih preobratov.

Uravnavanje eseja s pomočjo umetne inteligence

Ko smo pravkar omenili Shakespeara, je tukaj vidik generativne umetne inteligence, ki bi vas lahko presenetil. V mnogih generativnih aplikacijah AI lahko rečete nekaj takega: "Napišite esej o Lincolnu, kot da bi ga Shakespeare napisal." Umetna inteligenca bo poskušala ustvariti esej, za katerega se zdi, da je napisan v jeziku, ki ga Shakespeare običajno uporablja v svojih spisih. To je zelo zabaven in privlačen podvig za ogled in mnogi se ob tem kar navdušijo.

Kako je to povezano s študentom, ki "goljufa" z uporabo generativne umetne inteligence za pisanje svojih esejev?

V mnogih generativnih aplikacijah AI lahko umetni inteligenci naročite, naj piše na manj kot zvezdniški način. Umetna inteligenca si bo prizadevala ustvariti esej, ki bo po robovih nekoliko grob. Tukaj ali tam so težave s sintakso. Logika eseja je lahko poskočna ali rahlo nepovezana.

To bi bila premetena zvijača. Učenec vzame nastali esej in ga odda. Esej je dovolj dober, da dobi najvišjo oceno, vendar ni tako popoln, da bi povzročil jezo učitelja. Umetna inteligenca je spet opravila vse delo namesto študenta, vključno s tem, da je esej naredil nekoliko nepopoln.

Poleg tega vam večina generativnih aplikacij AI omogoča, da aplikacijo uporabljate, kolikor želite. Evo, kako se to igra. Študent vnese, da naj bi aplikacija AI naredila nekoliko nepopoln esej o Lincolnu. Esej je izdelan. Študent pogleda esej in ugotovi, da je še vedno preveč popoln. Študent vnese še en poziv, ki umetni inteligenci naroči, naj naredi nepopolnosti bolj izrazite.

Pene, sperite, ponovite.

Študent nenehno vnaša pozive in pregleduje izdelane eseje. Vedno znova se to dogaja. Sčasoma študent AI doseže ravno pravo raven nepopolnosti v eseju. Zlatolaska različica je bila dosežena. Je ravno dovolj popoln, da dobi visoko oceno, in ravno dovolj nepopoln, da ne zbuja sumov.

Prepričan sem, da nekateri izmed vas hudomušno trdite, da bi, če bi se učenec sploh odločil napisati preslepljeni esej, morda porabil manj časa ali vsaj enako časa za pisanje samega eseja. Vsa ta uporaba aplikacije AI, ki jemlje energijo, bi lahko bila usmerjena v preprosto nadaljevanje pisanja eseja.

No, ne pozabite, študent nima tega v mislih. Preprosto vnašanje pozivov ter ponavljajoče se pregledovanje in izbiranje želenega eseja bo študentu zagotovo veliko lažje narediti. Ena ura tega dela je veliko manj naporna kot neposredno pisanje eseja. Pametnost je v tem primeru treba pretehtati glede na realnost.

Kaj se zgodi, če drugi učenci storijo enako

Stavim, da ste imeli to pametno misel v mislih, ko ste brali prejšnjo analizo o esejih in generativnih aplikacijah AI, in sicer, da bodo študenta nedvomno ujeli, če veliko drugih študentov počne enako.

Dovolite mi, da pojasnim.

Učitelj naroči celotnemu razredu, naj napiše esej o Lincolnu. Recimo, da se 90 % študentov odloči za uporabo generativne aplikacije AI za to nalogo. Če se zdi 90 % preveč depresivno, raje uporabite 10 %. Upoštevajte le, da bo skušnjava, da bi jih uporabili, ko bodo učenci spoznali uporabnost generativnih aplikacij AI, rasla kot gobe.

V redu, torej pomemben odstotek razreda uporablja generativno aplikacijo AI. Predvidevali bi, da bodo ergo vsi študenti oddali približno enak Lincolnov esej. Učitelj bo ob ocenjevanju tretjega ali četrtega eseja opazil, da so vsi eseji skoraj enaki. To bo velik namig, da je nekaj narobe.

Oprostite, vendar verjetno ne boste imeli te sreče.

Večina generativnih aplikacij AI je zelo občutljiva na to, kako je posebej sestavljen poziv. Če napišem »Povej mi o Lincolnu« v primerjavi s »Povej mi o Lincolnovem življenju«, obstaja verjetnost, da bodo eseji vsebinsko drugačni. V prvi vrsti se morda esej, ki ga je ustvaril AI, osredotoča na predsednika Lincolna v času njegovega mandata v Beli hiši in izpušča karkoli o njegovem otroštvu. Drugi poziv bi lahko ustvaril esej o njegovem rojstvu do smrti.

Učenci verjetno ne bodo vnesli točno tistega, kar jim je učitelj dal kot poziv za esej. Kot goljuf bi se zdelo smiselno poskusiti z različicami. Toda tudi če vsi učenci vnesejo popolnoma enak poziv, je precej velika verjetnost, da bo vsak esej nekoliko drugačen od drugih.

Te aplikacije z umetno inteligenco uporabljajo obsežno interno oblikovano matematično in računalniško omrežje, ki ima v bistvu široko ujemanje vzorcev besedila, ki ga najdemo po internetu. V proces ustvarjanja eseja je vključen verjetnostni dejavnik. Izbrane besede verjetno ne bodo v istem vrstnem redu in z enakim natančnim besedilom. Vsak ustvarjen esej bo na splošno drugačen.

Vendar pa je pri tem en ulov. Če je izbrana tema precej nejasna, obstaja možnost, da si bodo nekateri eseji med seboj podobni. To bi bilo delno zato, ker je bil vzorec v korenu besedila na začetku tanek. Kljub temu je lahko način, na katerega je esej sestavljen, še vedno precej drugačen. Povem samo to, da bi bilo bistvo vsebine samo po sebi lahko približno enako.

Ne bi želeli biti mračni, vendar bi lahko podali isto trditev o običajni temi, kot je življenje Lincolna. Na koliko različnih načinov lahko podrobneje razložite splošne vidike njegovega življenja? Če bi študente nekako zavarovali v zaklenjeni učilnici, da pišejo o Lincolnu, in jim omogočili spletni dostop do raziskovanja njegovega življenja, si upam trditi, da bi se lahko vseeno zgodilo, da bi bili eseji nekoliko podobni.

Dejavnik brezplačnosti in enostavnosti je pomemben

Če študent želi dandanes goljufati tako, da nekomu prek interneta plača, da mu napiše esej, je to zelo preprosto narediti (upam, da vas to ne šokira, morda bi moral že prej ponuditi opozorilo na sprožilec).

Težava pa je v tem, da morate za esej plačati. Poleg tega obstaja majhna možnost, da bi vas morda kasneje ujeli. Ali ste za plačilo eseja uporabili kreditno kartico? Morda je bolje uporabiti neko obliko podzemne obdelave plačil, da bi ohranili čiste sledi.

Lepota ali morda moteč dejavnik generativne umetne inteligence je, da jih je trenutno večina na voljo brezplačno. Plačilo ni potrebno. Ni posebnih evidenc o vaši uporabi (no, da bo jasno, aplikacija AI morda spremlja vašo uporabo, še posebej, ker veliko aplikacij AI zahteva, da se prijavite z e-poštnim naslovom, seveda pa lahko tudi to ponaredite ).

Nekateri ljudje seveda domnevajo, da morate biti čarovnik za AI, če želite uporabljati generativno aplikacijo AI.

Ne tako.

Na splošno so generativne aplikacije AI osupljivo preproste za uporabo. Prikličete aplikacijo AI. Predstavi vam odprto besedilno polje, v katerega lahko vnesete svoj poziv. Vnesete poziv in pritisnete Pošlji. Aplikacija AI ustvari besedilo.

To je vse.

Specializirani računalniški jeziki niso potrebni. Brez znanja o bazah podatkov ali znanosti o podatkih. Zagotavljam vam, da lahko skoraj vsak otrok v šoli brez težav uporablja generativno aplikacijo AI. Če zna otrok tipkati, lahko uporablja te aplikacije.

Nekateri trdijo, da bi morala podjetja, ki ponujajo generativne aplikacije AI, najprej preveriti starost uporabnika, verjetno zato, da bi preprečili, da bi neodrasli uporabljali AI za goljufanje pri pisanju esejev. Če uporabnik navede, da ni odrasel, mu ne dovolite uporabe aplikacije AI. Odkrito povedano, to je malo verjeten scenarij preprečevanja, razen če so nekako sprejeti zakoni, povezani z umetno inteligenco, ki poskušajo vzpostaviti tovrstne omejitve. Tudi če so takšni zakoni sprejeti, se temu verjetno lahko izognete z uporabo generativne aplikacije AI, ki gostuje v drugi državi itd.

Drug prepovedan kot bi bil, če bi uporaba generativnih aplikacij AI stala denar. Recimo, da je bila provizija na transakcijo ali naročnina. To bi generativno aplikacijo AI postavilo na raven tistim ljudem po internetu, ki bodo za vas napisali esej in vam to zaračunali. Laburisti bi se spopadli z umetno inteligenco (poleg tega vse kaže na to, da bo ljudi, ki se preživljajo s pisanjem esejev za študente, nadomestila umetna inteligenca, ki dela enako; vprašanje je, ali naj bomo žalostni ali zadovoljni da tisti ljudje, ki se tako preživljajo, tega ne bodo mogli več početi na ta način).

Podjetja, ki izdelujejo generativne aplikacije AI, si zagotovo želijo zaslužiti s temi aplikacijami, čeprav je še vedno v zraku, kako to storiti. Zaračunavanje transakcijske provizije, naročnine ali morda zaračunavanje na ustvarjeno besedo so na mizi. Monetizacija se lahko izvede z uporabo oglasov namesto zaračunavanja ljudem. Morda morate vsakič, ko uporabljate določeno generativno aplikacijo AI, najprej videti oglas. To je lahko ustvarjalec denarja.

Nerad razlivam mleko o tem, vendar kot sredstvo za premagovanje goljufanja študentov ne bo nobena srebrna paša. Niti blizu.

Obstajajo odprtokodne različice generativnega umetne inteligence. Ljudje jih objavijo, drugi pa so pripravljeni dati aplikacijo na voljo brezplačno. Tako ali drugače, tudi če nekatera podjetja zaračunavajo pristojbino, boste lahko našli različice, ki so brezplačne za uporabo, čeprav boste morda morali videti oglase ali se morda prijaviti in dati nekaj informacij o sebi v marketinške namene.

Ali Multi-Step pomaga pri tem

Študent se odloči za uporabo generativne aplikacije AI za izdelavo svojega eseja.

Namesto da bi študent takoj oddal esej, se odloči, da bo esej uredil. Tukaj preudarno izločijo nekaj besed. Vnesite nekaj besed. Premakni stavek navzgor. Premakni stavek nižje. Po nekaj urejanja in izpopolnjevanja imajo zdaj esej, ki so ga pripravljeni oddati.

Ali je ta esej delo študenta ali ne?

Pripeljal sem vas do milijon dolarjev vrednega velikega neodgovorjenega nerešenega vprašanja.

Oglejmo si nekaj kratkih informacij o zakonskih pravicah in kršitvah. To je tema, ki sem jo že kar nekaj obravnaval, npr povezava tukaj in povezava tukaj, Npr.

Verjetno že veste nekaj o avtorskih pravicah in o tem, kar je znano kot intelektualna lastnina (IP). Nekdo, ki ima avtorsko zaščiteno zgodbo, naj bi obdržal različne pravne pravice, povezane s to zgodbo. Nimajo popolnoma železnega in vseobsegajočega videza zakonskih pravic. Obstajajo izjeme in izjeme.

Eno najtežjih vprašanj v zvezi s kršitvijo avtorsko zaščitenega gradiva nekoga je bližina tega, kar lahko imate, v primerjavi z izvirnim virom. Morda ste brali ali videli novice o znanih pevcih in njihovih besedilih, kjer je nekdo drug napisal pesem z na videz podobnim besedilom in ali je bilo to pravno pravilno ali ne.

Prej sem že omenil, da generativna aplikacija AI običajno ne ustvari eseja, ki bi bil kopija drugih gradiv, o katerih se je predhodno usposabljala s pregledovanjem vsebine na internetu. Obstaja velika verjetnost, da je gradivo posplošeno in vse skupaj zmešano, tako da ni več zelo podobno izvorni vsebini.

Morali bomo počakati in videti, kako bo sodni postopek obravnaval to. Če generativna aplikacija umetne inteligence ustvari umetniško delo, ki je vizualno očitno podobno umetniškemu delu, pridobljenemu iz izvora, bi se verjetno nagnili k obtožitvi umetne inteligence in izdelovalcev umetne inteligence, da so kršili avtorske pravice, povezane z izvirnim delom. To lahko vidimo na lastne oči.

Ko gre za eseje, je to lahko težje. Očitni primeri so, ko so celi stavki in odstavki dobesedno enaki. To lahko vsi vidimo. Toda ko se besedilo razlikuje z malo razlikami, pridemo v siva področja.

Kako daleč mora biti na novo ustvarjeno gradivo od izvirnega gradiva, da lahko razglasimo, da je samo po sebi izvirnik v dobri veri?

To je tehtno vprašanje.

Povežimo to s študentom, ki za svoj esej uporablja generativno aplikacijo AI.

Za trenutek se pretvarjajte, da bo določen esej, ki ga je ustvarila aplikacija AI, razumel kot "izvirni" esej. Pravim, da domnevamo, da na noben očiten način ne krši nobenega drugega že obstoječega eseja ali pripovedi besedila kjer koli na zemlji.

Študent nato začne z izvirnim virom gradiva. Kot že rečeno, študent to gradivo ureja in izpopolnjuje. Stvari dosežejo točko, ko se izvirnik, ki ga ustvari aplikacija AI, zdaj razlikuje od izpopolnjene različice, ki si jo je zamislil študent.

Je to goljufanje?

Mogoče ja morda ne.

Lahko trdite, da je. Študent je začel z AI, ki jim je pisal esej. Vse, kar je študent naredil, se mehanično igra z esejem. Od učenca pričakujemo, da bo esej napisal iz zraka in za to uporabil lastno nogo. Uporaba aplikacije AI za ustvarjanje njihove osnovne vrednosti je očitno goljufanje. Študentu dodelite oceno »F«.

Ne tako hitro. Lahko trdite, da ni goljufanje. Študent je preoblikoval izvorno gradivo. Če je primerjava med esejem, izdelanim z aplikacijo AI, in verzijo, ki so jo izpopolnili študenti, dovolj velika razlika, bi rekli, da je študent napisal esej. Resda so pri tem uporabili drugo gradivo, a ne morete reči enako, če so uporabili enciklopedijo ali kakšen drug vir? Ta učenec si zasluži oceno »A«, ker je sestavil esej na lastno pamet (ne glede na to, da se je za to skliceval na druga gradiva).

Učitelji se bodo ujeli sredi tega že tako mučnega vprašanja.

Eden od pristopov je, da bi lahko učitelj kategorično izjavil, da morajo učenci navesti vsa referenčna gradiva, vključno s tem, ali je bila uporabljena generativna aplikacija AI ali ne. Če učenec ne navede odkrito generativnega AI kot reference in če učitelj ugotovi, da ga ni uspel navesti, učenec na kratko dobi oceno »F« za nalogo. Ali pa bodo morda nekatere šole menile, da je to dejanje goljufanja, ki povzroči, da učenec samodejno dobi neuspeh. Ali morda izgnan. Videti bomo morali, kako daleč bodo šle šole pri teh zadevah.

Na splošno gremo v prevrnjen svet intelektualne lastnine in pravnega lastništva del, kot so eseji (besedilo), umetnost (slike) in video, vključno z:

• Nekateri bodo od ustvarjalcev generativne umetne inteligence zahtevali pravno varstvo glede virov vsebine, ki jih je umetna inteligenca uporabila za ustvarjanje proizvedenega rezultata.
• Nekateri bodo vzeli rezultate generativne umetne inteligence in menili, da so rezultat njihova lastna dela, nato pa bodo poskušali poiskati pravna sredstva od vsakogar, ki krši njihovo "izvirno" delo.
• To bi se lahko vrtelo, tako da nekdo ustvari izhod iz generativne umetne inteligence, ki se objavi na internetu, nato pa pride neka druga generativna umetna inteligenca in to uporabi pri svojem usposabljanju za ustvarjanje podobnih del.

Spreminjanje negativnega v pozitivno

Vsi ti pogovori o slabosti generativne umetne inteligence, ko gre za goljufanje učencev, nam morda zameglijo razum, opozarjajo nekateri.

Vzemite to v drugo smer.

Sedite?

Morda bi morali učitelji razmisliti o tem, da bi učenci namenoma uporabili generativno umetno inteligenco kot del učnega procesa pisanja esejev.

Prej sem pisal o t.i dvojne uporabe AI, glej povezava tukaj. Zamisel je, da je sistem AI včasih mogoče uporabiti za slabo, včasih pa ga je mogoče zamenjati in uporabiti za dobro. Skrb vzbujajoč vidik je, ko nekdo piše AI za vedno in se blaženo ne zaveda, kako zlahka se lahko njegova AI spremeni v spekter slabosti. del Etični AI je spoznanje, da bi bilo treba umetno inteligenco oblikovati tako, da je ni mogoče čez noč spremeniti v prekletstvo. To je stalna skrb.

Nazaj k generativnemu AI za izdelavo esejev.

Prej sem omenil koncept, da bi se učenec morda lahko naučil o pisanju tako, da bi si ogledal pisna dela, ki že obstajajo. To je zelo smiselno. V bistvu, več kot berete, večja je verjetnost, da širite svoj miselni videz v smeri pisanja. Kot smo že omenili, morate še vedno pisati, saj vas vse branje na svetu ne bo nujno pripeljalo do dobrega pisca, če ne vadite pisanja.

Lahko bi uporabili generativno umetno inteligenco, da bi spodbudili to povezavo med branjem in pisanjem. Študent naj namerno uporablja generativno umetno inteligenco. AI ustvari esej. Študent dobi nalogo, da kritizira esej, izdelan z AI. Nato je študentu dodeljeno pisanje novega eseja, morda na drugo temo, vendar lahko uporabi strukturo in druge splošne elemente prejšnjega eseja, ki ga je ustvarila umetna inteligenca.

Nekateri menijo, da je to lahko celo bolj produktivno za študente kot preprosto branje knjig ali drugih besedil pisateljev, s katerimi študent nima dostopa do »interakcije«. Z aplikacijo AI je študent lahko poskusil ponoviti in izdelati začetni esej z uporabo množice pozivov, enega za drugim. Študent lahko reče AI, naj napiše esej o Lincolnu. Nato študent prosi za obsežen esej o Lincolnu, ki je napisan z neformalnim glasom. Ko si to ogleda, študent nakaže aplikaciji AI, naj izdela zelo formalizirano različico eseja o Lincolnu. itd.

Podana trditev je, da bi to lahko materialno pomagalo študentu pri učenju o pisanju in o tem, kako lahko pisanje poteka.

Nedavni raziskovalni prispevek predlaga ravno to: "Avtorji tega prispevka verjamejo, da je AI mogoče uporabiti za premagovanje treh ovir pri učenju v razredu: izboljšanje prenosa, razbijanje iluzije razlagalne globine in usposabljanje učencev za kritično vrednotenje razlag" ( v članku z naslovom »Novi načini učenja, ki jih omogočajo AI Chatboti: tri metode in naloge«, dr. Ethan Mollick in dr. Lilach Mollick, Šola Wharton Univerze v Pensilvaniji & Wharton Interactive, 12. december 2022)

Poudarjajo na primer, da bi se izboljšanje prenosa učenja lahko zgodilo na naslednji način: »AI je poceni način, da učencem zagotovite veliko primerov, od katerih so nekateri morda netočni ali potrebujejo dodatno razlago ali pa so preprosto izmišljeni. Študentom z osnovnim znanjem o temi lahko uporabite AI, da jim pomagate preveriti njihovo razumevanje in jih izrecno spodbudite, da poimenujejo in pojasnijo netočnosti, vrzeli in manjkajoče vidike teme. Umetna inteligenca lahko zagotovi neskončno vrsto primerov konceptov in uporabe teh konceptov, študente pa lahko spodbudite k: primerjanju primerov v različnih kontekstih, razlagi jedra koncepta ter opozarjanju na nedoslednosti in manjkajoče informacije v načinu, kako umetna inteligenca uporablja koncepte. novim situacijam« (ibid).

To je podobno staremu refrenu, če jih ne moreš premagati, se jim pridruži.

Spremenite generativno umetno inteligenco v izobraževalno orodje.

Joj, sledi hiter odgovor.

Lisico spravljaš v kurnik. Učencem, ki niso vedeli, kaj je generativna umetna inteligenca, bodo zdaj to javno pokazali z očitnimi dejanji učiteljev in njihovih šol. Če učenci niso imeli pojma o možnostih goljufanja, jim to daste neposredno v obraz in roke.

Povsem zoprno se zdi, da oblastniki učencem predstavijo način goljufanja. Tako boste najbolj poštene študente za vedno postavili v kraljestvo skušnjav goljufanja. Vsi bodo imeli dostop do stroja za goljufanje. Rečeno jim je, naj to storijo. Ni potrebe po skrivanju. Ni vam treba pretvarjati, da ne uporabljate generativne umetne inteligence. Šola in učitelj sta te prisilila k uporabi.

Odgovor na to je, da morate slepo in nevedno imeti glavo v pesku, da mislite, da se učenci ne bodo seznanili z generativno umetno inteligenco. Medtem ko se vi nespametno pretvarjate, da oni ne vedo za to, oni begajo pred šolo, da bi jo uporabili. Vaša boljša izbira je, da jim stvar predstavite, se pogovorite, za kaj se lahko uporablja in za kaj ne, ter celotno uganko osvetlite.

To je kar hudo.

Za tiste, ki raziskujete izobraževalne inovacije tehnologije, bi si morda želeli ogledati generativno umetno inteligenco in kako bi lahko spremenila naravo izobraževalnih pristopov in vplivala na učenje študentov. Prihaja dovolj kmalu.

Uporaba zaznavanja, da nas reši pred propadom

Zamenjajmo se in za trenutek razmislimo o digitalnih umetninah.

Če ustvarite del digitalne umetnosti, ga boste morda želeli na nek način označiti, da boste lahko kasneje ugotovili, ali se je nekdo odločil uporabiti ali ponovno uporabiti vašo umetnost. Preprost način za to je sestavljen iz spreminjanja nekaterih slikovnih pik ali pik v vašem digitalnem umetniškem delu. Če naredite nekaj tu ali tam, se bo videz umetniškega dela ljudem še vedno zdel enak. Ne bodo opazili tistih slikovnih pik, ki so majhne in so bile nastavljene na posebno barvo, ki jo je mogoče videti le ob natančnem pregledu z digitalnimi orodji.

Morda poznate te tehnike kot obliko vodnega žiga. Tako kot so se v starih časih poskušali z vodnimi žigi papirnatih materialov in drugih nedigitaliziranih vsebin, smo postopoma priča porastu digitalnih vodnih žigov.

Digitalni vodni žig je morda skrit v sliki digitalnega umetniškega dela. Če se to morda zdi moteče za sliko, lahko poskusite vodni žig vdelati v datoteko, ki vsebuje digitalno umetniško delo (tako imenovani »metapodatki« digitalnega dela).

Lahko se pojavi igra mačke z mišjo.

Pride neki zlobnež in odkrije vaš digitalni vodni žig. Odstranijo ga. Zdaj lahko navidezno svobodno uporabljajo vaše digitalno umetniško delo, ne da bi jih skrbelo, da boste lahko kasneje pokukali vanj in pokazali, da je očitno pokradeno za vaš trud. Ti nepridipravi!

Okrepiti moramo digitalni vodni žig, kar lahko storimo z uporabo kriptografskih tehnik in tehnologij. Pomislite na skrivna sporočila in kodiranje.

Zamisel je, da kodiramo digitalni vodni žig, tako da ga je težko najti. Prav tako ga je potencialno težko odstraniti. Lahko bi celo poskušali zagotoviti, da mora programska oprema, ki bo prikazala ali omogočila uporabo digitalnega umetniškega dela, najprej preveriti in ugotoviti, ali v delu obstaja veljaven kodiran digitalni vodni žig, sicer se šteje za neustrezno kopijo. Ujel sem te pri delu.

Ali lahko storimo enako za generativni AI, ki proizvaja besedilo?

Postavljena je rokavica. Težava pa je lahko do neke mere težja kot pri razmišljanju o digitalnih vodnih žigih za umetniško delo.

Evo zakaj.

Predpostavimo, da je edino mesto, kamor lahko postavite vodni žig, neposredno v samo besedilo. To pravim, ker ni nujno, da gre ustvarjeno besedilo v datoteko. Besedilo je samo besedilo. Lahko ga izrežete in prilepite iz generativnega orodja AI. V tem smislu običajno ni metapodatkov ali datoteke, v katero bi lahko vdelali vodni žig.

Osredotočiti se morate samo na besedilo. Čisto besedilo.

Eden od načinov bi bil, da bi generativni AI prikrito ustvaril besedilo na način, ki ga je mogoče izslediti. Kot grob, a nepraktičen primer si predstavljajte, da smo se odločili vsak tretji stavek začeti z besedo "In" na začetku stavka. Še vedno bi ustvarili na videz povsem tekoč esej. Edina zvijača je, da se vsak tretji stavek začne z našo izbrano čarobno besedo. Nihče drug ne ve, kaj nameravamo.

Študent uporablja generativno umetno inteligenco za pripravo dodeljenega eseja o Lincolnu. Učenec ga vzame neposredno iz aplikacije AI in ga po e-pošti pošlje učitelju. Izkazalo se je, da je študent čakal do zadnjega trenutka in je bil v nasprotju z objavljenim rokom. Ni časa za pregled eseja. Samo pošlji in upaj na najboljše.

Učitelj si ogleda esej. Recimo, da smo ji povedali, da je naš vodni žig sestavljen iz čarobne besede, uporabljene na začetku vsakega tretjega stavka. Učitelj zazna, da je temu tako v predloženem eseju. Čeprav je morda neverjetno majhna verjetnost, da je študent napisal esej in morda rad uporablja to določeno besedo na začetku vsakega tretjega stavka, menim, da se lahko razumno strinjamo, da je to zelo malo verjetno in da je namesto tega študent verjetno uporabil generativno AI za izdelavo eseja.

Ali vidite, kako to deluje?

Verjamem, da si.

Težava je zdaj, kako priti do vodnega žiga, ki ni tako očiten. Študent lahko opazi, da se zdi, da stavki nenavadno uporabljajo določeno besedo. Morda bodo uganili, kaj se dogaja. Po drugi strani se lahko študent premika po stavkih in nekaj preoblikuje. To potem precej potopi ta določen vodni žig, saj eseja ni več takoj opaziti, kot da ga je napisal generativni AI.

Igra mačke z mišjo je spet v ospredju.

Izdelati moramo tekoče besedilo, ki nekako vsebuje "vodni žig" na način, ki ga ni mogoče zlahka razbrati. Nadalje, če je mogoče, mora vodni žig še naprej obstajati, tudi če je esej nekoliko popravljen. Celotna revizija verjetno ne bo omogočila, da vodni žig preživi. Želimo pa nekaj odvečnosti in prožnosti, tako da bo vodni žig po možnosti mogoče zaznati, tudi če se nekaj spremeni v besedilnem področju.

Raziskovalec, ki nekaj dela za podjetje, ki izdeluje ChatGPT (aplikacijo AI podjetja OpenAI), raziskuje nekaj zanimivih kriptografskih poskusov v zvezi s temi vodnimi žigi. Scott Aaronson je profesor računalništva na teksaški univerzi v Austinu in je pred kratkim govoril o delu, ki poteka (prepis je objavljen na njegovem blogu).

Razmislite o tem odlomku, v katerem na kratko razloži obstoječi pristop: »Kako deluje? Za GPT je vsak vhod in izhod niz žetonov, ki so lahko besede, pa tudi ločila, deli besed ali več – skupno je približno 100,000 žetonov. V svojem bistvu GPT nenehno ustvarja porazdelitev verjetnosti glede na naslednji žeton, ki ga je treba ustvariti, odvisno od niza prejšnjih žetonov. Ko nevronska mreža ustvari distribucijo, nato strežnik OpenAI dejansko vzorči žeton v skladu s to distribucijo – ali neko spremenjeno različico distribucije, odvisno od parametra, imenovanega "temperatura". Dokler pa je temperatura različna od nič, bo pri izbiri naslednjega žetona običajno nekaj naključnosti: vedno znova lahko izvajate isti poziv in vsakič dobite drugačen zaključek (tj. niz izhodnih žetonov). .”

Kot že omenjeno, obstaja določena količina naključnosti glede tega, katere besede bodo uvrščene poleg eseja, ki ga izpelje aplikacija ChatGPT. To tudi pojasnjuje prejšnjo točko, da bo vsak esej verjetno nekoliko drugačen, tudi če je na isto temo. Med ustvarjanjem eseja je pod pokrovom namenska uporaba pristopa naključne izbire, ki je znotraj določenih meja.

Zdaj pridemo do sočnega dela, kriptografskega mešanja: »Za vodni žig bo namesto naključnega izbora naslednjega žetona ideja, da ga izberemo psevdonaključno z uporabo kriptografske psevdonaključne funkcije, katere ključ pozna samo OpenAI . To za končnega uporabnika ne bo naredilo nobene opazne razlike, ob predpostavki, da končni uporabnik ne more razlikovati psevdonaključnih števil od resnično naključnih. Zdaj pa lahko izberete psevdonaključno funkcijo, ki na skrivaj vpliva na določeno oceno – vsoto nad določeno funkcijo g, ovrednoteno pri vsakem n-gramu (zaporedje n zaporednih žetonov), za nekaj majhnih n – to oceno lahko tudi izračunate, če veste ključ za to psevdonaključno funkcijo."

Zavedam se, da se to morda zdi nekoliko tehnološko nabito.

Bistvo je v tem, da bo narejen esej videti tekoč in da pri branju eseja ne boste mogli zlahka razbrati, da vsebuje digitalni vodni žig. Če želite ugotoviti, ali dani esej vsebuje vodni žig, bi morali esej vnesti v posebej zasnovan detektor. Program, ki zazna, bi izračunal vrednost na podlagi besedila in jo lahko primerjal s shranjenim ključem. Pri opisanem pristopu bi ključe hranil prodajalec in drugače ne bi bili na voljo, zato bi ob predpostavki, da so ključi skrivni, lahko samo program za zaznavanje mazilja izračunal, ali je esej v tem primeru verjetno izpeljan iz ChatGPT.

Nadalje priznava, da to ni zanesljivo: »Zdaj se da vse to premagati z dovolj truda. Na primer, če ste uporabili drugo umetno inteligenco, da parafrazirate izhod GPT-ja, v redu, tega ne bomo mogli zaznati. Po drugi strani pa, če samo tu in tam vstavite ali izbrišete nekaj besed ali preuredite vrstni red nekaterih stavkov, bo signal vodnega žiga še vedno tam. Ker je odvisen samo od vsote v n-gramih, je robusten proti tovrstnim posegom.«

Učitelju bi lahko omogočili dostop do detektorskega programa, ki bi preverjal študentske eseje. Recimo, da je zadeva razmeroma enostavna, saj učitelj naroči študentom svoje eseje po elektronski pošti učitelju in avtomatiziranemu detektorju. Aplikacija detektor nato obvesti učitelja o verjetnosti, da bo esej v tem primeru sestavil ChatGPT.

Zdaj, če je detektor odprto na voljo vsem, bi imeli "pretirane" študente goljufane, ki bi svoje eseje preprosto zagnali v detektor in naredili vrsto sprememb, dokler detektor ne bi pokazal majhne verjetnosti, da je bil esej izpeljan z generativnim AI. Še več mačke in miši. Verjetno je treba detektor skrbno zaščititi z uporabo gesla ali pa so potrebna druga sredstva ali metode za obravnavo kriptografskih pristopov (obstajajo različne metode, ki temeljijo na ključu in brez ključa, ki jih je mogoče uporabiti).

Učitelj se lahko sooči z možnostjo na desetine ali stotine generativnih aplikacij AI, ki so na voljo za uporabo v internetu. V tem primeru, ko poskušate vse te pripraviti do uporabe digitalnega vodnega žiga in morate v vse vnesti esej, no, postane le še bolj mamljivo in logistično zapleteno.

Nič več esejev zunaj učilnice

Perspektiva usode in mračnjaštva je, da bodo učitelji morda morali opustiti uporabo zunanjega pisanja esejev. Vsi eseji morajo biti napisani samo v nadzorovanem okolju učilnice.

To ima veliko in veliko težav.

Recimo, da študent običajno potrebuje deset ur, da napiše določen celovit esej, ki je razredni projekt. Kako bi to naredili v učilnici? Ali ga boste razdelili in študentu dali pisati majhen košček eseja v vrsti dni? Razmislite o težavah, ki jih to predstavlja.

Nekateri trdijo, da se morda zadeva prenapihuje.

Učitelji bi morali glede plagiatorstva učencev ravnati tako kot vedno. Učitelj vnaprej izjavi, da je plagiat resna skrb pri goljufanju. Poudarite, da bo uporaba generativne umetne inteligence na kakršen koli način obravnavana kot goljufanje.

Določite kazni, ki imajo veliko težo, kot je nizka ocena, razred s padcem ali izključitev iz šole, če pride tako daleč. Od učencev zahtevajte, da za vsako zunanjo esejsko nalogo pisno potrdijo, da je to, kar so oddali, njihovo delo (opravljeno brez pripomočkov, kot je generativna umetna inteligenca, kopiranje iz interneta, uporaba sošolcev, uporaba staršev, plačilo za izvedbo in tako naprej). Od študentov zahtevajte tudi, da navedejo vsa spletna orodja, ki so bila uporabljena pri pripravi dela, pri čemer morajo posebej opozoriti na morebitno generativno uporabo umetne inteligence.

Učitelj lahko ali pa tudi ne uporabi detektorsko aplikacijo, da poskusi ugotoviti, ali je predloženi esej verjetno generativna AI aplikacija. To je potencialno obremenjujoč korak, odvisno od tega, kako enostavni so detektorji za uporabo in dostop.

Učitelji bi verjetno že morali ukrepati glede ugotavljanja, ali se zunanji pisni eseji zdijo legitimni. Pri pisanju esejev v razredu obstaja možnost primerjave in kontrasta, pri čemer se zavedamo, da je čas za pisanje v učilnici krajši in da ga lahko ovira tudi omejitev prepovedi dostopa do spletnih referenčnih gradiv.

Bistvo je, da se ne bi smeli odločiti za nenadno opustitev uporabe zunanjega pisanja esejev. Nekateri bi to obžalovali kot nepremišljeno dejanje in dejanje, ki spominja na vrženje otroka skupaj s kopalno vodo (star pregovor, morda vreden upokojitve).

Če je zunanje pisanje v celoti opuščeno kot učna dejavnost, bodo verjetno hude in dolgotrajne slabosti odstranitve te na videz vsakdanje izobraževalne dejavnosti iz učnega načrta. Vpleten je kompromis. Koliko učencev bo goljufalo kljub vsem zgoraj omenjenim zadržkom in ravnovesjem? Koliko učencev ne bo goljufalo in bo zato še naprej uporabljalo koristen izobraževalni pristop za napredek pri pisanju?

Teoretično upajmo, da bo odstotek goljufov dovolj majhen, da bo zunanje pisanje še vedno pomembno za prevlado študentov.

zaključek

AI je lahko pravi glavobol.

Za učitelje je lahko umetna inteligenca tako blagoslov kot prekletstvo. Kakor koli že, to pomeni, da morajo učitelji vedeti o umetni inteligenci, skupaj s tem, kako se soočiti z zapleti in zapleti umetne inteligence, povezanimi z njihovimi dejavnostmi poučevanja, kar je še dodatna obremenitev na njihovih že tako preveč raztegnjenih hrbtih in ramenih. Pozdrav učiteljem povsod.

Mogoče si lahko zaželimo, da AI odide.

Ne.

Vidite, ne bomo zavrteli časa nazaj in izbrisali generativnega AI. Vsakdo, ki poziva k temu, je sanjač. Poleg tega uporabljam besedo "In" kot prvo besedo tretjega stavka tega odstavka (ups, podarjam ključ!), generativni AI je tu, da ostane.

Tukaj je namig, ki bo spodbudil vaše burne razprave: Generativna umetna inteligenca bo postala bolj prodorna in bo imela še bolj osupljive in moteče zmogljivosti.

Padec mikrofona.

Zadnja misel za zdaj.

Shakespeare je slavno zapisal: "Biti ali ne biti: to je vprašanje."

Zagotavljam vam, da bo generativna umetna inteligenca. Je že.

Ugotoviti moramo, kako želimo, da generativna umetna inteligenca vstopi v naša življenja in kako se bo družba odločila oblikovati in usmerjati takšno uporabo. Če ste kdaj potrebovali razlog za razmišljanje o etiki umetne inteligence in zakonu o umetni inteligenci, vas bo morda generativna umetna inteligenca spodbudila k iskanju spoznanja, kaj smo, tudi če ne vemo, kaj bi lahko bili (skrita referenca Shakespeara).