Woedende zorgen dat generatieve AI-chatGPT studenten aanspoort om enorm vals te spelen bij het schrijven van essays, leidt tot betoverde aandacht voor AI-ethiek en AI-wetgeving

Is het geschreven essay van hedendaagse studenten een nevermore?

Gaat de met angst gevulde studentenscriptie koortsachtig het raam uit?

Dat is de brouhaha die onlangs in een totale opschudding is losgebarsten. Zie je, het uiterlijk van een AI-app die bekend staat als ChatGPT heeft veel aandacht gekregen en heeft ook veel woede gewekt. Zie voor mijn uitgebreide dekking van ChatGPT de link hier. Zie voor mijn doorlopende en uitgebreide berichtgeving over AI-ethiek en AI-wetgeving de link hier en de link hier, om er een paar te noemen.

De kern van het geschreeuw en gebrul is dat dit soort AI, meestal aangeduid als generatieve AI, zal de doodsteek zijn voor het vragen van studenten om opdrachten in essaystijl te doen.

Waarom?

Omdat de nieuwste generatieve AI schijnbaar vloeiende essays kan produceren door simpelweg een simpele prompt in te voeren. Als u een regel invoert zoals "Vertel me over Abraham Lincoln", genereert de AI een essay over het leven en de tijden van Lincoln dat vaak goed genoeg is om te worden aangezien voor volledig en uitsluitend door mensenhanden geschreven. Bovendien, en hier is de echte kicker, zal het essay geen duplicaat of merkbare kopie zijn van iets anders dat al over hetzelfde onderwerp is geschreven. Het geproduceerde essay zal in wezen een "origineel" zijn, voor zover een toevallige inspectie zou kunnen vaststellen.

Een student die met een schrijfopdracht wordt geconfronteerd, hoeft alleen maar een van deze generatieve AI-apps aan te roepen, een prompt in te voeren en voila, hun hele essay is voor hen geschreven. Ze hoeven de automatisch gegenereerde tekst alleen maar te knippen en in een leeg document te plakken, er heimelijk hun naam en klasinformatie op te plakken en met een beetje moedige bravoure aan de slag te gaan en het in te leveren als hun eigen werk.

De kans dat een leraar kan achterhalen dat het essay is geschreven door AI en niet door de student, is bijna nul.

Schandalig!

De krantenkoppen verkondigen haastig dat we het bittere einde hebben bereikt om studenten essays te laten schrijven of in wezen elke vorm van schrijfopdracht buiten de klas te doen. De enige manier om met de situatie om te gaan, lijkt gebruik te maken van het schrijven van essays in de klas. Wanneer studenten zich in een gecontroleerde omgeving bevinden, zoals een klaslokaal en ervan uitgaan dat ze geen toegang hebben tot laptops of hun smartphones, zullen ze merken dat ze beperkt zijn tot het schrijven van essays op de ouderwetse manier.

Ter verduidelijking, de ouderwetse manier betekent dat ze uitsluitend met hun eigen noggins zullen moeten schrijven.

Elke vorm van essay dat buiten het klaslokaal wordt gedaan, wordt onmiddellijk verdacht. Heeft de student het essay geschreven of heeft een AI-app dat gedaan? Zoals gezegd zal het essay zo goed geschreven zijn dat je niet snel kunt zien dat het door een machine is geschreven. De spelling zal onberispelijk zijn. De syntaxis zal geweldig zijn. De lijn van het discours en de mogelijke gecoachte argumenten zullen overtuigend zijn.

Heck, bij wijze van spreken zou je kunnen suggereren dat de generatieve AI zijn spreekwoordelijke hand zal uitsteken door een essay te maken dat de capaciteiten van de student die ervoor kiest om dit snode pad te volgen, te boven gaat. Een leraar kan achterdochtig worden omdat het essay een beetje te goed is. Een gewiekste leraar zou geneigd zijn te raden dat de student niet zo'n elegant en luchtdicht proza ​​had kunnen schrijven. Interne alarmbellen beginnen te rinkelen.

Het is natuurlijk lelijk om een ​​student uit te dagen over zijn essay en kan nadelige gevolgen hebben.

Stel dat de student het essay zorgvuldig heeft geschreven, helemaal alleen. Ze hebben het misschien dubbel en driedubbel gecontroleerd. Er is ook een kans dat ze misschien een vriend of kennis hebben laten kijken om iets te zien dat extra moet worden gepolijst. Al met al is het nog steeds hun essay zoals het door hen is geschreven. Stel je een leraar voor die deze serieuze en leergierige student gerichte vragen stelt over het essay. De verlegenheid en het verdriet om in wezen beschuldigd te worden van bedrog zijn voelbaar, zelfs als de leraar dat niet hardop beweert. Alleen al de confrontatie zelf is voldoende om de achting van de student te ondermijnen en ervoor te zorgen dat ze zich ten onrechte belasterd voelen.

Sommigen dringen erop aan dat elke leraar met vermoedens over het auteurschap van een essay de student moet vragen om uit te leggen wat ze hebben geschreven. Vermoedelijk, als het essay door de student is geschreven, kan de specifieke student het adequaat uitleggen. Leraren hebben dit soort onderzoek al eeuwenlang gedaan. Het kan zijn dat een student een andere student heeft overgehaald om zijn essay voor hem of haar te schrijven. De student heeft misschien een ouder zover gekregen om zijn essay te schrijven. In de wereld van vandaag kan de student iemand via internet betalen om in het geheim namens hem een ​​essay te schrijven.

Een student vragen om het auteurschap te verifiëren via een onderzoek in de klas is dus gebruikelijk en niet erg.

Ik ben blij dat je dat ter sprake bracht.

Pogingen om een ​​student mild of aantoonbaar te grillen is niet zo eenvoudig een lakmoesproef als je zou denken. De student had het door AI geproduceerde essay nauwkeurig kunnen bestuderen en zich kunnen voorbereiden op een mogelijk verhoor.

Zie het op deze manier. Eerst genereert de student met een druk op de knop het essay. De student besteedt dan grote hoeveelheden tijd die hij zou hebben besteed aan het schrijven van het essay in plaats van het zorgvuldig onderzoeken en bestuderen van het essay. Na een tijdje zijn de woorden bijna volledig in het geheugen vastgelegd. De student houdt zichzelf bijna voor de gek door te geloven dat ze het essay inderdaad hebben geschreven. Deze schijn van vertrouwen en bewustzijn zou hen gemakkelijk door de door de leraar geleide controle kunnen loodsen.

Aha, sommigen zeggen met een beetje tegenwicht voor de angsten van generatieve AI-apps, merk op dat de student in feite iets heeft "geleerd" door het essay te hebben gegenereerd. Natuurlijk, de student heeft niet het voorwerk gedaan om het onderwerp te onderzoeken, en ze hebben ook niet het essay geschreven, maar desalniettemin, als ze het essay zorgvuldig bestudeerden, lijkt het aan te tonen dat ze het toegewezen onderwerp hebben geleerd. De student die zich ertoe verbindt het essay over Lincoln uit het hoofd te leren, heeft vermoedelijk iets wezenlijks over Lincoln geleerd.

Leren is gebeurd.

Whoa, het antwoord luidt, de opdracht was waarschijnlijk een tweeledig proces. Leren over Lincoln was misschien relatief secundair. Het echte doel was om de student te leren schrijven. Dit essentiële onderdeel van de opdracht is volledig ondergraven. Docenten wijzen vaak onderwerpen met een open einde toe en zijn er eigenlijk alleen op gericht om de student schrijfervaring te laten opdoen. Je moet opmaken wat je wilt schrijven, je moet de woorden bedenken die je gaat gebruiken, je moet de woorden in een verstandige reeks zinnen en alinea's zetten, enzovoort. Alleen het lezen van een door AI geproduceerd essay komt helemaal niet overeen met dat fundamentele aspect van een essayopdracht.

Het tegenwicht hiervoor is de bewering dat de student mogelijk over schrijven leert door het schrijven van de AI nauwkeurig te onderzoeken. Bestudeeren we niet allemaal de grootmeesters van het schrijven om te zien hoe ze schrijven? Ons schrijven is een poging om mensen als Shakespeare en andere grote schrijvers te bereiken. Het bestuderen van het geschreven woord is een geldige manier om te leren schrijven.

Als een felle tenniswedstrijd schuift de bal naar de andere kant van het net. Hoewel goed schrijven studeren goed is, moet je uiteindelijk schrijven als je wilt kunnen schrijven. Je kunt niet eindeloos blijven lezen en er dan blindelings van uitgaan dat de student nu kan schrijven. Ze moeten schrijven en schrijven en blijven schrijven totdat ze hun schrijfvaardigheid tastbaar kunnen laten zien en verbeteren.

Zie je hoe dit allemaal nogal een raadsel is?

Houd er rekening mee dat er ongeveer een miljoen of meer wendingen aan dit alles zijn.

Ik zal enkele van de meer ingenieuze en interessante wendingen behandelen.

Het essay afstemmen via AI-aanwijzingen

Na zojuist Shakespeare te hebben genoemd, is hier een aspect van generatieve AI dat u misschien zal verbazen. In veel van de generatieve AI-apps kun je zoiets zeggen: "Schrijf een essay over Lincoln alsof Shakespeare het essay heeft geschreven." De AI zal proberen een essay te genereren dat lijkt te zijn geschreven in de taal die Shakespeare gewoonlijk gebruikt in zijn geschriften. Het is best een leuke en boeiende prestatie om te zien en velen krijgen er een kick van.

Hoe verhoudt dit zich tot de student die "vals speelt" door generatieve AI te gebruiken om zijn essays te schrijven?

In veel generatieve AI-apps kun je de AI vertellen om op een minder dan geweldige manier te schrijven. De AI zal proberen een essay te produceren dat enigszins ruw is aan de randen. Er zijn hier of daar syntaxisproblemen. De logica van het essay kan springerig of enigszins onsamenhangend zijn.

Dit zou een slimme list zijn. De student neemt het resulterende essay en levert het in. Het essay is goed genoeg om een ​​topcijfer te halen, maar ondertussen niet zo perfect dat het de woede van de leraar opwekt. Nogmaals, de AI heeft al het voorwerk voor de student gedaan, inclusief het enigszins onvolmaakt maken van het essay.

Bovendien kunt u met de meeste generatieve AI-apps de app zo vaak gebruiken als u wilt. Hier is hoe dat komt te spelen. Een student typt in dat de AI-app een ietwat onvolmaakt essay over Lincoln moet maken. Het essay wordt geproduceerd. De student kijkt naar het essay en realiseert zich dat het nog steeds overdreven perfect is. De student voert een andere prompt in die de AI instrueert om de onvolkomenheden meer uitgesproken te maken.

Inschuimen, uitspoelen, herhalen.

De student blijft prompts invoeren en de geproduceerde essays inspecteren. Keer op keer komt dit voor. Uiteindelijk krijgt de student de AI op precies het juiste niveau van imperfectie in het essay. De goldilocks-versie is bereikt. Het is net perfect genoeg om een ​​hoog cijfer te halen, en net onvolmaakt genoeg om geen argwaan te wekken.

Ik weet zeker dat sommigen van jullie spottend zeggen dat als de student ervoor had gekozen om het verdomde essay te schrijven, ze misschien minder tijd of in ieder geval dezelfde hoeveelheid tijd zouden hebben besteed aan het schrijven van het essay zelf. Al dit energieverslindende gebruik van de AI-app had kunnen worden gericht op het gewoon doorgaan met het schrijven van het essay.

Onthoud dat de student dat niet in gedachten heeft. Het gemak van het invoeren van prompts en het iteratief bekijken en selecteren van het gewenste essay zal ongetwijfeld veel gemakkelijker zijn voor de student. Een uur om dit te doen is een stuk minder zwaar dan het schrijven van het essay rechtstreeks. Slimheid moet in dit geval worden afgewogen tegen de realiteit.

Wat gebeurt er als andere studenten hetzelfde doen

Ik wed dat je deze slimme gedachte in gedachten had toen je de voorgaande analyse over essays en generatieve AI-apps las, namelijk dat de student ongetwijfeld betrapt zal worden als veel andere studenten hetzelfde doen.

Sta mij toe om uit te leggen.

Een leraar geeft hun hele klas de opdracht om een ​​opstel over Lincoln te schrijven. Stel dat 90% van de leerlingen besluit een generatieve AI-app te gebruiken voor deze opdracht. Als 90% overdreven deprimerend lijkt, ga je gang en gebruik in plaats daarvan 10%. Houd er rekening mee dat naarmate studenten lucht krijgen van het nut van generatieve AI-apps, de verleiding om ze te gebruiken zal toenemen.

Oké, dus een opmerkelijk percentage van de klas gebruikt een generatieve AI-app. Je zou aannemen dat ergo de studenten allemaal ongeveer hetzelfde Lincoln-essay gaan inleveren. Tegen de tijd dat ze het derde of vierde essay beoordelen, merkt de docent dat de essays allemaal ongeveer hetzelfde zijn. Dit zal een grote aanwijzing zijn dat er iets mis is.

Sorry, maar het is onwaarschijnlijk dat je zoveel geluk hebt.

De meeste generatieve AI-apps zijn zeer gevoelig voor de samenstelling van een prompt. Als ik schrijf "Vertel me over Lincoln" versus als ik schrijf "Vertel me over het leven van Lincoln", is de kans groot dat de essays wezenlijk anders zullen zijn. In eerste instantie concentreert het essay van de AI zich misschien op president Lincoln tijdens zijn ambtstermijn in het Witte Huis en laat het iets weg over zijn jeugd. De andere prompt zou een essay kunnen opleveren over zijn geboorte tot aan zijn dood.

Studenten zullen waarschijnlijk niet precies invoeren wat de leraar hen heeft gegeven als prompt voor het essay. Het lijkt verstandig om als cheater variaties te proberen. Maar zelfs als alle studenten exact dezelfde prompt invoeren, is de kans vrij groot dat elk essay enigszins verschilt van de andere.

Deze AI-apps maken gebruik van een enorm intern vervaardigd wiskundig en computationeel netwerk dat in wezen grotendeels overeenstemt met tekst die op internet is gevonden. Inbegrepen in het proces van het genereren van een essay is een probabilistische factor. Het is onwaarschijnlijk dat de gekozen woorden in dezelfde volgorde en exact dezelfde bewoordingen staan. Elk gegenereerd essay zal over het algemeen anders zijn.

Er zit echter één addertje onder het gras. Als het gekozen onderwerp nogal obscuur is, bestaat de kans dat sommige van de geproduceerde essays op elkaar lijken. Dat zou gedeeltelijk zijn omdat het patroon aan de basis van de tekst in het begin dun was. Dat gezegd hebbende, kan de manier waarop het essay is samengesteld nog heel anders zijn. Ik zeg alleen dat de essentie van de inhoud op zich ongeveer hetzelfde zou kunnen zijn.

Ik wil niet somber overkomen, maar je zou mogelijk dezelfde bewering kunnen doen over een veelvoorkomend onderwerp als het leven van Lincoln. Op hoeveel verschillende manieren kun je ingaan op de algemene aspecten van zijn leven? Als je op de een of andere manier studenten in een afgesloten klaslokaal zou krijgen om over Lincoln te schrijven en ze online toegang zou geven om zijn leven te onderzoeken, durf ik te zeggen dat de kans dat de essays enigszins op elkaar lijken, toch zou kunnen gebeuren.

De gratis en gemakkelijke factor is aanzienlijk

Als een student tegenwoordig vals wil spelen door iemand via internet te betalen om zijn essay te schrijven, is dat heel eenvoudig (ik hoop dat je niet schrikt, misschien had ik van tevoren een triggerwaarschuwing moeten geven).

Het probleem is echter dat je wel moet betalen voor het essay. Er is ook een kleine kans dat je later misschien gepakt wordt. Heb je een creditcard gebruikt om het essay te betalen? Misschien is het beter om een ​​of andere vorm van ondergrondse betalingsverwerking te gebruiken om te proberen uw sporen vrij te houden.

Het mooie of misschien wel de irritante factor van generatieve AI is dat de meeste momenteel gratis beschikbaar zijn. Er is geen betaling vereist. Geen specifiek trackrecord van uw gebruik (nou ja, voor alle duidelijkheid: de AI-app houdt mogelijk uw gebruik bij, vooral omdat veel van de AI-apps vereisen dat u zich aanmeldt met een e-mailadres, maar u kunt dat natuurlijk ook vervalsen ).

Sommige mensen gaan er natuurlijk van uit dat je een AI-wizard moet zijn om een ​​generatieve AI-app te gebruiken.

Niet zo.

Over het algemeen zijn generatieve AI-apps verbazingwekkend eenvoudig te gebruiken. U roept de AI-app op. Het presenteert u een open tekstvak waarin u uw prompt kunt invoeren. U voert een prompt in en drukt op verzenden. De AI-app genereert de tekst.

Dat is het zo'n beetje.

Er zijn geen gespecialiseerde computertalen nodig. Geen kennis van databases of data science. Ik verzeker je dat zowat elk kind op school gemakkelijk een generatieve AI-app kan gebruiken. Als een kind kan typen, kan het deze apps gebruiken.

Sommigen beweren dat de bedrijven die de generatieve AI-apps leveren, eerst de leeftijd van de gebruiker moeten verifiëren, vermoedelijk om te voorkomen dat niet-volwassenen de AI gebruiken voor valsspelen bij het schrijven van essays. Als de gebruiker aangeeft geen volwassene te zijn, laat hem dan de AI-app niet gebruiken. Eerlijk gezegd is dat een onwaarschijnlijk preventiescenario, tenzij er op de een of andere manier AI-gerelateerde wetten zijn uitgevaardigd die dit soort beperkingen proberen vast te stellen. Zelfs als dergelijke wetten worden aangenomen, kunt u dit waarschijnlijk omzeilen door een generatieve AI-app te gebruiken die in een ander land wordt gehost, enz.

Een andere onbetaalbare invalshoek zou zijn als de generatieve AI-apps geld kosten om te gebruiken. Stel dat er transactiekosten of abonnementskosten zijn. Dit zou de generatieve AI-app op één lijn brengen met die mensen op internet die een essay voor je schrijven en je daarvoor opdragen. Arbeid zou het opnemen tegen AI (terzijde, dit suggereert allemaal dat mensen die voor de kost essays schrijven voor studenten, zullen worden vervangen door AI die hetzelfde doet; de vraag is of we bedroefd of tevreden moeten zijn dat die mensen die zo hun brood verdienen, dat niet langer op die manier kunnen doen).

De bedrijven die generatieve AI-apps maken, willen zeker geld verdienen met deze apps, maar hoe ze dat moeten doen, hangt nog in de lucht. Het in rekening brengen van transactiekosten, abonnementskosten of misschien kosten per gegenereerd woord liggen allemaal op tafel. In plaats van mensen kosten in rekening te brengen, kan het genereren van inkomsten worden gedaan via het gebruik van advertenties. Misschien moet u elke keer dat u een bepaalde generatieve AI-app gebruikt, eerst een advertentie zien. Dat zou een geldmaker kunnen zijn.

Ik haat het om hier melk over te morsen, maar als middel om bedrog door studenten te overwinnen, zal het geen wondermiddel zijn. Niet eens in de buurt.

Er zijn open-source versies van generatieve AI. Mensen plaatsen die daar en anderen zijn geneigd de app gratis beschikbaar te stellen. Op de een of andere manier, zelfs als sommige bedrijven een vergoeding vragen, kun je varianten vinden die gratis te gebruiken zijn, hoewel je misschien advertenties moet zien of je misschien moet aanmelden en wat informatie over jezelf moet weggeven voor marketingdoeleinden.

Helpt de Multi-Step dit

Een student kiest ervoor om een ​​generatieve AI-app te gebruiken om zijn essay te maken.

In plaats van het essay meteen in te leveren, besluit de student het essay te redigeren. Ze nemen hier oordeelkundig een paar woorden uit. Zet daar een paar woorden in. Schuif een zin omhoog. Schuif een zin verder naar beneden. Na een beetje bewerken en verfijnen hebben ze nu een essay dat ze kunnen inleveren.

Is dit essay het werk van de student of niet?

Ik heb je gebracht bij de grote onbeantwoorde onopgeloste vraag van een miljoen dollar.

Laten we wat achtergrondinformatie geven over wettelijke rechten en inbreuk. Dit is een onderwerp dat ik nogal wat heb behandeld, zoals de link hier en de link hierBijvoorbeeld.

U weet waarschijnlijk al iets over auteursrechten en wat bekend staat als intellectueel eigendom (IP). Iemand die een auteursrechtelijk beschermd verhaal heeft, wordt verondersteld verschillende wettelijke rechten te behouden die aan dat verhaal zijn verbonden. Ze hebben geen volledig ijzersterke allesomvattende schijn van wettelijke rechten. Er zijn uitsluitingen en uitzonderingen.

Een van de moeilijkste problemen bij het schenden van iemands auteursrechtelijk beschermd materiaal is de nabijheid van wat je zou kunnen hebben in vergelijking met de originele bron. Misschien heb je nieuwsberichten gelezen of gezien over beroemde zangers en hun teksten, waarbij iemand anders een lied schreef met ogenschijnlijk vergelijkbare teksten en of dit wettelijk correct was of niet.

Ik had eerder gezegd dat de generatieve AI-app meestal geen essay produceert dat een kopie is van ander materiaal waarop het eerder is getraind door inhoud op internet te onderzoeken. De kans is groot dat het materiaal gegeneraliseerd is en allemaal in elkaar overloopt, zodat het niet langer sterk lijkt op de inhoud van de bron.

We zullen moeten afwachten hoe de juridische procedure hiermee omgaat. Als een generatieve AI-app een kunstwerk produceert dat visueel duidelijk lijkt op een kunstwerk uit een bron, zouden we er waarschijnlijk toe neigen de AI en de makers van de AI te beschuldigen van het schenden van het auteursrecht dat aan het originele werk is gekoppeld. We kunnen het met onze eigen ogen zien.

Als het om essays gaat, kan dit lastiger zijn. De voor de hand liggende gevallen zijn wanneer hele zinnen en paragrafen woord voor woord identiek zijn. Dat kunnen we allemaal zien. Maar wanneer de bewoordingen een klein beetje verschillen, komen we in grijze gebieden terecht.

Hoe ver moet het nieuw vervaardigde materiaal verwijderd zijn van het originele materiaal om te verklaren dat het een bonafide origineel is op zijn eigen merites?

Dat is een gewichtige vraag.

Laten we dit koppelen aan de student die de generatieve AI-app gebruikt voor zijn essay.

Doe even alsof een bepaald essay dat door de AI-app is gegenereerd, zal worden opgevat als een 'origineel' essay. Ik zeg, neem aan dat het op geen enkele duidelijke manier een ander reeds bestaand essay of tekstverhaal schendt waar ook ter wereld.

De student gaat dan uit van een originele bron van de stof. Zoals reeds aangegeven, bewerkt en verfijnt de student dit materiaal. Het bereikt een punt waarop het origineel zoals geproduceerd door de AI-app nu verschilt van de verfijnde versie die de student heeft bedacht.

Is dit bedrog?

Misschien wel misschien niet.

Je kunt stellen dat het zo is. De student begon met de AI die hun essay voor hen schreef. Alles wat de student heeft gedaan, is mechanisch gespeeld met het essay. We verwachten van de student dat hij het essay uit de lucht schrijft en daarbij zijn eigen hoofd gebruikt. Het is duidelijk valsspelen om de AI-app te gebruiken om hun baseline te genereren. Ken een "F" -cijfer toe aan de student.

Niet zo snel. Je kunt stellen dat het geen fraude is. De student heeft het bronmateriaal herwerkt. Als een vergelijking tussen het door de AI-app geproduceerde essay en de door studenten verfijnde versie een voldoende groot verschil is, zouden we zeggen dat de student het essay heeft geschreven. Toegegeven, ze gebruikten daarbij ander materiaal, maar kun je niet hetzelfde zeggen als ze een encyclopedie of een andere bron gebruikten? Deze student verdient een "A"-cijfer omdat hij op eigen kracht een essay heeft geschreven (niettegenstaande dat hij naar ander materiaal heeft verwezen om dit te doen).

Leraren zullen verstrikt raken in het midden van deze toch al lastige vraag.

Een benadering is dat een docent categorisch zou kunnen stellen dat de leerlingen alle materialen waarnaar wordt verwezen, moeten vermelden, inclusief of er al dan niet een generatieve AI-app is gebruikt. Als een leerling de generatieve AI niet openlijk opsomt als referentie, en als de docent erachter komt dat hij die niet heeft vermeld, krijgt de leerling summier een "F"-cijfer voor de opdracht. Of misschien beschouwen sommige scholen dit als een daad van bedrog waardoor de student automatisch een zak krijgt. Of misschien verdreven. We zullen moeten zien hoe ver scholen hierin gaan.

Over het algemeen zijn we op weg naar een omgekeerde wereld van intellectueel eigendom en wettelijk eigendom van werken zoals essays (tekst), kunst (afbeeldingen) en video, waaronder:

• Sommigen zullen juridisch verhaal zoeken bij generatieve AI-makers met betrekking tot de bronnen van inhoud die door de AI zijn gebruikt om de geproduceerde output te genereren.
• Sommigen nemen de output van generatieve AI en beschouwen het resultaat als hun eigen werk, en proberen vervolgens juridische verhaalsmogelijkheden te zoeken bij iedereen die hun "oorspronkelijke" werk schendt.
• Dit zou rond kunnen gaan, zodat iemand output produceert van generatieve AI, die op internet wordt geplaatst, en dan komt er een andere generatieve AI langs die dit gebruikt in zijn training om verwante werken te produceren.

Een negatief omzetten in een positief

Al dit gepraat over de slechtheid van generatieve AI als het gaat om spieken door studenten vertroebelt misschien onze geest, sommigen vermanen ons.

Neem dit in een andere richting.

Ga je zitten?

Misschien zouden docenten moeten overwegen om leerlingen met opzet generatieve AI te laten gebruiken als onderdeel van het leerproces bij het schrijven van essays.

Ik heb eerder geschreven over de zogenaamde dubbel gebruik van AI, zie de link hier. Het idee is dat een AI-systeem soms ten kwade kan worden gebruikt en soms kan worden omgeschakeld en ten goede kan worden gebruikt. Het zorgwekkende aspect is wanneer iemand AI voorgoed schrijft en zich niet bewust is van hoe gemakkelijk zijn AI kan worden omgezet in het spook van slechtheid. Deel van Ethische AI is het besef dat AI zo moet worden bedacht dat het niet van de ene op de andere dag in een vloek kan veranderen. Dit is een voortdurende zorg.

Terug naar de generatieve AI voor het maken van essays.

Ik bracht eerder het concept naar voren dat een student misschien kan leren over schrijven door te kijken naar geschreven werken die al bestaan. Dit is heel logisch. Kortom, hoe meer u leest, hoe groter de kans dat u uw mentale schijn vergroot om te kunnen schrijven. Zoals eerder vermeld, moet je nog steeds schrijven, aangezien al het lezen in de wereld je niet noodzakelijkerwijs een goede schrijver zal maken als je het schrijven niet oefent.

We zouden generatieve AI kunnen gebruiken om deze lees- en schrijfkoppeling te bevorderen. Laat een leerling opzettelijk generatieve AI gebruiken. De AI produceert een essay. De student krijgt de opdracht om het door AI geproduceerde essay te bekritiseren. Vervolgens krijgt de student de opdracht om een ​​nieuw essay te schrijven, misschien over een ander onderwerp, maar kan hij de structuur en andere algemene elementen van het eerdere door AI gegenereerde essay gebruiken.

Sommigen suggereren dat dit voor studenten zelfs productiever kan zijn dan het simpelweg lezen van boeken of andere teksten van schrijvers waarmee de student geen toegang heeft tot 'interactie'. Met de AI-app kan de student proberen het eerste essay opnieuw uit te voeren en te produceren door een groot aantal prompts achter elkaar te gebruiken. De student zou de AI kunnen vragen een barebones-essay over Lincoln te schrijven. Vervolgens vraagt ​​de student om een ​​lang essay over Lincoln dat met een informele stem is geschreven. Nadat hij dat heeft bekeken, geeft de student aan de AI-app aan om een ​​sterk geformaliseerde versie van het Lincoln-essay te maken. Enzovoort.

De bewering is dat dit een student materieel kan helpen bij het leren over schrijven en hoe schrijven kan plaatsvinden.

Een recent onderzoeksartikel stelt precies dit punt voor: "De auteurs van dit artikel geloven dat AI kan worden gebruikt om drie barrières voor leren in de klas te overwinnen: overdracht verbeteren, de illusie van verklarende diepte doorbreken en studenten trainen om uitleg kritisch te evalueren" ( in een artikel met de titel "Nieuwe manieren van leren mogelijk gemaakt door AI-chatbots: drie methoden en toewijzingen", Dr. Ethan Mollick en Dr. Lilach Mollick, Wharton School van de Universiteit van Pennsylvania en Wharton Interactive, 12 december 2022)

Ze wijzen er bijvoorbeeld op dat het verbeteren van de leeroverdracht op deze manier kan gebeuren: “AI is een goedkope manier om studenten veel voorbeelden te geven, waarvan sommige misschien onnauwkeurig zijn, meer uitleg behoeven of gewoon verzonnen zijn. Voor leerlingen met fundamentele kennis van een onderwerp kun je AI gebruiken om hen te helpen hun begrip te testen en hen expliciet aan te sporen om onnauwkeurigheden, hiaten en ontbrekende aspecten van een onderwerp te benoemen en uit te leggen. De AI kan een oneindige reeks voorbeelden van concepten en toepassingen van die concepten bieden en je kunt studenten ertoe aanzetten om: voorbeelden in verschillende contexten te vergelijken, de kern van een concept uit te leggen en inconsistenties en ontbrekende informatie aan te wijzen in de manier waarop de AI concepten toepast naar nieuwe situaties” (ibid).

Het is verwant aan het oude refrein, als je ze niet kunt verslaan, doe dan mee.

Verander de generatieve AI in een educatieve tool.

Yikes, komt de snelle reactie.

Je zet de vos in het kippenhok. Studenten die geen idee hadden wat generatieve AI is, krijgen het nu openlijk te zien door de openlijke acties van een leraar en hun scholen. Als de studenten geen idee hadden van de mogelijkheden om vals te spelen, leg je het rechtstreeks in hun gezicht en in hun handen.

Het lijkt volkomen weerzinwekkend dat gezagsdragers studenten kennis laten maken met een middel om vals te spelen. Je zult dus voor altijd de meest eerlijke student in het rijk van valsspelen brengen. Iedereen heeft toegang tot de cheat-machine. Ze worden opgedragen dit te doen. Het is niet nodig om het te verbergen. U hoeft niet te doen alsof u geen generatieve AI gebruikt. De school en de leraar lieten je het gebruiken.

De weerklank hierop is dat je blindelings en onwetend je kop in het zand moet steken om te denken dat studenten niet vertrouwd zullen raken met generatieve AI. Terwijl jij dwaas doet alsof ze er niets van weten, haasten ze zich de school uit om het te gebruiken. Uw betere keuze is om het ding aan hen voor te stellen, te bespreken waarvoor het wel en niet kan worden gebruikt, en een helder glanzend licht te brengen op het hele raadsel.

Het is nogal een doozy.

Voor degenen onder u die onderzoek doen naar educatieve innovaties van technologie, wilt u misschien eens kijken naar generatieve AI en hoe dit de aard van educatieve benaderingen kan veranderen en het leren van studenten kan beïnvloeden. Het komt snel genoeg.

Detectie gebruiken om ons te redden van de ondergang

Wissel van hoed en laten we even stilstaan ​​bij digitale kunst.

Als je een stuk digitale kunst maakt, wil je het misschien op de een of andere manier markeren, zodat je later kunt zien of iemand ervoor heeft gekozen om je kunstenaarschap te gebruiken of opnieuw te gebruiken. Een eenvoudige manier om dit te doen, is door enkele pixels of punten in uw digitale illustraties te wijzigen. Als je er hier of daar een paar doet, zal het uiterlijk van het kunstwerk in de ogen van mensen nog steeds hetzelfde lijken. Ze zullen die pixels niet opmerken die piepklein zijn en zijn ingesteld op een speciale kleur die alleen te zien is bij nauwkeurige inspectie met digitale hulpmiddelen.

U kent deze technieken misschien als een vorm van watermerken. Net zoals er vroeger pogingen waren om op papier gebaseerde materialen en andere niet-gedigitaliseerde inhoud van een watermerk te voorzien, hebben we geleidelijk de opkomst van digitale watermerken gezien.

Een digitaal watermerk kan verborgen zijn in de afbeelding van een digitaal kunstwerk. Als dat opdringerig lijkt voor de afbeelding, kunt u proberen het watermerk in te sluiten in het bestand dat het digitale kunstwerk bevat (de zogenaamde "metadata" van het digitale werk).

Er kan een kat-en-muisspel ontstaan.

Er komt een boosdoener langs en ze ontdekken je digitale watermerk. Ze verwijderen het. Nu kunnen ze schijnbaar vrijelijk uw digitale illustraties gebruiken zonder zich zorgen te hoeven maken dat u er later in zult kunnen prikken en kunt laten zien dat het duidelijk afzetterij is van uw inspanningen. Die schurken!

We moeten het digitale watermerk opkrikken, wat we kunnen doen door het gebruik van cryptografische technieken en technologieën. Denk aan geheime berichten en codering.

Het idee is dat we het digitale watermerk coderen zodat het moeilijk te vinden is. Het is ook potentieel moeilijk te verwijderen. We zouden zelfs kunnen proberen ervoor te zorgen dat software die het digitale kunstwerk weergeeft of het gebruik ervan toestaat, eerst moet controleren of er een geldig gecodeerd digitaal watermerk in het werk aanwezig is, anders wordt het beschouwd als een ongepaste kopie. Ik heb je op heterdaad betrapt.

Kunnen we hetzelfde doen voor generatieve AI die tekst produceert?

Er is een handschoen neergelegd. Het probleem kan echter tot op zekere hoogte moeilijker zijn dan bij het overwegen van digitale watermerken voor illustraties.

Dit is waarom.

Ga ervan uit dat de enige plaats waar u het watermerk kunt plaatsen, rechtstreeks in de tekst zelf is. Ik zeg dit omdat de gegenereerde tekst niet noodzakelijkerwijs in een bestand terechtkomt. De tekst is maar tekst. Je kunt het knippen en plakken vanuit de generatieve AI-tool. In die zin is er meestal geen metadata of bestand waarin het watermerk kan worden ingesloten.

Je moet je alleen op de tekst concentreren. Zuivere tekst.

Een mogelijkheid zou zijn om stiekem de generatieve AI de tekst te laten produceren op een manier die kan worden getraceerd. Stel je als grof maar onpraktisch voorbeeld voor dat we besloten om elke derde zin te beginnen met het woord 'En' aan het begin van de zin. We zouden nog steeds een ogenschijnlijk volledig vloeiend essay genereren. De enige truc is dat elke derde zin begint met ons gekozen magische woord. Niemand anders weet waar we mee bezig zijn.

Een student gebruikt generatieve AI om het toegewezen essay over Lincoln te maken. De student haalt het rechtstreeks uit de AI-app en e-mailt het naar de leraar. Blijkt dat de student tot het laatste moment heeft gewacht en tegen de gepubliceerde deadline aan liep. Geen tijd om het essay te herzien. Gewoon opsturen en er het beste van hopen.

De docent bekijkt het werkstuk. Stel dat we haar hebben verteld dat ons watermerk bestaat uit het magische woord dat aan het begin van elke derde zin wordt gebruikt. De docent constateert dat dit het geval is in dit ingeleverde werkstuk. Hoewel er misschien een ongelooflijk kleine kans is dat de student het essay heeft geschreven en misschien graag dit specifieke woord aan het begin van elke derde zin gebruikt, denk ik dat we het er redelijkerwijs over eens kunnen zijn dat dit hoogst onwaarschijnlijk is en in plaats daarvan heeft de student waarschijnlijk de generatieve AI gebruikt om het essay te produceren.

Zie je hoe dat werkt?

Ik vertrouw erop dat je dat doet.

Het probleem is nu hoe je een watermerk kunt bedenken dat niet zo voor de hand ligt. Het kan een leerling opvallen dat de zinnen vreemd genoeg een bepaald woord lijken te gebruiken. Ze kunnen raden wat er aan de hand is. Op zijn beurt kan de student zinnen verplaatsen en wat herformuleren. Dit doet dit specifieke watermerk dan vrijwel zinken, aangezien het essay niet langer gemakkelijk wordt opgemerkt als geschreven door de generatieve AI.

Het kat-en-muisspel dringt weer door.

We moeten vloeiende tekst produceren die op de een of andere manier een "watermerk" bevat op een manier die niet gemakkelijk te onderscheiden is. Verder moet het watermerk, indien mogelijk, blijven bestaan, zelfs als het essay enigszins wordt herzien. Een herziening van het hele varken zal het watermerk waarschijnlijk niet laten overleven. Maar we willen wat redundantie en veerkracht zodat het watermerk bij voorkeur detecteerbaar is, zelfs als er enige wijzigingen in het tekstgebied worden aangebracht.

Een onderzoeker die wat werk doet voor het bedrijf dat ChatGPT (de AI-app van OpenAI) maakt, onderzoekt een aantal interessante cryptografische inspanningen op basis van deze watermerkoverwegingen. Scott Aaronson is professor computerwetenschappen aan de Universiteit van Texas in Austin en hij hield onlangs een lezing over een deel van het werk dat plaatsvindt (een transcriptie staat op zijn blog).

Kijk eens naar dit fragment waarin hij kort de bestaande aanpak toelicht: “Hoe werkt het? Voor GPT is elke invoer en uitvoer een reeks tokens, die woorden kunnen zijn, maar ook leestekens, delen van woorden of meer. Er zijn in totaal ongeveer 100,000 tokens. In de kern genereert GPT constant een kansverdeling over het volgende te genereren token, afhankelijk van de reeks eerdere tokens. Nadat het neurale net de distributie heeft gegenereerd, bemonstert de OpenAI-server in feite een token volgens die distributie, of een gewijzigde versie van de distributie, afhankelijk van een parameter die 'temperatuur' wordt genoemd. Zolang de temperatuur echter niet nul is, zal er meestal wat willekeur zijn bij de keuze van het volgende token: je zou keer op keer dezelfde prompt kunnen herhalen en elke keer een andere voltooiing krijgen (d.w.z. een reeks uitvoertokens). .”

Zoals opgemerkt, is er een bepaalde mate van willekeur met betrekking tot de woorden die als volgende in het essay worden geplaatst dat wordt afgeleid door de ChatGPT-app. Dat verklaart ook het eerder gemaakte punt dat elk essay waarschijnlijk iets anders zal zijn, zelfs als het over hetzelfde onderwerp gaat. Een doelbewust gebruik van een willekeurige selectiebenadering die binnen bepaalde grenzen valt, loopt onder de motorkap tijdens het genereren van essays.

We komen nu bij het sappige deel, de cryptografische vermenging: “Dus om het volgende token van een watermerk te voorzien, in plaats van willekeurig het volgende token te selecteren, zal het idee zijn om het pseudo-willekeurig te selecteren, met behulp van een cryptografische pseudo-willekeurige functie, waarvan de sleutel alleen bekend is bij OpenAI . Dat zal voor de eindgebruiker geen waarneembaar verschil maken, ervan uitgaande dat de eindgebruiker de pseudowillekeurige getallen niet kan onderscheiden van echt willekeurige getallen. Maar nu kun je een pseudowillekeurige functie kiezen die in het geheim een ​​bepaalde score beïnvloedt - een som over een bepaalde functie g geëvalueerd bij elke n-gram (reeks van n opeenvolgende tokens), voor een kleine n - welke score je ook kunt berekenen als je weet de sleutel voor deze pseudowillekeurige functie.”

Ik realiseer me dat dat misschien wat technologisch vastgelopen lijkt.

De essentie is dat het geproduceerde essay vloeiend zal lijken en dat je door het lezen van het essay niet gemakkelijk kunt onderscheiden dat het een digitaal watermerk bevat. Om erachter te komen of een bepaald essay een watermerk bevat, moet u het essay invoeren in een speciaal ontworpen detector. Het programma dat de detectie uitvoert, berekent een waarde op basis van de tekst en kan die waarde vergelijken met een opgeslagen sleutel. In de beschreven aanpak zouden de sleutels in het bezit zijn van de verkoper en anders niet beschikbaar zijn, dus, ervan uitgaande dat de sleutels geheim worden gehouden, kan alleen het gezalfde detectieprogramma berekenen of het essay in dit geval waarschijnlijk is afgeleid van ChatGPT.

Hij gaat verder met te erkennen dat dit niet onfeilbaar is: “Dit kan allemaal worden verslagen met voldoende inspanning. Als je bijvoorbeeld een andere AI hebt gebruikt om de uitvoer van GPT te parafraseren, dan kunnen we dat niet detecteren. Aan de andere kant, als je hier en daar een paar woorden invoegt of verwijdert, of de volgorde van enkele zinnen herschikt, zal het watermerksignaal er nog steeds zijn. Omdat het alleen afhangt van een som van meer dan n-grammen, is het bestand tegen dat soort interventies.”

Een leraar kan toegang krijgen tot een detectorprogramma dat de essays van studenten controleert. Stel dat de zaak relatief eenvoudig is doordat de leraar de leerlingen hun essays naar de leraar en de automatische detector laat e-mailen. De detector-app informeert de docent vervolgens over de waarschijnlijkheid dat het essay in dit geval door ChatGPT wordt gemaakt.

Nu, als de detector openlijk beschikbaar is voor iedereen, zou je "overpresterende" student-bedriegers hebben die gewoon hun essays in de detector zouden laten lopen en een reeks wijzigingen zouden aanbrengen totdat de detector aangaf dat het weinig waarschijnlijk was dat het essay was afgeleid door de generatieve AI. Meer kat-en-muis. Vermoedelijk moet de detector stevig worden beschermd door het gebruik van een wachtwoord, of er zijn andere middelen of methoden nodig om met cryptografische benaderingen om te gaan (er zijn verschillende op sleutels gebaseerde en sleutelloze methoden die kunnen worden gebruikt).

Een leraar kan worden geconfronteerd met de mogelijkheid dat er tientallen of honderden generatieve AI-apps beschikbaar zijn voor gebruik op internet. In dat geval, als je probeert om ze allemaal een digitaal watermerk te laten gebruiken en ze allemaal een essay moet geven, wordt het alleen maar verleidelijker en logistiek ingewikkelder.

Geen essays meer buiten het klaslokaal

Een kommer en kwelperspectief is dat leraren misschien het gebruik van externe essays zullen moeten opgeven. Alle essays mogen alleen binnen de gecontroleerde omgeving van een klaslokaal worden geschreven.

Dit heeft heel veel problemen.

Stel dat een student normaal gesproken tien uur nodig heeft om een ​​bepaald volledig essay te schrijven dat een klasproject is. Hoe zou dit in een klaslokaal gebeuren? Ga je het uitverdelen en de student een klein stukje van het essay laten schrijven over een reeks van dagen? Denk na over de moeilijkheden die dit met zich meebrengt.

Sommigen beweren dat de zaak misschien overdreven wordt.

Docenten moeten doen wat ze altijd hebben gedaan met betrekking tot plagiaat door studenten. Van tevoren verklaart de docent dat plagiaat een serieus probleem is. Benadruk dat het gebruik van generatieve AI, op welke manier dan ook, als valsspelen wordt beschouwd.

Geef straffen die zwaar wegen, zoals een laag cijfer, een gezakte klas of verwijdering van een school als het zover komt. Eis van studenten dat ze voor elke externe essayopdracht schriftelijk bevestigen dat wat ze hebben ingeleverd hun werk is (dus zonder hulpmiddelen zoals generatieve AI, kopiëren van internet, medestudenten gebruiken, een ouder gebruiken, betalen om het voor elkaar te krijgen, en spoedig). Eis ook dat de leerlingen een lijst maken van alle online tools die zijn gebruikt bij de voorbereiding van het werk, inclusief het specifiek noteren van met name het gebruik van generatieve AI.

De docent kan al dan niet een detector-app gebruiken om te proberen te onderscheiden of het ingediende essay waarschijnlijk is gemaakt door een generatieve AI-app. Dit is een potentieel lastige stap, afhankelijk van hoe gemakkelijk de detectoren te gebruiken en toegankelijk zijn.

Leraren zouden vermoedelijk al actie moeten ondernemen om uit te zoeken of buiten geschreven essays legitiem lijken. Door in de klas essays te schrijven, is er een kans om te vergelijken en te contrasteren, hoewel je beseft dat de tijd om te schrijven in een klaslokaal minder is en mogelijk ook wordt belemmerd door de beperking van het niet toestaan ​​van toegang tot online referentiemateriaal.

De kern is dat we niet de weg moeten kiezen om het gebruik van essays van buitenaf abrupt te schrappen. Sommigen zouden dit betreuren als een onbezonnen daad die doet denken aan het kind met het badwater weggooien (een oud gezegde, misschien de moeite waard om met pensioen te gaan).

Als buiten schrijven volledig wordt stopgezet als leeractiviteit, zijn er waarschijnlijk ernstige en langdurige nadelen verbonden aan het verwijderen van deze ogenschijnlijk alledaagse educatieve activiteit uit het curriculum. Er is sprake van een afweging. Hoeveel studenten gaan er ondanks alle bovengenoemde checks and balances vals spelen? Hoeveel studenten zullen niet vals spelen en zullen daarom een ​​gunstige onderwijsaanpak blijven gebruiken om hun schrijfvaardigheid te verbeteren?

In theorie zal hopelijk het percentage valsspelers klein genoeg zijn, zodat schrijven buiten de deur nog steeds verdienstelijk is voor het overgrote deel van de studenten.

Conclusie

AI kan behoorlijk hoofdpijn veroorzaken.

Voor leraren kan AI zowel een zegen als een vloek zijn. Hoe dan ook, het betekent dat leraren kennis moeten hebben van AI, samen met hoe ze moeten omgaan met AI-wendingen die verband houden met hun onderwijsactiviteiten, wat nog een extra gewicht is op hun toch al overbelaste rug en schouders. Shoutout naar leraren overal.

Misschien kunnen we wensen dat AI verdwijnt.

Nope.

Zie je, we gaan de klok niet terugdraaien en generatieve AI uitbannen. Iedereen die hierom vraagt ​​is een dromer. En even terzijde, ik gebruik het woord "En" als het eerste woord van de derde zin van deze alinea (oeps, ik geef de sleutel weg!), generatieve AI is er om te blijven.

Hier is een prompt om uw verhitte discussies op gang te brengen: Generatieve AI zal meer doordringend worden en nog meer verbazingwekkende en zenuwslopende mogelijkheden hebben.

Mic drop.

Laatste gedachte voor nu.

Shakespeare schreef beroemd: "Te zijn of niet te zijn: dat is de vraag."

Ik verzeker je dat generatieve AI gaat worden. Dat is het al.

We moeten uitzoeken hoe we willen dat generatieve AI in ons leven komt en hoe de samenleving ervoor kiest om dergelijk gebruik vorm te geven en te sturen. Als u ooit een reden nodig had om na te denken over AI-ethiek en AI-wetgeving, zal generatieve AI u er misschien toe aanzetten om te proberen te weten wat we zijn, zelfs als we niet weten wat we kunnen zijn (verborgen Shakespeare-referentie).