Die scholen die de toegang tot generatieve AI ChatGPT verbieden, zullen de naald niet bewegen en missen de boot, zegt AI Ethics and AI Law

Verbieden of niet verbieden, dat is de vraag.

Ik vermoed dat als Shakespeare er tegenwoordig was geweest, hij misschien zoiets zou hebben gezegd over de recente pogingen om het gebruik van een soort AI bekend als generatieve AI, dat vooral wordt geïllustreerd en gepopulariseerd vanwege een AI-app genaamd ChatGPT.

Dit is de deal.

Sommige spraakmakende entiteiten hebben geprobeerd het gebruik van ChatGPT te verbieden.

Het Department of Education van New York City (NYC) heeft bijvoorbeeld onlangs aangekondigd dat ze de toegang tot ChatGPT op zijn verschillende netwerken en aangesloten apparaten gaan blokkeren. De gerapporteerde grondgedachte voor het verbod bestond uit aanwijzingen dat deze AI-app en het algehele gebruik van generatieve AI negatieve gevolgen lijken te hebben voor het leren van studenten. Van studenten die ervoor kiezen om ChatGPT te gebruiken, wordt gezegd dat ze de ontwikkeling van hun cruciale kritische denkvaardigheden ondermijnen en de groei van hun probleemoplossend vermogen ondermijnen.

Bovenop die nogal stoutmoedige zorgen, is er het onbetwiste feit dat dergelijke AI onnauwkeurige outputs kan produceren die fouten en andere feitelijke kwalen bevatten. Dat is slecht. De gevaarlijke kers op de taart is de ingebeelde mogelijkheid dat de output mogelijk op een onveilige manier kan worden gebruikt door studenten die onbewust vertrouwen op de onwaarheden. Dergelijke gedocumenteerde schade die ik heb gezien, is nog niet aan de oppervlakte gekomen, dus we moeten gewoon aannemen dat dit mogelijk zou kunnen gebeuren (ik heb het scala aan mogelijkheden in mijn berichten besproken; sommigen hebben bijvoorbeeld beweerd dat generatieve AI essays zouden iemand kunnen vertellen om medicijnen te nemen die ze niet zouden moeten nemen of advies over geestelijke gezondheid geven dat zou moeten worden gegeven door professionals in de geestelijke gezondheidszorg, enz.).

In de column van vandaag zal ik de aard van de onlangs afgekondigde verboden onderzoeken en bepalen of ze zinvol zijn of niet. Er zijn veel vragen om over na te denken. Heeft zo'n verbod enig nut? Zijn deze verboden afdwingbaar? Als er meer van dergelijke verboden komen, helpen we dan de mensheid of schieten we onbedoeld in onze eigen voet?

Zoals je waarschijnlijk wel kunt raden, is niets van dit alles zo gesneden en gedroogd als het op het eerste gezicht lijkt.

Bij dit alles komt een hele reeks overwegingen op het gebied van AI-ethiek en AI-wetgeving kijken. Houd er rekening mee dat er voortdurende inspanningen worden geleverd om ethische AI-principes te integreren in de ontwikkeling en uitvoering van AI-apps. Een groeiend contingent van bezorgde en voormalige AI-ethici probeert ervoor te zorgen dat bij het bedenken en toepassen van AI rekening wordt gehouden met de visie van doen AI voorgoed en afwenden AI voor slecht. Evenzo worden er nieuwe AI-wetten voorgesteld die worden gebruikt als mogelijke oplossingen om te voorkomen dat AI-inspanningen amok maken op het gebied van mensenrechten en dergelijke. Zie voor mijn doorlopende en uitgebreide berichtgeving over AI-ethiek en AI-wetgeving de link hier en de link hier, om er een paar te noemen.

Het idee om sommige soorten AI te verbieden is geen nieuw idee.

In een van mijn columns heb ik de voorgestelde verboden in verband met het gebruik van AI voor autonome wapensystemen nauwkeurig geanalyseerd, zie de link hier. Verschillende landen doen aan wapenontwikkeling die AI aan boord omvat. Het is het spreekwoordelijke vuur-en-vergeet soort wapentuig. Het enige wat je hoeft te doen is het wapen los te laten en de AI neemt het vanaf dat moment over. Hopelijk leidt de AI de bewapening naar de juiste bestemming en ontploft of levert deze op passende wijze af. Er is vaak heel weinig overheersing van de mens in de lus, omdat het proces sneller kan verlopen dan dat mensen toch zouden kunnen reageren, of de kans dat een vijand het systeem hackt en verhindert dat het wapen zijn werk doet, wordt verkleind of ingeperkt door iets anders te voorkomen. dan de AI van het besturen van de munitie.

Het is duidelijk dat dit een geval is waarin AI gevolgen heeft voor leven of dood. Je zou overtuigend kunnen stellen dat we moeten nadenken over de effecten van zo'n akelige AI. Het is uiterlijk verstandig om elke steen om te draaien voordat we AI in beton laten gieten voor autonome wapens. Er staan ​​veel levens op het spel.

Geldt datzelfde onheil en plechtigheid voor het gebruik van generatieve AI inclusief ChatGPT?

Je zou enigszins moeite hebben om te zeggen dat dit type AI in dezelfde klasse zit als het andere type AI dat dodelijke raketten en andere munitie leidt. Dat gezegd hebbende, zelfs als leven of dood niet op het spel staat, betekent dit niet dat we niet de nodige zorgvuldigheid kunnen betrachten over de negatieve effecten die generatieve AI naar voren kan brengen. De inzet is misschien niet hetzelfde, maar oprechte zorgen hebben over generatieve AI heeft voordelen.

Ik heb de neiging om verschillende AI-gerelateerde verboden te stratificeren in het volgende spectrum:

• Absoluut verbod
• Gedeeltelijk verbod
• Zwak verbod
• Geen verbod

Er is ook de andere kant van de medaille, namelijk proberen AI mogelijk te maken of te ondersteunen, zoals weergegeven in dit spectrum:

• Erkenning
• Milde acceptatie
• Volledige acceptatie
• Verplichte eis

De verschillende reeksen van verboden, samen met de acceptatieperiode, zullen handig zijn om te overwegen als we kijken naar de recente pogingen om het gebruik van ChatGPT te verbieden.

Laten we er eerst voor zorgen dat we allemaal op dezelfde lijn zitten over wat generatieve AI inhoudt en ook waar het bij ChatGPT om draait. Zodra we dat fundamentele facet hebben behandeld, kunnen we een overtuigende beoordeling uitvoeren of het verbieden van ChatGPT vruchtbaar zal zijn.

Een snelle inleiding over generatieve AI en ChatGPT

ChatGPT is een interactief conversatie-georiënteerd AI-systeem voor algemeen gebruik, in wezen een ogenschijnlijk onschuldige algemene chatbot, maar het wordt actief en gretig door mensen gebruikt op manieren die velen volledig overrompelen, zoals ik binnenkort zal toelichten. Deze AI-app maakt gebruik van een techniek en technologie in het AI-rijk waarnaar vaak wordt verwezen als generatieve AI. De AI genereert uitvoer zoals tekst, wat ChatGPT doet. Andere op generatieve gebaseerde AI-apps produceren afbeeldingen zoals foto's of illustraties, terwijl andere audiobestanden of video's genereren.

Ik zal me in deze discussie concentreren op de op tekst gebaseerde generatieve AI-apps, want dat is wat ChatGPT doet.

Generatieve AI-apps zijn buitengewoon gebruiksvriendelijk.

Het enige dat u hoeft te doen, is een prompt invoeren en de AI-app genereert voor u een essay dat probeert op uw prompt te reageren. De samengestelde tekst zal lijken alsof het essay door de menselijke hand en geest is geschreven. Als u een prompt zou invoeren met de tekst "Vertel me over Abraham Lincoln", zal de generatieve AI u een essay over Lincoln geven. Dit wordt gewoonlijk geclassificeerd als generatieve AI die presteert tekst-naar-tekst of sommigen noemen het liever tekst-naar-essay uitgang. Zoals gezegd zijn er andere vormen van generatieve AI, zoals tekst-naar-kunst en tekst-naar-video.

Je eerste gedachte zou kunnen zijn dat dit generatieve vermogen niet zo belangrijk lijkt als het gaat om het produceren van essays. U kunt eenvoudig online op internet zoeken en gemakkelijk tonnen en tonnen essays over president Lincoln vinden. De kicker in het geval van generatieve AI is dat het gegenereerde essay relatief uniek is en een originele compositie biedt in plaats van een copycat. Als je zou proberen het door AI geproduceerde essay ergens online te vinden, zou je het waarschijnlijk niet ontdekken.

Generatieve AI is vooraf getraind en maakt gebruik van een complexe wiskundige en computationele formulering die is opgezet door patronen in geschreven woorden en verhalen op internet te onderzoeken. Als resultaat van het onderzoeken van duizenden en miljoenen geschreven passages, kan de AI nieuwe essays en verhalen uitspuwen die een mengelmoes zijn van wat werd gevonden. Door verschillende probabilistische functionaliteit toe te voegen, is de resulterende tekst vrijwel uniek in vergelijking met wat er in de trainingsset is gebruikt.

Daarom is er opschudding ontstaan ​​over het feit dat studenten vals kunnen spelen bij het schrijven van essays buiten de klas. Een leraar kan niet zomaar het essay nemen waarvan bedrieglijke studenten beweren dat het hun eigen schrijven is en proberen erachter te komen of het is gekopieerd van een andere online bron. Over het algemeen zal er geen definitief bestaand essay online zijn dat past bij het door AI gegenereerde essay. Alles bij elkaar zal de leraar met tegenzin moeten accepteren dat de student het essay als een origineel werkstuk heeft geschreven.

Er zijn extra zorgen over generatieve AI.

Een cruciaal nadeel is dat de essays die door een op generatieve gebaseerde AI-app worden geproduceerd, verschillende onwaarheden kunnen bevatten, waaronder overduidelijk onware feiten, feiten die misleidend worden weergegeven en schijnbare feiten die volledig verzonnen zijn. Die verzonnen aspecten worden vaak een vorm van genoemd AI-hallucinaties, een slogan waar ik een hekel aan heb, maar die helaas toch populair lijkt te worden (voor mijn gedetailleerde uitleg over waarom dit een waardeloze en ongeschikte terminologie is, zie mijn berichtgeving op de link hier).

Ik zou graag één belangrijk aspect willen verduidelijken voordat we ingaan op dit onderwerp.

Er zijn een aantal maffe buitensporige claims op sociale media over generatieve AI beweren dat deze nieuwste versie van AI in feite is bewuste AI (nee, ze hebben ongelijk!). Degenen in AI-ethiek en AI-recht maken zich met name zorgen over deze snelgroeiende trend van uitgestrekte claims. Je zou beleefd kunnen zeggen dat sommige mensen overdrijven wat de huidige AI eigenlijk kan doen. Ze gaan ervan uit dat AI mogelijkheden heeft die we nog niet hebben kunnen bereiken. Dat is jammer. Erger nog, ze kunnen zichzelf en anderen in benarde situaties laten komen door de veronderstelling dat de AI bewust of menselijk zal zijn in het kunnen ondernemen van actie.

Antropomorfiseer AI niet.

Als u dit doet, raakt u verstrikt in een kleverige en stugge afhankelijkheidsval door te verwachten dat de AI dingen doet die hij niet kan uitvoeren. Dat gezegd hebbende, het nieuwste op het gebied van generatieve AI is relatief indrukwekkend voor wat het kan doen. Houd er echter rekening mee dat er aanzienlijke beperkingen zijn waarmee u voortdurend rekening moet houden bij het gebruik van een generatieve AI-app.

Als je geïnteresseerd bent in de snel groeiende commotie over ChatGPT en Generative AI, heb ik een gerichte serie in mijn column gedaan die je misschien informatief vindt. Hier volgt een overzicht voor het geval een van deze onderwerpen je aanspreekt:

• 1) Voorspellingen van komende ontwikkelingen op het gebied van generatieve AI. Als je wilt weten wat er zich waarschijnlijk zal ontvouwen over AI in 2023 en daarna, inclusief aankomende ontwikkelingen in generatieve AI en ChatGPT, wil je mijn uitgebreide lijst met voorspellingen voor 2023 lezen op de link hier.
• 2) Generatieve AI en advies over geestelijke gezondheid. Ik heb ervoor gekozen om te bekijken hoe generatieve AI en ChatGPT worden gebruikt voor advies over geestelijke gezondheid, een lastige trend, volgens mijn gerichte analyse op de link hier.
• 3) Context en generatief AI-gebruik. Ik deed ook een seizoensgebonden ironisch onderzoek over een Santa-gerelateerde context met ChatGPT en generatieve AI op de link hier.
• 4) Oplichters die generatieve AI gebruiken. Een onheilspellende opmerking: sommige oplichters hebben ontdekt hoe ze generatieve AI en ChatGPT kunnen gebruiken om wangedrag te plegen, waaronder het genereren van zwendel-e-mails en zelfs het produceren van programmeercode voor malware. Zie mijn analyse op de link hier.
• 5) Rookie-fouten met behulp van generatieve AI. Veel mensen schieten zowel tekort als verrassend genoeg onder wat generatieve AI en ChatGPT kunnen doen, dus ik heb vooral gekeken naar de onderschrijding die AI-beginners vaak maken, zie de discussie op de link hier.
• 6) Omgaan met generatieve AI-prompts en AI-hallucinaties. Ik beschrijf een toonaangevende benadering van het gebruik van AI-add-ons om de verschillende problemen aan te pakken die samenhangen met het proberen om geschikte prompts in generatieve AI in te voeren, plus er zijn aanvullende AI-add-ons voor het detecteren van zogenaamde AI-gehallucineerde outputs en onwaarheden, zoals gedekt bij de link hier.
• 7) Bonehead-claims over het detecteren van generatieve AI-geproduceerde essays ontkrachten. Er is een misleidende goudkoorts van AI-apps die beweren te kunnen vaststellen of een bepaald essay door mensen is geproduceerd of door AI is gegenereerd. Over het algemeen is dit misleidend en in sommige gevallen een botte en onhoudbare bewering, zie mijn berichtgeving op de link hier.
• 8) Rollenspel via generatieve AI kan nadelen voor de geestelijke gezondheid voorspellen. Sommigen gebruiken generatieve AI zoals ChatGPT om rollenspellen te doen, waarbij de AI-app reageert op een mens alsof hij zich in een fantasiewereld of een andere verzonnen setting bevindt. Dit kan gevolgen hebben voor de geestelijke gezondheid, zie de link hier.
• 9) Het blootleggen van de reeks uitgevoerde fouten en onwaarheden. Er worden verschillende verzamelde lijsten samengesteld om te proberen de aard van door ChatGPT geproduceerde fouten en onwaarheden te laten zien. Sommigen geloven dat dit essentieel is, terwijl anderen zeggen dat de exercitie zinloos is, zie mijn analyse op de link hier.

Misschien vindt u het interessant dat ChatGPT is gebaseerd op een versie van een eerdere AI-app die bekend staat als GPT-3. ChatGPT wordt beschouwd als een iets volgende stap, GPT-3.5 genoemd. Verwacht wordt dat GPT-4 waarschijnlijk in het voorjaar van 2023 zal worden uitgebracht. Vermoedelijk zal GPT-4 een indrukwekkende stap voorwaarts zijn in termen van het kunnen produceren van ogenschijnlijk nog vloeiendere essays, dieper gaan en ontzag wekken -inspirerende verwondering over de composities die het kan produceren.

Je kunt een nieuwe ronde van uitgesproken verwondering verwachten wanneer de lente aanbreekt en het nieuwste op het gebied van generatieve AI wordt uitgebracht.

Ik breng dit naar voren omdat er een andere invalshoek is om in gedachten te houden, namelijk een potentiële achilleshiel voor deze betere en grotere generatieve AI-apps. Als een AI-leverancier een generatieve AI-app beschikbaar stelt die schuimig onzin uitspuwt, zou dit de hoop van die AI-makers kunnen ondermijnen. Een maatschappelijke overloop kan ervoor zorgen dat alle generatieve AI een ernstig blauw oog krijgt. Mensen zullen ongetwijfeld behoorlijk van streek raken door foute output, wat al vele malen is gebeurd en heeft geleid tot luidruchtige maatschappelijke veroordelingen jegens AI.

Een laatste waarschuwing voor nu.

Wat je ook ziet of leest in een generatieve AI-reactie daarop lijkt om te worden overgebracht als puur feitelijk (data, plaatsen, mensen, enz.), zorg ervoor dat u sceptisch blijft en bereid bent om dubbel te controleren wat u ziet.

Ja, datums kunnen worden verzonnen, plaatsen kunnen worden verzonnen en elementen waarvan we normaal gesproken verwachten dat ze onberispelijk zijn allen onderhevig aan verdenkingen. Geloof niet wat u leest en blijf sceptisch bij het onderzoeken van essays of outputs van generatieve AI. Als een generatieve AI-app je vertelt dat Abraham Lincoln in zijn eigen privéjet door het land vloog, zou je ongetwijfeld weten dat dit malarky is. Helaas realiseren sommige mensen zich misschien niet dat er in zijn tijd nog geen straaljagers waren, of ze weten het misschien maar merken niet op dat het essay deze brutale en buitensporig valse bewering doet.

Een sterke dosis gezonde scepsis en een aanhoudende mentaliteit van ongeloof zullen uw beste troef zijn bij het gebruik van generatieve AI.

We zijn klaar om naar de volgende fase van deze opheldering te gaan.

Wanneer een verbod niet echt een verbod wordt

Nu we de basis hebben gelegd, kunnen we ingaan op de kwestie van het verbieden van ChatGPT. We beginnen met praktische realiteiten die komen spelen.

In het geval van het NYC Department of Education hebben ze blijkbaar de toegang tot ChatGPT op hun interne netwerken en hun aangesloten apparaten geblokkeerd.

Een voor de hand liggende maas in de wet is dat een student vermoedelijk een ander wifi-netwerk kan gebruiken via zijn smartphone of een andere online provider en gemakkelijk de blokkade op het elektronische netwerk van de campus kan omzeilen. Stel je een student voor die in een klaslokaal zit en om welke reden dan ook besluit dat ze ChatGPT willen gebruiken. Ze kunnen op hun smartphone naar de instellingen gaan en een ander wifi-netwerk kiezen dan de door de campus geleverde instantie. Voila, de student kan ChatGPT gebruiken terwijl hij aan zijn bureau zit en vermoedelijk schoolgerelateerd werk doet.

Ban overschaduwd.

Een andere zorg die sommigen hebben genoemd, is dat studenten terwijl ze thuis zijn uiteraard ChatGPT zoveel kunnen gebruiken als ze willen, omdat ze thuis geen gebruik maken van het campusnetwerk. Het enige dat dit verbod lijkt te doen, is proberen het gebruik op de campus of anderszins te beperken door rechtstreeks gebruik te maken van het door de campus geleverde netwerk (ook een mogelijkheid via externe toegang).

Erger nog, sommige klaagzangen zouden zijn dat die studenten die zich thuis geen internettoegang kunnen veroorloven, (in zekere zin) iets wordt ontzegd waar andere, meer welvarende studenten gebruik van kunnen maken. Terwijl de getroffen leerlingen ChatGPT op school hadden kunnen gebruiken, mogen ze dat niet doen. Misschien verdeelt dit de studenten in de haves en de have not's, onterecht.

Een beleid met onbedoelde nadelige gevolgen, zou je kunnen suggereren.

We kunnen meer stapelen op de dun ondersteunde achterkant van dit poging tot verbod.

ChatGPT is niet het enige spel in de stad. Er zijn tal van andere generatieve AI-apps. Als het verbod alleen gebaseerd is op het scannen naar de ChatGPT-app, zijn al die andere generatieve AI-apps blijkbaar vrij om rond te zwerven. Een student kan het campusnetwerk gebruiken en kiezen voor een andere generatieve AI-app. Over het algemeen zijn de andere dergelijke AI-apps vergelijkbaar en zullen ze vrijwel dezelfde dingen doen als ChatGPT.

Ik doe er nog een paar rietjes bij om te kijken of deze kameel gaat instorten. De AI-maker van ChatGPT heeft aangegeven dat er binnenkort een API (Application Programming Interface) beschikbaar komt voor de AI-app. Kortom, een API is een middel om andere programma's door te laten gaan en een programma te gebruiken dat een portaal naar de betreffende applicatie beschikbaar maakt. Dit betekent dat zowat elk ander programma op deze planeet mogelijk gebruik kan maken van het gebruik van ChatGPT (nou ja, zoals gelicentieerd en na goedkeuring door de AI-maker van ChatGPT).

Stel dat een bedrijf een educatieve app maakt die studenten helpt met timemanagement. Geweldig, waarschijnlijk aangekondigd door de meeste schooldistricten. De maker van de educatieve app besluit de ChatGPT-API te gebruiken en biedt zo een generatieve essaymogelijkheid in hun app. Zie je, hun educatieve app is wat de student ziet, terwijl op de achtergrond de app ChatGPT oproept en er prompts aan doorgeeft, de gegenereerde essays verzamelt en deze aan de student toont.

Een schooldistrict dat alleen zoekt naar de ChatGPT-app, zou hoogstwaarschijnlijk niet weten of ontdekken dat op de backend van de educatieve app het gebruik van ChatGPT is. Je zou kunnen zeggen dat ChatGPT aan het zicht is onttrokken. Een student die weet dat de educatieve app naar ChatGPT roept, zou gemakkelijk de educatieve app starten en het verbod omzeilen. Makkelijk.

Ik denk dat dat op dit moment waarschijnlijk genoeg is over waarom dit specifieke verbod enigszins wankel is.

Wacht even, luidt het antwoord, als ChatGPT slecht is voor studenten, is de poging om het gebruik ervan te verbieden lovenswaardig en zouden we dit beleid moeten toejuichen. Studenten die ervoor kiezen om het verbod te ondermijnen, of het nu op de campus of buiten de campus is, doen zichzelf alleen pijn door iets te gebruiken dat een negatieve invloed heeft op het leren van studenten. Ze gaan hun eigen onderwijs ondermijnen.

Een zwak verbod is op zijn minst een poging om deze ongewenste situatie recht te zetten, vermanen ze. Natuurlijk, het verbod kan gapende gaten hebben, maar je moet de beheerders de eer geven om het te proberen. Misschien kunnen ze het verbod aanscherpen. Misschien bedenken ze aanvullende bepalingen om het verbod te versterken.

Bovendien heeft het verbod een onmisbare symbolische waarde. De entiteit vertelt iedereen dat ChatGPT een hekel heeft aan het onderwijs van de studenten van vandaag. Ouders worden mogelijk gewaarschuwd. AI-makers die soortgelijke apps aanbieden, worden op de hoogte gesteld. Probeer dit lelijke spul namelijk niet aan onze geliefde leerlingen te verkopen.

Misschien zou er een strikt beleid kunnen worden opgesteld en geïmplementeerd dat overvloedig verklaart dat generatieve AI op geen enkel moment door een student mag worden gebruikt, ongeacht of dit op de campus of buiten de campus is. Elke student die wordt betrapt op het gebruik van een dergelijke op generatie gebaseerde AI-app, kan worden onderworpen aan zware straffen, mogelijk zelfs van school gestuurd. Wees streng voor overtreders van het beleid. Laat ze zien dat je het meent.

Dingen kunnen nog een stap verder gaan. Als een student generatieve AI gebruikt en daarmee heimelijk probeert weg te komen, zal hij voor altijd een dreigende schaduw over zich hebben. Als op een later moment wordt ontdekt dat een student generatieve AI heeft gebruikt en niet heeft verteld dat hij dat deed, zou zijn of haar diploma mogelijk worden ingetrokken of zouden er slechte cijfers op hun academisch record worden geplaatst. Sla het deksel dicht op degenen die overwegen om generatieve AI te gebruiken. Ze zouden zo bang en nerveus moeten zijn over het overtreden van de regels dat het hen zal beletten om er ook maar een greintje moeite voor te doen. Ze zullen verstijfd zijn van diepe angst.

Het telargument voor deze replieken is dat de hele zaak buiten proportie lijkt te zijn opgeblazen. Draconische straffen zijn niet de juiste keuze. Je maakt van een molshoop een berg. En u mist de voordelen en baten van het gebruik van generatieve AI.

Laat me uitleggen wat de verschillende genoemde voordelen zijn.

Sommigen geloven dat generatieve AI studenten kan helpen bij het bedenken van betere essays. Een student kan een app zoals ChatGPT gebruiken om een ​​essay voor te bereiden dat ze niet van plan zijn in te leveren. In plaats daarvan proberen ze het gegenereerde essay te bestuderen. Omdat de essays meestal goed geschreven zijn, kan een student de formulering, de structuur en andere opvallende aspecten nauwkeurig inspecteren. Je zou dus kunnen stellen dat dit een nuttig leermiddel is.

Een ander voordeel van het gebruik van generatieve AI is dat een student zijn essay kan indienen bij de AI-app en om een ​​beoordeling van het essay kan vragen. Apps zoals ChatGPT zullen doorgaans verrassend goed werk leveren bij het ontleden van een geleverd essay. Het is misschien niet zo verhelderend als een beoordeling door een leraar, maar het gebruiksgemak en het herhaaldelijk kunnen gebruiken van een AI-app zo vaak als je wilt, maakt dit een nuttige benadering (vermoedelijk niet in plaats van de leraar, maar in plaats daarvan de leraar en hun beperkte beschikbaarheid).

We kunnen doorgaan.

Vaak is een student onzeker of ogenschijnlijk in de war wanneer hij probeert te bedenken hoe verder te gaan met een toegewezen essayproject. Ze staren naar een blanco vel papier. Wat moeten ze doen? Een gevoel van wanhoop en wanhoop overvalt hun geest. Misschien geven ze de moeite op en besluiten ze een onvoldoende te halen. Er ontstaat verdriet.

De student kan generatieve AI, zoals ChatGPT, vragen om een ​​voorstel voor een schets te maken of op zijn minst enkele directe suggesties voor het essay. Op basis van de geproduceerde ideeën herwerkt de student de structuur en schrijft vervolgens het essay. Zelfstandig. Of dit gebruik van de AI als starter of als bemiddelaar "vals spelen" is, hangt af van uw perspectief. Toegegeven, de AI-app bracht de student op gang, hoewel je zou kunnen beweren dat zolang de student het essay schreef, dit een kleine prijs is die de AI slechts aanwijzingen gaf over hoe verder te gaan.

Een beetje schakelen, voor de twijfels over generatieve AI die output produceert die onwaarheden of fouten bevat, is de typische repliek dat studenten zich al moeten realiseren dat wat ze ook lezen, of het nu op internet of elders is gevonden, verkeerde informatie en desinformatie kan bevatten. We moeten ervoor zorgen dat studenten de juiste vaardigheden ontwikkelen die nodig zijn om te onderscheiden wat geldig is en wat twijfelachtig is in termen van wat ze lezen.

We zullen generatieve AI toevoegen aan die lijst met te onderzoeken bronnen.

De kern is dat studenten moeten worden getoond hoe ze generatieve AI-outputs moeten bekijken met een beetje waarschuwende interpretatie en openlijk moeten betwijfelen wat ze lezen. U kunt hiermee een nuttige sprong voorwaarts maken. Geef de leerlingen opdrachten waarbij ze generatieve AI gebruiken om de AI-app opzettelijk aan te zetten tot het produceren van onwaarheden. Je krijgt een twofer. Een daarvan is dat je de studenten laat zien hoe deze AI foutieve output kan genereren, en je verbetert hun vaardigheden in het detecteren en omgaan met verkeerde informatie en desinformatie. Je zou kunnen beweren dat we van een keerzijde een soort voordeel kunnen maken door de problemen van generatieve AI te gebruiken als een leermiddel op een bredere basis om met de moderne wereld en de stortvloed aan zure en zure informatie om te gaan.

Ik zou kunnen doorgaan met andere manieren om generatieve AI te gebruiken voor bonafide onderwijsactiviteiten. Voor aanvullende dekking, zie de link hier.

Alles bij elkaar genomen zal het kamp dat zegt dat we generatieve AI moeten omarmen, er ongetwijfeld op wijzen dat je de klok toch niet gaat terugdraaien. Apps zoals ChatGPT zullen uit het houtwerk komen. Je zult niet op een haalbare manier manieren vinden om de bandwagon te stoppen. Je kunt net zo goed aan boord stappen.

Als dat het geval is, hoef je de chaos niet te laten zegevieren. Dit kamp dringt er bij scholen op aan om beleid uit te werken dat probeert de slechtheid van het genereren van essays in evenwicht te brengen met de goedheid die deze AI-apps kunnen bieden. Laat de leerlingen zien hoe ze deze generatieve AI-apps op de juiste manier kunnen gebruiken en hoe ze de verkeerde kunnen vermijden.

Wat je ook doet, laat zeker niet blindelings de inzet van generatieve AI los. Werk samen met docenten aan het opstellen van beleid. Zorg ervoor dat docenten vertrouwd zijn met het gebruik van deze AI-apps. Introduceer de generatieve AI-apps bij de leerlingen en leg uit wat wel en niet mag.

Het generatieve AI-schip is al vertrokken.

De geest is uit de fles.

Overhaaste reacties op het verbieden van deze AI-apps zullen uiteindelijk zinloos zijn. De andere zorg is dat je studenten een beetje aanspoort. Door hen te vertellen dat ze deze technologie niet kunnen gebruiken, zal er mogelijk een vloedgolf van interesse ontstaan ​​om het te gebruiken. Je loopt het risico om anders eerlijke en rechtvaardige studenten bandieten te maken, vooral omdat de scholen een groot probleem hebben gemaakt met het inroepen van verboden.

We weten allemaal dat een verboden vrucht soms des te aantrekkelijker wordt. Het zou kunnen zijn dat deze zwakke verboden het gebruik door studenten zullen stimuleren, veel verder dan wat anders zou hebben plaatsgevonden.

Terugkomend op mijn eerdere indicatie over gestratificeerde verboden, hier lijken de dingen te landen in het geval van deze recente pogingen om ChatGPT te verbieden (waarnaar ik in het algemeen zal verwijzen als generatieve AI):

• Absoluut verbod op generatieve AI: Niet per se haalbaar en nog niet speciaal uitgeprobeerd
• Gedeeltelijk verbod op generatieve AI: Bijna wat is geprobeerd, maar heeft veel gapende gaten
• Zwak verbod op generatieve AI: Wat schijnbaar wordt geprobeerd, is ongebreideld zwak en waarschijnlijk niet effectief
• Geen verbod op generatieve AI: Iedereen die wacht om te zien wat er gebeurt en wat te doen

Er is ook de andere kant van de medaille, namelijk proberen generatieve AI mogelijk te maken of te ondersteunen, zoals weergegeven in dit spectrum:

• Erkenning van generatieve AI: dringt erop aan dat scholen op zijn minst het bestaan ​​van generatieve AI moeten erkennen
• Milde acceptatie van generatieve AI: Scholen zouden het gebruik van generatieve AI op beperkte manieren moeten toestaan
• Volledige acceptatie van generatieve AI: Scholen zouden generatieve AI op een alomvattende manier moeten omarmen
• Verplichte vereiste van generatieve AI: Scholen zouden openlijk het gebruik van generatieve AI moeten eisen en dit onderdeel moeten maken van hun curriculum en pedagogische methoden

Conclusie

De beroemde redacteur van de Whole Earth-catalogus, Stewart Brand, zei deze opmerkelijke regel: "Zodra een nieuwe technologie over je heen rolt, als je geen deel uitmaakt van de stoomwals, ben je een deel van de weg."

Sommigen zijn vurig van mening dat scholen die generatieve AI proberen te verbieden, misleid zijn. Ze zijn in de war over wat deze AI kan doen en hoe ze het goede samen met het slechte kunnen benutten. Ze moeten wakker worden en deel uitmaken van de stoomwals, anders zullen ze merken dat ze verschrikkelijk verouderd zijn en een verlaten kuil worden die over een deel van de weg is gerold (net als hun studenten).

Anderen beweren dat het te vroeg is om in te springen op de generatieve AI-rage.

Onderneem nu geen actie of onderneem een ​​milde actie. Afwachten wat er ontstaat. Als er een geldig gebruik en behoefte is aan deze AI-apps, oké, laten we dit bestuderen en systematisch en voorzichtig uitzoeken wat de beste manier is om ze in een educatieve omgeving te betrekken.

Het antwoord van de advocaten is dat dit wachten, dat jaren kan duren, de hele zaak in beroering brengt. Ongetwijfeld zullen zich allerlei ongewenste problemen voordoen als er geen expliciete begeleiding is. Studenten zullen verrast zijn als ze plotseling tot hun verbazing ontdekken dat het niet de bedoeling was dat ze deze AI-apps gebruikten. Sommigen zullen worden beschuldigd van het gebruik van de generatieve AI-apps terwijl ze dat niet deden, een heel goed mogelijke vals-positieve beschuldiging die zeker zal worden geuit. Steeds verder zal het moeras breder en dieper worden.

Wat moet er volgens jou gebeuren?

Denk hier eens ontnuchterend en opmerkzaam over na. Ja, wees opmerkzaam. We hebben het over de studenten van nu en hun toekomst, maar ook over onze toekomst. Een passende opmerking van Abraham Lincoln zou leerzaam kunnen zijn: "De beste manier om je toekomst te voorspellen, is door hem te creëren."

Laten we dat doen.