Generatieve AI-chatGPT versus die oneindig typende apen, geen wedstrijd zegt AI-ethiek en AI-wet

Die onstuimige apen.

Er is een vrij beroemd gedachte-experiment waarvan je misschien hebt gehoord dat het om apen gaat. Het geheel intrigerende vindingrijkheid wordt vaak gebruikt door degenen die een bijzonder scherp punt willen maken.

Hier is hoe de plot gaat.

Stel je voor dat een aap op een typemachine aan het typen is. Als de aap gedurende een oneindige hoeveelheid tijd blijft typen, en ervan uitgaande dat de aap de toetsen puur op willekeurige basis typt, is de kans groot dat het hele werk van Shakespeare onvermijdelijk wordt getypt.

De kern is schijnbaar dat het alleen door willekeurig toeval mogelijk is om soms een begrijpelijk antwoord te krijgen. We zijn het er allemaal over eens dat de werken van Shakespeare een geweldige tentoonstelling zijn van begrijpelijk schrijven en redeneren. Dus, alles of elk middel om de gewaardeerde woorden van Shakespeare te produceren, lijkt verbazingwekkend indrukwekkend, hoewel we tegelijkertijd duidelijk teleurgesteld zouden zijn dat het niet per se door intelligentie was, maar in plaats daarvan door louter willekeurig geluk.

Sommigen proberen tegenwoordig deze met apen beladen metafoor te vergelijken met de nieuwste kunstmatige intelligentie (AI).

U weet waarschijnlijk dat dit tegenwoordig de populairste vorm van AI is generatieve AI, waarvan een voorbeeld wordt gegeven via een wijd en razend populaire AI-app die bekend staat als ChatGPT gemaakt door OpenAI. Ik zal straks meer uitleggen over generatieve AI en ChatGPT. Voor nu, weet gewoon dat dit een tekst-naar-tekst of tekst-naar-essay AI-app is die een essay voor u kan produceren op basis van een ingevoerde prompt van uw keuze.

Het geclaimde verband met de legendarische typende aap is dat de indrukwekkende, uitgevoerde essays geproduceerd door generatieve AI die volledig vloeiend lijken te zijn, niet verbazingwekkender zijn dan de prestaties van de typende primaat. Als je de veronderstelling accepteert dat een willekeurig typende aap het werk van Shakespeare kan genereren, en als je bereid bent toe te geven dat ChatGPT en andere generatieve AI ogenschijnlijk hetzelfde zijn, moet je dus concluderen dat generatieve AI helemaal niet bijzonder opmerkelijk is. Het is gewoon willekeur die ons voor de gek houdt.

Dit lijkt misschien een overtuigende zaak, maar we moeten het uitpakken. Een bewust uitpakken zal laten zien dat de vergelijking tussen de twee is misleidend en ronduit fout.

Stop met het maken van de vergelijking. Voor degenen die erop staan ​​​​door te gaan met het maken van een vergelijking, doe dit op zijn minst op een voorzichtige en eerlijke manier.

Degenen die gewoon met de vergelijking rondgooien, bewijzen generatieve AI een slechte dienst. En de belangrijkste zorg is dat dit misleidend is voor het grote publiek en de samenleving als geheel. Ik veronderstel dat we er ook aan kunnen toevoegen dat ze de hardwerkende apen ook een slechte dienst bewijzen, of misschien de waarde van de stelling van de oneindige typende apen ondermijnen. Wees eerlijk. Wees aardig. Wees eerlijk.

Voordat we hier dieper op ingaan, is er een insider-grap die gebruikmaakt van het idee van een type-aap. Je vind het misschien leuk.

Het cynische stukje humor is vaak terug te voeren op persoonlijke correspondentie tijdens de eerste hoogtijdagen van het internet. Dit was het moment waarop internet uit een somber, serieus online rijk gleed en in het losgeslagen gebied van lawaaierig, onstuimig en onhandelbaar werd naarmate het aantal mensen dat internet gebruikte aantoonbaar toenam.

De humoristische anekdote zegt dat als apen die typen op typemachines uiteindelijk het hele oeuvre van Shakespeare zouden produceren of laten we zeggen reproduceren, we nu het bewijs hebben dat dit dankzij de komst van internet beslist moet niet wees eerlijk.

Ben je aan het lachen?

Sommigen vatten dit op als een hilarische opmerking.

De grap is een vernedering van hoe het internet met al zijn schuimende en spuwende berichten bij lange na niet het niveau bereikt van het produceren van Shakespeare. Het is een scherp snijdende opmerking die benadrukt dat internet vermoedelijk niet het discours heeft verheven, maar in plaats daarvan het discours heeft gedenigreerd. Velen gingen ervan uit dat internet een zegen zou zijn voor intelligente interactie, waardoor tot nadenken stemmende discussies over de hele wereld mogelijk zouden worden. Het lijkt erop dat we dit niet noodzakelijkerwijs zo groot hebben meegemaakt als gehoopt.

Natuurlijk zouden we nalatig zijn als we de grap zouden beschouwen als een echte voorbode van wat het internet heeft teweeggebracht. Er zijn tal van geweldige onthullingen en opmerkelijke waarden die verband houden met internet. De grap is een verfraaiing of overdrijving. Desalniettemin is het een terecht punt dat we waakzaam moeten zijn voor verraderlijke en vuile inhoud, terwijl we ons moeten richten op het vinden en verheffen van maatschappelijk inspirerende werken via het gebruik van internet. Voor mijn berichtgeving over hoe AI kan helpen en toch in een dual-use mode ondermijnt het maatschappelijk discours via negatieve berichten op internet, zie mijn discussie op de link hier.

In de column van vandaag zal ik het hebben over de significante verschillen tussen generatieve AI en het klassieke verhaal van de typende apen. Ik zal uitleggen waar de vergelijking tekort schiet. Je zult ongetwijfeld meer te weten komen over de stelling van de typende apen, samen met meer concreet begrip van hoe generatieve AI werkt. Ik zal af en toe verwijzen naar ChatGPT, aangezien het de 600-pond gorilla van generatieve AI is (bedoelde woordspeling), maar houd er rekening mee dat er tal van andere generatieve AI-apps zijn en dat ze over het algemeen op dezelfde algemene principes zijn gebaseerd.

Ondertussen vraag je je misschien af ​​wat generatieve AI eigenlijk is.

Laten we eerst de grondbeginselen van generatieve AI behandelen en dan kunnen we de vergelijkingen van de typering-apenstellingen nader bekijken.

Bij dit alles komt een hele reeks overwegingen op het gebied van AI-ethiek en AI-wetgeving kijken.

Houd er rekening mee dat er voortdurende inspanningen worden geleverd om ethische AI-principes te integreren in de ontwikkeling en uitvoering van AI-apps. Een groeiend contingent van bezorgde en voormalige AI-ethici probeert ervoor te zorgen dat bij het bedenken en toepassen van AI rekening wordt gehouden met de visie van doen AI voorgoed en afwenden AI voor slecht. Evenzo worden er nieuwe AI-wetten voorgesteld die worden gebruikt als mogelijke oplossingen om te voorkomen dat AI-inspanningen amok maken op het gebied van mensenrechten en dergelijke. Zie voor mijn doorlopende en uitgebreide berichtgeving over AI-ethiek en AI-wetgeving de link hier en de link hier, om er een paar te noemen.

De ontwikkeling en afkondiging van ethische AI-voorschriften wordt nagestreefd om hopelijk te voorkomen dat de samenleving in een groot aantal AI-inducerende valkuilen vervalt. Zie voor mijn berichtgeving over de principes van de VN-ethiek op het gebied van AI, zoals bedacht en ondersteund door bijna 200 landen via de inspanningen van UNESCO, de link hier. In dezelfde geest worden nieuwe AI-wetten onderzocht om te proberen AI in evenwicht te houden. Een van de nieuwste opnames bestaat uit een reeks voorgestelde AI Bill van rechten dat het Amerikaanse Witte Huis onlangs heeft vrijgegeven om de mensenrechten in een tijdperk van AI te identificeren, zie de link hier. Er is een dorp voor nodig om AI en AI-ontwikkelaars op het juiste pad te houden en de doelbewuste of onbedoelde achterbakse inspanningen die de samenleving zouden kunnen ondermijnen, af te schrikken.

Ik zal AI-ethiek en AI-wetgerelateerde overwegingen in deze discussie verweven.

Grondbeginselen van generatieve AI

Het meest bekende voorbeeld van generatieve AI wordt vertegenwoordigd door een AI-app genaamd ChatGPT. ChatGPT kwam in november in het publieke bewustzijn toen het werd vrijgegeven door het AI-onderzoeksbureau OpenAI. Sindsdien heeft ChatGPT buitensporige krantenkoppen gehaald en verbazingwekkend genoeg de toegewezen vijftien minuten roem overschreden.

Ik vermoed dat je waarschijnlijk wel eens van ChatGPT hebt gehoord of misschien zelfs iemand kent die het heeft gebruikt.

ChatGPT wordt beschouwd als een generatieve AI-toepassing omdat het als invoer wat tekst van een gebruiker nodig heeft en vervolgens genereert of produceert een output die bestaat uit een essay. De AI is een tekst-naar-tekst-generator, hoewel ik de AI beschrijf als een tekst-naar-essay-generator, omdat dat gemakkelijker verduidelijkt waarvoor het gewoonlijk wordt gebruikt. Je kunt generatieve AI gebruiken om lange composities samen te stellen of je kunt ervoor zorgen dat het vrij korte, kernachtige opmerkingen geeft. Het is allemaal op uw verzoek.

Het enige dat u hoeft te doen, is een prompt invoeren en de AI-app genereert voor u een essay dat probeert op uw prompt te reageren. De samengestelde tekst zal lijken alsof het essay door de menselijke hand en geest is geschreven. Als u een prompt zou invoeren met de tekst "Vertel me over Abraham Lincoln", zal de generatieve AI u een essay over Lincoln geven. Er zijn andere vormen van generatieve AI, zoals tekst-naar-kunst en tekst-naar-video. Ik zal me hierin concentreren op de tekst-naar-tekstvariatie.

Je eerste gedachte zou kunnen zijn dat dit generatieve vermogen niet zo belangrijk lijkt als het gaat om het produceren van essays. U kunt eenvoudig online op internet zoeken en gemakkelijk tonnen en tonnen essays over president Lincoln vinden. De kicker in het geval van generatieve AI is dat het gegenereerde essay relatief uniek is en een originele compositie biedt in plaats van een copycat. Als je zou proberen het door AI geproduceerde essay ergens online te vinden, zou je het waarschijnlijk niet ontdekken.

Generatieve AI is vooraf getraind en maakt gebruik van een complexe wiskundige en computationele formulering die is opgezet door patronen in geschreven woorden en verhalen op internet te onderzoeken. Als resultaat van het onderzoeken van duizenden en miljoenen geschreven passages, kan de AI nieuwe essays en verhalen uitspuwen die een mengelmoes zijn van wat werd gevonden. Door verschillende probabilistische functionaliteit toe te voegen, is de resulterende tekst vrijwel uniek in vergelijking met wat er in de trainingsset is gebruikt.

Er zijn tal van zorgen over generatieve AI.

Een cruciaal nadeel is dat de essays die door een op generatieve gebaseerde AI-app worden geproduceerd, verschillende onwaarheden kunnen bevatten, waaronder duidelijk onware feiten, feiten die misleidend worden weergegeven en schijnbare feiten die volledig verzonnen zijn. Die verzonnen aspecten worden vaak een vorm van genoemd AI-hallucinaties, een slogan waar ik een hekel aan heb, maar die helaas toch populair lijkt te worden (voor mijn gedetailleerde uitleg over waarom dit een waardeloze en ongeschikte terminologie is, zie mijn berichtgeving op de link hier).

Een andere zorg is dat mensen gemakkelijk met de eer kunnen strijken voor een door generatieve AI geproduceerd essay, ondanks dat ze het essay niet zelf hebben geschreven. Je hebt misschien gehoord dat leraren en scholen nogal bezorgd zijn over de opkomst van generatieve AI-apps. Studenten kunnen mogelijk generatieve AI gebruiken om hun toegewezen essays te schrijven. Als een student beweert dat een essay door zijn eigen hand is geschreven, is de kans klein dat de leraar kan onderscheiden of het in plaats daarvan is vervalst door generatieve AI. Voor mijn analyse van dit verwarrende facet tussen leerling en leraar, zie mijn berichtgeving op de link hier en de link hier.

Er zijn een aantal maffe buitensporige claims op sociale media over generatieve AI beweren dat deze nieuwste versie van AI in feite is bewuste AI (nee, ze hebben ongelijk!). Degenen in AI-ethiek en AI-recht maken zich met name zorgen over deze snelgroeiende trend van uitgestrekte claims. Je zou beleefd kunnen zeggen dat sommige mensen overdrijven wat de huidige AI eigenlijk kan doen. Ze gaan ervan uit dat AI mogelijkheden heeft die we nog niet hebben kunnen bereiken. Dat is jammer. Erger nog, ze kunnen zichzelf en anderen in benarde situaties laten komen door de veronderstelling dat de AI bewust of menselijk zal zijn in het kunnen ondernemen van actie.

Antropomorfiseer AI niet.

Als u dit doet, raakt u verstrikt in een kleverige en stugge afhankelijkheidsval door te verwachten dat de AI dingen doet die hij niet kan uitvoeren. Dat gezegd hebbende, het nieuwste op het gebied van generatieve AI is relatief indrukwekkend voor wat het kan doen. Houd er echter rekening mee dat er aanzienlijke beperkingen zijn waarmee u voortdurend rekening moet houden bij het gebruik van een generatieve AI-app.

Een laatste waarschuwing voor nu.

Wat je ook ziet of leest in een generatieve AI-reactie daarop lijkt om te worden overgebracht als puur feitelijk (data, plaatsen, mensen, enz.), zorg ervoor dat u sceptisch blijft en bereid bent om dubbel te controleren wat u ziet.

Ja, datums kunnen worden verzonnen, plaatsen kunnen worden verzonnen en elementen waarvan we normaal gesproken verwachten dat ze onberispelijk zijn allen onderhevig aan verdenkingen. Geloof niet wat u leest en blijf sceptisch bij het onderzoeken van essays of outputs van generatieve AI. Als een generatieve AI-app je vertelt dat Abraham Lincoln in zijn privéjet door het land vloog, zou je ongetwijfeld weten dat dit malarky is. Helaas realiseren sommige mensen zich misschien niet dat er in zijn tijd geen vliegtuigen bestonden, of ze wisten het misschien maar merkten niet op dat het essay deze brutale en buitensporig valse bewering doet.

Een sterke dosis gezonde scepsis en een aanhoudende mentaliteit van ongeloof zullen uw beste troef zijn bij het gebruik van generatieve AI.

We zijn klaar om naar de volgende fase van deze opheldering te gaan.

Wat gebeurt er met die typende apen

Nu je een idee hebt van wat generatieve AI is, kunnen we de vergelijking met de typende apen onderzoeken. In zekere zin ga ik stap voor stap het theorema van het typen van apen uit elkaar halen. Ik doe dit om de onderbouwing te verhelderen. We kunnen de onthulde elementen vervolgens gebruiken om een ​​vergelijking te maken met generatieve AI.

De stelling of hypothese van typeringapen bevat een kernset van elementen:

• a) Wie of wat. Het geïdentificeerde wezen of de acteur die typt
• b) Aantal en levensduur. Hoeveel van hen zijn er en hun status van lange levensduur
• c) Symbolen uitgevoerd. Productie van letters en bekende symbolen via een rudimentair apparaat
• d) Tijd. Duur van het uitvoeren van de taak
• e) Intelligentie. Welke savviness brengen ze bij de uitvoering van de taak
• f) Gerichte output. De gerichte output van wat we willen dat ze produceren

Laten we eerst eens kijken naar de typende apen.

U herinnert zich misschien dat ik aan het begin van deze discussie zei dat we ons moesten voorstellen dat een aap op een typemachine aan het typen was. Ik verwees naar de basisconcepten waarbij slechts één aap dit deed. Dat facet kunnen we aanpassen.

Hier zijn manieren waarop de situatie vaak wordt afgebeeld:

• Een eenzame aap van een alledaags sterfelijk bestaan
• Duizend van zulke apen
• Een miljoen van zulke apen
• Een oneindig aantal van zulke apen
• Een eenzame aap die onsterfelijk is
• Een aantal onsterfelijke apen
• Enz.

Merk op dat we, in plaats van slechts één aap te hebben, het gedachte-experiment zouden kunnen herzien en een groot aantal apen zouden hebben die vermoedelijk gelijktijdig aan het werk zijn. Bovendien is een ander instelbaar aspect of de apen sterfelijk of onsterfelijk zijn. Ik zal hier even verder op ingaan.

We moeten ook de factor tijd als een cruciaal ingrediënt opnemen.

Gewoonlijk is de factor tijd een van deze twee overwegingen:

• Eindige tijd
• Oneindige tijd

Een ander, enigszins onuitgesproken, onderliggend element is dat in dit geval apen worden gebruikt omdat we ze als relatief onnadenkend beschouwen. Ze kunnen niet lezen of schrijven. Ze zijn niet in staat intelligentie te tonen op dezelfde manier waarop we intelligentie associëren met menselijke capaciteiten.

Dit is enigszins beledigend als je er even over nadenkt. Ik denk dat we het er allemaal redelijk over eens kunnen zijn dat apen verbazingwekkend slim zijn, tenminste voor wat ze kunnen bereiken binnen hun denklimieten. Ik zou durven zeggen dat we meer denkvermogen toeschrijven aan apen dan aan veel andere dieren. Er zijn tal van leergierige onderzoeksexperimenten gedaan om te laten zien hoe mentaal scherp apen kunnen zijn.

In ieder geval, voor doeleinden van de metafoor, is de veronderstelling dat apen niet in staat zijn in die mate te denken dat ze uit zichzelf de werken van Shakespeare zouden kunnen bedenken. Terwijl de klassieke film Planeet van de apen probeerde ons van tevoren te waarschuwen dat dit misschien een verkeerde veronderstelling is, we gaan er in ieder geval mee om in de wereld van vandaag.

Als we het gebruik van mieren vervangen door de apen, verdwijnt de metafoor enigszins. We kunnen ons niet voorstellen dat mieren op typemachines kunnen typen. We zouden kunnen proberen het gebruik van honden of katten te vervangen, omdat ze bijna op een typemachine zouden kunnen typen, maar uiteindelijk is het gebruik van apen het beste, omdat ze kunnen typen op een manier die doet denken aan typen door mensen. Ze hebben de juiste ledematen en lichaamsstructuur om de taak uit te voeren. Ze worden ook mentaal gezien als in staat om te typen, hoewel we aannemen dat ze niet weten wat ze typen.

Even terzijde, er zijn veel onderzoeksexperimenten geweest met apen en hun herkenning van symbolen. In deze verschillende onderzoeken zijn opstellingen opgenomen waarbij de apen op typemachines of soortgelijke apparaten typten. Als dit op de juiste manier wordt gedaan, kan dit zinvol zijn bij het nastreven van bruikbare inzichten over intelligentie en het ontstaan ​​van intelligent gedrag.

Helaas wordt het onderzoek naar het typen op typemachines soms niet op een bijzonder serieuze manier gedaan. Soms was de gebruikte benadering niet meer dan een zwak knipoogje naar de beroemde of beruchte apentypestelling, in plaats van bonafide fundamentele onderzoeksactiviteiten. Ik vind zulke capriolen niet amusant of gepast. Het idee was dat apen fysiek schrijfmachines kregen en werden aangemoedigd om te typen op basis van hun gril of soms voor lekkernijen zoals voedsel. Tenzij dit op een bonafide robuuste experimentele manier gebeurt, is het niets meer dan een façade.

Een kleine wending die aangenamer is, bestaat uit het opzetten van computergebaseerde simulaties die beweren uit te voeren wat apen in deze omstandigheden zouden kunnen doen. De computer wordt gebruikt om deze aspecten te simuleren. Er zijn geen echte apen bij betrokken. Sommigen zijn zelfs zo ver gegaan om een ​​beetje zogenaamd te doen burgerwetenschap door de simulatie uit te delen aan iedereen die bereid is zijn laptop of computer voor deze inspanningen te gebruiken. Trap niet in nepzwendel die op verraderlijke wijze beweert dat ze dit voor de wetenschap doen, terwijl ze in werkelijkheid proberen uw computer te infecteren met een computervirus. Wees op uw hoede.

Terug naar de zaak.

Een aspect dat ook een rol speelt in de omstandigheid is dat typemachines worden gebruikt in deze typerende aap hypothetisch.

Waarom schrijfmachines?

Want zo kunnen we de productie van letters krijgen, die vervolgens tot woorden kunnen worden gevormd, die vervolgens tot verhalen kunnen worden gevormd. Hetzelfde of vergelijkbare idee van het produceren van veel letters vereist niet noodzakelijkerwijs dat we ze typen. Er zijn inderdaad varianten van deze metafoor die teruggaan tot de dagen van Aristoteles en ergo, er waren toen nog geen typemachines.

We zouden de metafoor kunnen veranderen en kunnen verwijzen naar moderne toetsenborden en computers. We zouden kunnen zeggen dat de apen aan het knallen zijn op een laptop of misschien zelfs op een smartphone. Het mooie van het verwijzen naar typemachines is dat we typemachines associëren als niet-computergestuurd en daarom helpen ze niet bij het typeproces zelf. Dit is cruciaal voor de betrokken vindingrijkheid.

Ten slotte krijgen we meestal het aspect te zien dat de werken van Shakespeare geproduceerd moeten worden. We zouden Shakespeare gemakkelijk kunnen vervangen door elke andere bekende auteur. Het kan zijn dat we willen weten of de apen het volledige werk van Charles Dickens, Jane Austen, Ernest Hemingway, enzovoort kunnen produceren. Het doet er vooral niet toe. De essentie is dat het schrijven iets moet zijn dat we allemaal kennen en waarvan we erkennen dat het uitstekend geschreven is.

We kunnen gemakkelijk elk schrift vervangen dat we als doel willen stellen.

Het gemak van het verwijzen naar Shakespeare is dat zijn werken worden opgevat als de top of het hoogtepunt van het menselijke schrijven. We zouden in plaats daarvan een opstel kunnen zoeken dat is geschreven door een leerling uit het eerste leerjaar en dat als doelwit kunnen gebruiken. Geloof het of niet, dezelfde voorschriften zijn nog steeds van toepassing. Mensen zouden dit waarschijnlijk niet inspirerend vinden dat de apen het schrift van een kind konden reproduceren. Om dingen boeiend te houden, moet het schrijven van het hoogste kaliber zijn.

Een variant van de beoogde output zou zijn om te verwijzen naar een specifiek werk van Shakespeare in plaats van naar zijn hele oeuvre. Zoals je snel zult zien, maakt het voor de kern van de zaak weinig uit. Ik denk dat veel mensen geneigd zijn te noemen Gehucht als onderdeel van de apentypestelling, misschien omdat dit toevallig zijn langste toneelstuk is, wat neerkomt op een gerapporteerde grootte van 29,551 woorden (bestaande uit ongeveer 130,000 letters).

Elk van zijn toneelstukken zou voldoende zijn.

De hele uitvinding hangt af van de verschillende waarschijnlijkheidswetten. Je hebt misschien geleerd over de nuances van kansen in die slopende lessen over statistiek en wiskunde die je op school hebt gevolgd.

Laten we het woord 'Hamlet' gebruiken om te zien wat er nodig is om die zes letters willekeurig te produceren in die specifieke volgorde van Hamlet.

De gemakkelijkste manier om dit rekenkundig te berekenen, is door aan te nemen dat we een eenvoudig rond getal hebben van het aantal beschikbare toetsen op een typemachine. Stel dat we een typemachine hebben met 50 verschillende en even bruikbare toetsen. Elke toets vertegenwoordigt een bepaald symbool, zoals de symbolen van het gebruikelijke Engelse alfabet. Neem aan dat de toetsen in willekeurige volgorde zijn gerangschikt en dat we de situatie niet hebben gemanipuleerd door de aparte toetsen van Hamlet in een bepaalde volgorde te plaatsen om het typen van die specifieke toetsen meer te stimuleren dan welke andere toetsen dan ook.

Elke toets wordt volledig onafhankelijk van de eerder ingedrukte toets ingedrukt. Daarom wordt van de 50 toetsen de kans dat een toets wordt ingedrukt beschouwd als 1 op 50 kans. Hetzelfde geldt voor alle toetsen en tijdens het typen. De berekening voor een enkele toets die wordt ingedrukt is een kans van 1 op 50, of dat is 1/50.

De kans om de letter "H" te typen is dan 1/50, en de kans om de letter "a" te typen is 1/50, en de kans om de letter "m" te typen is 1/50, enzovoort.

Dit is:

• De kans dat "H" wordt getypt is 1/50.
• De kans dat 'a' wordt getypt is 1/50.
• De kans dat 'm' wordt getypt is 1/50.
• De kans dat 'l' wordt getypt is 1/50.
• De kans dat 'e' wordt getypt is 1/50.
• De kans dat 't' wordt getypt is 1/50.

Een standaardregel of waarschijnlijkheidswet stelt dat als twee of meer gebeurtenissen volledig statistisch onafhankelijk van elkaar zijn, we de kans kunnen berekenen dat beide zich voordoen door simpelweg hun kansen met elkaar te vermenigvuldigen. Dat kunnen we doen met betrekking tot deze zes brieven.

We hebben deze berekening: "H" (1/50) x "a" (1/50) x "m" (1/50) x "l" (1/50) x "e" (1/50) x "t" (1/50)

Dat wil zeggen: (1/50) x (1/50) x (1/50) x (1/50) x (1/50) x (1/50)

Het minuscule getal komt uit op 1/15,625,000,000.

De kans dat je het zesletterige woord 'Hamlet' typt, is dan ongeveer één op 15 miljard, als al het andere gelijk is.

Dat zijn ontmoedigende kansen. En dit is alleen voor het typen van een bepaald woord van zes letters. Probeer dezelfde berekening eens toe te passen op de 29,551 woorden van het hele toneelstuk van Hamlet. Als je besluit dit te berekenen, besef dan ook dat er rekening moet worden gehouden met de spaties tussen woorden.

Hoe langer de beoogde uitvoer, hoe groter de kans dat we niet in staat zijn om die precieze sets letters en woorden te genereren. De kans wordt steeds kleiner. De kans is zo klein dat we bijna de handdoek in de ring zouden gooien en zeggen dat het lijkt alsof het "nooit" zal gebeuren (wees voorzichtig met het gebruik van het woord "nooit", want dat is een formidabele bewering).

Neem bijvoorbeeld een sterfelijke aap.

Volgens verschillende gerenommeerde online indicaties is de gebruikelijke levensduur van een aap in het wild ongeveer 40 jaar. Als je over die levensduur wilt discussiëren, kunnen we gewoon het getal 100 gebruiken en doorgaan met een nogal onwaarschijnlijke bovengrens. Een aap die honderd jaar non-stop op een typemachine typt, tijd om te rusten, tijd om te eten of iets dergelijks niet meegerekend, en ervan uitgaande dat dit alles is wat de aap deed vanaf het moment van geboorte tot hun laatste ademtocht, won nog steeds 't helpt zelfs de kansen op schrijven van Gehucht alles bij elkaar (de aap zou, als hij gedurende 100 jaar elke seconde non-stop een toets zou typen, ongeveer 3,155,673,600 toetsen indrukken).

We kunnen redelijkerwijs zeggen dat het enorm onwaarschijnlijk is dat een sterfelijke aap uiteindelijk door toeval het stuk zou typen Gehucht.

Je kunt het aantal sterfelijke apen vergroten, maar dit doet weinig af aan de overweldigende kans om Hamlet te typen. Sommigen stellen dat er duizend apen zijn. Een andere benadering zegt dat er een miljoen apen zijn. Ervan uitgaande dat ze allemaal 100 jaar oud werden en elk een willekeurige toets op hun eigen typemachine typten in een non-stop tempo van één toets per seconde, maakt dit nog steeds geen statistisch opmerkelijke deuk bij het uittypen van het stuk. Gehucht.

Overdenk dit alles.

Enigszins ironisch, waar zou je precies een miljoen apen huisvesten voor deze taak? Stel je ook eens voor dat de typemachines honderd jaar ononderbroken moeten worden gebruikt (kun je een miljoen werkende typemachines vinden die niemand wil en wil schenken aan dit voormalige project?). Het lijkt erop dat je op dit moment veel reserve-schrijfmachines nodig hebt. Enzovoort. De logistiek is duizelingwekkend.

Dit alles lijkt dan somber dat de sterfelijke apen zich waarschijnlijk niet zullen voortplanten Gehucht.

Maar stel dat we ze onsterfelijk maken. Ja, we geven ze een toverdrank waardoor ze eeuwig leven. We hebben niet eens meer dan één onsterfelijke aap nodig. Slechts één zal het doen. Het zou de metafoor misschien spannender maken om te beweren dat we duizend of een miljoen onsterfelijke apen hebben.

Als we één aap hebben die eeuwig kan leven, zouden we kunnen stellen dat dit een oneindige aap is. Het kan oneindig lang op de toetsen van de typemachine bonzen. Die aap gaat maar door en door. Dienovereenkomstig, hoewel de kansen om het spel te typen Gehucht waren extreem klein, het aspect dat de aap eindeloos zal blijven proberen, suggereert dat op een gegeven moment het spel Gehucht zal vrijwel zeker zijn uitgetypt.

De vuistregel is als het ware dat een opeenvolging van gebeurtenissen die een niet-nul kans heeft om te gebeuren, hoewel buitengewoon laag in kansen, waarvan we redelijkerwijs het eens zijn dat deze bijna zal plaatsvinden als we oneindige tijd hebben om mee te spelen, terwijl al het andere gelijk is. Degenen op het gebied van wiskunde en statistiek zijn geneigd dezelfde overweging te beschrijven door middel van strings of zelfs binaire getallen van 0 en 1. Als je een eindige set symbolen hebt, en er is een oneindige string van, waarbij elk symbool uniform en willekeurig gekozen, is er een eindige reeks waarvan je vrijwel zeker zou kunnen verwachten dat deze zal voorkomen.

Er zit een grote vangst aan dit alles.

We leven in een wereld van eindigheid. Niemand van ons lijkt oneindige tijd beschikbaar te hebben. Voor degenen onder u die zeggen van wel, een pluim. Mijn hoed gaat voor je af.

Als je de eindige wereld oplegt aan de typende apen, zul je merken dat je een nogal harde muur raakt. Analyses van de stelling van de typende aap zullen vrijwel de waarschijnlijkheid van het bereiken van het spel opleveren Gehucht is dicht genoeg bij nul in eindige tijd dat het voor elke beredeneerde operationele basis eenvoudigweg niet waarschijnlijk is dat dit zal gebeuren. De gebruikelijke voorstelling is dat als je evenveel apen zou gebruiken als er atomen zijn in het bekende universum, en ze bleven typen gedurende vele ziljoenen keren van de tijdspanne van het universum, je nog steeds kijkt naar onvoorstelbaar piepkleine ondoorgrondelijke kansen om de toneelstuk Gehucht.

De stelling van de typende aap is nogal een giller en wordt vaak gerangschikt als zijnde in de top zeven gedachte-experimenten van onze tijd. U bent van harte welkom om wat extra onderzoek te doen naar de stelling, want er zijn veel analyses online beschikbaar. Het is een levendige en plezierige manier om inzicht te krijgen in waarschijnlijkheid en statistieken. In plaats van uitsluitend met droge cijfers om te gaan, kun je je die grappige, onstuimige apen en al die ouderwetse typemachines met klik-klak voorstellen.

We zijn nu klaar om generatieve AI in het raadsel van apen en typemachines te brengen.

Generatieve AI raakt geïrriteerd door de typende apen

Het uitgangspunt dat we nauwkeurig gaan onderzoeken, is de controversiële bewering dat generatieve AI zoals ChatGPT niet anders is dan de typende apen. Er wordt gezegd dat als ChatGPT of een andere generatieve AI kan produceren Gehucht of vergelijkbare bekende werken, is dit volledig een willekeurig resultaat dat waarschijnlijk op dezelfde manier is ontstaan ​​als apen die dit lang gewaardeerde en zeer gerespecteerde Shakespeariaans stuk zouden typen.

Sorry, dat is verkeerd denken over dit gewichtige onderwerp.

Laten we eens kijken waarom.

Laten we eerst eens kijken en uitbreiden waaruit generatieve AI bestaat.

Bedenk dat ik eerder heb aangegeven dat generatieve AI software is die het gebruik van algoritmen met zich meebrengt om gegevens te trainen op de tekst die op internet en via andere verwante bronnen bestaat. Een breed scala aan patroonovereenkomsten heeft wiskundig en computationeel patronen geïdentificeerd tussen de miljoenen en miljoenen verhalen en essays die wij mensen hebben samengesteld.

De woorden hebben op zichzelf geen bijzondere betekenis. Zie ze als objecten. Binnen de computer worden ze weergegeven als nummers die we aanduiden als tokens. Ze worden gebruikt als een handig middel om andere woorden of tokens met elkaar te associëren, in een diepgaande en ingewikkelde statistische webachtige structuur.

Sommigen in het AI-veld maken zich zorgen dat dit niets meer is dan wat wordt aangeduid als een stochastische papegaai.

Zie je, in plaats van te proberen een schijn van "betekenis" aan de woorden te koppelen, is dit in plaats daarvan slechts een uitgebreide indexering van woorden die rond of naast andere woorden lijken te worden gebruikt. We gaan er daarentegen van uit dat mensen de aard en betekenis van woorden kunnen 'begrijpen'.

Overweeg uw dagelijkse toegang tot de aanwezigheid van woord-tot-woord-correspondenties. Vergelijkbaar met wanneer u een alledaagse functie voor automatisch aanvullen gebruikt in uw tekstverwerkingssoftware, berekent de computer wiskundig dat een bepaald woord gewoonlijk wordt gevolgd door een ander bepaald woord, dat op zijn beurt wordt gevolgd door een ander bepaald woord, enzovoort. U kunt dus vaak beginnen met het schrijven van een zin en het tekstverwerkingspakket zal u laten raden wat de extra woorden van de zin zullen zijn.

Het is een gok, want statistisch gezien zijn dit misschien de gebruikelijke woorden van de zin, maar misschien heb je iets anders in gedachten om te zeggen, dus de voorspelling wijkt af van wat je wilde schrijven. Er zijn vermoedelijk genoeg andere voorbeelden van zinnen die die woorden gebruiken waarvan het algoritme kan inschatten dat je de zin waarschijnlijk wilt afmaken met de voorspelde woorden. Dit is niet ijzersterk. Er is ook geen "betekenis" verbonden aan deze computationele schatting.

Sommige AI-onderzoekers beweren dat om echte AI te bereiken, vaak bedacht als Kunstmatige algemene intelligentie (AGI), we zullen op de een of andere manier een nog ontdekte of uitgevonden vorm van "begrip" in computers moeten coderen (zie mijn column voor talloze berichten over AGI en het nastreven van AGI). Ze maken zich zorgen dat de manie over generatieve AI niet meer is dan een doodlopende weg. We zullen blijven proberen de generatieve AI verder en verder te brengen door de omvang van de computationele netwerken op te schalen en steeds meer computerverwerkingskracht op de zaak te gooien. Dat alles zal niet baten als het gaat om aankomst bij AGI, beweren ze.

Een bijkomend probleem is dat dit najagen van een vermeende doodlopende weg ons misschien afleidt van de juiste of juiste manier van handelen. We zullen enorme energie en moeite steken in de richting van een misplaatste eindtoestand. Natuurlijk, generatieve AI is misschien verbluffend in de mimiekbedrog, maar het kan zijn dat dit weinig of niets met AGI te maken heeft. We zouden onszelf voor de gek kunnen houden door kostbare focus te verspillen. We zouden AGI kunnen vertragen of misschien zelfs niet bereiken vanwege deze verleidelijke afleiding.

Hoe dan ook, laten we voor de typende apen teruggaan naar het algemene gedoe.

We moeten rekening houden met deze opmerkelijke factoren:

• 1) Gevoelig versus niet bewust
• 2) Denken versus niet "denken"
• 3) Beperkte denkprocessen versus computergebaseerde algoritmen en patroonvergelijking
• 4) Ongetraind of niet in staat om te trainen versus computergegevens getraind

Laten we elk van deze factoren aanpakken.

Gevoelig versus niet bewust

Ik geloof dat we kunnen toegeven dat apen levende wezens zijn. Ongeacht hoe slim of gebrekkig slim je misschien zou willen beweren dat ze zijn; ze zijn onmiskenbaar gevoelig. Dat is een feit. Niemand kan redelijkerwijs anders beweren.

De kunstmatige intelligentie van vandaag is niet bewust. Punt, punt.

Bovendien beweer ik dat we nergens in de buurt komen van AI-sentiment. Anderen kunnen het daar natuurlijk niet mee eens zijn. Maar iedereen met een redelijke kalmte zou het erover eens zijn dat de AI van vandaag niet gevoelig is. Zie mijn bespreking op de link hier.

Een cruciaal verschil tussen die gretig typende apen en de hedendaagse generatieve AI is dus dat de apen wezens met gevoel zijn, terwijl de AI dat niet is. Bovendien is het vaak een hellend vlak om de huidige AI te vergelijken met alles wat bewust is. Er is een tendens om AI te antropomorfiseren. Ik dring er nadrukkelijk op aan dat we, om te proberen te voorkomen dat deze gemakkelijke mentale valstrik ons ​​overvalt, elke vergelijking tussen AI en levende wezens vermijden, tenzij we bovenboord zijn en dat verschil duidelijk expliciet identificeren en afbakenen.

Weinig of geen maken die afbakening bij het vergelijken van de typende apen en generatieve AI. Ze gaan ervan uit dat je je al realiseert dat er een verschil is, of dat het ze niet kan schelen dat er een verschil is, of dat ze er niet over hebben nagedacht, enz.

Denken versus niet "denken"

Ik zou beweren dat apen kunnen denken. Het zijn denkende wezens. We kunnen gemakkelijk discussiëren over hoeveel denken ze kunnen doen. Je moet het er vrijwel zeker mee eens zijn dat apen kunnen denken.

Alle soorten AI van tegenwoordig, inclusief generatieve AI, voldoet niet aan wat ik beschouw als de menselijke capaciteit het denken.

Ik herhaal mijn zojuist genoemde refrein met betrekking tot gevoel. Het is misleidend en ik beweer ten onrechte te beweren dat de hedendaagse AI kan denken. Helaas doen mensen dit de hele tijd, inclusief AI-onderzoekers en AI-ontwikkelaars. Ik geloof dat dit opnieuw een ongelukkige en onverstandige antropomorfisering is. Je geeft AI een schijn van capaciteit of capaciteiten die er niet zijn en die de samenleving als geheel hierover verkeerd zal informeren. Stop hiermee.

Generatieve AI is een complexe webachtige structuur van wiskundige en computationele eigenschappen. Het is bewonderenswaardig. Het is gob smocking van wat dit bereikt. Ik geloof niet dat enige redelijke interpretatie van 'denken' zoals we het ons voorstellen, in al zijn glorie, bij deze AI past.

Beperkte denkprocessen versus computergebaseerde algoritmen en patroonafstemming

Apen zijn beperkt in hun denkprocessen.

Misschien vindt u het interessant dat er in de wetenschappelijke literatuur veel vergelijkingen zijn tussen apenhersenen en de hersenen van mensen. Kijk bijvoorbeeld eens naar dit onderzoek: “Het menselijk brein is ongeveer drie keer zo groot als het brein van onze naaste verwant, de chimpansee. Bovendien bevat een deel van de hersenen, de hersenschors genaamd - dat een sleutelrol speelt in geheugen, aandacht, bewustzijn en denken - twee keer zoveel cellen bij mensen als hetzelfde gebied bij chimpansees. Netwerken van hersencellen in de hersenschors gedragen zich ook anders bij de twee soorten” (in een artikel gepubliceerd in eLife, september 2016, getiteld "Verschillen en overeenkomsten tussen menselijke en chimpansee neurale progenitors tijdens de ontwikkeling van de hersenschors").

We realiseren ons allemaal dat apen niet op één lijn liggen met het menselijk denken. Die wonderlijke wezens kunnen vertederend zijn en verbazend veel nadenken, daar bestaat geen twijfel over. Ze stijgen gewoon niet naar het niveau van menselijk denken. Ik zal er spijt van krijgen dat ik dit zeg, zodra de apen de mensheid overnemen.

Ik heb zojuist al geuit dat de hedendaagse AI niet denkt. Ik benadrukte dat wat AI doet niet als 'denken' moet worden bestempeld, aangezien dit misleidend en verwarrend is.

Hier overtreft de generatieve AI de apen, wat betreft het gebruik van computerverwerking op basis van door mensen bedachte algoritmen en gebaseerd op door mensen geproduceerde geschriften. Er is weinig of geen kans dat de denkende aap het enorme gebruik van geschreven symbolen die mensen hebben bedacht, kan absorberen en er een patroon van kan maken. Apen hebben dat soort denkvermogen niet.

Ik aarzel om een ​​dergelijke vergelijking voor te stellen, gezien mijn andere geuite bedenkingen. Maar ik geef duidelijk aan wat de aannames zijn en hoe deze analyse correct en passend kan worden uitgevoerd.

Ongetraind of niet in staat om te trainen Versus computationeel gegevens getraind

Net als wat ik net zei, zul je een denkende aap niet kunnen trainen in het massale gebruik van geschreven symbolen van de mensheid. Je kunt dit op zeer beperkte basis doen, en studies hebben aangetoond dat apen schijnbaar kunnen nadenken over geschreven symbolen. Dit is veel minder dan het kunnen onthouden en herhalen van uitgebreide patronen van woorden, zinnen en hele verhalen.

Generatieve AI is een computergebaseerde statistische nabootsing die computationeel data-getraind kan worden. Als we meer gegevens blijven invoeren, zoals aanvullende teksten die we verzamelen of vinden, is de veronderstelling en hoop dat de gevonden patronen dieper en dieper zullen worden. Bovendien zal het gebruik van steeds snellere computerchips en -verwerking ook deze patroonafstemming en responscapaciteit vergroten.

Kijkend naar de bottom-line

Als generatieve AI het stuk zou produceren Gehucht, wat zou dat betekenen?

Ten eerste moeten we overwegen of het verhaal of spel al dan niet in de generatieve AI is ingevoerd op het moment van de datatraining. Als dat zo is, is er niets bijzonders of opmerkelijks aan de generatieve AI die later dezelfde woorden uitspuugt die hij eerder had gescand.

Een AI-onderzoeker is misschien een beetje ontzet omdat het matchen van patronen vermoedelijk overboord is gegaan, omdat hij de woorden in wezen uit zijn hoofd heeft geleerd. We verwijzen hier meestal naar in het domein van machine learning als overfitting aan de gegevens die tijdens de training zijn gebruikt. Meestal wilt u niet dat de exacte woorden een patroon vormen, u wilt dat er een algemeen patroon wordt gevormd.

Ik heb in mijn columns de bezorgdheid besproken dat we soms inbreuken op de privacy en het onthullen van vertrouwelijke gegevens zouden kunnen zien in gevallen waarin generatieve AI een nauwkeurige afstemming deed in plaats van een algemene afstemming van gevoede gegevens, zie mijn verslag op de link hier.

Ten tweede, stel dat het spel Gehucht werd niet ingevoerd in de generatieve AI. De volgende overweging zou dan zijn of een van de werken van Shakespeare was gescand tijdens datatraining.

Als dat zo is, is het denkbaar dat het spel Gehucht zou kunnen worden geproduceerd op basis van de patronen die verband houden met de andere werken van Shakespeare, vooral als er andere verwijzingen of vermeldingen van zijn Gehucht elders in de datatrainingsset. Al deze kunnen mogelijk worden gebruikt door de patroonafstemming voor het vormen van een stijl van Gehucht. Toegegeven, kunnen genereren Gehucht woord voor woord zou een uitgestrekt bereik zijn, een behoorlijk eye-opening en verrassend resultaat.

Ten derde, als generatieve AI het geheel heeft geproduceerd Gehucht en nooit eerder iets over Shakespeare te horen hadden gekregen, nou, dat zou verbazingwekkend zijn. Het zou echter niet noodzakelijkerwijs hetzelfde zijn als de puur willekeurige aard van het wegpikken op toetsen op een typemachine. We moeten ons realiseren dat de woorden van Shakespeare woorden zijn, dus maken ze deel uit van de totaliteit van bewoordingen die te vinden zijn in de enorme hoeveelheid tekstverhalen en verhalen die in de generatieve AI worden ingevoerd. U verbetert de kansen door te beginnen met de hoeksteen van woorden en de associaties tussen woorden. Toch is de kans vrij klein dat zoiets gebeurt.

Conclusie

Als het gaat om het produceren van woorden en essays, wordt generatieve AI gangbusters, omdat het gebaseerd is op door mensen bedachte woorden en essays (natuurlijk moeten we de fouten, onwaarheden en AI-hallucinaties aanpakken). De AI "begrijpt" de uitgezonden woorden niet. Die is er niet, daar.

U hoeft geen oneindige tijd te wachten om vloeiende essays en volledig leesbare resultaten te zien. Ze gebeuren dagelijks en met één druk op de knop. Ze zijn niet door elkaar gegooid, althans meestal niet, omdat ze een patroon zijn dat is gebaseerd op wat mensen hebben geschreven. De patroonafstemming moet verder worden verfijnd en uiteindelijk goed genoeg zijn om veel van de vreemde formuleringen af ​​​​te slanken, zie mijn uitleg over hoe dit zou kunnen werken, weergegeven op de link hier. Deze afstemming zal voortdurend worden verfijnd en we zullen allemaal steeds meer onder de indruk zijn van wat generatieve AI produceert.

De woorden zijn niet puur willekeurig gekozen. De woorden zijn niet puur willekeurig gespeld. Er zijn enkele probabilistische aspecten, zoals bij het genereren van het uitgevoerde essay over welke woorden moeten worden geselecteerd. Maar dit is nog steeds gebaseerd op menselijke geschriften en dus niet vermoedelijk puur willekeurig. Het is gebaseerd op een willekeurige keuze uit een handvol of een aantal formuleringsopties die anders allemaal statistisch haalbaar zouden zijn als zijnde het volgende gekozen woord of reeks woorden.

Waar passen de apen hierin?

Die typende apen zijn zeker aantrekkelijk als basis voor vergelijking met generatieve AI. Apen produceren Gehucht versus generatieve AI-productie Gehucht. Dat is een boeiende wedstrijd. Je zou kunnen zeggen dat er helemaal geen wedstrijd bij betrokken is. De AI die door de mensheid is bedacht en gebaseerd is op de geschriften van de mensheid, heeft wat dat betreft een oneerlijk voordeel.

Over typende apen gesproken, in een aflevering van The Simpsons, besluit meneer Burns apen in te huren om door te gaan en op typemachines te typen als onderdeel van de typepool op kantoor. Hij is het soort chagrijnige baas die graag apen zou gebruiken in zijn benodigde kantoorwerk boven het gebruik van mensen als hij dat zou kunnen.

Fans van de show herinneren zich misschien wat er gebeurt.

Meneer Burns pakt een van de getypte pagina's en leest vol verwachting wat de aap heeft getypt. Hij leest de pagina hardop voor en zegt: “Het was de beste tijd, het was de vervagen of times' (dwz er is één woord dat in de war is, de 'blurst' of iets dat zo klinkt). Hij wordt helemaal woedend en volkomen teleurgesteld over die "stomme apen" over wat ze kunnen produceren.

We weten dat als een aap dat deel van Charles Dickens "A Tale Of Two Cities" zou typen, we extatisch en springend van vreugde zouden moeten zijn. Niet zo voor meneer Burns.

Als laatste opmerking voor deze discussie moeten we misschien de volledige zin gebruiken die Charles Dickens schreef: “Het was de beste tijd, het was de slechtste tijd, het was het tijdperk van wijsheid, het was het tijdperk van dwaasheid, het was het tijdperk van geloof, het was het tijdperk van ongeloof, het was het seizoen van licht, het was het seizoen van duisternis, het was de lente van hoop, het was de winter van wanhoop.”

We weten niet helemaal zeker waar we naartoe gaan met AI. Sommigen zeggen dat het het beste wordt sinds gesneden brood. Anderen waarschuwen vooraf dat de AI die we maken een existentieel risico gaat vormen voor het voortbestaan ​​van de mensheid. Het is inderdaad de beste tijd of de slechtste tijd.

Wees niet verbaasd om te zien dat generatieve AI juist die woorden uitvoert. Wees verbaasd als je toevallig apen in een dierentuin ziet die misschien op typemachines typen en erin slagen dezelfde inzichtelijke woorden te typen.

Laat het me alsjeblieft weten als je dat ziet gebeuren.

Ik ben bereid om lang te wachten voordat dit gebeurt, maar waarschijnlijk niet voor oneindig.