De redenen om AI-algoritmen te reguleren zijn eenvoudiger dan u denkt

Ben je bang dat kunstmatige intelligentie de wereld zal overnemen? Velen doen dat. Van Elon Musk die zich zorgen maakt over DeepMind verslaat mensen in het geavanceerde spel Go in 2017, aan congresleden, Europese beleidsmakers (zie Een Europese benadering van kunstmatige intelligentie), en academici, heb je het gevoel dat dit het decennium is om AI serieus te nemen, en het begint stand te houden. Hoewel, niet om de redenen die je zou denken en niet vanwege een bestaande dreiging.

Dit is waar algoritmen binnenkomen. Wat is een algoritme, vraag je je misschien af? De eenvoudigste manier om het te zien is als een reeks instructies die machines kunnen begrijpen en waarvan ze kunnen leren. We kunnen al een machine instrueren om gestructureerd, geautomatiseerd te rekenen, data te verwerken en te redeneren. Het probleem is echter dat zodra de instructies zijn gegeven, de machine ze zal volgen. Voor nu is dat het punt. In tegenstelling tot mensen volgen machines instructies. Ze leren het niet zo goed. Maar als ze dat doen, kunnen ze problemen veroorzaken.

Ik wil geen sensationeel argument maken over het idee dat computers op een dag de menselijke intelligentie overtreffen, beter bekend als het singulariteitsargument (zie NYU-filosoof David Chalmers' mijmeringen over het onderwerp.) Productie is misschien wel het beste voorbeeld van waarom AI-algoritmen belangrijker worden voor het grote publiek. Men vreest dat machines hun bekwaamheid enorm zullen versnellen ten koste van ons. Niet noodzakelijkerwijs door een geavanceerde redenering, maar vanwege de optimalisatie binnen de grenzen van wat een algoritme zegt.

Produceren is dingen maken. Maar als machines dingen maken, moeten we opletten. Zelfs als wat de machines maken eenvoudig is. Ik zal uitleggen waarom.

Van regenlaarzen tot mobieltjes en terug

Stel, een fabriek maakt regenlaarzen. Ik hou van regenlaarzen omdat ik ben opgegroeid in een gebied in Noorwegen waar het veel regent; Ik ben graag buiten, onderworpen aan de vele elementen van de natuur. Nokia maakte de regenlaarzen waarmee ik ben opgegroeid. Ja, de Nokia die we tegenwoordig kennen als het elektronicabedrijf dat vroeger rubberen laarzen maakte. Waarom is deze sleutel? Want als je eenmaal iets hebt gemaakt, ben je voorbestemd om verbeteringen aan te brengen. Dat is logisch. Je zou kunnen zeggen dat dat de menselijke natuur is.

Wat er met Nokia is gebeurd, is algemeen bekend en gaat een beetje als volgt: aanvankelijk was het een papierfabriek, tegen de tijd dat ik een kind was, was het produceren van rubberen laarzen (en banden) bijzonder succesvol voor het bedrijf. Ze zagen echter nog meer kansen. Daarom schakelden ze ergens in de jaren tachtig over op elektronica en veranderden ze snel de fabrieken, en bouwden ze een grote structuur van lokale leveranciers op toen ze begonnen met het maken van mobiele telefoons. Dit luidde de mobiele communicatierevolutie in, die begon in Scandinavië en zich naar de rest van de wereld verspreidde. Het is begrijpelijk dat velen het verhaal van Nokia in de jaren negentig hebben geschreven (zie Geheimen achter het Finse wonder: de opkomst van Nokia).

Mijn voorbeeld is duidelijk. Misschien te simpel. Maar denk er zo over. Als een groot bedrijf snel kan overstappen van het maken van papier om op te schrijven, op laarzen die het gemakkelijker maken om in de regen te staan, en ten slotte op mobiele telefoons die de manier waarop mensen communiceren veranderen: hoe gemakkelijk zal de volgende stap zijn? Stel dat een bedrijf dat mobiele telefoons maakt, besluit nanobots te maken en misschien komen die binnen tien jaar van de grond, waarbij de mensheid wordt veranderd met minuscule machines die autonoom overal rondlopen, in staat om de menselijke ervaring opnieuw in elkaar te zetten en te veranderen. Wat als dat gebeurt zonder na te denken over hoe we willen dat het gebeurt, wie we de leiding willen hebben en wat de uiteindelijke doelen zijn?

Suggereren dat robots Nokia bewust hebben geholpen bij het maken van mobiele telefoons, zou een hele opgave zijn. Maar de erkenning dat technologie een rol speelde om een ​​Fins plattelandsgebied aan de noordkust te laten denken dat ze wereldheerschappij konden verwerven in een nieuwe industrie, speelt een belangrijke rol.

Het verhaal van Nokia is de afgelopen tien jaar niet zo rooskleurig geweest, aangezien ze geen rekening hebben gehouden met de opkomst van op software gebaseerde iOS- en Android-besturingssystemen. Als gevolg hiervan maakt Nokia geen telefoons meer. In een beetje een comeback-verhaal maken ze nu netwerk- en telecominfrastructuur, netwerkbeveiligingsoplossingen, wifi-routers, slimme verlichting en slimme tv's (zie Nokia's comeback-verhaal). Nokia maakt nog steeds dingen, dat is waar. De enige opmerking die moet worden gemaakt, is dat Nokia er altijd van lijkt te genieten de dingen die ze maken door elkaar te halen. Zelfs de fabricagebeslissingen van mensen zijn soms moeilijk te begrijpen.

Fabricage betekent dingen maken en dingen evolueren. In het algemeen is wat we vandaag maken veranderd ten opzichte van slechts tien jaar geleden. 3D-printers hebben de productie van veel geavanceerde producten gedecentraliseerd, zowel in de industrie als thuis. De levensveranderende gevolgen van 3D-printen hebben zich nog niet voorgedaan. We weten niet of dit zal duren, maar we weten wel dat de FDA zich richt op het reguleren van de productie van producten (zie: hier) zoals de gedrukte pillen of medische apparaten die daaruit voortvloeien, de voor de hand liggende problemen met intellectueel eigendom en aansprakelijkheid, of de problemen rond het kunnen afdrukken van vuurwapens. Uiteindelijk bestaat de beleidsdiscussie over de mogelijke negatieve gevolgen van 3D-printen verder niet, en weinigen van ons hebben de moeite genomen om erover na te denken.

Ik suggereer niet dat 3D-printen op zichzelf gevaarlijk is. Misschien is dit een slecht voorbeeld. Toch kunnen dingen die er in eerste instantie alledaags uitzien, de wereld veranderen. Voorbeelden zijn er genoeg: de metalen pijlpunt van de jager/verzamelaar die oorlogen begint, rituele maskers die ons beschermen tegen COVID-19, spijkers die wolkenkrabbers bouwen, verplaatsbare drukpersen die (nog) onze fabrieken vullen met bedrukt papier en de uitgeverij, gloeilampen waarmee je 's nachts naar binnen kunt kijken en werken, ik zou door kunnen gaan. Niemand die ik ken, ging aan het eind van de 1800e eeuw zitten en voorspelde dat Nokia zijn productie zou verplaatsen van papier naar rubber naar elektronica, en dan weg van mobiele telefoons. Misschien hadden ze dat moeten doen.

Mensen zijn slechte voorspellers van stapsgewijze verandering, het proces waarbij één verandering tot meer verandering leidt, en plotseling zijn de dingen radicaal anders. We begrijpen dit proces nog niet omdat we weinig praktische kennis hebben van exponentiële verandering; we kunnen het ons niet voorstellen, berekenen of doorgronden. Toch raakt het ons keer op keer. Pandemieën, bevolkingsgroei, technologische innovatie van boekdrukkunst tot robotica, het overkomt ons meestal zonder waarschuwing.

De truc met futurisme is niet of, maar wanneer. Men zou in feite in staat kunnen zijn om verandering te voorspellen door enkele nieuwe productiemethoden te kiezen en te stellen dat deze in de toekomst vaker zullen voorkomen. Dat is eenvoudig genoeg. Het lastige is om erachter te komen wanneer en vooral hoe.

Paperclips zijn niet het probleem

Kijk nog eens naar mijn fabrieksvoorbeeld, maar stel je voor dat de machines deze keer de leiding hebben over talloze beslissingen, niet alle beslissingen, maar productiebeslissingen zoals optimalisatie. In zijn boek superintelligentie, de dystopische humanist Nick Bostrom van de Universiteit van Oxford stelde zich een beroemd algoritme voor AI-optimalisatie voor dat een paperclipfabriek runt. Op een gegeven moment, zegt hij, stel je je voor dat de machine redeneert dat het leren om steeds meer middelen voor de taak te gebruiken, rationeel is, waardoor onze wereld geleidelijk aan in paperclips verandert en onze pogingen om hem uit te schakelen weerstaat.

Ondanks dat hij een slimme kerel is, is het voorbeeld van Bostrom behoorlijk dom en misleidend (maar toch gedenkwaardig). Ten eerste houdt hij geen rekening met het feit dat mensen en robots niet langer afzonderlijke entiteiten zijn. Wij interageren. De meeste slimme robots evolueren naar cobots of collaboratieve robots. Mensen hebben veel kansen om de machine te corrigeren. Toch blijft zijn uitgangspunt. Er kan op een gegeven moment een stapsgewijze verandering plaatsvinden en als die verandering snel genoeg en zonder voldoende toezicht plaatsvindt, kan de controle verloren gaan. Maar die extreme uitkomst lijkt een beetje vergezocht. Hoe dan ook, ik ben het ermee eens, we moeten de mensen die deze machines bedienen reguleren en verplichten dat werknemers altijd op de hoogte zijn door ze op de juiste manier te trainen. Dat soort trainingen gaat niet goed. Het duurt momenteel te lang en er zijn speciale vaardigheden nodig, zowel om te trainen als om getraind te worden. Ik weet één ding. In de toekomst zullen allerlei mensen robots gaan bedienen. Degenen die dat niet doen, zullen behoorlijk machteloos zijn.

Het vergroten van mensen is beter dan hersenloze automatisering, ongeacht of we nooit volledig fuseren met machines. De twee concepten zijn logisch te onderscheiden. Het is mogelijk dat zowel mensen als robots vastlopen met automatiseren omwille van de automatisering. Dat zou in de toekomst grote schade toebrengen aan de productie. Zelfs als het geen moordende robots voortbrengt. Ik geloof dat een fusie honderden jaren weg is, maar daar gaat het niet om. Ook al is het pas dertig jaar geleden dat de zelfrijdende machines op simplistische algoritmen de controle verliezen, dat scenario speelt zich al af op de werkvloer. Sommige van die machines zijn dertig jaar oud en draaien op oude, propriëtaire controlesystemen. Hun grootste uitdaging is niet dat ze geavanceerd zijn, maar het tegenovergestelde. Ze zijn te simplistisch om te kunnen communiceren. Voor morgen is dit geen probleem. Het is een reeds bestaand probleem. We moeten er onze ogen voor openen. Denk hieraan de volgende keer dat je in je rubberen laarzen stapt.

Ik heb nog steeds mijn Nokia-laarzen uit de jaren 1980. Er zit een gat in, maar ik bewaar ze om mezelf eraan te herinneren waar ik vandaan kom en hoe ver ik heb gelopen. Regen blijft ook vallen, en zolang het schoon genoeg is, wil ik er geen betere oplossing voor dan die laarzen. Nogmaals, ik ben een mens. Een robot zou vermoedelijk al verder zijn gegaan. Wat is de AI-versie van regenlaarzen, vraag ik me af. Het is geen mobiele telefoon. Het is geen regensensor. Het verbijstert de geest.

Met digitale laarzen kun je ze tegenwoordig personaliseren omdat er 3D-geprinte ontwerpen op staan. Er zijn virtuele schoenen die alleen bestaan ​​als NFT's (non-fungible tokens) die kunnen worden verkocht en verhandeld. De beste virtuele sneakers zijn tegenwoordig $ 10,000 waard (zie Wat is een NFT-sneaker en waarom is hij $ 10,000 waard?). Ik ben daar niet bang voor, maar zou ik dat wel moeten zijn? Als de virtuele wereld meer gewaardeerd wordt dan de fysieke wereld, doe ik dat misschien. Of moet ik wachten om me zorgen te maken totdat de eigen avatar van een AI zijn eigen NFT-boot koopt om de "regen" aan te pakken? Als we algoritmen bouwen naar ons eigen beeld, is de kans groter dat een AI goed zou zijn in dingen waar we zouden willen dat we goed in waren, maar die we meestal niet zijn, zoals het kopen van aandelen, het opbouwen van loyale vriendschappen (misschien met zowel machines als mensen) en onthouden dingen. De industriële metaverse kan verrassend geavanceerd zijn - vol met digitale tweelingen die onze wereld nabootsen en op vruchtbare manieren overtreffen - of het kan schokkend eenvoudig zijn. Misschien allebei. We weten het gewoon nog niet.

We moeten AI-algoritmen reguleren omdat we niet weten wat er om de hoek ligt. Reden genoeg, maar hoe we het doen, dat is een langer verhaal. Sta me toe nog een snelle opmerking te maken, misschien moeten alle fundamentele algoritmen openbaar worden gemaakt. De reden is dat als dat niet het geval is, er geen manier is om te weten waartoe ze kunnen leiden. De beste zijn vrij goed bekend (zie Top 10 algoritmen voor machinaal leren), maar er is geen wereldwijd overzicht van waar en hoe ze zullen worden gebruikt. Het zijn vooral de onbewaakte algoritmen die goed in de gaten moeten worden gehouden (zie Zes krachtige use-cases voor machinaal leren in de productie), of ze nu worden gebruikt om onderhoud of kwaliteit te voorspellen, om productieomgevingen te simuleren (bijvoorbeeld digitale tweelingen), of om nieuwe ontwerpen te genereren waar een mens nooit aan zou denken. In het huidige landschap zijn deze niet-gecontroleerde algoritmen typisch zogenaamde kunstmatige neurale netwerken, die proberen het menselijk brein na te bootsen.

Ik begon me zorgen te maken over neurale netwerken, alleen omdat ik hun logica moeilijk te begrijpen vind. Het probleem is dat de meeste experts, zelfs degenen die ze inzetten, niet begrijpen hoe deze algoritmen van stap naar stap of van laag naar laag gaan. Ik denk niet dat de metafoor van "verborgen lagen", die vaak wordt gebruikt, erg toepasselijk of erg grappig is. Om te beginnen mogen er geen verborgen lagen zijn in de productie, in geautomatiseerde belastinginning, in aanwervingsbeslissingen of in toelating tot de universiteit. Misschien moet je ook overwegen om je zorgen te maken? Eén ding is zeker, mensen en machines die samen dingen maken, zullen de wereld veranderen. Het is al, vele malen voorbij. Van papier tot regenlaarzen en de lagen van de kunstmatige hersenen van vandaag, niets mag onontgonnen blijven. We moeten ons niet verschuilen voor het simpele feit dat uit vele kleine veranderingen, plotseling een grotere verandering kan optreden.