De laatste schokkende bezorgdheid over AI-ethiek is dat AI onlosmakelijk politieke vooroordelen kan belichamen, zelfs in het onschuldige geval van op AI gebaseerde zelfrijdende auto's

Laten we het over politiek hebben.

Welnu, ik realiseer me dat je tegenwoordig waarschijnlijk opgebrand bent over de schijnbaar non-stop focus op politiek in alle beschikbare mediabronnen. Rode staten versus blauwe staten. Liberalen versus conservatieven. Democraten versus republikeinen. Het gebabbel over politieke machinaties is tergend eindeloos.

Je zou redelijkerwijs kunnen aannemen dat er een aantal onderwerpen zijn waarbij de politiek niet speciaal in beeld komt. In wezen zijn er misschien twee verschillende klassen van onderwerpen, namelijk onderwerpen die hoe dan ook politiek doordrenkt zijn, en andere, meer banale onderwerpen die buiten het politieke domein zouden blijven of eraan zouden ontsnappen.

Het lijkt logisch dat er in het oog springende onderwerpen zullen zijn die eeuwig in de politiek en politieke furies verwikkeld zullen blijven, zoals de al lang bestaande lijst met aspecten van de nationale gezondheidszorg, electorale aspecten, wapenbeheersing, immigratie, en dergelijke. Het enige wat u hoeft te doen is een van deze onderwerpen te noemen en het volgende dat gebeurt, is dat u wordt ondergedompeld in een politieke vuurstorm. Nogal verhitte discussies zijn vrijwel gegarandeerd.

Aan de andere kant van de medaille zijn er misschien enkele onderwerpen die niet zo'n reflexmatige politieke reactie veroorzaken. Ik zou graag zo'n onderwerp aan u willen voorleggen, in een poging uw eerste onderbuikreactie te peilen.

Klaar?

Cars.

Ja, het alledaagse onderwerp van auto's, auto's, motorvoertuigen, of hoe je het ook wilt verwoorden: roept dat politieke verontwaardiging op, of wakkert dat een politiek geladen tirade aan, of verbale knokpartijtjes waar over gediscussieerd moet worden?

Op het eerste gezicht lijkt het misschien niet dat er sprake is van een verhoogde schijn van politieke bezorgdheid over auto's. Ze zijn gewoon een vorm van dagelijks vervoer. Je stapt in je auto en rijdt naar je werk. Je gebruikt je auto om boodschappen te doen en boodschappen te doen. Als u wat tijd over heeft voor een vakantie, kunt u met uw auto naar de open bossen gaan of misschien een aantal waardevolle nationale monumenten bezoeken.

Auto’s lijken apolitiek.

Sorry, maar dat is in grote lijnen niet het geval.

Er kan worden gesteld dat auto's nauw omringd zijn door en ondergedompeld zijn in de politiek, net als alle andere zogenaamde vlampuntonderwerpen. Misschien besteden de algemene media niet zo veel aandacht aan de autopolitiek als aan andere, meer aantrekkelijke onderwerpen, maar desalniettemin bestaan ​​de politieke onderstromen nog steeds.

Een voor de hand liggende politieke dimensie is waar onze auto’s uit zouden moeten bestaan.

Ik heb het over de samenstelling of mechanisatie van auto's. Er is bijvoorbeeld een heftig politiek debat gaande over de vraag of auto’s ICE (interne verbrandingsmotoren) moeten gebruiken of moeten overstappen op EV (elektrische voertuigen). Dit is een gebied van belangrijk debat dat aansluit bij tal van andere politiek geladen onderwerpen, zoals milieukwesties en facetten van de klimaatverandering.

Een minder bekende en toch verwante kwestie heeft betrekking op de grootte van auto's en hun totale voetafdruk in verschillende opzichten. Moeten we grote auto's hebben of alleen kleinere auto's? Moeten we auto's ontwerpen om het autogebruik in het algemeen te ontmoedigen, met als doel mensen ervan te overtuigen in plaats daarvan het openbaar vervoer en het openbaar vervoer te gebruiken? Enzovoort.

Hier is iets waar je waarschijnlijk niet aan hebt gedacht.

Sommige onderzoeken hebben onderzocht of het type auto dat u bezit, gebaseerd is op de politieke voorkeuren van de autobezitter. Vermoedelijk zou je een statistische correlatie kunnen vinden tussen iemand die als Democraat is verklaard, wat betreft het type auto dat hij heeft gekocht, en eveneens een statistische correlatie kunnen vinden tussen het feit dat hij een Republikein is en het type auto dat hij bezit. Ik zal hier niet op die onderzoeken ingaan, hoewel ik wel zou willen vermelden dat je dergelijke onderzoeken en hun resultaten met een voorzichtig oog en een flinke dosis scepsis over de betrokken statistische validiteit moet interpreteren.

Over het gebruik van statistieken gesproken: er is nog een andere intrigerende invalshoek ten aanzien van politieke kenmerken en auto’s. Er zijn onderzoeksinspanningen die verschillende verbanden lijken te leggen rijgedrag van mensen aan de politieke partijband van die chauffeurs.

De vragen die vaak aan bod komen zijn onder meer:

· Is de kans groter of kleiner dat bestuurders die betrokken raken bij auto-ongelukken of botsingen een Democraat of een Republikein zijn?

· Zijn dronken bestuurders eerder liberalen of conservatieven?

· Als er gekke verkeersincidenten plaatsvinden, waarbij automobilisten woedend worden en elkaar uitschelden, zouden die gekke woedende gekken dan liberalen of conservatieven zijn?

· Wie krijgt meer verkeersboetes en rijdt vermoedelijk riskanter: Democraten of Republikeinen?

· Enz.

Nogmaals, ik ga hier niet in op die onderzoeksinspanningen. En nogmaals, zorg ervoor dat u alert bent als u dergelijke onderzoeken leest of de felle krantenkoppen over hun resultaten ziet. Het enige dat ik wil zeggen is dat de oude regel over statistieken vandaag de dag nog steeds in grote mate waar is, zodat er leugens, verdomde leugens en statistieken zijn (ik heb dat stukje zoute wijsheid opgeschoond voor een vriendelijker publiek).

We lijken daarom voldoende bewijs te hebben dat het onderwerp auto’s helaas doordrenkt is van politieke connotaties.

Ik kies dan een ander onderwerp, een onderwerp dat misschien wel volkomen apolitiek zal zijn.

Klaar deze keer?

Kunstmatige intelligentie (AI).

Je zou zeker hopen dat AI apolitiek moet zijn, vooral als het gaat om de interne capaciteiten van AI-systemen. Je zou natuurlijk kunnen vermoeden dat er sprake is van politiek nabijgelegen of AI wel of niet moet worden gebruikt, maar je zou schijnbaar denken dat de internaliteit van een AI-systeem op zichzelf elke politieke gisting te boven gaat.

Voordat we deze heersende veronderstelling nader bekijken, kan het leerzaam zijn om enkele andere facetten van AI te beschouwen die er de laatste tijd voor hebben gezorgd dat velen de roekeloze drang om AI-systemen in een mum van tijd te produceren en instinctief te accepteren, hebben heroverwogen.

Zie je, in de haast naar de AI voorgoed Door de opwinding van de afgelopen jaren groeit het besef dat niet alle AI noodzakelijkerwijs goed zal zijn. Wij zijn gaan inzien dat er ook volop mogelijkheden zijn voor de AI voor slecht ontstaan. Dit kan gebeuren door de doelbewuste bedoelingen van degenen die AI ontwikkelen, en kan ook gebeuren door wat sommigen met klem beweren: een totaal onverantwoordelijk gebrek aan goed toezicht door AI-ontwikkelaars en degenen die AI-systemen uitdragen.

Ik heb veel van deze AI-ethiekkwesties behandeld in mijn columnverslag, zoals de link hier en de link hier.

Beschouw als een indicator van AI voor slecht de kwestie van gezichtsherkenning.

Velen dachten dat gezichtsherkenning de meest elegante AI-technologie zou worden (en in veel opzichten is het inderdaad een soort AI-technologie). AI voorgoed). Bankieren bij een geldautomaat zou zo gemakkelijk zijn door simpelweg uw gezicht te laten scannen voor herkenning in plaats van een geheime pincode en een bankpas te gebruiken. Het zou zo handig zijn om een ​​supermarkt binnen te lopen en te winkelen door alleen je gezicht te gebruiken als een manier om je online boodschappenaccount aan te duiden, waarop kosten in rekening kunnen worden gebracht voor de items die je selecteert.

Je weet hoe het gaat.

Voordat je het weet, begon de maatschappij te ontdekken dat gezichtsherkenning niet alleen uit zoet smakende snoepjes en zoetgeurende rozen bestaat. Sommige op AI gebaseerde gezichtsherkenningsalgoritmen slaagden er slecht in om mensen te onderscheiden op basis van hun ras. Er deden zich nog talloze andere verontrustende en ronduit schandalige kwesties voor, waaronder inherente vooroordelen met betrekking tot geslacht en andere factoren. Voor mijn berichtgeving over de AI-ethische onderwerpen die ten grondslag liggen aan gezichtsherkenning, zie de link hier.

Het punt in het algemeen is dat de kans groot is dat er iets gebeurt AI voorgoed gaat ook bijbehorende bagage vervoeren, bestaande uit AI voor slecht. Er zijn enkele gelegenheden waarbij AI voor slecht is volkomen slecht, en er zijn weinig verlossende eigenschappen die erop wijzen dat er een klein beetje van is AI voorgoed binnenin. Al met al zal een AI-systeem echter meestal een schijn van beide hebben AI voorgoed en AI voor slecht. Het eerste zouden we willen aanmoedigen, het laatste zouden we willen voorkomen, inperken, verzachten, en als al het andere faalt, dan zo snel mogelijk oppakken en bestrijden.

Je denkt misschien: ja, dat is allemaal logisch en we moeten AI aandachtig onderzoeken op elke vorm van raciale vooroordelen, gendervooroordelen en elke vorm van ongelijkheid. Dit zou de juiste actie zijn en de samenleving helpen het slechte te vermijden en op vruchtbare wijze het goede van AI te vergaren.

Geloof het of niet, er is nog een factor die kan worden toegevoegd aan de lijst van verrassende dingen die in AI zijn verpakt, waarvan velen niet wisten dat die in de bonte stoofpot van AI zaten.

Politieke neigingen.

Recente onderzoeken laten zien dat AI-systemen (als het ware, maar niet antropomorfisch) een overvloed aan politieke tendensen, meningen, voorkeuren en andere soortgelijke politieke kenmerken en infusies kunnen belichamen. Dit kan op zijn beurt invloed hebben op de manier waarop de AI werkt, zoals wat de AI “beslist” op basis van de programmering van de AI.

Als je online een lening aanvraagt ​​en er wordt gebruik gemaakt van een op AI gebaseerd algoritmisch besluitvormingssysteem, heb je vaak geen idee waaruit de AI-programmering bestaat. Als u bijvoorbeeld wordt afgewezen voor de lening, kunt u er niet zeker van zijn dat de AI heeft vermeden uw ras, geslacht of andere soortgelijke factoren te gebruiken bij het maken van de turndown-keuze.

U kunt er ook niet zeker van zijn dat de AI uw leningaanvraag niet heeft onderdrukt vanwege politieke vooroordelen.

Als ik dat in zulke grimmige bewoordingen zeg, overdrijf het idee dan niet door te geloven dat de AI bewust is. Zoals ik zo meteen zal vermelden, hebben we vandaag de dag geen bewuste AI. Punt uit, punt. Wat voor wilde krantenkoppen je ook ziet, weet alsjeblieft dat er vandaag de dag niets in de buurt komt van bewuste AI. We weten niet eens of het mogelijk is om bewustzijn te bereiken met AI. Er is ook geen indicatie wanneer het zal gebeuren, en of het ooit zal gebeuren.

Terug naar de zaak.

Nu ik op tafel heb gekregen dat AI politieke vooroordelen kan bevatten, kunnen we nader bekijken hoe dit gebeurt en op welke manieren de politieke voorkeuren verraderlijk naar voren kunnen komen.

Even terzijde: als het idee dat AI politieke voorkeuren kan verankeren je een verschrikkelijke ontsteltenis of schok bezorgt, kun je dit toeschrijven aan het zoveelste voorbeeld van het doorbreken van de smetteloze sluier van AI. Het lijkt erop dat de samenleving tot nu toe een merkimago van AI heeft geaccepteerd als de belichaming van de grote onschuld en de ongerepte uitstraling van neutraliteit en evenwicht.

Mogelijk hebben we dit overgenomen van andere soorten machines. Broodroosters lijken geen inherente vooroordelen te hebben op basis van ras, geslacht, enzovoort. We zouden ook niet verwachten dat een broodrooster als het ware politiek ingesteld is. Een broodrooster is een broodrooster. Het wordt opgevat als slechts een machine.

De reden waarom het broodroosterperspectief geen steek houdt als het om AI gaat, is dat het AI-systeem geprogrammeerd is om te proberen cognitief-achtige capaciteiten over te houden. Als zodanig duwt dit de machine in het dilemma van cognitieve problemen zoals het belichamen van vooroordelen en dergelijke. Ik verzeker je dat we snel genoeg zullen ontdekken dat op AI gebaseerde broodroosters vol zitten met vooroordelen en problematische zorgen.

Een handige manier om de deur te openen naar inzicht in hoe AI politiek doordrenkt kan raken, is door een blik te werpen op het gebruik van AI bij de komst van op AI gebaseerde, echt zelfrijdende auto's. We kunnen twee vliegen in één klap slaan en het generieke en overkoepelende onderwerp AI onderzoeken dat politieke belichaming bevat, en dit doen in de voorbeeldcontext van hoe dit zou kunnen ontstaan ​​in zelfrijdende auto's.

Ik wil wel duidelijk maken dat politieke inenting op basis van AI een op zichzelf staand onderwerp is dat het verdient om zijn eigen recht te krijgen. Verbind de AI van zelfrijdende auto’s niet per ongeluk met de politieke dimensies van AI. Alle AI zal politiek inherente mogelijkheden hebben, en de diepgang en mate zullen afhangen van hoe de AI wordt bedacht en ingezet.

Hier is dan een opmerkelijke vraag die de moeite waard is om over na te denken: Hoe zal AI politieke voorkeuren intern kunnen doordringen, en kan dit zelfs gebeuren in het ogenschijnlijk apolitieke domein van de AI die wordt gebruikt voor de opkomende, op AI gebaseerde zelfrijdende auto’s?

Sta mij toe even de vraag uit te leggen, aangezien deze betrekking heeft op zelfrijdende auto's.

Merk allereerst op dat er geen menselijke bestuurder betrokken is bij een echte zelfrijdende auto. Houd er rekening mee dat echte zelfrijdende auto's worden bestuurd via een AI-aandrijfsysteem. Er is geen behoefte aan een menselijke bestuurder aan het stuur, noch is er een voorziening voor een mens om het voertuig te besturen. Voor mijn uitgebreide en doorlopende berichtgeving over Autonomous Vehicles (AV's) en vooral zelfrijdende auto's, zie de link hier.

Ik wil graag verder verduidelijken wat wordt bedoeld met echte zelfrijdende auto's.

Inzicht in de niveaus van zelfrijdende auto's

Ter verduidelijking: echt zelfrijdende auto's zijn auto's waarvan de AI de auto volledig alleen bestuurt en dat er geen menselijke assistentie is tijdens de rijtaak.

Deze zelfrijdende voertuigen worden beschouwd als niveau 4 en niveau 5 (zie mijn uitleg op deze link hier), terwijl een auto waarvoor een menselijke bestuurder nodig is om de rij-inspanning mee te delen, meestal wordt beschouwd als niveau 2 of 3. De auto's die samen deel de rijtaak worden beschreven als semi-autonoom, en bevatten doorgaans een verscheidenheid aan geautomatiseerde add-on's die worden aangeduid als ADAS (Advanced Driver-Assistance Systems).

Er is nog geen echte zelfrijdende auto op niveau 5, waarvan we nog niet eens weten of dit mogelijk zal zijn en hoe lang het duurt om daar te komen.

Ondertussen proberen de inspanningen van niveau 4 geleidelijk wat grip te krijgen door zeer smalle en selectieve proeven op de openbare weg te ondergaan, hoewel er controverse is over de vraag of dit testen per se zou moeten worden toegestaan ​​(we zijn allemaal proefkonijnen op leven of dood in een experiment). vindt plaats op onze snelwegen en zijwegen, sommigen beweren, zie mijn berichtgeving op deze link hier).

Aangezien semi-autonome auto's een menselijke bestuurder nodig hebben, zal de adoptie van dat soort auto's niet veel anders zijn dan het besturen van conventionele voertuigen, dus er is op zich niet veel nieuws om erover te praten over dit onderwerp (hoewel, zoals je zult zien in een oogwenk zijn de volgende punten algemeen toepasbaar).

Voor semi-autonome auto's is het belangrijk dat het publiek wordt gewaarschuwd voor een verontrustend aspect dat de laatste tijd naar voren komt, namelijk dat ondanks de menselijke chauffeurs die video's blijven plaatsen van zichzelf die in slaap vallen achter het stuur van een auto van niveau 2 of niveau 3 , we moeten allemaal voorkomen dat we worden misleid door te geloven dat de bestuurder zijn aandacht kan afleiden van de rijtaak terwijl hij in een semi-autonome auto rijdt.

U bent de verantwoordelijke voor de rijacties van het voertuig, ongeacht hoeveel automatisering er in een niveau 2 of niveau 3 kan worden gegooid.

Zelfrijdende auto's en in AI ingebedde politieke voorkeuren

Voor echte zelfrijdende voertuigen van niveau 4 en niveau 5 zal er geen menselijke bestuurder bij de rijtaak betrokken zijn.

Alle inzittenden zijn passagiers.

De AI doet het rijden.

Een aspect dat meteen moet worden besproken, is het feit dat de AI die betrokken is bij de huidige AI-rijsystemen niet bewust is. Met andere woorden, de AI is helemaal een collectief van computergebaseerde programmering en algoritmen, en zeer zeker niet in staat om op dezelfde manier te redeneren als mensen.

Waarom wordt deze extra nadruk gelegd op het feit dat de AI niet bewust is?

Omdat ik wil onderstrepen dat ik bij het bespreken van de rol van het AI-rijsysteem geen menselijke kwaliteiten aan de AI toeschrijf. Houd er rekening mee dat er tegenwoordig een voortdurende en gevaarlijke tendens is om AI te antropomorfiseren. In wezen kennen mensen een menselijk gevoel toe aan de huidige AI, ondanks het onmiskenbare en onbetwistbare feit dat een dergelijke AI nog niet bestaat.

Met die verduidelijking kun je je voorstellen dat het AI-aandrijfsysteem op de een of andere manier de facetten van autorijden niet kent. Rijden en alles wat daarbij komt kijken zal geprogrammeerd moeten worden als onderdeel van de hardware en software van de zelfrijdende auto.

Laten we eens kijken naar de talloze aspecten die over dit onderwerp spelen.

Ten eerste is het belangrijk om te beseffen dat niet alle AI-zelfrijdende auto's hetzelfde zijn. Elke autofabrikant en zelfrijdend technologiebedrijf kiest zijn benadering voor het ontwerpen van zelfrijdende auto's. Als zodanig is het moeilijk om ingrijpende uitspraken te doen over wat AI-aandrijfsystemen wel of niet zullen doen.

Bovendien, telkens wanneer wordt beweerd dat een AI-aandrijfsysteem iets bepaalds niet doet, kan dit later worden ingehaald door ontwikkelaars die de computer in feite programmeren om datzelfde te doen. Stap voor stap worden AI-aandrijfsystemen geleidelijk verbeterd en uitgebreid. Een bestaande beperking van vandaag bestaat mogelijk niet meer in een toekomstige iteratie of versie van het systeem.

Ik vertrouw erop dat dit een voldoende litanie van waarschuwingen biedt om ten grondslag te liggen aan wat ik ga vertellen.

We zijn nu klaar om een ​​diepe duik te nemen in het in de AI-politiek ingebedde dilemma.

Zet de aspecten van de zelfrijdende auto even opzij en laten we eerst het AI-onderwerp verkennen en bekijken hoe het politieke voorkeuren integreert. De gemakkelijkste manier waarop AI politiek succes kan krijgen, is door de acties van de AI-ontwikkelaars die de AI-software maken. Als mensen zouden ze hun persoonlijke politieke voorkeuren kunnen overbrengen in waar ze de software voor programmeren.

Toen AI-systemen voor het eerst verschillende ras- en gendervooroordelen begonnen te vertonen, was er een enorme verontwaardiging dat dit het resultaat moest zijn van de AI-ontwikkelaars die deze systemen bedachten. Er waren beschuldigingen dat dit een doelbewuste daad van AI-ontwikkelaars was. Anderen suggereerden echter dat de AI-ontwikkelaars een gebrek aan diversiteit hadden en dat ze daarom onzorgvuldig of gedachteloos toestonden dat hun bestaande vooroordelen werden overgenomen in hun AI-programmeringsinspanningen.

Voor veel AI-teams zorgde dit ervoor dat ze zich meer bewust werden van het waarborgen van diversiteit onder hun collega-ontwikkelaars, ook wanneer nieuwe leden aan hun programmeergroepen werden toegevoegd. Daarnaast zijn er speciale leerzame educatieve cursussen gemaakt om het diversiteitsbewustzijn bij AI-ontwikkelaars te vergroten. Er zijn zelfs AI-ontwikkelingsmethodologieën die diversiteitsaspecten omvatten om AI-projecten expliciet te begeleiden in de richting van het waken voor het inenten van vooroordelen en ongelijkheden in hun systemen.

Hoewel bijna niemand zich nog bewust is van de politiek ingebedde vooroordelen ten aanzien van AI, is de kans groot dat AI uiteindelijk op de voorgrond zal komen te staan ​​en dat er een luide opschudding zal ontstaan. Opnieuw zullen AI-ontwikkelaars nauwlettend in de gaten worden gehouden. Misschien brengen sommigen opzettelijk hun politieke voorkeuren in, terwijl anderen dit misschien doen zonder zich te realiseren dat ze dat doen.

Ik durf te zeggen dat de focus van de veronderstelling dat de AI-ontwikkelaars de enige bron waren van het introduceren van vooroordelen in AI voorbijging aan het geheel van waar de AI-vooroordelen vandaan kwamen. Een geleidelijk besef is ontstaan ​​dat het gebruik van Machine Learning (ML) en Deep Learning (DL) ook een opmerkelijke bijdrage leverde aan de interne biasing-aspecten van AI.

Machine Learning en Deep Learning zijn technieken en technologieën voor het matchen van computationele patronen.

U verzamelt gegevens die u in de ML/DL wilt invoeren, die vervolgens computationeel zoekt naar wiskundige patronen in de verstrekte dataset. Op basis van die berekende patronen zal de ML/DL ingezet worden, bijvoorbeeld om gezichtsherkenning te kunnen doen. Voor gezichtsherkenning kunnen we een aantal foto's van mensen invoeren, en de ML/DL berekent de opvallende kenmerken van wat gezichten herkenbaar maakt, zoals de vorm en grootte van de neus, de vorm en grootte van de mond en lippen , de vorm en grootte van het voorhoofd, enzovoort.

Deze computationele benadering lijkt elke vorm van bias te boven te gaan. Het zijn allemaal maar berekeningen.

Aha, maar onthoud dat we afbeeldingen (of wat dan ook) in de ML/DL invoeren als onderdeel van de "training" of het matchen van computerpatronen. Als we voor gezichtsherkenning voornamelijk foto's zouden invoeren waarop mensen van een bepaald ras te zien zijn, is de kans groot dat de computationele patroonmatching zich zou richten op die gezichtsaspecten. Stel dat we dit gezichtsherkenningssysteem later op grote schaal gaan gebruiken, dan zouden degenen die het gebruikten en van een ander ras waren, wiskundig minder waarschijnlijk ‘herkend’ worden, omdat de ML/DL-patronen gevormd zijn rond het ras dat voornamelijk in de training werd aangetroffen. set.

Je kunt dus duidelijk zien hoe de anderszins 'onbevooroordeelde' wiskundige benadering van ML/DL scheef kan raken (er zijn ook andere manieren, maar ik noem hier alleen deze grote). Hebben de AI-ontwikkelaars met opzet een dataset gemaakt die raciaal onevenwichtig was? Ik zou willen suggereren dat dit zelden een opzettelijke handeling is, hoewel het gebrek aan besef dat ze dat hadden gedaan nog steeds geen voldoende excuus is.

Tegenwoordig is er een sterke poging om degenen die ML/DL gebruiken, bewuster te laten nadenken over welke gegevens ze gebruiken voor training en welke resultaten dit oplevert. Helaas is iedereen op de ML/DL-bandwagon gesprongen en veel van deze nieuwelingen of 'fly-by-nights' die de ML/DL-mantel hebben overgenomen, doen dit zonder zich bewust te zijn van de vooroordelen die daarmee gepaard gaan. Er zijn mogelijk ook slechte acteurs die dit opzettelijk doen, maar laten we hopen dat dit maar weinigen zijn.

Ik vertrouw erop dat het voorgaande u op de hoogte heeft gebracht van de AI-ethische aspecten die te maken hebben met het inbrengen van vooroordelen in de huidige AI.

Ga je gang en herhaal het hele gedoe, waarbij je het algemene idee van vooroordelen vervangt door de specifieke indicaties van politiek ingebedde neigingen. Ik heb al gezegd dat AI-ontwikkelaars zelf openlijk of onbedoeld hun politieke voorkeuren kunnen overbrengen in wat de geprogrammeerde AI doet. Het andere facet dat ik ook ter sprake bracht, is dat er voor het gebruik van Machine Learning en Deep Learning een mogelijkheid bestaat om trainingsgegevens te selecteren die opzettelijk of per ongeluk patronen kunnen overbrengen die in een bepaalde politieke dimensie passen.

Nou, ik ben een beetje lang bezig met deze column (oeps, TLDR, sommigen zullen scherp zeggen), dus ik zal proberen kort een voorbeeld te schetsen van hoe AI voor een op AI gebaseerde zelfrijdende auto hierin terecht zou kunnen komen soorten politiek georiënteerde wormgaten (zie de link hier voor mijn uitgebreide berichtgeving over dergelijke zaken, in veel van mijn columns).

Een bekende en vaak besproken potentiële aandelenkwestie rond zelfrijdende auto’s met AI betreft het gebruik van robottaxi’s en wie toegang zal hebben tot deze nieuwe ‘mobility-as-a-service’-optie. Zorgen zijn dat alleen de rijken het zich kunnen veroorloven om robottaxi's te gebruiken, en dat degenen met lagere inkomens dus buiten het opkomende tijdperk van zelfrijdende auto's zullen worden gelaten (zie een diepgaand rapport hierover, op de link hier ).

Er is nog een wending die voortkomt uit dat probleem.

Stel je voor dat zelfrijdende auto’s door de stad rijden en wachten op een ritverzoek. Er komt een verzoek binnen en een zelfrijdende robottaxi-auto in de buurt komt aanrijden om de berijder op te halen. De rijder geeft aan waar hij heen wil en het AI-aandrijfsysteem stippelt een pad uit om daar te komen. Het AI-aandrijfsysteem rijdt vervolgens het autonome voertuig naar de gewenste bestemming.

Dat lijkt allemaal prima.

Hier is een ontnuchterende angst geuit.

Stel dat het AI-aandrijfsysteem ervoor kiest een pad te bedenken dat de meer vertrapte buurten vermijdt. Je zou kunnen aannemen dat de navigatiegrafiek alleen gebaseerd zou zijn op het optimale pad, zoals de kleinste afstand, of misschien wel de kortste tijd. Misschien misschien niet.

Andere factoren kunnen de waarschijnlijkheid zijn dat de zelfrijdende auto door gebieden gaat die kunnen worden beschouwd als door misdaad geteisterde gebieden. Het kan zijn dat er bij de te volgen route rekening wordt gehouden met het gevaar voor het autonome voertuig en de passagiers.

Er wordt met de hand gewenkt dat zelfrijdende auto's bijna altijd onlosmakelijk de meer verarmde of onderdrukte gemeenschappen zouden vermijden. Mensen die in zelfrijdende auto's rijden, lijken zich nooit te realiseren dat dergelijke plekken in hun stad of dorp bestaan. Dit zou er op zijn beurt voor zorgen dat ze zich niet bewust zijn van de behoeften van dergelijke gemeenschappen. Bovendien krijgen degenen die in die gebieden wonen zelden de kans om een ​​zelfrijdende auto te gebruiken, ook al is deze betaalbaar. Er zouden geen robottaxi's in hun midden rondzwerven, omdat ze zich door berekening buiten die gebieden hadden gehouden.

Zou deze bias ontstaan ​​als gevolg van het opzettelijk programmeren van de AI door de ontwikkelaars?

Dat zou kunnen, maar dat hoeft niet noodzakelijk zo te zijn.

Misschien komt deze bias voort uit het gebruik van Machine Learning en Deep Learning?

Zeker, het is een overwogen mogelijkheid.

Het AI-aandrijfsysteem zou gebaseerd kunnen zijn op ML/DL dat gegevens gebruikte voor training over waar verder te gaan bij het uitstippelen van een pad. Als die gegevens waren vormgegeven rond het vermijden van bepaalde gebieden, zou de ML/DL waarschijnlijk een dergelijk patroon ontdekken en daarmee verder gaan. In de veronderstelling dat dergelijke gegevens in de loop van de tijd verder worden verzameld naarmate de zelfrijdende auto's onderweg zijn, zouden de gegevens die vervolgens worden gebruikt voor updates en onderhoud diezelfde verzonnen patronen verder versterken.

Je zou kunnen zeggen dat de patronen verergeren naarmate het gebruik van het voorgaande patroon herhaaldelijk op zijn plaats wordt gezet, een soort sneeuwbal- of steeds spiraalvormig effect.

Bij wijze van spreken zou je kunnen opvatten dat deze schijnbare voorkeur voor waar te rijden een voorbeeld is van hoe een potentiële politiek ingebedde AI-tendens zou kunnen ontstaan. Eén perspectief zou zijn om de AI onverminderd door te laten gaan in deze voorliefde. Een andere zou zijn om de AI te herzien om opzettelijk die gebieden binnen te dringen die qua patroon buiten het bereik vallen, wat opnieuw zou kunnen beweren dat het een misschien politiek georiënteerde houding is die in de AI wordt ingebracht.

Alles bij elkaar genomen ook de AI vertoont een politiek neigende tendens is, of op zijn minst wordt waargenomen dat dit het geval is, ongeacht of deze enige schijn had (wat het gevoelsmatig niet heeft) over de politiek van de dingen.

Conclusie

Er zijn veel van dit soort voorbeelden te bedenken.

Ik blijf bij de context van zelfrijdende auto's en geef je nog een kort voorbeeld. Stel dat een passagier om een ​​lift vraagt ​​door een AI-zelfrijdende auto-robotaxi en dit doet om naar een politieke bijeenkomst te gaan die plaatsvindt in het gerechtsgebouw in de binnenstad. Het AI-aandrijfsysteem weigert de rijder daarheen te brengen.

Waarom?

Stel je voor dat eerdere gegevens die waren verzameld over politieke bijeenkomsten als bestemmingspunt hadden aangegeven dat de zelfrijdende auto’s verstrikt raakten in het verkeer. Stel dat dit betekende dat de zelfrijdende auto’s minder geld konden verdienen aan de berijders, vanwege de lange wachttijden in het verkeer en het berekenen van een lager tarief voor die wachttijden. Een AI-algoritme zoals het gebruik van ML/DL zou computationeel kunnen bepalen dat het bijwonen van politieke bijeenkomsten een zure keuze is om geld te verdienen. Wanneer er verzoeken voor de robo-taxi ontstaan ​​om naar een politieke bijeenkomst te gaan, wordt het verzoek daarom afgewezen.

Ik denk dat je begrijpt hoe dit gezien kan worden als een politiek gemotiveerde keuze. Hoewel de AI op geen enkele manier rechtstreeks gebruik maakt van enig politiek motief, lijkt het er in ieder geval op dat zij een politieke keuze maakt.

Je kunt er zeker van zijn dat we snel genoeg te maken krijgen met een politieke reactie op de politieke voorkeuren van AI. Let op mijn woorden!

Over woorden gesproken: de beroemde Griekse dichter en toneelschrijver Aristophanes beweerde dat onder elke steen een politicus schuilt. In de wereld van vandaag bestaat er binnen elk AI-systeem een ​​onbetwistbare kans op een sluimerende politiek ingebedde neiging, of je dat nu weet of niet.

Het is beter om die stenen om te draaien.