AI-ethiek en de veelgeprezen AI Uncanny Valley, die ook op AI gebaseerde zelfrijdende auto's rammelt

Soms zijn er enigszins vreemde dingen die je aandacht trekken en je intuïtieve sappen op gang brengen dat er op de een of andere manier iets mis is. De eigenaardigheid is niet flagrant, helemaal niet flagrant in your face. Je kunt misschien niet eens meteen je vinger leggen op wat de ongerijmdheid is of hoe komt het dat je spreekwoordelijke spinachtige gevoel tintelt.

Misschien worden er subtiele veelbetekenende aanwijzingen waargenomen. Misschien realiseer je je in je buik dat er een dissonantie bestaat. Ik denk dat je zou kunnen zeggen dat er slechts de kleinste hint van ingetogen griezeligheid is en dat je delicate menselijke radar anders schijnbaar verborgen signalen oppikt.

Welkom in de griezelige vallei.

Als je nog nooit hebt gehoord van de griezelige vallei, een onderwerp dat relatief populair is op het gebied van AI en vooral robotica, staat je iets te wachten, want dat is het onderwerp dat ik hierin nauw ga bespreken en analyseren.

Het overkoepelende begrip kan van toepassing zijn op veel dingen die we in het leven ervaren, hoewel de hoeksteenprincipes en de oorspronkelijke definitie AI-systemen en robots met zich meebrengen. We zullen eerst de oorsprong en initiële betekenis van de griezelige vallei verkennen en dan verder gaan met een verbreding om te zien hoe de verschijnselen toepasbaar lijken in grotere contexten.

Ik zou ook kunnen toevoegen dat we zullen overwegen of de griezelige vallei überhaupt bestaat.

Zie je, sommige sceptici en cynici beweren dat de hele zaak een beetje een shenanigan is en geen steek houdt. Wees voorzichtig bij het ter sprake brengen van het onderwerp aan degenen die op de hoogte zijn. Sommigen zullen vrolijk glimlachen en je op de rug klappen dat je heel goed bekend bent met de griezelige vallei, terwijl anderen je schril de les lezen dat het een allegaartje van onzin is en dat je je geest kort en krachtig moet opruimen met een schuimend stuk mentale reinigende zeep .

Het goede nieuws hier is dat je kunt beslissen of de griezelige vallei echt is of niet, en of het verdiensten heeft voor een bewuste toepassing of dat het in plaats daarvan zonder pardon op de schroothoop met techno-ideeën moet worden gegooid. In die zin zit u aan het stuur.

Dit alles sluit ook nauw aan bij het ontluikende veld van Ethical AI en het toenemende besef dat de samenleving serieus en nuchter aandacht moet besteden aan de ethiek van AI. We maken die gelijkspel even.

De beste plaats om te beginnen is door de professor direct te citeren die met het uncanny valley-concept kwam en dit verkondigde fenomeen ronduit noemde. In 1970 publiceerde professor Masahiro Mori van het Tokyo Institute of Technology een nogal klein artikel in een wat minder bekend tijdschrift genaamd Energie (niet bepaald een broeinest voor AI en robotica op zich), en zei dit:

"Ik heb gemerkt dat bij het klimmen naar het doel om robots menselijk te laten lijken, onze affiniteit voor hen toeneemt totdat we bij een vallei komen, die ik de griezelige vallei noem."

Houd er rekening mee dat de bovenstaande formulering in het Engels is weergegeven, hoewel het originele papier in het Japans was. De Engels vertaalde versie stond onder toezicht van de auteur en werd later gepubliceerd in de IEEE Spectrum in 2012 en toegeschreven aan Masahiro Mori als auteur. U kunt de krant zelf lezen, aangezien deze open en vrij online beschikbaar is. Het is beslist een snelle lezing van misschien tien minuten of zo en bevat geen zware technische terminologie.

Dat gezegd hebbende, is het interessant en enigszins verbazingwekkend dat zo'n stevig artikel, gepubliceerd in 1970, uiteindelijk een hele onderzoeksarena op gang bracht en een groot aantal gerelateerde studies, projecten, onderzoek op gang bracht en soms een storm van controverse over de vraag of de geïntroduceerde concept van een griezelige vallei echt bestaat. Ik veronderstel dat dit laat zien dat intrigerende en soms van gezichtspunt veranderende ideeën niet enorm ingewikkeld of overvol met jargon en verhevenheid hoeven te zijn. Een beknopt idee kan net zo krachtig zijn als het op het eerste gezicht lijkt.

Ik vertrouw erop dat dit je zal aanmoedigen om te proberen je nieuwe ideeën te koesteren, waarbij je je realiseert dat zoet en eenvoudig net zo prachtig of soms meer dan ingewikkeld en ingewikkeld kan zijn.

Laten we teruggaan naar de griezelige vallei-opwekking.

Je komt een robotsysteem tegen dat een gezicht heeft dat lijkt op een menselijk gezicht. Stel je voor dat dit robotgezicht door talloze iteraties is bedacht. AI-ontwikkelaars die de robotkop hebben samengesteld, hebben er stapsgewijs naar gestreefd om het robotachtige gezichtsgedeelte steeds meer op een echt menselijk gezicht te laten lijken.

Hun eerste poging was buitengewoon primitief. Het gezicht van de robot had dezelfde look die je in de sci-fi-films hebt gezien, volledig van metaal en met tandwielen en draden. Als je naar het ding kijkt, weet je meteen dat het een robot is. Geen vraag in je hoofd erover.

De volgende poging van de AI-ontwikkelaars omvatte het wikkelen van wat plastic materialen rond de metalen stukken. Hoewel dit er wat vriendelijker uitziet, weet je toch meteen dat het een robotkop en een robotgezicht is. Nogmaals, gemakkelijk te detecteren.

Die AI-ontwikkelaars zijn vastbesloten om dit in stand te houden. Ze boetseren het plastic en geven het huidtinten. Ze voegen kenmerken toe die erg lijken op een menselijk gezicht, zoals moedervlekken, haar, vlekken en dergelijke.

Op het eerste gezicht zou je kunnen geloven dat dit een menselijk gezicht is. Als er een foto is gemaakt van het robotgezicht en u wordt gevraagd om te bepalen of de afbeelding een persoon of een robotgezicht weergeeft, zou het u moeilijk kunnen maken om meteen te kunnen zeggen welke het was. Aan de andere kant, als je naast het apparaat zou staan, zou je bij nadere inspectie waarschijnlijk kunnen onderscheiden dat het geen mens is, maar een robotachtig apparaat.

Het punt is dat voordat je de kans kreeg om close-uponderzoek te doen, er iets met het gezicht was dat niet helemaal klopte. Het zag er zeker uit als een menselijk gezicht. Maar er klopte iets niet. Je moest steeds opnieuw aandachtig blijven staren om je vinger te leggen op wat er niet helemaal goed uitziet. Misschien is het een echt gezicht. Aan de andere kant, misschien is het dat niet. Je geest draait dienovereenkomstig.

Een schijn van griezeligheid komt je geest binnen.

Je had niet diezelfde schijn van griezeligheid toen je de twee eerdere versies zag. Je kon zonder pauze of aarzeling detecteren dat de robot een robot was. Alleen een kind zou voor de gek kunnen worden gehouden door te geloven dat een van die versies van een echt persoon was.

Deze laatste versie was echter anders. Het was nog niet geperfectioneerd om eruit te zien als een menselijk gezicht. Het was ook niet zo ver verwijderd van het echte werk dat het duidelijk was dat het een robot moest zijn. Er was een soort warrig terrein bereikt.

Stel dat de ontwikkelaars verder gingen met hun onderzoeksinspanningen en alles zo hadden geregeld dat het gezicht van de robot bijna niet te onderscheiden was van een menselijk gezicht. Hoe lang je ook naar het ding staart, je weet niet zeker of het een mens is of niet. Wanneer u wordt geïnformeerd dat het het robotgezicht is, staat u versteld. Goh, ze hebben geweldig werk geleverd door het er echt uit te laten zien.

Merk op dat je tot nu toe alleen de robotische aspecten hebt overwogen op basis van alleen uiterlijk.

We kunnen beweging aan de vergelijking toevoegen. Dit voegt een extra dimensie toe om te onderscheiden of de robot een robot of een mens is. Ik wil dit niet volledig beschouwen als een multidimensionaal soort probleem in deze discussie, omdat het een toelichting op dit onderwerp ingewikkelder maakt (er zijn echter onvermijdelijk meerdere dimensies met elkaar verweven). Stel je in ieder geval voor dat je niet alleen het robotgezicht zag, maar ook kon kijken hoe de robot de gelaatstrekken beweegt, zoals de mond, de ogen, de neus, enz. Dat kunnen natuurlijk ook weggeefacties zijn over de vraag of dit een robot of een mens.

Een essentieel aspect om in de voorhoede van de griezelige vallei te blijven, is dat de oorspronkelijke opvatting de nadruk legt op de daad van menselijke affiniteit. Het geclaimde fenomeen is dat je affiniteit toeneemt naarmate je de steeds beter wordende robotgezichten ziet, tot het punt waarop de griezelige variant zich voordoet. Op dat moment wordt gezegd dat je gevoel van affiniteit dramatisch daalt en naar beneden stort in een affiniteitskloof of -vallei.

Voor de specifieke versie waardoor je vermoedde dat er iets niet klopte, zou je affiniteit radicaal zijn gedaald. Bovendien, volgens de theorie, kan je affiniteit weer omhoogschieten zodra je de meer geavanceerde versie tegenkomt die bijna identiek is aan een echt menselijke vorm.

Hier is meer over wat de auteur zei over onze normale neiging om aan te nemen dat aspecten van het leven geleidelijk toenemen: "De wiskundige term monotoon toenemende functie beschrijft een relatie waarin de functie y = ƒ(x) neemt continu toe met de variabele x. Bijvoorbeeld als inspanning x groeit, inkomen y toeneemt, of als het gaspedaal van een auto wordt ingedrukt, gaat de auto sneller rijden. Dit soort relatie is alomtegenwoordig en zeer gemakkelijk te begrijpen. Omdat dergelijke monotoon toenemende functies de meeste fenomenen van het dagelijks leven bestrijken, kunnen mensen in feite de illusie krijgen dat ze alle relaties vertegenwoordigen. Deze verkeerde indruk wordt ook bevestigd door het feit dat veel mensen door het leven worstelen door aanhoudend te pushen zonder de effectiviteit van terugtrekken te begrijpen. Dat is de reden waarom mensen meestal verbaasd zijn als ze worden geconfronteerd met een fenomeen dat deze functie niet kan vertegenwoordigen.” Dit wordt geciteerd per de IEEE Spectrum vertaald papier.

Deze bijna universele veronderstelling over altijd toenemen kan worden omgedraaid als we iets verkeerds tegenkomen. De griezeligheid en achterdocht zullen een relatief abrupte en dramatische daling van affiniteit veroorzaken, zo luidt de theorie, zoals een robothand die je ervoor koos om te schudden en die de benige kenmerken van een menselijke hand niet kon voelen: "Als dit gebeurt, verliezen we ons verstand van affiniteit, en de hand wordt griezelig. In wiskundige termen kan dit worden weergegeven door een negatieve waarde.”

Als je de veronderstelling accepteert dat er een fenomeen van een griezelige vallei bestaat, dan vraag je je vast af wat het voor zin heeft om te weten dat de griezelige vallei blijkbaar bestaat.

Dat is de all-time klassieker "so what?" praktijktest.

Het blijkt dat veel mensen veel interpretaties hebben bedacht van wat we moeten of kunnen doen aan de griezelige vallei. Er zijn massa's meningen. Ik zal er binnenkort een paar behandelen.

Ondertussen is dit wat Masahiro Mori aanbood: “We hopen robots en prothetische handen te ontwerpen en te bouwen die niet in de griezelige vallei zullen vallen. Dus, vanwege het risico dat inherent is aan het proberen om hun mate van menselijke gelijkenis te vergroten om de tweede piek te schalen, raad ik ontwerpers aan in plaats daarvan de eerste piek als hun doel te nemen, wat resulteert in een matige mate van menselijke gelijkenis en een aanzienlijk gevoel van affiniteit . Ik voorspel zelfs dat het mogelijk is om een ​​veilig niveau van affiniteit te creëren door opzettelijk een niet-menselijk ontwerp na te streven. Ik vraag ontwerpers hierover na te denken.”

Een snelle samenvatting van mijn kant van twaalf handige broekzakregels over wat te doen met betrekking tot de griezelige vallei gaat als volgt voor AI-ontwikkelaars in het bijzonder:

1) Houd rekening met de griezelige vallei en wees dienovereenkomstig alert

2) U wilt vermoedelijk zoveel mogelijk menselijke affiniteit voor uw AI krijgen

3) Wees voorbereid op een verlies van menselijke affiniteit als je AI in de griezelige vallei valt

4) Probeer de griezelige vallei te vermijden door je AI zo te ontwerpen

5) Het is respectabel om een ​​doel te hebben dat niet in de griezelige vallei ligt

6) Slijp naar de rand van de griezelige vallei, maar val niet over de klif

7) Wees niet geobsedeerd door verder te gaan dan de griezelige vallei

8) Er is een kans dat je voorbij de griezelige vallei kunt springen

9) Raak niet in beslag genomen door de sprong, want je zou toch in de vallei kunnen vallen

10) Maximale menselijke affiniteit zou weliswaar worden bereikt door voorbij de griezelige vallei te komen

11) Desalniettemin is er voldoende en geschikte affiniteit gevonden voorafgaand aan de griezelige vallei

12) Denk voortdurend aan de griezelige vallei en laat het je niet ontglippen

Deze tientallen zijn allemaal algemene voorschriften die kunnen worden beschouwd als hoekstenen of ankerpunten van kennis over de griezelige vallei. Ik zal meteen erkennen dat er andere punten zijn die niet in die kleine dozijn worden genoemd en die als even belangrijk kunnen worden beschouwd. Ik zal ook onmiddellijk erkennen dat er onenigheid is over elk van de geïdentificeerde punten, en dat er een langdurig verhit debat kan ontstaan ​​over elk gemaakt punt.

Sterker nog, sommigen zouden zeggen dat de twaalf punten allemaal onzin zijn, omdat ze om te beginnen op een onwaarheid zijn gebaseerd. Er bestaat niet zoiets als een griezelige vallei, zouden ze beweren. Het is allemaal slechts bedrog en een verzonnen truc die alleen en helaas een beroep doet op zwakke geesten (auw, dat doet ernstig pijn!). Elke aandacht voor de griezelige vallei is verspilde lucht en iemand zou langs moeten komen en een scherpe houten theoretische staak in de kern van de zaak zetten (sommige onderzoekers hebben dat geprobeerd).

Laten we omwille van de discussie met de stroom meegaan en aannemen dat er een griezelige vallei is en dat deze in het algemeen overeenkomt met wat ik tot nu toe heb aangegeven. Degenen die het niet eens zijn met de conceptualisering van een griezelige vallei, zijn welkom om uit te zoomen of verder te lezen met opeengeklemde tanden en hun intellectuele woede borrelend en kokend (sorry daarvoor).

Dit is hoe ethische AI ​​en de focus van het bedenken en toepassen van ethische AI ​​tot stand komen. Trouwens, voor mijn voortdurende en diepgaande verkenningen van AI-ethiek, zie mijn discussie op deze link hier en deze link hier, om er een paar te noemen.

De griezelige vallei is beslist een haat-liefdeverhouding voor degenen die van ethische AI ​​houden.

Eerst hadden sommigen achtergrond nodig. Een van de meest huiveringwekkende ethische AI-gerelateerde problemen is dat mensen voor de gek kunnen worden gehouden door te geloven dat een AI-systeem bewust is. Houd er rekening mee dat er geen enkele AI van vandaag is die ook maar enigszins in de buurt komt van bewust zijn. Het gebeurt gewoon niet op dit moment. Mijn ogenschijnlijk "brutale" bewering wordt gedaan ondanks die onophoudelijke en schetterende koppen die verklaren dat deze AI of dat AI ofwel bewust of dichtbij genoeg is om als zodanig te worden beschouwd. Malarkey. We zijn niet bij AI-gevoel.

We weten niet hoe we daar moeten komen. We weten niet of het gaat gebeuren. AI-gevoel is een waardevolle droom en ambitie, maar spring niet op het geweer en denk niet dat we op het punt staan ​​het te bereiken.

Natuurlijk waarschuwen velen vurig dat als we er op de een of andere manier in slagen om AI-gevoel tot stand te brengen, of we dat nu opzettelijk doen of puur per ongeluk, we een existentieel risico zullen lopen. In die manier van denken is het misschien niet zo de moeite waard om AI-gevoel te zoeken. Het risico is dat deze bewuste AI zou kunnen bepalen dat mensen het niet waard zijn om in de buurt te hebben. We kunnen platgedrukt worden als een insect. Of slaaf worden van AI. Dit kan gebeuren doordat de AI er openlijk voor kiest om dit te doen, of de AI kan uiteindelijk onze eigen doemscenario-machine worden die ons vernietigt door onze eigen onbekwaamheid. Voor mijn berichtgeving over die verontrustende uitkomsten van AI-gevoel of singulariteit, zie: de link hier.

Een cruciale zorg voor ethische AI ​​is dat de ontwikkelaars van AI en degenen die AI in de praktijk brengen soms mensen aan het denken zetten dat de AI bewust is. De manier waarop de AI zichzelf vertoont, zoals door een robotachtige formulering of door zijn conversatie-interactiviteit, kan mensen verraderlijk aanzetten om aan te nemen dat de AI bewust is. Dit leidt je op zijn beurt naar een potentieel fout primula-pad.

Als je in de mentale val trapt door te denken dat een AI-systeem bewust is, zul je er waarschijnlijk op vertrouwen om dingen te doen die voelende wezens zouden doen. Maar er is nog geen gezond verstand van een mensachtige kwaliteit ingebouwd in de huidige AI. De AI die we momenteel ervaren is extreem broos en oppervlakkig als het gaat om mensachtige capaciteiten. Je zou jezelf in onsmakelijke en gevaarlijke wateren kunnen brengen door te geloven dat een AI-systeem bewust is.

Hoe verhoudt dat zich tot de uncanny valley?

Dit is de deal.

Bedenk dat de griezelige vallei ons lijkt te vertellen dat de menselijke affiniteit geleidelijk zal toenemen naarmate een AI-systeem of een robot steeds dichter bij een mensachtige formulering komt. Op een moment dat het AI-systeem het punt nadert om redelijk dichtbij te zijn, maar toch, niet helemaal daar, krijgen we een griezelig gevoel dat er iets mis is. Tot dan toe wisten we dat AI geen mens was. Nu weten we het niet zeker. Onze menselijke affiniteit neemt af. Pas als de AI of robot volkomen overtuigend is wat betreft mensachtige capaciteiten, herwinnen we onze schijn van affiniteit met het apparaat.

AI-ontwikkelaars die dit ter harte nemen, zouden vermoedelijk opzettelijk streven ernaar om hun AI uit de griezelige vallei te houden, met als doel om tot stilstand te komen in termen van de kenmerken van de AI, net voordat ze in de griezelige afgrond vallen (herinner je, dat is ook wat Masahiro Mori benadrukte). De ontwikkelaars zouden dit blijkbaar doen door ervoor te zorgen dat er nog steeds overvloedige veelbetekenende aanwijzingen bestonden om het nogal duidelijk te maken dat de AI een minder-dan-bewuste AI is en dus geen mens of evenzo.

AI-ethici zouden die oprechte inspanning over het algemeen toejuichen.

De redenering is duidelijk. Degenen die zo geïnformeerd zijn en AI-ontwikkelaars omarmen, proberen ervoor te zorgen dat het AI-systeem mensen niet misleidt om ten onrechte mensachtige faciliteiten aan de AI toe te schrijven. Dat is zeker goed nieuws. De ontwikkelaars zullen met opzet de AI maken om een ​​duik in de griezelige vallei te voorkomen. Mensen zullen snel beseffen dat AI niet bewust is.

Proberen om AI-ontwikkelaars een dergelijke aanpak te laten omarmen, is niet eenvoudig. Het kan inderdaad contra-intuïtief zijn voor hun gebruikelijke instincten en drijvende ambities.

Er worden veel beweringen gedaan dat AI-ontwikkelaars en techneuten over het algemeen worden verteerd door doelen. Ze zien een doel en zullen het vaak blindelings met veel enthousiasme nastreven. Geen tijd om te stoppen en de rozen te ruiken. Op naar de races, we gaan. Op het gebied van AI zou het normatieve doel een geïdealiseerde AI zijn die niet te onderscheiden is van mensen omdat de AI intelligent gelijk in pariteit zou kunnen zijn. Maar we zijn er nog niet. Als zodanig biedt de griezelige vallei een secundair doel, landend voor de anders afdammende griezelige vallei, en wordt het een doel dat desalniettemin acceptabel is. Natuurlijk, het is niet de gouden ring, maar het idee is dat deze "secundaire" prijs prima is, heel erg bedankt, en je kunt er trots op zijn.

We hebben de rampzalige, op het doel nastrevende hoogste ambitie veranderd en omgevormd tot een logisch klinkende beredeneerde basis om als het ware het juiste te doen.

Hoera!

Scoor een overwinning voor AI-ethiek.

Maar wacht even, spoiler alert, er is nog iets anders waar we rekening mee moeten houden.

Nu die slimme AI-ontwikkelaars de griezelige vallei kennen, kunnen ze hun verstand en technische bekwaamheid gebruiken om doelbewust over de afgrond te springen en dit toch doen met een schijn van bedrog in het achterhoofd. Laat de AI er volledig menselijk uitzien en lijken, ook al weten de ontwikkelaars dat dit niet waar is.

Het guitige denken gaat als volgt. Laat uw AI-systeem zijn hoed niet kantelen en ervoor zorgen dat mensen die ongrijpbare onderstroom van griezeligheid krijgen. Accijns de facetten die een hint of aanwijzing kunnen geven dat de AI niet van menselijke capaciteiten is. Doe dit terwijl je je in het geheim realiseert en onvergeeflijk weet dat de AI niet van menselijke capaciteiten is en het gaat erom die waarheid te verbergen voor degenen die interactie hebben met of afhankelijk zijn van de AI.

Wat een duivelse plannen.

Ironisch genoeg zou de griezelige vallei een soort wake-up call kunnen zijn voor AI-ontwikkelaars dat als ze mensen echt voor de gek willen houden, ze slim genoeg moeten zijn om aan de afgrond te ontsnappen. Ze doen dit niet door volledige AI te bereiken, maar door rook en spiegels op te richten om de AI misleidend te laten lijken alsof het menselijk is. Als de AI-ontwikkelaars zich niet hadden gerealiseerd dat deze griezelige vallei bestaat, zouden ze er grotendeels in zijn gevallen. Dat is goed voor de mensheid, omdat mensen dus hun affiniteit met AI zouden verliezen in termen van niet te veel vertrouwen op de huidige kwaliteit van AI.

Helaas, door te weten dat de valstrik bestaat, zullen AI-ontwikkelaars die er omheen willen sluipen, verderfelijke slimme manieren vinden om dit te doen.

Scoor een hit tegen de voorschriften van ethische AI.

Zie je hoe dit een haat-liefdeverhouding creëert voor AI-ethici over de griezelige vallei?

Verdorie als je het doet, verdorie als je het niet doet.

Ik realiseer me dat dit een ietwat hoogdravend onderzoek is geweest naar de griezelige vallei en dat je misschien hunkert naar enkele dagelijkse voorbeelden. Er is een bijzondere en zeker populaire reeks voorbeelden die mij na aan het hart liggen. Zie je, in mijn hoedanigheid van expert op het gebied van AI, inclusief de ethische en juridische gevolgen, word ik vaak gevraagd om realistische voorbeelden te identificeren die AI-ethische dilemma's demonstreren, zodat de enigszins theoretische aard van het onderwerp gemakkelijker kan worden begrepen. Een van de meest tot de verbeelding sprekende gebieden die dit ethische AI-vraagstuk levendig presenteert, is de komst van op AI gebaseerde echte zelfrijdende auto's. Dit zal dienen als een handig gebruiksvoorbeeld of voorbeeld voor een uitgebreide discussie over het onderwerp.

Hier is dan een opmerkelijke vraag die het overwegen waard is: Verlicht de komst van op AI gebaseerde echte zelfrijdende auto's iets over de griezelige vallei, en zo ja, wat vertelt dit ons om te doen?

Sta me toe om de vraag even uit te klaren.

Merk allereerst op dat er geen menselijke bestuurder betrokken is bij een echte zelfrijdende auto. Houd er rekening mee dat echte zelfrijdende auto's worden bestuurd via een AI-aandrijfsysteem. Er is geen behoefte aan een menselijke bestuurder aan het stuur, noch is er een voorziening voor een mens om het voertuig te besturen. Voor mijn uitgebreide en doorlopende berichtgeving over autonome voertuigen (AV's) en vooral zelfrijdende auto's, zie: de link hier.

Ik wil graag verder verduidelijken wat wordt bedoeld met echte zelfrijdende auto's.

Inzicht in de niveaus van zelfrijdende auto's

Ter verduidelijking: echt zelfrijdende auto's zijn auto's waarvan de AI de auto volledig alleen bestuurt en dat er geen menselijke assistentie is tijdens de rijtaak.

Deze zelfrijdende voertuigen worden beschouwd als niveau 4 en niveau 5 (zie mijn uitleg op deze link hier), terwijl een auto waarvoor een menselijke bestuurder nodig is om de rij-inspanning samen te delen, meestal wordt beschouwd op niveau 2 of niveau 3. De auto's die de rijtaak delen, worden beschreven als semi-autonoom en bevatten doorgaans een verscheidenheid aan geautomatiseerde add-ons die ADAS (Advanced Driver-Assistance Systems) worden genoemd.

Er is nog geen echte zelfrijdende auto op niveau 5, waarvan we nog niet eens weten of dit mogelijk zal zijn en hoe lang het duurt om daar te komen.

Ondertussen proberen de inspanningen van niveau 4 geleidelijk wat grip te krijgen door zeer smalle en selectieve proeven op de openbare weg te ondergaan, hoewel er controverse is over de vraag of dit testen per se zou moeten worden toegestaan ​​(we zijn allemaal proefkonijnen op leven of dood in een experiment). die plaatsvinden op onze snelwegen en zijwegen, beweren sommigen, zie mijn berichtgeving op deze link hier).

Aangezien semi-autonome auto's een menselijke bestuurder nodig hebben, zal de adoptie van dat soort auto's niet veel anders zijn dan het besturen van conventionele voertuigen, dus er is op zich niet veel nieuws om erover te praten over dit onderwerp (hoewel, zoals je zult zien in een oogwenk zijn de volgende punten algemeen toepasbaar).

Voor semi-autonome auto's is het belangrijk dat het publiek wordt gewaarschuwd voor een verontrustend aspect dat de laatste tijd naar voren komt, namelijk dat ondanks de menselijke chauffeurs die video's blijven plaatsen van zichzelf die in slaap vallen achter het stuur van een auto van niveau 2 of niveau 3 , we moeten allemaal voorkomen dat we worden misleid door te geloven dat de bestuurder zijn aandacht kan afleiden van de rijtaak terwijl hij in een semi-autonome auto rijdt.

U bent de verantwoordelijke voor de rijacties van het voertuig, ongeacht hoeveel automatisering er in een niveau 2 of niveau 3 kan worden gegooid.

Zelfrijdende auto's en de Uncanny Valley

Voor echte zelfrijdende voertuigen van niveau 4 en niveau 5 zal er geen menselijke bestuurder bij de rijtaak betrokken zijn.

Alle inzittenden zijn passagiers.

De AI doet het rijden.

Een aspect dat meteen moet worden besproken, is het feit dat de AI die betrokken is bij de huidige AI-rijsystemen niet bewust is. Met andere woorden, de AI is helemaal een collectief van computergebaseerde programmering en algoritmen, en zeer zeker niet in staat om op dezelfde manier te redeneren als mensen.

Waarom wordt deze extra nadruk gelegd op het feit dat de AI niet bewust is?

Omdat ik wil onderstrepen dat ik bij het bespreken van de rol van het AI-rijsysteem geen menselijke kwaliteiten aan de AI toeschrijf. Houd er rekening mee dat er tegenwoordig een voortdurende en gevaarlijke tendens is om AI te antropomorfiseren. In wezen kennen mensen een menselijk gevoel toe aan de huidige AI, ondanks het onmiskenbare en onbetwistbare feit dat een dergelijke AI nog niet bestaat.

Met die verduidelijking kun je je voorstellen dat het AI-aandrijfsysteem op de een of andere manier de facetten van autorijden niet kent. Rijden en alles wat daarbij komt kijken zal geprogrammeerd moeten worden als onderdeel van de hardware en software van de zelfrijdende auto.

Laten we eens kijken naar de talloze aspecten die over dit onderwerp spelen.

Ten eerste is het belangrijk om te beseffen dat niet alle AI-zelfrijdende auto's hetzelfde zijn. Elke autofabrikant en zelfrijdend technologiebedrijf kiest zijn benadering voor het ontwerpen van zelfrijdende auto's. Als zodanig is het moeilijk om ingrijpende uitspraken te doen over wat AI-aandrijfsystemen wel of niet zullen doen.

Bovendien, telkens wanneer wordt beweerd dat een AI-aandrijfsysteem iets bepaalds niet doet, kan dit later worden ingehaald door ontwikkelaars die de computer in feite programmeren om datzelfde te doen. Stap voor stap worden AI-aandrijfsystemen geleidelijk verbeterd en uitgebreid. Een bestaande beperking van vandaag bestaat mogelijk niet meer in een toekomstige iteratie of versie van het systeem.

Ik vertrouw erop dat dit een voldoende litanie van waarschuwingen biedt om ten grondslag te liggen aan wat ik ga vertellen.

We zijn nu klaar om een ​​diepe duik te maken in zelfrijdende auto's en ethische AI-vragen die de griezelige vallei met zich meebrengen.

Er zijn vier aspecten met betrekking tot deze kwestie die hierin worden behandeld:

1. Het algehele uiterlijk van zelfrijdende auto's

2. De vraag waar zelfrijdende auto's "kijken"

3. AI-aandrijfacties van zelfrijdende auto's

4. Robots die rijden als middel om zelfrijdende auto's te bereiken

Extra facetten zijn ook levensvatbaar inbegrepen, maar vanwege ruimtegebrek zullen deze vier onderwerpen voldoende zijn om de peiling van de griezelige vallei te belichten met betrekking tot op AI gebaseerde zelfrijdende auto's.

1. Algehele uitstraling van zelfrijdende auto's

Ik wed dat je foto's of video's hebt gezien van de tests van vandaag met zelfrijdende auto's. Als zodanig is het u misschien opgevallen dat de meeste voertuigen conventioneel ogende auto's zijn die zijn uitgerust met extra gespecialiseerde apparatuur. Er kan bijvoorbeeld een rek op het dak zijn dat een hele reeks elektronische sensoren bevat. De sensoren omvatten soms videocamera's, radareenheden, LIDAR-apparaten, ultrasone sensoren en dergelijke.

Futuristische ontwerpen hebben de neiging om te suggereren dat we zouden kunnen afwijken van de conventioneel ogende auto om in plaats daarvan auto's aan zowel het interieur als het exterieur te herontwerpen tot meer gelikte autonome voertuigen. Op dit moment is de algemene gedachte dat het eenvoudiger is om conventionele auto's te gebruiken en geen energie te verspillen aan het proberen om het streven te verlengen door tegelijkertijd te sleutelen aan onconventioneel ogende auto's (er zijn enkele uitzonderingen op dit algemene gezichtspunt, zie mijn bericht op de link hier).

De essentie is nu dat als je op de rijbaan rijdt en een zelfrijdende auto in de buurt tegenkomt, je bijna altijd onmiddellijk kunt zien dat het waarschijnlijk een zelfrijdende auto is door alleen maar een paar sensoren op te merken die op het autonome voertuig zijn gemonteerd. Dit is een snelle visuele weggeefactie. Natuurlijk weet je niet zeker of het op zich zelfrijdend is, aangezien de bedieningselementen op dit moment meestal nog intact zijn en een menselijke back-upbestuurder aan het stuur kan zitten.

In één manier van denken kun je suggereren dat het vooral handig is dat zelfrijdende auto's fysiek lijken op te vallen en gemakkelijk visueel worden opgemerkt door menselijke bestuurders in door mensen bestuurde auto's in de buurt en ook door voetgangers in de buurt. Het besef dat er een zelfrijdende auto in de buurt ronddwaalt, kan een handige aanwijzing zijn om op je hoede te zijn, waardoor je waakzaam en bedachtzaam moet zijn dat de AI het voertuig bestuurt of zou kunnen besturen.

Stel dat zelfrijdende auto's er identiek uitzagen als een conventionele door mensen aangedreven auto. Dit is realistisch haalbaar op ten minste twee manieren. Ten eerste kunnen de sensoren mogelijk worden verborgen of zo gevormd dat ze niet zo voor de hand liggend zijn voor een toevallige visuele inspectie. Ten tweede kan het zijn dat alle auto's, inclusief conventionele door mensen aangedreven auto's, geleidelijk worden uitgerust met soortgelijke sensoren, zelfs als het voertuig desalniettemin een overwegend door mensen aangedreven auto zal blijven. Zie mijn verdere berichtgeving op deze link hier.

Als je goed nadenkt over de vraag of zelfrijdende auto's qua uiterlijk identiek kunnen of moeten zijn aan conventionele door mensen aangedreven auto's, zou je kunnen denken dat er een griezelige vallei op de loer ligt in deze stoofpot.

Zie je, auto's die er overduidelijk uitzien als zelfrijdende auto's, kunnen worden getypeerd als zijnde op een kruispunt net voor de griezelige vallei. Kortom, je "weet" dat het een robot of een soort robotachtig systeem is. Dat is een oordeel waar je bijna meteen op kunt springen.

Wanneer zelfrijdende auto's er identiek uitzien als door mensen aangedreven auto's, suggereert dit misschien dat de autonome voertuigen voorbij de griezelige vallei zijn gesprongen wat betreft hun robotachtige uiterlijk. Is er echter een middenweg tussen die twee fysieke verschijningsvormen die ons in de griezelige vallei brengt?

Misschien zie je een zelfrijdende auto over straat komen en lijkt het alsof het een zelfrijdende auto is, aan de andere kant is het uiterlijk niet strikt autonoom of strikt door mensen aangedreven. Je zou kunnen stellen dat de zelfrijdende auto er nu griezelig of verontrustend uitziet.

De zelfrijdende auto is zogenaamd ondergedompeld in de griezelige vallei.

Dat gezegd hebbende, zou niet iedereen het eens zijn met die indeling. Sommigen zouden beweren dat de fysieke uitstraling niets te maken heeft met de griezelige vallei. Sommigen beweren natuurlijk ook dat er niet echt iets is dat bekend staat als de griezelige vallei.

Zoals eerder vermeld, bent u van harte welkom om hier uw eigen beslissing over te nemen.

2. Vraag waar zelfrijdende auto's naar zoeken

Een dreigende zorg die velen hebben over zelfrijdende auto's, is dat ze meestal geen menselijke bestuurder in de bestuurdersstoel hebben en daarom is het moeilijk om erachter te komen waar 'de bestuurder' naar kijkt terwijl hij in de auto rijdt.

Normaal gesproken kijk je naar menselijke chauffeurs om te spioneren waar ze kijken. U bent bijvoorbeeld een voetganger op een zebrapad en er nadert een auto de oversteekplaats. Je kijkt aandachtig naar de persoon die op de bestuurdersstoel zit en probeert te onderscheiden waar hun hoofd is gedraaid en waar hun ogen kijken. Als u denkt dat de menselijke bestuurder u heeft gezien, voelt u zich misschien meer op uw gemak bij het oversteken van de straat. Als de menselijke bestuurder u daarentegen niet lijkt te zien, maakt u zich terecht zorgen over het oversteken.

In sommige steden is er een soort kat-en-muisspel over deze aspecten. Een bepaalde culturele norm in een bepaalde stad zou kunnen zijn dat als je oogcontact maakt met een bestuurder, de bestuurder "wint" en zij het schijnbare recht hebben om door te rijden, ongeacht de wettigheid van de rijsituatie. Andere steden zijn misschien helemaal het tegenovergestelde, namelijk dat de culturele norm is dat wanneer oogcontact wordt gemaakt de voetganger "wint" en dat de menselijke bestuurder geacht wordt de acties van de voetganger uit te stellen.

We lijken deze gewoonte te hebben overgenomen gedurende de relatief lange tijd dat auto's in het midden van onze steden en gemeenschappen staan. Het probleem met de komst van zelfrijdende auto's is dat er geen menselijke bestuurder in de bestuurdersstoel zit en dat dus elke voetganger of menselijke bestuurder in de buurt die normaal het hoofd en de ogen van automobilisten gebruikt als culturele indicator van de rij-intentie, nu is geen geluk hebben.

Autofabrikanten en ontwikkelaars van zelfrijdende auto's zijn zich terdege bewust van dit opkomende probleem. Een voorgestelde oplossing bestaat erin dat de zelfrijdende auto de koplampen van het autonome voertuig laat knipperen of mogelijk toetert. Een ander idee is dat de zelfrijdende auto mogelijk een variant van een luidspreker heeft en omstanders vertelt wat de "bedoelingen" van het AI-aandrijfsysteem zijn. Die ideeën hebben elk belangrijke nadelen.

Maar een ander voorstel houdt in dat je iets doet waarvan je in eerste instantie zou denken dat het belachelijk is. Het voorstel bestaat uit het plaatsen van oogbolachtige lichtbollen aan de buitenkant van het autonome voertuig. Deze lichtbollen zouden er ongeveer uitzien als menselijke ogen in de schijn dat ze heen en weer kunnen draaien, wat je een onmiddellijke indicatie geeft dat suggereert dat de AI je "heeft gezien" (je zou dit interpreteren door de oogbollen die in jouw specifieke richting kijken). Ik heb deze aanpak geanalyseerd op: de link hier.

Wat zou je reactie zijn als je een zelfrijdende auto over de rijbaan ziet komen rijden en deze buitenmaatse, excentrieke oogbol-achtige bollen op de motorkap of op het dak zijn gemonteerd?

Ik neem aan dat je het misschien griezelig, misschien griezelig vindt.

Sommigen zouden suggereren dat de griezeligheid voortkomt uit de als uitgeruste zelfrijdende auto die zich in de griezelige vallei bevindt. Anderen zouden heftig beweren dat dit niets te maken heeft met de griezelige vallei. Van deze experts zouden sommigen zeggen dat er iets griezeligs is dat griezelig kan zijn zonder dat je verankerd hoeft te zijn in de griezelige vallei (dwz de griezelige vallei produceert schijnbaar altijd griezeligheid, maar niet alle griezeligheid wordt alleen geproduceerd via de griezelige vallei). De andere invalshoek is dat de bollen vermoedelijk ontworpen zouden kunnen worden om minder op de ogen te lijken en meer robotachtig lijken, of dat we allemaal onvermijdelijk het uiterlijk van deze bollen zullen accepteren en de eerste verrassende reactie zal verdwijnen.

3. AI-aandrijfacties van zelfrijdende auto's

Veel van de huidige tests van zelfrijdende auto's hebben aangetoond dat de bestaande AI-aandrijfsystemen meestal zijn geprogrammeerd om op nogal lauwe en enigszins strikt nalevende wettelijke manieren te rijden. Het AI-aandrijfsysteem brengt de zelfrijdende auto doorgaans tot stilstand bij stopborden. Het AI-aandrijfsysteem doet geen gedurfde runs over kruispunten als het stoplicht op rood staat. Deze eigenzinnige rijpraktijken zijn het domein van menselijke chauffeurs.

Je zou bij wijze van spreken bijna kunnen raden dat een zelfrijdende auto een zelfrijdende auto is door de rijstijl die hij vertoont. Zelfs als het autonome voertuig visueel een conventionele, door mensen aangedreven auto lijkt te zijn, zou je de rij-acties kunnen observeren en misschien logischerwijs kunnen concluderen dat het waarschijnlijk wordt bestuurd door een AI-systeem.

Sommigen zijn van mening dat we AI-rijsystemen moeten maken die meer lijken op de capriolen van menselijke bestuurders, zodat ze effectief opgaan in de normatieve benaderingen van autorijden. Ik veronderstel dat je dit zou kunnen opvatten als vuur met vuur bestrijden.

Heeft dat zin om te doen?

Houd er rekening mee dat uitgesproken sceptici en critici het idee verafschuwen. Ze zouden krachtig beweren dat we willen dat AI-aandrijfsystemen correct en behoedzaam rijden. Het lijkt een enorme nachtmerrie om potentieel miljoenen zelfrijdende auto's aan de wegen toe te voegen die zijn geprogrammeerd om te lijken op dwalende menselijke bestuurders. Ik heb dit controversiële voorstel besproken op de link hier.

Laten we het dilemma herschikken door gebruik te maken van de griezelige vallei.

Wanneer het AI-aandrijfsysteem strikt legaal is door zijn rijgedrag, is dit misschien een veelbetekenende aanwijzing dat het waarschijnlijk een robotsysteem is (ondanks dat menselijke bestuurders dit doen, hoewel ze in de wereld van vandaag ver en weinig lijken). Als AI-aandrijfsystemen net zo eigenzinnig moeten rijden als menselijke bestuurders, springt dit dan over de griezelige vallei of valt deze in de griezelige vallei?

Denk erover na.

4. Robots die rijden als een middel om zelfrijdende auto's te bereiken

Dit laatste item voor dekking is het meest verrassende van deze vier.

Je weet misschien helemaal niet dat sommige AI-ontwikkelaars robots proberen te maken die auto's kunnen besturen. De robot zou in verschillende opzichten op een mens lijken, met robotbenen en robotarmen als ledematen. Als je wilt dat een conventionele, door mensen aangedreven auto een zelfrijdende auto wordt, zet je deze gespecialiseerde AI-rijdende robot gewoon in de bestuurdersstoel van je auto. Zie mijn analyse van dit begrip op de link hier.

Waarom zouden we robots willen besturen?

Het mooie van zo'n robot is dat alle door mensen aangedreven auto's van vandaag, bij wijze van interpretatie, bijna van de ene op de andere dag zelfrijdende auto's kunnen worden. Je koopt, leaset of schaf je op de een of andere manier een rijdende robot aan. Je zet de robot op de bestuurdersstoel als je op reis gaat. De robot rijdt je naar je bestemming. Als u wilt overschakelen op rijden door mensen, haalt u de robot uit het voertuig en bergt u hem misschien op in de kofferbak voor later gebruik.

Er zijn momenteel ongeveer 250 miljoen conventionele auto's in de Verenigde Staten. Sommigen geloven dat die uiteindelijk zullen worden weggegooid als zelfrijdende auto's ontstaan. In plaats van die conventionele auto's te vernielen, kunnen we misschien proberen ze om te bouwen tot zelfrijdende auto's, hoewel dit mogelijk een vrij duur idee is. De schijnbaar voorzichtigere benadering zou zijn om rijdende robots beschikbaar te stellen.

Als je een conventioneel ogende auto door je straat in de buurt zou zien komen en een robot aan het stuur had, wat zou dan je reactie zijn?

Waarschijnlijk griezeligheid.

Een weliswaar betwistbare bewering is dat deze griezeligheid te wijten is aan het feit dat de robot die een conventionele auto bestuurt, naar beneden duikt in de beroemde of beruchte griezelige vallei.

Conclusie

Vanuit een ethisch AI-perspectief vormt de griezelige vallei een intrigerend raadsel.

Er zijn sommigen in AI die volledig geloven in de griezelige vallei en sommigen die dat niet doen. Maar of je nu gelooft in de griezelige vallei of dat niet doet, niettemin wordt het onderwerp zelf rondgestrooid. Je kunt je hoofd niet verbergen en doen alsof de constructie op zich niet bestaat. De constructie als een idee leeft en is in zekere zin viraal krachtig. Haat het of hou ervan, het verdomde of misschien verheven onderwerp blijft bestaan.

Volgens mijn eerdere verhandeling over de verdiensten van de griezelige vallei vanuit de ethiek van de AI-hoek, is er een duellerende liefde- en haatrelatie. Moeten degenen in het ethische AI-rijk de griezelige vallei omarmen, of de griezelige vallei summier afwijzen, of enigszins neutraal blijven over de waarachtigheid en zich in plaats daarvan concentreren op de impact die ontstaat als gevolg van de aanhoudende uiteenlopende opvattingen erover.

Deze uitdaging brengt de vooraanstaande econoom Adam Smith naar voren, zoals hij ooit zei (parafraserend) dat je op de weg van de City of Scepticism door de Valley of Ambiguity moet gaan.