AI-ethiek die hartstochtelijk vecht voor uw wettelijke recht om een ​​uitzondering te zijn

Ze zeggen dat er op elke regel een uitzondering is.

Het probleem is echter dat vaak de vaste regel prevaleert en er weinig of geen ruimte is om een ​​uitzondering te erkennen of te koesteren. Het gemiddelde geval wordt gebruikt ondanks de schrille mogelijkheid dat een uitzondering op de voorgrond staat. Een uitzondering krijgt geen zendtijd. Het krijgt geen kans om goed in overweging te worden genomen.

Ik weet zeker dat je moet weten waar ik het over heb.

Heeft u ooit geprobeerd om een ​​soort van geïndividualiseerde klantenservice te krijgen waarbij u gedachteloos werd behandeld zonder enig onderscheid voor uw specifieke geval en uw specifieke behoeften?

Dit is je ongetwijfeld overkomen, waarschijnlijk ontelbare keren.

Ik ga je meenemen in een verontrustende trend die ontstaat over hoe kunstmatige intelligentie (AI) meedogenloos wordt bedacht om alles in het one size fits all-paradigma te forceren.

Uitzonderingen worden ofwel niet gedetecteerd of ervoor gekozen om uit vorm te worden gebogen alsof het helemaal geen uitzonderingen zijn. De stokende basis hiervoor is mede te danken aan de opkomst van Machine Learning (ML) en Deep Learning (DL). Zoals je binnenkort zult zien, is ML/DL een vorm van computationele patroonvergelijking, die 'gemakkelijker' is om te ontwikkelen en in te zetten als je bereid bent uitzonderingen te negeren of te omzeilen. Dit is zeer problematisch en roept zeer opmerkelijke zorgen op het gebied van AI-ethiek op. Voor mijn algemene, doorlopende en uitgebreide verslaggeving over AI-ethiek en ethische AI, zie: de link hier en de link hier, om er een paar te noemen.

Dingen hoeven niet zo te zijn en weet dat dit wordt aangewakkerd door degenen die AI maken en inzetten door ervoor te kiezen de behandeling van uitzonderingen binnen hun AI-brouwsels te negeren of te bagatelliseren.

Wanneer uitzonderingen regel

Laten we eerst eens kijken naar de aard van het gemiddelde geval versus het realiseren van uitzonderingen.

Mijn favoriete voorbeeld van dit soort dogpiling of myopisch gemiddelde-case no-exceptions-benadering wordt levendig verlicht door bijna elke aflevering van de veelgeprezen en nog steeds vrij immens populaire tv-serie die bekend staat als House, MD (meestal gewoon uitgedrukt als Huis, die liep van 2004 tot 2012 en vandaag kan worden bekeken op sociale media en andere media). De show omvatte een fictief personage genaamd Dr. Gregory House dat nors, onuitstaanbaar en behoorlijk onconventioneel was, maar toch werd hij afgeschilderd als een medisch genie dat de meest obscure ziekten en kwalen kon opsporen. Andere artsen en zelfs patiënten mochten hem misschien niet per se aardig vinden, maar hij heeft de klus geklaard.

Hier is hoe een typische aflevering zich afspeelde (algemene spoilerwaarschuwing!).

Een patiënt verschijnt in het ziekenhuis waar Dr. House op het personeel is. De patiënt vertoont aanvankelijk enigszins algemene symptomen en verschillende andere artsen proberen om de beurt de patiënt te diagnosticeren en te genezen. Het vreemde is dat de pogingen om de patiënt te helpen de ongunstige omstandigheden niet verbeteren of erger nog, averechts werken. De patiënt wordt slechter en slechter.

Omdat de patiënt nu wordt gezien als een soort medische curiositeit, en omdat niemand anders kan achterhalen waar de patiënt aan lijdt, wordt Dr. House in de zaak betrokken. Dit wordt soms met opzet gedaan om gebruik te maken van zijn medische bekwaamheid, terwijl hij in andere gevallen over de zaak hoort en zijn aangeboren instincten hem naar de ongebruikelijke omstandigheden trekken.

Geleidelijk aan komen we erachter dat de patiënt een uiterst zeldzame aandoening heeft. Alleen Dr. House en zijn team van medische stagiaires kunnen dit achterhalen.

Nu ik de belangrijkste verhaallijn van de afleveringen met u heb gedeeld, laten we een duik nemen in de geleerde lessen die de aard van het gemiddelde versus uitzonderingen illustreren.

De fictieve verhalen zijn ontworpen om te laten zien hoe inside-the-box denken soms de plank mis kan slaan. Alle andere artsen die in eerste instantie proberen de patiënt te helpen, zijn vertroebeld in hun denkprocessen. Ze willen de symptomen forceren en facetten presenteren in een conventionele medische diagnose. De patiënt is slechts een van de velen die ze vermoedelijk eerder hebben gezien. Onderzoek de patiënt en schrijf vervolgens dezelfde behandelingen en medische oplossingen voor die ze tijdens hun medische loopbaan herhaaldelijk hebben gebruikt.

Wassen, spoelen, herhalen.

In zekere zin kun je deze benadering rechtvaardigen. De kans is groot dat de meeste patiënten de meest voorkomende aandoeningen hebben. Dag na dag stuiten deze artsen op dezelfde medische problemen. Je zou kunnen stellen dat de patiënten die het ziekenhuis binnenkomen, zich echt op een medische lopende band bevinden. Ze volgen allemaal de gestandaardiseerde protocollen van het ziekenhuis alsof ze deel uitmaken van een productiefaciliteit of assemblagefabriek.

Het gemiddelde geval prevaleert. Dit is niet alleen in het algemeen geschikt, maar het stelt het ziekenhuis en de medische staf ook in staat om hun medische diensten dienovereenkomstig te optimaliseren. De kosten kunnen worden verlaagd wanneer u de medische processen ontwerpt om het gemiddelde geval aan te pakken. Er is een vrij beroemd advies dat vaak in de geest van medische studenten wordt getrommeld, namelijk dat als je hoefgeluiden van de straat hoort, de kans groot is dat je aan een paard moet denken in plaats van aan een zebra.

Efficiënt, productief, effectief.

Tot er een uitzondering in het midden sluipt.

Misschien is er een zebra uit de dierentuin ontsnapt en door je straat gelopen.

Betekent dit dat uitzonderingen de regel moeten zijn en dat we de regel van het gemiddelde opzij moeten zetten in plaats van ons uitsluitend op uitzonderingen te concentreren?

Het zou moeilijk zijn om te beweren dat al onze dagelijkse ontmoetingen en diensten gericht moeten zijn op uitzonderingen in plaats van op het gemiddelde.

Merk op dat ik zo'n suggestie niet doe. Wat ik beweer is dat we ervoor moeten zorgen dat uitzonderingen mogen voorkomen en dat we moeten erkennen wanneer zich uitzonderingen voordoen. Ik noem dit omdat sommige experts de neiging hebben om luid te verkondigen dat als je een voorstander bent van het erkennen van uitzonderingen, je er dus tegen moet zijn om te bedenken voor het gemiddelde geval.

Dat is een valse tweedeling.

Val er niet voor.

We kunnen onze cake hebben en ook opeten.

Het pleit voor een recht om een ​​uitzondering te zijn

Ik zal nu misschien een beetje een schok geven die dit alles relateert aan het ontluikende gebruik van AI.

AI-systemen worden steeds vaker gemaakt om zich te concentreren op het gemiddelde geval, vaak met uitsluiting of nadeel van het herkennen van uitzonderingen.

Het zal je misschien verbazen dat dit gebeurt. De meesten van ons zouden aannemen dat, aangezien AI een vorm van computerautomatisering is, het mooie van het automatiseren van dingen is dat je meestal uitzonderingen kunt opnemen. Dit kan meestal tegen lagere kosten worden gedaan dan wanneer u menselijke arbeid zou gebruiken om een ​​soortgelijke dienst uit te voeren. Met menselijke arbeid kan het kostbaar of onbetaalbaar zijn om allerlei soorten arbeid beschikbaar te hebben die uitzonderingen aankunnen. Dingen zijn een stuk eenvoudiger te beheren en in te voeren als u ervan kunt uitgaan dat uw klanten of klanten allemaal van het gemiddelde kaliber zijn. Maar het gebruik van geautomatiseerde systemen wordt verondersteld uitzonderingen te accommoderen, gemakkelijk. In die manier van denken zouden we uitbundig moeten juichen voor meer geautomatiseerde mogelijkheden die op de voorgrond komen.

Beschouw dit als een verbijsterend raadsel en neem even de tijd om na te denken over deze lastige vraag: Hoe kan AI, waarvan anders wordt aangenomen dat het de beste automatisering is, schijnbaar onverbiddelijk het routineuze en uitzonderlijke pad bewandelen waarvan we ironisch of onverwachts dachten dat het precies de tegenovergestelde richting zou gaan?

Antwoord: Machine Learning en Deep Learning brengen ons echter naar een uitzonderlijk bestaan niet omdat we die weg verplicht moeten inslaan (wij kunnen het beter).

Laten we dit uitpakken.

Stel dat we besluiten om met Machine Learning AI te bedenken waarmee medische diagnoses kunnen worden gesteld. We verzamelen een heleboel historische gegevens over patiënten en hun medische omstandigheden. De ML/DL die we hebben opgezet, probeert een computationele patroonvergelijking uit te voeren die symptomen van patiënten zal onderzoeken en een verwachte aandoening geassocieerd met die symptomen zal weergeven.

Op basis van de ingevoerde gegevens stelt de ML/DL wiskundig vast dat symptomen zoals een loopneus, keelpijn, hoofdpijn en pijn allemaal sterk geassocieerd zijn met verkoudheid. Een ziekenhuis kiest ervoor om deze AI in te zetten voor pre-screening van patiënten. En ja hoor, patiënten die deze symptomen melden wanneer ze voor het eerst naar het ziekenhuis komen, worden "gediagnosticeerd" als waarschijnlijk verkoudheid.

Schakelen, laten we een Dr. House-achtige draai aan dit alles toevoegen.

Een patiënt komt naar het ziekenhuis en wordt gediagnosticeerd door de AI. De AI geeft aan dat de patiënt een verkoudheid lijkt te hebben op basis van de symptomen van loopneus, keelpijn en hoofdpijn. De patiënt krijgt ogenschijnlijk geschikte recepten en medisch advies voor het omgaan met een verkoudheid. Dit maakt allemaal deel uit van de gemiddelde-case-benadering die wordt gebruikt bij het ontwerpen van AI.

Blijkt dat de patiënt deze symptomen uiteindelijk enkele maanden heeft. Een expert op het gebied van zeldzame ziekten en aandoeningen realiseert zich dat dezelfde symptomen een afspiegeling kunnen zijn van een lekkage van cerebrospinale vloeistof (CSF). De deskundige behandelt de patiënt met verschillende chirurgische procedures die verband houden met dergelijke lekken. De patiënt herstelt (trouwens, dit opmerkelijke verhaal over een patiënt met een CSF-lek waarbij aanvankelijk de diagnose verkoudheid werd gesteld, is losjes gebaseerd op een echt medisch geval).

We zullen nu op onze stappen terugkeren in deze medische saga.

Waarom kon de AI die de intake pre-screening deed niet beoordelen of de patiënt deze zeldzame aandoening zou kunnen hebben?

Eén antwoord is dat als de trainingsgegevens die worden gebruikt voor het maken van de ML/DL dergelijke instanties niet zouden bevatten, er niets zou zijn waarop de computationele patroonafstemming zou kunnen passen. Bij gebrek aan gegevens over uitzonderingen op de regel, zal de algemene regel of het gemiddelde geval zelf als schijnbaar onberispelijk worden beschouwd en zonder enige aarzeling worden toegepast.

Een andere mogelijkheid is dat er bijvoorbeeld een exemplaar van dit zeldzame CSF-lek in de historische gegevens was, maar het was slechts één specifiek geval en in die zin een uitbijter. De rest van de gegevens lagen allemaal wiskundig dicht bij het vastgestelde gemiddelde. De vraag rijst dan wat te doen met de zogenaamde uitbijter.

Houd er rekening mee dat het omgaan met deze uitschieters een zaak is die enorm verschilt in hoe AI-ontwikkelaars zouden kunnen beslissen om het hoofd te bieden aan het verschijnen van iets buiten het vastgestelde gemiddelde. Er is geen vereiste aanpak die AI-ontwikkelaars moeten volgen. Het is een beetje een wilde westen over wat een bepaalde AI-ontwikkelaar zou kunnen doen in een bepaald uitzonderingsverhogend geval van hun ML/DL-ontwikkelingsinspanningen.

Hier is mijn lijst met de manieren waarop deze uitzonderingen vaak voorkomen: ongepast afgehandeld:

• Uitzondering aangenomen als een fout
• Uitzondering aangenomen als onwaardig
• Uitzondering aangenomen als instelbaar in de "norm"
• Uitzondering helemaal niet opgemerkt
• Uitzondering opgemerkt maar summier genegeerd
• Uitzondering opgemerkt en later vergeten
• Uitzondering opgemerkt en aan het zicht onttrokken
• Enz.

Een AI-ontwikkelaar zou kunnen besluiten dat de zeldzaamheid niets meer is dan een fout in de gegevens. Dit lijkt misschien vreemd dat iemand zo zou denken, vooral als je het probeert te vermenselijken door je bijvoorbeeld voor te stellen dat de patiënt met het CSF-lek dat ene geval is. Er is echter een sterke verleiding dat als al uw niet-contextuele gegevens in feite één ding zeggen, misschien bestaande uit duizenden en duizenden records en ze allemaal convergeren naar een gemiddeld geval, het voorkomen van één vreemd stukje gegevens kan gemakkelijk (lui!) worden opgevat als een regelrechte fout. De "fout" kan dan worden weggegooid door de AI-ontwikkelaar en niet worden beschouwd als binnen het domein van waar de ML/DL op wordt getraind.

Een andere manier om met een uitzondering om te gaan, is te besluiten dat het een onwaardige zaak is. Waarom zou u zich druk maken over één zeldzaamheid als u zich misschien haast om een ​​ML/DL aan de gang te krijgen? Gooi de uitbijter weg en ga verder. Geen enkele gedachte gaat noodzakelijkerwijs naar de gevolgen op de weg.

Nog een andere benadering omvat het vouwen van de uitzondering in de rest van het milieu van het gemiddelde geval. De AI-ontwikkelaar past de gegevens aan om binnen de rest van de norm te passen. Ook bestaat de kans dat de AI-ontwikkelaar niet merkt dat de uitzondering bestaat.

De ML/DL kan melden dat de uitzondering is gedetecteerd, waarna de AI-ontwikkelaar de ML/DL moet instrueren hoe de uitbijter wiskundig moet worden afgehandeld. De AI-ontwikkelaar kan dit op een takenlijst zetten en er later niet meer mee omgaan of er gewoon voor kiezen het te negeren, enzovoort.

Al met al is het detecteren en oplossen van het omgaan met uitzonderingen als het gaat om AI zonder enige specifiek voorgeschreven of dwingend evenwichtige en beredeneerde aanpak op zich. Uitzonderingen worden vaak behandeld als onwaardige verschoppelingen en het gemiddelde is de overheersende winnaar. Omgaan met uitzonderingen is moeilijk, kan tijdrovend zijn, vereist een schijn van behendige AI-ontwikkelingsvaardigheden, en anders is het een gedoe in vergelijking met het op één hoop gooien van dingen in een handige vlinderdas van een one-size-fits-all-pakket.

Tot op zekere hoogte is dat de reden waarom AI Ethics en Ethical AI zo'n cruciaal onderwerp is. De voorschriften van AI Ethics zorgen ervoor dat we waakzaam blijven. AI-technologen kunnen soms in beslag worden genomen door technologie, met name de optimalisatie van hightech. Ze houden niet per se rekening met de grotere maatschappelijke gevolgen.

Naast het gebruik van AI-ethische voorschriften in het algemeen, is er een overeenkomstige vraag of we wetten moeten hebben om verschillende toepassingen van AI te regelen. Op federaal, staats- en lokaal niveau worden nieuwe wetten rondgestrooid die betrekking hebben op het bereik en de aard van hoe AI moet worden ontworpen. De inspanning om dergelijke wetten op te stellen en uit te voeren, is een geleidelijke.

In deze specifieke discussie over de rol van uitzonderingen komt een provocerend standpunt naar voren dat er misschien een wettelijk recht zou moeten zijn verbonden aan het zijn van een uitzondering. Het kan zijn dat de enige haalbare manier om bonafide erkenning te krijgen voor iemand die mogelijk een uitzondering is, het gebruik van de lange arm van de wet is.

Een nieuw soort mensenrecht invoeren.

Het recht om als een uitzondering te worden beschouwd.

Overweeg dit voorstel: “Het recht om een ​​uitzondering te zijn betekent niet dat elk individu is een uitzondering, maar dat, wanneer een beslissing schade kan toebrengen aan het beslissingssubject, de beslisser de mogelijkheid moet overwegen dat het subject mogen een uitzondering zijn. Het recht om een ​​uitzondering te zijn omvat drie ingrediënten: schaden, individualisering en onzekerheid. De beslisser moet er alleen voor kiezen om schade toe te brengen als hij heeft overwogen of de beslissing op de juiste manier is geïndividualiseerd en, cruciaal, de onzekerheid die gepaard gaat met de datagestuurde component van de beslissing. Hoe groter het risico op schade, hoe ernstiger de overweging” (door Sarah Cen, in een onderzoekspaper getiteld Het recht om een ​​uitzondering te zijn in datagestuurde besluitvorming, MIT, 12 april 2022).

Je zou in de verleiding kunnen komen om aan te nemen dat we al zo'n recht hebben.

Niet noodzakelijk. Volgens de onderzoekspaper zou het meest verwante internationaal erkende mensenrecht dat van individuele waardigheid kunnen zijn. In theorie brengt het idee dat er een erkenning van waardigheid zou moeten zijn, zodat een individu en hun specifieke uniciteit geacht worden te omvatten, je binnen de marge van een potentieel mensenrecht op uitzondering. Een minpunt is dat de bestaande wetten die het waardigheidsrijk beheersen, enigszins vaag en overdreven kneedbaar zijn, en dus niet goed afgestemd op de specifieke juridische constructie van een uitzonderingsrecht.

Degenen die voorstander zijn van een nieuw recht dat bestaat uit een mensenrecht om een ​​uitzondering te zijn, zouden beweren dat:

• Een dergelijk recht zou AI-ontwikkelaars vrijwel wettelijk dwingen om expliciet om te gaan met uitzonderingen
• Bedrijven die AI maken, zouden juridisch gezien meer aan de haak zijn als ze niet met uitzonderingen omgaan
• AI zou waarschijnlijk beter gebalanceerd en over het algemeen robuuster zijn
• Degenen die AI gebruiken of onderworpen zijn aan AI zouden beter af zijn
• Wanneer AI geen uitzonderingen toelaat, zou juridische hulp gemakkelijk haalbaar zijn
• Makers van AI zullen ongetwijfeld ook beter af zijn (hun AI zou een groter aantal gebruikers bestrijken)
• Enz.

Degenen die zich verzetten tegen een nieuw recht dat wordt bestempeld als een mensenrecht om een ​​uitzondering te zijn, hebben de neiging om te zeggen:

• Bestaande mensenrechten en wettelijke rechten dekken dit voldoende en hoeven de zaken niet ingewikkeld te maken
• Een onnodige last zou op de schouders van AI-makers worden gelegd
• Pogingen om AI te maken zouden duurder worden en de voortgang van AI vertragen
• Er zouden valse verwachtingen ontstaan ​​dat iedereen zou eisen dat hij een uitzondering zou zijn
• Het recht zelf zou ongetwijfeld voor verschillende interpretaties vatbaar zijn
• Degenen die het meeste winnen, zijn de advocatuur wanneer rechtszaken omhoogschieten
• Enz.

Kortom, de oppositie tegen zo'n nieuw recht voert meestal aan dat dit een nulsomspel is en dat een wettelijk recht om een ​​uitzondering te zijn meer gaat kosten dan het oplevert. Degenen die van mening zijn dat een dergelijk nieuw recht verstandig is, zullen geneigd zijn te benadrukken dat dit geen nulsomspel is en dat uiteindelijk iedereen hiervan profiteert, inclusief degenen die AI maken en degenen die AI gebruiken.

U kunt er zeker van zijn dat dit debat over juridische, ethische en maatschappelijke implicaties in verband met AI en uitzonderingen luid en aanhoudend zal zijn.

Zelfrijdende auto's en het belang van uitzonderingen

Bedenk hoe dit van toepassing is in de context van autonome systemen zoals autonome voertuigen en zelfrijdende auto's. Er zijn al verschillende kritieken geweest op de gemiddelde mentaliteit van AI-ontwikkeling voor zelfrijdende auto's en autonome voertuigen.

In het begin waren er bijvoorbeeld maar heel weinig ontwerpen van zelfrijdende auto's die geschikt waren voor mensen met een vorm van lichamelijke handicap of beperking. Er werd niet veel nagedacht over een breder scala aan behoeften van de rijder. Over het algemeen is dit bewustzijn toegenomen, hoewel er nog steeds zorgen worden geuit of dit ver genoeg is en zo breed wordt omarmd als het zou moeten zijn.

Een ander voorbeeld van het gemiddelde versus een uitzondering heeft te maken met iets dat je misschien overrompelt.

Ben je klaar?

Het ontwerp en de inzet van veel van de AI-aandrijfsystemen en zelfrijdende auto's van vandaag hebben de neiging om een ​​stille of onuitgesproken veronderstelling te maken dat volwassenen in de zelfrijdende auto zullen rijden. We weten dat wanneer een menselijke bestuurder aan het stuur zit, er natuurlijk per definitie een volwassene in het voertuig zit, aangezien het verkrijgen van een rijbewijs meestal gebaseerd is op het volwassen zijn (nou ja, of bijna één). Voor zelfrijdende auto's waarbij AI al het rijden doet, hoeft er geen volwassene aanwezig te zijn.

Het punt is dat we kinderen alleen in auto's kunnen laten rijden zonder dat er een volwassene aanwezig is, tenminste dit kan in het geval van volledig autonome AI-aangedreven zelfrijdende auto's. U kunt uw kinderen 's ochtends naar school sturen door gebruik te maken van een zelfrijdende auto. In plaats van dat u uw kinderen een lift moet geven of gebruik moet maken van een menselijke chauffeur van een carpoolservice, kunt u uw kinderen gewoon in een zelfrijdende auto laten stappen en naar school laten brengen.

Niet alles is rooskleurig als het gaat om het alleen hebben van kinderen in zelfrijdende auto's.

Aangezien het niet langer nodig is om een ​​volwassene in het voertuig te hebben, betekent dit dat kinderen zich ook niet langer beïnvloed of laten we zeggen gecontroleerd door de aanwezigheid van een volwassene zullen voelen. Zullen kinderen gek worden en het interieur van zelfrijdende auto's verscheuren? Zullen kinderen proberen te klimmen of buiten de ramen van de zelfrijdende auto te reiken? Welke andere soorten capriolen zouden ze kunnen doen, wat kan leiden tot mogelijk letsel en ernstige schade?

Ik heb het verhitte debat besproken over het idee van kinderen die alleen in zelfrijdende auto's rijden, zie je? de link hier. Sommigen zeggen dat dit nooit mag. Sommigen zeggen dat het onvermijdelijk is en dat we moeten uitzoeken hoe we het het beste kunnen laten werken.

Conclusie

Laten we terugkeren naar het overkoepelende thema van het gemiddelde versus de uitzondering.

We zijn het er allemaal over eens dat er altijd een uitzondering op de regel zal zijn. Als een regel eenmaal is gevormd of geïdentificeerd, moeten we op zoek gaan naar uitzonderingen. Wanneer we uitzonderingen tegenkomen, moeten we nadenken over op welke regel deze uitzondering waarschijnlijk van toepassing is.

Veel van de AI die tegenwoordig wordt ontwikkeld, is gevormd rond het formuleren van de regel, terwijl de uitdagingen die gepaard gaan met uitzonderingen de neiging hebben om te worden opgegeven en van de hand te doen.

Voor degenen die graag smoezelig zijn en zeggen dat er geen uitzonderingen zijn op de regel dat er altijd uitzonderingen op de regel zijn, zou ik toegeven dat deze geestigheid een mentale puzzel lijkt te zijn. Hoe kunnen we namelijk een regel hebben dat er altijd uitzonderingen zijn, maar dan lijkt deze regel niet van toepassing te zijn op de regel dat er altijd uitzonderingen op de regel zijn?

Laat je hoofd tollen.

Gelukkig is het niet nodig om deze ontnuchterende zaken al te ingewikkeld te maken. We kunnen hopelijk leven met de handige en essentiële vuistregel waar we op moeten letten en de uitzonderingen op elke regel moeten accepteren.

Dat regelt de zaken, dus laten we er nu aan gaan werken.