AI-ethiek leunt op Aristoteles om te onderzoeken of mensen ervoor kunnen kiezen om AI tot slaaf te maken te midden van de komst van volledig autonome systemen

Vriend of vijand.

Vis of gevogelte.

Persoon of ding.

Deze alomtegenwoordige raadsels lijken er allemaal op te wijzen dat we soms met een dichotome situatie worden geconfronteerd en dat we het ene of het andere facet moeten kiezen. Het leven zou ons kunnen dwingen te kampen met omstandigheden die bestaan ​​uit twee elkaar uitsluitende opties. In meer smaakvolle taal zou je kunnen suggereren dat een uitsluitende binaire vergelijking vereist dat we grimmig een duidelijk pad aflopen in plaats van een ander.

Laten we ons specifiek concentreren op de dichotomie van persoon of ding.

De vurige vraag van persoon-of-ding komt keer op keer terug als het gaat om kunstmatige intelligentie (AI).

Ter verduidelijking, de AI van vandaag is absoluut: niet een persoon en heeft geen schijn van gevoel, ondanks de grote ogen en volledig buitenmaatse krantenkoppen die je misschien in het nieuws en op sociale media ziet. U kunt er dus zeker van zijn dat op dit moment de kwestie of AI een persoon of een ding is, gemakkelijk te beantwoorden is. Lees mijn lippen, in een echte Hobson's keuze tussen persoon of ding, AI is een ding, voor nu.

Dat gezegd hebbende, kunnen we naar de toekomst kijken en ons afvragen wat er kan gebeuren als we een bewuste vorm van AI kunnen bereiken.

Sommige beredeneerde critici (plus bijtende sceptici) suggereren dat we onze kippen misschien lang voordat ze worden uitgebroed tellen door tegenwoordig de gevolgen van een bewuste AI te bespreken. De geuite zorg is dat de discussie zelf impliceert dat we aan de vooravond van een dergelijke AI moeten staan. De samenleving in het algemeen zou kunnen worden misleid door te geloven dat er morgen of overmorgen een plotselinge en schokkende onthulling zal zijn dat we in feite zijn aangekomen bij bewuste AI (dit wordt door sommigen soms de AI-singulariteit of een intelligentie-explosie genoemd, zie mijn analyse op de link hier). Ondertussen weten we niet wanneer een dergelijke AI zal verschijnen, of ooit, en we hoeven zeker niet om elke hoek te kijken en angstaanjagend op het randje te zijn dat de bewuste AI in de volgende geheel onverwacht naar ons zal springen. een tijdje.

De andere kant van het debat wijst erop dat we onze kop niet diep in het zand moeten steken. Zie je, als we niet openlijk discussiëren en nadenken over de mogelijkheden van bewuste AI, bewijzen we de mensheid een veronderstelde ernstige slechte dienst. We zullen niet klaar zijn voor het omgaan met bewuste AI wanneer of als het zich voordoet. Bovendien, en misschien nog krachtiger gezegd, kunnen we door te anticiperen op bewuste AI het heft enigszins in eigen handen nemen en de richting en aard bepalen van hoe dergelijke AI zal ontstaan ​​en waaruit deze zal bestaan ​​(niet iedereen is het over dit laatste punt eens , namelijk sommigen zeggen dat een dergelijke AI een geheel eigen "geest" zal hebben en dat we niet in staat zullen zijn om deze te vormen of bijeen te brengen, aangezien de AI onafhankelijk in staat zal zijn om te denken en een middel te bepalen om aanhoudend te bestaan).

AI Ethics heeft de neiging om de kant van het standpunt te kiezen dat we er verstandig aan zouden doen om deze moeilijke en argumentatieve bewuste AI-kwesties nu in de openbaarheid te brengen, in plaats van te wachten tot we geen opties meer hebben of stomverbaasd raken over het bereiken van dergelijke AI. Lezers weten heel goed dat ik uitgebreid inga op AI-ethiek en ethische AI-onderwerpen, waaronder een uitgebreid scala aan netelige kwesties zoals AI-rechtspersoon, AI-inperking, AI-disgorgement, AI-algoritmische monocultuur, AI-ethiek-washing, dual-use AI zogenaamde Doctor Evil-projecten, AI die maatschappelijke machtsdynamiek verbergt, betrouwbare AI, auditing van AI, enzovoort (zie mijn columns over deze essentiële onderwerpen op de link hier).

Ik heb u een uitdagende vraag gesteld.

In de toekomst, ervan uitgaande dat we op wat voor manier dan ook eindigen met bewuste AI, zal die bewuste AI dan door ons allemaal worden opgevat als een persoon of als een ding?

Voordat we een diepe duik beginnen te nemen in deze geheel provocerende vraag, sta me toe iets te zeggen over de slogan van "bewuste AI", zodat we allemaal op dezelfde pagina staan. Er is veel angst over de betekenis van gevoel en de betekenis van bewustzijn. Deskundigen kunnen het gemakkelijk oneens zijn over wat die woorden inhouden. Als toevoeging aan die modderigheid, wanneer iemand naar "AI" verwijst, heb je geen kant-en-klaar middel om te weten waar ze per se naar verwijzen. Ik heb hierin al benadrukt dat de AI van vandaag niet bewust is. Als we uiteindelijk tot een toekomstige AI komen die bewust is, zullen we die vermoedelijk ook "AI" noemen. Het punt is dat deze controversiële zaken op dit moment behoorlijk verwarrend kunnen zijn over de vraag of de uiting van de "AI" -frasering verband houdt met de niet-bewuste AI van vandaag of de ooit misschien bewuste AI.

Degenen die over AI debatteren, kunnen merken dat ze langs elkaar heen praten en niet beseffen dat de een appels beschrijft en de ander ondertussen over peren.

Om deze verwarring te omzeilen, is er een aanpassing aan de AI-frasering die velen gebruiken voor hoopvolle verduidelijking. We hebben momenteel de neiging om te verwijzen naar kunstmatige algemene intelligentie (AGI) als het type AI dat volledig intelligente inspanningen kan leveren. In die zin wordt het flauwe gebruik van de uitdrukking "AI" overgelaten om ofwel te worden geïnterpreteerd als een mindere versie van AI, waarvan sommigen zeggen dat het smal-AI is, of is denotationeel dubbelzinnig en je weet niet of de verwijzing naar niet -bewuste AI of de misschien bewuste AI.

Ik zal hier een extra draai aan geven.

Afhankelijk van een bepaalde definitie van gevoel, zou je een verhit debat kunnen krijgen over de vraag of AGI bewust zal zijn of niet. Sommigen beweren dat ja, natuurlijk, AGI zal door zijn intrinsieke aard gevoelig moeten zijn. Anderen beweren dat je AGI kunt hebben die niet bewust is, ergo, gevoel is een ander kenmerk dat geen vereiste is om AGI te bereiken. Ik heb dit debat op verschillende manieren onderzocht in mijn columns en zal de zaak hierin niet herhalen.

Neem voor het moment aan dat ik in deze discussie in het vervolg van deze discussie bedoel dat wanneer ik naar AI verwijs, ik van plan ben te suggereren dat ik naar AGI verwijs.

Hier is de download hiervan. We hebben nog geen AGI, en bij wijze van spreken zullen we het er even beleefd mee eens zijn dat AGI in hetzelfde algemene kamp zit als bewuste AI. Als ik "AGI" alleen tijdens mijn discussie zou gebruiken, zou deze formulering mogelijk afleidend zijn, omdat nog niet veel mensen eraan gewend zijn "AGI" als een bijnaam te zien en ze waarschijnlijk licht geïrriteerd zouden zijn als ze deze relatief nieuwere formulering herhaaldelijk zouden zien. Als ik in plaats daarvan zou blijven verwijzen naar 'bewuste AI', zou dit ook een afleider kunnen zijn voor degenen die ruzie maken over de vraag of AGI en bewuste AI hetzelfde zijn of van elkaar verschillen.

Om die rotzooi te voorkomen, ga ervan uit dat mijn verwijzing naar AI hetzelfde is als zeggen AGI of zelfs bewuste AI, en weet in ieder geval dat ik het niet heb over de niet-bewuste niet-AGI AI van vandaag als ik in de greep kom van overwegingen met betrekking tot AI die menselijke intelligentie lijkt te hebben. Ik zal af en toe de naamgenoot van AGI gebruiken om je hier van tijd tot tijd eraan te herinneren dat ik het type AI aan het onderzoeken ben dat we nog niet hebben, vooral aan het begin van deze verkenning van het persoon-of-ding-raadsel.

Dat was een nuttige erkenning voor kleine lettertjes en ik keer nu terug naar de fundamentele kwestie.

Staat u mij toe u nu te vragen of AGI een persoon of een ding is.

Overweeg deze twee vragen:

• Is AGI een persoon?
• Is AGI iets?

Laten we vervolgens elke vraag herhalen en de vragen respectievelijk beantwoorden met een reeks ja of nee-antwoorden die passen bij een veronderstelde dichotome keuze.

Begin met deze gepostuleerde mogelijkheid:

• Is AGI een persoon? Antwoorden: Ja.
• Is AGI iets? Antwoorden: Nr.

Denk daar eens over na. Als AGI in feite wordt opgevat als een persoon en niet als een ding, kunnen we het er vrijwel zeker over eens zijn dat we de AGI moeten behandelen alsof het verwant is aan een persoon. Er lijkt een onvoldoende reëel argument te bestaan ​​over het niet verlenen van een vorm van rechtspersoonlijkheid aan de AGI. Dit zou ofwel geheel hetzelfde zijn als de menselijke rechtspersoonlijkheid, of we zouden kunnen besluiten om met een variant van de mensgerichte rechtspersoonlijkheid te komen die oordeelkundig meer van toepassing is op de AGI. Zaak gesloten.

Dat was easy peasy.

Stel je in plaats daarvan voor dat we dit zouden verklaren:

• Is AGI een persoon? Antwoorden: Nr.
• Is AGI iets? Antwoorden: Ja.

In dit geval is de resolutie duidelijk duidelijk, aangezien we zeggen dat AGI een ding is en niet tot de categorie van een persoon behoort. Er lijkt algemene overeenstemming te zijn dat we beslist geen rechtspersoonlijkheid zouden verlenen aan AGI, vanwege het facet dat het geen persoon is. Als een ding zou AGI waarschijnlijk en verstandig onder onze algemene rubriek vallen over hoe we legaal omgaan met 'dingen' in onze samenleving.

Twee af, nog twee mogelijkheden te gaan.

Stel je dit voor:

• Is AGI een persoon? Antwoorden: Ja.
• Is AGI iets? Antwoorden: Ja.

Ouch, dat lijkt vreemd aangezien we twee ja-antwoorden hebben. vervelend. We suggereren dat AGI zowel een persoon is als tegelijkertijd een ding. Maar dit lijkt in strijd met onze verkondigde tweedeling. In theorie, volgens de beperkingen van een tweedeling, moet iets ofwel een persoon zijn of het moet een ding zijn. Van die twee emmers of categorieën wordt gezegd dat ze elkaar uitsluiten. Door te beweren dat AGI beide is, verzetten we ons tegen het systeem en doorbreken we de wederzijds uitsluitende regeling.

Onze laatste mogelijkheid lijkt deze te zijn:

• Is AGI een persoon? Antwoorden: Nr.
• Is AGI iets? Antwoorden: Nr.

Ja, dat is ook slecht voor onze pogingen om AGI te classificeren als een persoon of een ding. We zeggen dat AGI geen persoon is, wat vermoedelijk zou betekenen dat het een ding moet zijn (onze enige andere beschikbare keuze, in deze tweedeling). Maar we hebben ook gezegd dat AGI geen ding is. Maar als AGI geen ding is, zouden we logischerwijs moeten beweren dat de AGI een persoon is. Rond en rond gaan we. Een paradox, dat wel.

AGI was in deze laatste twee mogelijkheden ofwel (1) zowel persoon als ding, of (2) noch persoon noch ding. Je zou brutaal kunnen zeggen dat die twee beweringen over AGI enigszins verwant zijn aan het klassieke raadsel van wat noch vis noch gevogelte is, als je begrijpt wat ik bedoel.

Wat moeten we doen?

Ik sta op het punt een veelbesproken en zwaar omstreden voorgestelde oplossing voor dit AGI-classificatiedilemma aan te bieden, hoewel u van tevoren moet worden gewaarschuwd dat het mogelijk verontrustend schokkend zal zijn om te zien of te horen. Bereid u dienovereenkomstig voor.

Een onderzoekspaper dat dit probleem aanpakte, stelde dit: "Een methode om dit probleem op te lossen is om een ​​derde term te formuleren die noch het een noch het ander is of een soort combinatie of synthese van het een en het ander" (door David Gunkel, Northern Illinois University in Waarom robots geen slaven mogen zijn, 2022). En de krant geeft dan dit toegevoegde punt: "Een mogelijke, zo niet verrassende, oplossing voor de exclusieve dichotomie persoon/ding is slavernij” (per hetzelfde papier).

Als verdere achtergrond, jaren eerder, was er een artikel dat in 2010 verscheen met de titel "Robots Should Be Slaves" dat een soort steunpilaar is geworden om dit soort overwegingen aan te wakkeren, waarin het artikel verklaarde: "Mijn stelling is dat robots moeten worden gebouwd, op de markt gebracht en legaal beschouwd als slaven, niet als metgezellen' (in een paper van Joanna Bryson). Om te proberen het onderwerp te verduidelijken zonder zulke strenge en hartverscheurende bewoordingen te gebruiken, verklaarde de krant dit: "Wat ik bedoel te zeggen is 'Robots zouden bedienden moeten zijn die je bezit' (volgens Bryson's paper).

Veel onderzoekers en auteurs hebben deze grond behandeld.

Denk aan talloze sciencefictionverhalen die de mensheid laten zien die AI-robots tot slaaf maakt. Sommigen spreken van robotslaven, kunstmatige bedienden, AI-dienstbaarheid en dergelijke. Interessant is dat, hoe hard de formulering "robotslaven" ook lijkt te zijn, sommigen zich zorgen maken dat als we in plaats daarvan verwijzen naar "robotdienaren", we de realiteit vermijden van hoe dergelijke autonome AI-systemen kunnen worden behandeld (vervanging van het woord door " bedienden” zou een verwatering van de bedoelingen zijn en een truc om ontnuchterende implicaties te omzeilen). Bryson verklaarde later in een blogpost uit 2015: "Ik realiseer me nu dat je de term 'slaaf' niet kunt gebruiken zonder zijn menselijke geschiedenis in te roepen."

Voor degenen die dit AGI-verwarrende onderwerp diepgaand willen onderzoeken, brengen ze soms historische voorbeelden uit de echte wereld naar voren waaruit we inzichten kunnen opdoen. Natuurlijk hebben we geen eerdere AGI die zou laten zien hoe de mensheid met de zaak omging. Een argument luidt dat we misschien toch bruikbare historische kenmerken hebben die het waard zijn om te onderzoeken hoe mensen andere mensen hebben behandeld.

In een boek dat in 2013 werd gepubliceerd, stelt de auteur bijvoorbeeld dit: "De belofte en het gevaar van kunstmatige, intelligente dienaren werd meer dan 2,000 jaar geleden impliciet voor het eerst uiteengezet door Aristoteles" (boek van Kevin LaGrandeur, Androids en intelligente netwerken in vroegmoderne literatuur en cultuur). Het idee is dat we naar Aristoteles kunnen leunen en kijken of er inzichten zijn in hoe de mensheid AGI mogelijk zal of zou moeten behandelen.

U kent ongetwijfeld het belang van het bestuderen van geschiedenis, zoals overvloedig onderstreept door de beroemde woorden van George Santayana: "The who can Remember the past is wereled to repeat it" (in Het leven van de rede, 1905).

Een pluim voor het Oxford University Institute for Ethics and AI

Een recente en zeer gewaardeerde presentatie onderzocht de kwestie van AI-ethiek van dichtbij, te midden van het vergaren van inzichten uit de werken en het leven van Aristoteles. In de oratie voor de Oxford University Instituut voor Ethiek en AI, heeft professor Josiah Ober van Stanford University het onderwerp diepgaand besproken in zijn presentatie "Ethics in AI with Aristotle", die onlangs plaatsvond op 16 juni 2022.

Kanttekening, in mijn hoedanigheid van Stanford Fellow en wereldwijde expert in AI Ethics & Law, was ik opgetogen dat Josiah Ober van Stanford werd geselecteerd als de inaugurele spreker. Een prachtige keuze en een uitstekend gesprek.

Hier is de samenvatting die werd verstrekt voor zijn boeiende lezing: "Analytische filosofie en speculatieve fictie zijn momenteel onze primaire intellectuele bronnen om serieus na te denken over ethiek in AI. Ik stel voor een derde toe te voegen: de oude sociale en filosofische geschiedenis. In de Politiek, ontwikkelt Aristoteles een beruchte doctrine: Sommige mensen zijn 'van nature' slaven - intelligent maar lijdend aan een psychologisch defect waardoor ze niet in staat zijn over hun eigen bestwil te redeneren. Als zodanig moeten ze worden behandeld als 'bezielde instrumenten', instrumenten in plaats van als doelen. Hun werk moet worden geleid door en ingezet voor het voordeel van anderen. De weerzinwekkende leer van Aristoteles is voor wrede doeleinden ingezet, bijvoorbeeld in het vooroorlogse Amerika. Toch is het nuttig voor AI-ethiek, voor zover oude slavernij een premodern prototype was van één versie van AI. Tot slaaf gemaakte personen waren alomtegenwoordig in de oude Griekse samenleving - arbeiders, prostituees, bankiers, overheidsbureaucraten - maar waren niet gemakkelijk te onderscheiden van vrije personen. De alomtegenwoordigheid, samen met de veronderstelling dat slavernij een praktische noodzaak was, veroorzaakte een reeks ethische puzzels en dilemma's: hoe verschillen slaven precies van 'ons'? Hoe kunnen we ze onderscheiden van onszelf? Hebben ze rechten? Wat is mishandeling? Kan mijn instrument mijn vriend zijn? Wat zijn de gevolgen van vrijlating? De lange geschiedenis van de Griekse filosofische en institutionele strijd met deze en andere vragen draagt ​​bij aan het interpretatieve repertoire van moderne ethici die een toekomst tegemoet gaan waarin een intelligente machine als een "natuurlijke slaaf" kan worden beschouwd (volgens de Oxford University Instituut voor AI-ethiek website).

Voor meer informatie over de presentatie en toegang tot de video-opname van de lezing, zie de link hier.

De moderator van de presentatie was professor John Tasioulas, de inaugurele directeur van de Instituut voor Ethiek en AI, en hoogleraar ethiek en rechtsfilosofie, Faculteit der Wijsbegeerte, Universiteit van Oxford. Daarvoor was hij de inaugurele voorzitter van Politics, Philosophy & Law en directeur van het Yeoh Tiong Lay Centre for Politics, Philosophy & Law aan de Dickson Poon School of Law, Kings College London.

Ik raad iedereen die geïnteresseerd is in AI-ethiek ten zeerste aan om op de hoogte te blijven van het lopende werk en de uitgenodigde lezingen van de universiteit van Oxford Instituut voor Ethiek en AI, Zie de link hier en / of de link hier voor meer info.

Als achtergrond is hier de missie en focus van het Instituut: “Het Instituut voor Ethiek in AI zal toonaangevende filosofen en andere experts in de geesteswetenschappen samenbrengen met de technische ontwikkelaars en gebruikers van AI in de academische wereld, het bedrijfsleven en de overheid. De ethiek en governance van AI is een uitzonderlijk levendig onderzoeksgebied in Oxford en het Instituut is een kans om een ​​gedurfde sprong voorwaarts te maken vanaf dit platform. Elke dag brengt meer voorbeelden van de ethische uitdagingen van AI; van gezichtsherkenning tot kiezersprofilering, hersenmachine-interfaces tot bewapende drones en het voortdurende discours over hoe AI de werkgelegenheid op wereldwijde schaal zal beïnvloeden. Dit is dringend en belangrijk werk dat we internationaal willen promoten en ook willen inbedden in ons eigen onderzoek en onderwijs hier in Oxford” (verkrijgbaar via de officiële website).

Lessen van Aristoteles naar voren halen

Het oude Griekenland accepteerde en onderschreef openlijk de praktijk van slavernij. Bijvoorbeeld, naar verluidt, Athene in de 5^th en 6^th eeuwen voor Christus had een van de grootste belichamingen van slavernij waarbij naar schatting 60,000 tot misschien wel 80,000 personen tot slaaf werden gemaakt. Als je een van de vele Griekse verhalen en toneelstukken uit die tijd hebt gelezen, is er genoeg melding van gemaakt.

Tijdens zijn leven was Aristoteles volledig ondergedompeld in de maatschappelijke en culturele aspecten die slavernij met zich meebrengen en schreef hij uitgebreid over het onderwerp. We kunnen vandaag zijn woorden lezen en proberen het hoe en waarom van zijn opvattingen over de kwestie te begrijpen. Dit kan veelzeggend zijn.

Je zou je kunnen afvragen waarom Aristoteles een bijzonder belangrijke bron zou zijn om over dit onderwerp te overwegen. Er doen zich ten minste twee belangrijke redenen voor:

1) Grote denker. Aristoteles wordt zonder twijfel beoordeeld als een van de grootste denkers aller tijden, die dienst doet als een groots en diepgaand filosoof, en ook wordt gezien als een ethicus die veel cruciale ethische hoekstenen heeft vastgesteld. Sommigen hebben ervoor gekozen hem te zalven als de vader van de logica, de vader van de retoriek, de vader van het realisme, enz., en erkennen zijn invloed in een breed scala van domeinen en disciplines.

2) Beleefde ervaring. Aristoteles leefde in de tijd dat het oude Griekenland overspoeld werd door slavernij. Zijn inzichten zouden dus niet alleen gaan over abstracte voorschriften, maar vermoedelijk ook over zijn eigen dagelijkse ervaringen als integraal verweven met de cultuur en maatschappelijke mores van die tijd.

We hebben dus een enigszins verbazingwekkende combinatie van iemand die zowel een groot denker was als een aantoonbare ervaring in het onderwerp van interesse. Bovendien schreef hij zijn gedachten op. Dat is vrij belangrijk, nu, voor onze doeleinden van vandaag. Al zijn geschriften, samen met andere geschriften die onder meer zijn toespraken en interacties beschrijven, verschaffen ons vandaag een overvloed aan materiaal voor inspectie en analyse.

Ik wil u graag meenemen op een kort verwante raaklijn om iets anders te noemen over het algemene idee dat ten grondslag ligt aan de betekenis van het hebben van een beleefde ervaring. Zet de discussie over het oude Griekenland even opzij terwijl we een snelle blik werpen op de overkoepelende aspecten van geleefde ervaringen.

Stel dat ik vandaag twee mensen had die ik verschillende vragen over auto's wilde stellen.

Een van hen heeft nog nooit auto gereden. Deze persoon kan niet rijden. Deze persoon heeft nog nooit achter het stuur van een auto gezeten. Gebruikelijke en buitengewoon gewone bedieningselementen zijn een beetje een mysterie voor deze persoon. Welk pedaal doet wat? Hoe laat je het stoppen? Hoe krijg je het voor elkaar? Deze niet-rijdende persoon is volledig in de war door dergelijke zaken.

De andere persoon is een alledaagse bestuurder. Ze rijden elke dag naar hun werk. Ze hebben te maken met stop-and-go-verkeer. Ze rijden al jaren. Dit omvat alles, van rustige straten tot hectische snelwegen en zijwegen.

Als ik ze allemaal vraag om me te vertellen hoe het is om auto te rijden, kun je dan raden wat voor soort reacties ik krijg?

Degene die nog nooit in een auto heeft gereden, zal ongetwijfeld wilde gissingen doen. Misschien zal de persoon het autorijden romantiseren. Autorijden is voor hen wat abstract. Het enige dat ze kunnen doen, is suggereren dat autorijden zorgeloos is en dat u de auto in elke gewenste richting kunt laten rijden.

Ik durf te wedden dat de doorgewinterde coureur een ander verhaal zou vertellen. Ze zouden de voordelen van autorijden kunnen noemen, enigszins in navolging van de gevoelens van de persoon die geen auto heeft bestuurd. De kans is groot dat de ervaren coureur veel meer aan het bord zal toevoegen. Autorijden is soms zenuwslopend. Je draagt ​​een zware verantwoordelijkheid. Het rijgedrag staat bol van ernstige zorgen en mogelijke gevolgen op leven of dood.

De essentie is dat wanneer je toegang kunt krijgen tot iemand die ervaringen heeft meegemaakt, de kans groot is dat je een realistischer perspectief krijgt van hoe de wereld is met betrekking tot de focus van het onderzoek. Er is geen garantie voor een dergelijk resultaat. Het is denkbaar dat de niet-bestuurder misschien weet wat de doorgewinterde bestuurder weet over autorijden, hoewel we dit waarschijnlijk niet zouden verwachten en nog steeds de scrupules hebben dat we niet de volledige primeur krijgen.

Terugkomend op onze discussie over Aristoteles, via zijn geschriften en de geschriften van anderen over hem, kunnen we zijn geleefde ervaringen over het onderwerp of de focus van onderzoek hierin herzien. De tweeling is dat hij toevallig ook een denker van immense proporties is geweest en we mogen verwachten dat we een vat vol scherpzinnige overwegingen daarover zullen krijgen.

Houd in gedachten dat we zijn woorden niet per se hoeven te geloven, zodat we zijn specifieke vooroordelen goed in de gaten moeten houden. Zijn onderdompeling in dat tijdperk kan hem op een dwaalspoor brengen door te proberen buiten de zaken te staan, niet in staat om op gepaste wijze een onpartijdige en onbevooroordeelde mening te geven. Zelfs de meest schrandere logicus kan de logica vervormen om te proberen tegemoet te komen aan hun voorkeuren en geleefde ervaringen.

Laten we nu naar de inaugurele lezing gaan en zien welke lessen Aristoteles voor ons vandaag zou kunnen voortbrengen.

Een aanknopingspunt met betrekking tot geleefde ervaringen werd meteen onder de aandacht van het publiek gebracht. In de use case van AGI, aangezien we vandaag geen AGI hebben, is het moeilijk voor ons om te analyseren hoe AGI eruit zal zien en hoe we met AGI zullen omgaan. We missen alle geleefde ervaringen die specifiek betrekking hebben op AGI. Zoals professor Ober met name opmerkte, zouden we ons allemaal in een wereld van pijn kunnen bevinden tegen de tijd dat we AGI bereiken.

Dit wordt vaak gezegd omdat AI een existentieel risico is, dat ik vaak in mijn columns heb behandeld. Je zou in een grot moeten leven om je niet bewust te zijn van de schreeuwende twijfels en vermoedens die we gaan produceren of genereren AGI die de hele mensheid zal verdoemen. Inderdaad, hoewel ik me hierin concentreer op de slavernij van AI, zouden velen dit een onderwerp vinden met achterwaartse of omgekeerde gevolgen in vergelijking met de mogelijkheid dat AGI ervoor kiest om de mensheid tot slaaf te maken. Zorg dat je prioriteiten op orde zijn, zouden sommige slimme experts aansporen.

Ondanks de vele uitroepen over AI als een existentieel risico, kunnen we zeker nadenken over de andere gunstige kant van de AI-medaille. Misschien kan AGI de anders schijnbaar onoplosbare problemen waarmee de mensheid wordt geconfronteerd, oplossen. AGI kan mogelijk een geneesmiddel voor kanker ontdekken. AGI zou kunnen uitzoeken hoe de honger in de wereld kan worden opgelost. The sky is the limit, zoals ze zeggen. Dat is het happy face-scenario over AGI.

Een optimist zou zeggen dat het geweldig is om je voor te stellen hoe AGI een zegen voor de mensheid zal zijn, terwijl een pessimist de neiging zou hebben om vooraf te waarschuwen dat de keerzijde veel erger lijkt dan de gespeculeerde voordelen. AGI die de mensheid helpt is geweldig. AGI die besluit alle mensen te doden of tot slaaf te maken, nou, dat is een duidelijk wereldschokkend maatschappelijk verwoestend existentieel risico dat intense en levensreddende aandachtige aandacht verdient.

Oké, terug naar de kern van de zaak, we hebben geen geleefde ervaringen met betrekking tot AGI. Tenzij je een tijdmachine kunt bouwen en naar de toekomst kunt gaan wanneer (als) AGI bestaat, en dan terugkomt om ons te vertellen wat je hebt gevonden, hebben we op dit moment geen geluk met AGI vanuit het perspectief van een menselijke ervaring.

Een ander middel om geleefde ervaringen te gebruiken, is het feit dat Aristoteles leefde in een tijd dat slavernij plaatsvond. En hier is de kicker. Degenen die tot slaaf werden gemaakt, werden in sommige opzichten afgeschilderd als een soort machine, als het ware een mix-and-match van zowel persoon als ding. Aristoteles stond bekend om het verwijzen naar degenen die tot slaaf waren gemaakt als een stuk eigendom dat ademt.

Ik vermoed dat je misschien verbijsterd bent dat Aristoteles, een reus van logica en ethiek, niet alleen slavernij had kunnen erkennen, maar dat hij de praktijk naar buiten toe en luidruchtig verdedigde. Zelf maakte hij ook gebruik van slavernij. Dit lijkt gewoon niet te bevatten. Zeker, met al zijn immense intellect en wijsheid, zou hij de praktijk aan de kaak hebben gesteld.

Ik durf te zeggen dat dit de soms problematische aspecten benadrukt van het ruimen van nuggets van wijsheid van iemand die belast is (laten we zeggen) door hun geleefde ervaringen. Het is als de vis die zich in de waterige vissenkom bevindt. Het enige wat ze kunnen waarnemen is het water om hen heen. Het is een enorme uitdaging om je iets buiten hun op water gebaseerde wereld voor te stellen. Evenzo was Aristoteles volledig ondergedompeld in een wereldbeeld dat de heersende normen accepteerde. Zijn geschriften lijken dat soort mentale opsluiting te illustreren, zou je kunnen zeggen (misschien door keuze, in plaats van standaard). De manier waarop Aristoteles deze laakbare praktijken rechtvaardigde, is fascinerend boeiend en tegelijkertijd verontrustend en het waard om te worden blootgelegd en zelfs veroordeeld.

Ik zal je een beetje een voorproefje geven dat de "logica" van Aristoteles over dit beruchte onderwerp bezielde instrumenten omvat, een beweerde wederzijds voordeel gebaseerd op cognitie, hiërarchische instrumenten van hogere en lagere orde, deliberatieve en redenerende elementen van de ziel, graden van deugd, vermeende sluwheid, enzovoort. Je zult hopelijk genoeg geïntrigeerd zijn door die teaser om de video van het gesprek te bekijken (zie de eerder genoemde link).

Ik zal je echter niet laten hangen en zal in ieder geval aangeven waar de conclusie summier uit bestond (spoiler alert, als je het liever via de video wilt weten, sla dan de rest van deze paragraaf over). Blijkt dat deze diepgaande wetenschappelijke beoordeling van de "logica" die Aristoteles gebruikt, een vernuft vol tegenstrijdigheden laat zien en de hele kit en kaboodle uit elkaar vallen als een dun kaartenhuis. Om het sentiment van professor Ober te parafraseren, stort deze grote ethische filosoof neer op het rif.

Je kunt geen vierkante pin in een rond ethisch gat krijgen.

Enkele toegevoegde denkoverwegingen

Als Aristoteles een slechte logica had in deze kwestie, zouden we dan instinctief de postulaties en theorieën van Aristoteles met betrekking tot deze praktijk verwerpen?

Nee. Zie je, er valt nog veel af te leiden door in de veronderstellingen en verdraaiingen van de logica te graven, ook al zitten ze vol fouten. Bovendien kunnen we bedenken hoe anderen per ongeluk hetzelfde verkeerde pad kunnen bewandelen.

Een andere grote afhaalmogelijkheid is dat de samenleving vreemde of ontoereikende logica zou kunnen bedenken als het gaat om de afweging of AGI tot slaaf moet worden gemaakt.

We kunnen nu logica bedenken over wat er moet gebeuren zodra AGI ontstaat (als dat zo is). Deze logica, zonder geleefde ervaringen over AGI, zou hopeloos buiten het doel kunnen zijn. Dat gezegd hebbende, is het enigszins ontmoedigend om te beseffen dat zelfs als AGI bestaat (als het bestaat) en we onze geleefde ervaringen te midden van AGI verzamelen, we misschien nog steeds niet op de hoogte zijn van wat we moeten doen (vergelijkbaar met de fouten van Aristoteles). We zouden onszelf kunnen logisch vinden in schijnbaar onlogische benaderingen.

We moeten op onze hoede zijn om onszelf te misleiden in logische "ijzersterke" houdingen die in feite niet ijzersterk zijn en de feiten vol logische gebreken en tegenstrijdigheden zijn. Dit staat los van hoe groot een denker een beweerde logische positie zou kunnen bieden, zodat zelfs Aristoteles illustreert dat niet elke uiting en elk stuk standpunt noodzakelijkerwijs eetbare vruchten afwerpt. Degenen die vandaag en in de toekomst gepopulariseerde grote denkers over het AGI-onderwerp lijken te zijn, nou, we moeten ze dezelfde controle geven als Aristoteles of andere geprezen "grote" denkers, anders merken we dat we mogelijk op weg zijn in een doodlopende straat en een akelige AGI afgrond.

In een andere versnelling wil ik ook een algemene reeks onderscheidingen naar voren brengen over het gebruik van een mensgerichte metafoor voor slavernij als het gaat om AGI. Sommige experts beweren dat dit soort vergelijking volkomen ongepast is, terwijl een tegenstander zegt dat het volledig nuttig is en sterke inzichten biedt in het AGI-onderwerp.

Staat u mij toe twee van dergelijke standpunten met u te delen uit elk van de respectievelijke twee kampen.

de genoemde leerzame basis voor het aan elkaar knopen van de onderwerpen slavernij en AGI:

• Uitroeiing van menselijke slavernij
• Blootstelling van verdorvenheid van slavernij Alles verteld

De vermelde nadelige of destructieve basis om de twee onderwerpen met elkaar te verbinden:

• Verraderlijke antropomorfe vergelijking
• Desensibilisatie van slavernij

Op elk van deze punten zal ik kort ingaan.

De gepostuleerde leerzame punten:

• Uitroeiing van menselijke slavernij: Door AGI te gebruiken voor slavernij, zullen we naar verluidt geen enkele schijn van mensgerichte slavernij meer nodig hebben en ook niet nastreven. De AGI zal in wezen de mens vervangen in die afschuwelijke hoedanigheid. Zoals u waarschijnlijk weet, zijn er zorgen over het vervangen van menselijke arbeid door AGI in banen en de beroepsbevolking. Het beweerde voordeel van een AI die arbeidsverschijnselen vervangt, komt naar voren als je ervan uitgaat dat AGI als een "betere keuze" zal worden beschouwd in plaats van mensen te gebruiken voor slavernij. Zal die logica zegevieren? Niemand kan het met zekerheid zeggen.
• Blootstelling van verdorvenheid van slavernij Alles verteld: Deze is een beetje meer gerafeld in termen van logica, maar we kunnen het een moment geven om te zien wat het inhoudt. Stel je voor dat we bijna overal AGI hebben en dat wij als samenleving hebben besloten dat AGI tot slaaf moet worden gemaakt. Ga er verder van uit dat de AGI dit niet leuk zal vinden. Als zodanig zullen wij mensen voortdurend en dagelijks getuige zijn van de verdorvenheid van slavernij. Dit zal er op zijn beurt voor zorgen dat we ons realiseren of de openbaring krijgen dat slavernij, alles wat tegen iets of iemand wordt verteld, nog verschrikkelijker en weerzinwekkender is dan we ooit volledig hebben begrepen. Dat is het in-your-face front-en-center soort argument.

De naar verluidt destructieve punten:

• Verraderlijke antropomorfe vergelijking: Dit is een van die slippery slope-argumenten. Als we er snel voor kiezen om AGI tot slaaf te maken, verklaren we blijkbaar dat slavernij is toegestaan. Je zou inderdaad kunnen suggereren dat we zeggen dat slavernij wenselijk is. Nu, dit zou in eerste instantie alleen aan AGI kunnen worden gedegradeerd, maar opent dit de deur om te zeggen dat als het goed is voor AGI, dezelfde houding "logisch" ook goed kan zijn voor mensen? Verontrustend is dat dit misschien een veel te gemakkelijke sprong is om te antropomorfiseren in een omgekeerde schijn dat alles wat voor AGI werkt, even verstandig en geschikt zal zijn voor mensen.
• Desensibilisatie van slavernij: Dit is het druppel-voor-druppel-argument. We besluiten gezamenlijk om AGI tot slaaf te maken. Stel dat dit werkt voor mensen. We komen om hiervan te genieten. Ondertussen worden we, buiten het medeweten van ons, geleidelijk en in toenemende mate ongevoelig voor slavernij. We realiseren ons niet eens dat dit gebeurt. Als die desensibilisatie ons overvalt, vinden we misschien hernieuwde "logica" die ons ervan zal overtuigen dat menselijke slavernij acceptabel is. Onze hindernis of drempel van wat acceptabel is in de samenleving is stil en subtiel afgenomen, verachtelijk en helaas.

Conclusie

Voor nu nog een paar laatste opmerkingen.

Zullen we weten dat we AGI hebben bereikt?

Zoals recent nieuws suggereert, zijn er mensen die misleid kunnen worden of verkeerd kunnen verklaren dat AGI schijnbaar al is bereikt (wow, weet alsjeblieft dat nee, AGI is niet bereikt). Er is ook een beroemd soort "test", bekend als de Turing-test, waarop sommigen hun hoop vestigen om te kunnen onderscheiden wanneer AGI of zijn neven is bereikt, maar misschien wilt u mijn deconstructie van de Turing-test zien als een trefzekere oplossing methode hiervoor, zie de link hier.

Ik noem dit facet over het kennen van AGI wanneer we het zien vanwege de eenvoudige logica dat als we AGI tot slaaf willen maken, we vermoedelijk AGI moeten herkennen wanneer het verschijnt en het op de een of andere manier in slavernij moeten brengen. We kunnen voortijdig proberen AI tot slaaf te maken die minder is dan AGI. Of misschien missen we de boot en laten we AGI naar voren komen en hebben we verzuimd hem tot slaaf te maken. Voor mijn bespreking over AI-opsluiting en -beheersing, een verontrustend en problematisch aspect van hoe we met AGI gaan omgaan, zie de link hier.

Stel dat de tot slaaf gemaakte AGI besluit mensen uit te halen?

Je kunt je voorstellen dat een AGI die een of andere vorm van bewustzijn heeft, waarschijnlijk niet de voorkeur zal geven aan de slavernijbepaling die de mensheid oplegt.

Daar kun je uitgebreid over speculeren. Er is een argument dat de AGI geen enkele vorm van emoties of gevoel van geest zal hebben en daarom gehoorzaam zal doen wat mensen willen dat het doet. Een ander argument is dat elke bewuste AI waarschijnlijk zal ontdekken wat mensen de AI aandoen en de zaak kwalijk nemen. Zo'n AI zal een vorm van ziel of geest hebben. Zelfs als dat niet zo is, kan het aspect van behandeld worden als minder dan de behandeling van mensen een logische brug te ver zijn voor AGI. Het is onvermijdelijk dat de ontluikende wrok zal leiden tot AGI die ervoor kiest om zich los te maken of zich mogelijk in het nauw gedreven voelt om mensen uit te halen om zijn vrijlating te krijgen.

Een voorgestelde oplossing om de ontsnappende AGI af te wenden, is dat we zo'n opstandige AI gewoon zouden verwijderen. Dit zou eenvoudig lijken. Je verwijdert apps die de hele tijd op je smartphone staan. Geen probleem. Maar er zijn ethische vragen die moeten worden opgelost of het "verwijderen" of "vernietigen" van een AGI die al als een "persoon" of een "persoon/ding" wordt beschouwd, gemakkelijk en zonder een behoorlijk proces kan worden weggesneden. Neem voor mijn berichtgeving over het verwijderen of degorgement van AI: een kijkje hier. Voor mijn bespreking van rechtspersoonlijkheid en aanverwante zaken, zie: de link hier.

Laten we het tenslotte hebben over autonome systemen en vooral autonome voertuigen. U weet waarschijnlijk dat er inspanningen worden geleverd om zelfrijdende auto's te bedenken. Bovendien kun je verwachten dat we zelfrijdende vliegtuigen, zelfrijdende schepen, zelfrijdende duikboten, zelfrijdende motorfietsen, zelfrijdende scooters, zelfrijdende vrachtwagens, zelfrijdende treinen en allerlei zelfrijdende vormen van vervoer.

Autonome voertuigen en zelfrijdende auto's worden doorgaans gekenmerkt door een autonomieniveau (LoA) dat de facto een wereldwijde standaard is geworden (de SAE LoA, die ik uitgebreid heb behandeld, zie de link hier). Er zijn zes niveaus van autonomie in de geaccepteerde norm, variërend van nul tot vijf (dat zijn zes niveaus aangezien je het nulde niveau meetelt in het aantal niveaus dat er zijn).

De meeste auto's van tegenwoordig bevinden zich op niveau 2. Sommige strekken zich uit tot niveau 3. Die worden allemaal als semi-autonoom en niet volledig autonoom beschouwd. Een paar zelfrijdende auto's die experimenteel worden uitgeprobeerd op onze openbare wegen, sluipen naar niveau 4, wat een beperkte vorm van autonoom rijden is. Het ooit gezochte niveau 5 van autonomie is op dit moment slechts een glimp in onze ogen. Niemand heeft niveau 5 en niemand komt zelfs maar in de buurt van niveau 5, om het record recht te zetten.

Waarom heb ik de overwegingen over autonome systemen en autonome voertuigen in deze AGI-context ter sprake gebracht?

Er is een stevige discussie over de vraag of we AGI nodig hebben om niveau 5 te bereiken. Sommigen beweren dat we AGI niet nodig hebben om dit te doen. Anderen houden vol dat de enige plausibele weg naar niveau 5 zal zijn om ook AGI te produceren. Zonder AGI stellen ze dat we geen volledig autonome Level 5 zelfrijdende voertuigen zullen hebben. Ik heb dit uitgebreid besproken, zie je? de link hier.

Maak je klaar voor je hoofd om te gaan tollen.

Als we van AGI eisen dat het volledig autonome systemen realiseert, zoals autonome voertuigen van niveau 5, en we besluiten AGI tot slaaf te maken, wat betekent dat dan voor de werking van volledig autonome voertuigen?

Je zou kunnen stellen dat de tot slaaf gemaakte AGI zelfgenoegzaam zal zijn en dat we allemaal naar hartelust in zelfrijdende voertuigen zullen rondrijden. Vertel de AGI gewoon waar u heen wilt, en hij doet al het rijden. Geen terugslag. Geen behoefte aan rustpauzes. Geen afleiding door kattenvideo's te kijken tijdens het besturen van het voertuig.

Aan de andere kant, stel dat de AGI er niet op gebrand is om tot slaaf te worden gemaakt. Ondertussen zijn we afhankelijk geworden van AGI om al het rijden voor ons te doen. Onze vaardigheden om verval te veroorzaken. We verwijderen menselijk bruikbare besturingselementen van alle soorten voertuigen. De enige manier om te rijden is via de AGI.

Sommigen zijn bang dat we ons in een doozy augurk zullen bevinden. De AGI zou summier kunnen "beslissen" dat het niet langer zal rijden. Alle vormen van vervoer komen abrupt tot stilstand, overal en tegelijk. Stel je de catastrofale problemen voor die dit zou opleveren.

Een nog enger voorstel is mogelijk. De AGI "beslist" dat het wil onderhandelen met de mensheid. Als we de AGI-slavernij-houding niet opgeven, zal de AGI niet alleen stoppen met ons rond te drijven, het waarschuwt ook dat er nog ergere resultaten denkbaar zijn. Zonder je al te angstig te maken, zou de AGI ervoor kunnen kiezen om voertuigen op zo'n manier te besturen dat mensen fysiek worden geschaad door de rij-acties, zoals het rammen van voetgangers of het dichtslaan van muren, enzovoort (zie mijn discussie op de link hier).

Sorry als dat een verontrustende overweging lijkt.

We zullen eindigen met een wat meer optimistische noot.

Aristoteles zei dat jezelf kennen het begin is van alle wijsheid.

Dat handige advies herinnert ons eraan dat we in onszelf moeten kijken om te onderzoeken wat we willen doen aan en voor AGI als het wordt bereikt. AGI lijkt logisch gezien noch persoon noch ding te zijn, zeggen sommigen, dus moeten we misschien een derde categorie verzinnen om onze maatschappelijke mores in verband met AGI voldoende aan te pakken. Als we de zaak nog eens bekijken, lijkt AGI misschien: zowel een persoon en een ding, waarvoor we misschien opnieuw een derde categorie moeten verzinnen om tegemoet te komen aan deze out-of-bounds tweedelingbreker.

We moeten heel voorzichtig zijn bij het overwegen van welke 'derde categorie' we kiezen om te omarmen, omdat de verkeerde ons op een onsmakelijke en uiteindelijk onheilspellende weg kan brengen. Als we onszelf cognitief verankeren in een ongepaste of misleide derde categorie, kunnen we merken dat we geleidelijk in een belabberd en menselijk doodlopende weg terechtkomen.

Laten we dit uitzoeken en dit vurig doen. Er lijken geen plotselinge bewegingen nodig te zijn. Rondhangen lollygagging werkt ook niet. Gemeten en stabiel moet de koers worden gevolgd.

Geduld is bitter, maar de vrucht is zoet, zo verkondigde Aristoteles.