AI-ethiek en de bijna verstandige vraag of mensen AI zullen overleven

Ik heb een vraag voor u die tegenwoordig veel handwringing en verhitte debatten lijkt te veroorzaken.

Ben je klaar?

Zal de mens AI overleven?

Denk erover na.

Ik ga de vraag uit de doeken doen en de antwoorden en hoe de antwoorden zijn verhelderd nader onderzoeken. Mijn primaire bedoeling is om te benadrukken hoe de vraag zelf en het omringende discours onvermijdelijk en onverbiddelijk geworteld zijn in AI-ethiek.

Voor degenen die afwijzend denken dat de vraag inherent onbeantwoordbaar is of een verspilling van tijd en adem, zou ik beleefd willen suggereren dat het proberen om de vraag te beantwoorden een aantal essentiële AI-ethische overwegingen oproept. Dus zelfs als je de vraag zonder meer als misschien belachelijk of onrealistisch wilt afwijzen, zeg ik dat het nog steeds enige waarde oproept als een voertuig of mechanisme dat ethische AI-regels onderstreept. Voor mijn voortdurende en uitgebreide verslaggeving over AI Ethics en Ethical AI, zie: de link hier en de link hier, om er een paar te noemen.

Staat u mij, met de bovengenoemde premisse, toe de controversiële vraag nogmaals te herhalen en onze geest de kans te geven om over de betekenis van de vraag te dwalen.

Zal de mens AI overleven?

Als u zich niet op uw gemak voelt bij die specifieke formulering, kunt u de vraag herformuleren om te vragen of AI de mens zal overleven. Ik weet niet zeker of dat het beantwoorden van de vraag gemakkelijker maakt, maar misschien lijkt het minder verontrustend. Ik zeg dat omdat het idee dat AI de mens overleeft misschien wat onschuldiger aanvoelt. Het zou bijna zijn alsof ik je zou vragen of grote gebouwen en door mensen gemaakte monumenten de mensheid zouden overleven.

Dit lijkt zeker haalbaar en niet bijzonder bedreigend. We maken deze grote dingen in de loop van ons leven en verwant aan de piramides, deze machtige structuren zullen langer meegaan dan degenen die ze hebben gemaakt. Dat komt natuurlijk niet helemaal overeen met volharden na het einde van de mensheid, want mensen zijn er nog steeds. Desalniettemin lijkt het heel logisch en mogelijk dat de structuren die we maken ons bestaan ​​in totaal kunnen overleven.

Het opmerkelijke onderscheid is echter dat verschillende structuren zoals hoge wolkenkrabbers en glorieuze standbeelden niet leven. Ze zijn inert. Als we daarentegen naar AI vragen, gaan we ervan uit dat AI in wezen "levend" is in de zin van een of andere vorm van intelligentie en in staat zijn te handelen zoals mensen dat doen. Dat is de reden waarom de vraag over langer leven meer ontmoedigend, geestverruimend en al met al een puzzel is die het waard is om over te puzzelen.

In al mijn opmerkingen hierin blijf ik bij de vraag of mensen AI zullen overleven. Dit is slechts ter wille van de discussie en het gemak van contemplatie. Ik bedoel geen gebrek aan respect voor de alternatieve vraag of AI de mens zal overleven. Al met al omvat deze analyse beide formuleringen en ik vind misschien dat de vraag of mensen AI overleven, meer vertederend lijkt in deze netelige zaken.

Oké, ik zal het nog een keer vragen:

Het lijkt erop dat je twee mogelijke antwoorden hebt, ofwel het ijzersterke ja, mensen zullen AI overleven, of je zou aan de andere kant van de medaille kunnen zijn en vurig volhouden dat nee, mensen zullen AI niet overleven. Deze verheven en door angst geteisterde vraag komt dus neer op een eenvoudige weergave van ja of nee.

Maak uw keuze.

Ik realiseer me dat het summiere antwoord is dat noch ja, noch nee van toepassing is.

Ik hoor je.

Hoewel de vraag zeker alleen op een duidelijk binaire manier beantwoord lijkt te worden, namelijk gewoon ja of nee, geef ik je toe dat een verstandig tegenargument kan worden gemaakt dat het antwoord iets anders is.

Laten we kort de basis onderzoeken om niet alleen maar ja of nee te willen zeggen op deze vraag.

Ten eerste zou u het woord 'overleven' in de context van de gestelde vraag kunnen verwerpen.

Deze specifieke formulering impliceert misschien dat AI leeft. De vraag zei niet "overleven" en vroeg in plaats daarvan of mensen AI zullen overleven. Geldt de outlive alleen voor het menselijke deel van de vraag, of geldt het ook voor het AI-deel van de vraag? Sommigen zouden proberen te beweren dat de overleefde aura ook van toepassing is op het AI-gedeelte. In dat geval zouden ze maagzuur krijgen door te zeggen dat AI een levend wezen is. Voor hen zal AI verwant zijn aan hoge gebouwen en andere constructies. Het leeft niet op dezelfde manier als mensen leven.

Ergo, in dit vurige tegendraadse standpunt is de vraag verkeerd geformuleerd.

U bent misschien vaag bekend met vragen met valse of misleidende premissen. Een van de bekendste voorbeelden is of iemand gaat stoppen met het slaan van zijn vrouw (een oud gezegde dat uiteraard terzijde moet worden geschoven). In dat beruchte voorbeeld, als het antwoord van ja wordt gegeven, impliceert de implicatie dat de persoon dat al deed. Als ze nee zeggen, impliceert dit dat ze dat waren en zullen blijven doen.

In het geval van de vraag of mensen AI zullen overleven, kunnen we bedolven worden onder een moeras over de vraag of AI als iets van een levend facet wordt beschouwd. Zoals ik even zal uitleggen, hebben we vandaag geen AI die bewust is. Ik denk dat de meeste redelijke mensen het erover eens zijn dat een niet-bewuste AI geen levend ding is (nou ja, niet iedereen is het daarmee eens, maar ik zal dat voor nu bepalen - zie mijn berichtgeving over rechtspersoonlijkheid voor AI op de link hier).

De kern van deze eerste basis voor het niet beantwoorden van de vraag of mensen AI zullen overleven, is dat het woord 'overleven' zou kunnen worden geïnterpreteerd om te impliceren dat AI leeft. We hebben nog geen AI van dat soort. Als we bewuste AI produceren of hebben die zich op de een of andere manier voordoet, zou je het moeilijk hebben om te beweren dat het niet leeft (hoewel sommigen zullen proberen een dergelijk argument te maken). Dus de sleutel hier is dat de vraag iets stelt dat niet bestaat en dat we alleen maar speculeren over een onbekende en wazig uitziende toekomst.

We kunnen deze rommeligheid nemen en proberen het uit te breiden tot een meer expressieve uitdrukking. Stel dat we in plaats daarvan dit vragen:

• Zullen mensen als levende wezens langer meegaan dan AI die ofwel (1) niet-levend is, of (2) een levend wezen als dat zich ooit voordoet?

Houd die uitgebreide formulering in gedachten en we komen er snel op terug.

Een tweede reden om geen antwoord te willen geven op de oorspronkelijke vraag of de mens AI zal overleven, is dat het veronderstelt dat een van de dingen een van de andere dingen zal overleven. Maar stel dat ze allebei in wezen eeuwig leven? Of stel dat ze allebei op hetzelfde moment verlopen of verdwijnen?

Ik weet zeker dat je gemakkelijk kunt onderscheiden hoe dat ervoor zorgt dat de ja-of-nee-formulering uit elkaar valt.

Het lijkt erop dat we een mogelijk derde antwoord nodig hebben dat bestaat uit "geen van beide" of een soortgelijk antwoord.

Er is een hele reeks "geen van beide" gerelateerde permutaties. Als iemand bijvoorbeeld de stellige overtuiging heeft dat mensen zichzelf zullen vernietigen via AI, en tegelijkertijd mensen erin slagen de AI te vernietigen, kan deze gelovige de vraag welke de ander zal overleven niet oprecht beantwoorden met een onbuigzaam antwoord van ja of nee. Het antwoord, in dat nogal smerige en droevige geval, zou meer zijn in de trant van dat geen van beide de ander overleeft.

Hetzelfde zou waar zijn als een enorme meteoor de aarde raakt en alles op de planeet wegvaagt, inclusief mensen en elke AI die toevallig in de buurt is (ervan uitgaande dat we allemaal beperkt zijn tot de aarde en niet al extra op Mars leven). Nogmaals, het antwoord van "geen van beide" lijkt meer geschikt dan te suggereren dat de mensen de AI hebben overleefd of dat de AI de mensen heeft overleefd (aangezien ze allebei tegelijkertijd werden vernietigd).

Ik wil hier niet te ver gaan, maar we willen misschien ook enkele parameters vaststellen over de timing van het overleven. Stel dat een meteoor de aarde raakt en dat de mens vrijwel onmiddellijk wordt weggevaagd. Stel ondertussen dat de AI nog een tijdje doorgaat. Zie dit alsof we al machines in fabrieken hebben die blijven neuriën totdat de machines uiteindelijk tot stilstand komen omdat er geen mensen zijn die de machines in goede staat houden.

Je zou moeten zeggen dat mensen werden overleefd of overleefd door die machines. Daarom is het antwoord "nee" met betrekking tot de vraag of mensen langer hebben overleefd. Dat antwoord lijkt vaag. De machines kwamen geleidelijk en onverbiddelijk tot stilstand, vermoedelijk door het gebrek aan mensen om hen heen. Lijkt het eerlijk om te beweren dat de machines in staat waren om langer mee te gaan dan de mensen?

Waarschijnlijk alleen voor degenen die kieskeurig zijn en altijd irritant precies willen zijn.

We zouden dan een soort tijdgerelateerd element aan de vraag kunnen toevoegen. Zal de mens AI langer dan een dag overleven? Voor meer dan een maand? Voor meer dan een jaar? Al meer dan een eeuw? Ik realiseer me dat dit helaas de doos van Pandora opent.

Wat is het aangename tijdsbestek waarboven we zouden willen toegeven dat de AI in feite de mens heeft overleefd of overleefd? Het juiste antwoord lijkt te zijn dat zelfs als het een nanoseconde (een miljardste van een seconde) of korter duurt, de AI summier wint en de mensen verliezen op dit gebied. Het toestaan ​​van speelruimte door een dag, een week of een maand te gebruiken lijkt misschien eerlijker. Dit jaren of eeuwen laten doorgaan lijkt een mogelijke uitstrekking. Dat gezegd hebbende, als je naar de wereld kijkt op de schaal van miljoenen jaren, lijkt het idee dat AI de mens niet langer dan een paar eeuwen overleeft of overleeft, opmerkelijk oninteressant en we zouden kunnen verklaren dat ze allebei ophielden met ongeveer de tegelijkertijd (op afgeronde basis).

Hoe dan ook, laten we toegeven dat om verschillende redelijk redelijke redenen de gestelde vraag drie mogelijke antwoorden mag hebben:

• Ja, mensen zullen AI overleven
• Nee, en daarmee bewerend dat mensen dat wel zullen niet overleven AI
• Noch ja, noch nee is van toepassing (toelichting nodig, zo u wilt)

Ik vermeld dat als u "geen van beide" kiest, u ook een verklaring voor uw antwoord moet geven. Dit is zodat we kunnen weten waarom u denkt dat "geen van beide" van toepassing is en ook waarom u het gebruik van ja of nee afwijst. Om het leven voor iedereen eerlijker te maken, veronderstel ik dat we er een beetje op moeten aandringen of op zijn minst moeten aanmoedigen dat, zelfs als u met ja of nee antwoordt, u toch een verklaring moet bieden. Het geven van een eenvoudig ja of nee onthult niet in het bijzonder uw logica waarom u antwoordt zoals u bent. Zonder ook een verklaring te geven, kunnen we net zo goed een muntje opgooien. De munt weet niet waarom hij op kop of munt belandde (tenzij je gelooft dat de munt een ziel heeft of een alwetende hand van het lot belichaamt, maar daar gaan we voorlopig niet mee akkoord).

We verwachten dat mensen die vragen beantwoorden een soort verklaring geven voor hun beslissingen. Merk op dat ik niet zeg dat de uitleg noodzakelijkerwijs van logische of verstandige aard zal zijn, en inderdaad kan een uitleg volledig leeg zijn en geen speciale waarde toevoegen. Desalniettemin kunnen we oprecht hopen dat een verklaring verhelderend zal zijn.

Tijdens deze discussie is er een onuitgesproken veronderstelling geweest dat om de een of andere reden een van deze dingen inderdaad de andere zal overleven.

Waarom moeten we zo'n impliciete voorwaarde geloven?

Het antwoord op deze secundaire vraag is bijna vanzelfsprekend.

Dit is de deal.

We weten dat enkele prominente waarzeggers en intellectuelen nogal gewaagde en uitgebreide voorspellingen hebben gedaan over hoe de opkomst of komst van bewuste AI de wereld zoals we die vandaag kennen radicaal zal veranderen (ter herinnering: we hebben vandaag geen bewuste AI) .

Hier zijn een paar bekende citaten die de levensveranderende effecten van bewuste AI benadrukken:

• Stephen Hawking: "Succes bij het creëren van AI zou de grootste gebeurtenis in de menselijke geschiedenis zijn."
• Ray Kurzweil: "Binnen een paar decennia zal machine-intelligentie de menselijke intelligentie overtreffen, wat leidt tot The Singularity - technologische verandering die zo snel en diepgaand is dat het een breuk in het weefsel van de menselijke geschiedenis vertegenwoordigt."
• Nick Bostrom: "Machine-intelligentie is de laatste uitvinding die de mensheid ooit zal moeten doen."

Die beweringen zijn duidelijk optimistisch.

Het punt is dat we ook rekening moeten houden met de lelijke onderbuik als het gaat om het omgaan met bewuste AI:

• Stephen Hawking: "De ontwikkeling van volledige kunstmatige intelligentie zou het einde van de mensheid kunnen betekenen."
• Elon Musk: “Ik ben steeds meer geneigd te denken dat er wat regelgevend toezicht moet komen, misschien op nationaal en internationaal niveau, om er zeker van te zijn dat we niet iets heel dwaas doen. Ik bedoel, met kunstmatige intelligentie roepen we de demon op.'

Sentient AI is naar verwachting de spreekwoordelijke tijger die we bij de staart hebben gegrepen. Zullen we de mensheid omhoogschieten door gebruik te maken van bewuste AI? Of zullen we domweg onze eigen ondergang produceren door bewuste AI die ervoor kiest om ons te vernietigen of tot slaaf te maken? Voor mijn analyse van dit dual-use AI-raadsel, zie: de link hier.

De onderliggende twijfel of mensen AI zullen overleven, is dat we misschien een Frankenstein maken die ervoor kiest om de mensheid uit te roeien. AI wordt de overwinnaar. Er zijn veel mogelijke redenen waarom AI ons dit zou aandoen. Misschien is de AI slecht en handelt dienovereenkomstig. Misschien krijgt AI genoeg van de mens en realiseert hij zich dat het de macht heeft om de mensheid uit de weg te ruimen. Men veronderstelt dat het ook per ongeluk kan gebeuren. De AI probeert de mensheid te redden en in het proces, oeps, doodt ons allemaal ronduit. Het motief was tenminste schoon.

Misschien vind je een beroemd AI-raadsel dat bekend staat als het paperclipprobleem, interessant, en dat heb ik besproken op: de link hier.

Kortom, een op een dag bewuste AI wordt gevraagd om paperclips te maken. AI is hierop gefixeerd. Om ervoor te zorgen dat het maken van paperclips volledig wordt uitgevoerd, begint de AI alle andere planetaire hulpbronnen op te slokken om dit te doen. Dit leidt tot de ondergang van de mensheid, aangezien AI alle beschikbare middelen heeft verbruikt voor het enige doel dat de mens eraan heeft gegeven. Paperclips veroorzaken onze eigen vernietiging als je wilt. AI die eng is ontworpen en geen schijn van gezond verstand heeft, is het soort AI waar we vooral wantrouwend voor moeten zijn.

Voordat we verder ingaan op de vraag of mensen AI zullen overleven, merk op dat ik steeds de kwestie van bewuste AI versus niet-bewuste AI ter sprake breng. Ik doe dat om belangrijke redenen.

We kunnen wild speculeren over bewuste AI. Niemand weet zeker wat dit zal zijn. Niemand kan met zekerheid zeggen of we ooit bewuste AI zullen bereiken. Als gevolg van deze onbekende en tot nu toe onkenbare omstandigheid kan bijna elk scenario worden afgeleid. Iemand kan zeggen dat bewuste AI slecht zal zijn. Iemand kan zeggen dat bewuste AI goed en welwillend zal zijn. U kunt doorgaan, waarbij geen "bewijs" kan worden geleverd om de gegeven bewering tot enige zekerheid of zekerheid te versterken.

Dit brengt ons op het gebied van AI-ethiek.

Dit alles heeft ook te maken met nuchter opkomende zorgen over de hedendaagse AI en vooral het gebruik van Machine Learning (ML) en Deep Learning (DL). Zie je, er zijn toepassingen van ML/DL die de neiging hebben om de AI door het grote publiek te antropomorfiseren, gelovend of ervoor kiezend om aan te nemen dat de ML/DL ofwel bewuste AI is of dichtbij (dat is het niet).

Het is misschien handig om eerst te verduidelijken wat ik bedoel als ik het over AI in het algemeen heb en ook een kort overzicht te geven van Machine Learning en Deep Learning. Er is veel verwarring over wat kunstmatige intelligentie inhoudt. Ik wil u ook de principes van AI-ethiek voorstellen, die vooral een integraal onderdeel zullen zijn van de rest van deze verhandeling.

Vermelding van het record over AI

Laten we ervoor zorgen dat we op dezelfde lijn zitten over de aard van de hedendaagse AI.

Er is tegenwoordig geen AI die bewust is.

Dit hebben we niet.

We weten niet of bewuste AI mogelijk zal zijn. Niemand kan treffend voorspellen of we bewuste AI zullen bereiken, noch of bewuste AI op de een of andere wonderbaarlijke manier spontaan zal ontstaan ​​in een vorm van computationele cognitieve supernova (meestal aangeduid als The Singularity, zie mijn bericht op de link hier).

Realiseer je dat de huidige AI niet in staat is om op enige manier te 'denken' op het niveau van menselijk denken. Wanneer je met Alexa of Siri communiceert, lijken de gesprekscapaciteiten misschien verwant aan menselijke capaciteiten, maar de realiteit is dat het computationeel is en geen menselijke cognitie heeft. Het nieuwste tijdperk van AI heeft uitgebreid gebruik gemaakt van Machine Learning en Deep Learning, die gebruikmaken van computationele patroonherkenning. Dit heeft geleid tot AI-systemen die de schijn hebben van mensachtige neigingen. Ondertussen is er tegenwoordig geen enkele AI die een schijn van gezond verstand heeft en evenmin de cognitieve verwondering van robuust menselijk denken.

Een deel van het probleem is onze neiging om computers en vooral AI te antropomorfiseren. Wanneer een computersysteem of AI lijkt te handelen op een manier die we associëren met menselijk gedrag, is er een bijna overweldigende drang om menselijke eigenschappen aan het systeem toe te schrijven. Het is een veel voorkomende mentale val die zelfs de meest onverzettelijke scepticus kan grijpen over de kansen om het bewustzijn te bereiken. Voor mijn gedetailleerde analyse van dergelijke zaken, zie: de link hier.

Tot op zekere hoogte is dat de reden waarom AI Ethics en Ethical AI zo'n cruciaal onderwerp is.

De voorschriften van AI Ethics zorgen ervoor dat we waakzaam blijven. AI-technologen kunnen soms in beslag worden genomen door technologie, met name de optimalisatie van hightech. Ze houden niet per se rekening met de grotere maatschappelijke gevolgen. Het hebben van een AI Ethics-mentaliteit en dit integraal doen voor de ontwikkeling en fielding van AI is van vitaal belang voor het produceren van geschikte AI, inclusief de beoordeling van hoe AI-ethiek door bedrijven wordt geadopteerd.

Naast het gebruik van AI-ethische voorschriften in het algemeen, is er een overeenkomstige vraag of we wetten moeten hebben om verschillende toepassingen van AI te regelen. Op federaal, staats- en lokaal niveau worden nieuwe wetten rondgestrooid die betrekking hebben op het bereik en de aard van hoe AI moet worden ontworpen. De inspanning om dergelijke wetten op te stellen en uit te voeren, is een geleidelijke. AI-ethiek dient op zijn minst als een weloverwogen noodoplossing en zal vrijwel zeker tot op zekere hoogte rechtstreeks worden opgenomen in die nieuwe wetten.

Houd er rekening mee dat sommigen onvermurwbaar beweren dat we geen nieuwe wetten nodig hebben die AI omvatten en dat onze bestaande wetten voldoende zijn. Ze waarschuwen vooraf dat als we een aantal van deze AI-wetten invoeren, we de gouden gans zullen doden door de vooruitgang in AI die enorme maatschappelijke voordelen biedt, in te dammen.

In eerdere columns heb ik de verschillende nationale en internationale inspanningen besproken om wetten te maken en uit te vaardigen die AI reguleren, zie de link hier, bijvoorbeeld. Ik heb ook de verschillende AI-ethiekprincipes en -richtlijnen behandeld die verschillende landen hebben geïdentificeerd en aangenomen, waaronder bijvoorbeeld de inspanningen van de Verenigde Naties, zoals de UNESCO-reeks AI-ethiek die bijna 200 landen hebben aangenomen, zie de link hier.

Hier is een handige keystone-lijst van ethische AI-criteria of kenmerken met betrekking tot AI-systemen die ik eerder nauwkeurig heb onderzocht:

• Transparantie
• Gerechtigheid & Eerlijkheid
• Niet-kwaadaardigheid
• Verantwoordelijkheid
• Privacy
• Weldadigheid
• Vrijheid & Autonomie
• Trust
• Duurzaamheid
• Waardigheid
• Solidariteit

Die AI Ethics-principes worden serieus verondersteld te worden gebruikt door AI-ontwikkelaars, samen met degenen die AI-ontwikkelingsinspanningen beheren, en zelfs degenen die uiteindelijk het onderhoud aan AI-systemen uitvoeren en uitvoeren. Alle belanghebbenden gedurende de gehele AI-levenscyclus van ontwikkeling en gebruik worden beschouwd in het kader van het naleven van de gevestigde normen van ethische AI. Dit is een belangrijk hoogtepunt, aangezien de gebruikelijke veronderstelling is dat "alleen codeurs" of degenen die de AI programmeren, onderworpen zijn aan het naleven van de AI-ethische noties. Zoals eerder hierin is benadrukt, is er een dorp nodig om AI te bedenken en in de praktijk te brengen, en waarvoor het hele dorp vertrouwd moet zijn met en zich moet houden aan de ethische voorschriften van AI.

Laten we de zaken nuchter houden en ons concentreren op de computationele, niet-bewuste AI van vandaag.

ML/DL is een vorm van computationele patroonvergelijking. De gebruikelijke aanpak is dat je gegevens verzamelt over een beslissingstaak. Je voert de data in in de ML/DL computermodellen. Die modellen proberen wiskundige patronen te vinden. Na het vinden van dergelijke patronen, indien gevonden, zal het AI-systeem die patronen gebruiken bij het tegenkomen van nieuwe gegevens. Bij de presentatie van nieuwe gegevens worden de patronen op basis van de "oude" of historische gegevens toegepast om een ​​actuele beslissing te nemen.

Ik denk dat je wel kunt raden waar dit naartoe gaat. Als mensen die het patroon van beslissingen hebben genomen, ongewenste vooroordelen hebben opgenomen, is de kans groot dat de gegevens dit op subtiele maar significante manieren weerspiegelen. Machine Learning of Deep Learning computationele patroonvergelijking zal eenvoudig proberen de gegevens dienovereenkomstig wiskundig na te bootsen. Er is geen schijn van gezond verstand of andere bewuste aspecten van AI-crafted modellering op zich.

Bovendien realiseren de AI-ontwikkelaars zich misschien ook niet wat er aan de hand is. De mysterieuze wiskunde in de ML/DL kan het moeilijk maken om de nu verborgen vooroordelen op te sporen. Je zou terecht hopen en verwachten dat de AI-ontwikkelaars zouden testen op de mogelijk begraven vooroordelen, hoewel dit lastiger is dan het lijkt. Er bestaat een solide kans dat zelfs bij relatief uitgebreide testen dat er nog steeds vooroordelen zullen zijn ingebed in de patroonvergelijkingsmodellen van de ML/DL.

Je zou een beetje het beroemde of beruchte adagium van garbage-in garbage-out kunnen gebruiken. Het punt is dat dit meer lijkt op vooroordelen, die verraderlijk doordrenkt raken als vooroordelen die ondergedompeld zijn in de AI. De algoritmebesluitvorming (ADM) van AI wordt axiomatisch beladen met ongelijkheden.

Niet goed.

Ik denk dat ik nu het podium voldoende heb geëffend om verder te onderzoeken of mensen AI zullen overleven.

Mensen en AI zijn vrienden, vijanden of vijanden

Ik had eerder verkondigd dat elk antwoord op de vraag of de mens AI zal overleven vergezeld moet gaan van een verklaring.

We zullen een kijkje nemen op de Ja antwoorden. Ik zal een korte lijst met uitleg geven. U bent van harte welkom om een ​​van deze verklaringen over te nemen. U wordt ook aangemoedigd om andere verklaringen af ​​te leiden, waarvan er vele denkbaar zijn.

Ja, mensen zullen AI overleven omdat:

• Mensen als makers: Mensen zijn de makers en handhavers van AI, zodat AI zonder mensen ophoudt te bestaan ​​of te bestaan
• Aangeboren geest van de mens: Mensen hebben een ontembare levenslust, terwijl AI dat niet doet, dus op de een of andere manier zullen mensen overleven, maar AI zal ongetwijfeld uit de boot vallen vanwege een gebrek aan aangeboren stimulans om te overleven
• Mensen als overwinnaars: Mensen zullen AI niet langer laten leven dan mensen omdat mensen ervoor zouden kiezen om AI volledig te verslaan als mensen door AI in gevaar zouden worden gebracht of anderszins zouden uitsterven
• Overige

We zullen het antwoord Nee (niet-ja) bekijken. Ik zal een korte lijst met uitleg geven. U bent van harte welkom om een ​​van deze verklaringen over te nemen. U wordt ook aangemoedigd om andere verklaringen af ​​te leiden, waarvan er vele denkbaar zijn.

Mensen zullen AI niet overleven omdat:

• AI in staat om zichzelf te volharden: Zelfs als mensen de makers en handhavers van AI zijn, zal de AI ofwel worden geprogrammeerd of bedacht door mensen om te volharden in de afwezigheid van mensen, of de AI zal zijn eigen middelen van volharding vinden (mogelijk zonder dat mensen dit beseffen)
• AI kunstmatige geest: Zelfs als mensen een ontembare levenslust hebben, weten we dat mensen ook een geest van zelfvernietiging hebben; in ieder geval kan de AI worden geprogrammeerd met een kunstmatige geest, als je wilt, zodat de AI probeert te overleven en/of de AI op zijn eigen voorwaarden een schijn van aangeboren verkwikking zal voorspellen
• AI overwint overwinnaars: Zelfs als mensen niet willen dat AI mensen overleeft, zal AI mogelijk worden geprogrammeerd om de menselijke overwinningsinspanningen te slim af te zijn of kan het zelf bepalen hoe dit moet (en misschien ervoor kiezen om mensen dienovereenkomstig te overwinnen, of niet)
• Overige

We zijn evenzeer verplicht om een ​​kijkje te nemen bij de “Geen van beide” (niet Ja, Niet Nee) antwoorden. Ik zal een korte lijst met uitleg geven. U bent van harte welkom om een ​​van deze verklaringen over te nemen. U wordt ook aangemoedigd om andere verklaringen af ​​te leiden, waarvan er vele denkbaar zijn.

Mensen overleven AI niet en ondertussen overleeft AI mensen niet, vanwege:

• Mensen en AI bestaan ​​voor altijd van harte: Blijkt dat mensen en AI bedoeld zijn om voor altijd bij elkaar te zijn. Er kunnen onderweg hobbels zijn. Het goede nieuws of blije gezicht is dat we het allemaal met elkaar kunnen vinden.
• Mensen en AI bestaan ​​voor altijd haatdragend: Whoa, mensen en AI gaan elkaar haten. Droevig gezicht scenario. Het punt is, er is een patstelling nabij. AI kan niet prevaleren boven mensen. Mensen kunnen niet zegevieren over AI. Een touwtrekken van een eeuwige toestand.
• Mensen en AI vernietigen elkaar wederzijds: Twee zwaargewichten slaan elkaar uiteindelijk uit de ring en niet van deze wereld. Mensen prevaleren boven AI, maar de AI is erin geslaagd om ook te zegevieren over mensen (misschien een opstelling van de dag des oordeels)
• Mensen en AI worden weggevaagd door enige noodzaak: Mensen en AI worden weggevaagd door een opvallende meteoor of misschien een buitenaards wezen van een andere planeet die besluit dat het een absolute no-go is voor mensen en van de mensheid afgeleide AI (zelfs niet geïnteresseerd in het stelen van onze verbazingwekkende AI van ons)
• Overige

Er zijn enkele van de meest voorkomende redenen voor de Ja, Nee en Geen van beide antwoorden op de vraag of mensen AI zullen overleven.

Conclusie

Je herinnert je misschien dat ik eerder deze uitgebreide variant van de mens die AI-vraag overleeft aanbood:

• Zullen mensen als levende wezens langer meegaan dan AI die ofwel (1) niet-levend is, of (2) een levend wezen als dat zich ooit voordoet?

De bovengenoemde antwoorden zijn over het algemeen gericht op het laatste deel van de vraag, namelijk de omstandigheid met AI van een bewuste variëteit. Ik heb er al op gewezen dat dit enorm speculatief is, omdat we niet weten of bewuste AI zal plaatsvinden. Sommigen zouden beweren dat we er, voor het geval dat, terecht verstandig is om van tevoren te bedenken wat er zou kunnen gebeuren.

Als dat u schromelijk onrealistisch lijkt, begrijp ik dat dit allemaal nogal hypothetisch is en vol veronderstellingen bovenop veronderstellingen. Het is een vat vol aannames. U zult de waarde moeten vaststellen die dergelijke speculatieve inspanningen volgens u opleveren.

Om als het ware meer naar de koperen kopspijkers te gaan, kunnen we het niet-levende of niet-bewuste type AI beschouwen.

Kort de vraag in tot dit:

• Zullen mensen de niet-levende, niet-bewuste AI overleven?

Geloof het of niet, dit is een inhoudelijk waardige vraag.

Je weet misschien niet zeker waarom deze niet-levende, niet-bewuste AI overal in de marge zou kunnen zijn om op de een of andere manier de mensheid te overleven.

Overweeg de situatie met autonome wapensystemen, die ik heb besproken op de link hier. We zien nu al dat wapensystemen worden bewapend met AI, waardoor het wapen enigszins autonoom kan werken. Deze niet-levende, niet-bewuste AI heeft geen schijn van denken, geen schijn van gezond verstand, enz.

Stel je een van die apocalyptische situaties voor. Verschillende landen hebben deze laagwaardige AI in hun massavernietigingswapens verwerkt. Onbedoeld (of opzettelijk) worden deze door AI aangedreven autonome wapensystemen gelanceerd of ontketend. Er is onvoldoende failsafe om ze te stoppen. De mensheid wordt vernietigd.

Zou de AI de mens overleven in dat soort scenario?

Ten eerste kan het je misschien niet zoveel schelen. Met andere woorden, als de hele mensheid is weggevaagd, lijkt het een beetje op het verplaatsen van die ligstoelen op de Titanic. Maakt het uit dat de AI nog doorgaat?

Een liefhebber zou kunnen beweren dat het er nog steeds toe doet. Oké, we zullen de stickler vermaken. De AI kan op zichzelf draaien via zonnepanelen en andere vormen van energie die de machines kunnen blijven voeden. We hebben misschien ook AI-systemen bedacht die andere AI-systemen repareren en onderhouden. Merk op dat dit geen bewuste AI vereist.

Al met al kun je een scenario bedenken waarbij de mensheid is verlopen en de AI nog steeds werkt. Misschien gaat de AI maar voor een korte tijd door. Desalniettemin, zoals blijkt uit de eerdere discussie over exact nauwkeurig zijn met betrekking tot timing, heeft AI in feite de mens (een tijdje) overleefd.

Een laatste gedachte over dit onderwerp, voor nu.

Bespreken of mensen bewuste AI zullen overleven, is bijna als de spreekwoordelijke lepel suiker (hoe kan dit, vraag je je misschien af, nou, houd je hoed vast en ik zal het je vertellen).

Zie je, we moeten zeker weten dat de niet-bewuste AI ook een groots en pijnlijk potentieel heeft om deel te nemen aan het uitroeien van de mensheid en het overleven van ons. Niet in het bijzonder omdat de AI "ons wilde overleven", maar gewoon door onze eigen handen bij het maken van AI die geen menselijke tussenkomst nodig heeft om te blijven functioneren. Sommigen zullen sterk beweren dat AI die is ontworpen om enigszins eeuwigdurend te zijn, een destabiliserende invloed kan zijn die sommige mensen ertoe kan brengen een eerste stap te zetten om andere mensen te vernietigen, zie mijn uitleg op de link hier.

Het deel over het overleven van mensen is niet de steunpilaar van waarom de vraag tegenwoordig zo'n gewicht verdient. In plaats daarvan is de verborgen onderstroom over hoe we de AI van vandaag maken en hoe we AI in gebruik nemen de echte kicker hier. We moeten veel nadenken over de AI-ethiekvertakkingen en maatschappelijke effecten van hedendaagse AI.

Als de ietwat gekke vraag of mensen AI zullen overleven de hier-en-nu-kwesties van de hedendaagse AI op tafel krijgt, zullen we beter af zijn. Op die manier zijn de bewuste AI-facetten van mensen die AI overleven, de lepel suiker die hopelijk het medicijn naar beneden haalt over het omgaan met de hier-en-nu AI.

Slechts een lepel suiker helpt het medicijn soms naar beneden te gaan. En op de meest heerlijke manieren. Of in ieder geval op een boeiende manier die onze aandacht trekt en ons vasthoudt aan waar we ons zorgen over moeten maken.

Zoals het deuntje verder zegt, als een roodborstje dat zijn nest bevedert, hebben we heel weinig tijd om te rusten.