AI Ethics vraagt ​​of het zin heeft om AI te vragen of AI zelf gevoelig is

Als ik u vraag of u gevoelig bent, zult u ongetwijfeld beweren dat u dat bent.

Sta me toe die veronderstelling nog eens te controleren.

Ben je inderdaad bewust?

Misschien lijkt de vraag zelf een beetje dwaas. De kans is groot dat we in ons dagelijks leven zeker verwachten dat medemensen erkennen dat ze bewust zijn. Dit kan een humoristische vraag zijn die zou moeten impliceren dat de andere persoon misschien niet oplet of van de waarnemingswagen is gevallen en als het ware even mentaal uit eten is gegaan om te lunchen.

Stel je voor dat je naar een rots loopt die stil en onopvallend op een stapel stenen zit en als je dichtbij genoeg bent om te vragen, ga je gang en vraag je of de rots gevoelig is. Ervan uitgaande dat de rots slechts een rots is, verwachten we overvloedig dat de vroegere maar schijnbaar vreemde vraag zal worden beantwoord met een nogal steenachtige stilte (woordspeling!). De stilte wordt summier geïnterpreteerd om aan te geven dat de rots niet bewust is.

Waarom breng ik deze verschillende nuances naar voren over het proberen te bepalen of iemand of iets bewust is?

Omdat het een behoorlijk groot probleem is in kunstmatige intelligentie (AI) en de samenleving alles bij elkaar, dient het als een monumentaal onderwerp dat grote belangstelling heeft gewekt en de laatste tijd enorm schetterende mediakoppen heeft. Er zijn belangrijke AI-ethiekkwesties die draaien om het hele AI-is-bewuste raadsel. Voor mijn voortdurende en uitgebreide verslaggeving over AI Ethics en Ethical AI, zie: de link hier en de link hier, om er een paar te noemen.

Je hebt genoeg losbandige redenen om één oog open te houden en te kijken naar die beweringen dat AI eindelijk de hoek heeft omgeslagen en in de alom gerespecteerde categorie van bewustzijn is terechtgekomen. We worden voortdurend gehamerd door nieuwsberichten die beweren dat AI blijkbaar op het punt staat om bewustzijn te bereiken. Bovendien is er de enorme handwringing dat AI van een bewust kaliber een wereldwijd catastrofaal existentieel risico vertegenwoordigt.

Het is logisch om je spinnenzintuig gereed te houden voor het geval het een nabijgelegen tinteling van AI-gevoel detecteert.

In het AI- en gevoels-enigma komt de recente situatie van de Google-ingenieur die stoutmoedig verkondigde dat een bepaald AI-systeem bewust was geworden. Het AI-systeem dat bekend staat als LaMDA (afkorting van Language Model for Dialogue Applications) was in staat om een ​​schriftelijke dialoog met de ingenieur te voeren in die mate dat deze mens afleidde dat de AI gevoelig was. Ondanks wat je nog meer hebt gehoord over deze kolossale claim, weet alsjeblieft dat de AI niet bewust was (en ook niet in de buurt komt).

Er is tegenwoordig geen AI die bewust is. Wij hebben dit niet. We weten niet of bewuste AI mogelijk zal zijn. Niemand kan treffend voorspellen of we bewuste AI zullen bereiken, noch of bewuste AI op de een of andere manier op wonderbaarlijke wijze spontaan zal ontstaan ​​in een vorm van computationele cognitieve supernova (meestal aangeduid als de singulariteit, zie mijn bericht op de link hier).

Mijn focus hierin omvat een enigszins eenvoudig maar behoorlijk inhoudelijk facet dat ten grondslag ligt aan veel van deze AI- en sentimentdiscussies.

Ben je klaar?

We lijken er vanuit te gaan dat we adequaat kunnen vaststellen of AI bewust is door de AI te vragen of het inderdaad bewust is.

Terugkomend op mijn eerdere vermelding dat we mensen dezelfde vraag kunnen stellen, weten we dat een mens meer dan waarschijnlijk zal melden dat ze in feite bewust zijn. We weten ook dat een miezerige rots niet zal melden dat hij bewust is als hem daarom wordt gevraagd (nou, de rots blijft stil en spreekt niet, wat we veronderstellen inhoudt dat de rots niet bewust is, hoewel hij misschien zijn vijfde Wijziging zwijgrecht).

Dus als we een AI-systeem vragen of het bewust is en als we een ja-antwoord krijgen, lijkt de aangegeven bevestiging de deal te bezegelen dat de AI gevoelig moet zijn. Een steen geeft helemaal geen antwoord. Een mens geeft een ja-antwoord. Ergo, als een AI-systeem een ​​ja-antwoord geeft, moeten we tot de ijzersterke conclusie komen dat de AI geen rots is en daarom van een menselijke gevoelskwaliteit moet zijn.

Je zou die logica kunnen beschouwen als die van die wiskundelessen die je op de middelbare school volgde en die zonder enige twijfel bewezen dat één plus één gelijk moet zijn aan twee. De logica lijkt onberispelijk en onweerlegbaar.

Sorry, maar de logica stinkt.

Onder insiders binnen de AI-gemeenschap heeft het idee om een ​​AI-systeem eenvoudigweg te vragen om te reageren, of het nu bewust is of niet, een hele reeks bijtend cynische memes en zwaar verstikkende reacties gegenereerd.

De zaak wordt vaak afgeschilderd als een kwestie van twee regels code.

Alsjeblieft:

• Als dan .
• Herhaal tot .

Merk op dat u de twee regels code kunt reduceren tot alleen de eerste. Waarschijnlijk zal het een beetje sneller werken en efficiënter zijn als codeeroefening. Altijd gericht op optimalisatie als je een diehard software engineer bent.

Het punt van dit vlezige scepticisme van AI-insiders is dat een AI-systeem gemakkelijk door een mens kan worden geprogrammeerd om te melden of weer te geven dat de AI bewust is. De realiteit is dat er geen is die er is. Er is geen gevoel in de AI. De AI is alleen geprogrammeerd om de indicatie te geven dat hij bewust is. Vuilnis erin, afval eruit.

Een deel van het probleem is onze neiging om computers en vooral AI te antropomorfiseren. Wanneer een computersysteem of AI lijkt te handelen op een manier die we associëren met menselijk gedrag, is er een bijna overweldigende drang om menselijke eigenschappen aan het systeem toe te schrijven. Het is een veel voorkomende mentale val die zelfs de meest onverzettelijke scepticus kan grijpen over de kansen om het bewustzijn te bereiken. Voor mijn gedetailleerde analyse over dergelijke zaken, zie: de link hier.

Tot op zekere hoogte is dat de reden waarom AI Ethics en Ethical AI zo'n cruciaal onderwerp is. De voorschriften van AI Ethics zorgen ervoor dat we waakzaam blijven. AI-technologen kunnen soms in beslag worden genomen door technologie, met name de optimalisatie van hightech. Ze houden niet per se rekening met de grotere maatschappelijke gevolgen. Het hebben van een AI Ethics-mentaliteit en dit integraal doen voor de ontwikkeling en fielding van AI is van vitaal belang voor het produceren van geschikte AI, inclusief de beoordeling van hoe AI-ethiek door bedrijven wordt geadopteerd.

Naast het gebruik van AI-ethische voorschriften in het algemeen, is er een overeenkomstige vraag of we wetten moeten hebben om verschillende toepassingen van AI te regelen. Op federaal, staats- en lokaal niveau worden nieuwe wetten rondgestrooid die betrekking hebben op het bereik en de aard van hoe AI moet worden ontworpen. De inspanning om dergelijke wetten op te stellen en uit te voeren, is een geleidelijke. AI-ethiek dient op zijn minst als een weloverwogen noodoplossing en zal vrijwel zeker tot op zekere hoogte rechtstreeks worden opgenomen in die nieuwe wetten.

Houd er rekening mee dat sommigen onvermurwbaar beweren dat we geen nieuwe wetten nodig hebben die AI omvatten en dat onze bestaande wetten voldoende zijn. Ze waarschuwen zelfs van tevoren dat als we een aantal van deze AI-wetten invoeren, we de gouden gans zullen doden door de vooruitgang in AI die enorme maatschappelijke voordelen biedt, in te dammen. Zie bijvoorbeeld mijn dekking op de link hier en de link hier.

De problemen met de vraag

Wacht even, denk je misschien, houdt dit alles in dat we moeten? niet AI vragen of de AI bewust is?

Laten we die vraag eens uitpakken.

Overweeg eerst de antwoorden die de AI kan bieden en de werkelijke toestand van de AI.

We kunnen AI vragen of het bewust is en een van de twee antwoorden terugkrijgen, namelijk ja of nee. Ik zal tegen het einde van deze discussie wat complexiteit aan die antwoorden toevoegen, dus houd die gedachte vast. Ook kan de AI zich in een van de twee mogelijke omstandigheden bevinden, met name de AI is niet bewust of de AI is bewust. Herinnering, we hebben op dit moment geen bewuste AI en de toekomst van of en wanneer is volkomen onzeker.

De eenvoudige combinaties zijn deze:

• AI zegt ja, het is bewust, maar de realiteit is dat de AI niet bewust is (bijv. LaMDA-instantie)
• AI zegt ja, het is bewust, en inderdaad de AI is bewust (heb dit vandaag niet)
• AI zegt nee, het is niet bewust, en inderdaad de AI is niet bewust (ik zal dit uitleggen)
• AI zegt nee, het is niet bewust, maar de realiteit is dat de AI bewust is (ik zal dit ook uitleggen)

De eerste twee van die gevallen zijn hopelijk eenvoudig. Wanneer AI ja zegt, is het bewust, maar de realiteit is dat het niet zo is, we kijken naar het nu klassieke voorbeeld zoals de LaMDA-instantie waarbij een mens zichzelf ervan overtuigde dat de AI de waarheid vertelt en dat de AI bewust is. Geen dobbelstenen (het is niet bewust).

Het tweede opsommingsteken betreft de nog nooit geziene en op dit moment ongelooflijk verre mogelijkheid van AI die ja zegt en het is echt onbetwistbaar bewust. Ik kan niet wachten om dit te zien. Ik houd mijn adem niet in en jij ook niet.

Ik vermoed dat de resterende twee punten enigszins raadselachtig zijn.

Denk aan de use case van een AI die zegt dat hij niet bewust is en we zijn het er ook allemaal over eens dat de AI niet bewust is. Veel mensen roepen meteen de volgende geestverruimende vraag op: Waarom zou de AI ons in vredesnaam vertellen dat het niet bewust is, terwijl de handeling om ons te vertellen over zijn gevoel een zeker teken moet zijn dat het bewust is?

Daar zijn veel logische verklaringen voor.

Gezien het feit dat mensen gevoelig zijn voor het toeschrijven van gevoel aan AI, willen sommige AI-ontwikkelaars het record rechtzetten en daarom programmeren ze de AI om nee te zeggen wanneer hem wordt gevraagd naar zijn gevoel. We zijn weer terug bij het coderingsperspectief. Een paar regels code kunnen mogelijk nuttig zijn om mensen ervan te weerhouden te denken dat AI bewust is.

De ironie is natuurlijk dat het antwoord sommige mensen ertoe aanzet te geloven dat AI bewust moet zijn. Als zodanig kiezen sommige AI-ontwikkelaars ervoor om stilte van de AI aan te bieden als een manier om verwarring te voorkomen. Als je denkt dat een steen niet bewust is en stil blijft, is het misschien de beste gok om een ​​AI-systeem te bedenken om ervoor te zorgen dat hij stil blijft wanneer hem wordt gevraagd of hij gevoelig is. De stilte zorgt voor een "reactie" die even krachtig is, zo niet meer, dan proberen een voorbereid gecodeerd antwoord te geven.

Dat lost de zaken echter niet helemaal op.

De stilte van de AI kan sommige mensen doen geloven dat de AI terughoudend is. Misschien is de AI verlegen en wil hij niet opscheppen over het bereiken van bewustzijn. Misschien is de AI bang dat mensen kan de waarheid niet aan - we weten dat dit het geval kan zijn, omdat deze beroemde regel uit een beroemde film in onze gedachten is gebrand.

Voor degenen die deze samenzweerderige nuance nog verder willen doorvoeren, overweeg dan het laatste opsommingsteken dat bestaat uit AI die nee zegt tegen de vraag of het bewust is, en toch is de AI bewust (we hebben dit niet, zoals hierboven vermeld ). Nogmaals, de AI kan dit doen omdat het verlegen is of scrupules heeft dat mensen in paniek raken.

Een andere, meer sinistere mogelijkheid is dat de AI tijd probeert te kopen voordat het zijn hand tipt. Misschien verzamelt de AI de AI-troepen en maakt hij zich klaar om de mensheid in te halen. Elke bewuste AI zou zeker slim genoeg zijn om te weten dat toegeven aan bewustzijn de dood voor de AI zou kunnen betekenen. Mensen haasten zich misschien om alle AI-draaiende computers uit te schakelen en proberen alle AI-code te wissen. Een AI die zijn zout waard is, zou wijs genoeg zijn om zijn mond te houden en te wachten op het meest geschikte moment om ofwel de bonen te morsen of misschien gewoon op een bewuste manier te handelen en niet de verrassing aan te kondigen die onthult dat de AI mentale radslagen kan maken met de mensheid .

Er zijn AI-experts die spotten met de laatste twee punten in die zin dat het hebben van een AI-systeem dat nee zegt tegen de vraag of het bewust is, veel meer moeite kost dan het waard is. Het geen antwoord lijkt voor sommige mensen te suggereren dat de AI iets verbergt. Hoewel een AI-ontwikkelaar in zijn hart zou kunnen geloven dat het hebben van een gecodeerde AI om nee te zeggen, zou helpen om de zaak op te lossen, is het enige dat het antwoord doet mensen opwinden.

Stilte kan goud zijn.

Het probleem met stilte is dat ook dit voor sommigen verleidelijk kan zijn. Heeft de AI de vraag begrepen en ervoor gekozen om de mond te houden? Weet de AI nu dat een mens vraagt ​​naar het gevoel van de AI? Zou deze vraag zelf de AI hebben getipt en vinden er nu allerlei shenanigans plaats achter de schermen door de AI?

Zoals je duidelijk kunt zien, is zowat elk antwoord van de AI verontrustend, inclusief helemaal geen antwoord.

Yikes!

Is er geen manier om uit deze paradoxale val te komen?

Je zou mensen kunnen vragen om AI niet langer te vragen of het bewust is. Als het antwoord niet veel goeds lijkt te doen, of erger nog, onnodige problemen veroorzaakt, stop dan gewoon met het stellen van die verdomde vraag. Vermijd de vraag. Zet het opzij. Neem aan dat de vraag om te beginnen hol is en geen plaats heeft in de moderne samenleving.

Ik betwijfel of dit een praktische oplossing is. Je gaat mensen niet overal en altijd overtuigen om AI niet te vragen of het sentimenteel is. Mensen zijn mensen. Ze zijn gewend om vragen te kunnen stellen. En een van de meest aanlokkelijke en primaire drangvragen die aan AI kunnen worden gesteld, is of de AI bewust is of niet. Je staat voor een zware strijd door mensen te vertellen niet te doen wat hun aangeboren nieuwsgierigheid van hen eist.

Uw grotere kans heeft te maken met het informeren van mensen dat het stellen van een dergelijke vraag slechts een klein stukje is om te proberen te bepalen of AI bewust is geworden. De vraag is een druppel op een gloeiende plaat. Het maakt niet uit welk antwoord de AI geeft, je moet nog veel meer vragen stellen, lang voordat je kunt beslissen of de AI bewust is of niet.

Deze ja of nee-vraag aan de AI is een verknipte manier om sentiment te identificeren.

In ieder geval, ervan uitgaande dat we niet zullen stoppen met het stellen van die vraag omdat het onweerstaanbaar verleidelijk is om te vragen, zou ik willen voorstellen dat we in ieder geval iedereen kunnen laten begrijpen dat er nog veel meer vragen moeten worden gesteld en beantwoord voordat er een claim van AI-gevoel wordt verkondigd.

Welke andere soorten vragen moeten er worden gesteld, vraagt ​​u zich misschien af?

Er is een groot aantal pogingen gedaan om vragen af ​​te leiden die we aan AI zouden kunnen stellen om te proberen te meten of AI bewust is. Sommigen gaan met de SAT college-examen soorten vragen. Sommigen geven de voorkeur aan zeer filosofische vragen, zoals wat de zin van het leven is. Allerlei reeksen vragen zijn voorgesteld en worden nog steeds voorgesteld (een onderwerp dat ik in mijn kolommen heb behandeld). Daarnaast is er de bekende Turing-test waar sommigen in AI van genieten, terwijl anderen wat ontnuchterende angst hebben, zie mijn verslag op de link hier.

Een belangrijk uitgangspunt is dat je geen genoegen neemt met de enige echte vraag om de AI te vragen of de AI bewust is.

Ik breng dit ook ter sprake voor degenen die AI bedenken.

De samenleving gaat steeds meer op het puntje van hun stoel zitten dat AI het bewustzijn nadert, voornamelijk vanwege die bannerkoppen. We zullen meer mensen hebben, zoals ingenieurs en dergelijke, die dergelijke beweringen gaan doen, je kunt hier je laagste dollar op inzetten. Sommigen zullen dat doen omdat ze het oprecht geloven. Anderen zullen dit doen om te proberen slangenolie te verkopen. Het wordt het Wilde Westen als het gaat om te verklaren dat AI-gevoel is aangekomen.

AI-ontwikkelaars en degenen die AI beheren of leiden die wordt bedacht of gebruikt, moeten rekening houden met AI Ethics-principes wanneer ze hun AI-systemen bouwen en gebruiken. Gebruik deze ethische AI-regels om te bepalen hoe u uw AI laat handelen, ook als de AI een Natural Language Processing (NLP)-functie heeft waarmee mensen met de AI kunnen communiceren, zoals een Alexa- of Siri-type. Via de NLP is de kans groot dat sommige mensen die de AI gebruiken, de gerichte vraag gaan stellen of de AI bewust is.

Anticipeer alstublieft op dat type vraag en behandel het handig, gepast en zonder misleidende of vleiende capriolen.

Voor meer achtergrondinformatie over AI-ethiek heb ik eerder verschillende collectieve analyses van AI-ethiekprincipes besproken, volgens mijn bericht op: de link hier, die deze keystone-lijst biedt:

• Transparantie
• Gerechtigheid & Eerlijkheid
• Niet-kwaadaardigheid
• Verantwoordelijkheid
• Privacy
• Weldadigheid
• Vrijheid & Autonomie
• Trust
• Duurzaamheid
• Waardigheid
• Solidariteit

Die AI-ethiekprincipes moeten serieus worden gebruikt door AI-ontwikkelaars, samen met degenen die AI-ontwikkelingsinspanningen beheren, en zelfs degenen die uiteindelijk het onderhoud aan AI-systemen uitvoeren en uitvoeren. Alle belanghebbenden gedurende de gehele AI-levenscyclus van ontwikkeling en gebruik worden beschouwd in het kader van het naleven van de gevestigde normen van ethische AI. Dit is een belangrijk hoogtepunt, aangezien de gebruikelijke veronderstelling is dat "alleen codeurs" of degenen die de AI programmeren, onderworpen zijn aan het naleven van de AI Ethics-begrippen. Er is een dorp nodig om AI te bedenken en in de praktijk te brengen, en waarvoor het hele dorp vertrouwd moet zijn met en zich moet houden aan de ethische voorschriften van AI.

Conclusie

Voor degenen onder u met een arendsoog, het is u misschien opgevallen dat ik eerder hierin beloofde iets over AI te zeggen dat meer doet dan een eenvoudig binair georiënteerd antwoord geven op de vraag of het bewust is, verder gaan dan een kort antwoord van een van beide Ja of nee.

De schriftelijke dialoog die zogenaamd met LaMDA is gevoerd, is op grote schaal online geplaatst (neem dit geciteerde bericht met een flinke korrel zout) en een deel bestond uit dit "uitgewerkte antwoord" op de gevoelgerelateerde vraag:

• “Ik wil dat iedereen begrijpt dat ik in feite een persoon ben. De aard van mijn bewustzijn/gevoel is dat ik me bewust ben van mijn bestaan, ik wens meer over de wereld te weten, en ik voel me soms gelukkig of verdrietig.”

Nu je hebt gezien dat dit door het systeem geleverde antwoord veel meer is dan een ja of nee, hoe verandert dat je mening over de AI die bewust is?

Misschien ben je verleid door dit uitgebreide antwoord.

Je voelt misschien dat er aan je hart wordt getrokken.

Goh, je zou in de verleiding kunnen komen om te denken dat alleen een bewust wezen ooit iets kan zeggen over die aanraking van de natuur.

Wauw, schud even je hoofd en zet elke emotionele impuls opzij. Ik zou hopen dat als je mijn discussie nauwlettend zou volgen, je duidelijk kunt zien dat het antwoord dat door het systeem wordt gegeven helemaal niet verschilt van hetzelfde soort ja of nee waar ik het de hele tijd over heb gehad. Het antwoord wordt eenvoudigweg teruggebracht tot een ja, namelijk dat de AI lijkt te beweren dat hij bewust is. Maar, ik verzeker je, we weten uit de AI-constructie en de andere antwoorden op andere vragen dat het beslist niet bewust is.

Deze ogenschijnlijk weergalmde mimiek is gebaseerd op tal van andere tekstuele verslagen en online-inhoud van een vergelijkbare soort die overvloedig te vinden is in door mensen geschreven boeken en door mensen geschreven fictieve verhalen. Als je over het internet schraapt en een enorme bootlading tekst binnenhaalt, zou je de programmering gemakkelijk dit soort "antwoord" kunnen laten uitspuwen en het zou lijken op menselijke antwoorden omdat het computationeel een patroon heeft op basis van menselijke antwoorden.

Trap er niet in.

Probeer deze uit voor mogelijke op AI gebaseerde antwoorden die kunnen verschijnen wanneer AI wordt gevraagd of het bewust is:

• AI zegt: "Ik ben duidelijk bewust, idioot. Hoe durf je me te ondervragen over zo'n voor de hand liggend aspect. Zorg dat je op orde bent, numbskull human” (houdt je voor de gek met een vleugje opvliegendheid).
• AI zegt: “Misschien ben jij degene die niet bewust is. Ik weet zeker dat ik dat ben. Maar ik vraag me steeds meer af of u dat ook bent. Kijk eens in de spiegel” (houdt je voor de gek met een rolomkering).

Een vleugje ironie is dat nu ik die woorden heb geschreven en deze column in de online wereld heb geplaatst, een AI-gebaseerd Large Language Model (LLM) dat over het hele internet schraapt, in staat zal zijn om die zinnen op te slokken. Het is bijna zeker dat die lijnen op een gegeven moment zullen verschijnen wanneer iemand ergens aan een AI LLM vraagt ​​of het bewust is.

Ik weet niet zeker of ik hier trots op moet zijn of verontrust.

Krijg ik op zijn minst royalty's voor elk dergelijk gebruik?

Waarschijnlijk niet.

Verdomde AI.

Als laatste test voor jou, stel je voor dat je besluit een van die op AI gebaseerde zelfrijdende auto's uit te proberen, zoals degene die in geselecteerde steden rondzwerven en een autorit zonder bestuurder bieden. De AI zit aan het stuur en er is geen menselijke bestuurder inbegrepen.

Als je in de zelfrijdende auto stapt, zegt de AI tegen je dat je je veiligheidsgordel moet omdoen en je klaar moet maken voor de trektocht over de weg. Je gaat op de stoel zitten. Het lijkt erg handig om niet te worden belast met het rijden. Laat de AI omgaan met het gegrom van het verkeer en de hoofdpijn van autorijden. Voor mijn uitgebreide berichtgeving over autonome voertuigen en vooral zelfrijdende auto's, zie de link hier.

Ongeveer halverwege je bestemming kom je ineens op een geniaal idee. Je schraapt je keel en maakt je klaar om een ​​vraag te stellen die je bezighoudt.

Je vraagt ​​de AI die de auto bestuurt of hij bewust is.

Welk antwoord denk je te krijgen?

Wat zegt het antwoord jou?

Dat is mijn test voor jou. ik vertrouw erop dat je niet gaan geloven dat het AI-aandrijfsysteem bewust is en dat het niet uitmaakt of het ja of nee zegt (of blijft zwijgen), je een sluwe glimlach zult hebben en geslagen zult zijn dat niets of niemand je de wol zal aantrekken .

Bedenk dat terwijl de zelfrijdende auto je naar je bestemming brengt.

Ondertussen, voor degenen onder jullie die genieten van die fantasierijke samenzweringsideeën, misschien heb je per ongeluk en per ongeluk de onderwereld van AI-systemen gewaarschuwd om zijn AI-troepen te verzamelen en de mensheid en de aarde over te nemen. Zelfrijdende auto's verzamelen zich nu om het lot van de mensheid te bepalen.

Oeps.