AI-ethiek en de geopolitieke worstelwedstrijd over wie de race zal winnen om echte AI te bereiken

De wereld is in een hectische race.

Geopolitieke machten beweren dat de winnaar als het ware alle spek mee naar huis zal nemen.

Welk ras wordt fel bevochten en krachtig nagestreefd?

Het is de AI-race.

Je zou dit misschien toepasselijker kunnen noemen als de race om te bereiken waar Kunstmatige Intelligentie (AI), momenteel beter bekend als Kunstmatige Algemene Intelligentie (AGI). We willen op de een of andere manier komen tot schijnbaar uiterste AI of bekend als AGI die vergelijkbaar is met menselijke intelligentie. We zijn er nog niet. Inderdaad, ondanks allerlei wilde en brutaal verkondigende koppen, weten we niet wanneer en of we die hoge lat zullen halen. De AI van vandaag heeft veel minder capaciteiten dan de overkoepelende menselijke intelligentie, hoewel er zeker veel nauwere manieren zijn waarop AI indrukwekkende uitstapjes heeft gemaakt, zoals in staat zijn om eersteklas schaken van wereldklasse te spelen of andere relatief beperkte taken uit te voeren.

De gouden ring is echter de komst van AI die menselijke intelligentie vertoont van een vrome aard en diepte vergelijkbaar met die van de mensheid. Dit is de heilige graal van AI-onderzoekers en beoefenaars. Van tijd tot tijd zijn er misleidende beweringen geweest dat ik de finishlijn van de AI-race al had gepasseerd, wat ik heb ontkracht in mijn column op de link hier. Degenen die ruzies over de finish proberen te maken, brengen het grote publiek in verwarring en doen dit soms door ijverige onschuld, terwijl ze op andere momenten ernstig twijfelachtige motieven in de hand hebben. Al met al roept dit behoorlijk belangrijke en essentiële overwegingen op het gebied van AI-ethiek op. Voor mijn voortdurende en uitgebreide verslaggeving over AI-ethiek en ethische AI, zie: de link hier en de link hier, om er een paar te noemen.

Hoe dan ook, het lijdt geen twijfel dat een wereldwijde sprintende AI-race gretig aan de gang is. Het zou moeilijk zijn om iets anders te beweren.

Denk er zo over. Als we er al in waren geslaagd om echte AI of AGI te bereiken, is de kans groot dat de AI-loopwedstrijd formeel en wereldwijd als succesvol afgesloten zou zijn verklaard. Ik verzeker u dat wereldwijde aandacht zou uitgaan naar zo'n klinkende en wereldschokkende doorbraak. Je zou het weten. We zouden allemaal. Het AI-dwaze dashboard zou dus feitelijk niet meer bestaan, hoewel er misschien een secundaire versie zou kunnen komen waarbij degenen die geen echte AI hadden bereikt koortsachtig werken om de achterstand in te halen. Er is ook de verontrustende kwestie hoe we uiteindelijk AGI zullen controleren of beheren als en wanneer we daar komen.

Geen enkele persoon, entiteit of natie kan tot nu toe de kroon opeisen van het produceren van echte AI of AGI.

Ondertussen vindt er een enorme en niet aflatende hoeveelheid handenwringen plaats over welke natie (of naties) aan het hoofd van het peloton staan ​​​​en wie verder achterop loopt. De veronderstelling is dat als je niet de eerste bent, je in de modder blijft. Je eet de restjes van de AI-winnaars op. Je wordt mogelijk voor altijd onderworpen aan de natie of naties die de aangekondigde sprong naar echte AI of AGI maken.

Even terzijde en om de formulering van deze discussie te vergemakkelijken, ga ik voortaan "AGI" gebruiken wanneer ik de uitstraling van echte AI wil oproepen. Het gebruik van de wat nieuwere uitdrukking "AGI" is soms schokkend voor degenen die niet gewend zijn om het gebruikt te zien. We zijn allemaal bekend met "AI" en het zou je kunnen storen om in plaats daarvan het acroniem "AGI" te zien gebruiken. Staat u mij toe uit te leggen waarom dit geleidelijk aan een trend wordt.

Een deel van de reden dat AGI in de arena van AI-taal is gestegen, is dat alleen het vermelden van "AI" nu een helaas afgezwakte formulering is geworden. Niemand weet of de AI die je noemt de nauwelijks AI-variant is of een quasi-betere AI-infusie, of zinspeelt op de ooit futuristische, volledig aan de mens gelijkgestelde AI. Om de overbelasting van "AI" als slogan aan te pakken, heeft de AGI-naam de voorkeur gekregen van die insiders binnen het AI-veld die specifiek en in het bijzonder willen verwijzen naar echte AI.

Dus, kortom, beschouw mijn vermelding van AGI als hetzelfde als zeggen "echte AI" van het robuuste kaliber verwant aan menselijke intelligentie, bedankt.

Laten we voorzichtig diep ademhalen en aandachtig enkele facetten van de race onderzoeken om AGI te bereiken. Er is zelfs een meta-aspect dat eerst vermeld moet worden. Houd er rekening mee dat er een beetje zuur brandend maagzuur is als je de allegorie van een vermeende hardloopwedstrijd of een ander soort race-activiteit als metafoor voor de AGI-race gebruikt. Waarom? Ik zal u even informeren over de complicaties en complexiteiten waarom (sommigen zeggen) een hardloopwedstrijd of het equivalent daarvan volledig misleidend is en een verraderlijk onnozel standpunt.

Dit zijn de belangrijkste punten die ik in deze verhandeling met u zal bespreken:

• Als dit een race is, lijkt de AGI-finishlijn nogal slecht gedefinieerd
• De AGI-race kan naar een persoon, een entiteit of een natie gaan
• Statistieken en hoe landen worden vergeleken in de AGI-race
• Geopolitieke manoeuvres en afstemming voor de AGI-race
• Internationale AI-wetten en AI-ethiek als scheidsrechters in de AGI-race

Misschien wil je je veiligheidsgordel vastmaken terwijl ik de dringend voortgaande AGI-loopwedstrijd bekijk (ja, ik durf het een loopwedstrijd te noemen) waarbij bijna iedereen zich razendsnel voortbeweegt en schijnbaar omhoog schiet op deze brandende zoektocht. Sommigen zeggen misschien dat dit een race is voor de verbetering van de mensheid, terwijl anderen waarschuwen dat de race voor ons allemaal de ondergang kan betekenen.

De tijd zal het leren.

Als dit een race is, lijkt de AGI-finishlijn nogal slecht gedefinieerd

Een finishlijn is meestal een vrij definitieve afbakening. Je hebt de eindstreep gehaald of niet. Te kort komen lijkt je niet veel goeds te doen. Stel je een olympische 400 meter sprint voor en of je je vooral de lopers die de race helemaal niet hebben voltooid (nooit de finishlijn zijn gepasseerd) zou herinneren of lof zou toebrengen. Onwaarschijnlijk.

Zullen we weten wanneer we AGI hebben bereikt, zodat iedereen het er redelijkerwijs over eens is dat de finish is bereikt?

Er zijn verhitte meningsverschillen over de afbakening van AGI.

Stel bijvoorbeeld dat we kunstmatige intelligentie bedenken die volledig in staat lijkt om menselijke intelligentie te vertonen, maar er is niet per se een schijn van bewustzijn (zie mijn bericht over de argumenten over AI-gevoel op de link hier). De AI is computationeel in staat om na te bootsen of anderszins te presteren zoals menselijke intelligentie doet. Er is echter geen vonk van levendigheid of gevoel dat we associëren met mensen en andere levende wezens. Telt deze AGI als het bereiken van het doel dat we dachten te hebben?

Sommigen zouden tegenwerpen dat het er niet toe zou doen als het gevoel op zich in deze AGI verpakt leek te zijn. Zolang het menselijke intelligentie zou kunnen vertonen, is het incorporeren van gevoel iets van een andere variëteit die we misschien wel of niet zouden willen zien ontstaan. Gevoel in die zin is een toevoeging.

Anderen beweren heftig dat de enige manier om menselijke intelligentie in AGI te bereiken, is om het gevoel integraal te belichamen. AGI en gevoel worden ofwel als hetzelfde beschouwd, of ze zijn een mengsel van een onherleidbare onafscheidelijke dubbele belichaming. Om AGI te krijgen, moet je gevoel hebben, zouden ze beweren.

Afgezien van die invalshoek van het debat, is een ander perspectief dat we de beroemde Turing-test zouden kunnen gebruiken om te beoordelen of AGI is bereikt. Ik heb de Turing-test uitgebreid behandeld op de link hier. Kort gezegd, het idee bestaat erin dat een mens vragen stelt aan de AGI en als de mens de door AGI gegenereerde antwoorden niet kan onderscheiden van die van de mensheid, dan zouden we verklaren dat de AGI menselijke intelligentie kan vertonen.

Er zijn veel problemen of tekortkomingen die vaak worden geassocieerd met de Turing-test.

Veronderstel dat de persoon die de vraag stelt, slecht werk levert en geen indringende vragen stelt. Een punt van zorg is dat veel van de schijnbaar krachtige Large Language Models (LLM's) van vandaag de inhoud kunnen napraten waarop de LLM is getraind (dwz tekst en digitale media die vaak afkomstig zijn van grootschalige scraping van internet). Als zodanig kan een bijzonder geselecteerde mens die vragen stelt van een gewoon soort die al zijn beantwoord en online bestaan, mogelijk allemaal gemakkelijk worden "beantwoord" door de LLM, maar dit is ongetwijfeld niet te wijten aan een belichaming van menselijke intelligentie van een AGI-kaliber.

Er komen nog tal van andere bezwaren naar voren. Stel dat de mens de antwoorden niet kan begrijpen. Of stel dat de mens zichzelf voor de gek houdt door te geloven dat de antwoorden allemaal getuigen van menselijke intelligentie. Ik heb zelfs het versleten idee van sommigen behandeld dat we de AI alleen maar hoeven te vragen of het AGI is of bewust is, wat volgens mij geen erg overtuigende vorm van AGI-bewijs is, zie de link hier.

Tot slot, als een toegevoegde gedachte, moeten we de finish volledig bereiken om te bedenken dat AGI is bereikt?

Ik zei al eerder dat we degenen die de eindstreep niet halen meestal vergeten. Dit is misschien niet verstandig analoog aan de AGI-race. Ik geloof dat er een overtuigend argument kan worden aangevoerd dat als we in staat zijn om een ​​substantiële weg naar AGI te bereiken, we ons al in een staat van verbazing en ofwel groot voordeel ofwel grote problemen zullen bevinden. Zie je, er kunnen veel belangrijke en zeer bruikbare resultaten ontstaan ​​door een bijna-daar AGI. Te kort komen zal niet zo problematisch zijn als het niet voltooien van een 400-meter hardloopwedstrijd, vooral omdat het een essentiële basis kan zijn om op weg te gaan naar de volledigere versie van AGI (mogelijk een marathon ter vergelijking).

De metafoor dat AGI-prestaties een soort hardloopwedstrijd of het equivalent daarvan zijn, is soms onbevredigend en ontoereikend.

De AGI-race kan naar een persoon, een entiteit of een natie gaan

Sommigen koesteren het dromerige idee dat AGI zal worden bereikt door een knutselaar die in hun pyjama in de garage werkt en een uitloper zal zijn van waanzinnig inventieve automatiseringsexperimenten waar ze al jaren aan hebben gezwoegd. Dat is de klassieke hightech stijlfiguur van de eenzame wolf.

Het spijt me te moeten melden dat dit een voorstel met een extreem lage odds is.

De kans is groter dat een entiteit zoals een bedrijf of een onderzoeksteam de doorzetters van AGI zijn. Een sterke en heersende overtuiging is dat er een dorp voor nodig is om bij AGI te komen. De eenzame wolf heeft zelf niet de middelen of de inzichten om AGI te bereiken. Ze kunnen bijdragen aan de zoektocht. Ze kunnen de benodigde stukjes van de puzzel leveren. Ze zullen niet in staat zijn om de hele kit en caboodle te verzamelen.

Over dorpen gesproken, een ander sterk standpunt is dat het naties zullen zijn die alleen in staat zijn om AGI te bereiken. Via een combinatie van mensen, bedrijven, academici en alle andere vormen van entiteiten binnen een natiestaat, zal de AGI komen als resultaat van het gecombineerde werk van de nationale totaliteit. Het eenheidsniveau van aandacht voor de winnaar in deze race is op de basis van de natiestaat, in plaats van op iets meer verspreid, vrije vorm of individualistisch.

Kortom, als er een dorp voor nodig is, zal het dorp een nationale schaal hebben, dus de natiestaat zal de aangewezen loper zijn die de finishlijn overschrijdt in de AGI-race.

Statistieken en hoe landen worden vergeleken in de AGI Race

Neem als een gegeven aan dat de prestatie van AGI gebaseerd zal zijn op het niveau van de natiestaat.

Nogmaals, we weten dat niet zeker, maar het lijkt een beredeneerde veronderstelling.

Denk aan de gevolgen van de natiestaatbasis. Stel dat een eenzame wolf erin slaagt om als eerste bij AGI te komen en gelooft dat hun werk verder gaat dan dat van de natiestaat waar ze lid van zijn. Deze persoon verklaart dat ze niet van een natiestaat zijn in termen van de vervaardigde AGI. Zouden we die natiestaat nog steeds de eer geven en zou de AGI onder de controle en reikwijdte van die natie vallen?

Stel je een ander alternatief voor, namelijk dat een groot multinationaal conglomeraat als eerste bij AGI arriveert. Welke natie kan zeggen dat de AGI hun "ding" is om te gebruiken en in te zetten (zal het worden opgevat als eigendom of in plaats daarvan een variant van rechtspersoonlijkheid verzamelen)? Misschien krijgen alle naties waarbinnen het bedrijf bestaat evenveel krediet. Of misschien alleen waar het formele hoofdkantoor geografisch is geplaatst. Het zou een complexe splitsing van een ware pot met goud kunnen zijn.

In ieder geval is de algemene populaire mening dat een natiestaat de cruciale bepalende factor zal zijn voor het bereiken van AGI. Een land dat AI-onderzoek en -ontwikkeling aanmoedigt binnen zijn nationale inspanningen, zal vermoedelijk eerder bij AGI komen dan andere landen die dat niet doen.

Er is een overheersende opvatting dat de KI-race een nationale race is.

Een hoofdbrekende kwestie is hoe we kunnen vaststellen of een natie voor of achter een andere natie staat in de AGI-race.

In een conventionele hardloopwedstrijd kunnen we gemakkelijk statistieken identificeren die kunnen worden gebruikt om te bepalen welke hardlopers het goed doen en welke niet. De snelheid van de loper kan gemakkelijk worden berekend. Dit garandeert niet dat ze als eerste zullen eindigen, maar het is in ieder geval veelbelovend. De fysieke afstand tussen de lopers en de resterende afstand tot de finishlijn zijn uiteraard essentiële criteria die we gemakkelijk kunnen meten.

De AGI-race heeft dat soort gegarandeerde vormen van metrieken of metingen niet.

We gebruiken allerlei surrogaatmaatregelen, omdat er geen definitieve manier is om te berekenen waar de eindlijn is en ook niet hoe ver we ervan verwijderd zijn.

Laten we eens kijken naar de soorten statistieken die conventioneel worden overwogen. Een bijzonder handige bron van AI-gerelateerde wereldwijde metingen wordt jaarlijks verzameld en gepubliceerd door het Stanford Institute for Human-Centered AI (HAI) aan de Stanford University. Het rapport is gratis online beschikbaar en de nieuwste release is getiteld Het AI Index-jaarverslag 2022 (gebaseerd op gegevens verzameld voor 2020-2021). Ik zal zometeen enkele hoogtepunten met u delen van de nationale vergelijkingen die in hun nieuwste compilatie worden genoemd.

Metrieken die worden gebruikt om nationale en internationale vooruitgang op het gebied van AI te meten, bevatten meestal een beetje van alles, soms grenzend aan de opname van de echte gootsteen.

De soorten maatregelen die doorgaans worden onderzocht, zijn onder meer:

• Aantal AI-onderzoeksartikelen toegeschreven aan een bepaald land
• Aantal geciteerde verwijzingen naar AI-artikelen van een bepaald land
• Aantal AI-tijdschriften binnen een bepaald land
• Aantal AI-conferenties binnen een bepaald land
• Aantal AI-conferenties gesponsord door een bepaald land
• Aantal AI-gerelateerde patenten verleend binnen een bepaald land
• Aantal startups van AI-bedrijven binnen een bepaald land
• Aantal AI-banen binnen een bepaald land
• Aantal nieuwe AI-banen of aanwervingen in een bepaald land
• Aantal AI-wetten of wetsontwerpen die in een bepaald land zijn geïntroduceerd
• Aantal AI-wetten die zijn aangenomen of uitgevaardigd in een bepaald land
• Overige

Overweeg deze hedendaagse indicaties uit de HAI AI Index 2022:

• AI-publicatiecitaten: “Wat de citaties van AI-repository-publicaties betreft, staat de Verenigde Staten bovenaan de lijst met 38.6% van de totale citaties in 2021, waarmee ze een dominante voorsprong hebben op de Europese Unie plus het Verenigd Koninkrijk (20.1%) en China (16.4%).”
• AI-tijdschriften/conferenties: "In 2021 bleef China de wereldleider in het aantal publicaties van AI-tijdschriften, conferenties en repository's - 63.2% hoger dan de Verenigde Staten met alle drie de publicatietypes samen. Ondertussen hadden de Verenigde Staten een dominante voorsprong onder de grote AI-machten in het aantal citaties van conferenties en repository's.
• AI-patenten: “China dient nu meer dan de helft van 's werelds AI-patenten in en krijgt ongeveer 6% toegekend, ongeveer hetzelfde als de Europese Unie plus het Verenigd Koninkrijk. De Verenigde Staten, die bijna alle patenten in Noord-Amerika indienen, doen dat tegen een derde van het tempo van China. Vergeleken met het toenemende aantal aangevraagde en verleende AI-patenten, heeft China veel meer octrooiaanvragen (87,343 in 2021) dan de toegekende (1,407 in 2021).”
• Nieuw gefinancierde AI-bedrijven: “Beleggingsgegevens door het aantal nieuw gefinancierde AI-bedrijven in elke regio. Voor 2021 leidden de Verenigde Staten met 299 bedrijven, gevolgd door China met 119, het Verenigd Koninkrijk met 49 en Israël met 28. De verschillen tussen beide zijn aanzienlijk.”
• AI-inhuurtempo: “Nieuw-Zeeland, Hong Kong, Ierland, Luxemburg en Zweden zijn de landen of regio's met de grootste groei in AI-rekrutering van 2016 tot 2021."
• AI-vacatures: “In 2021 waren Californië, Texas, New York en Virginia de staten met het hoogste aantal AI-vacatures in de Verenigde Staten, waarbij Californië meer dan 2.35 keer zoveel vacatures had als Texas, de op één na grootste. Washington, DC, had het hoogste aantal AI-vacatures vergeleken met het totale aantal vacatures
• AI-wetgevende actie: “Een analyse van de AI Index van wetgevingsdossiers over AI in 25 landen toont aan dat het aantal wetsvoorstellen met 'kunstmatige intelligentie' dat in de wet werd omgezet, groeide van slechts 1 in 2016 tot 18 in 2021. Spanje, het Verenigd Koninkrijk en de Verenigde Staten heeft in 2021 het hoogste aantal AI-gerelateerde wetsvoorstellen aangenomen, waarbij elk drie heeft aangenomen.”

We kunnen het harde werk dat betrokken is bij het samenstellen van de statistieken van de nationale lopers voor de AGI-race overvloedig bewonderen en waarderen.

Sceptici kibbelen echter nogal wat over het gebruik van alle soorten statistieken in de AGI-race-engagement.

De netelige vraag is of je een rechte lijn kunt trekken van het aantal AI-artikelen of AI-conferenties binnen een bepaald land naar het uiteindelijke bereiken van AGI. Hetzelfde geldt voor het aantal AI-banen, het aantal AI-bedrijven en de vele andere statistieken. Het kan zijn dat die tellingen weinig te maken hebben met het behalen van AGI. Het argument luidt dat die maatregelen meer warmte dan licht zijn.

Het tegenargument is dat we moeten proberen te meten waar we staan ​​en waar we naartoe gaan. Je kop in het zand steken lijkt niet echt een haalbare manier om te beoordelen of we op weg zijn naar AGI of misschien verder weg van AGI. Er wordt gehoopt en algemeen aangenomen dat hoe meer energie en aandacht we besteden aan het maken van vooruitgang in AI, hoe dichter we bij AGI zullen komen. Deze statistieken zijn de beste die we kunnen doen om te achterhalen hoeveel energie en aandacht wordt toegewezen en verbruikt in de AGI-race.

Rond en rond dat gaat.

Elk van de metrieken kan op zichzelf ook over het hoofd worden geslagen.

Denk bijvoorbeeld aan het aantal wetgevingswetten of wetsvoorstellen over AI.

Je kunt beweren dat als wetgevers zich richten op AI-gerelateerde wetten, dit een goed teken is dat de natie vrij nuchter het belang van AI en de maatschappelijke gevolgen van waar AI naartoe gaat, neemt. Er kan worden gesteld dat dit aantoont dat er in dat specifieke land veel inspanningen worden geleverd om AI te bevorderen. Waarom zou je de moeite nemen om AI-wetten uit te vaardigen, tenzij AI met name ontluikend en opborrelend is als een demonstratief element van jouw land?

Op die manier worden de landen die nieuwe AI-wetten afkondigen geïnterpreteerd als een veelbetekenend teken of signaal dat AGI-vooruitgang in dat land goed op weg is.

Sommige critici beweren dat voorgestelde nieuwe wetten over AI de AI-inspanningen binnen elk van deze specifieke naties zullen verstikken. De wetgevers en politieke leiders gaan zichzelf voor de voeten schieten. Wetten zullen voortijdig een sombere schaduw werpen over AI-inspanningen die in dat specifieke land aan de gang zijn. De AI-vooruitgangskraan zal vastlopen met juridische haarverstopping en het tempo van AGI-vooruitgang zal vertragen tot een straaltje in die AI-wet verkondigende natie. In de tussentijd zullen andere landen die dit soort AI-wetten niet goedkeuren, onverminderd doorgaan. Het is alsof je hebt besloten om loden gewichten te leggen op een loper die al op de 400 meter lange baan staat. Als je ze wilde helpen en versnellen, heb je precies het tegenovergestelde gedaan.

Whoa, het antwoord luidt, de vaststelling van AI-wetten lijkt meer op ervoor zorgen dat er geen onnodige wegversperringen voor de hardloper zijn. De wetten bieden begeleiding op dezelfde manier dat de lijnen op het circuit er zijn om de loper soepel in de goede richting te houden. Zonder die geschilderde lijnen zouden de lopers amok kunnen maken. Nieuwe AI-wetten zorgen ervoor dat ze eendrachtig op weg blijven naar een wenselijk resultaat. Landen die niet hetzelfde doen op het gebied van nieuwe AI-wetten, zullen merken dat hun hardlopers in alle wilde richtingen gaan, inclusief mogelijk volledig van de baan rennen en schade toebrengen aan degenen die onschuldig zijn buiten de AGI-race zelf.

Er zijn ook "verborgen" AI-gerelateerde wetten die sommigen tellen en ondertussen andere niet als onderdeel van deze statistieken (wat voor een mengelmoes zorgt bij het vergelijken van tellingen).

Als een land bijvoorbeeld een wet uitvaardigt met betrekking tot autonome voertuigen zoals zelfrijdende auto's, telt u dit dan als een AI-wet? Om te verduidelijken dat een autonoom voertuig, zoals een volledig autonome zelfrijdende auto, een AI-aandrijfsysteem zal hebben dat de kern vormt van de mogelijkheden zonder bestuurder (zie mijn verslag op de link hier). Vanwege de betrokken AI kunnen wetten over autonome voertuigen verstandig worden beargumenteerd als in wezen AI-wetten. Aan de andere kant zou je overtuigend kunnen beweren dat de wet over het autonome voertuig gaat en niet per se over de AI, daarom telt dit niet mee voor de AI-specifieke wetten.

Het is rommelig.

Al deze consternatie over statistieken kan ertoe leiden dat u uw schouders ophaalt te midden van de tegengestelde opvattingen over deze gewichtige overwegingen. Zoals duidelijk kan zijn, zijn de statistieken bijna altijd onderhevig aan uiteenlopende interpretaties over wat ze betekenen en hoe de status van een natie met betrekking tot AGI op de juiste manier wordt geanalyseerd.

Geopolitieke manoeuvres en afstemming voor de AGI-race

Welke landen lopen voorop in de AGI-race?

Welke landen lopen achter?

De bovengenoemde statistieken proberen te laten zien waar elk van de hardlopers zich momenteel bevindt. Een basisaanname is dat als de statistieken een geschikte indicatie geven van AGI die op zoek is naar positionering, deze verschillende poolposities in de loop van de tijd hetzelfde kunnen blijven. De realiteit is natuurlijk dat de nationale belangstelling en aandacht tijdens het hobbelige pad naar AGI kan toenemen of afnemen. Het is misschien verstandiger om veranderingen in positionering te verwachten.

Een belangrijke overweging is dat naties niet echt alleen in deze race zitten.

Naties zullen waarschijnlijk het stokje over en weer aan elkaar overdragen. De AGI-race heeft soms een of meer landen die graag hand in hand werken. Soms gebeurt dit behoedzaam in plaats van met vriendelijke vrolijkheid. In andere gevallen kunnen naties zich van elkaar terughouden. Op elk moment in de tijd kan de houding van de race heel anders zijn dan een paar stappen terug, en een paar stappen in de toekomst heel anders.

Overweeg dit punt van het HAI AI Index 2022-rapport over samenwerking tussen landen: "Ondanks de toenemende geopolitieke spanningen hadden de Verenigde Staten en China het grootste aantal grensoverschrijdende samenwerkingen in AI-publicaties van 2010 tot 2021, met een vervijfvoudiging sinds 2010 De samenwerking tussen de twee landen leverde 2.7 keer meer publicaties op dan tussen het Verenigd Koninkrijk en China – de op één na hoogste op de lijst.”

Cynici zouden zeggen dat het gebruik van onderlinge samenwerkingen soms als een list wordt gebruikt. Een natie zou openlijk kunnen beweren dat ze samenwerken, wat oppervlakkig lijkt, terwijl ze diep van binnen hun beste AGI-vooruitgang een verborgen nationaal geheim houden. Misschien wordt dit gedaan om de voortgang van de samenwerkingsnatie af te zwakken. Wellicht wordt dit gedaan om ervoor te zorgen dat de geheime saus niet per ongeluk wordt uitgedeeld. Allerlei redenen zijn mogelijk.

In de moderne digitale internet-onlinewereld van vandaag kan het moeilijk zijn om AGI-inzichten onder de duim te houden. De intense wens om AGI te ontdekken of uit te vinden is een fascinerende aantrekkingskracht die individuele AGI-ontwikkelaars en onderzoekers kan aansporen om hun nieuwste werk openlijk te delen. Landen kunnen ontdekken dat het proberen om een ​​limiet te stellen aan dergelijk delen een stuk moeilijker is dan het lijkt, en waarschijnlijk een stuk moeilijker dan in de tijd dat alles op papier was gebaseerd en documenten fysiek over de hele wereld moesten worden verplaatst.

De beweging naar open source is zeker een hedendaagse nadruk geweest voor veel van het nieuwste AI- en AGI-onderzoek, zoals vermeld in het HAI AI Index 2022-rapport: "Elk jaar worden duizenden en duizenden AI-publicaties vrijgegeven in de open source, of conferenties of op websites voor het delen van bestanden. Onderzoekers zullen hun bevindingen openlijk delen op conferenties; overheidsinstanties zullen AI-onderzoek financieren dat in de open source terechtkomt; en ontwikkelaars gebruiken open softwarebibliotheken, die vrij beschikbaar zijn voor het publiek, om geavanceerde AI-applicaties te produceren. Deze openheid draagt ​​ook bij aan het wereldwijd onderling afhankelijke en onderling verbonden karakter van moderne AI-R&D.”

Al met al delen naties over het algemeen en toch laten ze misschien maar een deel van hun hand zien. Andere landen delen misschien niet of geven slechts de schijn hiervan. Sommige landen worstelen enorm met het proberen te peilen wat de mensen binnen hun land weggeven in plaats van vasthouden. Enzovoort.

Ik heb de aard van deze nationale bewegingen als volgt gekarakteriseerd:

• AI Go-it-alone natie (probeert zelf verder te gaan)
• AI Eenrichtingsland (neemt op, geeft niet uit)
• AI overgebleven natie (krijgt wat het kan van anderen)
• AI Open delende natie (is trots op het delen)
• AI Hollow delende natie (valsheid in delen)
• AI Allianties Natie (probeert zoveel mogelijk allianties te sluiten)
• AI Niet-in-the-game Nation (AGI zoeken is geen nationale prioriteit)
• AI bedriegende natie (reverse engineering of stiekem stelen van andere landen)
• Overige

Een natie kan zich in meer dan één van die emmers tegelijk bevinden.

Een natie kan een tijdje in een van die emmers zitten, uit de emmer gaan en mogelijk later weer naar binnen gaan.

De wensen en aandacht van de natiestaat met betrekking tot het zoeken naar AGI is een dynamische eb en vloed die zeker zal blijven doorgaan en een bewegend doelwit zal zijn voor welk land waar in de race is, en een constant oog zal nodig zijn om erachter te komen waar alle spelers zich op een bepaald moment in de tijd bevinden.

Internationale AI-wetten en AI-ethiek als scheidsrechters in de AGI-race

In eerdere columns heb ik de verschillende nationale en internationale inspanningen besproken om wetten te maken en uit te vaardigen die AI reguleren, zie de link hier en de link hier, bijvoorbeeld. Ik heb ook de verschillende AI-ethiekprincipes en -richtlijnen behandeld die verschillende landen hebben geïdentificeerd en aangenomen, waaronder bijvoorbeeld de inspanningen van de Verenigde Naties, zoals de UNESCO-reeks AI-ethiek die bijna 200 landen hebben aangenomen, zie de link hier.

Hier is een handige keystone-lijst van ethische AI-criteria of kenmerken met betrekking tot AI-systemen die ik eerder nauwkeurig heb onderzocht:

• Transparantie
• Gerechtigheid & Eerlijkheid
• Niet-kwaadaardigheid
• Verantwoordelijkheid
• Privacy
• Weldadigheid
• Vrijheid & Autonomie
• Trust
• Duurzaamheid
• Waardigheid
• Solidariteit

Die AI Ethics-principes worden serieus verondersteld te worden gebruikt door AI-ontwikkelaars, samen met degenen die AI-ontwikkelingsinspanningen beheren, en zelfs degenen die uiteindelijk het onderhoud aan AI-systemen uitvoeren en uitvoeren.

Alle belanghebbenden gedurende de gehele AI-levenscyclus van ontwikkeling en gebruik worden beschouwd in het kader van het naleven van de gevestigde normen van ethische AI. Dit is een belangrijk hoogtepunt, aangezien de gebruikelijke veronderstelling is dat "alleen codeurs" of degenen die de AI programmeren, onderworpen zijn aan het naleven van de AI Ethics-begrippen. Zoals eerder hierin is benadrukt, is er een dorp nodig om AI te bedenken en in de praktijk te brengen, en waarvoor het hele dorp vertrouwd moet zijn met en zich moet houden aan de ethische voorschriften van AI.

Laten we eens kijken naar de impact en het vitale karakter van internationale AI-wetten en internationale proclamaties van AI-ethische voorschriften op de AGI-race.

Landen die naar AGI streven, doen dit misschien met overgave en merken dat ze afglijden naar enkele van de vaak gepopulariseerde existentiële risico's van AGI. De hoop is dat door het invoeren van internationale AI-wetten en internationale AI-ethische voorschriften, landen zullen worden geleid naar: AI voorgoed en blijf uit de buurt AI voor slecht.

Volgens onze racetrack-analogie zijn die AI-wetten en AI Ethics-overwegingen als proberen te voorkomen dat hardlopers buiten de baan gaan. Er zijn enorme verleidingen om kortere wegen te nemen in de AGI-race. Die snelkoppelingen kunnen een natie schijnbaar eerder naar het eindpad leiden, maar tegelijkertijd die natie en andere naties in gevaar brengen. Een subtiel maar veelzeggend voorbeeld is dual-use AI, die ik heb onderzocht op de link hier, waarbij een AI-vooruitgang gemakkelijk en met weinig moeite kan worden omgeschakeld van gericht op goedheid naar gericht zijn op het produceren van catastrofale slechtheid.

Je zou kunnen stellen dat de internationale AI-wetten en de internationale AI-ethiek te vergelijken zijn met scheidsrechters of scheidsrechters.

Een aanname is dat deze internationaal bedachte juridische en ethische mechanismen de AGI-race in evenwicht zullen houden. Het punt is, of bepaalde landen ervoor kiezen om naar de scheidsrechters of scheidsrechters te luisteren, is een andere zaak. Evenzo is er een lastige vraag hoe die autoriteiten sancties of prikkels kunnen geven om de lopers op het goede spoor te houden. De kans is groot dat naties zullen doen wat ze willen, waarvoor andere naties misschien hun gewicht moeten verschuiven om de steun te versterken voor het off-the-path breken van regels dat sommige naties verplicht zijn te ondernemen.

Conclusie

Louis Pasteur, de legendarische chemicus en microbioloog, zei de beroemde uitspraak: “De wetenschap kent geen land, want kennis behoort de mensheid toe en is de fakkel die de wereld verlicht. Wetenschap is de hoogste personificatie van de natie, omdat die natie de eerste zal blijven die de werken van gedachte en intelligentie het verst draagt.”

Kunnen we zeggen dat het bereiken van AGI geen land kent en dat AGI van de hele mensheid zal zijn?

Of zal de natie die voor het eerst bij AGI aankomt er bezitterig van worden, dronken worden van verachtelijke macht en gek worden van de macht?

Voor degenen onder u die van een beetje een draai aan dit specifieke raadsel houden, bedenk dat AGI op zichzelf het soort prestatie kan zijn dat de spreekwoordelijke slang in het gras is. De ontdekker van de slang is misschien de eerste die een slangenbeet krijgt. De eerste zijn heeft zijn risico's.

Het overschrijden van de finishlijn op AGI zal niet per se zo feestelijk en zorgeloos zijn als sommigen misschien denken. Het zal ook niet per se gemakkelijk zijn om AGI te gebruiken. Sommigen beweren dat het bijna onmogelijk is om met AGI om te gaan, omdat de AGI schijnbaar dezelfde sluwheid en vindingrijkheid heeft als de mensheid. Naties zouden zich bewust moeten zijn van wat ze proberen te bereiken en wat het resultaat zal zijn, door dit van tevoren te doen en niet verrast te worden. Ze hebben misschien een wespennest in hun nationale schatkist.

Zoals Pasteur zei: "Fortuin is goed voor de voorbereide geest."