AI-shake-up als prominente AI-goeroe stelt geestverruimende "sterfelijke computers" voor, die ook AI-ethiek en AI-wetten verankeren

Hier is iets waar je waarschijnlijk nog niet over had nagedacht: Sterfelijke computers.

Maar misschien zou je dat moeten zijn.

Het bedwelmende onderwerp kwam naar voren tijdens de recente en al met al vrij prominente jaarlijkse conferentie over AI die vooral gericht is op de komst van neurale netwerken en machine learning, namelijk de conferentie over neurale informatieverwerkingssystemen (bij insiders bekend als NeurIPS). De uitgenodigde hoofdspreker en een weloverwogen AI-goeroe Geoffrey Hinton maakte de intrigerende en misschien wel controversiële bewering dat we over computers zouden moeten denken in een sterfelijke en onsterfelijke context.

Ik zal de opmerkelijke bewering behandelen en dat doen op twee manieren die in eerste instantie niet noodzakelijkerwijs met elkaar verbonden lijken, maar na een beetje extra toelichting zullen ze duidelijker met elkaar in verband worden gebracht wat betreft de sterfelijke versus onsterfelijke beweringen.

De twee onderwerpen zijn:

1) Integraal verbinden van zowel hardware als software voor AI-mechanisaties in plaats van ze als afzonderlijke en afzonderlijke bondgenoten te hebben

2) Het overbrengen of destilleren van machine learning-formuleringen van het ene AI-model naar het andere dat dit doet zonder een ongecompliceerde, volwaardige kopie te vereisen of noodzakelijkerwijs te wensen (of zelfs mogelijk anderszins mogelijk te maken)

Dit alles heeft grote overwegingen voor AI en de toekomstige richting van AI-ontwikkeling.

Bovendien is er een hele reeks zeer netelige zorgen over AI-ethiek en AI-wetgeving. Dit soort door AI beoogde technologische vooruitgang wordt meestal op een puur technologische basis rondgeslingerd lang voordat men zich realiseert dat het ook opmerkelijke ethische AI- en AI-wettelijke gevolgen kan hebben. In zekere zin is de kat meestal al uit de zak, of het paard is uit de stal, voorafgaand aan het ontwaken dat AI-ethiek en AI-wetgeving due diligence-deelname zouden moeten krijgen.

Nou, laten we die laattijdige gedachtecyclus doorbreken en deze op de begane grond beginnen.

Voor degenen onder u die in het algemeen geïnteresseerd zijn in de nieuwste inzichten die ten grondslag liggen aan AI-ethiek en AI-wetgeving, vindt u wellicht informatief en inspirerend boeiend mijn voortdurende en uitgebreide berichtgeving op de link hier en de link hier, om er een paar te noemen.

Ik ga hier eerst in op het bovenstaande punt over het samenbinden van hardware en software. Een discussie en analyse van het onderwerp zal hand in hand plaatsvinden. Vervolgens zal ik ingaan op de kwestie van kopiëren, zeggen sommigen destilleren de cruciale elementen van een machine learning AI-systeem van de ene AI tot een nieuw ontworpen AI als doelwit.

Laten we beginnen.

Samenbinden van hardware en software voor AI

U weet waarschijnlijk dat het ontwerp van computers over het algemeen zodanig is dat er een hardware-kant is en apart een software-kant. Wanneer u een alledaagse laptop of desktopcomputer koopt, wordt deze opgevat als een computerapparaat voor algemeen gebruik. Er zijn microprocessors in de computer die worden gebruikt om software uit te voeren en uit te voeren die u zelf zou kunnen kopen of schrijven.

Zonder enige software voor je computer is het een stuk metaal en plastic waar je eigenlijk niet veel aan hebt, behalve als presse-papier. Sommigen zouden zeggen dat software koning is en de wereld regeert. Natuurlijk, als je geen hardware hebt om de software op uit te voeren, zal de software niet veel goeds doen. Je kunt zoveel regels code schrijven als je hartje begeert, maar totdat de software via een computer wordt gebruikt, is de geformuleerde broncode net zo dun en vliegloos als een prachtig poëziewerk of een spannende detectiveroman.

Sta me toe om even over te schakelen naar een andere weg die misschien ver weg lijkt (dat zal het niet zijn).

We proberen vaak analogieën te trekken tussen hoe computers werken en hoe het menselijk brein werkt. Deze poging om conceptuele parallellen te trekken is handig. Dat gezegd hebbende, moet je voorzichtig zijn met het overdrijven van die analogieën, aangezien de vergelijkingen de neiging hebben om af te breken wanneer je dichter bij de vlezige details komt.

Hoe dan ook, ter wille van de discussie, hier is een analogie die vaak wordt gebruikt.

De hersenen zelf worden soms informeel genoemd wetware. Dat is een pakkende manier om dingen te verwoorden. We weten dat computers bestaan ​​uit hardware en software, dus het is slim om het 'ware'-gedeelte van het bedenken te gebruiken om te beschrijven wat een brein inhoudt. Genesteld in onze hersens, zweeft het machtige en mysterieuze brein rond, mentaal al onze daden berekenend (sommige goed, terwijl sommige van onze gedachten beslist niet gevuld zijn met goedheid).

Met een gemiddeld gewicht van slechts drie pond zijn de hersenen een opmerkelijk orgaan. Op de een of andere manier, en we weten nog niet hoe, kunnen de hersenen hun ongeveer 100 miljard neuronen en misschien ergens tussen de 100 en 1,000 biljoen onderlinge verbindingen of synapsen gebruiken om al ons denkwerk voor ons te doen. Hoe leiden de biologische en chemische eigenschappen van de hersenen tot intelligentie? Niemand kan het met zekerheid zeggen. Dit is een zoektocht door de eeuwen heen.

Ik vraag je dit, is het brein ogenschijnlijk alleen hardware, of is het zowel hardware als software gecombineerd?

Noodle op die hersenkraker.

Je zou in de verleiding kunnen komen om te beweren dat de hersenen gewoon hardware zijn (in algemene zin). Het is een orgaan van het lichaam. Evenzo zou je kunnen zeggen dat het hart hardware is, de blaas hardware, enzovoort. Het zijn allemaal mechanisaties die lijken op wanneer we het hebben over artefacten die een fysieke vorm hebben en fysiek gerelateerde acties uitvoeren.

Waar is dan de software die mensen aanstuurt?

Ik durf te stellen dat we het er allemaal min of meer over eens zijn dat de 'software' van de mensheid zich op de een of andere manier in de hersenen bevindt. De stappen die nodig zijn om een ​​ei te koken of een lekke band te repareren, zijn instructies die in onze hersenen zijn vastgelegd. Gebruikmakend van die eerder genoemde computeranalogie van hardware en software, zijn onze hersenen als het ware een stuk hardware, waarvoor we de wereld leren kennen en de instructies over wat we moeten doen "rennen" en "opgeslagen" zijn in onze hersenen.

Op een computer kunnen we gemakkelijk naar de hardware wijzen en zeggen dat dit hardware is. We kunnen een lijst met broncode hebben en verwijzen naar de lijst als software. Tegenwoordig downloaden we software elektronisch online en installeren we deze op onze laptops en smartphones. Vroeger gebruikten we diskettes en ponskaarten om onze software op te slaan en op de hardware van de computer te laden.

Ik breng je in een belangrijk raadsel.

Als je eenmaal iets hebt geleerd en de kennis in je hersenen aanwezig is, kun je dan nog onderscheid maken tussen de 'hardware' van je hersenen en de veronderstelde 'software' van je hersenen?

Een argumentatie is dat de kennis in je brein niet echt te scheiden is van de opvattingen over hardware en software. De analogie met de aard van computers gaat dus mank, zouden sommigen vurig beweren. Kennis in de hersenen is verweven met en onlosmakelijk verbonden met de hardware van je hersenen. De biologische en chemische eigenschappen verweven de kennis die je mentaal bezit.

Stoof daarop voor een beetje mentale reflectie.

Als we hopen op een dag computers te ontwerpen die vergelijkbaar zijn met de menselijke intelligentie, of zelfs de menselijke intelligentie overtreffen, kunnen we misschien de structuren van de hersenen en de innerlijke werking ervan gebruiken als leidraad voor wat we moeten doen om zo'n verheven doel te bereiken. Voor sommigen op het gebied van AI is er een overtuiging dat hoe meer we weten over hoe de hersenen werken, hoe groter onze kansen zijn om echte AI te bedenken, ook wel kunstmatige algemene intelligentie (AGI) genoemd.

Anderen in AI zijn minder gecharmeerd van het moeten weten hoe de hersenen werken. Ze benadrukken dat we snel door kunnen gaan met het maken van AI, ongeacht of we in staat zijn om de geheime innerlijke werking van de hersenen te ontsluiten. Laat de mysteries van de hersenen onze AI-inspanningen niet belemmeren. Natuurlijk, blijf proberen het menselijk brein te decoderen en te ontcijferen, maar we kunnen niet afwachten tot het brein reverse-engineered is. Als dat op een dag haalbaar is, geweldig nieuws, hoewel het misschien een onmogelijkheid is of over eonen zal gebeuren.

Ik ben klaar om nu de sterfelijke en onsterfelijke computerstrijd met u te delen. Zorg ervoor dat je gaat zitten en klaar bent voor de grote onthulling.

Een computer die een duidelijke scheiding heeft tussen de hardware en de software zou als "onsterfelijk" kunnen worden beschouwd in die zin dat de hardware voor altijd kan blijven bestaan ​​(uiteraard binnen bepaalde grenzen), terwijl de software keer op keer kan worden geschreven en herschreven. U kunt een conventionele computer aan de gang houden zolang u reparaties aan de hardware kunt uitvoeren en ervoor kunt zorgen dat het apparaat blijft opstarten. Je kunt vandaag de dag nog steeds gebruik maken van de primitieve homecomputers uit de jaren 1970 die vroeger in kits werden geleverd om in elkaar te zetten, ondanks dat ze bijna vijftig jaar oud waren (een lange tijd in computerjaren).

Stel echter dat we ervoor kiezen om computers te maken waarvan de hardware en software onafscheidelijk werken (ik zal hier binnenkort meer over zeggen). Beschouw dit op dezelfde basis als eerder vermeldde ik dat de hersenen misschien een integrale samenstelling van hardware en software hebben. Als dat het geval zou zijn, zou kunnen worden gesuggereerd dat de computer van dit soort niet langer onsterfelijk zou zijn. Het zou in plaats daarvan worden opgevat als "sterfelijk".

Volgens de opmerkingen gemaakt op de NeurIPS-conferentie door de uitgenodigde hoofdspreker en opmerkelijke AI-goeroe Geoffrey Hinton, en zoals vermeld in zijn begeleidende onderzoekspaper:

• “Digitale computers voor algemeen gebruik zijn ontworpen om getrouw instructies op te volgen, omdat werd aangenomen dat de enige manier om een ​​computer voor algemeen gebruik een specifieke taak te laten uitvoeren, was door een programma te schrijven dat precies specificeerde wat er moest gebeuren in ondragelijke details. Dit is niet langer waar, maar de onderzoeksgemeenschap is traag geweest met het begrijpen van de langetermijnimplicaties van diep leren voor de manier waarop computers worden gebouwd. Meer specifiek heeft de gemeenschap vastgehouden aan het idee dat de software scheidbaar moet zijn van de hardware, zodat hetzelfde programma of dezelfde reeks gewichten op een andere fysieke kopie van de hardware kan worden uitgevoerd. Hierdoor sterft de kennis in het programma of worden de gewichten onsterfelijk: de kennis sterft niet wanneer de hardware sterft” (zoals opgenomen in en geciteerd uit zijn onderzoekspaper “The Forward-Forward Algorithm: Some Preliminary Investigations”, preprint online beschikbaar) .

Merk op dat het specifieke soort computergebruik dat in dit type AI wordt besproken, gebruik maakt van kunstmatige neurale netwerken (ANN's).

Laten we de zaken hierover rechtzetten.

Er zijn echte biologische neuronen in onze hersenen. Je gebruikt ze de hele tijd. Ze zijn biologisch en chemisch met elkaar verbonden tot een netwerk in je hoofd. We kunnen dit dus aanduiden als a neuraal netwerk.

Elders zijn er, laten we zeggen, vervalste "neuronen" die we computationeel weergeven in computers om AI te bedenken. Veel mensen in AI noemen dat ook wel neurale netwerken. Ik geloof dat dit enigszins verwarrend is. Zie je, ik noem ze liever kunstmatig neurale netwerken. Dit helpt om meteen onderscheid te maken tussen een verwijzing naar in-je-hoofd neurale netwerken (het echte werk, als het ware), en computergebaseerde (kunstmatig neurale netwerken).

Niet iedereen neemt dat standpunt in. Veel mensen bij AI gaan er gewoon van uit dat alle anderen bij AI "weten" dat wanneer ze naar neurale netwerken verwijzen, ze het bijna altijd over ANN's hebben - tenzij zich een situatie voordoet waarin ze om de een of andere reden echte neuronen en echte neurale netwerken in de toekomst willen bespreken. brein.

Ik vertrouw erop dat je begrijpt wat ik bedoel. Meestal zullen AI-mensen 'neurale netwerken' zeggen, wat mogelijk dubbelzinnig is omdat je niet weet of ze verwijzen naar de echte netwerken in ons hoofd of de computationele netwerken die we in computers programmeren. Maar aangezien AI-mensen over het algemeen te maken hebben met computergebaseerde instanties, gaan ze er standaard van uit dat u verwijst naar kunstmatige neurale netwerken. Ik voeg graag het woord 'kunstmatig' toe aan de voorkant van de formulering om de bedoelingen duidelijker te maken.

Verderop kun je deze computationele kunstmatige neuronen enigszins beschouwen als een wiskundige of computationele simulatie van wat we denken dat echte biochemische fysische neuronen doen, zoals het gebruik van numerieke waarden als wegingsfactoren die anders biochemisch in de hersenen plaatsvinden. Tegenwoordig zijn deze simulaties lang niet zo complex als echte neuronen. Huidige ANN's zijn een uiterst grove wiskundige en computationele weergave.

Over het algemeen zijn ANN's vaak het kernelement voor machine learning (ML) en deep learning (DL) — houd er rekening mee dat hier veel meer details aan verbonden zijn, en ik verzoek u dringend om mijn uitgebreide dekking van ML/DL te bekijken Bij de link hier en de link hierBijvoorbeeld.

Terugkerend naar de onsterfelijke versus sterfelijke soorten computers, hier is meer om over na te denken volgens de onderzoeker:

• “De scheiding van software en hardware is een van de fundamenten van informatica en heeft veel voordelen. Het maakt het mogelijk om de eigenschappen van programma's te bestuderen zonder je zorgen te hoeven maken over elektrotechniek. Het maakt het mogelijk om een ​​programma één keer te schrijven en het naar miljoenen computers te kopiëren. Als we echter bereid zijn om onsterfelijkheid op te geven, zou het mogelijk moeten zijn om enorme besparingen te realiseren in de energie die nodig is om een ​​berekening uit te voeren en in de fabricagekosten van de hardware die de berekening uitvoert. We kunnen grote en onbekende variaties toestaan ​​in de connectiviteit en niet-lineariteiten van verschillende instanties van hardware die bedoeld zijn om dezelfde taak uit te voeren en vertrouwen op een leerprocedure om parameterwaarden te ontdekken die effectief gebruik maken van de onbekende eigenschappen van elke specifieke instantie van de apparatuur. Deze parameterwaarden zijn alleen nuttig voor die specifieke hardware-instantie, dus de berekening die ze uitvoeren is sterfelijk: het sterft met de hardware” (ibid).

U hebt nu kennis gemaakt met hoe onsterfelijk en sterfelijk in deze context worden gebruikt.

Laat me het uitdiepen.

De stelling is dat een computer die speciaal is gebouwd op basis van ANN's zo kan worden ontworpen dat de hardware en software als onafscheidelijk worden beschouwd. Zodra de hardware op een dag niet meer functioneert (waarmee we natuurlijk zeggen dat de software integraal verstrikt raakt), lijkt dit type computer niet langer bruikbaar en zal het niet meer functioneren. Er wordt gezegd dat het sterfelijk is. Je kunt de op ANN gebaseerde computer net zo goed begraven, want het zal je vanaf nu niet veel goeds doen nadat de onafscheidelijke hardware en software niet langer levensvatbaar als een team werken.

Als je zou willen proberen dit in verband te brengen met de analogie van een menselijk brein, zou je je de sombere situatie kunnen voorstellen van een menselijk brein dat volledig achteruitgaat of dat op de een of andere manier onherstelbaar wordt beschadigd. We accepteren het idee dat een persoon sterfelijk is en dat zijn hersenen uiteindelijk en onvermijdelijk zullen stoppen met werken. De kennis die ze in hun brein hadden is niet langer beschikbaar. Tenzij ze toevallig anderen proberen te vertellen of opschrijven wat ze wisten, gaat hun kennis naar de wereld als geheel.

U hebt ongetwijfeld rapporten gehoord of gezien van pogingen om hersenen te behouden, zoals ze in een bevroren toestand te brengen, met de theorie dat mensen misschien op een dag onsterfelijk zouden kunnen zijn of in ieder geval langer zouden kunnen duren dan hun gebruikelijke leven. Je hersenen kunnen voortleven, ook al zijn ze niet in je lichaam. Veel sciencefictionfilms en -verhalen hebben over dergelijke ideeën gespeculeerd.

We zijn nu klaar voor een gedetailleerde kijk op de sterfelijke computer en de onsterfelijke computer als concept en wat het voorspelt.

Bewuste discussie en doordachte analyse

Voordat we dieper ingaan op deze analyse van de gepostuleerde aanpak, zijn enkele belangrijke kanttekeningen en aanvullende punten het vermelden waard.

De onderzoeker benadrukte dat de coined sterfelijke computers zou de onsterfelijke computers die we tegenwoordig conventionele digitale computers noemen. Beide soorten computers zouden naast elkaar bestaan. Ik zeg dit omdat de reactie van sommigen was dat de oproep om te bestellen een algemene bewering was allen computers noodzakelijkerwijs zijn of zullen op weg zijn naar het sterfelijke type.

Dat was geen bewering die werd gedaan.

Tijdens zijn toespraak zei hij dat deze zich specialiseerden neuromorfisch georiënteerd computers zouden computerwerk uitvoeren dat bekend staat als sterfelijke berekeningen: "We gaan doen wat ik sterfelijke berekeningen noem, waarbij de kennis die het systeem heeft geleerd en de hardware onafscheidelijk zijn" (zoals geciteerd in een ZDNET-artikel van Tiernan Ray op 1 december 2022).

En met name: “Het zal digitale computers niet vervangen” (ibid).

Bovendien zullen deze nieuwe typen computers beslist niet snel in de plaatselijke computerwinkel of online te koop zijn, zoals hij tijdens zijn presentatie zei: “Wat ik denk is dat we een heel ander type computer gaan zien. computer, pas over een paar jaar, maar er is alle reden om dit totaal andere type computer te onderzoeken.” Het gebruik zou ook verschillen: "Het zal niet de computer zijn die je bankrekening beheert en precies weet hoeveel geld je hebt."

Een extra wending is dat de sterfelijke computers schijnbaar zijn gegroeid in plaats van te worden gefabriceerd zoals we tegenwoordig doen voor de productie van computerprocessors en computerchips.

Tijdens het groeiproces zou de sterfelijke computer in capaciteit toenemen in een stijl van computationele rijping. Zo kan een bepaalde sterfelijke computer beginnen met nauwelijks enige capaciteit en uitgroeien tot wat het bedoeld was te worden. Stel dat we mobiele telefoons willen maken met behulp van sterfelijke computers. Je zou beginnen met een simpele variant van een sterfelijke computer die in eerste instantie voor dit doel is gevormd of gezaaid. Het zou dan uitgroeien tot de meer geavanceerde versie die u zocht. Kortom: "Je zou dat vervangen door elk van die mobiele telefoons zou moeten beginnen als een mobiele telefoon voor baby's, en het zou moeten leren hoe het een mobiele telefoon moet zijn."

Op een van zijn fundamentele dia's over sterfelijke berekeningen werden de voordelen als volgt beschreven: "Als we onsterfelijkheid opgeven en accepteren dat de kennis onlosmakelijk verbonden is met de precieze fysieke details van een specifiek stuk hardware, krijgen we twee grote voordelen: (1) We kunnen analoge berekeningen met zeer laag vermogen gebruiken, (2) we kunnen hardware laten groeien waarvan de precieze connectiviteit en het analoge gedrag onbekend zijn.

Een deel van hetzelfde gesprek en ook zoals opgenomen in zijn preprint-onderzoeksdocument is een voorgestelde techniek voor hoe ANN's beter kunnen worden bedacht, waarnaar hij verwijst als het gebruik van een vooruit vooruit netwerkbenadering. Sommigen van jullie die bedreven zijn in ANN's, zijn zich ongetwijfeld al behoorlijk bewust van het gebruik van backpropagation of back-prop. Misschien wil je zijn voorgestelde voorwaarts-voorwaartse techniek eens bekijken. Ik zal die fascinerende benadering behandelen in een toekomstige column, dus houd mijn aanstaande verslaggeving erover in de gaten.

Schakelen, laten we eens kijken wat er in de gangen en zijwegen van de AI-gemeenschap wordt gezegd over deze onbezonnenheid sterfelijke computer machinatie.

We zullen beginnen met wat sommigen zouden zeggen als een niet-starter over het onderwerp dat alles verteld is.

Ben je klaar?

Stop met dit ding a te noemen sterfelijk computer.

Stop evenzo met verkondigen dat de conventionele computers van vandaag dat zijn onsterfelijk.

Beide gebruiken zijn ronduit verkeerd en overduidelijk misleidend, waarschuwen sceptici.

Een alledaagse woordenboekdefinitie van dat wat onsterfelijk is, bestaat uit iets dat niet kan sterven. Het leeft voor altijd. Om niet dood te gaan, moet je vermoedelijk zeggen dat het ding zelf leeft. U begeeft zich op het verkeerde spoor door te beweren dat de computers van vandaag leven. Geen redelijk mens zou bonafide 'levende' eigenschappen toeschrijven aan moderne computers. Het zijn automaten. Het zijn dingen. Het zijn geen personen of dieren of van een levende toestand.

Als je de definitie van onsterfelijk wilt oprekken om toe te staan ​​dat we ook naar niet-levende entiteiten verwijzen, in dat geval zal de niet-levende entiteit schijnbaar nooit vervallen en kan ze niet onvermijdelijk in stof uiteenvallen. Kun je zo'n bewering doen over de computers van vandaag? Dit lijkt overdreven (kanttekening: we zouden natuurlijk een grootse filosofische discussie kunnen voeren over de aard van de materie en het bestaan, maar laten we daar in dit geval niet op ingaan).

De kern is dat het gebruik of sommigen zouden zeggen misbruik van de woorden "sterfelijk" en "onsterfelijk" bizar en ongepast is. Een veelgebruikte volkstaal gebruiken en hergebruiken voor andere doeleinden is verwarrend en zorgt voor troebel water. Je moet bereid zijn om schijnbaar opnieuw te begrijpen wat sterfelijk en onsterfelijk in deze specifieke context betekenen. Dit wordt problematisch.

Nog verontrustender is dat deze woordkeuzes de neiging hebben om de computeraspecten te antropomorfiseren.

Er zijn al meer dan genoeg problemen verbonden aan antropomorfiserende AI, we hoeven zeker niet nog meer van dergelijke mogelijkheden te verzinnen. Zoals ik uitgebreid heb besproken in mijn berichtgeving over AI-ethiek en ethische AI, zijn er allerlei wilde manieren waarop mensen bewuste capaciteiten aan computers toeschrijven. Dit leidt er weer toe dat mensen ten onrechte geloven dat op AI gebaseerde computers kunnen denken en handelen zoals mensen. Het is een gladde helling van gevaar wanneer de samenleving in slaap wordt gesust door te geloven dat de hedendaagse AI en computers op één lijn staan ​​met het intellect en gezond verstand van de mensheid, zie bijvoorbeeld mijn analyse op de link hier en de link hier.

Oké, we kunnen de lastige formuleringskeuzes afwijzen of minachten, maar suggereert dat dat we het kind met het badwater moeten weggooien (een oude uitdrukking, waarschijnlijk bijna met pensioen)?

Sommigen beweren dat we misschien een betere formulering kunnen vinden voor deze algemene benadering of opvatting. Gooi het gebruik van 'sterfelijk' en 'onsterfelijk' weg, zodat de rest van de ideeën niet worden aangetast door ongepast of oneigenlijk gebruik. Ondertussen zijn er tegenargumenten dat het volkomen acceptabel is om die woordkeuzes te gebruiken, hetzij omdat ze passend zijn, hetzij omdat we niet star moeten zijn over hoe we ervoor kiezen om woorden te hergebruiken. Een roos is een roos met een andere naam, zeggen ze.

Om verdere bittere discussies hierin te vermijden, zal ik voortaan de woorden "sterfelijk" en "onsterfelijk" vermijden en zal ik alleen stellen dat we twee hoofdtypen computers hebben die rondslingeren, een die een conventionele digitale computer van vandaag is en de andere is een voorstel neuromorf computer.

Het lijkt erop dat het niet nodig is om het sterfelijke raadsel hierin mee te slepen. Houd de lucht helder om te zien wat we nog meer van de zaak kunnen maken.

In dat geval zouden sommigen beweren dat het voorgestelde idee van een neuromorfe computer niets nieuws is.

Je kunt teruggaan naar de begindagen van AI, vooral toen ANN's aanvankelijk werden verkend, en zien dat er sprake was van het bedenken van gespecialiseerde computers om het werk van kunstmatige neurale netwerken te doen. Allerlei nieuwe hardware werd voorgesteld. Dit gebeurt tot op de dag van vandaag nog steeds. Je zou natuurlijk kunnen tegenwerpen dat het grootste deel van de huidige verkenning van gespecialiseerde hardware voor ANN's en machine learning nog steeds gebaseerd is op de conventionele benadering van computers. In die zin verlegt deze analoge onafscheidelijkheid van de hardware en software de grenzen enigszins, en het voorstel om de computer te 'groeien' doet dat ook, althans met betrekking tot het buiten de beschouwde mainstream treden.

Kortom, er zijn sommigen die volledig doordrenkt zijn van deze zaken en die verbaasd zijn dat iemand anders verrast zou kunnen zijn door de voorstellen die naar voren worden gebracht. Deze begrippen zijn hetzelfde als voorheen of weerspiegelen wat al in verschillende onderzoekslaboratoria wordt onderzocht.

Laat je haar niet in de war brengen, zeggen ze.

Dit brengt ons wel bij een ander facet dat voor velen lastig is.

In een woord: Voorspelbaarheid.

De computers van tegenwoordig worden over het algemeen als voorspelbaar beschouwd. U kunt de hardware en de software bekijken om erachter te komen wat de computer gaat doen. Evenzo kun je traceren wat een computer al heeft gedaan om uit te zoeken waarom hij deed wat hij deed. Er zijn natuurlijk grenzen om dit te doen, dus ik wil de voorspelbaarheid niet overdrijven, maar ik denk dat je het idee in het algemeen begrijpt.

U weet misschien dat een van de netelige problemen waarmee AI tegenwoordig wordt geconfronteerd, is dat sommige AI is ontworpen om zichzelf aan te passen. De AI die ontwikkelaars hebben ingevoerd, kan zichzelf veranderen terwijl deze wordt gebruikt. Op het gebied van AI-ethiek zijn er talloze voorbeelden van AI die in gebruik werd genomen en die aanvankelijk geen ongepaste vooroordelen of discriminerende neigingen had, die vervolgens geleidelijk computationeel zelfmuteerden gedurende de tijd dat de AI in productie was, zie mijn gedetailleerde beoordelingen op de link hier.

De zorg is dat we al een omgeving binnengaan met AI die niet noodzakelijkerwijs voorspelbaar is.

Stel dat AI voor wapensystemen zelfaanpassingen ondergaat en het resultaat is dat de AI dodelijke wapens bewapent en lanceert op doelen en op onverwachte tijden. Mensen zijn misschien niet op de hoogte om AI te stoppen. Mensen die op de hoogte zijn, kunnen mogelijk niet snel genoeg reageren om de AI-acties in te halen. Zie mijn analyse op voor meer huiveringwekkende voorbeelden de link hier.

Voor neuromorfe computers is de zorg dat we steroïden onvoorspelbaar maken. Vanaf het begin zou de essentie van een neuromorfe computer kunnen zijn dat hij werkt op een manier die voorspellingen tart. We pronken met onvoorspelbaarheid. Het wordt een ereteken.

Er zijn twee kampen.

Eén kamp zegt dat we kunnen leven met de onsmakelijke zorgen over onvoorspelbaarheid, door vangrails te plaatsen om te voorkomen dat de AI een brug te ver gaat. Het andere kamp beweert dat je de wereld op een gevaarlijk pad brengt. De dag zal aanbreken dat de geclaimde vangrails falen, of ze zijn niet streng genoeg, of dat de vangrails per ongeluk of met kwade bedoelingen worden verwijderd of eraan worden gerommeld.

Moeten we de twijfels over neuromorfe computers en voorspelbaarheid wegwuiven?

Volgens de opmerkingen van de onderzoeker: "Onder de mensen die geïnteresseerd zijn in analoge berekeningen, zijn er nog maar heel weinig die bereid zijn de onsterfelijkheid op te geven." Verder: "Als je wilt dat je analoge hardware elke keer hetzelfde doet... heb je echt een probleem met al die verdwaalde elektrische dingen en zo."

Ik zal dit op een rijtje zetten.

Een dreigend en ietwat somber perspectief is dat de zogenaamde voorspelbaarheid die geassocieerd wordt met de huidige digitale computers sowieso in de richting van onvoorspelbaarheid gaat. Zoals gezegd kan dit met name gebeuren per AI die zichzelf aanpast op conventionele computerplatforms. Het feit dat de neuromorfe computers ogenschijnlijk onvoorspelbaar lijken, is nog geen teken dat conventionele digitale computers in feite voorspelbaar zijn.

De onvoorspelbaarheidsstoomwals komt op volle kracht op ons af, welk computerplatform je ook wilt kiezen. Zie voor mijn beoordeling van de laatste pogingen om in dit licht AI-veiligheid te bereiken de link hier.

Deze draai aan voorspelbaarheid zou je geest moeten laten nadenken over iets van een onaardse aard, een soort van. Degenen onder u die betrokken zijn bij AI-ethiek en AI-wetgeving misschien wel niet hebben nagedacht over de gevolgen van neuromorfe computers.

Je hebt waarschijnlijk gericht op conventionele digitale computers met AI. Nou, raad eens, je hebt een geheel nieuw en opkomend segment van AI-computing waar je nu 's nachts wakker van kunt blijven liggen. Ja, neuromorfe computers. Zet dat op je to-do lijst.

Sorry, nog meer slapeloze nachten voor jou.

Laten we kort ingaan op wat AI-ethiek en AI-wetgeving hebben gedaan met conventionele digitale computers en AI.

In eerdere columns heb ik de verschillende nationale en internationale inspanningen besproken om wetten te maken en uit te vaardigen die AI reguleren, zie de link hier, bijvoorbeeld. Ik heb ook de verschillende AI-ethiekprincipes en -richtlijnen behandeld die verschillende landen hebben geïdentificeerd en aangenomen, waaronder bijvoorbeeld de inspanningen van de Verenigde Naties, zoals de UNESCO-reeks AI-ethiek die bijna 200 landen hebben aangenomen, zie de link hier.

Hier is een handige keystone-lijst van ethische AI-criteria of kenmerken met betrekking tot AI-systemen die ik eerder nauwkeurig heb onderzocht:

• Transparantie
• Gerechtigheid & Eerlijkheid
• Niet-kwaadaardigheid
• Verantwoordelijkheid
• Privacy
• Weldadigheid
• Vrijheid & Autonomie
• Trust
• Duurzaamheid
• Waardigheid
• Solidariteit

Die AI Ethics-principes worden serieus verondersteld te worden gebruikt door AI-ontwikkelaars, samen met degenen die AI-ontwikkelingsinspanningen beheren, en zelfs degenen die uiteindelijk het onderhoud aan AI-systemen uitvoeren en uitvoeren.

Alle belanghebbenden gedurende de gehele AI-levenscyclus van ontwikkeling en gebruik worden beschouwd in het kader van het naleven van de gevestigde normen van ethische AI. Dit is een belangrijk hoogtepunt, aangezien de gebruikelijke veronderstelling is dat "alleen codeurs" of degenen die de AI programmeren, onderworpen zijn aan het naleven van de AI-ethische noties. Zoals eerder hierin is benadrukt, is er een dorp nodig om AI te bedenken en in de praktijk te brengen, en waarvoor het hele dorp vertrouwd moet zijn met en zich moet houden aan de ethische voorschriften van AI.

Het deel hiervan waar je misschien niet eerder veel over hebt nagedacht, is hoe diezelfde AI-ethiekvoorschriften en de snelgroeiende lijst met nieuwe AI-wetten van toepassing zullen zijn op neuromorfe computers. Ter verduidelijking: AI-ethiek en AI-recht moeten daar inderdaad expliciet rekening mee houden. Ik wijs erop dat maar weinigen dit doen, en houd er rekening mee dat de kans groot is dat de komst van neuromorfe computers velen voor een lus zal gooien in termen van een nieuwe dimensie om te proberen te regeren in AI.

We moeten ethische AI ​​en AI-wetten breed genoeg overwegen om alle AI die nieuw is bedacht te omvatten, inclusief neuromorfe computers.

Het wip-alternatief is een klassiek kat-en-muisspelletje. Hier is hoe dat gaat. Nieuwe manieren om AI te maken worden bedacht en gebouwd. De bestaande AI-ethiek en AI-wetten worden overrompeld en omvatten niet volledig de nieuwste AI-shenanigans. Er wordt een haastige poging gedaan om ethische AI-voorschriften bij te werken en die nieuw geslagen AI-wetten te wijzigen.

Inschuimen, uitspoelen, herhalen.

Het zou voor ons allemaal beter zijn om het spel voor te blijven, in plaats van verstrikt te raken achter de achtste bal.

Conclusie

Ik heb je een stukje meegenomen op reis.

In het begin stelde ik voor dat er twee belangrijke onderwerpen zouden worden onderzocht:

1) Integraal verbinden van zowel hardware als software voor AI-mechanisaties in plaats van ze als afzonderlijke en afzonderlijke bondgenoten te hebben

2) Het overbrengen of destilleren van machine learning-formuleringen van het ene AI-model naar het andere dat dit doet zonder een ongecompliceerde, volwaardige kopie te vereisen of noodzakelijkerwijs te wensen (of zelfs mogelijk anderszins mogelijk te maken)

Het eerste onderwerp over het samenbinden van hardware en software was het grootste deel van de reis hierin. Dit leidde ons naar het sterfelijke versus onsterfelijke computermoeras. Daaruit waren enkele cruciale overwegingen op het gebied van AI-ethiek en AI-wetgeving die anders gewoonlijk niet ter sprake zouden worden gebracht, aangezien dit soort computergerelateerde onderwerpen door sommigen meestal als een puur technologische kwestie worden gezien in plaats van enige bezorgdheid over de maatschappelijke impact met zich mee te brengen.

Ik zeg dat het het verstandigst is om eerder en veiliger te zijn, in plaats van later en slechter af als het gaat om het ter sprake brengen van ethische AI ​​en AI-wetgeving.

Het tweede onderwerp, dat ik hier nog niet heb verwoord, heeft wezenlijk betrekking op het eerste onderwerp.

Dit is de deal.

Stel dat we een "sterfelijke computer" hebben en we willen de mogelijkheden behouden, zodat we een back-up of ogenschijnlijk kopieën kunnen hebben van wat de AI bevat. We maken ons misschien zorgen dat een bepaalde sterfelijke computer het einde nadert. Jakkes, we zijn er afhankelijk van. Wat moeten we doen? Een antwoord is dat we het verdomde ding zouden moeten kopiëren.

Maar het kopiëren van een neuromorfe computer van het soort dat wordt geschetst, zal moeilijker zijn dan het op het eerste gezicht lijkt. Dingen kunnen lastig worden.

Misschien moeten we een kopieertruc bedenken die generaliseerbaar is en toepasbaar is op omstandigheden met machine learning en kunstmatige neurale netwerken. We willen dat dit werkt op grootschalige en extreem grootschalige instanties. We zouden ook willen dat de kopie geen exacte duplicaat is, maar in plaats daarvan in wezen gelijkwaardig of misschien zelfs beter ontworpen als resultaat van de kopieeractie.

Een techniek die bekend staat als distillatie werd voorgesteld.

Ik heb geen ruimte meer voor de column van vandaag, dus ik zal dit tweede onderwerp in een volgende column behandelen. Ik dacht dat je meteen iets zou willen weten over de relatie tussen dat tweede onderwerp en het eerste onderwerp dat hierin uitgebreid aan bod kwam. Zie dit als een toegevoegde opmerking die dient als een teaser of trailer van wat er hierna gaat komen.

Blijf op het puntje van je stoel, want het distillatie-onderwerp is een vrij goed hoogtepunt.

Zoals Batman altijd zei, houd je vleermuisvleugels gekruist en wees klaar voor dezelfde bat-tijd en bat-channel van het ontrafelen van de lastige vraag hoe je een ANN of machine-learning model of neuromorfe computer naar een andere kopieert.

Voor nu een laatste opmerking. Er is een beroemde regel in de film de duistere Ridder keert terug waarin onze caped crusader dit zegt: “De wereld heeft alleen zin als je het dwingt.” Ik zal proberen aan dat ideaal vast te houden wanneer ik het tweede onderwerp over AI-gerelateerde destillatie behandel.

Houd ons in de gaten voor deel 2 van deze opwindende en meeslepende double-header.