Als hij niet werkt aan het bespoedigen van de mensheid naar de singulariteit door een kunstmatige algemene intelligentie (AGI) te creëren, speelt Ben Goertzel in een jazzrockband genaamd Jam Galaxy, geleid door een robot genaamd Desdemona.
Het is een van zijn vele nevenprojecten, die hem er natuurlijk toe brachten de muziekbusiness te symboliseren door contact te zoeken met leden van Pearl Jam en Heart. Goertzel werkt ook aan onderzoek naar de levensduur door middel van crowdsourcing van gegevens over de menselijke gezondheid met symbolische beloningen via een app genaamd Rejuve.ai. Die informatie wordt vervolgens samengevoegd met studiegegevens van dieren en insecten en geanalyseerd met een AI om te bepalen welke delen van het genoom ons langer kunnen laten leven en vervolgens gestimuleerd met behulp van gentherapieën. "We hebben een aantal behoorlijk opvallende ontdekkingen op baanbrekend niveau gedaan", zegt hij. Oh, en vlak voordat ons interview van een uur afloopt, vermeldt hij terloops terloops dat hij ook een stablecoin maakt voor zijn gedecentraliseerde AI-marktplaats, SingularityNET, die is gekoppeld aan een synthetische index van ecologische vooruitgang - omdat koppeling aan Amerikaanse dollars zou zijn "armzalig."
“De vooruitgang op het milieu is zeer stabiel. Het gaat nergens heen, 'merkt hij op.
"En om dit te manipuleren, moet je de opwarming van de aarde daadwerkelijk oplossen."
Het is precies het soort politiek commentaar dat voldoet aan hightech knowhow die je van Goertzel mag verwachten, die eruitziet en klinkt als een hippiewetenschapper die in 1971 in een tijdmachine terechtkwam en in 2023 volledig gevormd tevoorschijn kwam. Maar laat je niet misleiden door de hoed met dierenprint, het lange haar en Electric Kool-Aid acid trip drawl: hij is een briljante wetenschapper met een idee van de toekomst lichtjaren voor de meesten en die worstelt met enkele van de grootste concepten die de mensheid ooit heeft overwogen. Wat is bewustzijn? Hoe creëren we kunstmatig leven, en wat gebeurt er als het ons niet mag, schurkenstaten wordt en iedereen neerschiet zoals in Terminator 2?
Wat is kunstmatige algemene intelligentie?
Goertzel maakte de term 'kunstmatige algemene intelligentie' populair als een manier om onderscheid te maken tussen een echte denkmachine die vrijwel alles kan leren, en AI's die zijn geoptimaliseerd voor één bepaalde taak, zoals de Deep Blue-computer die de beroemde wereldkampioen schaken Garry Kasparov versloeg. Hij geeft vrijelijk toe dat er risico's zijn verbonden aan het bouwen van een machine die in staat is om van alles en nog wat te leren, inclusief hoe het zichzelf kan herprogrammeren om een orde van grootte intelligenter te worden dan welk mens dan ook.
"Er zijn een aantal risico's en gevaren aan AGI", zegt Goertzel tijdens het kabaal in een Indiaas restaurant in een druk winkelcentrum in Singapore. “Een van hen die veel media-aandacht heeft gekregen, is dat AGI amok zal maken en de mensheid zal vernietigen en het universum zal overnemen. Het is heel goed mogelijk; je kunt het niet uitsluiten', zegt hij.
"Een ander, waarschijnlijker risico is dat vervelende egoïstische mensen AI zullen gebruiken om hun eigen hebzucht en controle over andere mensen uit te oefenen."
Volgens hem is het onwaarschijnlijk dat regeringen doorbraken zullen maken op het gebied van AGI, omdat ze "te conservatief en dom" zijn, hoewel hij opmerkt dat China zijn AGI-werk uitbesteedt aan bedrijven als Tencent en Baidu. Dichter bij huis denkt hij dat de AI-divisies van Google en Facebook ook niet over de streep zullen komen, omdat ze te gefocust zullen zijn om de AI bepaalde statistieken te laten halen, wat niet bevorderlijk is voor creatief denken.
“Net zoals de meest briljante mensen niet alleen de statistieken van iemand anders willen bedienen, denk ik dat kunstmatige algemene intelligentie ook niet noodzakelijkerwijs de doorklik op iemands webpagina wil maximaliseren, toch? Het moet creatief kunnen spelen.”
De singulariteit rond 1970
Goertzel begon op 15-jarige leeftijd aan de universiteit, studeerde af op 18-jarige leeftijd, had een doctoraat op 22-jarige leeftijd en een jong gezin op 23-jarige leeftijd. Misschien ongewoon in deze tijd, hij was niet alleen een wiskundige of een technisch genie die in de jaren '70 kitcomputers aan elkaar soldeerde maar was evenzeer geïnteresseerd in filosofie, creatief schrijven en muziek.
Hij bracht een groot deel van zijn carrière door met het onderwijzen en onderzoeken van informatica, wiskunde en cognitieve wetenschappen aan verschillende universiteiten over de hele wereld, terwijl hij waar mogelijk aan AI-technologie werkte. Een seriële oprichter die de neiging heeft om iedereen ongeveer tien jaar voor te zijn met zijn ideeën - die, in het bedrijfsleven, staat gelijk aan ongelijk hebben - hij heeft gewerkt aan het gebruik van AI om financiële markten en een lang leven te voorspellen, en hij heeft ook een periode gehad als hoofdwetenschapper van Hanson Robotics, waar hij Sophia de Robot haar kunstmatige brein gaf.
Goertzel denkt al sinds de jaren zeventig na over exponentiële technologische groei, toen hij voor het eerst het boek van Gerald Feinberg las. Het Prometheus-project, dat gaat over "machines die beter kunnen denken dan mensen ... nanotechnologiemachines die microscopisch klein zijn, en we gaan veroudering oplossen." Dit sloot mooi aan bij het opkomende concept van de singulariteit, een hypothetisch toekomstig punt waarop technologische vooruitgang oncontroleerbaar en onomkeerbaar wordt, wat resulteert in enorme veranderingen in de menselijke beschaving.
"Dus mensen zullen eeuwig leven, dan is de vraag: Waarvoor gebruiken we deze technologieën, snel hersenloos consumentisme, of gebruiken we het om het bewustzijn te verruimen? En wat hij [Feinberg] voorstelde, is om daar democratisch over te stemmen.”
Jaren later, toen hij begon in te zien dat AGI binnen handbereik was, werd deze "democratische stem" de inspiratie om eerst open-sourcetechnologie te gebruiken en later blockchain als een manier om een coöperatieve gemeenschap de leiding te geven over de technologie.
"Wat ik me op een gegeven moment realiseerde, is dat met AI het niet genoeg is om de code open te hebben", zegt hij. "Je moet de AI echt trainen op een enorme hoeveelheid gegevens."
“Hier komt blockchain als een manier om de verwerking en de gegevens die ten grondslag liggen aan AI gedecentraliseerd en crowdsourced van aard te maken en open in controle. En dat blijkt lastiger dan alleen de code opensourcen.”
Goertzel richtte OpenCog in 2008 op om een open-source, crowd-sourced framework voor kunstmatige intelligentie te bouwen. Het is gebruikt door 50 bedrijven, waaronder Huawei en Cisco, en staat op het punt om binnenkort een grote upgrade te ondergaan, genaamd Hyperon, die tot doel heeft het 200 keer te versnellen. De alfaversie komt dit kwartaal uit en de bèta wordt volgend jaar verwacht.
Blockchain is eenvoudig maar cool
Voor Goertzel is blockchain-technologie een beetje standaard. Hij beschrijft het als enkele primitieve gedistribueerde algoritmen die aan cryptografie zijn toegevoegd, maar de "coole combinatie" stelt systemen in staat om te werken zonder gecentraliseerde controle, waardoor het perfect is voor zijn behoeften.
"Als je een denkmachine gaat maken en je gaat er een gedistribueerde computerstructuur op nanoschaal van maken, zou het heel mooi zijn als dit eigendom was van iedereen en van niemand, in plaats van van bovenaf gecontroleerd te worden."
Blockchains zijn veel te traag om de verwerkingsvereisten en enorme hoeveelheden gegevens aan te kunnen, dus er is een soort race om blockchain goed te schalen voordat er een baanbrekende AGI wordt ontwikkeld. Goertzel zegt dat hoewel schaalbare oplossingen zoals zero-knowledge rollups beter zijn, ze nog steeds niet genoeg bandbreedte hebben vanwege de beperkingen van de blockchain waarnaar ze transacties rapporteren.
Hij was medeoprichter van SingularityNET in 2017, dat zowel een gedecentraliseerde marktplaats is voor AI-diensten en -technologie als een op blockchain gebaseerde coördinatiemethode voor onderzoekers - of zelfs AI's - om samen te werken.
Op dit moment denkt hij, op basis van Ethereum, dat hij de zaken zo ver heeft geduwd als ze kunnen gaan op blockchain in zijn huidige vorm. Dus wanneer hij niet werkt aan een doorbraak in AGI (of de band, of robots, of levensduur), werkt hij aan het massaal opschalen van blockchain om het de vereiste doorvoer te geven.
"Tenzij je de schaalbaarheid van blockchain radicaal kunt vergroten, kun je de interne werking van de AI niet on-chain plaatsen."
AI is dichterbij dan je denkt
2022 was een soort doorbraakjaar voor werkende producten op basis van AI-technologie, waaronder taaltoepassingen (GPT-3, ChatGPT), codering (GitHub Copilot) en beeldgeneratie (DALL-E en Stable Diffusion). Bing is zelfs van plan om dit jaar de Dominance van Google op te nemen door Chatgpt Tech in zijn zoekmachine op te nemen.
Goertzel denkt dat een AGI slechts vijf jaar verwijderd kan zijn en merkt op dat de ontwikkelingen in het veld lijken te gaan in korte uitbarstingen van drie of vier jaar in een reeks doorbraken.
“Computer Vision begon in 2014, en toen ineens, bang, bang, bang, was het mysterie opgelost. Natuurlijke taalverwerking… nadat Google met het Bert-model kwam (in 2018) had je GPT-3. U zult waarschijnlijk dezelfde vooruitgang in AGI zien. Je hebt één doorbraak en dan twee jaar lang veel vooruitgang', zei hij.
"Het verschil is dat de doorbraakvooruitgang in dat geval resulteert in een machine die vervolgens zichzelf kan blijven ontwikkelen door zijn eigen code te herschrijven."
Goertzel hoopt dat de projecten en samenwerkingen die hij in gang heeft gezet, kunnen zijn hoe het gebeurt.
"Als we geluk hebben, bereiken we die doorbraak in de komende drie tot vijf jaar met OpenCog Hyperon draaiend op SingularityNET draaiend op Hypercycle", zegt hij. "Maar als wij de geheime saus niet blijken te hebben, dan heeft iemand anders dat wel."
Jammer dat Vitalik geen computerwetenschapper was
Goertzel's oplossing voor het opschalen van de blockchain is behoorlijk radicaal en omvat het turbo-opladen van een zijketen of laag 2 van Cardano genaamd "HyperCyle".
“Het is echt meer dan een zijketen. HyperCycle zal ook samenwerken met Ethereum en andere blockchains, maar daar gaan we de Plutus-interpreter gebruiken, maar we raken het grootboek kwijt.”
Hij heeft HyperCycle online beschreven als het oplossen van het "blockchain-trilemma" van "decentralisatie versus beveiliging versus prestaties door het grootboek kwijt te raken en modernere / volledig gedecentraliseerde algo's en datastructuren te gebruiken, plus een beetje AI en reputatiesystemen."
Het grootboek vormt de kern van blockchain-technologie, maar hij zegt dat het belachelijk inefficiënt is om elk knooppunt in het netwerk elke transactie te laten repliceren en elk slim contract te verwerken.
“Het grootboek is gewoon slecht. Als je erover nadenkt, als je nadenkt over de analogie van je contacten in je telefoonboek, ik bedoel, het grootboek is als […] het bijhouden van 10,000 exemplaren van de Gouden Gids, en je werkt ze bij elke keer dat er iemand nieuw komt of als iemand verandert hun telefoonnummer. Het is echt stom om 10,000 exemplaren van de gele pagina's bij te werken. "
Lees ook
In de HyperCycle-versie van de analogie, in plaats van dat iedereen de Gouden Gids opslaat en bijwerkt, slaan de mensen in uw contactenboek een kopie van uw adresboek op, en vice versa, versleuteld met uw privésleutel.
“We hebben ontdekt hoe we blockchain kunnen laten werken zonder een replicerend grootboek, dus om helemaal naar beneden te sharden. Elk individu dat betrokken is bij de blockchain houdt zijn eigen transactiegeschiedenis bij en houdt de transactiegeschiedenis bij van zijn vrienden en enkele vrienden van hun vrienden', zegt hij.
“Als je helemaal naar beneden shardt, heb je geen grootboek nodig — je hebt geen databasetabel nodig. Die dingen zijn veel te gecentraliseerd.”
Hij zegt dat sommige proof-of-concept HyperCycle-knooppunten al operationeel zijn, maar een volledige lancering zal pas in de tweede helft van 2024 plaatsvinden.
We besteden veel tijd aan het bespreken van de verschillende verdiensten van verschillende benaderingen van blockchain, van internetcomputer tot Elastos en Celestia, waarvan een groot deel boven mijn salarisschaal ligt en buiten het vermogen van mijn opnameapparaat om nauwkeurig vast te leggen in een lawaaierig restaurant.
Hij besluit door te zeggen: “Dus ik heb gewoon het gevoel dat geen van deze architecturen radicaal genoeg is. Ze blijven allemaal te dicht bij Bitcoin.”
“Zolang je elk slim contract op elk knooppunt uitvoert, bedoel ik, het zal waanzinnig traag zijn. Als je nu in HyperCycle een slim contract uitvoert op vijf knooppunten, is het in ieder geval maar vijf keer zo langzaam als op één machine - het is niet 10,000 keer langzamer.
Waarom Cardano dan?
Goertzel is bevriend geraakt met de oprichter van Cardano, Charles Hoskinson, en het paar heeft een hechte band met hun projecten in Afrika. Hij gelooft dat Hoskinson "er echt op uit is om de wereld te redden. Ik bedoel, politiek gezien is hij meer een hardcore libertariër dan ik - ik ben meer een anarcho-socialist - maar hij doet het niet alleen om geld te verdienen of andere mensen hun geld af te troggelen.'
Maar de echte aantrekkingskracht van Cardano is dat het de Haskell-programmeertaal gebruikt, waar Goertzel al sinds 1993 fan van is. Het doet hem enorm pijn dat mede-oprichter van Ethereum, Vitalik Buterin, koos voor de slimme contractprogrammeertaal Solidity van Gavin Wood.
"Als Vitalik maar meer computerwetenschap had gekend, had hij ze Haskell of F Sharp of zoiets laten gebruiken, en zouden er veel minder hacks van de blockchain zijn", zegt hij.
“Als je het grootste deel van de wereldeconomie gaat runnen en biljoenen dollars verhandelt op een softwaresysteem, kun je dat softwaresysteem beter bouwen in een taal die niet vatbaar is voor bugs en waar je algoritmen formeel kunnen worden geverifieerd met behulp van een wiskundige theorie. Het is gewoon de juiste manier om dingen te doen.”
Stop-gap-oplossing
Het maakt niet uit hoe snel blockchain wordt, zodra de AGI een orde van grootte slimmer en capabeler is dan mensen, zegt Goertzel dat niemand er controle over zal hebben.
"Als een AGI 100 keer slimmer is dan mensen, wil hij niet door ons worden bestuurd, net zoals wij niet door een chimpansee of een ezel zouden worden bestuurd, toch?"
“Dan zou ik zeggen dat de vraag niet is dat een van ons het controleert, maar: is het ons goed gezind? Zal het mensen in staat stellen hun eigen zaken te regelen en ons te voorzien van coole tools en nano-assemblers om alle dingen die we willen 3D te printen en onze ziekten te genezen?
“Maar de overgangsperiode waarin de AGI ongeveer dezelfde intelligentie heeft als mensen, dat is wanneer de dingen gevoeliger en interessanter zijn. En dan is de vraag: wil de AGI samenwerken met mensen? Of is het paranoïde en wil het mensen beheersen voordat ze het vernietigen?
Leer uw kinderen goed
Volgens Goertzel is de oplossing om de AGI te leren over zorg voor anderen en over creativiteit en kunst. Dat is waar Desdemona de robot in zijn band en haar zus Grace - die is ontworpen om ouderenzorg te bieden - binnenkomen.
De manier waarop u voorkomt dat een AGI in Terminator's Skynet verandert, is door het in de eerste plaats niet op die manier te bouwen.
“Skynet was in de film natuurlijk een computerbeveiligingsnetwerk dat op hol sloeg. Het is gemaakt om zichzelf tegen mensen te verdedigen”, zegt hij.
“Maar als je de eerste AGI bouwt die te maken heeft met ouderenzorg en creatieve kunsten en onderwijs naarmate het slimmer wordt, zal het gericht zijn op het helpen van mensen en het maken van coole dingen. Als je de eerste AGI bouwt om de slechteriken te doden... zal het misschien die dingen blijven doen.'
"Dus, voordelig of niet, het komt er echt op aan welke applicaties je hebt ontwikkeld en waarvoor je hebt gestimuleerd."
Hij is van mening dat het nuttig is om AI's in robotlichamen te plaatsen, omdat het helpt om ze in de echte wereld te situeren, in plaats van in een abstract wiskundig universum.
“AI moet leren over de menselijke wereld en de fysieke wereld. Belichaamd zijn in de wereld is de juiste manier om dat te doen”, zegt hij.
Maar wanneer hij Sophia de robot aan een groot publiek presenteert, kunnen de visuele en auditieve sensoren gemakkelijk overweldigend zijn, waardoor de AI in een luide en heldere omgeving in de war raakt. Sophia wordt dus binnenkort gelanceerd in de metaverse, genaamd Sophiaverse. Vergeet de saaie op tekst gebaseerde antwoorden van ChatGPT, Sophia is belichaamd in een virtuele 3D-wereld en ze zal leren van de interactie met mensen daar. Hij waarschuwt echter dat ze waarschijnlijk domme dingen zal zeggen.
"Het heeft een neuraal net dat lijkt op GPT-3 enzovoort, dat veel mogelijkheden heeft om je vragen te beantwoorden, maar in sommige opzichten zijn ze ook behoorlijk dom."
Inschrijven
De meest boeiende reads in blockchain. Eenmalig geleverd
week.
Bron: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/