Zal AI de wereld overnemen?

Filosofen onder u zullen bekend zijn met het werk van Rene Descartes, een wiskundige, epistemoloog en rationalist. 17^th eeuw en de vorming van staten en samenlevingen daarna.

Er is één griezelig en verontrustend aspect van zijn leven dat meer aandacht krijgt. Descartes had een relatie met een bediende (Helen van der Strom), en hun relatie bracht een jonge dochter Francine voort, aan wie Descartes erg gehecht was. Tragisch genoeg stierf Francine op vijfjarige leeftijd aan roodvonk, en Descartes was zo radeloos dat hij een robot of automaten (uurwerk, levensechte pop) naar haar gelijkenis liet bouwen.

Hij nam deze 'pop' mee wanneer hij reisde (in een kist), en tijdens een reis om koningin Christina van Zweden te bezoeken, werd de bemanning van het schip waarop hij reisde zo gealarmeerd (het was een stormachtige nacht) door de robot en Descartes mompelen ermee, dat ze zijn vertrekken binnenvielen, de 'pop' grepen en kapotmaakten en overboord gooiden. Descartes raakte verder getraumatiseerd en hoewel het niet duidelijk is dat het incident onmiddellijk gevolgen had voor zijn gezondheid, stierf hij kort daarna.

Technologie maakt ons bang

Descartes 'pop' geniet hernieuwde aandacht voor wat het suggereert over de relaties tussen mens en machine, hoe robots de mens op verschillende manieren kunnen vervangen en zelfs verdringen en voor de manier waarop dit voor consternatie kan zorgen.

De relatie tussen mens en machine is een thema dat de opmars (of achteruitgang) van de wereld zal doorsnijden, en we hebben er al vaak over geschreven (bijv.Talos'). Zoals mijn beperkte visie kan waarnemen, zal ik een classificatie proberen die zegt dat er ten minste twee aspecten van deze megatrend zijn: de risico's dat machines onze (menselijke) wereld (AI) overnemen, en de risico's dat door machines geleide werelden buiten de wereld beginnen te bestaan. menselijke (Defi, Web3/metaverse).

Het slechte nieuws is dat in het geval van het eerste een onbekend risico bestaat dat machines het menselijk ras kunnen schaden (bewapende AI, het gebruik van AI door 'slechte' mensen en het gebruik van robots in oorlog, om nog maar te zwijgen van de creatie van chemische en biologische wapens door AI waarnaar ik verwees in 'Het laatste probleem').

Web3

Het goede nieuws is dat etherische nieuwe werelden - Web3 en Defi (gedecentraliseerde financiën), waarvan de architecten stoutmoedig hadden verkondigd dat ze onafhankelijk waren van het 'oude' systeem, er nu uitzien alsof ze er een aanvulling op zullen zijn.

Hoewel een groot deel van de vroege hype rond Web3/metaverse suggereerde dat het een plek was waar mensen geruime tijd konden verblijven, lijkt het nu op een land dat ze kunnen bezoeken of 'binnen kunnen komen'. Zoveel werd me duidelijk toen ik vorige week de Validify digital retail-conferentie in Hertfordshire bijwoonde, waar de consensus is dat Web3 consumenten kan helpen (kleding passen of huisdecors nabootsen) maar niet noodzakelijkerwijs een domein wordt dat wedijvert met 'onze wereld'.

Hetzelfde geldt voor gedecentraliseerde financiering, die tot nu toe niet kon wedijveren met het zittende financiële systeem, maar waar de meest bruikbare elementen, zoals de infrastructuur voor digitale activa, worden overgenomen door gevestigde spelers in het financiële systeem.

In beide gevallen hangt de groeiende bescheidenheid van nieuwe 'uitvindingen' samen met stijgende rentetarieven (en dalende marktliquiditeit), wat benadrukt dat (zoals bij Descartes in de Nederlandse Republiek in de jaren 1630 en 1640 toen de Tulpenzeepbel plaatsvond) vele triomfen van innovatie zijn voor een groot deel goedkoop geld in de sleep van nieuwe technologieën.

In sommige gevallen stelt goedkoop geld en – goed ontwerp/branding – door nieuwe technologie geleide bedrijven in staat marktaandeel te veroveren, nieuwe toeleveringsketens op te bouwen en het leven van de consument in het algemeen gemakkelijker te maken (een klein aantal fintech- en consumentenplatforms doet dit). Wat goedkoop geld ook doet, is investeerders en de bredere commerciële markt laten geloven dat 'nieuwe commerciële werelden' (zoals de Metaverse) kunnen worden gecreëerd en een overeenkomstig commercieel potentieel zullen hebben als de menselijke wereld. Het tij gaat tegen dit idee.

Naarmate de verwachtingen over het potentieel van de metaverse en gedecentraliseerde financiering zijn gedaald, zouden investeerders en analisten tot op zekere hoogte voorzichtiger moeten worden met betrekking tot AI. AI, de metaverse en defi zijn heel verschillende dingen – hoewel ze allemaal worden aangedreven door dezelfde kapitaalmarkten, durfkapitalisten en evangelisten.

Naar mijn eigen ervaring is AI geworteld in dataregressieanalyse – wat me cynisch maakt gezien de tijd die ik aan econometrie heb besteed. Ik denk dat het anders is dan Web3/metaverse en defi doordat AI potentieel kan opereren in en uitbouwen van beide 'werelden', evenals de onze. AI-gestuurde computerprogrammering is een voorbeeld van zo'n productiviteitsverhogende toepassing.

Wat het potentieel interessant en dodelijk maakt, naar mijn eerdere punt, is dat het kan evolueren en de manier waarop het door programmeurs is gestructureerd kan verbeteren, in die mate dat, om Descartes te citeren 'het denkt, dus het is'. Dat is iets om je zorgen over te maken.