Mijmeringen over Super strong AI, onsterfelijkheid en het overschrijden van de menselijke grenzen

Dit is een eerste draft en een samenvatting met veel shortcuts.

Elke vorm van toekomstvoorspelling is fictie. Hoe goed de pogingen ook zijn. Verder zijn de mogelijke uitkomsten van elke ontwikkeling zo breed dat voor elk aparte boeken kunnen worden geschreven.

Binnen dit artikel (of sorts, het is eigenlijk een samenvatting van het artikel dat ik in gedachten had) hou ik me dan ook bewust binnen de grenzen van mijn verhaalwerelden. Hier zijn de uitgangspunten die ik gebruik.

Kurzweil is te eenzijdig

Kurzweil geeft eigenlijk maar een enkel pad voor de mensheid, na de Singularity. Simple samengevat: we zullen steeds meer van ons eigen lichaam gaan vervangen voor non-organische oplossingen. We zullen uiteindelijk ons lichaam en ons brein gaan vervangen door veel snellere computers. We zullen elk stuk materie op aarde en later in het zonnestelsel en later in de Melkweg en later in het hele universum omzetten naar super-computers waarin we voor eeuwig zullen blijven voortleven.

Ik heb daar moeite mee. Omdat ik niet geloof in die toekomst en omdat ik het een nogal bruut misbruik vind van de wereld en het universum rondom ons.

Ik noem dit in een van mijn verhalen dan ook de “Kurzweiliaanse nachtmerrie”. En die nachtmerrie is als volgt: “Uiteindelijk zullen we het hele universum hebben opgevreten, elk stuk leven hebben omgezet in nog meer verwerkingskracht voor onze hypercomputers”.

Ik heb moeite met een ander aspect van de projecties van Kurzweil, omdat ik het lui denkwerk vind en teveel dingen onbesproken blijven. Dat aspect is deze: “Omdat het kan, zal het ook gaan gebeuren”.

En dus. Want.

Er zijn in mijn optiek meerdere paden mogelijk.

Hier is mijn variant, op basis van de verhaalwereld die ik aan het uitwerken ben.

 

Samengevat

We ontwikkelen ons om een reden. Omdat er uitdagingen zijn, problemen die moeten worden opgelost. Omdat we nieuwe dingen ontdekken die weer andere nieuwe dingen mogelijk maken en omdat die nieuwe mogelijkheden weer veranderingen brengen in onze dagelijkse wereld.

Die ontwikkelingen zijn niet altijd logisch. Neem internet en WiFi. De belangrijkste reden dat dat steeds sneller wordt is niet omdat de wetenschap dat nodig heeft, of omdat dat in het belang is van banken en andere bedrijven, maar omdat we allemaal als een dolle data aan het downloaden zijn. Met de meest banale redenen, zoals het bekijken van televisieseries online, het bekijken van youtube-videos, het stromen van audio en nog meer van die zaken.

Hier is de toekomst van mijn verhaalwereld:

  1. Onsterfelijkheid is mogelijk op verschillende manieren. Onder andere door:
    1. Het lichaam zelf te verbeteren. Door genetische manipulatie. Door het slim inzetten van middelen die we al om ons heen hebben, zoals microben en virussen. Door datgene wat veroudering veroorzaakt stop te zetten.
    2. Het lichaam te repareren. Door slimmere en snellere manieren te vinden om lichaamsdelen te vervangen en het organen en andere delen te repareren als dingen stuk gaan. Door het laten herstellen van verbroken zenuwverbindingen als deze stuk gaan. En zo voorts.
    3. Onze ervaringen op te nemen. Wat we zien, wat we horen, wat we voelen, hoe ons lichaam daarop reageert. En deze “externe herinneringen” weer af te spelen op een leeg brein in een ander lichaam.
    4. Kunstmatige lichamen te voorzien van die externe herinneringen. Omdat organische lichamen beperkingen hebben, zelfs als je ze enorm weet te verbeteren.
  2. Meervoudigheid is mogelijk. Als je meerdere lichamen van dezelfde ervaringen kunt voorzien, kun je jezelf splitsen en tegelijkertijd in meerdere lichamen bestaan.
  3. De dood is geen punt meer in dat geval. Een lichaam is een lichaam. Wat werkelijk telt in deze vorm van onsterfelijkheid is wat jou “jou” maakt: het “idee” van jou. Aangezien dat buiten het lichaam is geplaatst, doet de dood van een lichaam er ook niet meer toe.
  4. Sterfelijkheid is een keuze. Als je de mogelijkheid hebt om onsterfelijk te zijn, is sterfelijkheid een keuze. Een die je bijvoorbeeld kunt maken uit protest, of uit verveling.
  5. De toekomst kan behoorlijk nauwkeurig voorzien en voorspeld worden. Alles is een proces en elk proces kan in kaart worden gebracht. Met voldoende informatie en voldoende rekenkracht kun je alle mogelijke variaties berekenen van wat er in de volgende momenten kan gaan gebeuren. Of dat nu om verkeersstromen in een drukke stad gaat, of de reacties van een groep van personen.
  6. Er zit meer verwerkingskracht in atoomstructuren dan we nu gebruiken. Waardoor het mogelijk is om vrijwel oneindig krachtige supercomputers (voor onze begrippen dan) uit een klont atomen ter grootte van een baksteen te maken.
  7. Een deel van de bevolking zal supercomputers in hun lichaam dragen. Voornamelijk omdat dat de meest logische plek is. Waarom rondlopen met externe onderdelen als je alles binnen kunt hebben? Ik ga er van uit dat de ruimte in onze botten een geschikte plek daarvoor is.
  8. Een deel van ons zal supercomputers buiten hun lichaam dragen. Voornamelijk omdat het idee om die dingen in je lichaam te dragen niet aansluit bij wat acceptabel is. Of omdat anderen denken dat dat beter is zo. (In “Het verval van Europa” is dit een bewust middel om de ontwikkeling van dingen binnen Europa te blokkeren, in het belang van de bescherming van Intellectueel Eigendom en om controle te houden over innovatie)
  9. Een deel van ons zal geen supercomputers dragen. Omdat daar geen behoefte toe is, omdat het leven ook zonder die dingen goed werkt. Omdat anderen van mening zijn dat dat beter is zo.
  10. Een deel van ons zal soms wel en soms niet supercomputers–. Omdat verandering leerzaam is.
  11. Een deel van ons zal in staat zijn om zich alles te herinneren wat onze voorouders hebben ervaren. Omdat al die ervaringen zijn opgenomen en doorgegeven en beschikbaar gesteld voor directe toegang. Zoals wij nu webpagina’s zoeken en opvragen.
  12. We zullen waarschijnlijk in staat zijn om materie te herprogrammeren. En gebruikt worden voor extra verwerkingskracht. Een van de ideeën die Kurzweil naar voren brengt in “The singularity is near” en die ik momenteel vergezocht vind, maar wie weet.
  13. Steden en landstreken zullen zichzelf beheren. Omdat dat kan. Omdat het veel last wegneemt van de bewoners.
  14. Deze steden en landstreken zullen een eigen persoonlijkheid hebben. Omdat ze in eerste instantie door en voor mensen zijn gemaakt. Vragen kunnen beantwoorden, in behoeften kunnen voorzien.
  15. Ruimtevaart zal totaal anders zijn dan we ons nu voor kunnen stellen. Onze werkelijkheid lijkt nu al meer en meer op een illusie, als je de laatste ideeën in snaar- en quantum-theorie volgt. Waarschijnlijk is afstand zelf een illusie. Een van de ideeën die ik gebruik is dit hele universum uiteindelijk in meerdere dimensies is samengevouwen tot een bolletje ter grootte van een speldenknop en de afstand van punt naar punt niet meer is dan dat. Het is wel charmant, vind ik zelf.

Wat betreft de sociale impact van deze ontwikkeling, en met betrekking tot menselijk gedrag, zie ik een paar mogelijke richtingen:

  1. Een deel van ons zal streven naar maximale ontwikkeling. Verder is beter. Als er grenzen zijn dan moeten deze overschreden worden.
    1. Snellere, betere lichamen, snellere reflexen, betere respons naar dingen rond ons.
    2. Naar binnen gericht. Een beter verstand, betere en meer effectieve manieren om naar de wereld te kijken en die wereld te verwerken.
    3. Naar buiten gericht. De ruimte in, de zon in, zweven door de wolken en de stormen van Jupiter. Ver voorbij de grenzen van dit zonnestelsel gaan. Ver voorbij de grenzen van dit Melkwegstelsel gaan.
  2. Een deel van ons zal zich richten op het maken van iets. Omdat dat leuk is. Omdat het fijn is om met je handen en je brein te werken aan iets dat langzaam tot stand komt. Muziek. Meubels. Tuinen en gaarden. Constructies. Hierbij zal:
    1. Een deel van ons geen gebruik maken van al teveel hulpmiddelen.
    2. Een deel van ons alles eerst oneindig lang simuleren in virtuele omgevingen
    3. Een deel van ons het geheel binnen die virtuele ruimtes laten genereren door computers.
    4. Een deel van ons die projecten nooit in de werkelijke wereld ten uitvoer brengen
    5. Een deel van ons dat wel doen.
  3. Een deel van ons zal het wordt wezen. Omdat niets hoeft en niets nodig is.
  4. Een deel van ons zal socialer worden. Omdat er tijd vrij komt voor elkaar, omdat samenwerking lonend is, omdat het samenwerken en samenzijn met andere mensen een gevoel van “behoren tot” geeft en een gevoel van “nuttig zijn voor”.
  5. Een deel van ons zal de mogelijkheden misbruiken. Omdat sociopathie (als een van de factoren) een onderdeel is van ons menszijn. En misbruik sneller tot persoonlijke resultaten kan leiden dan samenwerking. Twee voorbeelden:
    1. Massale manipulatie van personen. Als je dingen kunt voorspellen, als je dingen eindeloos kunst simuleren, als alles over de menselijke psyche bekend is, als een deel van die bevolking niet alert is, kun je veel bereiken op dat vlak.
    2. De verwoesting van financiële markten. Oorlog gaat al lang niet meer om land, maar om afzetmarkten en “wie doet welke productie?”. Verwoest een marktgebied, zorg dat de betrokkenen voor eeuwig bij je in de schuld komen te staan, koop het land en de producenten op en vervang dat voor de jouwe.
  6. Een deel van ons zal proberen dat te voorkomen. Alles dat pijn doet en leed veroorzaakt verstoort het gemak. Elke zet heeft een tegenzet. De aanhouder wint. Dat soort dingen.

Met betrekking tot de ontwikkeling van onze eigen toekomst zie ik het volgende:

  1. Simulatie maakt het mogelijk alles te doen en alles te leren. We zijn nu al op het punt dat computerspellen in staat zijn om een redelijk grote mate van realisme te bereiken, onder andere door het gebruik van engines die simpele natuurkundige processen simuleren zoals zwaartekracht en massa en de invloed daarvan op de objecten in een spel. Hetzelfde geldt voor chemische processen en genetische manipulatie. Waarom dingen uitproberen in fysieke laboratoria als je het ook binnen een virtuele ruimte kunt? Ik denk aan:
    1. Zelf leren door te doen. Denk aan de obsessieve nieuwsgierigheid die kinderen en geeks kunnen hebben voor bepaalde dingen. En plaats dat in een omgeving waar geen enkele restricties meer zijn.
    2. Nieuwe dingen maken. Zonder restricties. Of dit nu iets is dat je in de palm van je hand kunt houden, of een constructie is die kilometers en kilometers groot kan zijn.
    3. Gebruik maken van gegenereerde dingen. Nu al kun je, theoretisch, met een paar simpele instellingen een heel huis, een heel flatgebouw en een hele stad genereren. Hetzelfde geldt voor voertuigen.
    4. Gebruik maken van het proces van evolutie. Nu al volop in experimentele vorm. Je begint met een simpele basis (bijvoorbeeld een vliegtuig) en stelt dat bloot aan verschillende invloeden. In elke nieuwe generatie zijn kleine verschillen (mutaties). Alles wat stuk gaat en faalt valt af. Alles wat net even iets minder snel stuk gaat overleeft en is de basis voor een nieuwe generatie van (in dit geval) vliegtuigen. Of vliegtuigmotoren. Of een geneesmiddel. Of woningen. Of wat dan ook.
  2. Steeds meer inzicht in hoe dit universum werkt. Met waarschijnlijk onvoorstelbare resultaten. Wie weet zijn we (zoals eerder genoemd) over een paar eeuwen al in staat om oneindige afstanden te overbruggen met een enkele sprong van A naar B. Wie weet is tijd een oneindig nu, waarin heden en verleden volledig beschikbaar rond ons heen zijn geprojecteerd.
  3. Totale verwoesting. Wie weet zijn we zo dom om onszelf volledig om zeep te helpen. Wat we nu al met bacteriele oorlogvoering en atoombommen kapot kunnen maken is niets in vergelijking tot wat er nog gaat komen.
  4. Oneindige toegang tot oneindig veel energie. Of dat nu van de zon is, van andere bronnen. Nulpunt-energie is een leuke theorie, mogelijk nep. In mijn verhaalwereld ga ik er vanuit dat op een gegeven moment het probleem van energie (“waar halen we het vandaan? Hoe lang gaat deze batterij nog mee?”) volledig is opgelost.
  5. Een deel van ons zal mogelijk stagneren. Onsterfelijkheid is bijvoorbeeld leuk, maar jij blijft jij. Op een gegeven moment gaan we onszelf mogelijk herhalen. En wat als we tegen een dood punt aankomen, “waarin alles al ontdekt is”?
  6. Ik denk dat verandering op een paar manieren plaats zal vinden:
    1. Door actief ingrijpen. Bijvoorbeeld door oorlogen. Maar ook door bewuste sturing om bepaalde doodlopende paden in de toekomst van een bepaalde groep te omzeilen.
    2. Door toeval. Wat van alles kan zijn.
    3. Door verval. Als dingen instorten, groeit er uit de resten vaak weer iets nieuws. De menselijke geschiedenis is er vol van.

Met betrekking tot beschikbaarheid van de technologie zie ik het volgende als twee parallelle ontwikkelingen:

  1. Alleen voor een beperkte groep. Want geld. En macht. En voorsprong op anderen.
  2. Voor iedereen. Want dat is eerlijker en het bevoordeelt de ontwikkeling van een groep, een gemeenschap en de wereld als geheel.

Een van de mogelijke oorzaken van “voor iedereen” in mijn verhaalwereld is het lekken (piraterij) van die technologie naar bepaalde groepen. De consequenties en mogelijke consequenties zijn hierboven al beschreven.

 

Voorbij de menselijke event-horizon

En dan?

Al het bovenstaande gaat nog steeds uit van een menselijk component. Met menselijke mensen die menselijke dingen willen. Die op zoek zijn naar nieuwe dingen, nog steeds vergelijkbare verlangens hebben als wijzelf. Met een mentale turbo in hun achterhoofd.

Een van de vragen die ik nog niet heb opgelost (en me heel erg spoedig op moet gaan werpen wil ik mijn huidige verhaal af gaan krijgen): “Wat ligt er voorbij dat punt?”

Hoe is het bijvoorbeeld om de toekomst te kunnen voorspellen? Om elk mogelijk pad te simuleren, elke mogelijke actie en handeling van tevoren uit te stippelen? Hoe verandert dat mijn eigen gewaarwording van de wereld om me heen?

Waar zou ik naar kunnen verlangen als alles mogelijk is? Als alles wat ik me zou kunnen wensen (en dat al is uitgevonden) vrijwel direct geproduceerd kan worden? Of al ergens op me ligt te wachten?

Welke uitdagingen zijn er? Welke blijven er over?

En hoe beschrijf ik dat dusdanig dat mijn lezers dat begrijpen?

Wie of wat is de tegenstrever in dat verhaal? Wat gaat de problemen opwerpen? En waar bestaan die uit? Hoe groot is het speelveld? Deze wereld? Dit zonnestelsel? Het universum?

Het vereist studie van speltheorie: een reeks wiskundige vergelijkingen waarmee de uitkomst van bepaalde scenarios kan worden berekend. Het best bekend van de begrippen: “win/win”, “win/lose” en “lose/lose”.

Het vereist studie van het verleden, om te begrijpen hoe irrationaliteit en interne waanzin, maar ook noodzaak kan leiden tot beslissingen die ontelbare mensen beïnvloedt en dat soort spanning creëert waardoor een verhaal interessant gaat worden. Genoeg huiswerk. Dat mogelijk nooit gaat plaatsvinden. Of heel slordig en oppervlakkig. Als een soort fast-food binge-eating proces.

 

Verdere vragen

Gaan we het universum veroveren?

Ik vind dat persoonlijk een van de meest saaie vragen ter wereld. Wat Kurzweil als “onze toekomst” ziet is een herhaling van een barbaars verleden. “Omdat we dat kunnen, zullen we het universum naar onze wil buigen.”

Het is niet onmogelijk (zoals eerder gezegd) dat we middelen gaan vinden om hele grote afstanden binnen een hele korte tijd af te leggen. En dan?

Wat gaan we doen met al die sterren? Met al die werelden?

Hebben we al die middelen werkelijk nodig? “Plug nog even twee superclusters erbij, we moeten meer bandbreedte om LOL-cat videos te streamen!”

Is wat we hebben niet genoeg?

 

Wie en wat gaan we tegenkomen?

We bereiken over 100 jaar waarschijnlijk al dat punt waar SETI onze eigen beschaving niet zou kunnen ontdekken. Omdat radiogoven even achterhaald zullen zijn als communicatiemiddel, als brievenpost (met papier, in een enveloppe, met een postzegel) dat nu al aan het worden is.

Quantum-entanglement en quantum-teleportatie lijken geschikte middelen te zijn om van een punt naar een andere te communiceren en het is niet ondenkbaar dat we binnen vrij korte tijd relatief makkelijk toegang gaan krijgen tot “punt naar punt” communicatie waarin ik jou (bijvoorbeeld) een token kan geven die niet veel groter is dan een micro-SD kaart, waarmee we vervolgens zonder radio en over grote afstanden met elkaar kunnen communiceren.

Het is mogelijk dat beschavingen elders al ver voorbij de punten zijn die ik hierboven aanhaal en onsterfelijk is, vele malen intelligenter dan alles wat we ons kunnen voorstellen, mogelijk nog steeds in hun oudere vormen incarneren en uiteindelijk gevonden gaan worden.

Het kan dat deze beschavingen hebben gekozen voor een allesverslindend proces zoals Kurzweil dat beschrijft, en ook ons op een gegeven moment zal converteren tot onderdelen van hun supercomputers (waarin de Borg van Star Trek een verwaarloosbaar gevaar zijn).

Het kan zijn dat ze ergens in het midden zitten, of aan de kant van het soort Boeddhistische verlichting waarin een soort totale eenheid met het universum is bereikt. Of er is helemaal niemand.

 

Hoe zit het met hyper-intelligenties?

In mijn verhaalwereld zijn verschillende vormen, waaronder de steden en de gebieden. Maar ook hele planeten die zelfdenkend zijn.

Voor een aantal van die hyperintelligenties zijn mensen een bijzaak. Een onderdeel van de flora en de fauna die beheerd wordt. Een groep waaraan bepaalde diensten worden verleend.

Andere hyperintelligenties zijn onderdeel van het “opgevoerde en externe brein” waar mensen gebruik van maken om bepaalde problemen op te lossen. In die gevallen is sprake van nauwe samenwerking, omdat dat de functie van dat soort systemen is.

Het idee dat een AI zich “tegen mensen kan keren” is niet onrealistisch, maar zal niet zomaar gebeuren. Een “kwaadaardige machine” is:

  1. Ofwel op hol geslagen (en dus zelf de controle kwijt)
  2. Of met opzet zo door mensen ontworpen
  3. Of een fout in de evolutie van die systemen, die nadelig uitviel voor mensen

Ik ga er van uit dat voor een AI geen reden is om hetzelfde te doen wat wij met andere soorten doen: ze gedeeltelijk of volledig van de wereld vegen. We hebben andere belangen en mensen zijn op andere manieren onschadelijk te maken.

Als het dan toch mis gaat?

Ik kan me een aantal scenarios voorstellen:

  1. We worden opgeruimd tot het punt waar we geen bedreiging meer vormen. Dat kan volledig zijn.
  2. We worden beperkt in onze middelen en onze ontwikkeling. Net genoeg om lekker te kunnen functioneren, maar nooit voorbij dat punt dat we schade kunnen doen. Dat kan “terug naar de steentijd” zijn, door eerder genoemde geboortebeperking (en dus minder belasting van de wereld waarop we leven, bijvoorbeeld) of door bepaalde technologische doorbraken nooit plaats te laten vinden of vrij te geven.
  3. We worden verstoten naar een andere plek, waar we niet in de weg zitten.
  4. We worden verlaten en blijven achter met de minderwaardige oplossingen omdat het elders beter is en makkelijker voor deze systemen.

 

Slot

Dit is een incomplete samenvatting van wat er in mijn hoofd zit.

Ik heb geen idee of ik ooit tijd ga hebben om dit volledig uit te schrijven.

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s