Collectief zelfbedrog en de dreiging van robots en kunstmatige intelligentie

Deze blogpost gaat specifiek in op het menselijke aspect in de ontwikkeling van robots en kunstmatige intelligentie en is mijn persoonlijke mening.

Ik denk dat er, in het kader van de mogeljke dreiging van die technologieën veel vragen gesteld worden die uiteindelijk naar onszelf terugleiden: Wie zijn wij? Hoe passen deze ontwikkelingen in ons godsbeeld? (Als we die hebben? En nee: het terugvallen van het kerkbezoek betekent niet dat het geloofssysteem zelf verdwenen is) Wat geeft ons waarde? Wie bepaalt die waarde?

Mijn terugkerende conclusie is ook in deze blogpost dat voortschrijdende technologische ontwikkelingen steeds hogere eisen stellen aan de cultuur waarin die technologie gebruikt en ontwikkeld wordt. Misbruik komt allereerst voort uit menselijk handelen en uit de culturele denkbeelden en de culturele geloofssystemen binnen die bevolkingsgroep.

Kunnen we onszelf en de wereld verwoesten met onze eigen uitvindingen? Ja. De afgelopen 100 jaar zijn daar een duidelijk voorbeeld van. We hebben al meer dan een eeuw de hand in de massale sterfte van diersoorten en het leegraken van de oceanen en waarschijnlijk zijn we als soort direct verantwoordelijk voor het extreme weer dat steeds vaker plaatsvindt.

Deze blog

Ik begin met psychose, rationaliteit en collectief zelfbedrog en werk vanuit zelfbeeld naar godsbeeld en een toekomst waarin mensen worden overtroffen door hun eigen creaties.

En een noot: ik ben agnost. Ik ben een optimist. Ik denk dat de uitkomst elke keer weer positief zal zijn. Ik denk dat het allemaal wel los zal lopen.

Waarom ik verschillende keren het Rooms-Christelijke geloof aanhaal

Voor mijn gevoel zijn een aantal basisvragen in ons denken voor een belangrijk deel gevormd door het Rooms-Christelijke denken dat eeuwenlang dominant is geweest in Europa en nog steeds diep in ons culturele denken zit.

Andere culturen met een andere achtergrond hebben waarschijnlijk (totaal) andere vragen over dezelfde onderwerpen.

Psychose

Wikipedia:

Een psychose is een psychiatrisch toestandsbeeld (psychische aandoening) waarbij de patiënt het normale contact met de – door zijn omgeving ervaren – werkelijkheid geheel of gedeeltelijk kwijt is.

Een van de symptomen van een psychose zijn wanen. Opnieuw Wikipedia als bron:

[…] on/of ideeën waarvan de patiënt niet af te brengen is met logisch redeneren. Vaak, maar niet altijd, is er ook sprake van paranoia; overmatige achterdocht die bijvoorbeeld leidt tot de inbeelding dat overal camera’s of microfoons verstopt zijn, dat er complotten zijn, of dat de persoon in kwestie gezocht wordt door de politie of door internationale veiligheidsdiensten.

Psychose, cultuur en collectief zelfbedrog

Wij, mensen, zijn niet zo rationeel en realistisch als we onszelf graag wijs willen maken. We geloven. En dat geloof is in dingen die we zelf verzonnen hebben, of die andere mensen ons wijs hebben gemaakt.

Wat denken we bijvoorbeeld dat onze waarheid is? Welke enorme olifanten kunnen daarom in de kamer blijven staan? Welke meetbaar-rampzalige dingen laten we vrolijk om ons heen gebeuren omdat we op cultureel vlak midden in die waanvoorstelling leven en vanuit diezelfde culturele psychose totaal schijt hebben aan die tastbare werkelijkheid en de onderliggende morele vraagstukken achter onze eigen daden daarin?

Het idee dat we kunnen winnen in een loterij, bijvoorbeeld. Zeker als we daar een paar rituelen aan vast plakken. Het idee dat het opsteken van een kaars, of het dragen van een klavertje vier, of het dragen van bepaalde kristallen geluk gaat brengen. Het idee dat oorlogsvluchtelingen en economische vluchtelingen gelukszoekers zijn. Of het idee dat Satan echt bestaat, dat god homoseksualiteit afkeurt, of dat we in dit leven moeten zweten en lijden om in het hiernamaals beloond te worden. Niets van dat alles is logisch. Het merendeel heeft de geur van een psychose.

Waanvoorstellingen, arbeid en de vermeende dreiging van robots en kunstmatige intelligentie

Welke ideeën hebben we verzonnen om onszelf een plek te geven in deze wereld en in dit universum? Moeten we onszelf eigenlijk wel zo belangrijk vinden, of is ook dat slechts een tussenfase en houden we onszelf alleen maar tegen in onze verdere ontwikkeling?

Hoe dreigend zijn robots en super-slimme kunstmatige intelligenties in dat wereldbeeld? Hoe dreigend is de opkomst van verregaande automatisering en kunstmatige intelligentie?

Doelstellingen en het handige van deze ontwikkelingen

De commerciële ontwikkeling van robots en van geautomatiseerde processen heeft een aantal concrete doelstellingen, waarvan ik er drie noem:

  1. Het vervangen van mensen in het arbeidsproces. Robots en geautomatiseerde processen zijn efficiënter en na de ‘Return On Investment’ ontelbare keren goedkoper dan mensen.
  2. Het vervangen van mensen in levensbedreigende situaties. Zoals onderzoek in vulkanische gebieden en drones om vijandige legers te bombarderen.
  3. Het ondersteunen van mensen in hun dagelijks leven. Van koelkasten die steeds slimmer worden, auto;s die zelf kunnen rijden, tot protheses die mensen met een handicap in staat stellen om een zelfstandiger leven te leiden.

Robots en geautomatiseerde processen hebben geen arbeidsrechten. Ze worden niet moe. Ze hoeven niet te slapen. Ze raken niet verveeld. Je hoeft ze niet op te leiden. Ze zijn oneindig schaalbaar (copy & paste is voldoende) en als ze kapot gaan, zijn ze vervangbaar.

De invasie van die robots, in onze leefwereld, is al meer dan 50 jaar gaande. En deze invasie is ongelooflijk succesvol voor de robots. En deze invasie is alleen maar een gevaar voor de mensheid als geheel, als we onze waarde blijven koppelen aan onze plaats in het arbeidsproces.

De kernvraag hier: Als robots en automatisering al het werk gaan doen, wat is dan nog het nut van mensen?

Worden we bedreigd als de kroon op de schepping?

Twee terugkerende vragen met betrekking tot de ontwikkeling van de robotica en kunstmatige intelligentie zijn: “Wat als we iets maken dat beter is dan onszelf? Wat als we onszelf vervangbaar maken?”

Twee goede vragen, vaak met domme antwoorden als we onszelf bedreigd voelen in die zelfopgelegde rol als de kroon op de schepping. Het Rooms-Christelijke geloof geeft ons immers redenen om te geloven dat dat zo is. Adam en daarna Eva werden geschapen in God’s beeld en geschapen om het Paradijs te beheren. Ze werden boven al de andere levensvormen gesteld.

Maar is dat werkelijk zoals dingen zijn gegaan? En zijn wij eigenlijk wel die kroon op de schepping?

Laten we nog even binnen dat kader blijven: “Ja.”

De Roomse kerk deed namelijk een paar schepjes bovenóp dat basisidee waarin mensen superieur zijn boven al het andere dat door god geschapen is. Alleen mensen met een lichte huid hadden bijvoorbeeld een ziel. Dieren en slaven uit Afrika niet en deze waren daardoor per definitie minderwaardig. Uit diezelfde gedachtengang kwam het idee dat het ‘ras’ van een bepaalde bevolkingsgroep de eigenschappen bepaalde van onder andere intelligentie en het vermogen om een vergevorderde cultuur te ontwikkelen.

Dieren zouden niet in staat zijn om (complexe) emoties te voelen. Mensen uit Afrika zoude niet in staat zijn om vergevorderde samenlevingen te vormen, of voor zichzelf na te denken.

“De kroon op de schepping” was een irrationele manier om naar onszelf te kijken. Een manier om te kunnen zeggen: “Wij zijn beter dan (al) die anderen.” En: “Dit geeft ons een vrijpas om anderen te misbruiken en te onderdrukken.”

Bang zijn voor je eigen waanbeelden

Met dit in gedachten (onze Europese cultuur, die eeuwenlang een beleid heeft gevoerd van “wij zijn beter dan al die anderen, en dat geeft ons het recht die anderen te knechten”) is het in mijn persoonlijke optiek niet zo heel erg gek dat dit idee terugkomt in onze angsten naar onze eigen scheppingen.

“Als robots straks beter en slimmer zijn dan wij, worden wij dan hun slaven? Worden we dan overbodig? Nemen zij de wereld over? Gaan ze ons uitroeien?”

Hierbij wordt voorbijgegaan aan wie die ontwikkelingen doen, en waarvoor die ontwikkelingen gemaakt worden.

Zonder dat kader wordt die angst enorm irrationeel. Kortzichtig. En in mijn optiek voornamelijk een reflectie hoe wij zelf met onze wereld omgaan.

Bang zijn voor rationele gevaren

Natuurlijk kan een menselijke uitvinding ten kwade worden gebruikt, maar er is menselijk handelen nodig om dat punt te bereiken. Natuurlijk is het mogelijk om een intelligentie te bouwen die uit is op de totale verwoesting van de mens. Maar denken dat de bouwers van dat soort systemen idioten zijn, die doelbewust dingen in normale gebruiksvoorwerpen gaan bouwen waardoor dit moordmachines worden is ongeveer hetzelfde als denken dat mensen die jouw auto ontwerpen geen testen uitvoeren en geen rekening houden met het kapotgaan van essentiële onderdelen.

Een intelligent huis kan op hol slaan. En daarom wordt in het ontwerp van dat huis elke uitzonderingssituatie meegenomen. Inclusief die waarin dat huis de inwoners insluit en dood laat gaan door verstikking.

Op het vlak van wapenontwerp gelden vergelijkbare regels. Je kunt enorm slimme wapens maken die tegen uitzonderlijk lage kosten, miljoenen mensen om zeep kunnen brengen. Wat je niet wil is dat deze wapens zich tegen jouzelf gaan keren. Dus bouw je veiligheidsmaatregelen in. Oók tegen hack-pogingen van buitenaf. Want vóórdat kunstmatige intelligenties die poging mogelijk óóit zouden kúnnen gaan wagen, zijn er menselijke spelers die op dit moment al wereldwijd dezelfde pogingen doen op banksystemen, nucleaire reactors en ander mooi speelgoed.

Natuurlijk is het mogelijk. We leven in een tijd waarin een kleine groep de mogelijkheid heeft om een hele wereld plat te leggen en we komen in een tijd waarin de massaproductie van massamoord-machines steeds goedkopere wapens maakt die door –opnieuw– een kleine groep mensen kan worden ingezet om een grote groep mensen om zeep te helpen.

Wapens voor massamoorden en het protocol van Genève

Dit gevaar is overigens niets nieuws. In 1929 werd het protocol van Genève bekrachtigd waarin het gebruik van biologische en chemische oorlogswapens aan banden werd gelegd.

Vooral de biologische wapens zijn beangstigend. Waar mosterdgas op een gegeven moment zo dun verspreid raakt dat het geen schade meer doet, blijft een dodelijke ziekte doorgaan tot er geen mensen meer in de buurt zijn om besmet te raken. Rond 1915 hadden verschillende Europese laboratoria een soort super-varianten ontwikkeld van bacteriologische ziektes die op dat moment in mildere vorm vaak al dodelijk waren. Nu zou dat een super-ebola kunnen zijn.

De middelen om ook dat te ontwikkelen worden overigens eveneens steeds goedkoper. Voor iets meer dan 1000 euro heb je je eigen laboratorium waarmee je genetische manipulatie kan uitvoeren. Studenten hebben al op verschillende manieren werk uitgevoerd met algen en bacteriën om bijvoorbeeld lichtgevende bomen te maken.

Bang zijn voor onszelf

Met dit in mijn achterhoofd, denk ik dat we vooral bang zijn voor onszelf. Ik denk dat dat goed is, maar wees daar dan eerlijk over.

Een AI die spontaan ontwaakt en de mensheid gaat uitroeien om [noem een reden]? Leuk idee voor een simpel verhaal, en een goed concept om angst te genereren bij een ontwetende grotere groep mensen, maar niet erg specifiek en niet echt het resultaat van indrukwekkend doordenkwerk in mijn eigen boek.

Kijk naar de motieven en motivaties van de mensenlijke spelers. Wie heeft bijvoorbeeld belang in een dergelijke ontwikkeling?

De kwestie “god”

We zijn echter nog niet klaar. Met het scheppen van intelligenties die slimmer zijn dan wijzelf, komt, vanuit ons Europees-Chriselijk denken als een soort knee-jerk reactie ook direct de Godsvraag om de hoek kijken en komt je tot domme stukken zoals dit.

Zijn wij god zodra we eigen leven scheppen?

Er is een versimpeld godsbeeld in veel Europese religieuze stromingen. Een voorbeeld: zodra het klonen van mensen ter sprake komt, of het ingrijpen op genetisch niveau zodat nare en kreupelmakende erfelijke ziektes worden voorkomen en zelfs uitgewist, komt automatisch ergens wel de vraag (en het protest): “zijn wij god? Mogen wij ons tot het niveau van God verheffen?”

“God schiep immers de mens en [bla bla vla in de vorm van één of andere kromme cirkelredenatie]”

Staat het prutsen aan menselijke genomen, en het scheppen van intelligenties die de onze ver voorbij zullen gaan gelijk aan “voor god spelen”? Of is die opvatting voornamelijk een reflectie van het beperkte god-, mens- en wereldbeeld van die gelovigen?

En opnieuw die kernvraag die ik me stel: waar zijn we eigenlijk écht bang voor?

Zetten we onszelf niet teveel in het centrum van het universum?

CETI. De jacht naar intelligent leven in het universum. Op basis van een speurtocht naar radiogolven die patronen hebben die intelligent leven doen vermoeden.

CETI (het luisteren naar de ruis van het universum) is op zich een mooi project dat hopelijk wat nuttige dingen gaat opleveren. Maar het is, met de genomen uitgangspunten, eveneens eindeloos kortzichtig en mens-centrisch. Kort: Wie zegt dat wij zelf over 100 jaar nog radiogolven gebruiken voor onze eigen communicatie?

Zijn we wel zo bijzonder?

En wie zegt dat wij zo bijzonder zijn? Of nuttig? Omdat we dingen kunnen bouwen? Moleculen kunnen herschikken tot iets anders? Kunnen nadenken over onszelf en onze omgeving? Omdat “god een plan voor ons heeft”?

En dan? En dus? En is dat wel zo?

Wat als we alleen staan?

Wat als er geen god is? Wat als een god wel bestaat, maar die god het worst zal zijn wie we zijn of wat we doen en willen, als we maar doen wat ons goeddunkt?

Wat als de zin van ons leven is om van dat leven te maken wat we zelf willen? Hoe gaat dat deze vraagstukken veranderen?

Waarde, zingeving, loon en arbeid

Een van de grootste veranderingen van de komende eeuw zal waarschijnlijk rond arbeid zijn.

Kort: “Waar hebben we straks nog mensen nodig?”

Tot nu toe zijn er mensen essentiële schakels in het proces om andere mensen (en zichzelf) te voorzien in hub levensbehoeften. Het binnenhalen van de oogst, het vinden van grondstoffen, het bedienen van machines, het uitvoeren van administratieve processen was allemaal handwerk dat werd uitbetaald.

Maar wat als steeds meer van die taken keihard gaan wegvallen?

Wat als werkeloosheid en het overbodig zijn in het productieve arbeidsproces, de de-facto standaard gaat worden voor de meerderheid? Hoe gaan we om met de huidige koppelingen tussen arbeid, loon en het recht op behuizing, veiligheid en voedsel?

Is het te rechtvaardigen dat mensen “die niets bijdragen aan het arbeidsproces” evenveel toegang hebben tot die middelen als mensen die “wel iets bijdragen aan het arbeidsproces”? (Ik denk overigens van wel, vanuit mijn eigen humanistische opvattingen)

Gaan we de productie en de overschotten ergens dumpen waar die groep niet bij kan, of delen we alles gratis uit omdat dat kan? (Ik hoop het laatste)

De eeuw waarin we intelligenties scheppen die slimmer zijn dan wij

En wat als we eindelijk dat punt bereiken waarin we mensen en machines maken die slimmer zijn dan wij?

Er zijn een paar manieren.

  1. Doorontwikkeling van ons zelf — We optimaliseren de werking van onze hersenen. Een beter vermogen tot herinneren bijvoorbeeld. En een verbetering in dat deel van onze hersenen waarmee we toekomstprojecties maken op basis van “wat als?”.
  2. Doorontwikkeling van zelfstandige systemen — We gaan door met het bouwen van systemen die de werkelijkheid rondom ons kunnen waarnemen, daar processen op los kunnen laten en, verstrekkende conclusies over kunnen nemen en daarop vervolgens acties kunnen ondernemen. Slimme steden bijvoorbeeld. En slimme huizen en slimme draagbare computers.
  3. Doorontwikkeling van analyse-systemen —  We kunnen doorgaan met het bouwen van systemen die diepgaande data-analyses maken, waarmee weer mogelijke toekomstige gebeurtenissen kunnen worden voorspeld, en waarmee ons gepersonifieerde advertenties kunnen worden aangeboden.

Het Internet is –in het kader van dat oude testament– in zekere zin nu al God. Het weet alles wat we (online) doen. Het trekt op basis daarvan al behoorlijk wat conclusies. Het oordeelt alleen nog niet. Het ook heeft nog geen totale verbinding tussen al die bronnen die binnen zichzelf aanwezig zijn. En het heeft nog geen eigen leven gecreëerd in deze tastbare wereld.

Maar is het alwetende internet op een gegeven moment vergelijkbaar met God? En wanneer gaat dat het geval worden? Als het oordelen en straffen gaat uitdelen? En is dat omdat wij dat zo hebben gemaakt, of omdat het dat zelf is gaan doen?

Hoe democratisch gaat dit worden?

Een bedreiging ontstaat meestal door een ongelijke verdeling van grondstoffen, geld of wapens.

“Zijn supermensen of super-intelligenties een bedreiging  voor de mensheid?” is alleen een relevante vraag als de toegang tot de technologie aan een groot deel van die mensheid onthouden wordt.

Als iedereen die volgende stap kan maken, is er slechts sprake van evolutie, een nieuwe trede in onze eigen ontwikkeling. Als slechts een beperkte groep die stap kan maken en de rest uitsluit, dan zal dat mogelijk kunnen leiden tot behoorlijk dystopische taferelen.

Moeten we de ontwikkelingen stoppen of afremmen?

Elke nieuwe stap die we maken, elke nieuwe technologie die we uitvinden om ons eigen leven te verbeteren, meer energie op te wekken, nog efficiënter bepaalde processen uit te voeren, nog dieper in te grijpen op onze eigen genetische opmaak of die van andere levensvormen geeft vrijwel automatisch toegang tot nog effectievere middelen om andere mensen uit te roeien.

Het grootste gevaar daarin zijn wijzelf. En is de wijze waarop onze cultuur plaats geeft aan specifieke vraagstukken.

Slot

Het idee dat wij als mensen zo belangrijk zijn, of een kroon op een schepping en daarin bedreigd gaan worden is in mijn optiek een domme en beperkende discussie.

Het grootste gevaar dat ons bedreigt is niet zozeer “de andere mens” maar onze eigen cultuur en de culturen op andere plekken. Welke waanbeelden propageren die culturen? Hoe destructief zijn die waanbeelden? Denk aan ISIS als een extreem voorbeeld, maar ook aan onze eigen Europese en Noord-Amerikaanse culturen.

Hoe gaan we bijvoorbeeld om met onze eigen huidige rollen in de onafgebroken vervuiling en vernietiging van deze wereld?

De kern van dit soort betogen in mijn eigen blogposts komt altijd weer neer op hetzelfde: om de verantwoordelijkheden van nieuwe technologieën fatsoenlijk op te pakken moet een cultuur zijn of haar verantwoordelijkheden pakken en streven naar een volwassen, rationele en ethische benadering van de situatie. Wat is schadelijk voor het welzijn van onszelf en onze wereld? Wat is bevorderlijk voor dat welzijn? Hoe kunnen we de herhaling van de grote fouten uit ons eigen verleden in de toekomst vermijden?

 

 

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s