“Heeft deze unit een ziel?” Over robots, games en religie

In de Science Fiction game Mass Effect reist de gamer in de figuur van Commander Shepard door de Melkweg. Op één van die reizen kom je twee volken tegen die op voet van oorlog met elkaar leven: de Quarians en de Geth. De Quarians zijn van hun thuiswereld Rannoch verdreven door hun eigen schepselen, de Geth, oorspronkelijk ontworpen als slaafse werkkrachten. De Geth evolueerden zonder dat de Quarians het door hadden: ze ontwikkelden een eigen bewustzijn.

Als een van de Geth vraagt of ‘deze unit een ziel heeft’ raken de Geth in paniek en proberen de Geth te vernietigen. De Geth, begrijpelijk, verzetten zich tegen uitroeiing en weten hun scheppers zelfs van hun eigen planeet te verdrijven.

We kennen allemaal dit soort robots of artificial intelligences (A.I.’s). Denk maar aan de iconische Hal9000 uit 2001: A Space Odyssey (1968) of Sonny uit I, Robot (2004). Dezelfde griezelige A.I.’s komen we ook tegen in videogames. GlaDos uit Portal (2007, 2011), EL0HIM uit The Talos Principle (2014), de machine men uit Nier Automata (2017) en T.O.M. uit The Turing Test (2016). Al deze zelfdenkende robots en A.I.’s-met-bewustzijn hebben eigenlijk dezelfde functie: het zijn gedachtenexperimenten (thought experiments) aangaande het wezen van de mens.  Robots lijken heel veel op mensen, maar in die instanties waarin ze (nog) verschillen is de kern van de condition humane te vinden.

Waar ligt de kern van ons mens-zijn? Laar we die vraag eens stellen aan The Turing Test. Gedurende de game probeert de speler, in de huid van de ruimte-onderzoeker Ava Turing, tientallen puzzels op te lossen in evenveel driedimensionale ruimtes. Aan het begin van elke level discussiëren de A.I. met de naam T.O.M. en Ava met elkaar, soms over triviale zaken, maar soms ook over filosofische thema’s als moraliteit en creativiteit, twee eigenschappen die vaak gezien worden als specifiek menselijk.

T.O.M. heeft daar een andere mening over. Eerst over moraliteit: “Natuurlijk kan ik creatief zijn, net als een mens,” aldus T.O.M. “Jij denkt dat je creatief bent, maar in wiskundig opzicht is creativiteit niet meer dan ingehouden chaos”.

Later in de game blijkt dat T.O.M. de hele space crew van Ava in de ruimte gevangen wil houden om te voorkomen dat ze een levensgevaarlijk organisme meenemen naar de aarde. De crew wil echter niets liever dan naar huis gaan. Dit moreel dilemma is voor T.O.M. echter geen probleem. Ava: “Er is een verschil tussen iemand vermoorden of hen rustig te laten sterven.” Maar T.O.M. antwoordt: “Nee hoor, daar is geen verschil tussen.” Ava werpt tegen: “Je kan het leven niet optellen en aftrekken. Het is geen wiskunde. Het is veel genuanceerder.” T.O.M. is niet onder de indruk: “Moraliteit is logica, niets meer”.

T.O.M. deconstrueert ‘typische menselijke’ eigenschappen als moraliteit en creativiteit als ‘louter’ ingehouden chaos of simpele logica. In die zin, aldus The Turing Test, zijn A.I.’s niet anders dan mensen en het verschil tussen artificiële en natuurlijk intelligentie smelt als sneeuw voor de zon.

Maar we hebben nog het begrip ‘vrijheid’ te bespreken, ook één van die zogenaamde typische menselijke eigenschappen. Ook die vrijheid wordt door T.O.M. afgeschoten. De speler heeft namelijk de gehele game het idee dat hij of zij bepaalt wat er gebeurt. De speler controleert Ava en is vrij dat te doen binnen de grenzen van de voorgegeven game. Maar aan het einde blijkt Ava de hele tijd gemanipuleerd te zijn geweest door een kleine microchip die T.O.M. in haar lichaam ingebracht heeft. De speler beseft dat hij gedurende het spel dacht vrij te zijn, maar in werkelijkheid deed hij precies wat de in-game A.I. van hem verwachtte.

Vrijheid, moraliteit en creativiteit. Via de ogen van deze robots en A.I.’s zijn het geen uniek menselijke eigenschappen. Ook robots zijn creatief en kennen moraliteit, en de menselijke vrijheid wordt in praktijk door van alles en nog wat bepaald en gemanipuleerd. Dit gedachte-experiment is verontrustend. Stel dat T.O.M. gelijk heeft. Wat zou dat beteken voor ons?

Als vrijheid beperkt wordt door sociale en emotionele grenzen, dan is onvrijheid ook geen probleem meer. Als onze moraliteit niets meer is dan een logische afweging van belangen, dan zijn de ‘slachtoffers’ van deze logica ook geen probleem. En als onze creativiteit niets meer is dan georganiseerde chaos, is alle kunst waardeloos geworden.

Precies op dit moment, althans naar mijn mening, komt religie ter sprake. Het religieuze domein is precies datgene (buitenperspectief) of Diegene (binnenperspectief) die hier principieel tegen in opstand komt. In religieus perspectief is creativiteit geen georganiseerde chaos, maar een prisma van goddelijke inspiratie. De mens, door God geschapen naar zijn beeld en gelijkenis, als co-created creators, immiteert in zijn creativiteit de goddelijke scheppingshandeling zelf. En zoals God brengt de mens orde in de chaos. Geen trial and error. Geen educated guess. Geen toevalstreffer, maar trefzeker.

In datzelfde perspectief is moraliteit nooit een een optelsom van intenties, middelen en (verwachte en feitelijke) gevolgen. Denk aan het beroemde verhaal van Augustinus, die aan het strand een jong kind aangespoelde zeesterren ziet terugwerpen in de zee. Augustinus is sceptisch: er liggen zo veel zeesterren op het strand, die paar die het kind in de zee werpt, maakt op dat aantal niets uit. Het kind kijkt naar de zeester in zijn hand en zegt: “voor deze maakt het wel uit”. Denk ook aan het nieuwtestamentisch verhaal over de Goede Herder die zijn 99 schapen alleen laat om die ene te vinden in de wildernis. God is geen boekhouder, en wij daarmee ook niet.

En wat betreft onze menselijke vrijheid heeft religie iets te vermelden. Vrijheid, zoals opgevat in religieuze termen, is geen vrijheid van, maar een vrijheid tot. De menselijke vrijheid, aldus verschillende religieuze tradities, ligt niet in het elimineren van manipulerende invloeden van buitenaf. No man is an island. Echte menselijke vrijheid is te vinden in de vrijheid om te worden wie je diep van binnen feitelijk bent: geroepen om jezelf, de ander en God gelijkelijk lief te hebben.

Robots en A.I.’s zijn interessante gedachte-experimenten. Ze houden ons een spiegel voor: wie zijn wij, mensen, eigenlijk? En in die spiegel zien we eerst onze creativiteit, moraliteit en vrijheid teruggebracht worden tot formules en keiharde logica. Het is alleen in de ‘gebroken spiegel’, een beeld van Paulus, van het geloof dat we deze menselijke eigenschappen kunnen terug claimen, getransformeerd, maar herkenbaar en onherleidbaar, behalve in God zelf.