Zo vormt artificial intelligence de basis achter nep-nieuws, incorporeert het menselijke vooroordelen in geautomatiseerde selectieprocedures en biedt het een land als China mogelijkheden waarvan George Orwell zich zou omdraaien in zijn graf. Al met al is het belangrijk om hierover na te denken en ervoor te zorgen dat artificial intelligence onze vriend wordt – en blijft. Roos de Jong houdt zich hier als filosoof en onderzoeker bij het Rathenau Instituut dan ook graag mee bezig. Vanuit haar expertise in de impact van kunstmatige intelligentie op mens en samenleving, kijkt zij naar de ontwikkelingen op dit gebied en hoe we hier als samenleving mee om willen gaan.

Wat deed haar besluiten om filosofie te studeren? “Op de middelbare school waren wiskunde, natuurkunde en scheikunde mijn favoriete vakken. Wat ik met name leuk vond, was om te begrijpen hoe iets zit, om kritisch te kijken naar wat we vanzelfsprekend zijn gaan vinden. Bij filosofie is voor elk veld – van wiskunde, tot taal, tot politiek – een corresponderend gebied in de filosofie. Als je kijkt naar de recente en snelle wetenschappelijke en technologische ontwikkelingen, dan leven we in spannende tijden waar filosofen juist ook hard nodig zijn! We zien robots bepaalde taken overnemen, raken gewend aan geknutsel aan DNA, en worden geconfronteerd met de implicaties van bedrijven als Spotify, Airbnb en Uber. De verregaande mogelijkheden die biotechnologie, nanotechnologie, ICT en inzichten uit de cognitieve wetenschappen bieden, roepen ook steeds weer vragen op over wat het betekent om mens te zijn en hoe wij ons verhouden tot elkaar, de natuur, de wereld.”

Alledaagse technologie

Dat die ontwikkelingen snel gaan, lezen we steeds vaker in de media. Series als Black Mirror spelen hier handig op in. Zijn de hierin getoonde doemscenario’s realistisch? “Er is veel onzekerheid en onduidelijkheid. Bijvoorbeeld over hoe de technologie precies werkt, wat er momenteel mogelijk is en welke regels gelden. Dit is niet alleen een voedingsbodem voor science fiction, maar ook voor maatschappelijk debat en politieke strijd. Kunstmatige intelligentie is niet iets dat ons ‘overkomt’ maar ook geen neutraal ‘hulpmiddel’ waarmee we een zeker doel kunnen bereiken. Technologieën hebben invloed op hoe we handelen en naar de wereld kijken.

Veel kunstmatige intelligentie is inmiddels al ‘alledaagse technologie’. Denk aan navigatiesystemen in auto’s, apps op je smartphone die gebruik maken van spraak- en beeldherkenning, de resultaten van zoekopdrachten op internet. Tegelijkertijd wordt iets wat eerder ‘statistiek’ of ‘data mining’ was, nu artificial intelligence genoemd om mee te liften op de hype. Eigenlijk zijn het ook diverse technologieën – zoals sensoren, big data, robotlichamen of een app – die er samen voor zorgen dat een systeem of machine in een bepaalde omgeving een zekere mate van intelligent gedrag vertoont.

Kunstmatige intelligentie valt daarom niet los te zien van andere digitale technologieën, zoals robotica, big data en Internet of Things. De prestaties van huidige artificial intelligence-systemen en de mogelijkheden van machine learning en deep learning zijn indrukwekkend; zo is de kampioen Go-speler Ke Jie verslagen door Google’s Alpha Go. Toch is de meeste artificial intelligence nog gericht op een zeer specifieke taak of vaardigheid. Een kunstmatige intelligentie die de menselijke intelligentie overstijgt, is nog wel echt sciencefiction.”

robot-3010309_1280
Beeld door: Pixabay

Vloek of zegen?

Goed, het ontstaan van ‘superintelligente’ artificial intelligence en eventuele doemscenario’s ligt zogezegd (nog) ver achter de horizon. Gelukkig maar. Ik vraag Roos wat de belangrijkste maatschappelijke voor- en nadelen van kunstmatige intelligentie zijn. “Artificial intelligence wordt alom gezien als een multi-purpose-technology die cruciaal is bij het oplossen van de grote maatschappelijke uitdagingen waar we voor staan. Artificial intelligence wordt gekenmerkt door de snelheid van informatieverwerking. Het kan patronen zien die ons ontgaan en de toepassingsmogelijkheden lijken eindeloos. In de gezondheidszorg bestaan op artificial intelligence -gebaseerde systemen die ziektebeelden nauwkeuriger herkennen dan artsen. En denk aan de energietransitie en klimaatverandering. Slimme meters en sensoren maken het mogelijk om data over energieproductie, -transport en -verbruik te verzamelen, te analyseren en real time bij te sturen om zo de balans tussen vraag en aanbod te optimaliseren.

Aan de andere kant zijn kunstmatige intelligentiesystemen nog gemakkelijk te foppen, ze kunnen de mist in gaan als ze de ‘verkeerde’ input krijgen. Zo moest Microsoft zijn slimme chatbot Taj binnen 24 uur stopzetten toen mensen haar racistische uitingen voerden en Taj zelf racistische en opruiende tweets ging plaatsen. Een ander voorbeeld is het systeem van Amazon voor het automatisch selecteren van sollicitanten. Het systeem baseerde zich op historische data en omdat in de ICT-industrie meer mannen dan vrouwen werken, legde het systeem vrouwen onderaan de stapel. Dat het systeem op deze
manier selecteerde en discrimineerde, was natuurlijk niet de bedoeling. Als we ons niet bewust zijn van hoe slim of hoe dom de artificial intelligence is die we inzetten en vertrouwen, kan het mis gaan. We willen betekenisvolle menselijke controle. Maar wat betekent dat? Als je als arts de aanbevelingen van een artificial intelligence niet opvolgt, dan heb je waarschijnlijk een boel uit te leggen wanneer het mis gaat.”

Europese koers

Duidelijk is dat de ethiek een fundamentele rol speelt bij de ontwikkeling van kunstmatige intelligentie. In lijn hiervan ontwikkelt de Europese Commissie een artificial intelligencestrategie die ‘mensgericht’ is. Een mooi streven, maar trekt China zich hier iets van aan? “Europa zet inderdaad een duidelijke, alternatieve koers in; verantwoorde artificial intelligence. De EU is daarmee leidend geworden in het stellen en beantwoorden van de vragen over hoe we willen dat kunstmatige intelligentie ontwikkeld en ingezet wordt; hoe we daarbij onze waarden kunnen borgen en de kansen kunnen grijpen.

In Europa past geen systeem zoals in China, waar de overheid het monopolie op kunstmatige intelligentie heeft. Maar ook het Amerikaanse systeem, waarin techbedrijven de eigenaar zijn over data die ze verzamelen, is voor ons niet wenselijk. Het is interessant om te zien dat China en de VS de termen ‘trustworthy AI’ inmiddels ook beginnen over te nemen. Zo ging dat ook met de AVG: ook buiten de EU laaiden discussies op over persoonsgegevens en digitale privacy. Europa kan dus wel degelijk impact hebben met haar aanpak. Wanneer de EU heldere kaders kan opzetten en handhaven, dan zie ik de toekomst wel positief in.”

Tot slot vraag ik Roos wat ze de komende jaren wil bereiken. “Ik hoop dat we de maatschappelijke kant van technologie beter leren inzien. Om de beloften van kunstmatige intelligentie waar te kunnen maken is het noodzakelijk om als samenleving de transformerende effecten van technologie op ons leven te beoordelen en na te denken over hoe we onze samenleving willen organiseren.

Artificial intelligence zal van invloed zijn op veel van onze publieke diensten, onze waarden en mensenrechten. We moeten ons richten op wat een wenselijke manier is om met technologie om te gaan of zelfs samen te smelten. Om dit te kunnen doen, is het van belang dat engineers, gebruikers en de samenleving als geheel beter inzicht krijgen in de maatschappelijke betekenis van deze opkomende technologie. Het is belangrijk om mensen als het ware op te voeden, onderwijs te geven over de impact van technologie. Burgerschap betekent nu ook snappen wat techniek met mens en maatschappij doet.”

Dit artikel is met toestemming overgenomen uit De Linker Wang, nummer 4 – oktober 2019. Voor meer informatie kijk op De Linker Wang.

U kunt gratis verder lezen

Klik deze melding weg via het kruisje. Maar goede artikelen schrijven kost geld. Steun daarom onze schrijvers en word al vanaf € 5 per maand Vriend/in van Nieuw Wij.

Ik lees eerst het artikel verder.
Brandon-Pakker

Brandon Pakker

afgestudeerd filosoof, medewerker Webcare Belastingdienst

Profiel-pagina
Nog geen reactie — begin het gesprek.