Eerder kwam de thematiek van Artificial Intelligence en de beïnvloeding via internet al aan de orde in de speelfilm The Social Dilemma. Ook VPRO’s Tegenlicht wordt niet moe de kijker te wijzen op de enorme gevolgen die internet heeft voor huidige en toekomstige generaties. Maar deze documentaire gaat nog een stapje verder. Voor filmmaakster Shalini Kantayya is gezichtsherkenning uitgangspunt als een verontrustende waarschuwing.
In Coded Bias (letterlijk: gecodeerde vooringenomenheid) volgen we Joy Buolamwini, een jonge Afro-Amerikaanse onderzoekster die ontdekt dat de meeste gezichtsherkenningssoftware onnauwkeurig is als het gaat om de gezichten van mensen met een donkere huidskleur én die van vrouwen. Ze maakt een ontwikkeling door van een robotica-nerd via wetenschapper tot activist. We zien haar uiteindelijk ook het Amerikaans Congres toespreken in een dringend pleidooi voor regulering. Buolamwini boekt daarbij inmiddels al de nodige resultaten. Mooi om mee te maken is ook haar coole ‘spoken word’ poëzie over haar thema van de kunstmatige codering. Teksten met eenzelfde lading als die van Amanda Gorman bij de inauguratie van Biden.
Buolamwini’s ontdekking gebeurt min of meer toevallig als ze werkt aan het kunstproject Aspire Mirror. Ze wil vrolijke beelden over haar eigen gezicht leggen, zoals die van een dier of een ster als Serena Williams. Maar de computersoftware weigert haar letterlijk te herkennen totdat ze een wit masker opzet. Dit beeld blijkt een krachtige metafoor voor technologie die voornamelijk door witte mannen is ontwikkeld en onbedoeld is geprogrammeerd voor maximale nauwkeurigheid bij het scannen van hun gezichten. Wat we dus bij het ontwikkelen van algoritmes zien als een vooruitgang in de technologie, komt in de praktijk vooral ten goede aan een homogene groep witte en kapitaalkrachtige mensen. Dit is ook de belangrijkste conclusie van deze documentaire. Het systeem bevestigt bedoeld of onbedoeld gender-, raciale- en klassenverschillen en vooroordelen. Ook het geautomatiseerd scannen van Cv’s bij sollicitaties (zoals in de VS veelal word gedaan) filteren met name mensen van kleur eruit en dan ook nog vooral van vrouwen, waardoor de kansen van witte mannen in de samenleving alsmaar verder versterkt worden.
Hoe ver de invloed van gezichtsherkenningssoftware reikt zien we in China waar een skateboardende hipster de gezichtsherkenning aanprijst. Voor een eenvoudige aankoop als bij een frisdrankautomaat gaat ze gewoon voor een beeldscherm staan waarna het blikje in de lade tevoorschijn komt. Ook voor slecht gedrag is er een sociaal kredietsysteem dat de overheid ziet als een instrument voor de ‘verbetering’ van de samenleving. Een Amerikaanse deskundige duidt dit als een ‘algoritmische gehoorzaamheidstraining’. Beelden uit Hong Kong beloven op dit terrein verder niet veel goeds.
De gezichtsherkenningssoftware is allerminst een ‘ver-van-mijn-bed-show’, zo blijkt uit beelden uit Engeland wanneer de Britse politie een 14-jarige zwarte scholier aanhoudt bij een Londens metrostation. Hij wordt door een steeg gesleept om als dader te worden gefouilleerd, ondervraagd, zijn vingerafdrukken worden afgenomen en vervolgens wordt hij in ontredderde toestand vrijgelaten nadat hem is verteld dat hij ten onrechte is geïdentificeerd.
Coded Bias laat zien dat activisme en politieke beïnvloeding gericht op tech-giganten als Amazon en Google nut hebben door hen te wijzen op ethische principes. Misschien is het nog niet te laat om deze ontwikkelingen ongedaan te maken. De filmmaakster lijkt niet zozeer geïnteresseerd je vol wanhoop achter te laten, maar wil vooral informeren en inspireren. Een wake-up call?
Documentaire Coded Bias, regie Shalini Kantayya met o.a. Joy Bualamwini, ****, 86 min. Te zien op Netflix, maar ook via Movies that Matter festival (16-25 april 2021). Deze bespreking verscheen ook in het Friesch Dagblad.
