Meten ≠ weten

Met mijn betoog “Meten ≠ weten” heb ik een betoogwedstrijd over de macht van data  gewonnen. Ik heb het 18 juni voorgedragen in debatcentrum De Balie. Het gehele programma inclusief mijn bijdrage (1:19) is hier terug te kijken:

Onze huidige levens maken deel uit van de grootste commerciële ontginning in de geschiedenis. Nog nooit werden onze voorkeuren en gedragingen op zo’n grote schaal gemonitord, gekwantificeerd en vermarkt als nu. Onder het mom van meer veiligheid bouwen overheden, techbedrijven en burgers een algocratie waar krachtige computeralgoritmes de dienst uitmaken.

Door ons massale internet en smartphone gebruik beschikken overheden en techbedrijven over steeds meer gegevens waarmee zij het gedrag van burgers kunnen meten, analyseren en beïnvloeden. Een schrikbeeld is Singapore waar de overheid data onttrekt aan social media, sensoren op straat en camera’s met gezichtsherkenning om grip te krijgen op het persoonlijke leven van haar inwoners. Singapore is geen ver van je bed show. In de drukste uitgaansstraat van Eindhoven werkt de gemeente met de politie en een aantal techbedrijven aan het project Stratumseind 2.0. Om de veiligheid te vergroten hangen overal slimme camera’s en sensoren die afwijkende bewegingen en geluiden registreren. Statistieken houden bij hoeveel bier er wordt gedronken, hoeveel afval er op straat ligt en hoeveel auto’s er geparkeerd staan, en als het woord Stratumseind op Twitter verschijnt, wordt het bericht automatisch gecategoriseerd als ‘neutraal’, ‘positief’ of ‘negatief’. Vervolgens wordt met alle verzamelde data en algoritmes bepaald of er een verhoogd risico is op vechtpartijen. Maar hoe maakt deze technologie onderscheid tussen een schreeuwende agressor en iemand die schreeuwt omdat hij iemand kwijt is?
Door menselijk gedrag te reduceren tot simpele scripts en alleen het meetbare prioriteit te geven, verliezen we menselijke waarden en onderlinge verschillen uit het oog. Algoritmes wekken de suggestie dat zij het meest nauwkeurige advies geven terwijl veel aspecten van menselijk gedrag niet in cijfers zijn uit te drukken. We gaan er ten onrechte vanuit dat algoritmes betere beslissingen maken en vertrouwen minder op onszelf. Een voorbeeld is een algoritme dat op basis van risicoscores berekent hoe groot de kans is dat iemand terugvalt in crimineel gedrag. Met deze scores bepalen Amerikaanse rechters de lengte van gevangenisstraffen. Het algoritme bleek voor Afrikaans-Amerikanen stelselmatig een te hoog recidiverisico te berekenen. Niet omdat zij vaker terugvallen, maar omdat zij vaker staande worden gehouden wat door het algoritme als recidive indicator wordt meegenomen. Het wetenschappelijke inzicht dat meten niet altijd gelijk staat aan weten beperkt zich niet tot de sociale wetenschappen. Volgens Harvard wiskundige Cathy O’Neil is de aanname dat een algoritme gebaseerd is op een correcte berekening met objectieve feiten gevaarlijk. In haar boek Weapons of Math Destruction verklaart ze dat algoritmes gebaseerd zijn op wat eerder is gebeurd of op gemiddelden van groepen vergelijkbare mensen. Daardoor weerspiegelen en versterken algoritmes ongelijkheid, vooroordelen en stereotypen.

Niet alleen techbedrijven en overheden zijn verantwoordelijk voor de toenemende macht van algoritmes. Ook burgers kunnen er wat van. Zij verlangen een risicovrije samenleving en offeren daarvoor graag hun privacy op: “ik heb niets te verbergen” is het adagium. Maar hoe kun je afwegen of je iets te verbergen hebt als je niet weet voor welke doeleinden jouw data uiteindelijk worden gebruikt? Burgers weten niet welke partijen hun data verhandelen en hebben weinig zeggenschap over wie hun data te zien krijgen. Bovendien hebben de meeste mensen zichzelf zo afhankelijk gemaakt van apps en social media, dat het niet afstaan van data voor hen geen optie is. Door ons over te leveren aan de toenemende algoritmisering van onze levens, gedragen we ons steeds meer als voorspelbare machines. De mens dreigt een datapakket te worden dat door middel van algoritmes wordt aangepast aan de winstgevende datahandel van techbedrijven en het economisch rendement van overheden. De samenleving wordt daar niet veiliger van, maar wel commercieel interessanter en gemakkelijker stuurbaar.