“Het Kabinet-Jetten wil Silicon Valleytje spelen, blijkt uit het regeerakkoord en het AI deltaplan. Maar één fundamentele vraag wordt overgeslagen: is het wel een goed idee om AI te omarmen? Of wordt zo een paard van Troje binnengehaald?”. Samen met Felienne Hermans, Ilyaz Nasrullah, Marleen Stikker, Reijer Passchier, Bernard van Gastel en Claes de Vreese werd ik geïnterviewd door Caspar van de Poel voor Vrij Nederland. In het stuk reflecteren we kritisch op het regeerakkoord. Mijn belangrijkste punt: AI-adoptie zou nooit het vertrekpunt van beleid mogen zijn. Eerst moet de vraag worden gesteld welk probleem we willen oplossen en of AI daar überhaupt een geschikt middel voor is. Lees hier het volledige artikel. Lees hier onze eerdere open brief aan de politiek namens 700 wetenschappers, experts en maatschappelijke organisaties.

Stel dat generatieve AI wel die creativiteits- en productiviteitsboost gaat geven waar we massaal op hopen. Dan is een veel belangrijkere vraag: worden we er als mens ook echt beter en gelukkiger van? Daarover schreef ik samen met filosoof Lisa Doeland een essay in De Groene Amsterdammer: “Juist het eindeloos pielen aan een tekst of een computercode maakt dat we ervan leren, dat we er überhaupt plezier aan beleven en ook: dat we er eigenwaarde aan ontlenen. Alleen tegen de achtergrond van herhaling kan iets nieuws verschijnen.” “In werkelijkheid is technologie helemaal geen kwestie van ‘goed’ of ‘verkeerd’ gebruik. Elke technologie heeft inherente eigenschappen die, los van hoe je het gebruikt, problematisch kunnen zijn voor mens, natuur en samenleving. Dat geldt bij uitstek voor generatieve AI, een variant van kunstmatige intelligentie die gebaseerd is op grote taalmodellen.” Lees hier het volledige essay.

AVROTROS Radar kwam vorige week langs bij SETUP om een item te maken over de vraag: kun je leven zonder DigiD? Toen de redactie vroeg of ik dat experiment wilde aangaan zei ik direct ja. Niet alleen omdat ik bezorgd ben over de overname van DigiD door een Amerikaans bedrijf, maar ook omdat ik vind dat mensen essentiële zaken zoals belastingen, vergunningen en verzekeringen moeten kunnen regelen zonder afhankelijk te zijn van dit digitale inlogsysteem. En dat deze zaken misschien ook gewoon telefonisch of in persoon te regelen moeten zijn. Kijk hier de aflevering terug.

Voor de Volkskrant werd ik geïnterviewd door Laurens Verhagen over de inzet van generatieve AI op middelbare scholen: “De onderzoeker bij SETUP en Universiteit Twente ziet parallellen met eerdere digitale technologieën in het onderwijs, zoals sociale media, iPads of smartphones. ‘Het begint altijd met enthousiasme’, zegt ze. ‘Iedereen is verblind door optimistische vergezichten. Pas later blijkt het ingewikkelder. Als je leerlingen wilt voorbereiden op een wereld met generatieve AI, kun je ze maar beter goede vaardigheden aanleren waardoor hun werk zich kan onderscheiden van de eenvormige pulp die AI genereert.’” In het artikel komen verschillende perspectieven aan het woord, o.a. die van expert digitale geletterdheid Remco Pijpers, AI-ontwikkelaar Tom Naberink en AI-aanjager Wim van der Schouw. Lees hier het hele artikel. 

Met generatieve AI dreigen we dezelfde fout te maken als met smartphones en social media. Pas achteraf ervaren we de maatschappelijke kosten van klakkeloze technologie implementatie. Nieuw SETUP artikel van mijn hand: “Scholen hebben niet als taak om de AI-implementatiestrategie van Google en OpenAI uit te voeren. AI-geletterdheid zou niet moeten gaan over goed leren prompten, maar over het aanleren van vaardigheden waarmee je een betekenisvolle relatie met technologie kunt aangaan. We moeten voorkomen dat we kinderen met generatieve AI rijp maken voor het soort samenleving waar we zelf ziek van zijn geworden: verdere ontkoppeling van de fysieke wereld, afhankelijkheid van techbedrijven, afnemende zin- en betekenisgeving, en economische optimalisatie zonder welzijn.” Lees hier het hele artikel. 

Voor NEMO Kennislink interviewde Daan Appels mij over de zoveelste degeneratieve AI-hype: de AI gegenereerde “actrice” Tilly Norwood. “Voorstanders van AI-acteurs gaan voorbij aan het belangrijkste ingrediënt van acteren: het vermogen je te verplaatsen in een ander mens. Een AI-systeem kan zich nergens in verplaatsen. Het kan alleen patronen herkennen en berekeningen uitvoeren. Een bewegende AI-avatar is een lege huls: zonder emotie, zonder ervaring in de echte wereld.” Lees hier het volledige artikel.

Nederlandse politici worden overspoeld met AI-adviesplannen. Of het nou gaat om het AI Deltaplan, Invest-NL, AIC4NL of het Wennink rapport: ze komen vooral de industrie ten goede, niet de mens. De plannen pleiten voor snelle AI-adoptie bij burgers, bedrijven en overheid, meer rekenkracht-infrastructuur, en meer groei voor techbedrijven. Door AI te presenteren als een race, lijkt niemand zich nog af te vragen waar die race ons brengt en of de samenleving er ook daadwerkelijk beter van wordt. AI-implementatie is een doel op zich geworden. Daarom schreven we met een coalitie van wetenschappers, experts en maatschappelijke organisaties een open brief aan de politiek. Om een andere aanpak te bieden die uitgaat van mens, natuur en democratie, en misleidende PR-frames door te prikken. En om wetenschappers en maatschappelijke organisaties mee te laten meebepalen OF, en zo ja hoe en welke investeringen nodig zijn. Onderteken hier de brief. 

Kunstenaars kunnen de samenleving helpen om AI te demystificeren en dominante PR narratieven door te prikken. Hoe dat werkt lees je in het boek “Algorithmic Imaginations – Critical Reflections on AI in Art and Design Practice” van ArtEZPress. Met daarin o.a. een bijdrage van mijn hand. “This book sets out to investigate the reality of AI—how it relates to the world, to our human capacities, to creativity and imagination, but also to social inequality, bodies, other beings and the environment. Algorithmic Imaginations invites students, practitioners and researchers of art and design to explore the role of AI within their practice: to map different attitudes to it, to engage in dialogue with young and experienced practitioners from the field, to develop relevant questions and critical reflections, and, ultimately, to (re)imagine how machine intelligence might shape our shared future.” Lees hier meer over het boek.

Als antwoord op alle gladde en generieke AI-beelden, ontwikkelde SETUP een klein AI-model met hyperlokale data. Toen we het model lanceerde hield ik een pleidooi voor AI-streekproducten in mijn artikel “Bigger is NOT better”. Daarmee stelde ik het homogeniserende effect van generatieve AI aan de kaak. Nu, twee jaar later, schittert het project in onze publicatie: AI as a regional product – Adversarial Design for Public Debate on LLMs and Deep Culture. “There’s a need for a public debate about the impact of large AI models on culture, especially now that they are showing a decline in quality. Researchers have warned of the risk of a system crash, collapse of knowledge and cultural homogenization. The research-through-design project ‘AI as a Regional Product’, provides a tangible framework for fostering public debate on the impact of Large Language Models on culture and vice versa.” Lees hier het hele artikel.

Hoera het is september, de leerlingvolgsystemen zijn weer begonnen! Nieuw SETUP artikel van mijn hand: “Elke technologie – los van hoe je het gebruikt – brengt een eigen waardensysteem met zich mee dat nieuwe normen schept en bestaande normen afzwakt of versterkt.” “Door online leerlingvolgsystemen en sociale media zijn er steeds minder plekken waar jongeren zich ongezien kunnen wanen. Het alziende oog van de digitale wereld is overal, met meer stress en angst om fouten te maken of af te wijken van de norm tot gevolg.” Lees hier het volledige artikel. 

Voor Vrij Nederland interviewde Timo Harmelink mij en Max van Duijn over sycophantie: het verschijnsel dat AI chatbots je overmatig vleien en naar de mond praten. “Volgens universitair docent Media Technology Max van Duijn is het niet zo gek dat chatbots je naar de mond praten, want ze zijn er precies zo op getraind.” “Volgens Beerends moeten we met een ander frame kijken naar het gebruik van ChatGPT als vriend: ‘Een goede vriend stemt niet altijd met je in maar gaat ook tegen je in. In een wereld waarin alles vooral ‘leuk’ en risicoloos’ moet zijn, wordt die authentieke confrontatie steeds schaarser.’” Lees hier het volledige artikel.

“Gefilmd worden tijdens een concert. Als je niets te verbergen hebt is dat doorgaans heel leuk”, aldus de NOS in een nieuwsbericht over de Kiss Cam affaire. Blijkbaar is het nog altijd gangbaar om te denken dat privacy alleen belangrijk is voor mensen die iets te verbergen hebben. In deze video voor Rewind van Omroep Human leg ik uit waarom dat een gevaarlijk misverstand is en waar privacy dan wél over gaat. Bekijk hier de video.

Voor NRC interviewde Merel Reiniers mij over het Facebook Museum van SETUP. Ook sprak ze met verschillende twintigers over hun relatie met sociale media: “Het museum is tot dusverre de meest tastbare uiting van de dubbele gevoelens die sociale media oproepen. Gebruikers worstelen met de toxische invloed van de platforms en hun afhankelijkheid van Big Tech. Aan de andere kant zijn ze gehecht aan hun account, het netwerk en het contentarchief op de platforms.”
Lees hier het artikel.

Onze cultuur is geobsedeerd door surveillance, digitale schandpalen en morele rechtlijnigheid. Dat werd goed zichtbaar toen de Kiss Cam tijdens een Coldplay-concert een affaire onthulde tussen een techbaas en zijn HR-manager. Online gingen de beelden viral. Want we vinden het lekker om te zien hoe anderen op hun bek gaan en ons moreel verheven te voelen. Ik sprak erover bij Dit is de Dag op NPO Radio 1. Kernpunt: het is fijner om te leven in een wereld waar we onszelf kunnen zijn, fouten mogen maken en mogen afwijken van de norm, dan te leven in een brave nieuwe wereld waar iedereen zich voorbeeldig maar volledig nep gedraagt omdat we overal gevolgd worden. Luister hier het gesprek terug. 

“Facebook is a company that was founded to rate the fuckability of Harvard undergrads, and it only got worse after that”, aldus schrijver Cory Doctorow. Voor SETUP reden om alvast een Facebook Museum op te richten waarmee we samen het einde van dit platform kunnen inluiden. Vrijdag schoof ik aan bij NPO Radio 1 Spraakmakers om over het museum te praten en mijn eigen relatie met (a)sociale media. Beluister hier het gesprek.

Tien jaar geleden werd ik raar aangekeken als ik uitlegde waarom ik zonder smartphone leef. Als ik vertelde over smartphonezombies eindigde dat meestal in een bezorgde blik; deed ik wel al aan stromend water, riolering en elektriciteit? Dat is nu wel anders. Telefoons waarmee je alleen kunt bellen en sms’en zijn weer populair. Bina Ayar schreef er een mooi stuk over in HP/De Tijd. Ze interviewde mij over hoe de smartphone ons leven heeft veranderd en hoe het is om nu zonder smartphone te leven. Lees hier haar artikel. 

Vandaag staat mijn opiniestuk in de Volkskrant. Het is een pleidooi om los te komen van het gebruikelijke frame dat we allemaal weerloze slachtoffers zijn van big tech. En daarnaast een opmaat naar SETUP’s Facebook Museum waarmee we samen alvast het einde van Facebook kunnen gaan inluiden. “In plaats van ons af te vragen wat technologie de mensheid aandoet (passief), kunnen we ons beter afvragen wat de mensheid technologie aandoet (actief). Op die manier hoeven we onszelf niet te zien als weerloze slachtoffers van big tech, maar als medevormgevers van digitale technologie. Als cultuurverandering nodig is voor technologieverandering, moeten we afscheid nemen van het oude. Het allereerste Facebook Museum ter wereld, dat maandag 14 juli opent op Utrecht Centraal, helpt daarbij.” Lees hier het stuk.

Gaat AI mijn baan vervangen? Hoe kan ik mij daartegen wapenen? Is het dom als ik mij tegen AI wil verzetten? Ben ik een digibeet als ik nooit AI gebruik? Toen Kroegpraat mij vroeg of ik zin had om deze prangende luisteraarsvragen te beantwoorden kon ik geen nee zeggen. Samen met schrijver, documentaire- en podcastmaker Liesbeth Rasker besprak ik de vragen en welke AI-angsten (on)gegrond zijn. Drie kwesties waar de zorgen in ieder geval niet misplaatst zijn: (1) energie- en waterverbruik van AI (2) hoe wij als mens opschuiven naar de machine (3) kwaliteitsverlies omdat we met generatieve AI economische kwantiteit boven culturele kwaliteit plaatsen. Beluister hier de aflevering.

Voor Kennisnet nodigde Remco Pijpers mij uit om te praten over mijn onderzoek aan de Universiteit Twente en mijn werk bij SETUP. Beiden bevragen de vanzelfsprekendheid waarmee we AI en digitale technologie omarmen als vooruitgang, iets wat in het onderwijs ook wel wat meer zou mogen gebeuren. “Wil het onderwijs leerlingen opleiden tot efficiënte data-burgers of tot mensen die zich kritisch en creatief tot digitale technologie kunnen verhouden? Juist in de context van AI wordt het persoonlijke en intermenselijke van de leraar steeds belangrijker. Ik gun leraren dat ze de ruimte krijgen om iets oprechts van zichzelf in hun werk te leggen. Aan die leraren heb ik de beste herinneringen.” Beluister hier het gesprek.

De Podcast Psycholoog nodigde mij uit om over AI te praten. Toepassingen als ChatGPT worden steeds vaker gebruikt voor vriendschap, coaching en hulpverlening. Het is daarom belangrijk om naast de klimaatimpact, ook kritisch te kijken naar de manier waarop AI ons menszijn verandert. Welke invloed heeft AI op onze manier van denken, doen en voelen? Waarom laten we ons zo massaal betoveren door de output van levenloze chatbots? Op welke manier schuiven wij op naar AI in plaats van andersom? Hoe beïnvloedt AI ons vermogen om in contact te staan met onszelf, elkaar en de wereld om ons heen? Daarover sprak ik met psycholoog en auteur Marissa van der Sluis. Beluister hier de aflevering.

President Trump wil 500 miljard dollar in kunstmatige intelligentie investeren. Gevolg: een paniekerige AI-race waarbij Europa geld over de balk wil smijten uit angst om achter te blijven. Ondertussen lijkt niemand zich af te vragen waar die race ons brengt en of we er daadwerkelijk beter van worden. Lees hier mijn SETUP artikel over waarom we de AI-boot prima kunnen missen.

Alles moet tegenwoordig zo efficiënt mogelijk voor de mens. Zelfs de natuur moet eraan geloven. Mijn artikel met Serv Wiemers is gepubliceerd op BNNVARA’s Joop. In het artikel maak je kennis met SwipeOut: “We roepen graag dat alle soorten belangrijk zijn, en dat elke uitgestorven dier- of plantensoort er één teveel is. Tegelijk maken we snoeihard onderscheid tussen belangrijke en minder belangrijke soorten.” Lees hier het hele artikel.

Mijn essay over minder kinderen baren in relatie tot biodiversiteit is gepubliceerd in het aprilnummer van HP/De Tijd: “Terwijl de mens slechts 0,01 procent van alle levende wezens op aarde vertegenwoordigt, is zij verantwoordelijk voor het uitsterven van 83% van alle zoogdieren en de helft van alle plantensoorten. Een massa-extinctie van die omvang doet afvragen of homo sapiens en biodiversiteit überhaupt wel verenigbaar zijn.” Lees hier het artikel.

Voor NRC interviewde Menno van den Bos mij en Felienne Hermans over AI-pulp. Over hoe ons internet overspoeld raakt met AI-gegenereerde beelden en teksten. “De ergernis aan AI-pulp kan een kentering veroorzaken in het denken over AI.” Lees hier het artikel.

Wat als we in plaats van geld te verdienen aan het leegtrekken van de natuur, geld kunnen verdienen aan het beschermen ervan? Daarover ging VPRO Tegenlicht. Koolstofboeren, bos-obligaties, emissiehandelaren, biodiversiteitscredits; de ene na de andere financiële Excel-oplossing werd overtuigend bij de kijker naar binnen geschoven. De overkoepelende aanname is: als we biodiversiteit nauwkeurig meten en omzetten in een verdienmodel, dan leidt dat tot gezondere natuur. Wellicht is dat zo, maar er zijn gevaren. Lees hier welke.

“Change… Is het nog nobel om daarin te geloven? Is het nobel om vast te blijven houden aan het geloof dat de mensheid kan veranderen als diezelfde mensheid nooit iets anders heeft gedaan dan al het andere leven op aarde onderwerpen voor eigen gewin? Wij mensen zijn verantwoordelijk voor de grootste massa-extinctie uit de geschiedenis. Hoeveel geweld moeten we nog plegen voordat we gaan inzien dat de mens het grootste probleem op aarde is?”

“Vroeger dachten mensen dat God hen kon redden, nu heeft technologie die plek ingenomen. Ik voelde me wat dat betreft een atheïst tussen de godsdienstwaanzinnigen. Mensen hadden niet door dat elke technologie een eigen waardensysteem met zich meebrengt dat net zo subjectief is als alle andere religies. Het waardensysteem van technologie gaat altijd over efficiency, groei, complexiteitsreductie, kortetermijnoptimalisatie en contextblindheid. Allemaal zaken waarmee we onszelf naar de ecologische afgrond hebben geduwd.”

Voor het eerst in mijn leven heb ik iets anders geschreven dan een essay, artikel of wetenschappelijk paper. In mijn fictieverhaal Leve het uitsterven maak je kennis met Extinction Go. Een maatschappelijke beweging die afscheid wil nemen van misschien wel het allergrootste bullshitbeest van allemaal: de mens. Wat gebeurt er als je je tot zo’n radicaal pleidooi probeert te verhouden? Lees hier het verhaal.

Afgelopen vrijdag lanceerde ik met SETUP in TivoliVredenburg onze nieuwe biodiversiteitsapp SwipeOut. Het werkt heel simpel: swipe de goede natuur naar rechts en de foute natuur naar links. Bepaal zelf welke soorten mogen blijven en van welke we prima afscheid kunnen nemen. Op NPO Radio 1 probeerde presentatrice Elles de Bruin het uit: “waar is dit goed voor?”. Inderdaad, waar is dit goed voor? En vooral: waarom gaan we in het dagelijks leven eigenlijk al zo met de natuur om? Kijk hier het fragment terug. Benieuwd waarom SETUP en Open State Foundation dit doen? Lees hier verder.

“Mag ik je interviewen over AI en discriminatie?”. Een paar keer per maand krijg ik deze vraag. Meestal zeg ik nee omdat ik al genoeg over dit onderwerp heb gesproken. Maar toen Linda me uitnodigde zei ik ja. Goed om eens een andere doelgroep aan te spreken, pal naast de beautyroutine tips en dubbel denim van Britney Spears. Artikel hier te lezen.

Voor de NTR VPRO audio 2Doc “Wij zijn de robots” interviewde René van Es mij over de mens die steeds meer opschuift naar de machine. In de media zien we vaak het frame dat robots steeds meer op mensen zouden gaan lijken. Maar eigenlijk is het andersom: wij schuiven steeds meer op naar de robot. Aan de Universiteit Twente onderzoek ik op welke manier dat gebeurt in de context van AI en wat dat betekent voor menselijke authenticiteit. In deze audiodocu kijken we breder naar zowel de vermenselijking van de robot als de robotisering van de mens. Aan het woord komen o.a. Bram Ellens, hoogleraar theaterwetenschappen Maaike Bleeker, kunstenaar Casper de Jong en de befaamde pottenbakrobot van SETUP: “Komt er weer eentje helpen. Laten we zo maar beginnen dan. Als ik zo naar je kijk vermoed ik dat je nog nooit een pot hebt gebakken.” Beluister hier de documentaire.

Laten we stellen dat biodiversiteit overschat is. Wat moet je met een veelheid aan vogels als de pimpelmees, de koolmees, de mus, de meeuw en de kievit? Is de merel niet voldoende? Geïnspireerd door David Graeber’s Bullshit jobs wenden we ons in het project Core Nature tot de natuur. Wat kunnen we makkelijk missen? Die vraag klinkt wrang, maar in veel opzichten gaan we helaas al zo met de natuur om. Met mijn collega Frank-Jan van Lunteren schreef ik daar een artikel over. Over hoe we de natuur indelen in ‘’goede’’ versus ‘’foute” natuur, de politieke dimensie van biodiversiteitsdata en hoe we met rekenmodellen, dashboards en nieuwe verdienmodellen grip proberen te krijgen op biodiversiteit. “Met biodiversiteit-KPI’s en sterfteplafonds berekenen we tot achter de komma welke natuur kapot mag.” Lees hier het artikel en waar je het project live kunt zien.

Voor de podcast van Filosofie in actie ging Piek Knijff met mij in gesprek over mijn werk bij SETUP, mijn onderzoek aan de Universiteit Twente en wat mij daarbij inspireert en motiveert. We behandelen populaire narratieven rondom kunstmatige intelligentie, de ideologie van het dataisme, authenticiteit als morele waarde en de aantrekkingskracht van AI. “Ik zie AI vooral als een copingmechanisme voor complexiteit waar we niet mee kunnen dealen.” Ook bespreken we twee inspiratiebronnen die vormend zijn geweest voor mijn onderzoek en denkproces: de film The Truman show en het boek De depressie-epidemie van wetenschapshistorica Trudy Dehue. Joeri Hazelaar schoof aan als sidekick en vroeg mij naar de parallel tussen de Trumanshow en de manier waarop AI ons leven beïnvloedt:  “Net als de Trumanshow gaat het bij data en AI ook om het controleerbaar, stuurbaar en voorspelbaar maken van de wereld. Beiden omvatten een optimaliseringsideologie en een enorme controle drive.” Beluister hier de podcast.

Voor HP/De Tijd interviewde Bina Ayar liefdesfilosoof Jan Drost en mij over de invloed van technologie op het liefdesleven. “Volgens Beerends moeten we onze sociale en emotionele vaardigheden niet verwaarlozen door ze uit te besteden aan technologie. ‘Frictieloze technologie is niet je beste vriend’, schreef ze eerder voor medialab SETUP dat samen met kunstenaars de ethische implicaties van technologie invoelbaar maakt. Zo had het platform een project om via metingen je eigen knuffels te optimaliseren. “Met als doel om mensen aan het denken te zetten,” vertelt Beerends, “want knuffelen gaat juist over aftasten en spontaniteit.” Ook veel liefdestechnologie richt zich op het perfectioneren van dating en relaties.”
“Online moet het eindeloze liefdesaanbod worden gefilterd: op basis van leefstijlkenmerken bijvoorbeeld. Maar in het echte leven kun je verliefd worden op een persoon die niet voldoet aan vooraf ingestelde vinkjes.” Lees hier het artikel.

Voor het Vlaams-Nederlandse cultuurblad Gonzo interviewde socioloog Theo Ploeg mij over technologie, authenticiteit, kunst, nihilisme, mijn promotieonderzoek aan de Universiteit Twente en mijn werk bij SETUP. “Mijn perspectief is kritisch, in absolute objectiviteit geloof ik niet, je kunt jezelf als waarnemer nooit uitschakelen, dus dat is geen streven voor mij. Daar ben ik ook open in: ik vertel mijn perspectief en dat geeft mensen de mogelijkheid om zich daartoe te verhouden.”
“We antropomorfiseren de machine en machiniseren de mens. Beiden geven een vertekend beeld van de complexere werkelijkheid. Technologie gaat veel verder dan de apparaten en dingen zelf. Categorieën en systemen zijn ook technologie. Onze maatschappij wordt gedomineerd door een technologische mindset: categoriseren, objectiveren, rationaliseren, controleren en beheersen.”
Fotograaf Michel Mees zette voor dit interview bij zijn portretten de AI-functie in Photoshop aan het werk: hij haalde de helft van mijn gezicht weg om de foto vervolgens door AI opnieuw te laten genereren. Naast het oorspronkelijke portret zijn steeds verder geëvolueerde versies te zien.

In de media gaat het vaak over wat AI allemaal kan en wat de voor- en nadelen zijn. Waar het niet over gaat is hoe AI ons hele mens-zijn verandert. Dit proces gaat zo geleidelijk dat we ons er niet van bewust zijn. Vrijdag schoof ik aan bij NPO Radio 1 Spraakmakers om hierover te praten. Andere gasten waren antropoloog Jitske Kramer en comedian Dolf Jansen die net als ik graag wijzen op het belang van frictie voor menselijke ontwikkeling. Frictie die we met AI uit de weg proberen te ruimen.
We horen vaak dat met de komst van AI menselijke vaardigheden verloren gaan, en dat dat niet erg is omdat er andere vaardigheden voor in de plaats komen. Met deze nonchalante houding snijden we onszelf in de vingers. Sommige vaardigheden moeten we koesteren, ook al kunnen we ze aan AI uitbesteden. Niet uit angst voor het nieuwe, maar omdat we deze vaardigheden nodig hebben om onszelf te ontwikkelen en een betekenisvol bestaan te leiden. Vooral AI-bedrijven profiteren van deskilling: hoe afhankelijker wij worden van hun AI-producten, hoe meer invloed en hoe hoger de winst. We moeten ons vaker achter de oren krabben of we er zelf ook beter van worden. Het gesprek is hier terug te luisteren.

In EenVandaag gaf ik commentaar op Lavender: een computersysteem dat Israël gebruikte om te bepalen wie er sterft in Gaza. Belangrijkste punten: (1) Onvoldoende menselijke controle: met het Lavender systeem kwamen 37.000 Palestijnen op een kill-list te staan. Deze werd zonder betekenisvolle controle opgevolgd. Het systeem werkt volgens de logica: als je een aantal zelfde kenmerken hebt als een Hamas militant, dan ben jij automatisch ook een Hamas militant. Deze rechtlijnige, computationele logica is gevaarlijk en voorbarig. (2) Oorlogsvoering wordt afstandelijker: het is makkelijker om targets te dehumaniseren als een systeem aanwijst wie je moet hebben en jij blind op de statistiek van het systeem vertrouwt. Of in de woorden van een van de soldaten: “Everything was statistical, everything was neat — it was very dry.” (3) De beslissing wie sterft komt dichter bij de machine te liggen: het aantal targets werd met Lavender zo hoog, dat mensen geen betekenisvolle afwegingen meer maakten: “Officers were not required to review the AI system’s assessments, in order to save time and enable the mass production of human targets without hindrances.” Fragment hier terug te kijken.

Vorige week gaf ik mijn gastcollege “An AI apocalypse?” aan het UvA Instituut voor Interdisciplinaire Studies. De existentiële dreiging van AI wordt afgeschilderd als een risico voor de toekomst, terwijl de huidige AI ons nu al existentieel bedreigt. Niet door plotseling de mensheid te elimineren, maar door de mens geleidelijk te devalueren tot economische functie. Met studenten uit verschillende landen en disciplines bespraken we AI doom en utopia, AI realisme, de antropomorfisering van AI en de machinisering van de mens. Complimenten aan Lisa Doeland voor de belangrijke lesmodule “Apocalypse”.

In EenVandaag gaf ik commentaar op het UNESCO onderzoek naar seksisme in AI. De vraag die steeds terugkomt: kunnen we deze bias niet gewoon oplossen? Wie gelooft dat we een decennialange geschiedenis van genderongelijkheid en discriminatie kunnen oplossen met inclusieve data, begrijpt niet hoe maatschappelijke veranderingsprocessen werken. In plaats van AI-systemen te bouwen die patronen uit het verleden herhalen, moeten we de mechanismen aanpakken die tot deze patronen van ongelijkheid hebben geleid. Er bestaat geen technologische fix voor culturele bias en sociale ongelijkheid. Twee voorbeelden: Google’s Gemini en deze studie naar healthcare bias – why fixing the numbers could lead to worse outcomes.

Mijn onderzoekspaper met Ciano Aydin is gepubliceerd in AI & Society. Ik maak me ernstig zorgen over hoe we de waarde van ons mens-zijn volledig laten bepalen door wat AI wel of niet kan. In ons peer-reviewed paper laten we zien op welke manier dat gebeurt en waarom dat onwenselijk is. Vanaf vandaag open access te lezen.

2023 was het jaar van de AI-bullshit. Nog nooit was de marketing zo krachtig en de duiding zo belabberd. Als we de berichtgeving moeten geloven kunnen we het AI-vraagstuk reduceren tot twee kampen: een ethisch kamp dat AI op een veilige manier wil ontwikkelen, en een onethisch kamp dat uit is op winst en AI zo roekeloos ontwikkelt dat het een existentiële bedreiging kan vormen voor de mens. Zo’n soap over goed versus kwaad spreekt tot de verbeelding, maar gaat voorbij aan de ideologie die schuilgaat achter AI. Lees hier het artikel dat ik schreef samen met Emile van Bergen.

“Alles wat Big Tech niet vertelt, maar je wel moet weten over kunstmatige intelligentie.” Voor de BNR Nieuwsradio & Trouw podcastreeks “Welkom in de AI-fabriek” ging ik met Ilyaz Nasrullah in gesprek over het geloof in de vermeende existentiële dreiging van AI. Welke impliciete aannames en culturele opvattingen gaan hierachter schuil? Want de ideologie achter AI is gevaarlijker dan de technologie zelf.
De reeks bestaat uit zes afleveringen en zes essays waarmee Ilyaz een belangrijk tegenwicht biedt tegen alle hijgerige berichtgeving rondom AI.

Op zondag 29 oktober stond ik op het Brainwash Festival: “Het is tijd voor een AI-bullshit-pauze. Intelligentie-explosies en robots die de mens overbodig maken; allemaal onzin, aldus Siri Beerends. In plaats van ‘singularity’ — het moment dat AI de mens op alle fronten overstijgt — moeten we ons zorgen maken om een singularity of sameness: een monocultuur waaruit we niet meer los kunnen breken.” Ik vertelde o.a. over de invloed van generatieve AI op onze taal en geestelijke diversiteit. Daarnaast liet ik het antwoord zien van SETUP op de almaar groeiende AI-modellen waarmee we het kleine en bijzondere laten opslokken in een singularity of sameness.

“Volgens Evgeny Morozov lopen we het gevaar dat we ervan worden overtuigd dat de wereld draait op één enkele logica: die van zeer cognitief, koelbloedig rationalisme. Velen in Silicon Valley geloven dat al – en op basis van dat geloof zijn ze druk bezig met de wederopbouw van de wereld.” Journalist Tom Grosfeld nodigde Ilyaz Nasrullah en mij uit voor een interview. Het werd een kraakhelder stuk over de culturele mechanismen en ideologische opvattingen achter AI. Grosfeld trekt een mooie lijn door naar de inzichten van Jaron Lanier en Evgeny Morozov. Lees hier het artikel.

Voor AVROTROS EenVandaag werkte ik mee aan een zesdelige serie van Sjoerd Fennema over kunstmatige intelligentie. Van AI in de kunst- en muzieksector tot AI in het onderwijs en de zorg. Zo krijgt een kritisch, sociologisch en cultureel perspectief op AI nu ook ruimte in de mainstream media. De serie is hier terug te kijken.

Voor Nieuwe Revu interviewde Laurens Bluekens mij over alle ophef rondom kunstmatige intelligentie. Het werd een goed gesprek dat op de cover belandde. “Ik heb een grote nieuwsgierigheid naar de geest van andere mensen. In ChatGPT-teksten en AI-gegenereerde content herken ik geen individuele menselijke geest, daarom vind ik het saai.” Lees hier het hele interview. 

Voor HP/De Tijd interviewde Bina Ayar techniekfilosoof Guido van der Knaap en mij over de macht en kracht die wij aan AI toedichten. “Het verschil tussen computerkennis en menselijke intelligentie is dat onze kennis is gestoeld in lichamelijke, geestelijke en zintuigelijke ervaringen. De gelaagdheid van mensenkennis ontbreekt bij krachtigere systemen. Een computer kan taal imiteren, maar mist context en connectie met de complexe werkelijkheid. Een computer heeft geen bewustzijn of eigen wil.” “Mijn bezwaar tegen de AI-brief is dat het de indruk wekt dat AI een onbeheersbare natuurkracht is die alleen door techbedrijven in goede banen is te leiden. Van mij hoeft een klein groepje techneuten niet te bepalen wat goede AI is, net zomin als dat ik wil dat de overheid ons vertelt welke informatie waar of onwaar is. De consternatie rond de waarschuwingsbrief leidt af van de echte gevaren: namelijk dat we technologie te veel macht toekennen, met als gevolg dat we zelf niet meer nadenken. Dat is geen toekomstmuziek; daar zitten we al middenin.” Lees hier het hele artikel.

Mijn opiniestuk met Jarno Duursma in Het Parool: “Niet de superintelligentie van computers zou ons angst in moeten boezemen, maar ons enthousiasme om een vorm van “intelligentie” in AI te gieten die schade toebrengt aan mens, natuur en samenleving.” Lees hier het volledige stuk.

Waarom ik geen AI-pauzebrieven onderteken: het grootste probleem met AI is de macht en kracht die wij eraan toedichten. Dat we biljarden investeren in een industrie die mens, natuur en samenleving uitholt, hebben we juist te danken aan Het Geloof dat AI zodanig krachtig en “intelligent” is dat het de mensheid kan uitroeien, of dat het ‘’als we maar genoeg investeren’’, meerwaarde voor de maatschappij heeft. Dat Geloof moet je niet voeden met brieven over een vermeende ”existentiële” dreiging. Met het uitroeiing vs. reddings-frame behouden AI-bedrijven hun status quo, en hun macht over ons begrip van intelligentie. Dat zouden we niet moeten steunen.

Samen met SETUP, David Schwarz en Derk Stenvers stond ik op PublicSpaces. Na opvoering van The Silicon Passion gaf ik een korte talk als brandstof voor het nagesprek. Dat het internet stuk is wisten we al. AI zet daar een turboboost op. Datadiefstal, desinformatie, privacy-schendingen en algoritmische polarisatie zijn problemen waarvoor we graag het grote boze Big Tech de schuld geven. Maar wat als het probleem dieper ligt? In plaats van ons af te vragen wat technologie ons aandoet, kunnen we het ook omkeren en ons afvragen wat wij de technologie aandoen. Hierover ging ik in nagesprek met Levien Nordeman, docent en onderzoeker data, AI en samenleving aan de Hogeschool Utrecht en Cesar Majorana, schrijver en presentator bij BNNVARA. Presentatie en gesprek hier terug te kijken.

Voor de Waag Futurelab Podcast “Planet B” ging ik in gesprek met Gijs Boerwinkel over de vermeende existentiële dreiging van AI, authenticiteit, mijn onderzoek aan de Universiteit Twente en mijn werk bij SETUP. Hier terug te luisteren.

Ons opiniestuk in NRC. De angst dat kunstmatige intelligentie te slim wordt en de mensheid overbodig maakt domineert het publieke debat. Maar het AI-marketing verhaal over een AI ”intelligentie-explosie” maskeert de culturele, ideologische en commerciële dimensie van intelligentie. Samen met Jelle van der Ster, algemeen directeur van SETUP, schreef ik een opiniestuk over de noodzaak van een scherper AI-debat. Lees hier het artikel.

Voor Binnenlands Bestuur werd ik geinterviewd door Marjolein van Trigt: “Rondom kunstmatige intelligentie vindt enorm veel hypevorming plaats, waarschuwt cultuursocioloog Siri Beerends. Dat wil niet zeggen dat we het kunnen afdoen als een hype. Integendeel: ‘Door de hype wordt het een alledaagse realiteit waar we mee moeten dealen.’” Lees hier het interview.

Mijn reactie op de AI-pauze brief: “De brief zet ons op het verkeerde been en leidt ons af van de daadwerkelijke gevaren van AI. Als ik om mij heen kijk zie ik geen AI die de mens overbodig maakt, maar een mensheid die de mens overbodig maakt. Het type intelligentie dat we in AI proberen te gieten is juist wat ons in de problemen brengt: statistische optimalisering voor economische doeleinden, extrapolatie van koloniale patronen uit het verleden, kennis zonder begrip, en een veronachtzaming van de fysieke wereld.” Lees hier het hele artikel.

Futuristische AI-beeldtaal leidt ons af van de daadwerkelijke gevaren en uitdagingen die voor ons liggen. Afgelopen zondag was ik te gast bij Mediastorm van Omroep Human. Ik vertelde in vier minuten wat er mis is met de beeldvorming rondom kunstmatige intelligentie. Het fragment is hier terug te kijken, vanaf 19 minuten.

“Als AI artikelen en scripts kan schrijven ben ik dan overbodig?” vroeg RTL Nieuws tech redacteur Harm Teunis aan Piek Vossen en mij. Dat AI de mens overbodig maakt is een populair frame in de media. Helemaal nu we overspoeld worden met toepassingen als Dall-E, MusicLM, Midjourney en ChatGPT. In plaats van te spreken over AI die de mens vervangt, is het relevanter om te kijken naar complementaire samenwerkingen. Helaas zie ik dat nog steeds vaak wordt gedaan alsof kunstmatige intelligentie en menselijke intelligentie hetzelfde zijn; een misvatting die gebaseerd is op antropomorfisering en misleidende AI-metaforen. Andersom wordt ook vaak gedaan alsof mensen hetzelfde zijn als computers. Patronen vertalen en bestaande teksten en beelden remixen tot iets nieuws; dat doen wij toch ook? Ook dat is een misvatting, en wel eentje die gebaseerd is op een mechanistisch mensbeeld. Om de mens overbodig te maken hebben we geen AI nodig. De mens was in zekere zin altijd al overbodig. Daarom hebben we een hoger doel gecreëerd: een collectieve AI-baby die we toegewijd voeden met data-flesjes en deep learning. Dit alles in de ijdele hoop dat als de AI-baby volwassen is, deze ons kan bevrijden van zware arbeid en ons kan leren waartoe wij nuttig zijn. Maar die AI-baby is natuurlijk nooit volwassen. Die blijft altijd schreeuwen om meer data-offers en meer parameters. En ondertussen hebben we ‘m zo verwend met aandacht en religieuze verafgoding, dat hij stilletjes aan is veranderd in een kleine dictator die ons voorschrijft wat menszijn betekent en hoe wij ons werk moeten doen.

Nieuwszenders praten over een ‘’megadoorbraak’’ in de kunstmatige intelligentie. Tech-experts prediken doom en gloom voor het onderwijs. Bij elke nieuwe GPT-toepassing trappen we weer braaf mee in de AI hype-cycle. Wat al die sensatieberichten vooral laten zien, is niet zozeer dat het school-essay dood is, maar wijzelf. Door de diepte en breedte van taalcompetentie te reduceren tot datgene waar computers goed in zijn, cancelen we onszelf. We wissen de mens uit met een mechanistisch begrip van taal. Lees hier mijn artikel over ChatGPT.

Klimaatverandering, digitalisering, wonen, arbeid, zorg; het zijn stuk voor stuk maatschappelijke opgaven die om innovatiekracht bij uitvoeringsorganisaties vragen. Als we het over die innovatiekracht hebben, denken we vooral aan technologische innovatie. Veel minder vaak denken we aan de innovatieve kracht van verbeelding. Voor iBestuur schreef ik over AI-hypes en waarom het belangrijk is om de creatieve industrie te betrekken bij maatschappelijke opgaven. Lees hier het artikel.

Mijn essay over onze verstoorde relatie met technologie is gepubliceerd in De Groene Amsterdammer. Afgelopen jaar las ik Het Romantisch Misverstand van Jan Drost; over liefdes-misvattingen. Ik concludeerde dat de misverstanden die Drost beschrijft ook opgaan voor onze relatie met technologie. Lees hier het essay.

Gisteren ging ik op NPO Radio 1 met hoogleraar hightech-systemen Maarten Steinbuch en biohacker Peter Joosten in gesprek over de wenselijkheid van een chip in je lichaam. Bijvoorbeeld om mee te betalen of om medische gegevens op te bewaren. Fragment hier terug te beluisteren.

Laurens Bluekens interviewde voor de VPRO Gids Dominik Vrabič Dežman en mij over het project ”Diverse beelden voor technologie.” Witte glanzende humanoid robots, hersenen met nullen en enen, blauwe achtergronden, printplaten; dat is hoe technologie vaak verbeeld wordt. SETUP nodigde kunstenaars en illustratoren uit om deze eenzijdige beeldvorming te doorbreken. Lees hier het artikel:

’s Ochtends op het SETUP kantoor tref ik mijn collega’s in opperste staat van enthousiasme. Ze zijn in de zevende hemel met een AI-beeldprogramma: “Moet zien hoe gaaf dit is, we zijn hier gisteren de hele dag mee bezig geweest! Deze afbeelding is echt sick, die hebben we net gemaa”-met geïrriteerde toon onderbreek ik het verhaal: “Ja vinden jullie dat interessant? Ik vind er geen moer aan. Ik word helemaal doodgegooid met die quasi-interessante AI-plaatjes, ik kan ze niet meer zien. Het ráákt me niet“. Voor SETUP schreef ik over onze uiteenlopende perspectieven op AI-gegenereerde kunst. Lees hier het artikel.

In plaats van mensachtige robots, kunnen we ons beter zorgen maken over robotische mensen. Mijn TEDx talk over human-AI collaboration in kritisch perspectief:

In De Balie gingen we in relatietherapie met social media. Samen met Jelle Baars, Jeroen Matthijs de Vos, Patti Valkenburg, Dasha Simons, Najla Edriouch en Stephen Kearney ging ik in gesprek over de vraag wat we nodig hebben om tot een betere relatie met social media te komen. Een ingewikkelde vraag. Ik blijf moeite houden met, in mijn optiek, twee misverstanden.

Metronieuws interviewde Jaap-Henk Hoepman, Martin Buijsen en mij over de stelling ‘Een Europees digitaal identiteitsbewijs en medisch dossier gaan te ver’. Lees hier onze perspectieven. De invoering van een eID en medisch dossier zijn onderdeel van een bredere trend van het digitaal sturen van burgers op basis van data. Over die ‘bredere trend’ schreef ik eerder dit kritische artikel.

De natte droom dat we met technologie de wereld volledig naar de hand kunnen zetten is al zo oud als de weg naar Rome. Maar hoe voelen we ons inmiddels in die droom? Samen met SETUP en theatermaker en muzikant Els Vegter maakte ik de Post-corona Passion: een muzikale Lecture Performance over technologische beheersdrift in een alsmaar complexer wordende wereld.

Op het het congres ‘Hey Siri, vind een geschikte kandidaat’ schoof ik samen met Rina Joosten-Rabou, Hans de Zwart, David Graus en Mildo van Staden aan bij een stakeholdersdebat over inclusieve AI. AI is een favoriet duizenddingen doekje voor maatschappelijke problemen. Leuk, tien basisprincipes voor inclusieve AI bij werving en selectie, maar laat overheden en bedrijven eerst maar eens hype-resistent worden.

Samen met SETUP maakte ik een videocolumn over de ethische en maatschappelijke implicaties van AI-recruitment. Beluister hier het verhaal en maak kennis met YouHired: “YouHired zorgt ervoor dat u nooit meer een sollicitant in de ogen hoeft te kijken…”

Info en tickets

Polariserende algoritmen en informatiebubbels zijn niet alleen een uiting van het verdienmodel van Big Tech, maar ook een uiting van de cultuur waarin wij leven. Een authenticiteitscultuur die draait om zelfverwezenlijking en het verlangen om in jouw ‘uniekheid’ bevestigd te worden. De wereld dient zich aan jou aan te passen, in plaats van andersom. We reduceren onze technologieën tot instrument ter zelfbevestiging, en onze discussies tot identiteitsvraagstuk waar diverse groepen elkaars belangen bevechten. In tijden van polarisering onderzoekt SETUP: wat is een gedeelde realiteit en hoe beïnvloeden technologie en digitale cultuur onze werkelijkheidsproductie? Lees hier meer over het onderzoek.

Mijn onderzoekspaper met Ciano Aydin over authenticiteit en technologie is gepubliceerd in Philosophy & Technology. Mijn fascinatie met authenticiteit begon in mijn tienerjaren toen ik The Truman Show zag. De zoektocht van Truman naar echtheid, die eindigt met een zeilboot waarmee hij letterlijk tegen de kartonnen wand van zijn geënsceneerde robotische perfectiewereld botst, maakte diepe indruk. Maar wat is echtheid? En wat betekent het om “jezelf” te zijn of worden? Deze vragen hebben mij altijd bezig gehouden en leidde tot mijn promotieonderzoek naar authenticiteit in technologische context. Inmiddels is authenticiteit door toenemende digitalisering en dataficering een belangrijk thema geworden. In dit paper leggen we uit wat authenticiteit is, op welke manier dat wordt beïnvloed door opkomende technologieën, en wat de morele meerwaarde van authenticiteit is:

Samen met kunstenaars Ruben van de Ven en Merijn van Moll onderzocht SETUP het fenomeen clickwork. Het Parool interviewde de makers en mij over deze opkomende vorm van arbeid:

Vandaag mijn artikel in Vrij Nederland over de goocheltruc die wij kunstmatige intelligentie noemen. SETUP staat op de Dutch Design Week met installatie-drieluik Accept & Work. Hiermee maken Ruben van de Ven en Merijn van Moll tastbaar welke wereld schuilgaat achter (kunst)matige intelligentie. Een wereld van menselijke klikarbeid en verborgen maatschappelijke kosten, maar ook een wereld waar je de ultieme werkflow kunt ervaren. Welk soort samenleving faciliteren we met klikwerk en wie profiteren daar het meeste van? Lees hier het artikel.

Een pratende bloempot, een algoritme dat bij je geboorte berekent hoe oud je mag worden, een ongemakkelijke stilte, een theaterperformance over de macht van Big Tech, een anti-zelfhulp boek, een Atari rave intermezzo, a little bit of everything all of the time, (kunst)matige intelligentie, en de perfecte robotmens: “Fitter, happier, more productive, not drinking too much, regular exercise at the gym, 3 days a week, more calculated.” ? Het komt allemaal voorbij in het gesprek dat ik had met Jacob de Vries bij Focus op NPO Radio 1. Hier terug te luisteren.

Betweter Festival zit erop. Wat ik mee naar huis neem:
(1) TivoliVredenburg is als een desoriënterend Escher schilderij. Leuk om van een afstandje te observeren, niet om in vast te zitten.
(2) Technologie-kritiek is hot. Zelfs zo hot dat tech-solutionisten hun AI-praatjes verpakken in een technologie-kritisch sausje.
(3) Pinstoring + cashless samenleving = korte rij bij de bar voor mensen met cash.
(4) Even naar buiten voor frisse lucht? QR-code systeem says no.
Gelukkig trok mijn ongemakkelijke verhaal (want technologiekritiek = menskritiek) toch een volle zaal. Praatje terugkijken? Dat kan hier.

Wat voorheen ondenkbaar was, behalve in landen als China, is nu ook bij ons een werkelijkheid. Voor een bezoekje aan restaurant, kroeg of voorstelling is een groen vinkje verplicht. Lees hier bij welke aandachtspunten we meer moeten stilstaan.

Door corona heeft de digitalisering van ons dagelijks leven een nog grotere vlucht genomen. Tom Grosfeld schrijft erover in Het Parool en interviewde een aantal filosofen en sociologen, waaronder ikzelf, over de gevolgen daarvan. Het is makkelijk om te roepen dat je alles kunt digitaliseren, als je menselijke taken uitholt en reduceert tot een kwestie van informatieverwerking. Gelukkig heeft de pandemie ons ook geconfronteerd met een aantal grenzen van onze digitaliserings-drang. De vraag die we moeten stellen is niet wat we kunnen digitaliseren, maar wat we willen digitaliseren, en welke taak- en mensopvatting daarachter ligt:

Voor het Algemeen Dagblad maakte ik met de Universiteit van Nederland een toegankelijke explainer over het fenomeen deepfakes. Waar volgens sommigen de infocalyps nabij is, pleiten anderen juist voor meer nuchterheid. In deze video leggen we kort uit wat een deepfake is, waar ze het meest voorkomen en wat de maatschappelijke gevolgen zijn. Geen doom and gloom, maar het kan zeker tot ontwrichting leiden. What Who happend to my face?

Hoogleraar Media en Digitale Samenleving José van Dijck, ontwerper Julia Janssen en ikzelf schoven aan bij De Nieuwe Wereld om te praten over de toenemende dataficering van onze levens. We worden steeds meer benaderd als data-optelsom. Niet alleen overheden en bedrijven, maar ook wijzelf dataficeren er gretig op los. Wat zijn de gevolgen en wie profiteren daarvan? Heeft het zin om je eigen data te bezitten? Hoe dragen kunst en organisaties als SETUP bij aan kritische reflectie en nieuwe handelingsperspectieven?

Datadiefstal, monopolievorming, massasurveillance, algoritmische polarisatie, dat het internet kapot is wisten we al. Daarvoor geven we graag de schuld aan het grote boze Big Tech. Maar wat als het probleem dieper ligt? SETUP videocolumn:

In 2011 studeerde ik af op het thema authenticiteit en medicalisering in de psychische gezondheidszorg. We zijn inmiddels tien jaar verder en niets opgeschoten. De perverse prikkels en labeldrang zijn alleen maar toegenomen:

Vandaag het werk van SETUP in NRC. We zijn opweg naar het nieuwe absurd. Met een wildgroei aan apps en gadgets die moeten waarborgen dat we corona-proof de hort op kunnen. Maar wat krijgen we daarvoor terug? “Het grootste risico voor de ontsporing van surveillancemaatregelen, is de ingebakken neiging tot meer, meer, meer – en het negeren van de meest simpele optie: ergens mee stoppen.” Aldus gedragsonderzoeker Leidy Klotz. “Om de implicaties van die controlesamenleving tastbaar te maken, nodigden Beerends en haar collega’s ontwerpers uit om concept-apps te maken voor de open-up-samenleving. De projecten van SETUP trekken de surveillance en beperkingen tot in het absurde door, maar het is de vraag hoe absurd dat werkelijk is.” Lees meer over onze provocatieve ontwerpen in het artikel van Wouter van Noort:

In samenwerking met de ministeries EZK en LNV maakt de RijksAcademie voor Digitalisering en Informatisering Overheid (RADIO) een podcastserie over de ethische implicaties van algoritmes en digitalisering. In de eerste aflevering van de serie ‘Het digitale dilemma’ sprak programmamaker Robin Rotman met mij over de ‘fabeltjesfuik’, online profiling en de manier waarop SETUP deze thema’s tastbaar maakt. Wat is de fabeltjesbuik en wat moeten we ermee? Bestaan filterbubbels eigenlijk wel? En waarom moeten we de schuld niet afschuiven op het grote boze algoritme? Luister hier de podcast terug:

Vaarwel strenge Lockdown, hallo nieuwe wereld? Vergeet het maar. In onze wanhopige poging om terug te gaan naar het oude normaal verkwanselen we het potentieel van de pandemie als gamechanger. Geen structurele verandering, maar wel een steeds verdergaande technologische controlesamenleving. Vorig jaar las ik The Technological System van Jacques Ellul. Zijn perspectief dreunt na in alles om ons heen. Pandemieën voorkomen is beter dan genezen. Maar niet in The Technological System. In The Technological System vinden we een groen corona-vinkje belangrijker dan een groene planeet. In The Technological System denken we onszelf en onze planeet uit de crisis te kunnen innoveren met slimme gadgets. Kunnen we nog ontsnappen aan het virus van korte termijn oplossingen? Vandaag -de dag waarop de terrassen open gaan en de avondklok eindigt- mijn artikel in Vrij Nederland:

We staan te springen om ons groene vinkje bij de ingang te laten zien en weer te gaan feesten. Maar in welk soort samenleving gaan wij straks weer naar buiten? Met Jarno Duursma ging ik in gesprek over corona fieldlabs, massa-monitoring, crowdcontrol, big data surveillance, digitale coronapaspoorten en de dode mussen award van SETUP. Welk soort samenleving zijn wij aan het creëren? Wat voorheen ondenkbaar was, is nu geoorloofd. Wetswijzigingen worden doorgevoerd, studenten hangen hun kamers vol camera’s om tentamens te mogen maken, en de nationaal coördinator terrorismebestrijding houdt burgers nauwlettend in de gaten. Dat geeft een gevoel van controle. Maar controle is niet hetzelfde als een probleem bij de wortel aanpakken. Luister hier de podcast terug:

Even een jaar terugspoelen: weet je nog dat het Ministerie van VWS de corona traceer-app presenteerde als wondermiddel om uit de Lockdown te komen? Met het Oog op Morgen vroeg hoe ik tegen de toenmalige app-plannen aankeek. Wilfried de Jong zag niet aankomen dat ik een pleidooi zou gaan houden tegen het tech-solutionisme. Ook over kunstmatige intelligentie riep ik op om bescheiden te zijn over de rol van AI-toepassingen bij het temmen van het virus. Inmiddels zijn we ruim een jaar aan corona-bestrijding en (kunst)matige intelligentie verder. Nog steeds dringt niet goed door dat voorkomen beter is dan genezen. De korte termijn gedachte dat we met 700 miljoen euro en een systeem van fieldlabs, check-apps en digitale corona-paspoorten pandemieën kunnen beheersen is ronduit naïef. In plaats van een verstikkende controlesamenleving op te tuigen die zijn weerga niet kent, kunnen we er beter alles aan doen om pandemieën te voorkomen. 

Samen met documentairemaker Shugen Tan, ‘Digital Human’ expert Mao Lin Liau en onderzoeker Jon Roozenbeek was ik te gast in de livestream van Pakhuis de Zwijger om te praten over de Tegenlicht aflevering “Zien is geloven”. Volgens Nina Schick (auteur Deepfakes and the Infocalypse) leven we in een infocalypse: we kunnen geen onderscheid meer maken tussen informatie en desinformatie en leven steeds meer in onze eigen echo kamers. Hierdoor wordt het steeds moeilijker om in een gedeelde realiteit te leven. Wat zijn de maatschappelijke gevolgen? Is het echt zo dramatisch als hier gesteld wordt? Wat is de waarde van purposeful fiction? Wat is (de rol van) een gemeenschappelijke waarheid? Kijk de livestream hier terug.

Hoe spectaculair een digitale avatar er ook uitziet, het is en blijft een lege huls. Een data-echo die slechts een paar persoonskenmerken kan uitdrukken. Omdat we menselijke eigenschappen op robots projecteren, vergeten we dat robots onze woorden en emoties niet begrijpen, maar slechts simuleren dat ze onze woorden en emoties begrijpen. Het idee dat je de mens kunt vangen in data is net zo wereldvreemd als het idee dat de mens een brein is dat je simpelweg kunt overzetten op een digitale drager. ”Next level AI” of niet: bewustzijn, persoonlijkheid en een betekenisvolle omgeving verhuizen niet automatisch mee wanneer we onszelf proberen over te zetten op een digitale drager. Vorig jaar dook ik voor SETUP en Vrij Nederland in de wereld van de digitale avatars waarin mensen zichzelf proberen te vereeuwigen. Nu MetaHuman creator viral gaat en we steeds meer aspecten van het leven willen uitbesteden aan een digitale versie, wordt duidelijk hoe we nog altijd zijn blijven hangen in een conservatief mind-body dualisme. Wederom actueel en ook te beluisteren als podcast.

Do you want inclusive AI? Do you believe that fixing bias is the solution? Read this important paper by Abeba Birhane:

• “AI has become the hammer every messy social challenge is bashed with. The intrinsically political tasks of categorizing and predicting things like ‘acceptable’ behavior, pass as apolitical technical sorting tasks. As a result, harmful outcomes are treated as side effects that can be treated with tech-solutions.”
• “Underlying the idea of fixing bias is the assumption that there exists a single correct description of reality where a deviation from it results in bias. The ‘correct’ way often means the status quo.”
• “When we see bias, we see problems that surfaced from a field that has inherited unjust, racist, and white supremacist histories. Problems that have roots in the mathematization of ambiguous issues, historical inequalities, and asymmetrical power hierarchies.”
  
• “Even if one can suppose that bias in a dataset can be ‘fixed,’ what are we fixing? Is the supposedly ‘bias-free’ tool used to punish, surveil, and harm anyway?”
• “This calls for interrogating contextual and historical structures that might give rise to such patterns, instead of using the findings as input toward building predictive systems and repeating existing inequalities and historical oppression.”

Een van de grote beloftes van AI is dat “slimme” robots het vervelende werk doen, zodat wij ons kunnen bezighouden met belangrijkere zaken. Ben je benieuwd waarom dat beeld niet klopt en wat er eigenlijk allemaal bij komt kijken om robots ”slimmer” te maken? Bekijk dan de talk die namens SETUP gaf op de AI meetup van Tweakers:

Terwijl het puinruimen van de Toeslagenaffaire nog moet beginnen, stemde de Tweede Kamer in met een datakoppelwet waarmee nóg ingrijpendere risico-indicatiesystemen worden opgetuigd. Voor SETUP en OneWorld dook ik in twee rapporten over algoritme-gebruik bij de overheid. Wat weten we over de gebruikte computermodellen? Waarom is het gevaarlijk om de schuld af te schuiven op “het grote boze algoritme”? En waarom is algoritmische transparantie niet zaligmakend? Lees hier mijn artikel over de Toeslagenaffaire, het vervolg op Systeem Risico Indicatie en de nieuwe datakoppelwet.

Met bewerkings-apps en fotofilters lijkt het Westerse schoonheidsideaal (grote amandelvormige ogen, volle lippen, kleine neus, egale huid, strakke kaaklijn, witte tanden) voor steeds meer jongeren binnen handbereik. Sommigen gaan nog een stap verder en stappen naar de cosmetisch chirurg om op hun gefilterde selfies te lijken.
In VPRO’s Dikke Data Show (doelgroep 8 t/m 14 jaar) leg ik uit wat dit kan doen met je zelfbeeld. Wat is belangrijker: 10K likes van wildvreemden of waardering van mensen die je nauw aan het hart hebt liggen? Kijk hier de aflevering terug.

In ons denken over de aanpak van klimaatopwarming, Big Tech en institutioneel racisme moeten we de wisselwerking tussen individueel en collectief ingrijpen beter leren begrijpen. We horen graag dat wij niet hoeven te veranderen. Dat we slachtoffers zijn van de structuren en systemen waarin we leven; dat politiek en bedrijfsleven verantwoordelijk zijn. Inderdaad, we zitten vast in destructieve systemen waar we niet om hebben gevraagd. Maar dat betekent niet dat we deze systemen niet kunnen veranderen en onze eigen keuzes geen invloed hebben. De metafoor van de druppel op de gloeiende plaat maakt ons passief. Het gaat niet alleen om het effect van die ene vegaburger of Facebook-boycot. Het gaat om de structuren die je daarmee in gang zet, en het effect op het grotere geheel. Individueel ingrijpen kan structureel ingrijpen afdwingen en vice versa. Individuen maken het collectief. This is the world -we- built. Congratulations, cheers all:

In Slimme koppen vertel ik met een korte pitch aan WeTransfer mede-oprichter Damian Bradfield waarom SETUP het internet een .sorry topleveldomein wil geven en hoe we daarmee het internet kunnen verbeteren.

Voor de NRC-podcast Future Affairs ging ik met tech-journalist Wouter van Noort en filosoof Jessica van der Schalk in gesprek over het gevaar van een mogelijke “infocalypse”. Met deepfake-technologie, online filters, hyper personalized micro-targeting en bewerkingsapps kunnen we de werkelijkheid naar hartenlust manipuleren. Het is steeds moeilijker om informatie op waarde te schatten en in een gezamenlijke realiteit te leven. Maar geven we Big Tech en algoritmes niet te makkelijk de schuld? In selfie-walhalla Youseum gingen we op zoek naar een antwoord op de vraag: hoe komen we tot een gedeelde realiteit? En wat is een gedeelde realiteit?

Gisteren gaf ik op uitnodiging van Dr. Marlies van Eck een online gastcollege over de sociale implicaties van toegepaste AI voor de PAO leergang kunstmatige intelligentie voor juristen aan de Universiteit Leiden. Ik besteedde aandacht aan de niet-meetbare aspecten van mens en samenleving. Wat gebeurt er als we onze sociale werkelijkheid dataficeren? Op welke manier kunnen rigide wiskundige modellen en mensenlogica in de praktijk met elkaar botsen? Is alles wat volgens privacywetgeving is toegestaan ook maatschappelijk gewenst? Waardevol om op deze manier het cursusprogramma aan te kunnen vullen!

At Brave New World 2020 I talked on behalf of SETUP about the hidden human labour in AI-systems. Our first-world preoccupation with Artificial General Intelligence, Singularity theory and hypothetical robot rights is too far removed from concrete events on the ground. Instead of so-called hyper-intelligent robots, we should talk about the robots that are already among us and the enormous amount of human work lurking in seemingly automated AI-systems.

Het narratief van The Social Dilemma houdt ons in een gevaarlijke wurggreep: pas als technologie ontwikkelaars hun ontwerp aanpassen, kunnen wij verlost worden van hun zonden. In dit eenzijdige Black Mirror sprookje wordt ons voorgehouden dat de industrie een probleem heeft gecreëerd wat alleen de industrie voor ons kan oplossen. Om het probleem bij de wortel aan te pakken moeten we loskomen van de AI-ideologie die in The Social Dilemma wordt gepromoot: 1) Wij zijn ons brein; 2) Ons brein is een computer; 3) Silicon Valley maakt betere computers; 4) De spijt hebbende tech-industrie maakt betere computers.
Om deze cirkelredenering te doorbreken schreef ik voor SETUP een uitgebreid artikel over The Social Dilemma en ging ik daarover in gesprek met David van Overbeek in het programma De Nieuwe Wereld.

Definities en menselijke taken uithollen zodat we makkelijker kunnen stellen dat digitale technologie het kan vervangen: ik zie het steeds vaker.
Emoties herkennen? Een kwestie van gezichtsuitdrukkingen categoriseren. Empathie? Een kwestie van gesprekken aanpassen aan iemands emotie. Onderwijs? Een kwestie van informatie overdracht.
Voila, we kunnen sociale intelligentie, empathie en onderwijs digitaliseren. En nou niet zeggen van niet want dan verpest je het automatiseringsfeestje van de tech-industrie en de mensen die technologische vooruitgang gelijkstellen aan sociaal-maatschappelijke vooruitgang. Ankana Spekkink verwoord het treffend: “Online onderwijs lijkt prima ingezet te kunnen worden op de momenten dat onderwijs wordt opgevat als het overdragen van feitelijke kennis en het toewerken naar een doel met een meetbare uitkomst. Maar online onderwijs wordt problematisch als het gaat over de bevordering van nieuwsgierigheid, creativiteit, reflectief vermogen en morele ontwikkeling.”
Uiteindelijk kunnen we ”alles” digitaliseren, maar we moeten ons afvragen wie daar precies allemaal beter van worden en hoe digitalisering onze definitie van beter beïnvloed.

Vandaag -nota bene de dag waarop Big Tech voor het Amerikaanse Congres moet verschijnen- mijn artikel in Vrij Nederland over waarom SETUP het internet een .sorry domein wil geven.