My book-review of ‘The Age of Surveillance Capitalism’ is published in Delphi. Zuboff makes clear how we fail to understand the exploitative business model that underpins our digital world and the immense techno-social challenges we are facing today. She makes a convincing case as not the technologies themselves, but the business model, behaviorist worldview and ideological principles that underlie our data-driven technologies are her central objects of analysis.
(1) Big Tech aims to create a computer mediated hive where our mutual visibility becomes the habitat in which we attune to one another, producing social patterns based on imitation that can easily be manipulated for guaranteed outcomes. Think for example of social media.
(2) The surest way to predict behavior is to intervene at its source and shape it. In modifying our behavior for profit without our awareness, surveillance capitalism shifts the locus of control over the future tense from ‘I will’ to ‘You will’, supplanting autonomous with heteronomous action, resulting in more automated behavior.
(3) Giving users ownership of their data will not give them power over the predictions derived from it. There is no point in owning data that should not exist in the first place.

In samenwerking met SETUP deed ik onderzoek naar de digitale onsterfelijkheid industrie. In een enthousiaste zoektocht naar het eeuwige leven, maken techbedrijven, futurologen en wetenschappers zich schuldig aan een grove versimpeling van de werkelijkheid. In Vrij Nederland schrijf ik over de valse beloften van brain uploading en de realiteit van chatbots en avatars waarin mensen zichzelf proberen te vereeuwigen. Wat moeten we ons voorstellen bij een digitaal bestaan zonder einde? Wát leeft er precies voort en is het eeuwige leven in de cloud ook een beetje leuk en ecologisch verantwoord? Ook te beluisteren als podcast.

(1) David Watson on our tendency to anthropomorphize AI: “Deep neural networks deviate from human modes of learning in several fundamental and alarming ways.” “Compared to human brains, deep neural networks are brittle, inefficient, and myopic.”
(2) Luciano Floridi on artificial unintelligence: “Many people think that AI is about coupling artificial agency and intelligent behaviour into new artefacts. The opposite is true: AI decouples successful problem solving from intelligent behaviour. It is thanks to this decoupling that it can colonise the boundless space of tasks, whenever these can be successfully performed without any understanding, awareness, sensitivity, concerns, hunches, insights, meaning, experience, wisdom—and all those other ingredients that contribute to qualifying human intelligence.”
(3) Jonathan Zittrain on knowledge without understanding: “Most machine-learning systems are statistical-correlation engines. They can’t explain why they think some patients are more likely to die, because they don’t ‘think’ in any colloquial sense of the word—they only answer. As we begin to integrate their insights into our lives, we will, collectively, begin to rack up more and more intellectual debt.”

Bij Voor de Ommekeer sprak ik met filosoof David van Overbeek over de invloed van big data, algoritmen en kunstmatige intelligentie op ons gedrag en zelfbeeld. Kloppen de theorieën achter de algoritmische modellen eigenlijk wel? Gaan wij ons meer gedragen als robots zodat we beter in de modellen passen? Wat is de rol van Silicon Valley hierin?

Vorige week maakte het publiek kennis met Queen B: een AI-systeem dat persoonlijke data verzamelt en werknemers stuurt met stemberichten: “You look a bit tired, I suggest you grab a coffee”, “I would not formulate that sentence that way”. Queen B maakt deel uit van de speculatieve werkplek die Studio LONK ontwierp om ons te laten nadenken over de wenselijkheid van een datagedreven werkplek. LONK vroeg mij het aansluitende debat een duwtje te geven. Gaat Queen B ons effectiever maken op de werkvloer? Bekijk de video en lees hier de column:

Voor de 25e keer organiseerde Sogeti het VINT symposium. Dit jaar over de synthetische generatie die opgroeit zonder onderscheid te maken tussen on- en offline. Ik gaf een keynote over authenticiteit en de manier waarop surveillance kapitalisme en digitale technologieën onze opvattingen over echt en nep beïnvloeden. Boodschap: techbedrijven sturen ons gedrag zodat ze het kunnen blijven voorspellen. We drijven te ver af van de werkelijkheid omdat met de opkomst van AI een verdienmodel is ontstaan waarbij ons gedrag en onze blik op de werkelijkheid op oneerlijke wijze worden gestuurd. Bekijk hier de presentatie en het bijbehorende interview.

Voor NRC-Handelsblad gaf ik een interview over het ontwerpende onderzoeksprogramma van SETUP. Pottenbak robots en opvoed barbies gaan ons leren hoe we wel en niet met opkomende technologieën willen samenwerken. Lees hier het artikel van Bennie Mols.

Vandaag mijn artikel op Brainwash over mensen die steeds meer op machines gaan lijken. Hoe moeten mens en machine wel en niet met elkaar versmelten? Een belangrijke vraag die SETUP het komende jaar met artistiek onderzoek invoelbaar maakt.

In hoeverre zijn onze machines intelligent? Het is een relevante vraag, maar urgenter is de vraag in hoeverre en op welke manier onze samenwerkingen met AI intelligent zijn. Mijn artikel in Delphi – Interdisciplinary Review of Emerging Technologies gaat over intelligente en domme samenwerkingen met AI.

Lelystad is een pretentieloze polderstad waar de publieke ruimte nog niet is volgeplempt met pop-up stores, pratend straatmeubilair, groetzones en andere ditjes en datjes die ons moeten afleiden van het gat in de zin van ons bestaan. Want als de mens iets niet kan, dan is wel de zinloosheid van zijn bestaan omarmen. Daarom vlucht hij in ambachtelijk bier, yoga, ingewikkelde koffies en andere hipster-religies waar Lelystad nog niet mee besmet is.

Deze week verscheen mijn ode aan Lelystad op Hard//hoofd.

Hebben journalisten straks nog een baan? Wrong question. Heerlijk als robots het monomane schrijfwerk van feiten-opsommende artikelen kunnen vervangen. Zo krijgen journalisten meer tijd om met intelligentie, bewustzijn, creativiteit, gevoel voor context en morele duiding diepgaande artikelen te schrijven. De vraag is niet of robotjournalisten menselijke journalisten vervangen, de vraag is hoe beiden complementair zijn aan elkaar.

Bij Spraakmakers sprak ik over mensen en machines: op welke manieren zijn we complementair aan elkaar en hoe gaat SETUP dat onderzoeken? In plaats van ons druk te maken over machines die op mensen lijken, zouden we ons ook zorgen kunnen maken over mensen die meer op machines gaan lijken:

Voorspellende algoritmen werken als een self-fulfilling prophecy en zorgen ervoor dat we onze identiteit moeilijker kunnen herdefiniëren. In aanloop naar de Privacyrede 2019 stel ik deze en andere onderbelichte problemen op Sociale Vraagstukken aan de kaak.

Met onze hedendaagse technologieën programmeren we in een handomdraai een nieuwe werkelijkheid in zowel 2- als 3D. In een wereld waar echt en nep steeds vloeiender in elkaar overlopen, zijn we naarstig opzoek naar echtheid. Maar of we die ooit vinden? Lees het in het artikel dat ik schreef voor de Hard//hoofd fakeweek.

Naar aanleiding van het SETUP jaarprogramma Civil Weapons of Math Retaliation leg ik in Het Financieele Dagblad uit waarom het een slecht idee is om werknemers te selecteren met behulp van algoritmen.

In Kassa XL leg ik namens SETUP uit dat de privacyschendingen van Facebook over macht gaan. Macht over algoritmen die onze gedragingen, voorkeuren en verlangens op grote schaal sturen:

In aanloop naar de gemeenteraadsverkiezingen verscheen mijn artikel over smart cities, algoritmen en Civil Weapons of Math Retaliation op Sociale Vraagstukken.

Gisteren mocht ik op Radio 2 mijn zegje doen over de voorspelling van futuroloog Ian Pearson dat we in 2050 onsterfelijk zullen zijn. Sensatiejournalistiek dat kunnen ze wel bij De Telegraaf, maar krijgt Pearson ook gelijk? Beluister hier het fragment.

HARD//HOOFD ESSAYREEKS

Onder het credo ‘leven is leuker zonder sterven’ worden miljarden uitgegeven aan wetenschappelijke onderzoeken naar veroudering, genetische modificatie en virtuele onsterfelijkheid. Maar hoe leuk is een leven zonder einde? Onze sterfelijkheid is de grootste drijfveer achter alles wat we doen.

HARD//HOOFD ESSAYREEKS

Terwijl 2017 is bestempeld als het jaar van de artificiële intelligentie, beweren experts dat er nog helemaal geen sprake is van echte artificiële intelligentie. Nieuwsberichten over superintelligente machines die de boel volledig overnemen hebben meer met science fiction en sensatiejournalistiek te maken dan met machine learning.

HARD//HOOFD ESSAYREEKS

Een extra zintuig erbij of een chip in je hersenen waarmee je jezelf aansluit op het internet; dat klinkt als science-fiction maar is het niet. De nieuwste technologische snufjes beperken zich allang niet meer tot losse apparaten die we in onze broekzakken steken.

HARD//HOOFD ESSAYREEKS

Onze huidige levens maken deel uit van de grootste commerciële ontginning in de geschiedenis. Nog nooit werden onze persoonlijke voorkeuren en verlangens op zo’n grote schaal gekwantificeerd en vermarkt als nu.

HARD//HOOFD ESSAYREEKS

De wetenschappelijke publicaties en sappige nieuwsberichten over CRISPR-Cas9, een moleculaire methode waarmee DNA steeds nauwkeuriger gemodificeerd kan worden, vliegen ons om de oren.

HARD//HOOFD ESSAYREEKS

Veestapels verbeteren, ziektes uitbannen, voedseltekorten inperken, uitstervende diersoorten redden: klonen biedt mogelijkheden maar het thema heeft een nare bijsmaak. In 1996 maakte schaap Dolly als ’s werelds eerste kloon een hoop discussie en morele verontwaardiging los.

Soms zit je er opeens in vast. In de sociale stroperigheid van aardig doen en aardig gevonden worden. Ik kende ooit een misantroop die boos werd op zichzelf wanneer hij zich had ingelaten met sociale stroperigheid.

Medicalisering en stijgende zorgkosten: nog even en je kunt de helft van je salaris aftikken aan zorgkosten. Wie te lang naar de vergrijzingsstatistieken heeft gekeken kan zijn nachtrust wel vergeten.

HARD//HOOFD ESSAYREEKS

Pixels vol perfecte levens. In onze authenticiteitdictatuur is dat het ongeloofwaardigst wat je van jezelf kunt tonen. De publiekelijke cultus van het lijden heerst. Imperfectie is wat de klok slaat.

Televisie is bestempeld tot dinosaurus medium. Presentatoren en producenten knikken braaf mee met alle toekomstvoorspellers, niets komt treuriger over dan het verdedigen van iets dat ten dode is opgeschreven.

Mensen die hun kleding strijken en een kreukelloos bestaan ambiëren vond ik nooit helemaal sporen. Een tijdje geleden raakte ik voor het eerst mijn gratis geërfde strijkbout aan om het kraagje van mijn shirt militairyschool glad te strijken.

Filtered photos are 45 percent more likely to be commented on. While parents are naming their children after populair Instagram filters, #nofilter is one of the most popular hashtags on Instagram and ‘filter fakers’ are exposed on special websites.

Apps allow users to experiment with different looks and creative body modifications within the touch of a button. Who needs painful cosmetic surgery when you can create your desired look online and show it to more admirers than you will ever reach in your offline life?

Een pleidooi voor meer realistische vrouwenlichamen in de media? Nee bedankt, vetrollen zien we al genoeg op het strand. Miljoenen euro’s worden uit de kast getrokken om de obesitas epidemie een halt toe te roepen. Tegelijkertijd zien we dat het ‘volle’ lichaam geïdealiseerd wordt.

Ypenburg: kilometers aan voorspelbare herhaling in een landschap dat dwingt om je organische gedachtegolven in een geblokt patroon te persen. Zouden al die geometrische patronen bezit hebben genomen van de hersenpannen van de inwoners?

De hedendaagse honger naar echtheid kan niet worden gestild. Authenticiteit is een maatschappelijke verslaving die in stand wordt gehouden door marketeers, nostalgici, hipsters en cultuurcritici.

Steeds meer werk wordt overgenomen door machines. Welke banen erbij komen en verdwijnen is lastig te voorspellen, maar aan dystopische en utopische toekomstscenario’s in ieder geval geen gebrek.