‘Redeneren’ als een computer

Afgelopen weekend gaf ik een interactieve sessie over AI en algoritmen in de zorg op het jaarcongres Vereniging voor Filosofie en Geneeskunde. Samen met zorgprofessionals, artsen en data-experts bespraken we neurale netwerken die huidkanker beter kunnen herkennen dan dermatologen, algoritmen die depressie beloven te detecteren op basis van gezicht- en stem analyse, en text mining algoritmen die kindermishandeling beloven te voorspellen. Wat ik mee naar huis neem: 1) de manier waarop zorgbeslissers naar de ethische implicaties van deze systemen kijken hangt niet alleen af van hun begrip van AI beslissingsprocessen, maar vooral van hun begrip van menselijke beslissingsprocessen en AI ontwerp processen 2) zorgbeslissers moeten op dezelfde rationele manier gaan redeneren als computers wanneer ze een beroep doen op AI, terwijl dat niet altijd wenselijk is (denk aan vrijwillig levenseinde) 3) momenteel wordt meer geld geïnvesteerd in AI oplossingen dan in werkwijze zorgprofessional oplossingen (zoals meer tijd per consult) terwijl beiden nodig zijn.

David Graeber over de averechtse effecten van digitalisering in de zorg in VPRO Tegenlicht.