‘Redeneren’ als een computer

Op het jaarcongres Vereniging voor Filosofie en Geneeskunde gaf ik een interactieve sessie over AI en algoritmen in de zorg. Samen met zorgprofessionals en data-experts bespraken we neurale netwerken die huidkanker herkennen, algoritmen die depressie beloven te detecteren op basis van gezicht- en stem analyse, en textmining algoritmen die kindermishandeling beloven te voorspellen. Wat ik mee naar huis neem:
(1) de manier waarop zorgbeslissers naar de ethische implicaties van deze systemen kijken hangt niet alleen af van hun begrip van AI beslisprocessen, maar ook van hun begrip van menselijke beslisprocessen en de aard van AI.
(2) zorgbeslissers moeten op dezelfde rationele manier gaan redeneren als computers wanneer ze een beroep doen op AI, terwijl dat niet altijd wenselijk is (denk aan vrijwillig levenseinde).
(3) momenteel wordt meer geld geïnvesteerd in AI oplossingen dan in zorgprofessional oplossingen (zoals meer tijd per consult) terwijl beiden nodig zijn.
.
David Graeber over de averechtse effecten van digitalisering in de zorg in VPRO Tegenlicht.