Kunstmatige intelligentie is een goede zorgverlener. Maar maak dat maar eens duidelijk voor mensen die een dokter meer vertrouwen dan een app.

Dit artikel is afkomstig uit Trouw. Elke dag verschijnt een selectie van de beste artikelen uit de kranten op NU.nl. Daar lees je hier meer over.

Neem een app waarmee je onregelmatigheden op je huid kunt controleren. Je zet die app op je telefoon en maakt foto's van dat verdachte plekje of die moedervlek om te weten of je je zorgen moet maken.

Als de producent zo'n app aanprijst met de mededeling dat die kan zien of jouw moedervlek een melanoom is, klikken weinig mensen op de advertentie. Maar zegt de producent dat de app jouw foto's vergelijkt met foto's van melanomen die hij in zijn geheugen heeft, dan wordt er veel meer geklikt.

Romain Cadario heeft het getest, samen met twee Amerikaanse collega's. Want die apps bestaan; een ervan wordt gemaakt door de Nederlandse firma SkinVision. Cadario testte het verschil in aanprijzingen in een online experiment met advertenties op Google. Het was het sluitstuk van een onderzoeksproject naar de weerstand tegen algoritmes die mensen voelen, en hoe die te verminderen. De resultaten verschenen deze week in vakblad Nature Human Behaviour.

Kunstmatige intelligentie in de zorg

De Fransman Cadario werkt sinds een jaar aan de Rotterdam School of Management van de Erasmus Universiteit. Hij is een gedragswetenschapper, die eerder onderzoek heeft gedaan naar marketing en invloeden op consumentengedrag, en die nu kijkt naar toepassingen van kunstmatige intelligentie in de zorg.

"Het opsporen van huidkanker is een voorbeeld waarin een algoritme, kunstmatige intelligentie, heel goed presteert. In zo'n app draait een neuraal netwerk dat is getraind met enorme aantallen foto's van huidkanker. Het netwerk herkent op een foto die jij maakt een kwaadaardige afwijking in 95 procent van de gevallen. Dat haalt een dermatoloog ook, want die is daarin gespecialiseerd. Maar een huisarts haalt dat bij lange na niet. Het algoritme doet het beter dan de dokter. Maar als je mensen vraagt door wie ze onderzocht willen worden, zeggen ze in veel gevallen: de dokter."

Er zijn uit de wetenschappelijke literatuur verschillende redenen bekend voor de aarzeling over algoritmes, zegt Cadario. Mensen denken dat een dokter, meer dan een algoritme, oog heeft voor hun unieke situatie. Of ze vrezen dat ze niemand aansprakelijk kunnen stellen als het algoritme een verkeerd oordeel velt.

En er is nog een reden: mensen weten niet hoe een algoritme werkt, en dat weten ze van de dokter wel. Althans, dat dénken ze te weten, zegt Cadario: "We denken te weten hoe de dokter tot zijn oordeel komt, maar dat valt tegen. Het algoritme is voor mensen misschien een zwarte doos, maar dat is de menselijke arts ook."

Mensen weten weinig over het werk van de dokter

Het is de illusie van begrip: "Als ik jou vraag: weet jij hoe een toiletpot werkt?, dan zeg jij: ja hoor. Maar als ik je vervolgens vraag om dat uit te leggen, stap voor stap, dan valt het toch tegen." Dat doorvragen is precies wat Cadario en zijn collega's hebben gedaan met proefpersonen wier huidafwijkingen werden bekeken door een dokter of door een algoritme. De proefpersonen hadden naar eigen zeggen geen idee wat de computer aan het doen was, maar wel een behoorlijk goed idee van het werk van de dokter. Maar bij doorvragen bleek hun werkelijke kennis in beide gevallen even karig.

Wil je de aarzelingen over algoritmes wegnemen, dan moet je vertellen wat die algoritmes doen, laten de onderzoekers zien. In vervolgexperimenten werd met een simpel kaartje uitgelegd hoe het algoritme de moedervlek op een foto vergelijkt met zijn bestand van foto's van huidkankers: door te kijken naar omvang, kleur, de randen et cetera. Het bleek voor de acceptatie van deze vorm van kunstmatige intelligentie veel uit te maken.

Toch gebeurt het in deze medische hoek nog maar zelden, zegt Cadario. De meeste apps voor het herkennen van huidkankers worden aangeprezen met de kreten dat ze zo doeltreffend, intelligent en scherp zijn. Zelden wordt uitgelegd hoe ze werken.

Een app vervangt de arts niet

Let wel, zegt de onderzoeker, je moet niet gaan zeggen dat de app zal beslissen of die moedervlek verwijderd moet worden. Dan zouden mensen massaal afhaken. En terecht, want dat is de bedoeling niet: "Zo'n app vervangt niet de dokter. Het gaat hier niet om het stellen van een diagnose, maar om triage: doel is te kijken of het verstandig zou zijn om naar een dermatoloog te gaan. Die moet de diagnose stellen en beslissen over behandeling."

Het is, wat Cadario betreft, de gulden regel voor kunstmatige intelligentie in de zorg. Kunstmatige intelligentie kan in e-health en zorg op afstand een snelle en betrouwbare hulp zijn, maar diagnose en behandeling moeten het terrein blijven van medisch specialisten.