De toepassing van kunstmatige intelligentie (KI) in de gezondheidszorg is een revolutionaire ontwikkeling. KI-systemen kunnen nu met grote precisie diagnose stellen, patiëntgegevens analyseren en zelfs voorspellingsmodellen leveren die levens kunnen redden. Toch is er een groeiend aantal gevallen waarbij deze technologie misbruikt wordt, met ernstige gevolgen voor patiënten en de vertrouwen in het medisch onderwijs. Een voorbeeld hiervan is de toenemende automatisering van besluitvorming in de zorg, waarbij KI-systeem soms niet transparant genoeg zijn of onvoldoende verantwoordelijkheidsdrift tonen. Dit kan leiden tot fouten die niet altijd zichtbaar zijn voor de patiënt of artsen.
De risico’s van onoverzichtelijke KI-uitvoering
Een van de grootste problemen is dat veel KI-modellen in de zorg niet volledig begrijpbaar zijn voor de medische professionals. Dit fenomeen wordt wel “black box”-problematiek genoemd. Als een KI-systeem een diagnose stelt zonder te kunnen uitleggen waarom, kan dit leiden tot misverstanden en onnodige stress voor patiënten. Een bekend voorbeeld is het gebruik van deep learning-modellen voor röntgenbeelden, waar de besluitvorming vaak niet te traceren is. Dit kan leiden tot juridische en ethische problemen, vooral als er fouten optreden.
Bovendien zijn er veel gevallen waarin KI-systeem niet goed genoeg getest zijn voor de specifieke zorgcontext. In een rapport van de Amerikaanse Food and Drug Administration (FDA) uit 2021 zijn er verschillende KI-tools geïdentificeerd die niet voldoen aan de vereiste veiligheidsstandards. Een van de meest kritische gevallen betreft het gebruik van KI in de behandeling van chronische ziekten, zoals diabetes en hartziekten. Hier kan een onjuiste voorspelling van een patiënts verloop leiden tot verkeerde behandelingsbeslissingen.
De impact op de patiënt en het vertrouwen
Het vertrouwen in KI in de zorg is niet eenvoudig te behouden, vooral als patiënten merken dat hun gegevens worden gebruikt zonder hun expliciete toestemming. Een studie uit 2022 van de Universiteit van Oxford toonde aan dat 68 procent van de ondervraagde patiënten zich onzeker voelt over hoe hun medische gegevens worden bewerkt door KI-systemen. Dit kan leiden tot een verminderde openheid over medische zaken en een grotere afkeer van digitale oplossingen in de zorg.
Daarnaast zijn er gevallen waarbij KI-systeem patiënten onterecht worden geclassificeerd als risicopatiënten. Een voorbeeld hiervan is het gebruik van KI in de screening voor kanker. Een onderzoek van het Nationaal Kanker Instituut in de Verenigde Staten toonde aan dat KI-modellen soms minder goed presteren bij patiënten met bepaalde etnische achtergronden, wat kan leiden tot onnodige stress en onnodige behandelingen.
- In 2021 werden in de VS 18 KI-tools voor gezondheidszorg geïdentificeerd die niet voldoen aan de veiligheidsnormen van de FDA.
- Het percentage patiënten dat zich onzeker voelt over de gebruikte KI-systemen in hun zorg is volgens een Oxford-onderzoek 68 procent.
- KI-modellen voor röntgenbeelden hebben een foutpercentage van 3 tot 5 procent, wat vergelijkbaar is met de fouten van ervaren radiologen.
- In een aantal gevallen zijn KI-systemen minder nauwkeurig bij het diagnosticeren van ziekten bij patiënten met een specifieke etnische achtergrond.
- De kosten voor het trainen en onderhoud van KI-systemen in de zorg kunnen 20 tot 30 procent hoger zijn dan die voor traditionele methoden.
De oplossingen: transparantie en verantwoordelijkheid
Om deze problemen aan te pakken, is er een urgentie nodig voor meer transparantie en verantwoordelijkheid in de ontwikkeling en implementatie van KI-systemen in de zorg. Een belangrijke stap is het invoeren van strengere regels voor het testen en certificeren van KI-tools, vergelijkbaar met die voor medicijnen. Daarnaast moeten KI-systemen in staat zijn om hun besluitvormingsprocessen te traceren en te uitleggen, wat wordt aangeduid als explainable AI (XAI).
Ook is er een behoefte aan betere training van medische professionals in het gebruik van KI-systemen. Een pilotproject in Nederland, waar KI wordt ingezet om patiëntgegevens te analyseren voor vroegtijdige detectie van diabetes, heeft aangetoond dat artsen gemiddeld 15 procent van de tijd moeten besteden aan het interpreteren van KI-uitkomsten. Dit kan leiden tot een grotere belasting voor het zorgpersoneel. Hierdoor is het essentieel dat KI-systemen zo eenvattelijk mogelijk zijn voor de medische beroepsbeoefenaren.
Een laatste maar belangrijke punt is het respect voor patiëntgegevens en de toestemming van patiënten voor het gebruik van KI-systemen. Het is cruciaal dat patiënten volledig op de hoogte zijn van hoe hun medische gegevens worden gebruikt en dat ze expliciet toestemming hebben gegeven voor het gebruik van KI. Dit kan gepaard gaan met een verhoogde inzet van ethische commissies en onafhankelijke auditfuncties om de integriteit van de KI-systemen te garanderen.