Er komen steeds meer digitale medische tools op de markt, maar de regelgeving en het toezicht op dit gebied schieten ernstig tekort. Daarvoor waarschuwen medisch deskundigen.

"Patiënten vertrouwen op de adviezen van die tools op kwetsbare momenten, dan moet je zeker weten dat ze veilig, betrouwbaar en goedgekeurd zijn", zegt internist-intensivist Michel van Genderen. Hij werkt in het Erasmus Medisch Centrum en is medeoprichter van AI-ethieklab REAiHL, waarmee hij allerlei overheden en organisaties adviseert.

Werkdruk verlichten

Softwareontwikkelaars ontwikkelen allerlei digitale medische hulpmiddelen. Denk aan online vragenlijsten, chatbots of spraakherkenningstools die een verslag maken van een gesprek tussen arts en patiënt.

Mede omdat ze de werkdruk op zorgverleners verlichten, worden deze ontwikkelingen aangemoedigd door de zorgsector, verzekeraars en de overheid. Maar er zijn ook zorgen. Zo bleek vandaag uit berichtgeving van de NOS dat de veelgebruikte tool moetiknaardedokter.nl jarenlang niet over de juiste papieren beschikte en claimde samen te werken met partijen die die samenwerking zelf tegenspreken.

"We zien dat digitale zorgtools zich sneller ontwikkelen dan de spelregels", zegt Van Genderen. "Dat wordt risicovol wanneer ze medisch advies geven zonder transparante onderbouwing." Dat gevaar dreigt bijvoorbeeld wanneer een patiënt de tool verkeerd invult of een klacht bij zichzelf over het hoofd ziet. In dat geval kan een verkeerd advies worden gegeven.

Onafhankelijke autoriteit

De Landelijke Huisartsen Vereniging (LHV) roept naar aanleiding van het bericht over moetiknaardedokter.nl op om een onafhankelijke autoriteit op te richten die medische tools voor huisartsen vooraf controleert. De LHV vindt dat artsen erop moeten kunnen vertrouwen dat leveranciers zich aan de regels houden en dat de middelen veilig te gebruiken zijn. Uit gesprekken door de NOS met tientallen huisartsen blijkt dat veel van hen deze tools gebruiken "omdat veel andere huisartsen dat ook doen".

Niels Chavannes, huisarts en hoogleraar huisartsgeneeskunde aan de Universiteit Leiden, vindt ook dat hulpmiddelen moeten worden gecontroleerd. Hij staat niet te springen om daarvoor een nieuwe instantie in het leven te roepen, maar benadrukt wel dat huisartsen zelf te druk zijn om die controle uit te voeren. "De huisarts denkt: als die tool verkrijgbaar is in Nederland, dan klopt het ook."

Het Nederlandse Huisartsen Genootschap (NHG) probeert huisartsen meer bewust te maken van dit soort tools, maar wijst er tegelijk op dat het genootschap er niet bij betrokken is. "Veel softwareontwikkelaars zeggen dat ze samenwerken of informatie baseren op het NHG om hun tool geloofwaardig neer te zetten en betrouwbaar over te komen met onze goede naam." Verder vindt het NHG het bezwaarlijk dat huisartsen soms met informatie werken van partijen die een winstoogmerk hebben.

Volgens internist-intensivist Van Genderen schuilt een van de gevaren in spraakherkenningssoftware, die steeds vaker wordt gebruikt. "Sommige tools kunnen accenten herkennen. En als daar vaak bepaalde klachten bij voorkomen, kunnen in een gesprek met een andere patiënt met hetzelfde accent die klachten worden overgenomen. Het systeem kan gaan hallucineren. Zelf dingen gaan verzinnen die niet gezegd zijn."

Chavannes zegt dat de risico's meevallen bij 'gewone' adviezen en informatie. "Maar als je klinische besluiten neemt of bepaalde dingen vertelt die niet overeenkomen met wat een huisarts zou zeggen, kan het zijn dat je verkeerd wordt voorgelicht. En dat is potentieel gevaarlijk."

Van Genderen is het daarmee eens. "Een algoritme kan een vragenlijst afwerken, maar geen patiënt echt beoordelen. Wat ontbreekt is de menselijke maat, doorvragen, klinisch redeneren en lichaamstaal. En dat is cruciaal voor veilige zorg."

Tuchtrechter voor de Gezondheidszorg Mirjam Sombroek-van Doorm zegt dat online hulpmiddelen niet per se gevaarlijk zijn, als ze maar waterdicht zijn. "De tool moet mensen die extreem bang zijn afvangen en de ergste gevallen ertussenuit filteren, maar zo iemand zal een hogere pijnscore invullen dan iemand die flink wil zijn en vervolgens wordt geadviseerd paracetamol te slikken. Dat klopt niet."

Regelgeving

Het is lastig te controleren of tools met de juiste data zijn getest, zegt Van Genderen. Hij doet er met zijn lab een jaar over om advies uit te brengen aan overheden en instanties. "In de tussentijd zijn tools al doorontwikkeld en aangekocht door ziekenhuizen of huisartsen."

De Inspectie Gezondheidszorg en Jeugd (IGJ) zou volgens hem vaker controles moeten uitvoeren, maar zonder duidelijke regelgeving is dat lastig. Bovendien worden er te veel tools gebouwd om bij te houden. Er zijn vier bedrijven die namens de IGJ controles uitvoeren, meestal alleen op softwareniveau.

Dat huisartsen meer met digitale hulpmiddelen gaan werken is onvermijdelijk, zegt Chavannes. "Maar stel verwachtingen bij. Gebruik het voor het maken van verwijsbrieven of administratie. Als je in de praktijk de zorg met 10 procent kunt ontlasten, is dat al winst, maar gebruik het niet voor het stellen van diagnoses of advies."

De site moetiknaardedokter.nl zegt na de zomer van 2027 de juiste papieren te hebben. Tot die tijd mag de software worden gebruikt, zegt de IGJ. De inspectie benadrukt dat er tot nu toe geen meldingen geweest over gevaarlijke situaties.