Hieronder een aantal stellingen met betrekking tot AI, en hoe ETZ en Aigency daar naar kijken in het kader van Risico’s en Uitdagingen.
AI is zelflerend, dus hoeft het niet gemonitord te worden
Uitleg
Deze stelling impliceert dat eventueel ingebouwde feedback loops voldoende zelfreflectie geven op de AI toepassing, waardoor monitoring niet nodig zou zijn. Ook wordt er hard aan LLM’s ontwikkeld en impliceert de stelling dat we ons over de uitkomsten daarvan ook geen zorgen hoeven te maken.
ETZ: Oneens
Het ETZ is van mening dat AI-toepassingen in de zorg, ongeacht hun vermeende zelflerende capaciteiten, altijd gemonitord moeten worden.
Allereerst is het belangrijk te benadrukken dat de AI-systemen die momenteel in de zorgprocessen ingezet worden niet zelflerend zijn in de zin dat ze continu zouden leren van iedere nieuwe patiëntinteractie. In plaats daarvan worden de AI-systemen periodiek geüpdatet met nieuwe datasets. Dit betekent dat er geen automatische verbetering van de modellen plaatsvindt, en dat het belangrijk is om na iedere update met nieuwe data te controleren of de AI-systemen nog steeds goed presteren.
Los van updates moeten AI-modellen altijd gemonitord worden, omdat de zorgomgeving kan veranderen: de samenstelling van de patiëntenpopulatie kan in de loop van de tijd veranderen, waardoor een AI-model dat oorspronkelijk goed presteerde, mogelijk niet langer de juiste resultaten oplevert. Bijvoorbeeld, tijdens de COVID-19-pandemie veranderden de gemiddelde symptomen en reacties van patiënten, wat invloed had op de effectiviteit van AI-modellen die eerder waren getraind op een populatie waarin COVID-19 niet bestond. Het ETZ benadrukt dat, ongeacht de status van een AI-model (of het nu zelflerend is, regelmatig geüpdatet wordt, of niets mee gebeurt), het essentieel is om de prestaties en relevantie van deze systemen te monitoren.
Kortom, zowel de misvatting dat AI-systemen zelflerend zijn als de veronderstelling dat monitoring niet nodig is, zijn onjuist. Het ETZ onderstreept het belang van een solide monitoringsysteem om de kwaliteit van zorg te waarborgen en ervoor te zorgen dat AI effectief en veilig wordt ingezet in de zorgpraktijk.
Aigency: Oneens
Het idee dat AI zichzelf volledig bijstuurt zonder menselijk toezicht is niet alleen onjuist, maar ook gevaarlijk. Monitoring door de gebruiker is cruciaal om kwaliteit te waarborgen, fouten te detecteren en beslissingen te kunnen verantwoorden. In de zorgsector kan een ogenschijnlijk kleine fout grote gevolgen hebben, waardoor goede monitoring nog essentiëler is dan in andere sectoren. Wij pleiten daarom voor mens-in-de-lus-toepassingen waarbij AI nooit zonder toezicht handelt.
Onze datakwaliteit is goed op orde voor gebruik van AI in de zorg
Uitleg
Voor de inzet van AI in de zorg is van groot belang dat de data waarmee de AI toepassing gaat werken, van goede kwaliteit is. Om bijvoorbeeld voorspellingen te kunnen doen over het beloop van een patiëntopname, moet de juiste informatie op de juiste plek in het dossier te vinden zijn. Of het nu een AI model of een mens is die naar een patiëntendossier kijkt, als de data onvolledig is of op de verkeerde plek staat waardoor deze niet gezien wordt, dan zal ook de beoordeling van deze data niet fatsoenlijk plaats kunnen vinden.
ETZ: Oneens
Het ETZ is van mening dat de datakwaliteit in Nederland momenteel niet goed op orde is voor het gebruik van AI in de zorg. Er zijn verschillende factoren die bijdragen aan deze conclusie:
Ten eerste wordt data vaak niet op een eenduidige manier vastgelegd. Dit betekent dat dezelfde informatie op verschillende manieren kan worden geregistreerd, afhankelijk van de zorgverlener of het systeem dat wordt gebruikt. Dit gebrek aan consistentie maakt het moeilijk om betrouwbare analyses en inzichten te verkrijgen, wat essentieel is voor AI-toepassingen.
Ten tweede is er binnen zorginstellingen vaak een versnippering van data, waarbij dezelfde gegevens op meerdere plekken worden geregistreerd. Dit leidt niet alleen tot verwarring, maar ook tot inconsistenties in de definitie en interpretatie van deze gegevens. Bijvoorbeeld, een symptoom kan in het ene systeem anders worden gedefinieerd dan in een ander systeem, wat de integriteit van de data in gevaar brengt.
Daarnaast is het belangrijk om te benadrukken dat de kwaliteit van data niet alleen intern binnen een zorginstelling moet worden gewaarborgd, maar ook tussen verschillende zorgorganisaties. Als zorginstellingen verschillende definities en registratiesystemen hanteren, kan dit de samenwerking en gegevensuitwisseling belemmeren, wat cruciaal is voor AI-gestuurde besluitvorming en analyses.
Het ETZ pleit ervoor dat er meer aandacht moet zijn voor het verbeteren van de datakwaliteit door eenduidige definities en registratiesystemen te ontwikkelen. Dit zal niet alleen de effectiviteit van AI-toepassingen verbeteren, maar ook de algehele kwaliteit van zorg bevorderen. Zonder een solide basis van hoge datakwaliteit zullen AI-systemen niet in staat zijn om de gewenste resultaten te leveren en kan het vertrouwen in deze technologie in de zorgsector worden ondermijnd.
Aigency: Joker
Als organisatie kunnen we deze stelling niet eenduidig bevestigen of ontkrachten. De kwaliteit van data in de zorg is doorgaans gemengd. Voor sommige toepassingen kan ze goed genoeg zijn; voor andere is nog veel werk nodig. Wat essentieel is, is een bewuste datastrategie: weten welke data je hebt, wat de kwaliteit is en hoe deze verbeterd kan worden voor specifieke AI-doeleinden. Alleen dan is duurzame toepassing van AI mogelijk.
AI mag nooit zelfstandig medische beslissingen nemen
Uitleg
Deze stelling beschrijft een situatie waarin een AI systeem een medisch besluit neemt zonder tussenkomst van een zorgverlener op dat moment.
ETZ: Oneens
Hoewel het op dit moment nog niet gebeurt dat AI zelfstandige (medische) beslissingen mag nemen, onder andere vanwege onduidelijkheden rond aansprakelijkheid, is het waarschijnlijk dat dit in de toekomst wel zal gebeuren. Onderzoeken tonen aan dat AI in sommige gevallen zelfs beter presteert zonder tussenkomst van een zorgverlener dan wanneer het samenwerkt met een arts, of wanneer een arts alleen handelt. Dit maakt het niet alleen technisch mogelijk, maar ook wenselijk om in specifieke, goed gedefinieerde situaties hier naartoe te werken. Daarbij is het cruciaal dat er duidelijke afspraken komen over monitoring, verantwoordelijkheden en transparantie, zodat veiligheid en vertrouwen gewaarborgd blijven. Voorlopig zal hier echter nog geen sprake van zijn.
Aigency: Oneens
Er zijn situaties waarin AI zelfstandig beslissingen mag nemen zolang dit veilig, uitlegbaar en goedgekeurd is. Denk aan beslisregels bij triage of het signaleren van afwijkingen in beelden. De sleutel is dat AI alleen beslissingen mag nemen binnen strak afgebakende kaders, onder toezicht van een professional. De rol van de mens blijft essentieel, zeker bij complexe of ethisch gevoelige gevallen.
Ik werk liever niet met AI
Uitleg
Niet iedereen staat open voor verandering. De technologie is nieuw en de werking voor iedereen niet altijd duidelijk. Dat daar soms weerstand tegen ontstaat is heel menselijk en het is belangrijk om daarover te kunnen praten. Deze stelling is bedoeld om het over persoonlijke blokkades bij het gebruik van AI te kunnen hebben.
ETZ: Oneens
In het ETZ moet AI de zorgprofessional dienen. Dat betekent dat als een zorgverlener liever niet met AI wil werken, we iets niet goed hebben gedaan! De ondersteuning die je van AI zou moeten krijgen, moet je werk makkelijker maken, je werkplezier vergroten, je tijd besparen, en voelen alsof het een goed geïntegreerd onderdeel is van je werk. Als de reden dat een zorgverlener liever niet met AI werkt uit angst is voor het onbekende, dan is het aan ons om je meer te leren over AI. Dus in het ETZ is het doel dat alle zorgmedewerkers het fijn vinden om met AI te werken en het oneens zijn met deze stelling!
Aigency: Oneens
Vanuit onze praktijkervaring zien we dagelijks de voordelen van AI in creativiteit, snelheid en precisie. Toch erkennen we dat persoonlijke voorkeur een rol speelt. Daarom vinden we het belangrijk om medewerkers te ondersteunen in hun leerproces, ruimte te bieden voor vragen en AI in te zetten als hulpmiddel dat je sterker maakt en werkgeluk geeft, niet als verplichting.
De inzet van AI in de zorg moet kosteneffectief zijn
Uitleg
Deze stelling suggereert dat kosten de belangrijkste driver zijn voor het toepassen van AI binnen de zorg. Als een AI oplossing niet meer geld oplevert dan deze kost, zou de oplossing niet in gebruik genomen mogen worden.
ETZ: Oneens
In de ideale wereld is de inzet van zorg natuurlijk ook kosteneffectief. Helaas is dit in realiteit niet altijd mogelijk, echter leert de realiteit ons dat iets ondanks dat het niet kosteneffectief is, wel degelijk van grote toegevoegde waarde kan zijn in het grotere plaatje. Want wat als de inzet van AI in de zorg zorgt voor meer patiënttevredenheid? Of dat een patiënt zich meer op zijn gemak voelt omdat de zorgverlener tijdens een gesprek meer aandacht kan vestigen op de patiënt? Of dat de zorgverlener niet het gevoel heeft dat hij zich overwerkt? Of dat hij zich gesteund wordt in repetitieve taken? Dan zijn dat enorme winsten, waardoor zorgmedewerkers in de zorg worden behouden en patiënten gewoon naar het ziekenhuis kunnen blijven gaan wanneer ze moeten! Maar dat zijn misschien niet dingen die zich terugvertalen in een kostenbesparing. Met andere woorden: AI in de zorg kan niet altijd kosteneffectief zijn, en het ETZ is van mening dat dat ook niet altijd hoeft om toch van waarde te kunnen zijn in de verbetering van het zorgproces.
Aigency: Oneens
Natuurlijk is het belangrijk dat AI geen geld verspilt, maar dat mag nooit het enige criterium zijn. In de zorg telt ook wat AI doet voor patiënten, zorgprofessionals en de samenleving. Een technologie die zorg menselijker, toegankelijker of veiliger maakt, is per definitie waardevol, ook als het niet direct goedkoper is.
Door de hype rondom AI wordt AI teveel en te snel ingezet
Uitleg
Er is door de hype rond AI veel druk van buitenaf op het zorgdomein om zo snel mogelijk AI oplossingen te implementeren. Deze druk kan ervoor zorgen dat oplossingen te snel doorgeduwd worden zonder dat er voldoende rekening wordt gehouden met alle factoren die van belang zijn om dit veilig en verantwoord te kunnen doen.
ETZ: Eens
Met de komst van generatieve AI zien veel mensen de potentie hiervan voor de zorg om de administratieve lasten voor de zorgverlener te verlichten. Dit maakt dat veel ziekenhuizen hier direct op in willen zetten. Echter, door deze hype worden soms essentiële stappen voor verantwoorde en effectieve implementatie onderbelicht. Soms is AI namelijk helemaal niet de meest effectieve oplossing voor het probleem; om registratielast te verminderen is het effectiever om kritisch onder de loep te nemen of hetgeen wat we registreren niet gestrapt kan worden (effectiviteit). Ook wordt AI wel eens ingezet zonder betrouwbare validatie, met andere woorden, zonder dat nauwkeurig is gekeken of de informatie van AI wel daadwerkelijk klopt voordat voordat de zorgverlener ernaar kijkt. Het gevaar is dat zorgverleners op een gegeven moment minder kritisch worden (dit staat ook wel bekend als ‘automation bias’) maar wel verantwoordelijk blijven voor de fouten van AI. Voor verantwoorde en effectieve implementatie van AI is soms dus een pas op de plaats nodig. We moeten zorgen dat we de randvoorwaarden goed adresseren voordat we AI grootschalig implementeren in het ziekenhuis. Dit is de visie en strategie van het ETZ. Het betekent dat inzet van AI functionaliteiten en het ondervinden van de voordelen ervan, soms langer op zich kan laten wachten dan de hype doet geloven.
Aigency: Eens
Met pijn in het hart zijn we het eens met deze stelling. We geloven in de kracht van AI, maar die kracht wordt ondermijnd als AI te snel en zonder regie wordt ingezet. Juist in de zorg waar impact van fouten groot kan zijn, zijn zorgvuldigheid, compliance en evaluatie essentieel om AI op lange termijn duurzaam en verantwoord te integreren.
Ik weet hoe ik de privacy van patiënten moet waarborgen bij gebruik van AI
Uitleg
Privacy is onlosmakelijk aan AI verbonden vanwege de data die nodig is voor gebruik en trainen van de AI op het moment dat een (nieuwe) toepassing ontwikkeld wordt. Daarbij is het belangrijk om als gebruiker van een ‘af’ product goed op te hoogte te zijn van hoe de privacy van de patiënt doorlopend gewaarborgd blijft. Publieke AI tools zoals ChatGPT zijn niet privé en kunnen dan ook niet worden ingezet voor de verwerking van gevoelige gegevens.
ETZ: Eens
Voor verantwoorde inzet van AI in de zorg dient patiëntveiligheid prioriteit te krijgen. Het is belangrijk dat patiënten erop kunnen vertrouwen dat hun persoonlijke gegevens en medische informatie beschermd blijven tegen toegang door derden en niet zomaar door AI-modellen worden hergebruikt. Zorginstellingen moeten dit kunnen waarborgen en hier proactief over communiceren.
Voordat een AI toepassing binnen een zorginstelling wordt aangeboden, moeten diverse beveiligingschecks en contractuele afspraken met externe leveranciers worden uitgevoerd en vastgelegd, net als bij andere software die we als organisatie aan onze gebruikers aanbieden. ETZ hanteert strenge eisen en voorwaarden aan onze softwareleveranciers, zodat zorgmedewerkers bij ETZ met vertrouwen gebruik kunnen maken van de toepassingen die beschikbaar worden gesteld in de organisatie.
Daarnaast vinden we het belangrijk dat medewerkers op de hoogte zijn van de mogelijkheden én risico’s die AI met zich meebrengt, zodat zij in staat zijn hier verantwoord mee om te gaan. Daarom heeft ETZ de omgang met AI opgenomen in diverse beleidsstukken, zoals de gedragscode medewerkers, en is het actief informeren van medewerkers een belangrijk speerpunt.
Aigency: Eens
Dat elke zorgverlener die AI gebruikt, weet hoe de privacy van de patiënt gewaarborgd blijft is natuurlijk de ambitie. Aigency beseft zich ook dat dit in de praktijk nog niet altijd het geval is. Privacy bij AI-gebruik vraagt om continue aandacht, goede tools, en opleiding van professionals. Het is een fundamenteel onderdeel van verantwoorde AI-toepassing, en we investeren actief in bewustwording en beleid om dit waar te maken. Voor ons als Aigency is er vanuit de techniek ook een belangrijke rol weggelegd door de zorgverlener te helpen door Privacy by design door te voeren in eventuele applicaties en zo problemen te voorkomen.
Ik maak mij zorgen over verlies van kennis bij zorgverleners door gebruik van AI
Uitleg
Door de komst van AI ontstaat er een verschuiving van hoe men hun werk uitvoert, op allerlei vlakken. Wanneer AI bepaalde taken structureel overneemt of ondersteunt, kan het zijn dat de vaardigheden voor die taken over de tijd heen afnemen bij de mensen die dit normaal gesproken uitvoerden.
ETZ: Eens
De inzet van AI in de zorg is nog relatief nieuw. Wanneer AI zorgverleners ondersteunt, bestaat het risico dat zij bepaalde onderdelen van hun vakgebied minder goed (gaan) beheersen. De eerste onderzoeken geven al voorzichtig aan dat dergelijke verschuivingen inderdaad mogelijk zijn. Op het vraagstuk in hoeverre dit een probleem gaat zijn, hebben we nog geen eenduidig antwoord. Wel vraagt dit om bewustzijn en extra aandacht bij AI implementatie op schaal in de zorg op de langere termijn.
Aigency: Oneens
AI is een hulpmiddel dat zorgprofessionals ondersteunt, niet vervangt. Door slim zoeken en het samenvatten van actuele bronnen, kan AI de kennis juist verhogen. Zorgverleners blijven eindverantwoordelijk en moeten altijd kritisch blijven op wat AI aanreikt. In plaats van kennisverlies zien wij vooral kennisverdieping.