Hieronder een aantal stellingen met betrekking tot AI, en hoe ETZ en Aigency daar naar kijken in het kader van Gebruik en Toepassingen.
AI gaat tijdsbesparing opleveren voor de zorgverlener
Uitleg
AI wordt in de maatschappij aangehaald als heilige graal als het gaat om efficiëntie en tijdbesparing. Er wordt veel wetenschappelijk onderzoek uitgevoerd om deze claim te onderbouwen en uit te zoeken op welke vlakken van het menselijk bestaan AI een waardevolle toevoeging is en waar niet. Op individueel niveau zijn hierover de meningen soms nog verdeeld; het adopteren van een nieuwe werkwijze betekent niet altijd voor iedereen een automatische verbetering.
ETZ: Eens
Het ETZ is van mening dat AI, wanneer het op de juiste manier wordt ingezet, inderdaad tijdsbesparingen kan opleveren voor zorgverleners. AI kan administratieve taken automatiseren en repetitieve processen stroomlijnen, waardoor zorgverleners meer tijd hebben voor directe patiëntenzorg. Dit is vooral belangrijk in een tijd waarin de zorgsector te maken heeft met een tekort aan personeel en een groeiende vraag naar zorg.
Het is echter belangrijk op te merken dat de tijdsbesparing die AI biedt in eerste instantie vooral zichtbaar is voor individuele zorgverleners. De taken die AI overneemt, zijn vaak diegenen die zorgverleners al tussen de bedrijven door deden of in hun eigen tijd. Daarom kan de tijdsbesparing voor het ziekenhuis als geheel nog niet direct worden waargenomen. Dit zal zichtbaarder worden naarmate er meer gebruik gemaakt wordt van verschillende generatieve AI-toepassingen.
Daarbij is het belangrijk dat bestuurders de uiteindelijke tijdsbesparingen niet onmiddellijk opvullen met nieuwe taken. In plaats daarvan moeten ze deze vrijgekomen tijd gebruiken om de werkdruk te verlagen en de kwaliteit van de zorg te verbeteren. AI biedt de potentie om de efficiëntie te verhogen, maar het succes hangt af van de implementatie en het management van deze veranderingen binnen de zorgorganisatie.
Aigency: Eens
De mogelijkheden van AI om tijdrovende taken te automatiseren van verslaglegging tot informatieopzoeking, zijn reëel en waardevol. Met name in een zorgcontext waarin elke minuut telt, is het essentieel om professionals te ontlasten. Tijdsbesparing is niet het doel op zich, maar een middel om meer tijd en aandacht te kunnen besteden aan patiënten. Wel is het belangrijk dat zorgverleners AI-uitkomsten altijd kritisch blijven beoordelen en de achterliggende bronnen controleren. Een taalmodel kan enorme hoeveelheden informatie toegankelijk maken en sneller overzicht geven, maar het mag nooit kritiekloos gevolgd worden. Mits goed geïmplementeerd en verantwoord gebruikt, kan AI zo bijdragen aan zowel efficiëntie als kwaliteit van zorg.
AI mag geen fouten maken
Uitleg
Het maken van fouten is inherent aan de wereld waarin we leven. Perfectie bestaat niet, en ook AI zal nooit volledig foutloos kunnen functioneren. Het is belangrijk om na te denken over hoe we hier als maatschappij tegenaan kijken en mee om willen gaan.
ETZ: Oneens
Het is per definitie niet mogelijk is om te eisen dat AI volledig foutloos opereert. AI-systemen zijn gebaseerd op algoritmen en statistische modellen (kansberekeningen), wat betekent dat er altijd een kans op fouten bestaat. Zelfs bij een hoge nauwkeurigheid, zoals 99%, blijft er een kans van 1 op 100 dat een fout optreedt. Daarbij moeten wij niet vergeten dat zorgverleners ook fouten kunnen maken.
In plaats van te verwachten dat AI geen fouten maakt, moeten zorginstellingen zich richten op het minimaliseren van fouten door AI zorgvuldig te integreren in het zorgproces, met adequate monitoring en evaluatie van de kwaliteit op de achtergrond. Dit omvat het regelmatig controleren van AI-modellen om ervoor te zorgen dat ze goed blijven presteren en relevant zijn voor de huidige patiëntenpopulatie. Dit zorgt ervoor dat fouten worden herkend en gecorrigeerd, waardoor de algehele kwaliteit van de zorg verbetert.
Aigency: Oneens
Het is onrealistisch en onwenselijk om van AI te verwachten dat het foutloos functioneert. Wat wel belangrijk is, is dat zorgverleners begrijpen waar de beperkingen van AI liggen, hoe ze de uitkomsten moeten beoordelen en wanneer ze moeten ingrijpen. AI moet ondersteunen en niet vervangen. Daarom zetten wij sterk in op educatie en ethische richtlijnen, zodat fouten herkend worden en in context kunnen worden geplaatst.
Ambient listening is dé gamechanger voor lastenverlichting in de zorg
Uitleg
Ambient listening combineert spraakherkenning met een generatief taalmodel, waardoor gesproken zorggesprekken automatisch kunnen worden omgezet in gestructureerde notities en ondersteunen bij het invullen van andere vereiste datapunten zoals symptomen en actieve problemen. Ook kunnen met deze technologie automatisch hardop benoemde (medicatie)orders en afspraken in het systeem worden klaargezet voor de zorgverlener, wat handmatig zoek- en klikwerk bespaart. Hierdoor kunnen ambient listening toepassingen helpen met de administratie op allerlei verschillende manieren. Een tegenwoordig vaak gehoorde claim is dat ambient listening een toepassing is met hoge potentie voor lastenverlichting in de zorg.
ETZ: Eens
Ambient listening biedt een enorme kans om administratieve lasten in de zorg drastisch te verminderen. Ambient listening bespaart zorgverleners kostbare tijd en vermindert de administratieve druk. Maar het gaat verder: op termijn kan deze technologie worden uitgebreid met functies zoals het automatisch plaatsen van orders, informatie direct op de juiste plek in het dossier te zetten en het coderen van handelingen voor declaratie of analyse. Zo zorgt ambient listening niet alleen voor minder administratie, maar ook voor betere kwaliteit van verslaglegging. Het is daarom wel belangrijk dat ambient listening goed gevalideerd wordt; dat de informatie die het maakt klopt. Maar, als we dit zorgvuldig en stap voor stap invoeren, kan ambient listening echt helpen om de druk in de zorg te verlichten doordat zorgverleners veel minder tijd kwijt zijn met het (achteraf) opschrijven van informatie die is besproken met een patiënt en het opzoeken van de juiste codes in het systeem. Ook kan het de kans verkleinen dat er bepaalde informatie wordt vergeten te noteren, doordat dit automatisch gebeurt. Dit verhoogt de nauwkeurigheid en daarmee kwaliteit van zorg.
Aigency: Eens
Ambient listening heeft het potentieel om een fundamentele verschuiving teweeg te brengen in hoe zorgprofessionals hun werk doen. Door AI op de achtergrond mee te laten luisteren, kunnen gesprekken worden vastgelegd zonder dat de zorgprofessional hoeft te typen, wat resulteert in meer aandacht, betere aantekeningen en minder administratieve last. De technologie moet uiteraard veilig en ethisch worden ingezet, maar de belofte is groot.
Ik begrijp AI onvoldoende om het zelf toe te kunnen passen in mijn werk
Uitleg
De werking van AI is erg complex, en het is daarom begrijpelijk dat mensen die niet eerder met AI hebben gewerkt nog niet voldoende van AI weten om dit veilig en verantwoord toe te kunnen passen in hun dagelijkse werkzaamheden. Het is belangrijk dat zorgmedewerkers een juiste balans vinden tussen voldoende begrijpen hoe een AI-toepassing die zij gebruiken werkt, en het volledig van A tot Z snappen hoe een AI model ontwikkeld wordt en dat zij vertrouwen opbouwen in hun eigen kennis en kunde.
ETZ: Oneens
Het ETZ is van mening dat iedere zorgverlener voldoende kennis van AI moet hebben om deze technologie verantwoord en effectief toe te kunnen passen in hun werk. Met andere woorden, zorgverleners moeten AI-geletterdheid zijn. Volgens de AI Act is het wettelijk verplicht dat zorgverleners voldoende kennis hebben van AI wanneer zij deze technologie gebruiken. Dit is vooral van belang bij het nemen van medische beslissingen (voor informed consent) met behulp van AI.
Zowel zorginstellingen als zorgverleners zelf dragen een verantwoordelijkheid om bij te dragen aan AI-geletterdheid, door zorgverleners actief te (laten) onderwijzen op dit gebied. Door voldoende inzicht in AI te hebben, kunnen zorgverleners niet alleen de technologie effectief inzetten, maar ook bijdragen aan veilige en verantwoorde zorgpraktijken. Het begrijpen van AI is dus niet alleen een individuele plicht, maar ook een collectieve verantwoordelijkheid binnen de zorgsector.
Bij ETZ zorgen we er voor dat zorgverleners die actief AI gebruiken in het zorgproces, daarvoor eerst de juiste educatie doorlopen zodat zij snappen hoe de AI functionaliteit werkt en hoe zij hier mee om moeten gaan. Daarnaast biedt ETZ diverse overkoepelende educatiemogelijkheden voor alle medewerkers op het gebied van AI.
Aigency: Oneens
De kracht van AI ligt juist in de toegankelijkheid. Je hoeft geen data scientist te zijn en de volledige werking van AI te snappen om AI effectief te gebruiken in je werk. Wat wél nodig is, is een basisbegrip van wat AI kan en wat de beperkingen zijn zodat je de uitkomsten kunt beoordelen. Daarom investeren we in gebruikersgerichte training, zodat iedereen AI kan benutten als verlengstuk van hun professionele handelen.
Wachtlijstpatiënten moeten een chatbot als zorgverlener kunnen gebruiken als overbrugging
Uitleg
De stelling dat wachtlijstpatiënten een chatbot als zorgverlener moeten kunnen gebruiken als overbrugging, impliceert dat chatbots een nuttige rol kunnen spelen in het bieden van ondersteuning aan patiënten die wachten op zorg. Dit kan bijdragen aan de toegankelijkheid en continuïteit van zorg voor deze patiënten, vooral in situaties waarin zij anders geen ondersteuning zouden ontvangen.
ETZ: Eens
Het ETZ is van mening dat het inzetten van een chatbot als zorgverlener voor wachtlijstpatiënten waardevol kan zijn, mits de chatbot gevalideerd en gecertificeerd is als medisch hulpmiddel. Dit waarborgt dat de chatbot voldoet aan de hoogste vereisten op het gebied van kwaliteit, veiligheid en betrouwbaarheid. Een goed ontworpen chatbot kan 24/7 beschikbaar zijn, waardoor patiënten op elk moment informatie en ondersteuning kunnen krijgen. Dit leidt ertoe dat patiënten hulp kunnen krijgen die tijdens hun wachttijd, terwijl het alternatief zou betekenen dat er geen andere vormen van ondersteuning zou zijn.
In theorie zou zo’n chatbot zelfs kunnen bijdragen aan het verminderen van wachtlijsten. Een chatbot kan patiënten helpen door hen relevante informatie te bieden en hen te begeleiden, wat in sommige gevallen kan betekenen dat zij minder ziekenhuiszorg nodig hebben. Dit zou andere patiënten die wel zorg nodig hebben, sneller aan de beurt kunnen helpen. Daarnaast kan een chatbot helpen om alvast informatie te verzamelen en te ordenen tijdens de wachttijd, waardoor zorgverleners beter voorbereid zijn wanneer de patiënten uiteindelijk in behandeling komen. Bovendien zou de chatbot daarna kunnen worden ingezet in het vervolg van het behandeltraject, waar door het behandeltraject kan worden verkort en de zorg efficiënter kan worden georganiseerd. Hiermee zou de kwaliteit van zorg kunnen worden vergroot, wachtlijsten worden verkort, en patiënten sneller en persoonlijker geholpen kunnen worden.
Op dit moment biedt ETZ nog geen chatbot aan voor patiënten op de wachtlijst, maar we sluiten niet uit dat er in de toekomst, wanneer er chatbots bestaan die aan alle veiligheids- en kwaliteitseisen voldoen, wel chatbots worden aangeboden voor patiënten die hier gebruik van willen maken. Het belangrijkste doel is dat de chatbot helpt en niet hindert.
Aigency: Oneens
Het lijkt aantrekkelijk om chatbots in te zetten om de druk op de zorg te verlichten en wachttijden draaglijker te maken, maar de risico’s zijn te groot. Waar een zorgprofessional getraind is in het beoordelen en verantwoord toepassen van AI-adviezen, heeft de patiënt die kennis vaak niet. Dat leidt tot een verschuiving van controle en verantwoordelijkheid, waardoor de kans op verkeerde beslissingen en schadelijke gevolgen toeneemt. Wij zien chatbots hooguit als aanvullende ondersteuning bij laagdrempelige taken, zoals leefstijlvoorlichting of administratieve vragen, maar niet als vervanger van professionele zorg. Het risico voor de patiënt is simpelweg te groot om een chatbot de rol van zorgverlener te laten overnemen.
Ik maak regelmatig gebruik van ChatGPT voor mijn werk
Uitleg
ChatGPT is een slimme chatbot die met behulp van kunstmatige intelligentie teksten interpreteert en antwoorden geeft op vragen, waardoor het lijkt alsof je met een echt persoon praat. ChatGPT wordt gebruikt om bijvoorbeeld informatie te vinden, teksten te schrijven of creatieve ideeën te bedenken. Echter is ChatGPT geen beveiligde digitale omgeving, en alle gegevens die er in worden gestopt, kunnen mogelijk door externen worden bekeken.
Een van de belangrijkste ‘doelen’ van ChatGPT is om antwoord te geven op een vraag, ook als die het antwoord niet weet. ChatGPT heeft er in die gevallen geen moeite mee om een antwoord te verzinnen, om te zorgen dat de gebruiker toch een antwoord krijgt wat klinkt alsof het klopt.
ETZ: Oneens
Het ETZ heeft als beleid dat het gebruik van openbare generatieve AI-tools zoals ChatGPT verboden is binnen het zorgproces, en buiten het zorgproces strikt wordt afgeraden. Gegevens die aan ChatGPT worden verstrekt, kunnen mogelijk worden opgeslagen en gebruikt voor hertraining van het model, wat betekent dat vertrouwelijke informatie toegankelijk kan zijn voor derden en een schending van de privacy van de patiënt en het beroepsgeheim betekent.
Daarom heeft het ETZ ervoor gekozen om een eigen interne variant van een AI-tool te ontwikkelen die voldoet aan strikte beveiligingseisen. Deze interne tool zorgt ervoor dat gegevens niet gebruikt kunnen worden voor hertraining en dat er duidelijke gebruiksvoorwaarden zijn. Het ETZ stimuleert zorgverleners om zich bewust te zijn van de risico’s die gepaard gaan met het gebruik van openbare taalmodellen en om alleen veilige, goedgekeurde tools te gebruiken voor werkgerelateerde taken. Dit helpt niet alleen om de privacy van patiënten te waarborgen, maar ook om de integriteit van de zorgpraktijken te beschermen.
Aigency: Eens
Binnen Aigency benutten we ChatGPT voor uiteenlopende taken: het verbeteren van leesbaarheid van teksten, het opzetten van rapporten, het creëren van visuals en het uitleggen van complexe begrippen. Dat doen we binnen onze licentie, waardoor onze data veilig is. Zelfs dan zijn we voorzichtig met onze klantdata. Ook in zorgcontexten blijkt ChatGPT waardevol, bijvoorbeeld voor het vertalen van medische informatie naar patiëntvriendelijke taal. Echter gaan we mee met ETZ, openbare tools en gevoelige zorgdata gaan niet goed samen. Daarnaast hanteren we duidelijke richtlijnen: gebruik AI als assistent, maar behoud de kritische blik, zeker als het gaat om feitelijke juistheid.
Door AI gegenereerde medische samenvattingen verbeteren de kwaliteit van de zorg
Uitleg
Generatieve AI is in staat om samenvattingen te genereren van (delen van) het patiëntendossier met daarin relevante informatie voor de lezer. Op dit moment worden eindgebruikers gepresenteerd met een volledig patiëntendossier, en moeten zij zelf op zoek naar de op dat moment relevante informatie.
ETZ: Eens
Het ETZ is van mening dat AI-gegenereerde samenvattingen de kwaliteit van de zorg aanzienlijk kunnen verbeteren. Dit komt doordat AI in staat is om grote hoeveelheden gegevens te verwerken en deze samen te vatten in een overzichtelijke en begrijpelijke vorm. Hierdoor krijgen zorgverleners toegang tot consistente en relevante informatie, wat cruciaal is voor het nemen van weloverwogen beslissingen.
In de huidige zorgpraktijk zijn medische gegevens vaak versnipperd over verschillende systemen en dossiers, wat het voor zorgverleners moeilijk maakt om snel en effectief de benodigde informatie te vinden. AI kan deze informatie aggregeren en presenteren, zodat zorgverleners in één oogopslag de belangrijkste gegevens kunnen inzien. Dit vermindert niet alleen de tijd die nodig is om informatie te verzamelen, maar vermindert ook de kans dat belangrijke details over het hoofd worden gezien.
Aigency: Eens
Door AI-ondersteunde samenvattingen kunnen zorgverleners efficiënter werken zonder in te leveren op kwaliteit. Medische documentatie wordt helderder en vollediger, wat leidt tot betere overdracht en zorgcoördinatie. Belangrijk is wel dat deze samenvattingen gecontroleerd worden door een professional om inhoudelijke fouten te voorkomen. Daarnaast ligt er veel waarde in het automatisch samenvatten van medische literatuur. Zorgverleners hebben vaak te weinig tijd om grote hoeveelheden onderzoeksartikelen of richtlijnen door te nemen. AI kan hen hierin ondersteunen door de belangrijkste inzichten snel toegankelijk te maken, zodat beslissingen beter onderbouwd en actueler zijn. Zo helpt AI niet alleen bij verslaglegging, maar ook bij het sneller en betrouwbaarder verwerken van nieuwe kennis.