Welke risico’s zien lezers en redacteuren bij AI-teksten op patiëntenplatformen?

AI kan heel behulpzaam zijn. Maar het maakt ook fouten. Bijvoorbeeld wanneer het dingen verzint die helemaal niet waar zijn. Wat lastig is, is dat het vaak niet duidelijk is wie verantwoordelijk is voor die fouten. Degene die de AI heeft gemaakt? Of degene die de AI heeft gebruikt om een tekst te schrijven? 

Onderzoek naar AI bij patiëntenplatformen 

Onderzoekers van Tilburg University hebben gekeken naar wat de deelnemers, lezers en redacteuren van Nederlandse patiëntenplatformen vinden van de mogelijke negatieve effecten van het gebruik AI. Hieraan werkten lezers en redacteuren mee van kanker.nl, diabetes.nl en MS.nl. Zij bekeken verschillende pagina’s die geschreven waren door AI, maar waar dit er niet altijd duidelijk bij stond.  

De onderzoekers gingen daarna in gesprek met de lezers en redacteuren over of het altijd duidelijk is dat een tekst door AI geschreven is. En over welke risico’s er zijn bij het laten schrijven van pagina’s door AI. Ook werd gepraat over het persoonlijker maken van teksten met AI.  

Risico’s 

De lezers en redacteuren maakten zich vooral zorgen over het effect van AI op de kwaliteit van de teksten. Bijvoorbeeld wanneer AI informatie gebruikt die niet klopt. Bij medische informatie en adviezen kan dit gevaarlijk zijn. Maar ook minder menselijk voelende teksten werden als risico gezien. Of dat AI een toon gebruikt die niet past bij het onderwerp. Voor de redacteuren is het lastig om te weten wat je wel en niet mag doen met AI, en het is onduidelijk op welke manier je bij een tekst moet zetten dat AI is gebruikt. 

Persoonlijk gemaakte teksten en controle 

Uit de gesprekken bleek ook dat veel deelnemers het belangrijk vonden dat lezers kunnen kiezen voor teksten die persoonlijk gemaakt zijn. Bijvoorbeeld een tekst op het taalniveau dat jij fijn vindt. Of een tekst die aangepast is op hoeveel medische kennis iemand heeft. Maar lezers zouden het wel vervelend vinden als ze hierdoor minder informatie zouden krijgen dan iemand anders.

En lezers en redacteuren willen niet dat AI zomaar meer teksten gaat schrijven, terwijl die helemaal niet nodig zijn. Te veel teksten kunnen het moeilijker maken om de informatie te vinden die je nodig hebt. De deelnemers vonden het de verantwoordelijkheid van de redacteuren en platformen om AI op de juiste manier te gebruiken. En om te controleren of AI geen fouten maakt bij het schrijven van teksten.  

Transparantie en vertrouwen 

Het was voor de deelnemers belangrijk om te weten wanneer een tekst door AI geschreven was. Maar dit is niet altijd makkelijk te herkennen. Ze vonden dat het er duidelijk bij moest staan als AI de hele tekst zelf geschreven had. Of als AI op het laatst nog dingen kon aanpassen in de tekst. Gebruikten redacteuren AI alleen als steun? Dan hoeft er volgens de deelnemers niet bij te staan dat de tekst met hulp van AI is geschreven. 

Het onderzoek laat ook zien dat het belangrijk is dat AI geen mens nadoet. Bijvoorbeeld door mee te doen in een gesprek of een blog te schrijven. Deelnemers vertelden dat ze het vervelend vonden als AI deed alsof het persoonlijke ervaringen heeft met bijvoorbeeld een ziekte, want dat is niet zo. Dit is slecht voor het vertrouwen van lezers in het platform. 

Om de teksten van AI betrouwbaarder te maken, kan het helpen om de AI alleen te laten werken met goede bronnen. Maar ook dan moet opgepast worden dat AI zelf geen informatie gaat verzinnen. 

Aanbevelingen van de onderzoekers

Met deze resultaten hebben de onderzoekers aanbevelingen gemaakt voor het gebruiken van AI voor het maken van teksten op patiëntenplatformen. Deze aanbevelingen staan in de afbeelding hieronder.

Afbeelding: Tilburg University

Conclusie 

Dit onderzoek laat zien dat lezers en redacteuren van Nederlandse patiëntenplatformen verschillende risico’s zien bij het gebruik van AI voor het schrijven van teksten. Is een tekst geschreven door AI? Dan moet dit erbij staan. De informatie moet kloppen en de teksten moeten makkelijk te begrijpen zijn. Maar lezers willen niet dat een AI doet alsof het een mens is, bijvoorbeeld in gesprekken en blogs. Dit is slecht voor het vertrouwen in het platform.

Besproken onderzoek 

Jansen A, Sankaran S, Krahmer E. Using large language models in public health platforms: a study of platform users’ and editors’ perspectives on trust, ethics and risks. ACM Transactions on Computing for Healthcare. 2026. Online.