Generatieve AI vult leemte in geestelijke gezondheidszorg
Generatieve AI voorziet in een duidelijke behoefte aan nabijheid en continuïteit die de reguliere geestelijke gezondheidszorg, mede door lange wachttijden en beperkte contactmomenten, vaak niet kan bieden. Dit is de belangrijkste conclusie van een onderzoek van MIND onder bijna 800 mensen met ervaring met psychische klachten. De organisatie waarschuwt dat AI, ondanks de kansen, nooit menselijk contact mag vervangen en pleit voor structurele betrokkenheid van ervaringsdeskundigen bij de ontwikkeling van de technologie.
AI biedt laagdrempelige steun
Ruim een derde (38%) van de deelnemers heeft wel eens generatieve AI gebruikt om over psychische klachten te praten, waarbij het gebruik het hoogst is onder jongeren, mensen op een wachtlijst en mensen die zorg ontvangen. De overgrote meerderheid gebruikt gratis versies zoals ChatGPT, meestal als aanvulling op professionele hulpverlening (slechts 13% ter vervanging).
Voor bijna alle gebruikers (93%) is het gebruik op een bepaalde manier helpend. De belangrijkste redenen voor het gebruik van AI zijn:
- Altijd beschikbaarheid en laagdrempeligheid.
- Het oordeelloze karakter.
- Hulp bij het ordenen, in kaart brengen en begrijpen van gedachten.
AI kan daarmee drempels verlagen om te praten over gevoelige hulpvragen die men niet met naasten of hulpverleners wil of kan delen.
Zorgen over privacy en betrouwbaarheid
Ondanks de positieve ervaringen, zijn er grote zorgen over de risico's en beperkingen van de technologie. Zowel gebruikers als niet-gebruikers wijzen op:
- Privacy en veiligheid van gevoelige data.
- Betrouwbaarheid van de verstrekte informatie en adviezen.
- Het risico dat de chatbot mee kan gaan in negatieve gedachten in plaats van deze tegen te spreken.
- Het risico op vervanging van menselijk contact, wat gevoelens van eenzaamheid kan vergroten.
Pleitnota voor ethische richtlijnen
MIND roept beleidsmakers en ontwikkelaars op tot actie. De organisatie pleit voor duidelijke kaders en ethische richtlijnen, en eist onafhankelijke toetsing en toezicht om de veiligheid, kwaliteit en ethiek te waarborgen.
Er moet gewerkt worden aan het trainen van taalmodellen met actuele en betrouwbare informatie. Cruciaal is de oproep om ervaringsdeskundigen structureel en gelijkwaardig te betrekken bij discussies en toekomstige ontwikkelingen rondom de inzet van AI bij psychische klachten.
MIND benadrukt dat, hoewel AI extra steun kan bieden, het nooit mag worden ingezet ter vervanging van de essentiële menselijke factor in de zorg.
