Jongeren helpen mee aan ethische richtlijnen voor AI en mentale gezondheid

02 sep Jongeren helpen mee aan ethische richtlijnen voor AI en mentale gezondheid

Persbericht TU Delft

– Nieuw internationaal paper onder leiding van TU Delft pleit voor participatie van jongeren bij ontwikkeling van Kunstmatige Intelligentie voor mentale gezondheid –

Digitale technologieën, zoals AI-chatbots, voorspellende algoritmes en diagnostische tools, bieden veelbelovende ondersteuning aan jongeren. Tegelijkertijd gebruiken jongeren ook algemene AI-platforms – zoals zogenaamde ‘companion chatbots’ – om te praten over mentale gezondheid, zelfs als deze tools daar oorspronkelijk niet voor bedoeld zijn.

Maar zijn ze ook ethisch verantwoord? En sluiten ze wel voldoende aan bij de leefwereld van jongeren zelf? Onderzoekers van de TU Delft, in samenwerking met internationale partners, jongerenwerkers, én jongeren van Stichting Be Ubuntu uit Amsterdam Zuid-Oost, schreven een wetenschappelijk artikel dat precies deze vragen aanpakt.

Ethiek in de praktijk: samen met jongeren

Het artikel, getiteld Advancing Youth Co-Design of Ethical Guidelines for AI-Powered Digital Mental Health Tools, stelt een nieuwe ethische agenda voor. Deze agenda is gebaseerd op klassieke bio-ethische waarden zoals autonomie, welzijn en rechtvaardigheid, maar dan specifiek toegepast op jongeren en AI, en vooral mét jongeren.

Een van hen geeft aan: “Als jongere voelde ik een sterke verbinding met dit project, omdat mentale gezondheid ons direct raakt. Het idee dat AI, zoals chatbots, ons op een veilige en verantwoorde manier kan ondersteunen, spreekt me diep aan. Het was waardevol om mee te praten in een discussie die vaak óver ons gaat, maar zelden mét ons. Dat de TU Delft jongeren actief betrekt bij het opstellen van ethische richtlijnen toont dat ze écht luisteren. Samen met internationale onderzoekers werken aan een wetenschappelijk artikel gaf mij het gevoel dat mijn stem telt en dat ik als jongere daadwerkelijk verschil kan maken in de toekomst van AI-ondersteuning.”

Waarom dit onderzoek nodig is

Jongeren staan voor unieke ethische uitdagingen als het gaat om digitale hulp bij mentale gezondheid. Toch houden veel bestaande richtlijnen nog te weinig rekening met hun ontwikkelingsfase, privacybehoeften en digitale leefwereld. Vooral jongeren uit gemarginaliseerde groepen worden vaak niet betrokken in onderzoek of beleid.

Zonder passende ethische kaders kunnen deze technologieën, hoe goed bedoeld ook, meer kwaad dan goed doen. Zo tonen recente casussen aan dat AI soms onbedoeld schade aanricht, bijvoorbeeld wanneer jongeren emotionele relaties opbouwen met chatbots, of wanneer algoritmes bevooroordeeld zijn.

Uit het onderzoek: vier urgente knelpunten

De paper benoemt vier belangrijke ethische kwesties die vaak onderbelicht blijven:

1. Privacy en meldplicht
Wat moet er gebeuren als een AI-tool suïcidale gedachten detecteert of risicovol gedrag zoals pesten of middelengebruik signaleert? En aan wie moet dit worden gemeld?

2. AI als gesprekspartner
Jongeren kunnen AI als ‘menselijk’ beschouwen, met onverwachte psychologische gevolgen. In een schrijnend Amerikaans geval leidde dit zelfs tot zelfdoding.

3. Toestemming en inclusie
Jongeren worden vaak uitgesloten van onderzoek door onduidelijke of strikte regels rondom ouderlijke toestemming terwijl hun stem juist cruciaal is.

4. Toegang en ongelijkheid
Niet alle jongeren hebben toegang tot digitale hulpmiddelen. Daarnaast worden AI-systemen vaak getraind op niet-representatieve groepen, zoals alleen universiteitsstudenten, wat de kloof vergroot.

Een oproep aan onderzoekers, beleidsmakers én bedrijven

De onderzoekers roepen op tot een nieuwe ethische infrastructuur die recht doet aan de realiteit van jongeren. Ze bieden concrete strategieën voor participatief onderzoek, waarin jongeren structureel worden betrokken bij het ontwikkelen van richtlijnen.

“Mijn medewerking aan de paper vond ik best interessant en ook een beetje uitdagend. Interessant omdat ik een kans kreeg om een ander perspectief te laten zien aan geleerden die misschien niet zoveel contact hadden met de mensen zelf die AI gebruiken, en uitdagend omdat het voelde alsof ik de mensen om mij heen die vaak wat te zeggen hadden over AI mocht representeren. Hun meningen en stemmen werden gehoord via mij. Zo voelde het. En dat is iets dat altijd belangrijk is en zal moeten zijn om samen wat te creëren”, aldus een van de betrokken jongeren.

Het volledige artikel is gepubliceerd in Nature Mental Health en is mede tot stand gekomen in samenwerking met jongeren uit verschillende landen, ethici, AI-onderzoekers en experts op het gebied van mentale gezondheid.