Ethical appraisal of AI-driven MedTech for Trustworthy AI – development of a participatory, patient-centric methodology and toolkit.
Artificiële Intelligentie (AI) biedt kansen voor betere zorg, maar roept ook ethische vragen op. Deze studie had als doel ethiek rond AI in de zorg concreet en toetsbaar te maken. Patiëntenfederatie Nederland en Hogeschool Utrecht ontwikkelden een methodologie waarbij patiënten, zorgverleners en ontwikkelaars samen in gesprek gaan over welke waarden zij belangrijk vinden en hoe die waarden geborgd kunnen worden. Deze gesprekken gaan altijd over een concrete AI-toepassing en zijn gebaseerd op de EU-richtlijnen van betrouwbare AI. De bijbehorende toolkit bevat diverse methoden. Een methode is Moral Medtech, een coöperatief spel dat helpt om ethische keuzes te maken en mee te nemen in het ontwerp. Uit het onderzoek bleek dat naast de Europese ethische vereisten ook ‘kwaliteit van zorg en leven’ en ‘doelmatigheid’ essentiële waarden zijn in de zorgcontext.
Producten
Auteur: Ildikó Vajda en Mirjam de Haas
Verslagen
Eindverslag
De inzet van kunstmatige intelligentie (AI) in de gezondheidszorg roept fundamentele vragen op: welke rol moet AI spelen, en op welke manier kan deze technologie bijdragen aan goede, betrouwbare zorg? Europese beleidsmakers hebben daar al richting aan gegeven: AI moet ethisch en mensgericht zijn. Maar tussen beleid en praktijk gaapt een kloof. Terwijl volop wordt geëxperimenteerd met AI in medische toepassingen en sommige typen al in gebruik zijn, blijven ethische richtlijnen vaak abstract en op afstand van het ontwikkelproces.
Dat AI naast zijn potentieel ook risico’s met zich meebrengt, is bekend: fundamentele rechten zoals eerlijkheid, autonomie, gelijke toegang tot zorg en verantwoordingsplicht kunnen in het geding komen. Ook zijn er technische uitdagingen, zoals uitlegbaarheid en inclusie. Sommige AI-technieken maken het lastig te begrijpen hoe voorspellingen tot stand komen, waardoor zorgprofessionals de betrouwbaarheid van AI-uitkomsten moeilijk kunnen inschatten – met mogelijke gevolgen voor het samen beslissen met de patiënt.
Patiënten ervaren de impact van AI-gedreven MedTech-toepassingen. Daarom is het cruciaal dat zij – naast zorgprofessionals en ontwikkelaars – als gelijkwaardige partners meebeslissen over welke waarden geborgd moeten worden. Alleen zo kunnen betrouwbare AI-oplossingen in de zorg tot stand komen.
Ons project had als doel de ethische principes voor betrouwbare AI concreet te maken. Het richtte zich op twee subdoelen:
- Patiënten basiskennis geven om inhoudelijk te kunnen bijdragen aan AI-gedreven MedTech-ontwikkeling
- Alle betrokkenen voorzien van praktische handvatten voor ethisch verantwoorde AI in de zorg.
Voor het eerste doel ontwikkelden we een masterclass voor patiënten. Voor het tweede doel werkten we, binnen het Value-Sensitive Design (VSD)-raamwerk, aan een methodologie en toolkit waar mensen actief deelnemen, via situationele method engineering. Daarbij bouwden we voort op bestaande instrumenten, zoals de ‘Handelingsruimte voor AI-innovaties’ en ‘Ethics Inc.’, en hergebruikten we fragmenten uit VSD en Begeleidingsethiek. De methodologie en toolkit zijn stap voor stap ontwikkeld met inzichten uit 8 AI-gedreven MedTech-oplossingen, elk in een andere ontwikkelfase en met een ander doel binnen het zorgveld.
Alle projectdoelen zijn behaald, inclusief het ontwikkelen van de producten: de masterclass en een participatieve methodologie met tools voor systematische waardendialogen en besluitvorming in AI-ontwikkeling.
Een extra product – een tool om passende methodefragmenten te kiezen – is beschikbaar via deze link. De masterclass wordt nu omgezet naar een AI-leerlijn voor patiënten: een waardevolle aanvulling.
Het kernproduct is de dialoogtool Moral Medtech, de zorgversie van Ethics Inc. Hiermee kunnen ethische vereisten uit EU-regelgeving besproken, gewogen en vertaald worden naar concrete AI use-cases. De tool ondersteunt besluitvorming via een consensuswaarde (tussen 0 en 1) en maakt inzichtelijk welke technische of sociale acties nodig zijn om waarden te borgen in de volgende ontwikkelstap.
Moral Medtech is vooral geschikt voor de vroege en reguliere HTA-fases. In een allervroeg stadium, vóór prototypering, zijn andere methodes uit de VSD-methodologie relevanter, zoals stakeholderanalyse, waarde-elicitatie en scenariodenken. Deze helpen bij het aanscherpen van visie en maatschappelijke meerwaarde.
Een belangrijke uitkomst van het project is dat we, aanvullend op de 7 EU-brede ethische vereisten, 2 zorgspecifieke waarden konden definiëren: kwaliteit van zorg en leven én doelmatigheid. Deze zijn verwerkt in aparte waardenkaarten binnen Moral Medtech, waarmee het ethisch kader concreter en beter toepasbaar is gemaakt voor de zorgsector.