Artificiële intelligentie kan steeds beter hartproblemen herkennen en voorspellen. Maar begrijpen we ook waarom AI tot een bepaalde beslissing komt? Nieuw onderzoek van UGent-imec, gepubliceerd in het wetenschappelijke tijdschrift Expert Systems with Applications, zet een belangrijke stap naar beter interpreteerbare medische AI.
In het kort
AI kan vandaag veel meer uit een hartfilmpje (ECG) halen dan alleen het hartritme. Zo kan het helpen om hartproblemen vroegtijdig op te sporen, maar ook om bijvoorbeeld de leeftijd of het geslacht van een patiënt te achterhalen.
Dat laatste zorgt voor een onverwachte uitdaging. Als AI de leeftijd van een patiënt al uit het hartfilmpje heeft afgeleid, hoe kunnen we dan nog weten hoe belangrijk dit als bijkomende informatie is voor de voorspelling?
In ons nieuwe onderzoek ontwikkelden we drie technieken die samen helpen om dit probleem aan te pakken. Ze maken duidelijker welke informatie AI gebruikt en hoe patiëntgegevens, zoals leeftijd en geslacht, bijdragen aan de uiteindelijke voorspelling.
Het onderzoek kadert binnen de ambities van het VasculAI-project om AI op een betrouwbare en begrijpelijke manier in te zetten voor de cardiovasculaire gezondheidszorg.
AI kan steeds meer, maar begrijpen we wel waarom?
Een elektrocardiogram, kortweg ECG, is een onderzoek dat de elektrische activiteit van het hart meet. Het wordt vaak gebruikt om hartritmestoornissen op te sporen.
Met artificiële intelligentie kunnen we tegenwoordig veel meer informatie uit zo’n ECG halen. AI-systemen leren namelijk patronen herkennen die voor het menselijk oog moeilijk zichtbaar zijn.
Een interessant voorbeeld is voorkamerfibrillatie, ook wel atriumfibrilleren genoemd. Bij deze hartritmestoornis klopt het hart onregelmatig, wat onder andere het risico op een beroerte verhoogt. AI kan helpen om voorkamerfibrillatie te herkennen, maar ook om bij mensen met een normaal hartritme het risico op toekomstige problemen in te schatten.
Daarvoor kijkt AI niet alleen naar het hartfilmpje zelf. Ook de leeftijd en het geslacht van de patiënt kunnen belangrijke informatie geven.
Maar hier ontstaat een probleem.
Wat als AI de leeftijd al kent zonder dat we die vertellen?
Stel je voor dat een arts een AI-systeem gebruikt om het risico op een hartritmestoornis te voorspellen. Het systeem krijgt twee dingen: een ECG en de leeftijd van de patiënt.
Achteraf willen we weten waarom het systeem een verhoogd risico voorspelde. We onderzoeken daarom welke informatie het zwaarst doorwoog.
Verrassend genoeg blijkt dat de opgegeven leeftijd nauwelijks invloed had. Betekent dit dat leeftijd niet belangrijk is?
Nee, want AI kan uit het ECG zelf al aanwijzingen over de leeftijd halen. Ons hart verandert namelijk doorheen ons leven, en die veranderingen zijn deels zichtbaar in de elektrische signalen.
Het systeem kende de leeftijd dus mogelijk al bij benadering, nog vóór we die afzonderlijk doorgaven. Wanneer we de leeftijd vervolgens expliciet toevoegen, heeft het systeem die extra informatie misschien niet meer nodig.
Het gevolg? Het lijkt alsof leeftijd onbelangrijk is, terwijl leeftijdsgebonden informatie wel degelijk aanwezig is in het AI-model.
Dat maakt het moeilijk om correct uit te leggen waarom AI een bepaalde beslissing neemt.
Onze oplossing: AI leren om informatie gescheiden te houden
Om dit probleem aan te pakken, ontwikkelden we een nieuwe aanpak die uit drie onderdelen bestaat. Eerst voorkomen we zoveel mogelijk dat AI bepaalde patiëntgegevens verborgen opslaat, vervolgens voegen we die gegevens bewust opnieuw toe, en ten slotte onderzoeken we hoe ze de voorspelling beïnvloeden.
1. GRe: AI leren om leeftijd en geslacht niet te onthouden
Normaal probeert AI tijdens het leren zoveel mogelijk nuttige informatie uit een ECG te halen. Daarbij neemt het onbewust ook informatie over leeftijd en geslacht mee.
Met onze eerste techniek, Gradient-Reversed Encoder (GRe), sturen we dat leerproces bij. We trainen het AI-model om hartritmestoornissen te herkennen, maar tegelijkertijd ontmoedigen we het om informatie over leeftijd en geslacht op te slaan in zijn interne ECG-kenmerken.
Vergelijk het met een student die een examen moet oplossen, maar bepaalde achtergrondinformatie niet mag gebruiken. De student moet leren om zich te concentreren op de informatie die wel beschikbaar mag zijn.
Onze experimenten tonen dat deze techniek het aanzienlijk moeilijker maakt om achteraf leeftijd en geslacht uit de interne ECG-kenmerken af te leiden.
Figuur: Schematisch overzicht van de GRe techniek. Naast het leren van de gewenste taak, het voorspellen van voorkamerfibrilatie (AFib), leert het model ook leeftijd en geslacht te voorspellen. Door het plaatsen van een gradient reversal laag (GR) ontmoedigen we de effectief geleerde representatie van het ECG (GRe Latent Space) om deze leeftijd en geslacht informatie te encapsuleren.
2. MFID: leeftijd en geslacht op een slimme manier opnieuw gebruiken
Leeftijd en geslacht blijven natuurlijk belangrijk voor het voorspellen van hartproblemen. We willen die informatie dus niet volledig verwijderen.
Daarom ontwikkelden we een tweede techniek: Multiplicative Feature-Interaction Dense (MFID) layer. Die helpt AI om patiëntgegevens opnieuw te combineren met de informatie uit het ECG.
Waarom is dat nuttig?
Stel dat een bepaald patroon op een ECG voorkomt bij twee patiënten: iemand van 25 jaar en iemand van 75 jaar. Datzelfde patroon kan bij beide patiënten een andere betekenis hebben. Wat bij een oudere persoon relatief normaal is, kan bij een jongere persoon opvallender zijn.
MFID helpt het AI-model om dergelijke verschillen rechtstreeks te leren. Leeftijd en geslacht worden dus niet zomaar toegevoegd als extra informatie, maar kunnen mee bepalen hoe een bepaald ECG-patroon wordt geïnterpreteerd.
In afzonderlijke experimenten bleek deze techniek bijzonder goed te werken wanneer zulke verbanden belangrijk waren en de testgegevens verschilden van de trainingsgegevens.
Figuur: Schematisch overzicht van de MFID techniek. Een set kenmerken van het ECG (Latent Space Features) interageert op een expliciete manier met een set kenmerken van de patient (Clinically Interpretable Features). De volledige uitleg van alle variabelen is in de paper terug te vinden.
3. FIGI: zichtbaar maken waarom AI een voorspelling doet
De derde techniek heet Feature-Interaction Gradient Interpretation (FIGI). Deze helpt om de beslissingen van AI beter te begrijpen.
FIGI beantwoordt twee belangrijke vragen.
- Welke delen van het ECG waren belangrijk? De techniek kan bepaalde stukken van het hartfilmpje aanduiden waarop AI zich baseert. Zo kunnen onderzoekers zien naar welke momenten in het hartritme het model vooral kijkt.
- Hoe belangrijk waren leeftijd en geslacht? Daarnaast kan FIGI inschatten hoeveel belang het model toekent aan de ECG-informatie en aan de afzonderlijk opgegeven patiëntgegevens.
De combinatie met GRe blijkt hierbij bijzonder interessant.
Bij gewone AI-modellen leek de expliciet opgegeven leeftijd soms nauwelijks een rol te spelen. Bij modellen die met GRe werden getraind, kreeg leeftijd duidelijk meer belang in de verklaring van de voorspelling.
Bij bepaalde modellen bedroeg het relatieve belang van leeftijd ongeveer 15 tot 20%, en dat van geslacht ongeveer 5 tot 10%.
Dat betekent niet dat leeftijd verantwoordelijk is voor een vast percentage van het werkelijke medische risico. Het toont wel dat we beter zichtbaar kunnen maken hoe het AI-model die informatie gebruikt.
Figuur: Bij een traditionele aanpak (regular) wordt bijna uitsluitend naar het ECG gekeken voor het nemen van een beslissing. Dit geeft de valse impressie dat expliciet toegevoegde leeftijd en geslacht geen rol speelden in de beslissing. Bij onze aanpak (B-GRe) bevat de ECG geen informatie over leeftijd en geslacht, waardoor het model wel moet vertrouwen op de expliciet toegevoegde leeftijd en geslacht, in lijn met de verwachtingen.
Wat betekent dit voor de toekomst van medische AI en het VasculAI project?
Voor het onderzoek gebruikten we twee grote verzamelingen ECG’s, samen goed voor meer dan 367.000 hartfilmpjes. We onderzochten niet alleen hoe goed de modellen voorkamerfibrillatie konden herkennen en voorspellen, maar ook hoe betrouwbaar de uitleg bij hun voorspellingen was.
De resultaten tonen dat we patiëntgegevens beter kunnen scheiden van de informatie die AI uit het ECG haalt. Daardoor wordt duidelijker hoe beide soorten informatie bijdragen aan de beslissing.
De belangrijkste vooruitgang zit hem dan ook in het beter kunnen begrijpen en controleren hoe AI tot een voorspelling komt.
Binnen het VasculAI-project onderzoeken we hoe artificiële intelligentie kan bijdragen aan betere cardiovasculaire gezondheidszorg. Daarbij draait het niet alleen om het ontwikkelen van slimme systemen die hartproblemen kunnen herkennen of voorspellen. Minstens even belangrijk is dat die systemen betrouwbaar, begrijpelijk en bruikbaar zijn in de praktijk.
Voor een arts is het niet voldoende dat een AI-systeem aangeeft dat een patiënt een verhoogd risico heeft. Het is ook waardevol om beter te begrijpen welke informatie tot die inschatting heeft geleid. Ons onderzoek draagt bij aan die ambitie door een belangrijke stap te zetten richting meer transparante en beter interpreteerbare medische AI.
Hoewel we ons in deze studie richtten op voorkamerfibrillatie, kunnen dezelfde principes ook interessant zijn voor andere hart- en vaatziekten en voor andere medische toepassingen waarbij AI verschillende soorten patiëntgegevens combineert.
De toekomst van medische AI draait dus niet alleen om betere voorspellingen, maar ook om beter begrijpen waarom die voorspellingen worden gemaakt.
Meer weten?
Het onderzoek werd gepubliceerd in het internationale wetenschappelijke tijdschrift Expert Systems with Applications.
Titel: Improved interpretability and feature attribution for hybrid-AI ECG models by controlling metadata leakage and feature interactions
URL: https://doi.org/10.1016/j.eswa.2026.134714
Geschreven door Lennert Bontinck (UGent)
