L’intelligence artificielle est de plus en plus capable de détecter et de prédire les problèmes cardiaques. Mais comprenons-nous aussi pourquoi l’IA prend une certaine décision ? Une nouvelle recherche de UGent-imec, publiée dans le journal scientifique Expert Systems with Applications, fait un pas important vers une IA médicale plus interprétable.
En résumé
Aujourd’hui, l’IA peut tirer beaucoup plus d’un électrocardiogramme (ECG) que simplement le rythme cardiaque. Elle peut, par exemple, aider à détecter tôt des problèmes cardiaques, mais aussi à déterminer l’âge ou le sexe d’un patient.
Cette dernière capacité pose un défi inattendu. Si l’IA a déjà déduit l’âge d’un patient à partir de l’ECG, comment savoir quelle importance cette information supplémentaire a pour la prédiction ?
Dans notre nouvelle recherche, nous avons développé trois techniques qui aident à résoudre ce problème. Elles clarifient quelles informations l’IA utilise et comment les données patient, comme l’âge et le sexe, contribuent à la prédiction finale.
Cette recherche s’inscrit dans les ambitions du projet VasculAI d’utiliser l’IA de manière fiable et compréhensible pour les soins cardiovasculaires.
L’IA peut faire de plus en plus de choses, mais comprenons-nous vraiment pourquoi ?
Un électrocardiogramme, ou ECG, est un examen qui mesure l’activité électrique du cœur. Il est souvent utilisé pour détecter des troubles du rythme cardiaque.
Grâce à l’intelligence artificielle, nous pouvons désormais extraire beaucoup plus d’informations d’un tel ECG. Les systèmes d’IA apprennent à reconnaître des motifs qui sont difficiles à voir à l’œil nu.
Un exemple intéressant est la fibrillation auriculaire, également appelée fibrillation des oreillettes. Dans ce trouble du rythme cardiaque, le cœur bat de manière irrégulière, ce qui augmente notamment le risque d’accident vasculaire cérébral. L’IA peut aider à détecter la fibrillation auriculaire, mais aussi à estimer le risque de problèmes futurs chez des personnes ayant un rythme cardiaque normal.
Pour cela, l’IA ne se contente pas de regarder l’ECG. L’âge et le sexe du patient peuvent également fournir des informations importantes.
Mais c’est là qu’un problème apparaît.
Et si l’IA connaissait déjà l’âge sans qu’on le lui dise ?
Imaginez qu’un médecin utilise un système d’IA pour prédire le risque d’arythmie cardiaque. Le système reçoit deux choses : un ECG et l’âge du patient. Ensuite, on veut savoir pourquoi le système a prédit un risque élevé.
On examine donc quelles informations avaient le plus de poids. De manière surprenante, il s’avère que l’âge indiqué n’a presque eu aucune influence. Est-ce que ça veut dire que l’âge n’est pas important ?
Non, car l’IA peut déjà tirer des indices sur l’âge à partir de l’ECG lui-même. Notre cœur change au cours de notre vie, et ces changements sont en partie visibles dans les signaux électriques. Le système connaissait donc probablement déjà l’âge approximatif, avant même qu’on le lui communique séparément. Quand on ajoute ensuite l’âge explicitement, le système pourrait ne plus avoir besoin de cette information supplémentaire.
Le résultat ? On dirait que l’âge n’a pas d’importance, alors qu’en réalité, le modèle d’IA contient bien des informations liées à l’âge. Ça rend difficile d’expliquer correctement pourquoi l’IA prend telle ou telle décision.
Notre solution : apprendre à l’IA à garder les informations séparées
Pour résoudre ce problème, nous avons développé une nouvelle approche en trois parties. D’abord, nous évitons autant que possible que l’IA enregistre certaines données patient en cachette, puis nous réintroduisons ces données de manière consciente, et enfin, nous examinons comment elles influencent la prédiction.
- GRe : Apprendre à l’IA à ne pas mémoriser l’âge et le sexe
Normalement, l’IA essaie d’extraire autant d’informations utiles que possible d’un ECG pendant l’apprentissage. Dans ce processus, elle capte inconsciemment aussi des informations sur l’âge et le sexe.
Avec notre première technique, le Gradient-Reversed Encoder (GRe), nous ajustons ce processus d’apprentissage. Nous formons le modèle d’IA à reconnaître les troubles du rythme cardiaque, tout en l’encourageant à ne pas stocker d’informations sur l’âge et le sexe dans ses caractéristiques internes de l’ECG.
C’est comparable à un étudiant qui doit passer un examen, mais qui n’a pas le droit d’utiliser certaines informations de contexte. L’étudiant doit apprendre à se concentrer sur les informations qui sont autorisées.
Nos expériences montrent que cette technique rend beaucoup plus difficile par la suite de déduire l’âge et le sexe à partir des caractéristiques internes de l’ECG.
Figure : Aperçu schématique de la technique GRe. En plus d’apprendre la tâche souhaitée, la prédiction de la fibrillation auriculaire (FA), le modèle apprend également à prédire l’âge et le sexe. En plaçant une couche de renversement de gradient (GR), nous décourageons la représentation effectivement apprise de l’ECG (GRe Latent Space) d’encapsuler ces informations sur l’âge et le sexe.
2. MFID : réutiliser l’âge et le sexe de manière intelligente
L’âge et le sexe restent évidemment importants pour prédire les problèmes cardiaques. On ne veut donc pas supprimer complètement ces informations. C’est pourquoi nous avons développé une deuxième technique : la couche Multiplicative Feature-Interaction Dense (MFID). Elle aide l’IA à recombiner les données des patients avec les informations de l’ECG.
Pourquoi est-ce utile ?
Imaginons qu’un certain motif apparaisse sur un ECG pour deux patients : une personne de 25 ans et une de 75 ans. Ce même motif peut avoir une signification différente pour chacun. Ce qui est relativement normal pour une personne âgée peut être plus marquant pour une jeune personne.
La MFID aide le modèle d’IA à apprendre directement ces différences. L’âge et le sexe ne sont donc pas juste ajoutés comme information supplémentaire, mais peuvent influencer directement la façon dont un motif ECG particulier est interprété.
Dans des expériences séparées, cette technique s’est avérée particulièrement efficace lorsque de telles corrélations étaient importantes et que les données de test différaient des données d’entraînement.
Figure : Vue schématique de la technique MFID. Un ensemble de caractéristiques de l’ECG (Caractéristiques de l’espace latent) interagit de manière explicite avec un ensemble de caractéristiques du patient (Caractéristiques cliniquement interprétables). L’explication complète de toutes les variables se trouve dans l’article.
3. FIGI : montrer pourquoi l’IA fait une prédiction
La troisième technique s’appelle Feature-Interaction Gradient Interpretation (FIGI). Elle aide à mieux comprendre les décisions de l’IA.
FIGI répond à deux questions importantes.
- Quelles parties de l’ECG étaient importantes ? La technique peut indiquer certaines parties de l’électrocardiogramme sur lesquelles l’IA se base. Ainsi, les chercheurs peuvent voir quels moments du rythme cardiaque le modèle observe le plus.
- Quelle importance ont l’âge et le sexe ? En plus, FIGI peut estimer combien le modèle accorde d’importance aux informations de l’ECG et aux données spécifiques fournies pour chaque patient.
La combinaison avec GRe s’avère particulièrement intéressante.
Avec les modèles d’IA classiques, l’âge indiqué explicitement semblait parfois jouer à peine un rôle. Avec les modèles entraînés avec GRe, l’âge prenait clairement plus d’importance dans l’explication de la prédiction.
Pour certains modèles, l’importance relative de l’âge était d’environ 15 à 20 %, et celle du sexe d’environ 5 à 10 %.
Cela ne signifie pas que l’âge est responsable d’un pourcentage fixe du risque médical réel. Cela montre cependant que nous pouvons mieux visualiser comment le modèle d’IA utilise cette information.
Figure : Dans une approche traditionnelle (regular), on se concentre presque exclusivement sur l’ECG pour prendre une décision. Cela donne la fausse impression que l’âge et le sexe ajoutés explicitement n’ont pas eu de rôle dans la décision. Dans notre approche (B-GRe), l’ECG ne contient aucune information sur l’âge et le sexe, ce qui oblige le modèle à se baser sur l’âge et le sexe ajoutés explicitement, conformément aux attentes.
Qu’est-ce que cela signifie pour l’avenir de l’IA médicale et le projet VasculAI ?
Pour cette recherche, nous avons utilisé deux grandes bases de données d’ECG, qui totalisent plus de 367 000 électrocardiogrammes. Nous avons examiné non seulement dans quelle mesure les modèles pouvaient reconnaître et prédire la fibrillation auriculaire, mais aussi la fiabilité des explications derrière leurs prédictions.
Les résultats montrent que nous pouvons mieux séparer les données des patients de l’information que l’IA tire de l’ECG. Cela rend plus clair comment les deux types d’information contribuent à la décision.
Le principal progrès réside donc dans la meilleure compréhension et le contrôle de la manière dont l’IA arrive à une prédiction.
Dans le cadre du projet VasculAI, nous examinons comment l’intelligence artificielle peut contribuer à de meilleurs soins cardiovasculaires. Il ne s’agit pas seulement de développer des systèmes intelligents capables de détecter ou de prédire des problèmes cardiaques. Il est tout aussi important que ces systèmes soient fiables, compréhensibles et utilisables dans la pratique.
Pour un médecin, il ne suffit pas qu’un système d’IA indique qu’un patient a un risque accru. Il est aussi précieux de mieux comprendre quelles informations ont conduit à cette estimation. Nos recherches contribuent à cette ambition en faisant un pas important vers une IA médicale plus transparente et mieux interprétable.
Même si cette étude s’est concentrée sur la fibrillation auriculaire, les mêmes principes peuvent également être intéressants pour d’autres maladies cardiovasculaires et pour d’autres applications médicales où l’IA combine différents types de données patient.
L’avenir de l’IA médicale ne concerne donc pas seulement de meilleures prédictions, mais aussi une meilleure compréhension des raisons pour lesquelles ces prédictions sont faites.
En savoir plus ?
L’étude a été publiée dans la revue scientifique internationale Expert Systems with Applications.
Titre : Amélioration de l’interprétabilité et de l’attribution des caractéristiques pour les modèles ECG hybride-AI en contrôlant les fuites de métadonnées et les interactions entre les caractéristiques
URL : https://doi.org/10.1016/j.eswa.2026.134714
Article écrit par Lennert Bontinck (Université de Gand)
