Health CARE-AI aide les équipes de santé à encadrer l’IA avec éthique et équité

L’initiative a bénéficié du Programme de financement de démarrage en intelligence artificielle de la Faculté de médecine de l’Université d’Ottawa en 2024, ce qui a permis à l’équipe d’établir une base fondée sur des données probantes pour le cadre.

Le Programme de financement de démarrage en IA est une initiative de la Faculté de médecine de l’Université d’Ottawa qui offre jusqu’à 10 000 $ pour des projets d’une durée d’un an visant à renforcer les capacités en IA dans le domaine de la santé et de la médecine. Il soutient des projets nouveaux ou en cours qui favorisent l’application concrète de l’IA et est financé par le Fonds pour l’application des connaissances en IA. Le programme reflète également les engagements de la Faculté en matière d’inclusion, de diversité, d’équité, d’accessibilité et de justice sociale, qui sont intégrés au processus de sélection.

Health CARE-AI s’inscrit pleinement dans cet objectif. Dirigé par le laboratoire d’Équité dans les systèmes de santé, le projet part d’un constat clair : les outils d’IA sont de plus en plus présents dans la formation professionnelle, les soins cliniques et la planification des systèmes de santé. Ils transforment la façon dont les personnes apprennent, prennent des décisions et planifient les services. Ces outils offrent des avantages réels, mais soulèvent aussi des questions importantes concernant la responsabilité, l’utilisation des données et le risque d’accentuer des inégalités existantes pour les patientes et patients, les communautés et les personnes en formation.

Pour le Dr Daniel McEwen, responsable des partenariats stratégiques, de l’innovation et de la recherche au sein du laboratoire d’Équité dans les systèmes de santé, la question de la confiance est centrale. « L’IA s’intègre rapidement à la formation professionnelle, à la pratique clinique et au travail quotidien des équipes de santé », explique-t-il. « Nous voulions comprendre comment intégrer l’IA dans les systèmes sur lesquels les gens comptent, d’une manière éthique et digne de leur confiance. »

Le financement de démarrage en IA a permis à Health CARE-AI d’établir une base solide pour son cadre et de positionner l’équipe en vue de collaborations et de possibilités de financement ultérieures. Cette phase initiale a mené à une demande retenue auprès du Centre des Compétences futures (CCF), un centre de recherche et de collaboration financé par le Programme Compétences futures du fédéral. Le CCF soutient la diffusion, la mise en œuvre et la formation liées à Health CARE-AI.

Pour élaborer le cadre, l’équipe a travaillé en collaboration avec des expertes et experts de divers milieux, au Canada et à l’international, afin d’examiner ce que le professionnalisme devrait signifier lorsque l’IA fait partie des processus décisionnels. Un processus de consensusa permis d’affiner les principes et d’établir une compréhension commune de ce qui importe le plus dans la pratique.

Le résultat est le cadre Health CARE-AI , qui regroupe neuf principes de professionnalisme autour de quatre grands thèmes : les valeurs, les compétences, la responsabilisation et l’équité structurelle. Les principes liés aux valeurs mettent l’accent sur la responsabilité partagée dans l’utilisation de l’IA et sur la littératie en IA. Les principes liés aux compétences maintiennent le jugement humain au centre, encouragent une interaction réfléchie avec les outils d’IA et exigent de l’intégrité et de la transparence quant à leur utilisation. Les principes de responsabilisation portent sur les obligations légales, la protection des renseignements personnels et le consentement. Les principes d’équité structurelle visent la réduction des biais et l’équité dès la conception, afin que les systèmes d’IA ne renforcent pas les écarts existants en matière de soins.

« L’un des signes précoces les plus clairs du succès du projet a été l’engagement exceptionnel tout au long de l’étude », affirme la Dre Lyn Sonnenberg, cochercheuse principale de Health CARE-AI. « Plus de 300 personnes ont contribué en formulant près de 900 commentaires substantiels et riches en contenu qui ont directement façonné le cadre. Cette profondeur de participation témoigne d’un fort besoin, au sein des professions de la santé, de lignes directrices pratiques et responsables en matière d’IA. L’approbation finale a été quasi unanime : 96 % des participantes et participants ont convenu que Health CARE-AI définit clairement les attentes en matière de professionnalisme nécessaires pour répondre aux exigences éducatives, technologiques et éthiques de l’IA dans les professions de la santé. Ce niveau d’engagement et d’adhésion souligne à la fois l’urgence du travail et l’état de préparation du milieu à adopter une norme commune. »

Aujourd’hui, Health CARE-AI est passé d’un ensemble de principes à un ensemble de ressources pratiques, comprenant un guide étape par étape, des listes de vérification, des outils d’aide à la décision et des stratégies concrètes de mise en œuvre. Le guide et la trousse de mise en œuvre Health CARE-AI (en anglais seulement) sont actuellement en phase de validation finale auprès de chercheuses et chercheurs, de personnes œuvrant en enseignement, d’administratrices et administrateurs ainsi que de cliniciennes et cliniciens.

L’équipe est claire : Health CARE-AI est un cadre évolutif, et non une initiative ponctuelle. Pour qu’il ait un réel impact, les organisations devront intégrer l’éthique et l’équité de l’IA aux démarches de qualité et de sécurité, plutôt que de les traiter comme des ajouts secondaires.

« Le succès à long terme repose sur trois conditions essentielles : l’adoption institutionnelle, l’alignement du leadership et un investissement soutenu dans le développement des capacités », souligne la Dre Sonnenberg. « Health CARE-AI est conçu pour être pratique, mais il exige que les institutions intègrent ses principes dans leur gouvernance quotidienne, leurs politiques et leurs processus d’amélioration de la qualité. »

Une évaluation continue sera essentielle. Health CARE-AI a été conçu comme un cadre itératif et devra être actualisé au fil de l’évolution des technologies, de l’émergence de nouvelles données probantes, des risques et des expériences vécues.

L’initiative Health CARE-AI illustre ce qui peut découler d’un financement de démarrage modeste : un langage commun en matière de professionnalisme lié à l’IA, un cadre façonné par des voix diversifiées et des ressources concrètes et utilisables. Par l’entremise du Programme de financement de démarrage en IA, la Faculté de médecine de l’Université d’Ottawa soutient le développement d’une capacité responsable en IA médicale au sein de sa communauté. L’édition 2025 du programme est maintenant terminée, et les projets retenus seront annoncés au début de 2026. L’équipe de l'IRIAMO se réjouit de mettre en valeur d’autres initiatives comme Health CARE-AI, à mesure que ces projets passeront de l’idée à la pratique.

Pour en savoir plus sur CARE-AI et le laboratoire d’Équité dans les systèmes de santé, veuillez communiquer avec [email protected].