Atelier participatif sur les risques et la qualité des systèmes d’IA en santé

Le projet PD-TIPS.AI a pour objectif de co-concevoir un système de recommandation conversationnelle bilingue destinée à fournir des conseils et ressources d’autosoins personnalisés aux personnes vivant avec la maladie de Parkinson. La phase 1 du projet a permis de structurer les besoins, les profils d’usagers et les premiers principes de conception du système.

Dans la perspective de la phase 2, il devient essentiel d’anticiper les risques potentiels liés à l’usage de l’IA (risques éthiques, sociaux, cliniques, organisationnels) et d’élaborer un cadre de contrôle qualité et de gestion des risques. 

L’objectif du projet proposé est de concevoir et d’animer un atelier participatif visant à : 

• identifier collectivement les risques associés à un système de recommandation conversationnelle en santé; 
• réfléchir aux mécanismes de contrôle qualité, de validation et de gouvernance du système; 
• produire un livrable structurant (cadre de contrôle des risques et de la qualité) servant de base à la phase 2 du projet et aux simulations futures. 

Le projet s’appuie sur une approche participative et sociotechnique combinant : 

• une revue ciblée des littératures sur les risques de l’IA en santé, l’IA responsable et la gouvernance des systèmes algorithmiques; 
• des méthodes de co-design et de prospective critique (ex. cartographie des risques); 
• la conception d’un atelier structuré (objectifs, activités, supports); 
• l’analyse qualitative des échanges issus de l’atelier afin d’en dégager des principes et recommandations opérationnelles. 

Les étudiant·es seront impliqué·es tant dans la préparation méthodologique que dans la structuration analytique des résultats. 

Ce projet permettra aux étudiant·es de développer : 

• une compréhension critique des enjeux éthiques et sociaux de l’IA en santé; 
• des compétences en analyse des risques; • des habiletés en animation et conception d’ateliers participatifs; 
• une capacité à traduire des discussions collectives en cadres analytiques; 
• des compétences en rédaction de livrables stratégiques et scientifiques. 

• Revue ciblée de littérature (IA responsable, risques, qualité) 20 h 
• Analyse des matériaux issus de la phase 1 du projet PD-TIPS.AI 15 h 
• Préparation, organisation et animation de l’atelier participatif 15 h 
• Développement des outils (supports, matrices, scénarios) 15 h 
• Analyse des résultats de l’atelier et élaboration du cadre 15 h 
• Réunions avec l’équipe de recherche 10 h 

Total 90 h