La professeure Amy Salyzyn a obtenu une subvention Savoir du Conseil de recherches en sciences humaines (CRSH) pour un nouveau projet sur les effets de la mésinformation générée par l’intelligence artificielle sur le système de justice canadien et sur les moyens de gérer ces risques de manière responsable. Intitulé « Guarding Against Misinformation: Generative AI and the Canadian Justice System », le projet permettra d’élaborer des cadres et des outils pratiques pour aider les tribunaux, les organismes de réglementation, les juristes et les organismes d’accès à la justice à s’adapter à l’utilisation et à la présence de l’IA générative.
Depuis le lancement de ChatGPT auprès du grand public à la fin de 2022, l’intérêt pour l’IA générative dans le domaine juridique a fait un bond spectaculaire. Au Canada comme à l’étranger, les juristes et les tribunaux s’appuient de plus en plus sur les outils d’IA pour faire la recherche juridique, la rédaction, la communication et la préparation de la preuve. Cependant, les tribunaux du monde entier voient déjà apparaître des citations jurisprudentielles fabriquées de toutes pièces et des documents falsifiés par l’IA dans les procédures judiciaires.
Les travaux de la professeure Salyzyn portent sur deux grandes catégories de risques liés à la mésinformation. La première concerne l’utilisation d’outils d’IA générative pour préparer les arguments de droit, ce qui inclut le risque que des renseignements fabriqués ou trompeurs soient intégrés dans les documents déposés devant les tribunaux ou les décisions judiciaires. La seconde concerne les éléments de preuve générés ou modifiés par l’IA, notamment les images, les enregistrements audio, les vidéos et les pièces à conviction faussés susceptibles d’influencer les décisions judiciaires de manière subtile ou trompeuse.
Afin de trouver des solutions à ces enjeux, l’équipe de recherche examinera à la fois les performances techniques des outils d’IA et la dynamique complexe de l’interaction entre l’humain et ces systèmes. L’un des principaux objectifs est de créer une feuille de route d’évaluation de l’IA accessible au public qui permettra d’évaluer les outils d’IA utilisés en rédaction juridique, notamment dans les contextes d’accès à la justice. L’équipe mettra aussi au point de nouveaux cadres pour bien définir le concept de supervision efficace des systèmes d’IA par l’être humain dans la pratique du droit et les jugements – une supervision qui ne se limite pas au simple « ajout de l’intervention humaine dans le processus ».
Un deuxième axe de recherche portera sur les éléments de preuve générés par l’IA. L’équipe dressera un tableau de l’évolution fulgurante de ces technologies qui permettent de générer des images, des fichiers audio et des vidéos, et elle évaluera les limites actuelles des systèmes de détection et de tatouage numérique (watermarking). S’appuyant sur des recherches interdisciplinaires en psychologie, en sciences de l’information et en droit, elle examinera également l’influence des contenus générés par l’IA sur la perception, la mémoire et la prise de décision dans le cadre des procédures juridiques.
Cette initiative montre l’importance croissante de faire appel à la collaboration interdisciplinaire pour répondre aux défis que soulèvent les nouvelles technologies. La professeure Salyzyn, éminente chercheuse universitaire en éthique juridique, en droit et technologies et en accès à la justice, collabore avec la professeure Jacquelyn Burkell de l’Université Western, codemandeuse et spécialiste en sciences de l’information et des médias, en psychologie et en recherche interdisciplinaire en sciences sociales. Les deux scientifiques possèdent une vaste expérience de la direction de projets de recherche collaboratifs portant sur les implications sociétales des technologies numériques.
Au-delà des publications universitaires, le projet donnera lieu à des notes de synthèse destinées aux organismes de réglementation, à des livres blancs, à des ressources rédigées en langage clair, à des webinaires, à des balados ainsi qu’à des commentaires visant à mieux faire comprendre au grand public comment l’IA générative peut à la fois faciliter et menacer les processus du système juridique.
Les subventions Savoir du CRSH appuient l’excellence de la recherche en sciences humaines et en sciences sociales. Le programme Savoir a pour but d’approfondir les connaissances sur l’être humain, la société et le monde.
La Faculté de droit félicite les professeures Salyzyn et Burkell pour le lancement de cette initiative qui tombe à point nommé!