Qui serre la vis aux robots?

Le professeur Ian Kerr de l’Université d’Ottawa assis à une table où sont disposés des petits robots.
L’intelligence artificielle a besoin de limites fermes

Comme spécialiste des implications morales et de l’encadrement juridique de l’intelligence artificielle, l’éthicien et juriste Ian Kerr travaille pour le bien public.

Vu son potentiel énorme, l’intelligence artificielle (IA) peut sembler un progrès sur toute la ligne. Des voitures autonomes parcourent des millions de kilomètres sans trop d’accidents. La police envoie des engins mobiles là où elle n’ose s’aventurer pour éliminer des objets dangereux. Des robots chirurgicaux d’une précision extrême aident à sauver des vies sur la table d’opération.

Pas si vite, lance toutefois Ian Kerr, qui travaille à comprendre les conséquences plus larges de ces avancées. Selon le professeur de droit et titulaire de la Chaire de recherche du Canada en éthique, en droit et en technologie, l’IA n’est pas totalement inoffensive.

Cette technologie permet de créer des systèmes qui fonctionnent sans supervision ou intervention humaine. Pour le meilleur et pour le pire, nous sommes en train de donner volontairement aux robots une liberté et une autonomie sans précédent.

« Les nouvelles techniques d’IA permettent aux machines de manifester des comportements émergents qui vont au-delà de leur programme initial, sans qu’on sache toujours ce qu’elles vont faire ni pourquoi, explique M. Kerr. Même si les décisions que prennent ces machines sont souvent bonnes, on ne les comprend pas toujours. C’est inquiétant. »

Surtout quand on pense à l’arrivée des armes guidées par l’IA. On ne parle pas ici, précise M. Kerr, de robots tueurs qui s’en prendront à leurs créateurs. Par contre, si on permet aux machines de fonctionner sans supervision humaine adéquate, de telles armes pourraient finir par cibler et éliminer des victimes imprévues.

C’est pour éviter un tel scénario qu’Ian Kerr a lancé un mouvement regroupant des centaines de chercheurs en IA pour demander au gouvernement canadien de se joindre aux efforts mondiaux pour interdire la construction et l’utilisation des armes autonomes. Selon ces chefs de file du domaine, cette question devrait être au sommet des priorités mondiales.

Pour Ian Kerr, il est aussi important de se pencher sur les applications moins inquiétantes de l’IA, notamment en médecine diagnostique. Des travaux récents ont montré que des outils employant l’IA pouvaient surpasser les médecins les plus chevronnés dans la détection de tumeurs cancéreuses et d’autres maladies.

Les médecins devraient-ils donc confier à des machines la tâche de diagnostiquer le cancer? Ce serait risqué, croit Ian Kerr. Ici encore, la sagesse exige que l’humain joue un rôle de surveillance et participe à des décisions d’une telle importance.

En tant qu’éthicien, juriste et gardien de l’intérêt public, Ian Kerr a pour mission de chercher des réponses à ces questions et de proposer des mécanismes juridiques pour encadrer ces technologies dont l’évolution s’accélère. L’Université d’Ottawa est un milieu on ne peut plus propice aux activités du chercheur : l’établissement et la ville sont au carrefour de la recherche en haute technologie, des politiques gouvernementales et du droit.

« Il n’est pas exagéré de dire que la Faculté de droit de l’Université d’Ottawa est reconnue mondialement pour son expertise en droit des technologies – tant en matière de lois et de politiques qui encadrent l’IA, mais aussi quant à la robotique, aux chaînes de blocs, aux mégadonnées, à l’Internet et à la biotechnologie », dit-il.

Le chercheur tient aussi à faire participer les étudiants au débat et à les amener à penser autrement. Traditionnellement, le droit est un domaine qui cherche dans le passé les précédents qui guideront les jugements. Pour Ian Kerr, il est temps de changer ce paradigme et de tourner le droit vers l’avenir pour mieux anticiper les situations et prévoir des solutions.

Une belle chance pour l’humain de veiller à ce que les robots soient utilisés pour nous faire progresser, et non le contraire.


En 2015, l’Université d’Ottawa a lancé la campagne Défier les conventions, dont l’objectif est de 400 millions de dollars, pour recueillir des fonds à l’appui des priorités de chaque faculté. Cette campagne aidera l’Université à recruter les meilleurs candidats et à les retenir, ainsi qu’à enrichir l’expérience étudiante. Les dons serviront également à financer des projets d’immobilisations innovateurs.

Fonds pour le droit, la technologie, l’innovation, l’information et la protection des renseignements personnels

Les donateurs qui contribuent 500 $ et plus sont membres de la Société Tabaret

Appuyer financièrement l'innovation au moyen de bourses, d'activités de recherche et d'initiatives dans le champ de recherche du groupe d'innovation juridique en matière de technologie, d'information et de protection des renseignements personnels

Haut de page