Les experts appellent à interdire l’intelligence artificielle tueuse

Publié le lundi 6 novembre 2017

Ian Kerr

Le professeur Ian Kerr désire voir le Canada prendre position au sein de la campagne internationale visant à interdire les armes autonomes.

Par Bryan Demchinsky

Le Canada est un chef de file mondial dans le domaine de l’intelligence artificielle, l’un des plus importants en recherche de notre époque. Aujourd’hui, de grands chercheurs du domaine lancent une campagne pour veiller à ce que leurs travaux ne soient pas utilisés à mauvais escient.

Cinq des plus grands spécialistes de la recherche en intelligence artificielle, menés par Ian Kerr, de l’Université d’Ottawa, ont adressé une lettre ouverte au premier ministre Justin Trudeau l’exhortant à faire en sorte que le Canada se joigne à une initiative mondiale visant à interdire les armes employant l’intelligence artificielle.

« On ne voit pas souvent les chefs de file de l’industrie, scientifiques et technologistes, lancer un appel d’interdiction portant sur l’innovation – encore moins une interdiction totale », note le professeur Kerr, titulaire de Chaire de recherche du Canada en éthique, en droit et en technologie.

Il y a donc une urgence manifeste quant à prévenir la fabrication ou l’utilisation d’armes contrôlées par l’intelligence artificielle. Selon le chercheur, les enjeux sont trop graves pour qu’on agisse autrement.

« Quand on délègue des décisions de vie ou de mort à une machine, on franchit une ligne morale fondamentale, et ce, peu importe qui construit ou utilise ces machines », explique-t-il. « Cela va plus loin qu'une simple question fondamentale de droits de la personne : la décision d’interdire ou d’engager des armes autonomes touche à ce qu’il y a de plus profond dans notre humanité. »

Aucune supervision humaine

En bref, l’intelligence artificielle permet à un appareil (ordinateur, véhicule, robot) de fonctionner sans supervision ou intervention humaines. Quand cela concerne des armes, cela veut dire que les êtres humains n’ont plus le contrôle, en partie ou entièrement, de la cible à abattre – donc de leurs décisions.

Le professeur Kerr indique qu’il faut savoir écarter l’image de science-fiction qu’on rattache volontiers à un tel concept. « La plupart des spécialistes de l’intelligence artificielle ne sont pas préoccupés par l’idée que les machines puissent se soulever un jour contre les êtres humains », s’empresse-t-il de préciser. « On ne parle pas de Terminator ni de HAL dans 2001, l’Odyssée de l’espace. Il s’agit plutôt de l’imprévisibilité et des dangers dans le système qu’entraîne un processus de décision mené par une intelligence artificielle autonome et caractérisé par trop de vitesse et d’incompréhension. »

Bien qu’aucun État n’ait encore perfectionné d’armes autonomes, des rapports récents indiquent que certaines compagnies, comme le fabricant russe de Kalachnikov, pourraient bientôt y parvenir. Il n’y a pas si longtemps, l’idée d’armes contrôlées par une intelligence artificielle semblait lointaine dans notre esprit. Aujourd’hui, cela pourrait ne plus être qu’une question d’années, affirme le professeur Kerr, d’où le besoin d’agir sans tarder.

Le gouvernement canadien, qui a récemment octroyé 125 millions de dollars à trois établissements de recherche consacrés à l’intelligence artificielle (et amplement représentés parmi les signataires), désire que l’intelligence artificielle contribue à propulser l’économie nationale. On assiste donc à une situation sans précédent, fait remarquer le professeur Kerr, lorsque les dirigeants d’un milieu bénéficiant de tels fonds sont justement ceux qui demandent à ce qu’on freine l’utilisation de leur savoir.

Conférence de l’ONU

Dans le milieu international de l’intelligence artificielle, on s’attend à voir avancer l’appel à l’interdiction des armes autonomes lors d’une conférence qui aura lieu aux Nations Unies en novembre. Dix-neuf pays se sont déjà prononcés en faveur de l’interdiction. Le professeur Kerr espère que le Canada sera le vingtième.

À voir, car les experts canadiens sont en concurrence amicale avec leurs homologues australiens, qui pressent aussi leur gouvernement de décrocher cette vingtième place. Toby Walsh, professeur d’intelligence artificielle à l’Université de Nouvelle-Galles du Sud, mène en effet une pétition semblable dans son pays. Dans leur lettre ouverte à eux, 121 des plus grands chercheurs du domaine exhortent le premier ministre Malcolm Turnbull à prendre position contre la transformation de l’intelligence artificielle en armes.

« Nous ne disposons pas de beaucoup de temps pour agir », avertissent-ils. « Une fois que cette boîte de Pandore sera ouverte, nous aurons du mal à la refermer. »

Ian Kerr est un pionnier dans le domaine en développement des politiques et du droit de l’intelligence artificielle et de la robotique. À ce titre, il se trouvait avantageusement placé pour solliciter la collaboration des cosignataires de la lettre canadienne, qui dirigent des établissements de recherche technique sur l’intelligence artificielle. Avec plus de 200 signatures recueillies jusqu’à présent dans le milieu canadien de l’intelligence artificielle, tous les citoyens sont à présent invités à prendre la parole.

Le professeur Kerr se réjouit de constater que « le milieu technologique collabore avec celui des sciences humaines ». Il ajoute que compte tenu du potentiel de transformation sociale que recèle l’intelligence artificielle, il est déterminé à favoriser davantage de collaborations semblables.

« Ceux qui travaillent dans le domaine de l’intelligence artificielle n’ont aucun désir de se prononcer contre l’utilisation de la technologie dans l’armée », ajoute-t-il. « La question est de comprendre qu’on ne peut transformer l’intelligence artificielle en armes sans qu’il existe un contrôle humain significatif. »


Signez la lettre ouverte au premier ministre Trudeau

 

Haut de page