Interaction-Centered Design: Quenching the Thirst for Responsible and Trustworthy Human-AI Symbiosis (Séminaire)
2 déc. 2025 — 10 h
Résumé du séminaire
Les progrès de l’intelligence artificielle (IA) ont fait évoluer les machines de systèmes d’automatisation relativement simples à des systèmes dotés de fonctions autonomes qui augmentent les capacités humaines avec une efficacité et une efficience améliorées. Lorsque l’intelligence humaine et l’intelligence machine fusionnent et travaillent ensemble, en équipe, on est en voie de faire de la vision de la symbiose humain-ordinateur des années 1960 une réalité. La singularité est proche! Au fur et à mesure que l’IA devient omniprésente et capable de raisonnements et de décisions autonomes, elle modifie continuellement les rôles et responsabilités de l’humain dans son partenariat symbiotique avec la machine, lui faisant de plus en plus jouer un rôle de surveillance, tandis que les machines prennent davantage de décisions conceptuelles. La numérisation du monde n’a pas pour but de remplacer complètement l’apport de l’être humain, mais cette collision entre l’intelligence humaine et l’intelligence machine soulève des questions sur leur coexistence. L’accroissement du pouvoir de décision autonome intelligent des machines pose un risque et des problèmes de responsabilité et de confiance pour la sécurité publique, si l’on pense par exemple aux drones, aux voitures autonomes et aux robots de soins à domicile. Les exigences rigoureuses des systèmes autonomes basés sur l’IA ne constituent pas seulement un défi technique, mais un impératif de conception. Il est donc essentiel de concevoir un partenariat symbiotique collaboratif humain-IA pour faciliter les interactions dynamiques et les adaptations intelligentes aux changements, tant chez l’humain et la machine que dans l’environnement de travail.
Cependant, l’approche courante de conception centrée sur l’être humain n’est manifestement pas suffisante pour aborder les problèmes complexes d’interaction actuels lors du transfert du contrôle par l’humain à la prise de décision machine, qui est basée sur l’IA et se montre de plus en plus puissante. C’est l’une des principales causes des récents accidents catastrophiques d’avions et de véhicules autonomes. Il faut absolument trouver un nouveau paradigme de conception pour garantir un partenariat humain-IA sûr, responsable et digne de confiance. La conférence propose une méthode centrée sur l’interaction comme solution pour contrer une variété de problèmes de conception, de développement et d’opération liés aux technologies de symbiose humain-IA. Ce cadre particulier de conception a guidé l’élaboration de normes internationales et d’un livre blanc des Nations Unies qui s’attaquent à la question de l’interaction entre l’humain et l’IA. La solution technologique que représente la conception centrée sur l’interaction permet une collaboration humain-IA digne de confiance, efficace et responsable pour la prise de décision dans le contexte du processus d’engagement des armes; elle sera décrite comme une pratique exemplaire possible pour les spécialistes en recherche et les praticiennes et praticiens qui s’intéressent à la création et à l’utilisation des technologies de symbiose humain-IA du 21e siècle.
Mettant en vedette:
Ming Hou, Ph.D.
Conférencier
Ming Hou (Ph.D.) est scientifique principal et expert faisant autorité au sein du ministère de la Défense nationale (MDN) du Canada, conseiller auprès du programme de 1,6 milliard de dollars Innovation pour la défense, l’excellence et la sécurité (IDEeS) et gestionnaire du programme d’autonomie du projet de modernisation du NORAD de 38,6 milliards de dollars. Il est également un leader national canadien du Programme de coopération technique (TTCP) et conseiller principal auprès du Bureau du scientifique en chef de l’OTAN. Il est responsable de fournir aux décideuses et décideurs principaux du MDN et de ses organisations partenaires internationales, y compris les Nations Unies, des solutions technologiques de pointe, des conseils scientifiques et des recommandations de politiques fondées sur des données probantes en ce qui concerne les stratégies de science, de technologie et d’innovation dans les domaines de l’IA, de l’autonomie et de la téléprésence.
En tant qu’expert de renommée mondiale et chef de file en systèmes autonomes et en interactions humain-machine intelligentes, Ming Hou a dirigé, dans les vingt dernières années, des projets internationaux de normalisation militaire et des exercices à grande échelle. Son ouvrage Intelligent Adaptive Systems: An Interaction-Centered Design Perspective, (systèmes d’adaptation intelligents : perspective de la conception centrée sur l’interaction), édité à deux reprises, a eu beaucoup d’influence et fait autorité selon les spécialistes du milieu universitaire, de l’industrie, et des communautés de défense et de sécurité; il a en outre été reconnu comme une « lecture indispensable pour les scientifiques, les spécialistes en génie, les praticiennes et praticiens, les conceptrices et concepteurs, et toute personne intéressée par le développement et l’utilisation des technologies de symbiose humain-ordinateur du 21e siècle. » Son approche systémique de conception centrée sur l’interaction appliquée à l’autonomie et aux liens de collaboration symbiotiques entre l’humain et l’IA joue un rôle déterminant dans la génération 1) de solutions technologiques novatrices, notamment le premier système canadien de tutorat intelligent, le premier centre de commandement et de contrôle canadien pour les systèmes d’aéronefs télépilotés, et le premier système mondial d’aide à la décision basés sur l’IA pour l’engagement des armes; 2) de programmes canadiens d’innovation en science et technologie de l’autonomie; 3) de capacités émergentes, mais aussi perturbatrices pour la défense et la sécurité du Canada et de ses alliés; 4) de nouvelles normes de l’OTAN; et 5) du livre blanc des Nations Unies sur les systèmes d’armes autonomes.
Il est également fellow de l’Académie canadienne du génie et membre de l’Institute of Electrical and Electronics Engineers (IEEE). Il a reçu le prestigieux Prix d’excellence en science et technologie du MDN en 2020, le Prix du président pour réalisations exceptionnelles de l’Institut professionnel de la fonction publique du Canada en 2021 et le Prix de contribution exceptionnelle de l’IEEE en 2024. Il est également conférencier émérite de l’IEEE et un communicateur d’expérience très apprécié à l’échelle internationale, ayant à son actif plus de 200 présentations principales, tables rondes et conférences dans divers forums scientifiques et de défense d’importance. Il a été président général de la Conférence internationale 2024 de l’IEEE sur les systèmes humain-machine, ainsi que des symposiums internationaux sur l’excellence et la sécurité de la défense de 2024 à 2026. Ming Hou est aussi professeur auxiliaire à l’Université de Toronto et à l’Université de Calgary.