Voir comme une erreur algorithmique : Que sont les erreurs algorithmiques, pourquoi sont-elles importantes, comment peuvent-elles devenir un problème public ?

Avec la prolifération des appareils numériques, des ensembles de données massives et des techniques d’apprentissage automatique, les algorithmes informatiques façonnent de nombreuses dynamiques sociales, politiques et culturelles, et ce, de manière croissante, invisible et souvent inexplicable. Dans tous les domaines, du droit et de la politique au commerce et à l’art, les algorithmes sont de puissantes logiques structurantes et des forces sociotechniques. Mais que signifie « l’échec » des algorithmes ? Qu’apprenons-nous sur les logiques et les forces qui créent les algorithmes lorsqu’on les perçoit comme ayant commis une erreur ? En considérant les algorithmes comme une culture, je soutiens que les erreurs algorithmiques sont des constructions construites par des forces informatiques, psychologiques, organisationnelles, infrastructurelles, discursives et normatives entrelacées. Dans cette conférence, je raconterai trois histoires d’erreurs algorithmiques, j’illustrerai leur dynamique sociotechnique et j’examinerai les forces institutionnelles et normatives qui définissent « l’échec. » Au lieu de considérer les erreurs algorithmiques comme inévitables ou évidentes, je les vois plutôt comme une preuve de la façon dont les gens pensent que les systèmes devraient fonctionner, de qui a le pouvoir de déclarer l’échec, de quels préjudices dépendent les corrections, et de la façon dont la définition et la réparation des erreurs algorithmiques délimitent les problèmes publics.