L’IA générative offre des avantages considérables, mais, comme toutes les technologies, elle comporte des risques importants. Dans un monde confronté à la crise climatique, aux inégalités et aux menaces qui pèsent sur la démocratie, nous devons nous poser la question suivante : à partir de quel moment les inconvénients surpassent ils les avantages? En examinant les coûts de l’IA, nous aidons à déterminer quels outils méritent d’être utilisés, lesquels nécessitent une réglementation plus stricte ou lesquels doivent être évités à tout prix.

Le coût de l’intelligence : évaluer les risques liés à l’IA

Une question à se poser face à une nouvelle technologie est la suivante : quel coût est trop élevé? Qu’est-ce qui peut compromettre l’adoption d’une technologie donnée? Cette question est prise en compte dans le domaine médical, par exemple, et fait l’objet d’une réglementation gouvernementale. Si un médicament entraîne trop d’effets indésirables, il est retiré du marché (ou n’est tout simplement pas commercialisé), même s’il présente par ailleurs des avantages. À l’ère de la crise climatique, des inégalités sociales et économiques croissantes, de l’insécurité, des menaces grandissantes pour la vérité et la démocratie, à quel moment les inconvénients de l’IA générative l’emportent-ils sur ses avantages? C’est une question à laquelle il faut sérieusement réfléchir. Lorsque les créateurs d’IA eux-mêmes déclenchent l’alarme en affirmant que l’IA pourrait menacer la survie de l’humanité, aussi faible que soit ce risque, est-il judicieux d’adopter précipitamment l’utilisation de l’IA pour « ne pas être en retard »?

Afin d’encourager la réflexion et la prudence, ce guide commence par examiner les coûts de l’IA. En passant en revue les inconvénients actuels et potentiels de l’IA générative, vous pourriez décider que ceux-ci constituent un obstacle à l’utilisation de ces outils dans leur état actuel et largement non réglementé. Vous pourriez également décider de plaider en faveur d’une réglementation plus stricte du développement et du déploiement de l’IA. Ou encore, vous pourriez décider de continuer à utiliser l’IA générative, mais avec modération et en tenant compte des coûts.

Certains préjudices causés par les grands modèles de langage (GML)

Rebecca Sweetman, de l’université Queen’s, décrit une série d’inconvénients associés aux grands modèles linguistiques, la technologie fondamentale à la base de nombreux outils d’IA générative. Sa liste constitue un point de départ essentiel pour comprendre les impacts réels de ces systèmes.

schéma illustrant le cycle de la conception, du développement, de l’opérationnalisation et de l’héritage futur, classé selon l’environnement, l’économie et les normes sociales ainsi que la reproduction des savoirs. La catégorie environnement présente “EMPReINTE CARBONE” à l’étape de conception, n’entraînant aucun effet lors de l’opérationnalisation ni dans l’héritage futur. La catégorie économie présente “INDUSTRIES EXTRACTIVES” à l’étape de conception, menant à “TRAVAIL EXTRACTIF DES UTILISATEURS, PROPRIÉT