La croissance exponentielle de l’intelligence artificielle (IA) générative, avec sa part de révolution et de risques, a été qualifiée de “paradoxe du progrès” par Volker Türk, Haut-Commissaire des Nations Unies aux droits de l’homme, lors du Sommet sur l’intelligence artificielle générative et les droits humains en novembre 2023. Pour cause, l’IA générative, bien qu’elle puisse représenter une aubaine inespérée en facilitant notre façon de vivre ou de travailler, apporte également son lot de risques vastes et complexes en ce qui a trait à l’environnement, à la dignité et aux droits humains.
Comme les technologies numériques en général et l’IA générative en particulier ont la capacité inouïe de transformer les sociétés à une vitesse fulgurante, aucune législation d’aucun État n’a eu le temps de se pencher sur l’établissement des lois, des structures ou des paramètres pour encadrer les risques et les dérives de ces technologies. Il suffit de penser aux contrefaçons numériques et aux campagnes de désinformation sur les réseaux sociaux pour estimer l’ampleur du rôle que pourrait jouer l’IA lors, par exemple, de campagnes électorales et qui pourrait mener à la désinformation, à la manipulation et à la propagande. Sur le web clandestin (dark web), les vidéos hypertruquées (deepfakes) à caractère pornographique, c’est-à-dire des vidéos utilisant des images de personnes ordinaires dans des scénarios sexuels non consentants, souvent violents et dégradants, sont d’autres exemples d’utilisation malintentionnée de l’IA générative à des fins criminelles, d’intimidation ou d'extorsion. Il va sans dire que ce type d’utilisation malhonnête de nos images numériques pourra créer d’immense détresse aux victimes.
Sur le plan environnemental, les centres de données qui se multiplient partout dans le monde pour répondre aux besoins incessants de l’IA générative représentent un danger pour la population locale : humains, faune et flore confondus. Ces besoins se mesurent en des kilomètres carrés de terre sacrifiés pour implanter des centres de données aux allures de mastodontes, des millions de litres d’eau gaspillées et souillées quotidiennement pour refroidir les systèmes informatiques, et une forte consommation d’énergie, principalement produite à base de charbon ou de nucléaire, qui a pour résultat de faire exploser les taux d’émissions de carbone — tout comme le taux de détresse chez les populations affectées par l’expropriation des terres, le manque d’eau et la pollution des sols.
Sur le plan psychologique, les conséquences négatives de l’IA générative sont déjà appréciables. En effet, des chercheurs étudient présentement l’utilisation excessive de l’IA générative chez les étudiants et les professionnels, et constatent que ceux qui délèguent systématiquement les tâches complexes aux algorithmes de l’IA courent le risque de subir une diminution de leur capacité réflexive, ce qui pourrait mener subtilement à une perte du sentiment d’agentivité, de l’attention et de la pensée critique. Pour les personnes habituées à se confier à des agents conversationnels (chatbots) et autres systèmes génératifs, les risques de dépendance émotionnelle, de confusion du rôle de l’IA et de diminution des interactions sociales peuvent causer de la détresse psychologique.
En cette journée internationale Nelson Mandela, prenons le temps, nous — humains dotés de capacités naturelles extraordinaires —, de réfléchir à la place que nous donnons à l’IA générative dans nos vies et aux besoins que l’IA est réellement en mesure de combler. Demandons-nous quels gains l’IA nous permet-elle de faire et dans quels buts, de sorte à rendre notre utilisation de l’IA responsable et respectueuse des capacités et des limites de la Terre et des droits humains.
Références
UNU-INWEH Report: Aczel, M., Chamanara, S., Matin, M., Farsi, A., Marwala, T., Madani, K. (2026). Environmental Cost of AI's Energy Use: Carbon, Water and Land Footprints. United Nations University Institute for Water, Environment and Health (UNU-INWEH), Richmond Hill, Ontario, Canada. doi: 10.53328/INR26RMA002
Türk, V. (2023). Appel à une gouvernance attentive aux risques liés à l’intelligence artificielle et mettant l’accent sur les droits humains. Nations Unies. https://www.ohchr.org/fr/statements-and-speeches/2023/11/turk-calls-attentive-governance-artificial-intelligence-risks
