Abstracts
Résumé
Les systèmes d’intelligence artificielle (SIA) sont en plein essor. Si leur utilisation procure des avantages indéniables, elle expose également à des risques. Dans le domaine du travail et de l’emploi, les SIA pourraient, entre autres, amplifier les biais, source de discrimination à l’endroit des groupes déjà marginalisés. Pour limiter ces risques, encadrer juridiquement les SIA est aujourd’hui une nécessité. Or, au Canada, le texte contenant la Loi sur l’intelligence artificielle et les données (LIAD) censée le faire est depuis mort au feuilleton. S’appuyant sur une démarche comparatiste, l’étude entend, premièrement, montrer que le dispositif juridique actuel du Canada est insuffisant pour contrer adéquatement les discriminations algorithmiques. L’article fait état, deuxièmement, d’éléments à prendre en compte lors de l’élaboration d’une nouvelle loi fédérale sur les SIA.
Mots-clés :
- EDIA,
- SIA,
- Discrimination,
- Algorithme,
- Canada
Abstract
Artificial intelligence systems (AIS) are booming. While their use brings undeniable benefits, it also carries risks. In the field of work and employment, AIS could, among other things, amplify biases – a source of discrimination against already marginalized groups. To mitigate these risks, legally regulating AIS is now a necessity. However, in Canada, the Bill to enact the Artificial Intelligence and Data Act (AIDA), which was intended to do this, has since died on the order paper. Drawing on a comparative approach, the study aims, first, to show that Canada's current legal framework is insufficient to adequately counter algorithmic discrimination. Second, the article outlines elements to consider when developing a new federal legislation on AIS.
Keywords:
- EDIA,
- AIS,
- Discrimination,
- Algorithm,
- Canada
Appendices
Bibliographie
- Amani, B. (2021). A I and “Equality by design”. Artificial Intelligence and the Law in Canada. LexisNexis Canada.
- Ancel, B. (2024). L’intelligence artificielle au XXIe siècle : outil juridique fiable ou amplificateur d’injustices ? Petites affiches, (5), 11.
- Beaudry, C., Deschênes, A. A., et Sanni Yaya, M. (2025). La gestion de l’équité, de la diversité, de l’inclusion et de l’accessibilité en milieu de travail: Du diagnostic au plan d’action. Presses Universitaires du Québec.
- Bélisle-Pipon, J. C., Monteferrante, E., Roy, M. C. et Couture, V. (2023). Artificial intelligence ethics has a black box problem. AI & Society, 38(4), 1507–1522.https://doi.org/10.1007/s00146-022-01519-4
- Bigman, Y. E., Wilson, D., Arnestad, M. N., Waytz, A. et Gray, K. (2023). Algorithmic discrimination causes less moral outrage than human discrimination. Journal of Experimental Psychology: General, 152(1), 4–17.https://doi.org/10.1037/xge0001243
- Blin-Franchomme, M.-P. (2021). Le défi d’une IA inclusive et responsable. Droit social, (2), 100–105.
- Bolgouras, V., Zarras, A., Leka, C., Stylianou, I., Farao, A., & Xenakis, C. (2025). EU regulatory ecosystem for ethical AI. AI and Ethics, 1–18. https://doi.org/10.1007/s43681-024-00546-3
- Bougherara, A. (2024). AI Act : décryptage de la nouvelle réglementation européenne sur l’intelligence artificielle. Les Petites Affiches, (12), 7–9.
- Brandusescu, A. et Sieber, R. E. (2025). Missed opportunities in AI regulation: Lessons from Canada’s AI and Data Act. Data & Policy, 7, e40.https://doi.org/10.1017/dap.2025.25
- Briggs, J. et Kodnani, D. (2023). The Potentially Large Effects of Artificial Intelligence on Economic Growth. Goldman Sachs.
- Brown, D. (2023). Canada’s proposed Artificial Intelligence and Data Act (AIDA): A critical review. SSRN. https://doi.org/10.2139/ssrn.4687995
- Burkell, J. et Bailey, J. (2018). Unlawful distinctions? Canadian human rights law and algorithmic bias. Canadian Yearbook of Human Rights, 217.
- Cachat-Rosset, G. (2024). L’intelligence artificielle : fossoyeuse ou meilleure alliée de l’équité, de la diversité et de l’inclusion ? Dans Parent-Rocheleau, X. et Ollier-Malaterre, A. (dir.), Le management à l’ère numérique (p. 65-76), Presses de l’Université du Québec.
- Castets-Renard, C. et Sandoval, K. (2025). Discrimination de genre et intelligence artificielle (IA): pour une interprétation féministe du règlement européen sur l’IA (AI Act). Recueil Dalloz, (30), 1430.
- Charest, E. A. (2012). Programme d’accès à l’égalité: réactions managériales au cadre légal québécois pour combattre la discrimination. [Thèse de doctorat, Université de Montréal].
- Commission de l’éthique en science et en technologie. (2023). La gestion algorithmique de la main-d’oeuvre : analyse des enjeux éthiques. Gouvernement du Québec. https://www.ethique.gouv.qc.ca/wp-content/uploads/eq5lu33j_cest_gestion-algorithmique_enjeux-ethiques.pdf
- Cukier, W., Kasimov, A. et Parking. A. (2025). Réaction négative envers l’équité, la diversité et l’inclusion ? Ce que les travailleuses et travailleurs canadiens pensent vraiment. Diversity Institute. https://www.torontomu.ca/content/dam/diversity/reports/edi-backlash/edi-backlash-report-fr.pdf
- Daban, B. (2025). Les législations canadiennes et européennes face aux biais discriminatoires de l’intelligence artificielle. Revue Juridique Thémis, 58(2).
- Dilhac, M. A., Abrassart, C. et Voarino, N. (2018). Rapport de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. https://declarationmontreal-iaresponsable.com/
- Diversity Institute. (2025). Guide on Applying Inclusion, Diversity, Equity and Accessibility Within Climate-Resilient Infrastructure. https://www.torontomu.ca/content/dam/diversity/standards/Guide%20on%20Applying%20IDEA%20Within%20Climate-Resilient%20Infrastructure.pdf
- Echaiz, L. F. (2025). Le droit à l’égalité canadien et québécois face à la discrimination algorithmique [Mémoire de maîtrise, Université du Québec à Montréal].
- Fitriyah, A. et Abdulovna, D. D. (2024). EU's AI Regulation Approaches and Their Implication for Human Rights. Media Iuris, 7(3).
- Fountain, J. E. (2022). The moon, the ghetto and artificial intelligence: Reducing systemic racism in computational algorithms. Government Information Quarterly, 39(2), 101645. https://doi.org/10.1016/j.giq.2021.101645
- Gaon, A. et Reinfeld, Y. (2024). The Implications of the EU's New AI Regulation: A Comprehensive Analysis for Canada. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4986407
- Hacker, P. (2018). Teaching fairness to artificial intelligence: existing and novel strategies against algorithmic discrimination under EU law. Common market law review, 55(4), 1143–1187.
- Hassija, V., Chamola, V., Mahapatra, A., Singal, A., Goel, D., Huang, K. et Hussain, A. (2024). Interpreting black-box models: A review on explainable artificial intelligence. Cognitive Computation, 16(1), 45–74. https://doi.org/10.1007/s12559-023-10139-5
- Heckendorn Urscheler, L. (2021). La comparaison juridique au XXIe siècle au service de la modernisation du droit. Dans C. Lima Marques & G. Cerqueira (dir.), Comparaison et modernisation du droit à l’aube du XXIe siècle (pp. 119–128). Legis comparée.
- Henderson, B., Flood, C. M. et Scassa, T. (2022). Artificial intelligence in Canadian healthcare: will the law protect us from algorithmic bias resulting in discrimination?. Canadian Journal of Law and Technology, 19(2), 475-522.
- Jacob, S. et Brousseau, S. (2025). Quand l’algorithme décide: L’État, l’IA et nous. Presses de l’Université Laval.
- Karadeglija, A. (2025, 23 octobre). L’UE souhaite réglementer l’IA alors que le Canada préfère une politique d’adoption. La Presse. https://www.lapresse.ca/affaires/techno/2025-10-23/l-ue-souhaite-reglementer-l-ia-alors-que-le-canada-prefere-une-politique-d-adoption.php
- Karazivan, N. (2025). L’application de la Charte canadienne des droits et libertés : L’article 32. Dans E. Mendes & S. Beaulac (dir.), Canadian Charter of Rights and Freedoms (6e éd.). LexisNexis.
- Kim, P. T. (2016). Data-driven discrimination at work. Wm. & Mary L. Rev., 58, 857. Data-driven discrimination at work. William & Mary Law Review, 58, 857–936. https://scholarship.law.wm.edu/wmlr/vol58/iss3/3/
- Krishnamurthy, V. (2021). AI and Human Rights Law. Dans Scassa, T. et Martin-Bariteau, F. (dir.), Artificial Intelligence and the Law in Canada. LexisNexis Canada.
- Kullmann, M. (2018). Platform work, algorithmic decision-making, and EU gender equality law. International Journal of Comparative Labour Law and Industrial Relations, 34(1), 1-22.
- Lacroux, A. et Martin-Lacroux, C. (2021). L’intelligence artificielle au service de la lutte contre les discriminations dans le recrutement : Nouvelles promesses et nouveaux risques. Management & Avenir, 122(2), 121–142. https://doi.org/10.3917/mav.122.0121
- Leuprecht, P. (2005). Contraindre le fort pour affranchir le faible. Relations, 705. https://cjf.qc.ca/revue-relations/publication/article/contraindre-le-fort-pour-affranchir-le-faible/.
- Loiseau, G. (2023). Le traitement algorithmique des émotions du travailleur. Droit social. (11), 889.
- Mason, R. (2024). L’article 15 de la Charte canadienne des droits et libertés: l’évolution de la conception de la Cour suprême du Canada du droit à l’égalité garanti par la Charte. Bibliothèque du Parlement.
- Maxwell, W. (2024). La régulation de l’intelligence artificielle aux États-Unis. Action publique. Recherche et pratiques, 23(4), 32-40.
- Merabet, M. (2025). Règlement sur l’intelligence artificielle : les principales obligations applicables aux systèmes d’intelligence artificielle. Gazette du Palais, n° GPL471y5, 30.
- Migliore, E. (2024). Le règlement sur l’intelligence artificielle enfin publié. Retour sur les dispositions principales. Dalloz actualités.
- Ministère de la Justice du Canada. (2024) Charte canadienne des droits et libertés (Chartepédia). Gouvernement du Canada.
- Morton, E. (2021). L’intelligence artificielle : Appréhender les risques de discrimination [Mémoire de maîtrise, Université de Montréal].
- Nunes, D. (2024). De nouveaux vecteurs d’inégalités systémiques de genre : les discriminations algorithmiques dans le recrutement. Revue de droit du travail, 568
- Ouimet, H. (2022). Travail plus: le travail et vos droits. Wilson & Lafleur.
- Panaccio, C. M. (2022). L’article 15 de la Charte canadienne et les distributions trop limitées : La revanche d’Aristote (redux, vf). Revue générale de droit, 52, 29–78.https://doi.org/10.7202/1096751ar
- Parent-Rocheleau, X., Bujold, A., Gaudet, M. C., Gagné, M. et Lirio, P. (2021). La gestion algorithmique de la main-d’oeuvre : Mise en lumière des impacts sur les travailleurs et des bonnes pratiques. Rapport de recherche.https://biblos.hec.ca/biblio/depot_seul/Rapport_CRSH.pdf
- Payette, D., et Torrie, V. (2020). AI Governance in Canadian Banking: Fairness, Credit Models, and Equality Rights. Banking & Finance Law Review, 36(1), 5-38.
- Pons, R., et Risser, L. (2022). Biais et discriminations dans les systèmes d'intelligence artificielle. Dalloz IP/IT.
- Scassa, T. (2023). Regulating AI in Canada: A critical look at the proposed Artificial Intelligence and Data Act. Canadian Bar Review., 101, 1.
- Sénéchal, J. (2025). Approche pluridisciplinaire de la donnée – La donnée : une notion juridique ? Gazette du Palais, hors-série 3, 11.
- Tremblay Potvin, C. et Gilbert Tremblay, U. (2023). Juridicité, normativité et scientificité du concept de discrimination systémique. Revue de droit de l’Université de Sherbrooke, 52(2), 311-378.
- UNESCO. (2022). Recommandation sur l’éthique de l’intelligence artificielle. Bibliothèque numérique de l’Unesco, 2. https://unesdoc.unesco.org/ark:/48223/pf0000381137_fre
- Wischmeyer, T. (2019). Artificial intelligence and transparency: Opening the black box. Dans T. Wischmeyer & T. Rademacher (dir.), Regulating artificial intelligence (pp. 75–101). Springer International Publishing.https://doi.org/10.1007/978-3-030-32361-5_4
- Zimbile, C. (2023). Les algorithmes et la discrimination dans les relations de travail. Revue de Droit Social, 2023.
- Zuiderveen Borgesius, F. (2018). Discrimination, intelligence artificielle et décisions algorithmiques. Étude à l’intention du Service anti-discrimination du Conseil de l’Europe. Strasbourg: Conseil de l’Europe.
10.7202/1121238arRéférences légales
- An act to add Chapter 25.1 (commencing with Section 22757.10) to Division 8 of the Business and Professions Code, to add Section 11546.8 to the Government Code, and to add Chapter 5.1 (commencing with Section 1107) to Part 3 of Division 2 of the Labor Code, relating to artificial intelligence (SB-53 Artificial intelligence models: large developers)
- Charte canadienne des droits et libertés, partie I de la Loi constitutionnelle de 1982, constituant l’annexe B de la Loi de 1982 sur le Canada (R-U), 1982, c 11
- Executive Order 14151 of January 20, 2025. Ending Radical and Wasteful Government DEI Programs and Preferencing. Federal Register. Vol. 90, No. 18 / Wednesday, January 29, 2025
- Executive Order 14179 of January 23, 2025. Removing Barriers to American Leadership in Artificial Intelligence. Federal Register. Vol. 90, No. 20, Friday, January 31, 2025
- Loi canadienne sur les droits de la personne, LRC 1985, c H-6
- Loi de 2024 visant à oeuvrer pour les travailleurs, quatre, LO 2024, c 3
- Loi édictant la Loi sur la protection de la vie privée des consommateurs, la Loi sur le Tribunal de la protection des renseignements personnels et des données et la Loi sur l’intelligence artificielle et les données et apportant des modifications corrélatives et connexes à d’autres lois ou, de son titre abrégé, la Loi de 2022 sur la mise en oeuvre de la Charte du numérique, projet de loi n° C-27 (dépôt en 2e lecture – 24 avril 2024), 1re sess., 44e légis. (Can.)
- Loi modernisant des dispositions législatives en matière de protection des renseignements personnels, LQ 2021, c 25
- Loi sur l’accès aux documents des organismes publics et sur la protection des renseignements personnels, RLRQ c A-2.1
- Loi sur le système correctionnel et la mise en liberté sous condition, LC 1992, c 20
- Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) no 300/2008, (UE) no 167/2013, (UE) no 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828, J.O.U.E. 1689, 12 juillet 2024
- Alliance de la fonction publique du Canada c. Canada (Ministère de la Défense nationale) (C.A.), [1996] 3 CF 789
- Andrews v. Law Society of British Columbia, 1989 CanLII 2 (SCC), [1989] 1 SCR 143
- Banda c. Service correctionnel du Canada, 2024 TCDP 89
- Christoforou c. John Grant Haulage Ltd., 2020 TCDP 33
- Colombie‑Britannique (Public Service Employee Relations Commission) c. BCGSEU, [1999] 3 R.C.S. 3
- Commission des droits de la personne et des droits de la jeunesse c. Bombardier Inc., 2015 CSC 39
- Commission ontarienne des droits de la personne c. Simpsons-Sears, 1985 CanLII 18 CSC
- Dickson c. Vuntut Gwitchin First Nation, 2024 CSC 10
- Dulce Crowchild c. Nation Tsuut’ina, 2020 TCDP 6
- Fitzgerald v. Toronto Police Services Board, 2019 HRTO 22
- Law c. Canada (Ministre de l’Emploi et de l’Immigration), [1999] 1 R.C.S. 497
- R. c. Kapp, 2008 CSC 41, [2008] 2 R.C.S. 483
- State v Loomis, 371 Wis. 2d 235
- Students for Fair Admissions v. Harvard, 600 U.S. 181 (2023)