La mise en oeuvre de l’IA dans les organisations est-elle compatible avec une société éthique ?

Résumé

Cet article expose les compétences essentielles à la gestion de l’intelligence artificielle (IA) dans les organisations en mettant l’accent sur la dimension éthique, mais sans négliger les enjeux d’un point de vue managérial, technique, humain, inclusif et responsable. En effet, dans le contexte de changement associé à la transformation numérique, les organisations qui se numérisent, en intégrant l’IA, ont besoin d’identifier les enjeux éthiques et les compétences requises associées pour gérer des projets d’IA. Les enjeux liés au développement et à la gestion des projets d’IA sont complexes et différents de ceux liés à la gestion traditionnelle des projets informatiques. Cette complexité soulève des questions éthiques, juridiques et de responsabilité sociale (du point de vue de l’équité, de la diversité et de l’inclusion) en matière d’IA; celles-ci auront des implications sur les compétences attendues des gestionnaires de projets d’IA à l’avenir. Notre recherche visait à identifier ces enjeux et à les décrire en matière de compétences, ce que nous avons fait au moyen d’entrevues et de groupes de discussion avec des experts de la communauté de l’IA, dans le contexte plus large d’une recherche sur la gestion de l’IA. Cet article porte surtout sur les enjeux éthiques dégagés de notre revue des écrits et des rencontres avec des experts de l’IA et leur résonance dans l’écosystème d’IA québécois; nous nous concentrons donc ici sur les questions d’éthique, de transformation du marché du travail, de gouvernance et de responsabilité sociale. Cet article est organisé en sept parties : introduction, problématique, revue des écrits, méthodologie, résultats, discussion et conclusion. Nous présenterons ainsi les enjeux actuels de l’IA au Québec en matière de gestion éthique des technologies innovantes, ainsi que de la mutation des marchés du travail associée à l’IA. Ces enjeux clés ont été dégagés de nos entrevues de recherche, soit lors des 25 entrevues et des 3 groupes de discussion. Nous concluons par un ensemble de recommandations pour favoriser le changement en tenant compte des questions éthiques liées au virage vers l’IA.

Mots-clés :

• Gouvernance et éthique de l’IA,
• compétence en éthique,
• EDI (équité,
• diversité et inclusion),
• gestion de l’IA,
• écosystème québécois d’IA

Abstract

This article expounds the competencies that are essential for managing artificial intelligence (AI) in organizations, with emphasis on ethics, but also including the issues from a managerial, technical, human, inclusive and responsible point of view. In the context of change associated with digital transformation, organizations that are digitizing, by integrating AI, need to identify the ethical issues and the associated required competencies to manage AI projects. The issues related to the development and management of AI projects are complex and different from those related to traditional IT project management. This complexity raises ethical, legal and social responsibility questions regarding AI, from an equity, diversity and inclusion perspective. These will have implications for the competencies expected of AI project managers in the future. Our research aimed to identify these competency issues and describe them, which is done through interviews and focus groups with experts from the AI community, in the broader context of a research on AI management. This article focuses primarily on the ethical issues emerging from our review of written works and meetings with AI experts, and their resonance in the Quebec AI ecosystem. We therefore here focus on questions of ethics, labour market transformation, governance and social responsibility. This article is organized in seven parts: introduction, issues, literature review, methodology, results, discussion and conclusion. The current challenges of AI in Quebec are given in terms of ethical management of innovative technologies, as well as the transformation of labour markets associated with AI. These key issues were identified in our 25 research interviews and three focus groups. In conclusion is a set of recommendations to promote change while considering ethical issues linked to turning towards AI.