Les risques et les défis de l’utilisation de l’IA dans le contexte professionnel

Il est essentiel de souligner les risques associés à l’introduction de l’IA dans l’environnement de travail, à savoir :

1. la désinformation, qui fournit des informations trompeuses aux différents acteurs et fausse les résultats, entraînant une perte de lien avec la réalité du travail lui-même ;
2. la discrimination et la toxicité de l’IA, la création et l’utilisation d’informations discriminatoires et toxiques pouvant avoir des conséquences juridiques, compte tenu de leur lien avec les questions éthiques ;
3. les acteurs malveillants et l’abus de l’IA, étant donné qu’il n’existe pas encore de réglementation adéquate pour contrôler l’utilisation de l’IA au sein des entreprises ;
4. les nouvelles règles et restrictions découlant des interactions « homme-machine » qui résultent de l’utilisation de l’IA ;
5. les menaces supplémentaires pour la vie privée et la sécurité des systèmes d’information que l’IA apporte ;
6. les nouveaux dommages socio-économiques et environnementaux causés par l’adoption de l’IA ; et enfin,
7. la sécurité, les bogues et les limites des systèmes d’IA (AI Risk Repository, 2024).

L’un des risques spécifiques liés à l’introduction de l’IA est l’impact de son interface sur l’interaction avec l’utilisateur. S’il existe un risque lié aux réactions psychologiques des utilisateurs lors de l’interaction avec les systèmes d’IA, les entreprises et leurs employés risquent de devenir trop dépendants de cette technologie, ce qui pourrait entraîner une perte d’autonomie et une délégation exagérée des tâches au détriment de l’intervention et du jugement humains (AI Risk Repository, 2024).

Outre les risques liés aux abus et aux acteurs malveillants, ceux liés au manque de protection de la vie privée et à la sécurité des systèmes d’information relèvent de la responsabilité des entreprises.

Pour relever ces défis, des réglementations et des normes telles que le GDPR (General Data Protection Regulation), NIS 2 (Network and Information Security 2) et ISO27001 (Information Security Management System) ont été élaborées pour aider les organisations à renforcer la protection de l’information.

Toutefois, comme indiqué précédemment, l’IA peut également causer des dommages socio-économiques, soit indirectement, en amplifiant d’autres risques, soit directement, lorsqu’elle est utilisée pour centraliser le pouvoir de décision et les profits des entreprises. En outre, ce risque se matérialise lorsque l’IA contribue à déshumaniser le travail, à réduire la qualité de l’emploi, à supprimer des emplois ou à favoriser de nouvelles formes de discrimination entre les utilisateurs et les concepteurs. Enfin, si les centres de données et l’IA offrent simplicité et efficacité dans leur utilisation, ils représentent un risque environnemental important en raison de leur forte consommation d’énergie (AI Risk Repository, 2024).

Comme mentionné ci-dessus, les biais liés aux données représentent l’un des défis éthiques les plus importants auxquels l’IA est confrontée. Les algorithmes sont souvent influencés par des biais inhérents aux données utilisées, et le grand défi consiste à s’assurer que ces biais sont traités de manière neutre et équitable, en évitant des conséquences négatives ou positives injustifiées (Baeza, 2021, cité dans González, 2024).

Les données massives, communément appelées Big Data, ont généré d’importantes perturbations en termes de vie privée et de sécurité dans le traitement des données personnelles. Il est donc proposé aux gouvernements de mettre en place des cadres éthiques et juridiques qui garantissent à la fois le bien-être de la population et la protection de ses informations (Arrigain, 2020). Dans ce contexte, ce ne sont pas seulement les personnes conscientes de l’utilisation des technologies de l’IA qui sont concernées, mais aussi les groupes vulnérables et facilement manipulables, tels que les enfants et les personnes âgées.

En outre, les grandes entreprises profitent et s’enrichissent en collectant des données générées gratuitement par les utilisateurs en général (Coeckelbergh, 2020).

Risques de l’IA dans le contexte du travail: l’automatisation est l’un des risques les plus importants de l’utilisation de l‘IA dans les contextes de travail, car elle peut entraîner un chômage structurel, en particulier dans les tâches routinières et répétitives, par exemple, Foxconn a supprimé 60 000 emplois après avoir introduit des robots dans ses processus (Corvalán, 2019, p. 38). Dans le même sens, Goñi, 2019 souligne que l’automatisation massive pourrait réduire l’interaction humaine dans l’environnement de travail et affecter sa qualité, générant une déshumanisation de l’emploi.

Un autre des risques associés à l’intelligence artificielle sur le lieu de travail est l’inégalité et la polarisation de la main-d’œuvre, qui affecte la demande de travailleurs moyennement qualifiés. À mesure que l’automatisation progresse, on assiste à une augmentation de l’embauche d’employés hautement qualifiés pour des tâches spécialisées et d’employés peu qualifiés pour des emplois moins complexes, ce qui creuse l’écart salarial et génère une répartition inégale des opportunités sur le marché du travail (Bravo et al., 2018, pp. 13-14).

Dans le même sens, les employés sont exposés à des dispositifs numériques qui permettent une surveillance invasive, affectant leur vie privée et générant des risques de surveillance de l’entreprise, ce qui génère une vulnérabilité des données personnelles (Goñi, 2019, pp. 63-64). De même, la discrimination dans la sélection des candidats devient un risque, car elle peut renforcer les biais d’embauche si les algorithmes ne sont pas bien conçus, ce qui nuit à l’équité dans l’accès à l’emploi (Cheatham et al., 2019).

Défis de l’IA dans le contexte du travail : une formation constante, qui nécessite une transformation du marché du travail axée sur l’IA, exigeant des travailleurs qu’ils adoptent une approche d’apprentissage tout au long de la vie. L’adaptation à un environnement automatisé implique l’acquisition de compétences numériques avancées, incluant la pensée créative et l’intelligence émotionnelle, éléments clés pour collaborer avec les technologies émergentes (Corvalán, 2019, pp. 43-44). L’éducation et le développement professionnel doivent s’adapter aux nouvelles exigences de l’emploi, en promouvant des programmes de formation qui garantissent l’insertion effective des travailleurs dans l’ère numérique.

La législation et la réglementation doivent également être mises en place pour atténuer les effets négatifs de l’automatisation, principalement en établissant un cadre juridique solide qui protège les droits des travailleurs et garantit une utilisation éthique de l’IA. L’Union européenne a progressé dans l’élaboration de propositions législatives qui traitent de l’impact de l’IA sur l’emploi, en promouvant des réglementations qui garantissent la transparence et l’équité dans leur mise en œuvre (Parra et Concha, 2021, p. 9). Ces réglementations sont essentielles pour éviter les pratiques discriminatoires et pour définir les limites de l’automatisation des processus de travail.

En ce qui concerne l’humanisation de l’IA, la « co-bobotisation », entendue comme la collaboration entre les humains et les machines, représente une alternative pour intégrer l’IA sans remplacer complètement le travail humain. Dans ce modèle, la technologie agit comme un complément, renforçant les capacités des travailleurs et permettant une intelligence accrue dans la gestion des tâches professionnelles (Corvalán, 2019, pp. 44-45). Cette interaction équilibrée pourrait optimiser la productivité et améliorer la qualité des emplois sans générer un remplacement total des travailleurs par des systèmes automatisés.

En termes de protection de la vie privée, l’utilisation d’outils numériques sur le lieu de travail a suscité des inquiétudes concernant la vie privée des employés. La collecte massive de données, le suivi constant et la surveillance numérique peuvent affecter les droits individuels, nécessitant des mécanismes de protection qui régulent la gestion des informations personnelles au sein des entreprises (Goñi, 2019, pp. 63-64).

Pour éviter les violations, les organisations doivent garantir une utilisation responsable des systèmes d’IA, en veillant à ce que la vie privée et le bien-être des travailleurs ne soient pas violés.

Comme dernier défi majeur, l’idée d’une reconfiguration du marché du travail doit être envisagée, car si l’IA peut remplacer certaines professions, elle est également à l’origine de la création de nouvelles opportunités dans des modalités telles que le travail en freelance et l’économie collaborative. La numérisation permet le développement de formes d’emploi plus flexibles, où les travailleurs peuvent adapter leurs compétences aux secteurs émergents et participer à des projets dynamiques sans dépendre exclusivement d’employeurs traditionnels (Corvalán, 2019, pp. 42-43). Cette transformation nécessite une mise à jour constante des compétences pour tirer parti des avantages d’un environnement de travail numérisé.

Références

• Arrigain García, I. (2020). Regulación de las invenciones relacionadas con Inteligencia Artificial en el campo de la Propiedad Intelectual. Universidad Pontifica Comillas. 
• Bravo, J., García, A. y Schlechter, H. (2018). Automatización e inteligencia artificial: desafíos del mercado laboral. Centro Latinoamericano de Políticas Económicas y Sociales.
• Cheatham, B., Javanmardian, K. y Samandari, H. (2019, 26 de abril). Enfrentando los riesgos de la inteligencia artificial. McKinsey & Company. https://www.mckinsey.com/capabilities/ quantumblack/our-insights/confronting-the-risks-of-artificial intelligence/es-CL#/
• Corvalán, J. G. (2019). El impacto de la inteligencia artificial en el trabajo. Revista de Direito Econômico e Socioambiental, 10(1), 35 51. https://doi.org/10.7213/rev.dir.econ.soc.v10i1.25870
• Coeckelbergh, Mark. (2020). AI ethics. Hoe omgaan met artificiële intelligentie? 
• González, N (2024). Algunos parámetros jurídicos y éticos en torno a la inteligencia artificial. Una visión humanista de la tecnología. Editoral ABC
• Goñi, J. L. (2019). Innovaciones tecnológicas, inteligencia artificial y derechos humanos en el trabajo. Documentación Laboral, 2(117), 57-72. https://dialnet.unirioja.es/servlet/ articulo?codigo=7095888
• Massachusetts Institute of Technology. (n.d.). The AI Risk Repository. Retrieved April 26, 2025, from https://airisk.mit.edu/
• Parra, D. y Concha, R. (2021). Inteligencia artificial y derecho. Problemas, desafíos y oportunidades. Vniversitas, 70, 1-25. https://doi.org/10.11144/Javeriana.vj70.iadp

Droit de l’IA : des règles différentes pour des niveaux de risque différents

Le nouveau règlement établit des obligations pour les fournisseurs et les utilisateurs en fonction du niveau de classification des risques de l’IA. Si de nombreux systèmes d’IA ne présentent qu’un risque minime, tous doivent être évalués.

Risque inacceptable

Les systèmes d’IA présentant un risque inacceptable qui sont interdits dans l’UE sont les suivants :

• Manipulation cognitive du comportement d’individus ou de groupes vulnérables spécifiques : par exemple, les jouets à commande vocale qui encouragent les comportements dangereux chez les enfants
• Notation sociale : classification des individus sur la base de leur comportement, de leur statut socio-économique ou de leurs caractéristiques personnelles
• Systèmes d’identification biométrique en temps réel et à distance, tels que la reconnaissance faciale dans les espaces publics

Il y a quelques exceptions à cette qualification. Par exemple, les systèmes d’identification biométrique à distance “a posteriori”, où l’identification a lieu après un délai important, seront autorisés pour la poursuite de crimes graves et seulement s’il y a une approbation judiciaire préalable.

Risque élevé

Les systèmes d’IA qui portent atteinte à la sécurité ou aux droits fondamentaux sont considérés comme présentant un risque élevé et sont divisés en deux catégories.

1. Les systèmes d’IA utilisés dans des produits soumis à la législation européenne sur la sécurité des produits. Il s’agit notamment des jouets, de l’aviation, des automobiles, des appareils médicaux et des ascenseurs.
2. Les systèmes d’IA appartenant à huit domaines spécifiques doivent être enregistrés dans une base de données de l’UE
   • L’identification biométrique et la catégorisation des personnes physiques ;
   • La gestion et l’exploitation des infrastructures critiques ;
   • L’éducation et la formation professionnelle ;
   • L’emploi, la gestion des travailleurs et l’accès au travail indépendant ;
   • L’accès aux services privés essentiels et aux services et prestations publics et la jouissance de ces services et prestations ;
   • Gestion des migrations, de l’asile et des contrôles aux frontières ;
   • L’assistance en matière d’interprétation et d’application de la loi.

Tous les systèmes d’IA à haut risque seront évalués avant leur mise sur le marché et tout au long de leur cycle de vie. Les citoyens auront le droit de déposer des plaintes concernant les systèmes d’IA auprès d’autorités nationales spécifiques.

Exigences en matière de transparence

L’IA générative, telle que ChatGPT, ne sera pas considérée comme présentant un risque élevé, mais devra se conformer aux exigences de transparence et à la législation de l’UE en matière de droits d’auteur :

• Révéler que le contenu a été généré par l’IA ;
• Concevoir le modèle pour éviter qu’il ne génère du contenu illégal ;
• Publier des résumés des données protégées par le droit d’auteur utilisées pour la formation ;

Les modèles d’IA à usage général ayant un impact élevé et susceptibles de présenter un risque systémique, tels que le modèle d’IA de pointe GPT-4, devront faire l’objet d’évaluations approfondies et signaler tout incident grave à la Commission.

Pour une gestion humaine de l’Intelligence Artificielle : une introduction par l’éthique et la gouvernance

(1) Pour une gestion humaine de l’Intelligence Artificielle : une introduction par l’éthique et la gouvernance (Partie 1)

(2) Pour une gestion humaine de l’Intelligence Artificielle : une introduction par l’éthique et la gouvernance (Partie 2)

(3) Pour une gestion humaine de l’Intelligence Artificielle : une introduction par l’éthique et la gouvernance (Partie 3)

(4) Pour une gestion humaine de l’Intelligence Artificielle : une introduction par l’éthique et la gouvernance (Partie 4)

(5) Pour une gestion humaine de l’Intelligence Artificielle : une introduction par l’éthique et la gouvernance (Partie 5)

(6) Pour une gestion humaine de l’Intelligence Artificielle : une introduction par l’éthique et la gouvernance (Partie 6)

(7) Pour une gestion humaine de l’Intelligence Artificielle : une introduction par l’éthique et la gouvernance (Partie 7)