Perte de contrôle et “boîte noire”
L’objectif de cette section est de mettre en évidence la nature de la “boîte noire” dans de nombreux systèmes d’intelligence artificielle (IA) et d’analyser comment cette caractéristique peut générer un sentiment de perte de contrôle chez les employeurs et les employés.
Nous explorerons le concept de “boîte noire”, qui peut être défini comme une caractéristique intrinsèque de nombreux systèmes d’Intelligence Artificielle. Cette caractéristique rend non seulement difficile la compréhension des processus de prise de décision, mais pose également des problèmes pour prédire à la fois leurs choix et leurs résultats (Bathaee, 2018).
On parle de “boîte noire” lorsqu’un algorithme est si complexe qu’il est incompréhensible pour les humains, mais qu’on lui fait confiance pour générer une réponse correcte à une entrée donnée. Ce terme reflète le manque de transparence de son fonctionnement interne, même si ses performances sont fiables (Giró & Gil, 2022).
Dans le chapitre précédent, nous avons parlé du fonctionnement des réseaux neuronaux, mais la question qui se pose ici est la suivante : où s’arrête un réseau neuronal ? Nous souhaitons répondre à cette question, car après la formation d’un réseau neuronal final, celui-ci devient une boîte noire. Cela peut entraîner des problèmes, car si le réseau neuronal produit un résultat inattendu, il n’est pas toujours possible d’en identifier la cause (Scheire, 2023).
La figure 1 montre que le degré de connaissance du fonctionnement des “boîtes noires” décisionnelles peut varier à différents niveaux. À un premier niveau de transparence, il serait possible d’accéder au code des algorithmes chargés de traiter les données. À un deuxième niveau, il serait possible de comprendre le comportement de l’algorithme, notamment dans le cas de ceux basés sur l’apprentissage automatique, ce qui permettrait d’analyser son fonctionnement. Enfin, à un troisième niveau, il serait possible de connaître la justification de chaque décision prise par l’algorithme dans un contexte donné (Cotino Hueso & Castellanos Claramunt, 2022).
Les modèles à “boîte noire”, tels que les réseaux neuronaux, se distinguent par leur grande précision et leur capacité à traiter des cas d’utilisation complexes. Toutefois, en raison de leur structure floue, ils ne peuvent pas être facilement interprétés. Ce manque d’explicabilité peut conduire à leur remplacement par des modèles à boîte blanche, qui sont directement interprétables. Ceci est particulièrement pertinent dans les applications critiques à haut risque, où il est essentiel de garantir la stabilité de leur fonctionnement, ou dans les secteurs réglementés, où la transparence dans la prise de décision est une exigence indispensable (Cotino Hueso & Castellanos Claramunt, 2022).
L’explicabilité des modèles de “boîte noire” reste un défi permanent pour la recherche. L’une des stratégies actuelles pour améliorer leur compréhension consiste à utiliser des algorithmes qui examinent le réseau neuronal, en évaluant les entrées et les sorties correspondantes qu’il génère. Cette analyse permet de construire un modèle directement interprétable qui permet d’expliquer, même si ce n’est pas complètement, le comportement de la “boîte noire” et son processus de prise de décision (Cotino Hueso & Castellanos Claramunt, 2022).
Certains systèmes d’IA fonctionnent comme des “boîtes noires”, ce qui signifie que leurs processus internes ne sont pas facilement compréhensibles pour les utilisateurs ou même pour leurs propres développeurs. Cela peut susciter des inquiétudes quant à la fiabilité, l’éthique et la responsabilité de leurs décisions. Pour résoudre ce problème, il est essentiel d’appliquer des mesures d’explicabilité, c’est-à-dire des stratégies visant à mieux comprendre le fonctionnement de ces systèmes et la manière dont ils parviennent à leurs résultats :
- Premièrement, la traçabilité en enregistrant les données et les processus impliqués dans la prise de décision en matière d’IA afin de suivre son évolution et de détecter d’éventuelles erreurs.
- Deuxièmement, l’auditabilité, en permettant à des experts ou à des régulateurs d’examiner le système pour vérifier qu’il est conforme aux principes de transparence et d’équité.
- Troisièmement, une communication transparente en informant clairement les utilisateurs des capacités et des limites de l’IA, en évitant les exagérations ou les fausses attentes quant à ce qu’elle peut faire. L’objectif de ces mesures est de faire en sorte que les systèmes d’IA soient plus compréhensibles, responsables et dignes de confiance, en particulier dans des domaines tels que la santé et la justice, où leurs décisions peuvent avoir un impact majeur.
Références
- BATHAEE, Y. (2018). “The Artificial Intelligence Black Box and the Failure of Intent and Causation”. En Harvard Journal of Law & Technology, vol. 31(2) pág. 905. Véase también, PARALAMENTO EUROPEO (2020). Resolución 2020/2012(INL), Op. cit., apartado 23.
- Costino Hueso, L., & Castellanos Claramunt, J. (Eds.). (2022). Transparencia y explicabilidad de la inteligencia artificial. Tirant lo Blanch.
- Giró Gràcia, X., & Sancho Gil, J. M. (2022). La Inteligencia Artificial en la educación: Big data, cajas negras y solucionismo tecnológico.
0 Comments