Biais cognitifs : introduction et implications pour l’IA
Selon Tversky et Kahneman (1974), les biais cognitifs sont des erreurs systématiques qui affectent et altèrent le processus de prise de décision. Ces biais se présentent comme des distorsions dans les jugements, résultant d’un traitement erroné de l’information. En outre, une bonne compréhension des biais peut augmenter la probabilité d’améliorer les jugements et les décisions, en particulier dans les situations d’incertitude.
Les biais, tant cognitifs qu’algorithmiques, représentent des défis importants dans la prise de décision et l’analyse des données.
Qu’il s’agisse de biais algorithmiques dans l’apprentissage automatique, qui peuvent générer des résultats injustes, ou de biais cognitifs tels que la confirmation, l’ancrage, la disponibilité, la représentativité et la sélection, ils influencent tous la manière dont nous interprétons et traitons les informations, souvent de manière involontaire. Il est essentiel de les comprendre pour minimiser leurs effets et garantir une plus grande objectivité.
Le tableau suivant présente les définitions de certains biais, selon les auteurs :
Type de biais
Définition
Biais algorithmique.
Le biais algorithmique se produit lorsqu’un algorithme génère des résultats injustes qui favorisent ou nuisent à certains groupes. Il s’agit d’une question cruciale dans la mise en œuvre des systèmes d’IA, en particulier dans des domaines sensibles tels que la sécurité et la justice pénale. Elle résulte de données d’entraînement déséquilibrées ou de décisions de conception influencées par des préjugés inconscients, produisant des résultats inexacts et potentiellement nuisibles (Garcia, 2024).
Biais de confirmation.
Ce biais fait référence à la tendance à chercher, interpréter et retenir des informations qui confirment des croyances préexistantes, tout en ignorant les preuves qui les contredisent (Kopitowski, 2016).
Biais d’ancrage.
Il est basé sur la confiance et signifie que seule la première information obtenue est prise en compte, sans qu’on se demande si elle est correcte ou inexacte (Blanc, s.d.).
Biais de disponibilité.
Il fait référence à la probabilité qu’un événement se produise ou à sa fréquence, en fonction de la facilité avec laquelle il est possible de se souvenir d’événements similaires (Blanc, n. d).
Biais de représentativité.
Il fait référence à la probabilité qu’un événement se produise ou à sa fréquence, en fonction de la facilité avec laquelle il est possible de se souvenir d’événements similaires (Blanc, n. d).
Biais statiques tels que le biais de corrélation illusoire.
Il se produit lorsqu’une fausse corrélation est établie entre deux variables, générant de la désinformation et mettant en évidence les limites inhérentes aux systèmes d’Intelligence artificielle (Hoza et coll., 2000)
Biais de sélection.
Le biais de sélection est une erreur systématique qui se produit en raison de la méthode utilisée pour sélectionner les sujets d’une étude et des facteurs qui affectent leur participation. Cela signifie que l’association entre l’exposition et la réponse chez les sujets analysés est différente de celle trouvée dans la population admissible en général (Rothman, 2024).
Coeckelbergh, en 2020, mentionne que les préjugés se réfèrent à une « discrimination positive ou négative à l’encontre d’individus ou de groupes particuliers ». Par exemple, dans un contexte éthique ou politique, il est nécessaire de déterminer si une forme spécifique de partialité est juste ou injuste. Les préjugés sont des schémas systématiques de déviation de la norme ou de la rationalité dans le jugement humain. Ils modifient la perception de la réalité et peuvent conduire à des interprétations ou à des décisions qui manquent de logique. Ce sont des raccourcis mentaux qui, bien qu’ils conduisent parfois à des erreurs, nous aident également à traiter rapidement les informations.
Les biais cognitifs influencent les performances et les résultats des modèles de réseaux neuronaux d’IA. Par conséquent, les biais cognitifs représentent un mécanisme qui altère à la fois le jugement et le traitement de l’information. Ces biais peuvent provenir aussi bien de l’intelligence humaine que de l’intelligence artificielle. Dans le cas de l’IA, les biais cognitifs ont la particularité de fausser les résultats, d’amplifier les risques et donc les réactions psychologiques des utilisateurs.
En mettant l’accent sur ce qui précède, Coeckelbergh 2020 affirme que les biais peuvent provenir non seulement d’ensembles de données incomplets, mais aussi d’une mauvaise qualité des données, ce qui conduit à des prédictions basées sur une quantité insuffisante d’informations. En outre, le manque de diversité au sein des équipes de développement de l’IA et des scientifiques des données continue de susciter de vives inquiétudes. Dans ce contexte, les décisions biaisées ont un impact considérable tant au niveau individuel que communautaire. Toutefois, ces biais peuvent être atténués par des techniques telles que l’augmentation des données, la régularisation et la mise en œuvre de méthodes d’évaluation rigoureuses, qui garantissent que les modèles sont capables de se généraliser de manière appropriée, même lorsque les données ne sont pas totalement représentatives.
Références
- Blanc, B. F. L. (S.F) Sesgos cognitivos, toma de decisiones e inteligencia artificial a reflexión.
- Coeckelbergh, Mark. (2020). AI ethics. Hoe omgaan met artificiële intelligentie?
- Gracia, J. L. B. (2024). El Sesgo algorítmico en la inteligencia artificial. Implicaciones para la seguridad global y la política criminal. GEOCONFLICTS & INTELLIGENCE: Revista sobre Seguridad Global y Terrorismo, 2(2), 183-203.
- Hoza, B., Waschbusch, D. A., Pelham, W. E., Molina, B. S. G., & Milich, R. (2000). Attention-Deficit / Hyperactivity Disordered and Control Boys ’ Responses to Social Success and Failure. 71(2), 432–446
- Kopitowski, K. (2016). La falacia de la evidencia incompleta o “cherry picking”. Evidencia, actualizacion en la práctica ambulatoria, 19(2).
- Martín, L., & Álvarez, A. (2000). Sesgos cognoscitivos del gerente: su influencia en la toma de decisiones. Revista Cubana de Salud Pública, 26(1), 5-11. Recuperado de: http://scielo.sld.cu/scielo.php?script=sci_arttext&pid=S0864-34662000000100001
- Rothman, K. J., Huybrechts, K. F., & Murray, E. J. (2024). Epidemiology: an introduction. Oxford university press.
- Tversky, A., y Kahneman, D. (1974). El juicio bajo incertidumbre: heurísticas y sesgos. Pensar rápido, pensar despacio. Buenos Aires: Debate.
0 Comments