Sesgos cognitivos: su introducción y repercusiones en la IA
Según Tversky y Kahneman (1974), los sesgos cognitivos son errores sistemáticos que afectan y alteran el proceso de toma de decisiones. Estos sesgos se presentan como distorsiones en los juicios, derivadas de un procesamiento erróneo de la información. Además, una comprensión adecuada de los sesgos puede aumentar la probabilidad de mejorar los juicios y las decisiones, especialmente en situaciones de incertidumbre.
Los sesgos, tanto en el ámbito cognitivo como en el algorítmico, representan desafíos significativos en la toma de decisiones y en el análisis de datos. Desde el sesgo algorítmico en machine learning, que puede generar resultados injustos, hasta sesgos cognitivos como el de confirmación, anclaje, disponibilidad, representatividad y selección, todos ellos influyen en cómo interpretamos y procesamos la información, a menudo de manera involuntaria.
Su comprensión es clave para minimizar sus efectos y garantizar mayor objetividad, en la siguiente tabla se pueden ver las definiciones de algunos sesgos, según autores. :
Tipo de sesgo
Définition
Sesgo algorítmico
ocurre cuando un algoritmo genera resultados injustos que favorecen o perjudican a ciertos grupos. Es un problema crítico en la implementación de sistemas de IA, especialmente en áreas sensibles como la seguridad y la justicia criminal. Surge por datos de entrenamiento desequilibrados o decisiones de diseño influenciadas por prejuicios inconscientes, produciendo resultados inexactos y potencialmente perjudiciales (Garcia, 2024).
Sesgo de confirmación
se refiere a la tendencia de buscar, interpretar y retener información que confirma las creencias preexistentes, mientras que se ignoran las evidencias que las contradicen (Kopitowski, 2016).
Sesgo de anclaje
se basa en la confianza y hace que solo se considere la primera información obtenida, sin cuestionar si es correcta o inexacta (Blanc, s.f).
Sesgo de disponibilidad
se refiere a la probabilidad de que un evento ocurra o su frecuencia, dependiendo de lo fácil que sea recordar eventos similares (Blanc, s.f).
Sesgo de representatividad
Se refiere al juicio que considera un evento como probable si parece representar a una clase mayor, basándose en la relación percibida entre una muestra y una población (Martín & Álvarez, 2000).
sesgos estáticos como el sesgo de correlación ilusorio
Ocurre cuando se establece una falsa correlación entre dos variables, generando desinformación y resaltando los límites inherentes de los sistemas de Inteligencia Artificial (Hoza et al., 2000)
Sesgo de selección
El sesgo de selección es un error sistemático que ocurre debido al método empleado para seleccionar a los sujetos de un estudio y los factores que afectan su participación. Esto provoca que la asociación entre exposición y respuesta en los sujetos analizados sea diferente a la que se encontraría en la población elegible en general (Rothman, 2024).
Coeckelbergh en el 2020, menciona que los sesgos hacen alusión a “la discriminación positiva o negativa contra determinadas personas o grupos”. Por ejemplo, en un contexto ético o político, es necesario determinar si una forma específica de prejuicio es justa o injusta. Los sesgos son patrones sistemáticos de desviación de la norma o de la racionalidad en el juicio humano. Estos sesgos alteran la percepción de la realidad y pueden llevarnos a interpretaciones o decisiones que carecen de lógica. Son atajos mentales que, aunque a veces nos conducen a errores, también nos ayudan a procesar la información de manera rápida.
Los sesgos cognitivos influyen en el rendimiento y los resultados de los modelos de redes neuronales de la IA. En consecuencia, los sesgos cognitivos representan un mecanismo que deteriora tanto el juicio como el procesamiento de la información. Estos sesgos pueden originarse tanto en la inteligencia humana como en la Inteligencia Artificial. En el caso de la IA, los sesgos cognitivos tienen la particularidad de distorsionar los resultados, amplificando los riesgos y, por ende, las reacciones psicológicas de los usuarios.
Con énfasis en lo anterior, Coeckelbergh 2020 sostiene que los sesgos no solo pueden surgir a partir de conjuntos de datos incompletos, sino también debido a la baja calidad de los datos, lo que conduce a predicciones basadas en una cantidad insuficiente de información. Además, persiste una preocupación significativa sobre la falta de diversidad en los equipos de desarrollo de Inteligencia Artificial y científicos de datos. En este contexto, las decisiones sesgadas tienen un impacto considerable tanto a nivel individual como comunitario. No obstante, estos sesgos pueden ser mitigados a través de técnicas como el aumento de datos, la regularización y la implementación de métodos rigurosos de evaluación, lo que garantiza que los modelos sean capaces de generalizar de manera adecuada, incluso cuando los datos no son completamente representativos.
Referencias
- Blanc, B. F. L. (S.F) Sesgos cognitivos, toma de decisiones e Inteligencia Artificial a reflexión.
- Coeckelbergh, Mark. (2020). AI ethics. Hoe omgaan met artificiële intelligentie?
- Gracia, J. L. B. (2024). El Sesgo algorítmico en la Inteligencia Artificial. Implicaciones para la seguridad global y la política criminal. GEOCONFLICTS & INTELLIGENCE: Revista sobre Seguridad Global y Terrorismo, 2(2), 183-203.
- Hoza, B., Waschbusch, D. A., Pelham, W. E., Molina, B. S. G., & Milich, R. (2000). Attention-Deficit / Hyperactivity Disordered and Control Boys ’ Responses to Social Success and Failure. 71(2), 432–446
- Kopitowski, K. (2016). La falacia de la evidencia incompleta o “cherry picking”. Evidencia, actualizacion en la práctica ambulatoria, 19(2).
- Martín, L., & Álvarez, A. (2000). Sesgos cognoscitivos del gerente: su influencia en la toma de decisiones. Revista Cubana de Salud Pública, 26(1), 5-11. Recuperado de: http://scielo.sld.cu/scielo.php?script=sci_arttext&pid=S0864-34662000000100001
- Rothman, K. J., Huybrechts, K. F., & Murray, E. J. (2024). Epidemiology: an introduction. Oxford university press.
- Tversky, A., y Kahneman, D. (1974). El juicio bajo incertidumbre: heurísticas y sesgos. Pensar rápido, pensar despacio. Buenos Aires: Debate.
0 Comments