Cognitieve biassen inleiding en implicaties voor AI
Volgens Tversky en Kahneman (1974) zijn cognitieve vertekeningen systematische fouten die het besluitvormingsproces beïnvloeden en veranderen. Deze vertekeningen nemen de vorm aan van vertekeningen in oordelen, die het gevolg zijn van een onjuiste verwerking van informatie. Bovendien kan een goed begrip van biases de kans op betere oordelen en beslissingen vergroten, vooral in onzekere situaties.
Biassen, zowel cognitieve als algoritmische, vormen een belangrijke uitdaging bij het nemen van beslissingen en het analyseren van gegevens. Van algoritmische vertekeningen in machinaal leren, die oneerlijke resultaten kunnen genereren, tot cognitieve vertekeningen zoals bevestiging, verankering, beschikbaarheid, representativiteit en selectie, ze beïnvloeden allemaal de manier waarop we informatie interpreteren en verwerken, vaak onbedoeld. Inzicht hierin is essentieel om hun effecten te minimaliseren en een grotere objectiviteit te garanderen. De volgende tabel toont de definities van bepaalde Biassen volgens de auteurs.
Le tableau suivant présente les définitions de certains biais, selon les auteurs :
Soort biassen
Definitie
Algoritmische biassen
Verwijst naar de neiging om informatie te zoeken, te interpreteren en vast te houden die al bestaande overtuigingen bevestigt, terwijl bewijs wordt genegeerd dat deze tegenspreekt (Kopitowski, 2016).
Bias voor bevestiging
Ce biais fait référence à la tendance à chercher, interpréter et retenir des informations qui confirment des croyances préexistantes, tout en ignorant les preuves qui les contredisent (Kopitowski, 2016).
Verankering biassen
Het is gebaseerd op vertrouwen en betekent dat alleen de eerste verkregen informatie in aanmerking wordt genomen, zonder zich af te vragen of deze correct of onnauwkeurig is (Blanc, nd).
Biassen bij beschikbaarheid
Verwijst naar de waarschijnlijkheid dat een gebeurtenis zich voordoet of de frequentie ervan, afhankelijk van hoe gemakkelijk het is om soortgelijke gebeurtenissen te onthouden (Blanc, nd).
Representativiteit biassen
Het verwijst naar het oordeel dat een gebeurtenis als waarschijnlijk beschouwt als deze een grotere klasse lijkt te vertegenwoordigen, op basis van de waargenomen relatie tussen een steekproef en een populatie (Martín & Álvarez, 2000).
Statische biassen zoals illusoire correlatiebias
Het treedt op wanneer een valse correlatie wordt vastgesteld tussen twee variabelen, waardoor verkeerde informatie wordt gegenereerd en de inherente beperkingen van Artificiële -Intelligentiesystemen worden benadrukt (Hoza et al., 2000)
Selectie bias
Selectiebias is een systematische fout die optreedt als gevolg van de methode die wordt gebruikt om proefpersonen voor een onderzoek te selecteren en de factoren die van invloed zijn op hun deelname. Dit betekent dat het verband tussen blootstelling en respons bij de geanalyseerde proefpersonen verschilt van dat bij de in aanmerking komende populatie in het algemeen (Rothman, 2024).
Coeckelbergh, in 2020, vermeldt dat vooroordelen verwijzen naar “positieve of negatieve discriminatie van bepaalde individuen of groepen”. In een ethische of politieke context is het bijvoorbeeld nodig om te bepalen of een specifieke vorm van vooroordeel eerlijk of oneerlijk is. Biassen zijn systematische patronen van afwijkingen van de norm of rationaliteit in het menselijk oordeel. Ze wijzigen de perceptie van de werkelijkheid en kunnen leiden tot interpretaties of beslissingen die niet logisch zijn. Het zijn mentale snelkoppelingen die, hoewel ze soms tot fouten leiden, ons ook helpen om informatie snel te verwerken.
Cognitieve vertekeningen beïnvloeden de prestaties en resultaten van AI neurale netwerkmodellen. Cognitieve biassen vertegenwoordigen dus een mechanisme dat zowel het beoordelingsvermogen als de informatieverwerking verandert. Deze vooroordelen kunnen afkomstig zijn van zowel menselijke als Artificiële Intelligentie. In het geval van AI hebben cognitieve biassen het bijzondere kenmerk dat ze resultaten vervormen, risico’s vergroten en daardoor de psychologische reacties van gebruikers versterken.
In het licht van het bovenstaande stelt Coeckelbergh 2020 dat vertekeningen niet alleen het gevolg kunnen zijn van onvolledige datasets, maar ook van slechte gegevenskwaliteit, wat leidt tot voorspellingen op basis van onvoldoende informatie. Daarnaast blijft het gebrek aan diversiteit binnen AI-ontwikkelteams en datawetenschappers een groot probleem. In deze context hebben bevooroordeelde beslissingen een aanzienlijke impact op zowel individueel als gemeenschapsniveau. Deze vertekeningen kunnen echter worden beperkt door technieken zoals gegevensvergroting, regularisatie en de implementatie van strenge evaluatiemethoden die ervoor zorgen dat modellen op de juiste manier kunnen generaliseren, zelfs als de gegevens niet volledig representatief zijn.
Referenties
- Blanc, B. F. L. (S.F) Sesgos cognitivos, toma de decisiones e inteligencia artificial a reflexión.
- Coeckelbergh, Mark. (2020). AI ethics. Hoe omgaan met artificiële intelligentie?
- Gracia, J. L. B. (2024). El Sesgo algorítmico en la inteligencia artificial. Implicaciones para la seguridad global y la política criminal. GEOCONFLICTS & INTELLIGENCE: Revista sobre Seguridad Global y Terrorismo, 2(2), 183-203.
- Hoza, B., Waschbusch, D. A., Pelham, W. E., Molina, B. S. G., & Milich, R. (2000). Attention-Deficit / Hyperactivity Disordered and Control Boys ’ Responses to Social Success and Failure. 71(2), 432–446
- Kopitowski, K. (2016). La falacia de la evidencia incompleta o “cherry picking”. Evidencia, actualizacion en la práctica ambulatoria, 19(2).
- Martín, L., & Álvarez, A. (2000). Sesgos cognoscitivos del gerente: su influencia en la toma de decisiones. Revista Cubana de Salud Pública, 26(1), 5-11. Recuperado de: http://scielo.sld.cu/scielo.php?script=sci_arttext&pid=S0864-34662000000100001
- Rothman, K. J., Huybrechts, K. F., & Murray, E. J. (2024). Epidemiology: an introduction. Oxford university press.
- Tversky, A., y Kahneman, D. (1974). El juicio bajo incertidumbre: heurísticas y sesgos. Pensar rápido, pensar despacio. Buenos Aires: Debate.
0 Comments