Controleverlies en “zwarte doos”
Het doel van dit hoofdstuk is om de aard van de “zwarte doos” in veel Artificiële Intelligentie (AI)-systemen te benadrukken en te analyseren hoe dit kenmerk een gevoel van controleverlies kan veroorzaken bij werkgevers en werknemers.
We verkennen het concept van de “zwarte doos”, dat kan worden gedefinieerd als een intrinsiek kenmerk van veel AI-systemen. Deze eigenschap maakt het niet alleen moeilijk om besluitvormingsprocessen te begrijpen, maar levert ook problemen op bij het voorspellen van zowel hun keuzes als uitkomsten (Bathaee, 2018).
Van een “zwarte doos” is sprake wanneer een algoritme zo complex is dat het onbegrijpelijk is voor mensen, maar er wel op vertrouwd wordt dat het een correct antwoord genereert op een gegeven input. Deze term weerspiegelt het gebrek aan transparantie van de interne werking, zelfs als de prestaties betrouwbaar zijn (Giró & Gil, 2022).
In het vorige hoofdstuk hebben we het gehad over hoe neurale netwerken werken, maar de vraag hier is: waar eindigt een neuraal netwerk? We willen deze vraag beantwoorden omdat, als een neuraal netwerk eenmaal getraind is, het een black box wordt. Dit kan tot problemen leiden, want als het neurale netwerk een onverwacht resultaat geeft, is het niet altijd mogelijk om de oorzaak te achterhalen (Scheire, 2023).
Figuur 1 laat zien dat de mate van kennis over de werking van zwarte dozen voor besluitvorming op verschillende niveaus kan variëren. Op een eerste transparantieniveau zou het mogelijk zijn om toegang te krijgen tot de code van de algoritmen die verantwoordelijk zijn voor het verwerken van de gegevens. Op een tweede niveau zou het mogelijk zijn om het gedrag van het algoritme te begrijpen, vooral in het geval van algoritmen die gebaseerd zijn op automatisch leren, waardoor het mogelijk zou zijn om te analyseren hoe het werkt. Op een derde niveau, ten slotte, zou het mogelijk zijn om de rechtvaardiging te kennen van elke beslissing die het algoritme in een bepaalde context neemt (Cotino Hueso & Castellanos Claramunt, 2022).
“Zwarte doos” modellen, zoals neurale netwerken, worden gekenmerkt door hun hoge nauwkeurigheid en hun vermogen om complexe Use Cases te verwerken. Door hun vage structuur zijn ze echter niet eenvoudig te interpreteren. Dit gebrek aan verklaarbaarheid kan ertoe leiden dat ze worden vervangen door “Witte doos” modellen, die wel direct interpreteerbaar zijn. Dit is met name relevant in kritieke toepassingen met een hoog risico, waar het essentieel is om de stabiliteit van de werking te garanderen, of in gereguleerde sectoren, waar transparantie in de besluitvorming een onmisbare vereiste is (Cotino Hueso & Castellanos Claramunt, 2022).
De verklaarbaarheid van “zwarte doos”-modellen blijft een voortdurende onderzoeksuitdaging. Een van de huidige strategieën om het begrip ervan te verbeteren is het gebruik van algoritmen die het neurale netwerk onderzoeken en de inputen en overeenkomstige outputen die het genereert evalueren. Deze analyse maakt het mogelijk om een direct interpreteerbaar model te construeren dat het gedrag van de “zwarte doos” en het besluitvormingsproces kan verklaren, zij het niet volledig (Cotino Hueso & Castellanos Claramunt, 2022).
Sommige AI-systemen werken als “zwarte dozen”, wat betekent dat hun interne processen niet gemakkelijk te begrijpen zijn door gebruikers of zelfs door hun eigen ontwikkelaars.
Sommige AI-systemen werken als “zwarte dozen”, wat betekent dat hun interne processen niet gemakkelijk te begrijpen zijn door gebruikers of zelfs door hun eigen ontwikkelaars. Dit kan zorgen oproepen over de betrouwbaarheid, ethiek en controleerbaarheid van hun beslissingen. Om dit probleem op te lossen is het essentieel om verklaringsmaatregelen toe te passen, d.w.z. strategieën die erop gericht zijn om beter te begrijpen hoe deze systemen werken en hoe ze tot hun resultaten komen:
- Ten eerste traceerbaarheid, door het vastleggen van de gegevens en processen die betrokken zijn bij de AI-besluitvorming, zodat de voortgang kan worden gevolgd en eventuele fouten kunnen worden opgespoord.
- Ten tweede controleerbaarheid, door deskundigen of regelgevers in staat te stellen het systeem te onderzoeken om te controleren of het voldoet aan de beginselen van transparantie en eerlijkheid.
- Ten derde transparante communicatie door gebruikers duidelijk te informeren over de mogelijkheden en beperkingen van AI, waarbij overdrijvingen of valse verwachtingen over wat AI kan doen, worden vermeden. Het doel van deze maatregelen is om AI-systemen begrijpelijker, verantwoordelijker en betrouwbaarder te maken, met name op gebieden zoals gezondheid en justitie, waar hun beslissingen een grote impact kunnen hebben.
Referenties
- BATHAEE, Y. (2018). “The Artificial Intelligence Black Box and the Failure of Intent and Causation”. En Harvard Journal of Law & Technology, vol. 31(2) pág. 905. Véase también, PARALAMENTO EUROPEO (2020). Resolución 2020/2012(INL), Op. cit., apartado 23.
- Costino Hueso, L., & Castellanos Claramunt, J. (Eds.). (2022). Transparencia y explicabilidad de la inteligencia artificial. Tirant lo Blanch.
- Giró Gràcia, X., & Sancho Gil, J. M. (2022). La Inteligencia Artificial en la educación: Big data, cajas negras y solucionismo tecnológico.
0 Comments