De risico’s en uitdagingen van het gebruik van AI in de professionele context
Het is van essentieel belang om de risico’s van de invoering van AI in de werkomgeving te benadrukken, namelijk:
- verkeerde informatie, die misleidende informatie verschaft aan verschillende belanghebbenden en de resultaten vertekent, waardoor het verband met de realiteit van het werk zelf verloren gaat;
- discriminatie en toxiciteit van AI, waarbij het creëren en gebruiken van discriminerende en toxische informatie juridische gevolgen kan hebben, gezien het verband met ethische kwesties;
- kwaadwillende actoren en misbruik van AI, aangezien er nog geen adequate regelgeving is om het gebruik van AI binnen bedrijven te controleren;
- nieuwe regels en beperkingen die voortvloeien uit interacties tussen mens en machine als gevolg van het gebruik van AI;
- de bijkomende bedreigingen voor de privacy en de veiligheid van informatiesystemen die AI met zich meebrengt;
- de nieuwe sociaaleconomische en milieuschade als gevolg van de toepassing van AI; en tot slot,
- de veiligheid, bugs en beperkingen van AI-systemen (AI Risk Repository, 2024).
Een van de specifieke risico’s van de introductie van AI is de impact van de interface op de interactie met gebruikers. Als er een risico bestaat in verband met de psychologische reacties van gebruikers bij interactie met AI-systemen, bestaat het risico dat bedrijven en hun werknemers te afhankelijk worden van deze technologie, wat kan leiden tot een verlies aan autonomie en overdreven delegatie van taken ten koste van menselijke tussenkomst en beoordelingsvermogen (AI Risk Repository, 2024).
Naast de risico’s die samenhangen met misbruik en kwaadwillende actoren, vallen ook de risico’s die samenhangen met het gebrek aan bescherming van de privacy en de beveiliging van informatiesystemen onder de verantwoordelijkheid van bedrijven.
Om deze uitdagingen aan te gaan, zijn er voorschriften en normen zoals GDPR (General Data Protection Regulation), NIS 2 (Network and Information Security 2) en ISO27001 (Information Security Management System) ontwikkeld om organisaties te helpen de informatiebescherming te versterken. Zoals hierboven vermeld, kan AI echter ook sociaaleconomische schade veroorzaken, hetzij indirect door andere risico’s te versterken, hetzij direct wanneer het wordt gebruikt om de beslissingsbevoegdheid en bedrijfswinsten te centraliseren. Daarnaast ontstaat dit risico wanneer AI bijdraagt aan het ontmenselijken van werk, het verminderen van de kwaliteit van werkgelegenheid, het schrappen van banen of het aanmoedigen van nieuwe vormen van discriminatie tussen gebruikers en ontwerpers. Tot slot vormen datacenters en AI, hoewel ze eenvoud en efficiëntie in hun gebruik bieden, een aanzienlijk milieurisico door hun hoge energieverbruik (AI Risk Repository, 2024).
Zoals hierboven vermeld, is gegevensvertekening een van de grootste ethische uitdagingen voor AI. Algoritmen worden vaak beïnvloed door vooroordelen die inherent zijn aan de gebruikte gegevens, en de grote uitdaging is om ervoor te zorgen dat deze vooroordelen neutraal en eerlijk worden behandeld, zodat ongerechtvaardigde negatieve of positieve gevolgen worden vermeden (Baeza, 2021, geciteerd in González, 2024).
Massa’s gegevens, beter bekend als Big Data, hebben grote verstoringen teweeggebracht op het gebied van privacy en veiligheid bij de verwerking van persoonlijke gegevens. Daarom wordt voorgesteld dat overheden ethische en wettelijke kaders opzetten die zowel het welzijn van de bevolking als de bescherming van hun informatie garanderen (Arrigain, 2020). In deze context zijn niet alleen mensen die zich bewust zijn van het gebruik van AI-technologieën bezorgd, maar ook kwetsbare en gemakkelijk te manipuleren groepen zoals kinderen en ouderen. Daarnaast profiteren en verrijken grote bedrijven zich door het verzamelen van gegevens die gratis worden gegenereerd door gebruikers in het algemeen (Coeckelbergh, 2020).
AI-risico’s op de werkplek: Automatisering is een van de belangrijkste risico’s van het gebruik van AI in werkcontexten, omdat het kan leiden tot structurele werkloosheid, vooral bij routinematige en repetitieve taken. Foxconn heeft bijvoorbeeld 60.000 banen geschrapt na de introductie van robots in zijn processen (Corvalán, 2019, p. 38). In dezelfde geest wijst Goñi, 2019 erop dat massale automatisering de menselijke interactie in de werkomgeving kan verminderen en de kwaliteit ervan kan aantasten, waardoor een ontmenselijking van de werkgelegenheid ontstaat.
Een ander risico dat in verband wordt gebracht met Artificiële Intelligentie op de werkplek is de ongelijkheid en polarisatie van de beroepsbevolking, waardoor de vraag naar middelmatig geschoolde werknemers wordt beïnvloed. Naarmate de automatisering voortschrijdt, neemt het aantal hoogopgeleide werknemers voor gespecialiseerde taken toe en het aantal laagopgeleide werknemers voor minder complexe taken, waardoor de loonkloof breder wordt en de kansen op de arbeidsmarkt ongelijk verdeeld raken (Bravo et al., 2018, pp. 13-14).
In dezelfde zin worden werknemers blootgesteld aan digitale apparaten die invasieve bewaking mogelijk maken, waardoor hun privacy wordt aangetast en er risico’s van bedrijfsbewaking ontstaan, wat kwetsbaarheid van persoonlijke gegevens genereert (Goñi, 2019, pp. 63-64). Op dezelfde manier wordt discriminatie bij de selectie van kandidaten een risico, omdat het vooroordelen bij aanwerving kan versterken als algoritmen niet goed zijn ontworpen, waardoor de eerlijkheid bij de toegang tot werk wordt ondermijnd (Cheatham et al., 2019).
AI-uitdagingen in de werkcontext: voortdurende bijscholing, wat een AI-gedreven transformatie van de arbeidsmarkt vereist, waardoor werknemers een leven lang moeten leren. Aanpassing aan een geautomatiseerde omgeving impliceert de verwerving van geavanceerde digitale vaardigheden, zoals creatief denken en emotionele intelligentie, sleutelelementen voor samenwerking met opkomende technologieën (Corvalán, 2019, pp. 43-44). Onderwijs en professionele ontwikkeling moeten zich aanpassen aan de nieuwe werkgelegenheidsvereisten, door opleidingsprogramma’s te bevorderen die de effectieve inclusie van werknemers in het digitale tijdperk garanderen.
Er moet ook wet- en regelgeving komen om de negatieve effecten van automatisering te verzachten, voornamelijk door een solide rechtskader op te zetten dat de rechten van werknemers beschermt en het ethisch gebruik van AI waarborgt. De Europese Unie heeft vooruitgang geboekt bij het ontwikkelen van wetgevingsvoorstellen die de gevolgen van AI voor de werkgelegenheid aanpakken, door regelgeving te bevorderen die transparantie en eerlijkheid bij de implementatie garandeert (Parra en Concha, 2021, p. 9). Deze regelgeving is essentieel om discriminerende praktijken te voorkomen en de grenzen van de automatisering van arbeidsprocessen vast te stellen.
Met betrekking tot de humanisering van AI vertegenwoordigt “co-botisering”, opgevat als samenwerking tussen mensen en machines, een alternatief voor de integratie van AI zonder menselijk werk volledig te vervangen. In dit model fungeert technologie als aanvulling, waardoor de capaciteiten van werknemers worden vergroot en er meer intelligentie mogelijk is bij het beheer van werktaken (Corvalán, 2019, pp. 44-45). Deze evenwichtige interactie zou de productiviteit kunnen optimaliseren en de kwaliteit van banen kunnen verbeteren zonder een totale vervanging van werknemers door geautomatiseerde systemen te genereren.
Wat privacy betreft, heeft het gebruik van digitale hulpmiddelen op de werkplek geleid tot zorgen over de privacy van werknemers.
Massale gegevensverzameling, constante monitoring en digitaal toezicht kunnen individuele rechten aantasten, waardoor beschermingsmechanismen nodig zijn die het beheer van persoonlijke informatie binnen bedrijven reguleren (Goñi, 2019, pp. 63-64). Om schendingen te voorkomen, moeten organisaties een verantwoord gebruik van AI-systemen garanderen en ervoor zorgen dat de privacy en het welzijn van werknemers niet worden geschonden.
Als laatste grote uitdaging moet het idee van een herconfiguratie van de arbeidsmarkt worden overwogen, want hoewel AI bepaalde beroepen kan vervangen, creëert het ook nieuwe kansen in modaliteiten zoals freelance werk en de collaboratieve economie. Digitalisering maakt de ontwikkeling van flexibelere arbeidsvormen mogelijk, waarbij werknemers hun vaardigheden kunnen aanpassen aan opkomende sectoren en kunnen deelnemen aan dynamische projecten zonder uitsluitend afhankelijk te zijn van traditionele werkgevers (Corvalán, 2019, pp. 42-43). Deze transformatie vereist een voortdurende actualisering van vaardigheden om de vruchten te kunnen plukken van een gedigitaliseerde werkomgeving.
referenties
- Arrigain García, I. (2020). Regulación de las invenciones relacionadas con Inteligencia Artificial en el campo de la Propiedad Intelectual. Universidad Pontifica Comillas.
- Bravo, J., García, A. y Schlechter, H. (2018). Automatización e inteligencia artificial: desafíos del mercado laboral. Centro Latinoamericano de Políticas Económicas y Sociales.
- Cheatham, B., Javanmardian, K. y Samandari, H. (2019, 26 de abril). Enfrentando los riesgos de la inteligencia artificial. McKinsey & Company. https://www.mckinsey.com/capabilities/ quantumblack/our-insights/confronting-the-risks-of-artificial intelligence/es-CL#/
- Corvalán, J. G. (2019). El impacto de la inteligencia artificial en el trabajo. Revista de Direito Econômico e Socioambiental, 10(1), 35 51. https://doi.org/10.7213/rev.dir.econ.soc.v10i1.25870
- Coeckelbergh, Mark. (2020). AI ethics. Hoe omgaan met artificiële intelligentie?
- González, N (2024). Algunos parámetros jurídicos y éticos en torno a la inteligencia artificial. Una visión humanista de la tecnología. Editoral ABC
- Goñi, J. L. (2019). Innovaciones tecnológicas, inteligencia artificial y derechos humanos en el trabajo. Documentación Laboral, 2(117), 57-72. https://dialnet.unirioja.es/servlet/ articulo?codigo=7095888
- Massachusetts Institute of Technology. (n.d.). The AI Risk Repository. Retrieved April 26, 2025, from https://airisk.mit.edu/
- Parra, D. y Concha, R. (2021). Inteligencia artificial y derecho. Problemas, desafíos y oportunidades. Vniversitas, 70, 1-25. https://doi.org/10.11144/Javeriana.vj70.iadp
AI-wetgeving : verschillende regels voor verschillende risiconiveaus
De nieuwe verordening legt verplichtingen vast voor leveranciers en gebruikers op basis van de risicoclassificatie van AI. Hoewel veel AI-systemen slechts een minimaal risico vormen, moeten ze allemaal worden beoordeeld.
Onaanvaardbaar risico
De volgende AI-systemen die een onaanvaardbaar risico inhouden, zijn verboden in de EU :
- Cognitieve manipulatie van het gedrag van specifieke kwetsbare individuen of groepen: bijvoorbeeld speelgoed met stemactivatie dat gevaarlijk gedrag bij kinderen aanmoedigt.
- Sociale classificatie: classificatie van individuen op basis van hun gedrag, sociaaleconomische status of persoonlijke kenmerken.
- Real-time en remote biometrische identificatiesystemen, zoals gezichtsherkenning in openbare ruimtes.
Hoog risico
AI-systemen die de veiligheid of de grondrechten ondermijnen, worden als een hoog risico beschouwd en in twee categorieën onderverdeeld.
- AI-systemen die worden gebruikt in producten die onder de Europese wetgeving voor productveiligheid vallen. Hieronder vallen speelgoed, luchtvaart, auto’s, medische apparatuur en liften.
- AI-systemen op acht specifieke gebieden moeten worden geregistreerd in een EU-database:
- Biometrische identificatie en categorisering van natuurlijke personen;
- Beheer en exploitatie van kritieke infrastructuur;
- Onderwijs en beroepsopleiding;
- Werkgelegenheid, beheer van werknemers en toegang tot zelfstandig ondernemerschap;
- Toegang tot en genot van essentiële particuliere diensten en openbare diensten en faciliteiten;
- Beheer van migratie, asiel en grenscontroles;
- Bijstand bij de interpretatie en toepassing van de wet.
Alle AI-systemen met een hoog risico zullen worden beoordeeld voordat ze op de markt worden gebracht en gedurende hun hele levenscyclus. Burgers hebben het recht om klachten over AI-systemen in te dienen bij specifieke nationale autoriteiten.
Transparantievereisten
Generatieve AI, zoals ChatGPT, wordt niet als zeer riskant beschouwd, maar moet wel voldoen aan de transparantie-eisen en de EU-wetgeving op het gebied van auteursrecht:
- Onthullen dat de inhoud is gegenereerd door de AI;
- Het model zo ontwerpen dat het geen illegale inhoud genereert;
- Samenvattingen publiceren van auteursrechtelijk beschermde gegevens die voor de training zijn gebruikt;
AI-modellen voor algemene doeleinden met een grote impact en een potentieel systeemrisico, zoals het geavanceerde AI-model GPT-4, zullen aan grondige beoordelingen moeten worden onderworpen en ernstige incidenten aan de Commissie moeten melden.
0 Comments