Articles

Algoritmische discriminatie

Algoritmische discriminatie

Algoritmische discriminatie

08.01.2019

'Slimme algoritmes' nemen steeds meer arbeidsrechtelijk relevante beslissingen. Zo kunnen zelflerende systemen onder meer worden ingezet om te bepalen wie promotie krijgt of welk cv wordt geselecteerd in een sollicitatieprocedure. Ook in de opkomende platformeconomie worden veel arbeidsrechtelijk relevante beslissingen genomen door geautomatiseerde systemen: wie doet welke klus en tegen welke beloning?

Het is de vraag of dit soort beslissingen ook eerlijk(er) zijn wanneer zij geautomatiseerd zijn. Zelflerende algoritmes kunnen namelijk tot niet objectief te rechtvaardigen resultaten komen, zowel doordat het algoritme de vooroordelen van de programmeurs of hun opdrachtgevers weerspiegelt, als doordat het is getraind met historische oefendata die is voortgekomen uit een ongelijke historische situatie. In deze 'Ter Visie' verken ik twee arbeidsrechtelijk relevante, hiermee samenhangende, eigenaardigheden van zelflerende systemen.

De eerste eigenaardigheid is dat zulke systemen beslissingen nemen op basis van zeer grote hoeveelheden data, factoren en daarmee blootstaan aan veel potentiële claims uit hoofde van indirecte discriminatie. Een systeem dat onderscheid maakt op basis van de ogenschijnlijk neutrale maatstaf 'postcode' kan zo bijvoorbeeld ook onderscheid maken op basis van etniciteit, omdat het nu eenmaal vaak voorkomt dat mensen van een bepaalde etniciteit of sociale klasse bij elkaar in dezelfde wijk wonen.

De tweede eigenaardigheid is dat zelflerende systemen vaak een zogeheten 'black box' zijn. Dat hangt deels samen  met het feit dat zulke systemen bedrijfsgeheim zijn. Het kan echter ook gaan om een eigenschap die inherent is aan het type systeem dat wordt gebruikt: van de meeste zelflerende systemen kan achteraf maar moeilijk worden gereconstrueerd waarom zij een bepaalde beslissing namen. Dat leidt tot verschillende problemen op het gebied van zowel materieel gelijkebehandelingsrecht als bewijsrecht.

Een voorbeeld van een probleem op het gebied van materieel gelijkebehandelingsrecht is het volgende: volgens jurisprudentie van het Europees Hof van Justitie zal van een beloningssysteem dat ondoorzichtig is eerder worden vermoed dat het discriminatoir is.

Een bewijsrechtelijk probleem zou kunnen voortvloeien uit het feit dat de bewijslast verschuift naar de werkgever zodra de werknemer het vermoeden van discriminatie heeft gevestigd. De werkgever moet dan bewijzen dat hij niet heeft gediscrimineerd. Een werkgever zal echter moeilijk in dit bewijs kunnen slagen, als hij een systeem hanteert dat kan worden omschreven als black box.

Het beste dat een werkgever die een black box gebruikt kan doen, is uitleggen hoe het systeem is ontworpen – bij voorkeur onder verwijzing naar maatregelen die zijn getroffen om zo min mogelijk discriminatoire effecten te hebben. Gelet hierop doen werkgevers die gebruik willen maken van zelflerende systemen er goed aan het ontwerpproces van hun zelflerende systeem goed te documenteren. Welke ontwerpbeslissingen worden er gemaakt, en waarom?

Related news

28.02.2020
Het coronavirus en het personeel in de onderneming – overzicht van de antivirusmaatregelen

Articles - Welke (preventieve) maatregelen moet of kan de werkgever nemen? Kan de werkgever de werknemers verplichten om thuis te blijven? Moet of kan de werkgever zijn werknemers controleren? Wat zijn de mogelijk financiële gevolgen voor de werkgever? Elisabeth Matthys, Jan Proesmans en Dieter Demuynck (arbeidsrecht) formuleren een antwoord op bovenstaande vragen.

Read more

06.02.2020
Wet zorgplicht kinderarbeid gepubliceerd in het Staatsblad

Short Reads - Op 13 november 2019 is de Wet zorgplicht kinderarbeid in het Staatsblad gepubliceerd. Op grond van deze wet geldt voor elke onderneming die aan Nederlandse eindgebruikers goederen verkoopt of diensten levert dat gepaste zorgvuldigheid moet worden betracht om te voorkomen dat die goederen en/of diensten met behulp van kinderarbeid tot stand zijn gekomen. Het is nog niet bekend wanneer de wet in werking zal treden.

Read more

28.02.2020
Coronavirus et chômage

Articles - Plus un jour ne se passe sans que l’on ne parle de lui : le coronavirus (COVID-19 ou SARS-CoV-2 suivant sa nouvelle appellation). Vedette de la une des journaux depuis plusieurs semaines, la fin des vacances scolaires ce lundi et le retour de nombreux belges au travail donne des cheveux gris aux employeurs.

Read more

09.01.2020
Stibbe announces new Counsel and Of Counsel appointments

Inside Stibbe - Brussels, 9 January 2020 – The Brussels office of Stibbe has promoted Delphine Gillet (EU/Competition), Jan Proesmans (Employment, Benefits, and Pensions) and Sophie Bourgois (Dispute Resolution) to Counsel and Elisabeth Baeyens (Dispute Resolution) to Of Counsel. The new appointments have taken effect on 1 January 2020.

Read more

09.01.2020
Stibbe benoemt nieuwe Counsels en Of Counsel

Inside Stibbe - Brussel, 9 januari 2020 – Het Brusselse kantoor van Stibbe benoemt Delphine Gillet (EU-recht en mededingingsrecht), Jan Proesmans (arbeids- en pensioenrecht) en Sophie Bourgois (geschillenbeslechting) tot Counsel en Elisabeth Baeyens (geschillenbeslechting) tot Of Counsel. De nieuwe benoemingen gaan in vanaf 1 januari 2020.

Read more

This website uses cookies. Some of these cookies are essential for the technical functioning of our website and you cannot disable these cookies if you want to read our website. We also use functional cookies to ensure the website functions properly and analytical cookies to personalise content and to analyse our traffic. You can either accept or refuse these functional and analytical cookies.

Privacy – en cookieverklaring