Articles

Algoritmische discriminatie

Algoritmische discriminatie

Algoritmische discriminatie

08.01.2019 NL law

'Slimme algoritmes' nemen steeds meer arbeidsrechtelijk relevante beslissingen. Zo kunnen zelflerende systemen onder meer worden ingezet om te bepalen wie promotie krijgt of welk cv wordt geselecteerd in een sollicitatieprocedure. Ook in de opkomende platformeconomie worden veel arbeidsrechtelijk relevante beslissingen genomen door geautomatiseerde systemen: wie doet welke klus en tegen welke beloning?

Het is de vraag of dit soort beslissingen ook eerlijk(er) zijn wanneer zij geautomatiseerd zijn. Zelflerende algoritmes kunnen namelijk tot niet objectief te rechtvaardigen resultaten komen, zowel doordat het algoritme de vooroordelen van de programmeurs of hun opdrachtgevers weerspiegelt, als doordat het is getraind met historische oefendata die is voortgekomen uit een ongelijke historische situatie. In deze 'Ter Visie' verken ik twee arbeidsrechtelijk relevante, hiermee samenhangende, eigenaardigheden van zelflerende systemen.

De eerste eigenaardigheid is dat zulke systemen beslissingen nemen op basis van zeer grote hoeveelheden data, factoren en daarmee blootstaan aan veel potentiële claims uit hoofde van indirecte discriminatie. Een systeem dat onderscheid maakt op basis van de ogenschijnlijk neutrale maatstaf 'postcode' kan zo bijvoorbeeld ook onderscheid maken op basis van etniciteit, omdat het nu eenmaal vaak voorkomt dat mensen van een bepaalde etniciteit of sociale klasse bij elkaar in dezelfde wijk wonen.

De tweede eigenaardigheid is dat zelflerende systemen vaak een zogeheten 'black box' zijn. Dat hangt deels samen  met het feit dat zulke systemen bedrijfsgeheim zijn. Het kan echter ook gaan om een eigenschap die inherent is aan het type systeem dat wordt gebruikt: van de meeste zelflerende systemen kan achteraf maar moeilijk worden gereconstrueerd waarom zij een bepaalde beslissing namen. Dat leidt tot verschillende problemen op het gebied van zowel materieel gelijkebehandelingsrecht als bewijsrecht.

Een voorbeeld van een probleem op het gebied van materieel gelijkebehandelingsrecht is het volgende: volgens jurisprudentie van het Europees Hof van Justitie zal van een beloningssysteem dat ondoorzichtig is eerder worden vermoed dat het discriminatoir is.

Een bewijsrechtelijk probleem zou kunnen voortvloeien uit het feit dat de bewijslast verschuift naar de werkgever zodra de werknemer het vermoeden van discriminatie heeft gevestigd. De werkgever moet dan bewijzen dat hij niet heeft gediscrimineerd. Een werkgever zal echter moeilijk in dit bewijs kunnen slagen, als hij een systeem hanteert dat kan worden omschreven als black box.

Het beste dat een werkgever die een black box gebruikt kan doen, is uitleggen hoe het systeem is ontworpen – bij voorkeur onder verwijzing naar maatregelen die zijn getroffen om zo min mogelijk discriminatoire effecten te hebben. Gelet hierop doen werkgevers die gebruik willen maken van zelflerende systemen er goed aan het ontwerpproces van hun zelflerende systeem goed te documenteren. Welke ontwerpbeslissingen worden er gemaakt, en waarom?

Related news

14.10.2021 NL law
Termijn voor het indienen vaststellingsaanvraag NOW-1 loopt af op 31 oktober 2021: strategische handreikingen en juridische aanbevelingen

Short Reads - Op 31 oktober 2021 is het de laatste dag waarop de vaststellingsaanvragen van de NOW-1 subsidie kunnen worden ingediend. Veel werkgevers hebben deze aanvraag al ingediend (en al een vaststellingsbesluit ontvangen) maar ook een aanzienlijk deel van de vaststellingsaanvragen moet nog door het UWV worden ontvangen (zie de Kamerbrief van 20 september 2021). 

Read more

13.10.2021 NL law
De hardheidsclausule en ander maatwerk in het licht van de NOW

Short Reads - Uitzonderingen op de NOW zijn volgens de bestuursrechter niet mogelijk door het bewust ontbreken van een hardheidsclausule, maar worden door de minister in bepaalde gevallen wel toegestaan. In dit artikel bespreekt Sandra Putting welke mogelijkheden bestuursorganen en de bestuursrechter hebben om maatwerk te bieden en wordt aan de hand van drie geschilpunten over de NOW beoordeeld hoe die mogelijkheden zijn ingezet of beter hadden kunnen worden ingezet.

Read more

29.09.2021 NL law
Platformisering, algoritmisering en sociale bescherming: Algoritmes en personeelsselectie

Articles - Recent kwam in de Wolters Kluwer reeks ‘Monografieën Sociaal Recht’ het boek ‘Platformisering, algoritmisering en sociale bescherming’ uit. Dit boek is op verzoek van Instituut GAK samengesteld door academici van de Universiteit Tilburg, onder leiding van Mijke Houwerzijl. Het boek, waaraan dertien auteurs een bijdrage leverden, betreft “sociaaljuridische vraagstukken die zich doen bij de (r)evolutie naar een andere wereld van werk”. Daarbij stonden centraal uitdagingen die gepaard gaan met technologisch aangedreven processen van platformisering en algoritmisering.

Read more

12.10.2021 NL law
Platformisering, algoritmisering en sociale bescherming: Platformarbeid en privaatrecht

Short Reads - Jaap van Slooten schreef mee aan het boek ‘Platformisering, algoritmisering en sociale bescherming’, waarin hij samen met Eric Tjong Tjin Tai (Tilburg University) in het hoofdstuk ‘Platformarbeid en privaatrecht’ ingaat op de vraag in hoeverre privaatrechtelijke regelingen een vorm van sociale bescherming bieden aan werkenden en afnemers van een platform.

Read more

29.09.2021 NL law
Gebrekkige informatievoorziening aan de ondernemingsraad bij overnamefinanciering: belangenafweging en beweegredenen

Short Reads - In deze bijdrage bespreekt Ea Visser de beschikkingen inzake Estro en PCM. Daarna gaat zij in op het politieke initiatief dat is genomen inzake de rechten van de OR bij private-equitytransacties en de reactie daarop. Ea bespreekt aan de hand van de Estro-zaak de relatie tussen de belangenafweging van het bestuur en de beweegredenen die moeten worden opgenomen in een adviesaanvraag volgens de Wet op de ondernemingsraden (WOR). Vervolgens gaat zij in op de manier waarop partijen bij een overnamefinanciering de bevindingen uit de Estro-zaak kunnen toepassen in de praktijk.

Read more