Articles

Algoritmische discriminatie

Algoritmische discriminatie

Algoritmische discriminatie

08.01.2019 NL law

'Slimme algoritmes' nemen steeds meer arbeidsrechtelijk relevante beslissingen. Zo kunnen zelflerende systemen onder meer worden ingezet om te bepalen wie promotie krijgt of welk cv wordt geselecteerd in een sollicitatieprocedure. Ook in de opkomende platformeconomie worden veel arbeidsrechtelijk relevante beslissingen genomen door geautomatiseerde systemen: wie doet welke klus en tegen welke beloning?

Het is de vraag of dit soort beslissingen ook eerlijk(er) zijn wanneer zij geautomatiseerd zijn. Zelflerende algoritmes kunnen namelijk tot niet objectief te rechtvaardigen resultaten komen, zowel doordat het algoritme de vooroordelen van de programmeurs of hun opdrachtgevers weerspiegelt, als doordat het is getraind met historische oefendata die is voortgekomen uit een ongelijke historische situatie. In deze 'Ter Visie' verken ik twee arbeidsrechtelijk relevante, hiermee samenhangende, eigenaardigheden van zelflerende systemen.

De eerste eigenaardigheid is dat zulke systemen beslissingen nemen op basis van zeer grote hoeveelheden data, factoren en daarmee blootstaan aan veel potentiële claims uit hoofde van indirecte discriminatie. Een systeem dat onderscheid maakt op basis van de ogenschijnlijk neutrale maatstaf 'postcode' kan zo bijvoorbeeld ook onderscheid maken op basis van etniciteit, omdat het nu eenmaal vaak voorkomt dat mensen van een bepaalde etniciteit of sociale klasse bij elkaar in dezelfde wijk wonen.

De tweede eigenaardigheid is dat zelflerende systemen vaak een zogeheten 'black box' zijn. Dat hangt deels samen  met het feit dat zulke systemen bedrijfsgeheim zijn. Het kan echter ook gaan om een eigenschap die inherent is aan het type systeem dat wordt gebruikt: van de meeste zelflerende systemen kan achteraf maar moeilijk worden gereconstrueerd waarom zij een bepaalde beslissing namen. Dat leidt tot verschillende problemen op het gebied van zowel materieel gelijkebehandelingsrecht als bewijsrecht.

Een voorbeeld van een probleem op het gebied van materieel gelijkebehandelingsrecht is het volgende: volgens jurisprudentie van het Europees Hof van Justitie zal van een beloningssysteem dat ondoorzichtig is eerder worden vermoed dat het discriminatoir is.

Een bewijsrechtelijk probleem zou kunnen voortvloeien uit het feit dat de bewijslast verschuift naar de werkgever zodra de werknemer het vermoeden van discriminatie heeft gevestigd. De werkgever moet dan bewijzen dat hij niet heeft gediscrimineerd. Een werkgever zal echter moeilijk in dit bewijs kunnen slagen, als hij een systeem hanteert dat kan worden omschreven als black box.

Het beste dat een werkgever die een black box gebruikt kan doen, is uitleggen hoe het systeem is ontworpen – bij voorkeur onder verwijzing naar maatregelen die zijn getroffen om zo min mogelijk discriminatoire effecten te hebben. Gelet hierop doen werkgevers die gebruik willen maken van zelflerende systemen er goed aan het ontwerpproces van hun zelflerende systeem goed te documenteren. Welke ontwerpbeslissingen worden er gemaakt, en waarom?

Related news

03.05.2021 NL law
De overheid behoeft de besten, maar krijgt zij die nog wel?

Short Reads - ‘De overheid behoeft de besten; zij moet aantrekken en opkweken de bekwaamsten onder de jongeren; haar mensen moeten het in kennis maar ook in levenshouding en beschaving kunnen opnemen tegen de leidende figuren uit de maatschappij; het zou noodlottig zijn voor de publieke zaak, zo de overheid zich tevreden zou stellen met degenen, die elders niet aan de slag konden komen of mislukten.’ (C.H.F. Polak 1957, geciteerd in NJB 2018/1044)

Read more

13.04.2021 NL law
Podcast: 'de NOW en de accountantscontrole'

Short Reads - Waarom is de accountant zo belangrijk bij het verkrijgen van NOW-subsidie? Waar let hij of zij op bij de controle of de subsidievoorwaarden zijn nageleefd? En, wat als je als werkgever het niet eens bent met de uitkomst van de controle? In de derde aflevering van een vierdelige podcastserie over de NOW geven Luuk van de Sandt en Steven Hijink - beiden advocaat gespecialiseerd in het jaarrekeningenrecht - antwoord op deze en andere vragen over de NOW en de accountantscontrole.  

Read more

21.04.2021 NL law
Voorschotbepaling (NOW-1) en peildatumbepaling (NOW-2) zijn niet in strijd met het evenredigheidsbeginsel (annotatie)

Short Reads - In deze annotatie bespreken Jan Reinier van Angeren en Sandra Putting de eerste uitspraak van de Centrale Raad van Beroep (CRvB) over de NOW. In de uitspraak van 8 januari 2021 oordeelt de CRvB dat de voorschotbepaling uit de NOW-1 en de peildatumbepaling uit de NOW-2 niet in strijd zijn met het evenredigheidsbeginsel. De CRvB ziet daarom geen aanleiding de bepalingen in het voordeel van de desbetreffende werkgever buiten toepassing te laten. In de annotatie gaan Jan Reinier en Sandra in op een aantal bestuursrechtelijke aspecten van de NOW-subsidieregeling en de CRvB-uitspraak.

Read more

08.04.2021 NL law
Recente NOW-jurisprudentie

Short Reads - In de afgelopen periode zijn er weer uitspraken over de NOW gepubliceerd die van belang kunnen zijn voor werkgevers. Zo zijn er uitspraken gedaan over de vaststelling van de loonsom en de keuzes die al bij de aanvraag voor de subsidieverlening moeten worden gemaakt. Daarnaast laat een recente uitspraak zien dat een civiele vordering inzake het mislopen van NOW-steun niet slaagt.

Read more