Articles

Algoritmische discriminatie

Algoritmische discriminatie

Algoritmische discriminatie

08.01.2019 NL law

'Slimme algoritmes' nemen steeds meer arbeidsrechtelijk relevante beslissingen. Zo kunnen zelflerende systemen onder meer worden ingezet om te bepalen wie promotie krijgt of welk cv wordt geselecteerd in een sollicitatieprocedure. Ook in de opkomende platformeconomie worden veel arbeidsrechtelijk relevante beslissingen genomen door geautomatiseerde systemen: wie doet welke klus en tegen welke beloning?

Het is de vraag of dit soort beslissingen ook eerlijk(er) zijn wanneer zij geautomatiseerd zijn. Zelflerende algoritmes kunnen namelijk tot niet objectief te rechtvaardigen resultaten komen, zowel doordat het algoritme de vooroordelen van de programmeurs of hun opdrachtgevers weerspiegelt, als doordat het is getraind met historische oefendata die is voortgekomen uit een ongelijke historische situatie. In deze 'Ter Visie' verken ik twee arbeidsrechtelijk relevante, hiermee samenhangende, eigenaardigheden van zelflerende systemen.

De eerste eigenaardigheid is dat zulke systemen beslissingen nemen op basis van zeer grote hoeveelheden data, factoren en daarmee blootstaan aan veel potentiële claims uit hoofde van indirecte discriminatie. Een systeem dat onderscheid maakt op basis van de ogenschijnlijk neutrale maatstaf 'postcode' kan zo bijvoorbeeld ook onderscheid maken op basis van etniciteit, omdat het nu eenmaal vaak voorkomt dat mensen van een bepaalde etniciteit of sociale klasse bij elkaar in dezelfde wijk wonen.

De tweede eigenaardigheid is dat zelflerende systemen vaak een zogeheten 'black box' zijn. Dat hangt deels samen  met het feit dat zulke systemen bedrijfsgeheim zijn. Het kan echter ook gaan om een eigenschap die inherent is aan het type systeem dat wordt gebruikt: van de meeste zelflerende systemen kan achteraf maar moeilijk worden gereconstrueerd waarom zij een bepaalde beslissing namen. Dat leidt tot verschillende problemen op het gebied van zowel materieel gelijkebehandelingsrecht als bewijsrecht.

Een voorbeeld van een probleem op het gebied van materieel gelijkebehandelingsrecht is het volgende: volgens jurisprudentie van het Europees Hof van Justitie zal van een beloningssysteem dat ondoorzichtig is eerder worden vermoed dat het discriminatoir is.

Een bewijsrechtelijk probleem zou kunnen voortvloeien uit het feit dat de bewijslast verschuift naar de werkgever zodra de werknemer het vermoeden van discriminatie heeft gevestigd. De werkgever moet dan bewijzen dat hij niet heeft gediscrimineerd. Een werkgever zal echter moeilijk in dit bewijs kunnen slagen, als hij een systeem hanteert dat kan worden omschreven als black box.

Het beste dat een werkgever die een black box gebruikt kan doen, is uitleggen hoe het systeem is ontworpen – bij voorkeur onder verwijzing naar maatregelen die zijn getroffen om zo min mogelijk discriminatoire effecten te hebben. Gelet hierop doen werkgevers die gebruik willen maken van zelflerende systemen er goed aan het ontwerpproces van hun zelflerende systeem goed te documenteren. Welke ontwerpbeslissingen worden er gemaakt, en waarom?

Related news

30.07.2019 NL law
Consultatie concept Wetsvoorstel nadere beloningsmaatregelen financiële sector

Articles - Op 5 juli 2019 heeft de minister van Financiën middels een brief aan de Tweede Kamer een consultatie geopend over het concept Wetsvoorstel nadere beloningsmaatregelen financiële sector. Tevens heeft de minister de Tweede Kamer geïnformeerd over zijn besluit om af te zien van de introductie van een wettelijke verplichting tot terugvordering van een deel van de vaste beloning van bestuurders van systeemrelevante banken bij staatsteun (claw back). Deze claw back had de minister bij een eerdere maatschappelijke consultatie voorgesteld. 

Read more

14.08.2019 NL law
Wijziging Arbowetgeving in aantocht: tegengaan arbeidsmarktdiscriminatie bij werving en selectie

Short Reads - In haar kamerbrief van 11 juli 2019 heeft Staatssecretaris Van Ark van SZW aangekondigd dat zij na de zomer van 2019 een wetsvoorstel aan de Raad van State wil aanbieden dat ten doel heeft om arbeidsmarktdiscriminatie tegen te gaan. Dit voorstel heeft gevolgen voor het wervings- en selectieproces van werkgevers én voor partijen zoals wervings- en selectiebureaus en online platforms die dergelijke diensten verlenen aan werkgevers. Daartoe zullen de Arbeidsomstandighedenwet en de Wet allocatie arbeidskrachten door intermediairs naar verwachting worden gewijzigd.

Read more

24.07.2019 NL law
Implementatie van de Herziene Aandeelhoudersrechtenrichtlijn

Short Reads - Op 10 juni 2019 diende de Herziene Aandeelhoudersrechtenrichtlijn (2017/828/EU) in de Nederlandse wet- en regelgeving geïmplementeerd te zijn. Nederland heeft deze termijn niet gehaald. Na het zomerreces zal de behandeling van het implementatiewetsvoorstel bij de Eerste Kamer worden voortgezet. In deze Update geven wij een overzicht van actuele ontwikkelingen. Wij verwijzen in dit verband ook naar onze Webtool over dit onderwerp.

Read more

09.08.2019 NL law
Bedrijfsgrootte is van invloed op de hoogte van de Arboboete: bij parttimers lagere boetes

Short Reads - Op 7 november 2018 deed de Afdeling een voor de praktijk van arboboetes belangrijke (eind)uitspraak. Zij bepaalt dat bij het bepalen van de omvang van een bedrijf of instelling onderscheid gemaakt dient te worden tussen een fulltime of parttime dienstverband. Die omvang wordt bepaald door uit te gaan van het totaal aantal medewerkers in een bedrijf of instelling op basis van een fulltime werkweek van 38 uur. Dat betekent dat afhankelijk van het aantal parttimers en de duur van hun dienstverband lagere Arboboetes zullen worden opgelegd.

Read more

Our website uses functional cookies for the functioning of the website and analytic cookies that enable us to generate aggregated visitor data. We also use other cookies, such as third party tracking cookies - please indicate whether you agree to the use of these other cookies:

Privacy – en cookieverklaring