Short Reads

Ongevraagd advies Raad van State: normering van geautomatiseerde overheidsbesluitvorming

Ongevraagd advies Raad van State: normering van geautomatiseerde over

Ongevraagd advies Raad van State: normering van geautomatiseerde overheidsbesluitvorming

10.10.2018 NL law

Op 31 augustus 2018 heeft de Afdeling advisering van de Raad van State (hierna: "Afdeling advisering") een 'Ongevraagd advies over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen' betreffende de positie en de bescherming van de burger tegen een "iOverheid" uitgebracht. Het gebeurt niet vaak dat de Afdeling advisering zo een ongevraagd advies uitbrengt. Dit onderstreept het belang van de voortdurend in ontwikkeling zijnde technologie en digitalisering in relatie tot de verhouding tussen de overheid en de maatschappij.

Uit de jurisprudentie blijkt ook steeds vaker dat rechters zoekende zijn naar de juiste normen om deze steeds uitgebreidere digitale jungle te doorgronden. Een treffend voorbeeld, dat ook door de Afdeling advisering wordt genoemd, betreft de Blankenburgtunnel-uitspraak van de Afdeling bestuursrechtspraak van de Raad van State (ABRvS), waarin deze een toetsingskader heeft geformuleerd voor de beoordeling van geautomatiseerde besluitvorming door middel van AERIUS (een calculator om de emissie van stikstof als gevolg van economische activiteiten en de depositie op Natura 20000-gebieden te berekenen). Nu heeft ook de Afdeling advisering in haar advies enkele handvatten proberen aan te reiken hoe om te gaan met geautomatiseerde besluitvorming.

In deze blog vatten wij de gesignaleerde gevaren en pijnpunten van digitalisering en de hiervoor geboden handvatten uit dit advies samen, in het bijzonder voor de geautomatiseerde besluitvormingsproblematiek. Hierbij zal eveneens de geautomatiseerde besluitvorming in relatie tot de Algemene verordening gegevensbescherming (hierna: "AVG") en de Nederlandse Uitvoeringswet Algemene verordening gegevensbescherming (hierna: "UAVG") aan bod komen. Afsluitend zal aandacht worden besteed aan de vraag of de huidige beginselen van behoorlijk bestuur nog afdoende waarborgen voor burgers bieden in deze tijd van digitalisering. Het advies geeft verder nog nuttige inzichten in andere materie, zoals digitaal contact vanuit de overheid, toegang tot de overheid en digitalisering en techniekonafhankelijk wetgeven. Deze aspecten laten we voor nu verder buiten beschouwing.

Geautomatiseerde besluitvorming in een digitale omgeving

De Afdeling advisering constateert dat er steeds vaker overheidsbesluiten worden genomen op basis van geautomatiseerde besluitvorming, zonder menselijke tussenkomst. Dit gebeurt door middel van zogeheten algoritmen, of beslisregels die door computers worden uitgevoerd. Inzet van zulke algoritmen voor besluitvorming kan efficiënt zijn: een computer verwerkt sneller en nauwkeuriger gegevens dan de mens. Indien een veelvoud aan min of meer dezelfde besluiten dienen te worden genomen, biedt geautomatiseerde besluitvorming hier een nuttige oplossing voor. De Afdeling advisering signaleert bij deze ontwikkeling echter eveneens een tweetal problemen.

Allereerst ontstaat het probleem dat algoritmen door middel van een programmeertaal moeten worden omgezet in machinetaal voor computers. De vraag of deze omzetting van algoritmen in een programmeertaal foutloos en nauwkeurig is gegaan, is voor een niet-ICT-specialist niet te controleren. Daarbij komt dat algoritmen gebruik maken van een groot aantal gegevens die mogelijk kunnen zijn ontleend aan diverse andere bronnen. Hierdoor wordt het voor burgers, die de behoefte voelen om de gegevens waarop het besluit is gebaseerd te controleren, zeer bewerkelijk om inzage in al deze gegevens te verkrijgen. Het is voor een burger vaak nauwelijks mogelijk om na te gaan welke regels zijn toegepast bij het nemen van het besluit en of deze regels ook daadwerkelijk doen waarvoor ze zijn bedoeld. Dit probleem van gebrek aan openbaarheid en transparantie speelt temeer indien de burger wenst bepaalde gegevens te rectificeren of te wissen. In de eerder aangehaalde Blankenburgtunnel-uitspraak geeft de ABRvS hier als norm voor verstrekking van achterliggende gegevens dat bestuursorganen zogeheten maatwerkgegevens (gegevens die het bestuursorgaan zelf moet invoeren) uit eigen beweging waarneembaar moet overleggen, zodat belanghebbenden een procedure kunnen benutten om de juistheid van de gebruikte gegevens inhoudelijk te betwisten (zie hiervoor uitgebreider een eerder Stibbeblogbericht. Deze norm is recentelijk ook door de Hoge Raad omarmd (zie hierover uitgebreider ook een eerder Stibbeblogbericht).

Ten tweede kunnen regels, aldus de Afdeling advisering, in natuurlijke taal lang niet altijd één op één worden vertaald in een algoritme. Regels in natuurlijke taal zijn per definitie abstract, daar deze op een verscheidenheid van situaties dienen te worden toegepast en vervolgens eerst moeten worden geïnterpreteerd voordat toepassing daadwerkelijk kan geschieden. Problematisch is dat algoritmen bedoeld zijn om van toepassing te zijn op situaties met geprogrammeerde kenmerken en geen rekening kunnen houden met impliciete kennis, de noodzaak om de regel te interpreteren en met de noodzaak om alle omstandigheden van het geval mee te wegen. De Afdeling advisering concludeert dat door het verlies van een menselijke tussenkomst een burger sneller slachtoffer wordt van een "robotachtige gelijkheid", waarbij geen aandacht meer bestaat voor de eigenheid van zijn situatie. Daarnaast vergroot digitalisering van de besluitvorming volgens de Afdeling advisering het gevaar op profilering en het nemen van besluiten op basis van statistische verbanden. Niet het verwijtbaar handelen van de burger staat in zo een geval vast, maar louter het vermoeden hiervan gebaseerd op grond van algemene kenmerken. De op 25 mei 2018 in werking getreden AVG beoogt hiertegen bescherming te bieden.

Besluitvorming, de AVG en de UAVG

De Afdeling advisering wijst er op dat de AVG in artikel 22 bepaalt dat geautomatiseerde besluitvorming, zonder menselijke tussenkomst, in beginsel niet is toegestaan. Het belang van deze bepaling is dat de mens niet (volledig) wordt vervangen door een computer, waardoor een betrokkene in beginsel altijd het recht heeft op menselijke tussenkomst bij genomen besluiten. Op dit verbod wordt in het tweede lid van artikel 22 AVG een uitzondering gemaakt, waarbij voor de overheid met name van belang is dat het verbod niet geldt indien geautomatiseerde besluitvorming is toegestaan bij een lidstaatrechtelijke bepaling die ook voorziet in passende maatregelen ter bescherming van de rechten en vrijheden en gerechtvaardigde belangen van de betrokkene (lid 2 aanhef en onder b). Wat dit in de praktijk betekent, zal nog nader moeten worden bepaald, waarbij de vraag welke passende maatregelen gelden ter bescherming van de burger een hele relevante is, aldus de Afdeling advisering.

In de Nederlandse UAVG wordt in artikel 40 voorzien in een algemene wettelijke uitzondering: geautomatiseerde besluitvorming die geen profilering inhoudt, is toegestaan als deze noodzakelijk is om aan een wettelijke verplichting te voldoen of om een taak van algemeen belang te vervullen. Op profilering gebaseerde besluitvorming zonder menselijke tussenkomst is slechts mogelijk als een bijzondere wet daarvoor een grondslag biedt. Hierbij speelt namelijk, meer dan bij geautomatiseerde besluitvorming in algemene zin, het risico van discriminatie, aldus de Afdeling advisering. Opvallend is dat dezelfde Afdeling advisering in haar advies op het voorstel van de wettekst van de UAVG zich nog kritisch heeft uitgelaten over deze algemene wettelijke uitzondering opgenomen in artikel 40 UAVG, terwijl deze kritiek in dit ongevraagde advies niet meer aan de orde komt.

Zie voor een uitgebreidere behandeling van de vraag wat de gevolgen zijn van de AVG voor geautomatiseerde besluitvorming door de overheid onze eerdere Stibbeblog FAQ.

Daarnaast noemt de Afdeling advisering nog verschillende andere, voor de in dit blogbericht omschreven problematiek, relevante rechten voor burgers uit AVG, waaronder het recht op inzage van hun persoonsgegevens (artikel 15 AVG), rectificatie van hun persoonsgegevens (artikel 16 AVG) en zelfs het recht op gegevenswissing, of "vergetelheid" (artikel 17 AVG). Aan de kant van de overheid noemt de Afdeling advisering nog enkele plichten uit de AVG, waaronder de verplichting tot het rechtmatig, behoorlijk en transparant verwerken van persoonsgegevens (artikel 5 AVG) en het reeds bij de inrichting van systemen rekening houden met de bescherming van persoonsgegevens (met inbegrip van het recht op inzage en rectificatie), ofwel privacy by design (artikel 25, eerste lid, AVG).

Algemene beginselen van behoorlijk bestuur in een digitaal tijdperk

Gezien de geschetste ontwikkelingen over de digitalisering van besluitvorming en de hieraan verbonden risico's, voelt de Afdeling advisering zich genoodzaakt om zich te buigen over de vraag of de bestaande algemene beginselen van behoorlijk bestuur nog afdoende waarborgen bieden voor burgers ten opzichte van het handelen van een bestuursorgaan.

De Afdeling advisering is van mening dat deze beginselen, in samenhang bezien met de AVG, op zichzelf al de nodige richting kunnen geven indien bestuursorganen deze op een juiste wijze interpreteren en toepassen in de relatie tussen de burger en digitale overheid. Nieuwe of specifieke ICT gerelateerde rechten zijn hiermee overbodig. Hierbij hecht de Afdeling advisering in bijzonder aan het motiveringsbeginsel en het zorgvuldigheidsbeginsel.

Het motiveringsbeginsel, zo begint de Afdeling advisering, kan zo worden uitgewerkt dat in een besluit aan de burger toegankelijk moet worden toegelicht of, en zo ja welke, automatische beslisregels zijn gebruikt. Daarnaast dient te worden toegelicht of het besluit mede voortbouwt op (geautomatiseerde) besluiten of gegevens van andere bestuursorganen eerder in de keten. Hiermee sluit de Afdeling advisering bij de uitwerking van dit beginsel duidelijk aan bij de lijn die de ABRvS in haar hiervoor genoemde Blankenburgtunnel-uitspraak heeft uiteengezet. Daarnaast dienen sommige besluiten simpelweg niet geautomatiseerd genomen te worden. Een criterium dat de Afdeling advisering aan dit verbod hangt, betreft besluiten die betrekking hebben op "zwaar ingrijpende kwesties", zoals de integriteit van het menselijk lichaam, privacy (wat weer een erg ruim begrip kan zijn) en het familie- en gezinsleven. Daarnaast wordt geadviseerd om maatwerk en 'menselijke' heroverweging in de bezwaarfase van geautomatiseerd tot stand gekomen besluiten te bevorderen.

Het zorgvuldigheidsbeginsel dient volgens de Afdeling advisering zo te worden geïnterpreteerd dat bestuursorganen ruimhartig rekening moeten houden met alle feiten en omstandigheden. Hierbij is van belang dat een bestuursorgaan een besluit moet kunnen nemen dat strikt genomen afwijkt van wat voortvloeit uit de geautomatiseerde beslisregels. Ofwel, een bestuursorgaan dient een voldoende ruime discretionaire bevoegdheid te bezitten. Zo wordt het probleem van de onterechte "robotachtige gelijkheid" van een door een algoritme genomen besluit opgelost en kan evident onterechte benadeling van een burger worden vermeden.

Afronding

Het advies van de Afdeling advisering kan positief worden gewaardeerd. Het biedt nuttige aanknopingspunten voor wetgever en bestuur om de positie van de burger te verbeteren in zijn relatie met de digitale overheid. Voor geautomatiseerde overheidsbesluitvorming betekent dit onder meer dat de overheid telkens de balans moet zien te vinden tussen onder andere besluiten die niet geautomatiseerd tot stand behoren te komen, zoals besluiten over de integriteit van het menselijk lichaam, en het motiveren van gebruik van algoritmen en data van besluiten die wel geautomatiseerd kunnen worden genomen. Ten slotte geeft de Afdeling advisering mee om maatwerk en 'menselijke' heroverweging in de bezwaarfase van geautomatiseerd tot stand gekomen besluiten te bevorderen.

Team

Related news

20.05.2020 NL law
Stibbe in Amsterdam answers questions from consumers, small business foundations and NGOs about the coronavirus [updated]

Inside Stibbe - In a special Q&A (in Dutch), lawyers from our Amsterdam office share their legal expertise and strive to provide answers to questions put to us by consumers, self-employed persons, enterprises large and small, foundations and NGOs as a result of the corona crisis.

Read more

13.05.2020 NL law
FAQ: bestuurlijk rechtsoordeel – de mogelijkheden tot bezwaar en beroep en de consequenties van een vernietiging

Short Reads - Op grond van de Algemene wet bestuursrecht (Awb) is het besluitbegrip bepalend voor de toegang tot de bestuursrechter. Handelingen van bestuursorganen die geen besluit zijn, kunnen niet aan de bestuursrechter worden voorgelegd. Denk bijvoorbeeld aan het handelen van de overheid als contractspartij of het handelen van de overheid dat slechts feitelijk van aard is.

Read more

14.05.2020 NL law
Wijziging NOW: voorafgaande instemming over openbaarmaking in NOW op gespannen voet met de Awb en de Wob

Short Reads - Op 2 april 2020 is de Tijdelijke noodmaatregel overbrugging voor behoud van werkgelegenheid (“NOW”) in werking getreden. De regeling is snel tot stand gekomen als maatregel tegen de nadelige gevolgen van de corona-crisis. In de praktijk bleek dat de regeling onvolkomenheden bevat en wijzigingen en aanvullingen nodig zijn. Op 4 mei 2020 is een regeling tot wijziging van de NOW gepubliceerd in de Staatscourant.

Read more

13.05.2020 NL law
Bij zeer locatiespecifieke omstandigheden doorbreekt de goede ruimtelijke ordening het exclusieve toetsingskader van titel 5.2 Wet milieubeheer voor luchtkwaliteit

Short Reads - Titel 5.2 Wm bepaalt dat bij het nemen van een groot aantal ruimtelijke ordeningsbesluiten en besluiten tot verlening van omgevingsvergunningen voor milieu de grenswaarden opgenomen in bijlage 2 Wm in acht moeten worden genomen. Afgevraagd kan dan worden of bij het nemen van ruimtelijke ordeningsbesluiten, zoals de vaststelling van een bestemmingsplan, de goede ruimtelijke ordening (waaronder het aanvaardbaar woon- en leefklimaat) een aanvullende toets kan vergen als dat besluit voldoet aan titel 5.2 Wm.

Read more

13.05.2020 NL law
Een klein jaar na de PAS-uitspraken: wanneer zijn stikstofrelevante activiteiten toelaatbaar?

Short Reads - Ontwikkelingen in de rechtspraak hebben niet stil gestaan sinds de Afdeling bestuursrechtspraak van de Raad van State (‘Afdeling’) eind mei 2019 de bekende PAS-uitspraken deed. De Afdeling heeft in een aantal belangwekkende uitspraken enige lijnen uitgezet. In dit blogbericht zetten wij een aantal uitspraken op een rij. Daarbij richten wij ons op de vraag wanneer stikstofrelevante activiteiten na de PAS-uitspraken toelaatbaar zijn.

Read more

This website uses cookies. Some of these cookies are essential for the technical functioning of our website and you cannot disable these cookies if you want to read our website. We also use functional cookies to ensure the website functions properly and analytical cookies to personalise content and to analyse our traffic. You can either accept or refuse these functional and analytical cookies.

Privacy – en cookieverklaring