Short Reads

Kamerdebat over digitalisering van de overheid: aandacht voor bescherming burger vereist

Kamerdebat over digitalisering van de overheid: aandacht voor bescher

Kamerdebat over digitalisering van de overheid: aandacht voor bescherming burger vereist

14.10.2019 NL law

Op 24 september 2019 zijn er vier moties in stemming gebracht én aangenomen door de Tweede Kamer. De moties hebben als gemeenschappelijke deler dat ze in het teken staan van de steeds groter wordende digitalisering bij de overheid. Het achterliggende doel van de moties is dat de burger voldoende beschermd moet worden tegen deze digitalisering.

Vier moties aangenomen

De vier moties zijn de volgende, waarbij wij ons in deze blog richten op de laatste motie:

  1. motie van de leden Van der Molen en Middendorp over een centraal meldpunt voor problemen met basisregistraties;
  2. motie van het lid Middendorp over de site MijnOverheid.nl als platform voor digitaal contact tussen overheid en burgers;
  3. motie van de leden Futselaar en Van Raak over laagdrempelige communicatiemogelijkheden bij elke overheidsinstantie;
  4. motie van de leden Verhoeven en Van der Molen over een meldplicht voor ingrijpende algoritmes

Algoritmes voor geautomatiseerde besluitvorming

Laatstgenoemde motie staat in het teken van geautomatiseerde besluitvorming door de overheid. Besluitvorming vindt steeds meer digitaal plaats op basis van algoritmes. Bij zulke besluitvorming komt er geen mens meer aan te pas. Op het eerste gezicht klinkt dit wellicht aantrekkelijk uit een oogpunt van efficiëntie, maar er zijn ook nadelen aan verbonden. Zo vrezen de initiatiefnemers van de motie dat de inzet van algoritmes en de onderliggende databestanden het risico van ongelijke behandeling en uitsluiting met zich kan brengen. Ook menen zij dat de regering momenteel geen goed zicht heeft op de ontwikkelingen en inzet van alle algoritmes die de overheid gebruikt.

Op 31 augustus 2018 heeft de Afdeling advisering van de Raad van State (Afdeling advisering) een ongevraagd advies gegeven over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen. In een eerder Stibbeblogbericht is al uitvoerig ingegaan op de (vergelijkbare) problemen die de Afdeling advisering constateert als besluiten via een geautomatiseerd systeem op basis van algoritmen worden genomen.

De motie over een meldplicht voor ingrijpende algoritmes bouwt hier op voort. De motie is ingediend tijdens het debat in de Tweede Kamer op 10 september 2019 dat werd gevoerd naar aanleiding van het ongevraagde advies van de Afdeling advisering. Alhoewel het Kamerdebat pas ruim een jaar na het uitbrengen van het advies van de Afdeling advisering heeft plaatsgevonden, heeft de politiek niet helemaal stilgezeten. In de tussentijd is er namelijk ook een motie aangenomen waarin de regering wordt verzocht om een voorstel uit te werken voor een zogenoemde 'algoritmewaakhond'. Het idee hierachter is dat er een autoriteit moet komen die controleert of algoritmes niet leiden tot discriminatie én of burgers nog voldoende uitleg krijgen over de besluiten die daarmee genomen zijn.

Het Kamerdebat en de motie 'meldplicht voor ingrijpende algoritmes'

In het Kamerdebat laten verschillende partijen zich opnieuw positief uit over het in het leven roepen van een 'algoritmewaakhond'. Ook de staatssecretaris van Binnenlandse zaken en Koninkrijksrelaties (BZK) erkent dat geautomatiseerde besluitvorming via algoritmes kan leiden tot foute toepassingen waarbij de burger de gedupeerde is. De motie 'meldplicht voor ingrijpende algoritmes' beoogt de regeling voor de 'algoritmewaakhond' te vergroten. De Kamer verzoekt de regering namelijk om in de plannen voor die 'algoritmewaakhond' ook een meldplicht op te nemen, zodat er meer zicht komt op allerlei algoritmes die nu zonder enige controle bij verschillende overheidsinstanties tot stand komen.

Strategisch actieplan

In het Kamerdebat laat de staatssecretaris zich verder niet uit over concrete voorstellen die de problemen bij geautomatiseerde besluitvorming moeten oplossen. Wel wijst hij erop dat de Kamer binnenkort drie stukken ontvangt: een brief van de minister van BZK over het beschermen van publieke waarden en mensenrechten, een brief van de staatssecretaris van Economische Zaken en Klimaat over het strategisch actieplan kunstmatige intelligentie en een brief van de minister voor Rechtsbescherming over de bescherming tegen risico's van data-analyse door de overheid.

Deze Kamerbrieven en het overkoepelende strategisch actieplan zijn inmiddels op 8 oktober 2019 verschenen. In dit actieplan is te lezen dat de regering op een drietal sporen wil gaan inzetten om de toepassing en ontwikkeling van artificiële intelligentie (AI) in Nederland te versnellen. Vooral spoor 3 en de aanvullende Kamerbrief van de minister voor Rechtsbescherming over spoor 3 zijn relevant voor de problemen die spelen bij geautomatiseerde besluitvorming. Hierin wordt namelijk ingegaan op mogelijke waarborgen tegen de risico's van het gebruik van algoritmes en data-analyse door de overheid.

Stibbe Digital Government pagina

In een bericht dat later zal verschijnen, gaan wij dieper in op de inhoud van het strategisch actieplan en de mogelijke waarborgen die de regering noemt.

Houd hiervoor ook onze nieuwe webpagina in de gaten die in het teken staat van 'Digital Government'. Op deze webpagina houden wij u up-to-date over de groeiende digitalisering bij de overheid door middel van jurisprudentie, kamerstukken, relevante artikelen en onze eigen analyses.

Team

Related news

13.11.2019 NL law
Van Stint tot Fipronil: een schadefonds voor gedupeerden van voortvarend overheidsingrijpen in crisissituaties

Short Reads - Op donderdag 7 november 2019 was prof. mr. Pieter van Vollenhoven te gast bij ons op kantoor voor het seminar "Van Stint tot Fipronil: een schadefonds voor gedupeerden van voortvarend overheidsingrijpen in crisissituaties". In het sprekerspanel met o.a. Berthy van den Broek, Janet van de Bunt, Monique de Groot en Edwin Renzen en ook in de zaal waren de meesten duidelijk gecharmeerd van zo’n fonds Van Vollenhoven. Maar er blijven nog genoeg vragen over hoe zo’n fonds precies zou moeten worden ingericht.

Read more

13.11.2019 NL law
Een strategisch actieplan voor het gebruik van AI door de overheid

Short Reads - Een paar jaren geleden hoorde je er nog nauwelijks over, maar nu kan je er bijna niet meer om heen: kunstmatige intelligentie, ook wel artificiële intelligentie (AI) genoemd.  AI verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie ondernemen om specifieke doelen te bereiken. Denk aan zelfrijdende auto's of slimme thermostaten. 

Read more

08.11.2019 EU law
Erik Valgaeren is session chair during IBA's 6th Biennial Technology Law Conference in Berlin

Speaking slot - Stibbe's TMT partner, Erik Valgaeren, chairs a session discussing the new legal challenges, created by the most recent technological developments in the field of software, data, online services and telecom, including 5G, pricing algorithms, platforms and data monetization. This session will take place on the 8th of November 2019 in Berlin.

Read more

13.11.2019 NL law
Billijker bestuursrecht met minder formele rechtskracht

Short Reads - De recente uitspraken van de Hoge Raad over de Groningse aardbevingsschade en die van de Afdeling bestuursrechtspraak over het terugvorderen van toeslagen voor kinderopvang hebben meer met elkaar te maken dan menigeen op voorhand zal denken. Zowel de Hoge Raad als de Afdeling kiest daarin namelijk – terecht – voor een verdere versoepeling van de leer van de formele rechtskracht van besluiten. Een leer die vaak wordt bekritiseerd vanwege de onnodig onbillijke uitkomsten daarvan in sommige zaken.

Read more

08.11.2019 BE law
Interview with Wouter Ghijsels on Next Gen lawyers

Articles - Stibbe’s managing partner Wouter Ghijsels shares his insights on the next generation of lawyers and the future of the legal profession at the occasion of the Leaders Meeting Paris where Belgian business leaders, politicians and inspiring people from the cultural and academic world will discuss this year's central theme "The Next Gen".

Read more

Our website uses functional cookies for the functioning of the website and analytic cookies that enable us to generate aggregated visitor data. We also use other cookies, such as third party tracking cookies - please indicate whether you agree to the use of these other cookies:

Privacy – en cookieverklaring