Short Reads

Kamerdebat over digitalisering van de overheid: aandacht voor bescherming burger vereist

Kamerdebat over digitalisering van de overheid: aandacht voor bescher

Kamerdebat over digitalisering van de overheid: aandacht voor bescherming burger vereist

14.10.2019 NL law

Op 24 september 2019 zijn er vier moties in stemming gebracht én aangenomen door de Tweede Kamer. De moties hebben als gemeenschappelijke deler dat ze in het teken staan van de steeds groter wordende digitalisering bij de overheid. Het achterliggende doel van de moties is dat de burger voldoende beschermd moet worden tegen deze digitalisering.

Vier moties aangenomen

De vier moties zijn de volgende, waarbij wij ons in deze blog richten op de laatste motie:

  1. motie van de leden Van der Molen en Middendorp over een centraal meldpunt voor problemen met basisregistraties;
  2. motie van het lid Middendorp over de site MijnOverheid.nl als platform voor digitaal contact tussen overheid en burgers;
  3. motie van de leden Futselaar en Van Raak over laagdrempelige communicatiemogelijkheden bij elke overheidsinstantie;
  4. motie van de leden Verhoeven en Van der Molen over een meldplicht voor ingrijpende algoritmes

Algoritmes voor geautomatiseerde besluitvorming

Laatstgenoemde motie staat in het teken van geautomatiseerde besluitvorming door de overheid. Besluitvorming vindt steeds meer digitaal plaats op basis van algoritmes. Bij zulke besluitvorming komt er geen mens meer aan te pas. Op het eerste gezicht klinkt dit wellicht aantrekkelijk uit een oogpunt van efficiëntie, maar er zijn ook nadelen aan verbonden. Zo vrezen de initiatiefnemers van de motie dat de inzet van algoritmes en de onderliggende databestanden het risico van ongelijke behandeling en uitsluiting met zich kan brengen. Ook menen zij dat de regering momenteel geen goed zicht heeft op de ontwikkelingen en inzet van alle algoritmes die de overheid gebruikt.

Op 31 augustus 2018 heeft de Afdeling advisering van de Raad van State (Afdeling advisering) een ongevraagd advies gegeven over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen. In een eerder Stibbeblogbericht is al uitvoerig ingegaan op de (vergelijkbare) problemen die de Afdeling advisering constateert als besluiten via een geautomatiseerd systeem op basis van algoritmen worden genomen.

De motie over een meldplicht voor ingrijpende algoritmes bouwt hier op voort. De motie is ingediend tijdens het debat in de Tweede Kamer op 10 september 2019 dat werd gevoerd naar aanleiding van het ongevraagde advies van de Afdeling advisering. Alhoewel het Kamerdebat pas ruim een jaar na het uitbrengen van het advies van de Afdeling advisering heeft plaatsgevonden, heeft de politiek niet helemaal stilgezeten. In de tussentijd is er namelijk ook een motie aangenomen waarin de regering wordt verzocht om een voorstel uit te werken voor een zogenoemde 'algoritmewaakhond'. Het idee hierachter is dat er een autoriteit moet komen die controleert of algoritmes niet leiden tot discriminatie én of burgers nog voldoende uitleg krijgen over de besluiten die daarmee genomen zijn.

Het Kamerdebat en de motie 'meldplicht voor ingrijpende algoritmes'

In het Kamerdebat laten verschillende partijen zich opnieuw positief uit over het in het leven roepen van een 'algoritmewaakhond'. Ook de staatssecretaris van Binnenlandse zaken en Koninkrijksrelaties (BZK) erkent dat geautomatiseerde besluitvorming via algoritmes kan leiden tot foute toepassingen waarbij de burger de gedupeerde is. De motie 'meldplicht voor ingrijpende algoritmes' beoogt de regeling voor de 'algoritmewaakhond' te vergroten. De Kamer verzoekt de regering namelijk om in de plannen voor die 'algoritmewaakhond' ook een meldplicht op te nemen, zodat er meer zicht komt op allerlei algoritmes die nu zonder enige controle bij verschillende overheidsinstanties tot stand komen.

Strategisch actieplan

In het Kamerdebat laat de staatssecretaris zich verder niet uit over concrete voorstellen die de problemen bij geautomatiseerde besluitvorming moeten oplossen. Wel wijst hij erop dat de Kamer binnenkort drie stukken ontvangt: een brief van de minister van BZK over het beschermen van publieke waarden en mensenrechten, een brief van de staatssecretaris van Economische Zaken en Klimaat over het strategisch actieplan kunstmatige intelligentie en een brief van de minister voor Rechtsbescherming over de bescherming tegen risico's van data-analyse door de overheid.

Deze Kamerbrieven en het overkoepelende strategisch actieplan zijn inmiddels op 8 oktober 2019 verschenen. In dit actieplan is te lezen dat de regering op een drietal sporen wil gaan inzetten om de toepassing en ontwikkeling van artificiële intelligentie (AI) in Nederland te versnellen. Vooral spoor 3 en de aanvullende Kamerbrief van de minister voor Rechtsbescherming over spoor 3 zijn relevant voor de problemen die spelen bij geautomatiseerde besluitvorming. Hierin wordt namelijk ingegaan op mogelijke waarborgen tegen de risico's van het gebruik van algoritmes en data-analyse door de overheid.

Stibbe Digital Government pagina

In een bericht dat later zal verschijnen, gaan wij dieper in op de inhoud van het strategisch actieplan en de mogelijke waarborgen die de regering noemt.

Houd hiervoor ook onze nieuwe webpagina in de gaten die in het teken staat van 'Digital Government'. Op deze webpagina houden wij u up-to-date over de groeiende digitalisering bij de overheid door middel van jurisprudentie, kamerstukken, relevante artikelen en onze eigen analyses.

Team

Related news

09.08.2022 NL law
Het initiatiefvoorstel Wet verantwoord en duurzaam internationaal ondernemen in internationale context

Articles - Internationaal maatschappelijk ondernemen, in het bijzonder door corporate sustainability due diligence, staat hoog op de (internationale) agenda. In het voetspoor van enkele andere landen in Europa is in Nederland een voorstel gedaan voor een wettelijk raamwerk dat niet op specifieke hoogrisicosectoren van toepassing is, maar op een veel grotere groep ondernemingen.

Read more

28.07.2022 NL law
Purely commercial interest also a legitimate interest? Council of State leaves the question unanswered.

Short Reads - On 27 July 2022, the Council of State confirmed that the Dutch Data Protection Authority wrongly imposed a €575,000 fine on VoetbalTV. But the Council did not answer the question whether the AP rightly or wrongly believes that a purely commercial interest cannot be a legitimate interest within the meaning of the General Data Protection Regulation.

Read more

09.08.2022 NL law
Bouwen en stikstofdepositie anno 2022: een (on)mogelijke opgave?

Articles - De stikstofproblematiek houdt de gemoederen sinds de PAS-uitspraken van de Afdeling bestuursrechtspraak van de Raad van State (“Afdeling”) al geruime tijd bezig. In onze eerdere artikelen in voorgaande jaren schetsten wij de stand van zaken op dat moment. Omdat de ontwikkelingen sindsdien niet zijn uitgebleven – integendeel – bestaat alle aanleiding voor een update.

Read more

28.07.2022 NL law
Zuiver commercieel belang ook gerechtvaardigd belang: Raad van State laat zich er niet over uit

Short Reads - Op 27 juli 2022 heeft de Raad van State bevestigd dat de Autoriteit Persoonsgegevens onterecht een boete van € 575.000 aan VoetbalTV heeft opgelegd. De hoop bestond dat de Afdeling antwoord zou geven op de vraag of de AP terecht of onterecht meent dat een zuiver commercieel belang géén gerechtvaardigd belang kan zijn in de zin van de Algemene Verordening Gegevensbescherming. Het antwoord op deze vraag blijft echter uit.  

Read more

04.08.2022 NL law
Meer maatwerk bij ontvankelijkheidsbeslissingen

Short Reads - Na een blog uit 2020 heb ik de afgelopen periode enkele uitspraken gesignaleerd die lijken te wijzen op een soepelere omgang van de bestuursrechter met termijnoverschrijdingen. Zo besteedde ik aandacht aan een uitspraak van de rechtbank Limburg, waarin persoonlijke (privé) omstandigheden een doorslaggevende rol speelden. Recent is er een tweetal verzetuitspraken van de Afdeling verschenen waarin persoonlijke omstandigheden ook beslissend waren. Waait er sinds de reflectierapporten inderdaad een nieuwe wind door de ontvankelijkheidsrechtspraak?

Read more

27.07.2022 NL law
Actualiteiten Internationaal Maatschappelijk Verantwoord Ondernemen (IMVO) 

Short Reads - De aandacht voor (Internationaal) Maatschappelijk Verantwoord Ondernemen (“(I)MVO”) en Environmental, Social and Governance factoren (“ESG”) en verantwoording daarover blijft onverminderd groot. Wij zien op nationaal en Europees niveau tal van ontwikkelingen, zoals de publicatie van het voorstel voor een Europese Corporate Sustainability Due Diligence richtlijn. Wij stippen enkele Europese en nationale initiatieven aan. 

Read more