Share
Sign In
Overheidsalgoritme
De Voorspelbare Burger
Steeds vaker hoor je de term overheidsalgoritme en evenzo vaak in een niet zo heel positieve context zoals de Toeslagenaffaire, maar wat is het eigenlijk?
Een algoritme is een instructiereeks die een geautomatiseerd systeem volgt om een bepaalde taak te kunnen uitvoeren. Het wordt gebruikt door overheidsinstanties om beslissingen te nemen of processen te automatiseren. Overheidsalgoritmes kunnen worden toegepast op verschillende gebieden, zoals belastingheffing, rechtshandhaving, sociale zekerheid, immigratie en gezondheidszorg. Daarbij wordt steeds vaker gebruik gemaakt van het zelflerende algoritme. Dit is een (groep van) algoritme(s) dat in staat is om te leren en zichzelf te verbeteren, zonder dat daarvoor expliciete programmering nodig is. Daarmee staan we al met een been in het complexe en brede domein van kunstmatige intelligentie.
Gekoppeld aan Big Data, kunnen overheidsalgoritmes worden gebruikt om gegevens te analyseren, risico's te beoordelen, voorspellingen te doen of beslissingen te nemen op basis van verzamelde informatie. Enerzijds biedt dit de overheid de mogelijkheid om efficiënter te besturen en te handhaven, maar anderzijds leidt het ook tot ethische kwesties, zoals discriminatie, privacy-inbreuken en gebrek aan transparantie. Dit komt omdat het systeem functioneert op basis van soms discutabele uitgangspunten, bijvoorbeeld de aanname dat afkomst of een laag inkomen een indicatie is voor fraudegevaar. Het vaak ontbreken van handmatige controle, kan helaas tot zeer schrijnende situaties leiden die volledig geautomatiseerd plaatsvinden.
Een algoritme is een instructiereeks die een geautomatiseerd systeem volgt om een bepaalde taak te kunnen uitvoeren. Het wordt gebruikt door overheidsinstanties om beslissingen te nemen of processen te automatiseren. Overheidsalgoritmes kunnen worden toegepast op verschillende gebieden, zoals belastingheffing, rechtshandhaving, sociale zekerheid, immigratie en gezondheidszorg. Daarbij wordt steeds vaker gebruik gemaakt van het zelflerende algoritme. Dit is een (groep van) algoritme(s) dat in staat is om te leren en zichzelf te verbeteren, zonder dat daarvoor expliciete programmering nodig is. Daarmee staan we al met een been in het complexe en brede domein van kunstmatige intelligentie.
Gekoppeld aan Big Data, kunnen overheidsalgoritmes worden gebruikt om gegevens te analyseren, risico's te beoordelen, voorspellingen te doen of beslissingen te nemen op basis van verzamelde informatie. Enerzijds biedt dit de overheid de mogelijkheid om efficiënter te besturen en te handhaven, maar anderzijds leidt het ook tot ethische kwesties, zoals discriminatie, privacy-inbreuken en gebrek aan transparantie. Dit komt omdat het systeem functioneert op basis van soms discutabele uitgangspunten, bijvoorbeeld de aanname dat afkomst of een laag inkomen een indicatie is voor fraudegevaar. Het vaak ontbreken van handmatige controle, kan helaas tot zeer schrijnende situaties leiden die volledig geautomatiseerd plaatsvinden.
Het temmen van het overheidsalgoritme is een uitdaging.
Zorgvuldig Toezicht
Het is daarom belangrijk dat overheidsinstanties bij het gebruik van algoritmes zorgvuldig toezicht houden, verantwoordelijkheid nemen voor de beslissingen die ze genereren en transparant zijn over het gebruik ervan. Dat is een uitdaging, omdat we bij de gevallen waarin het mis ging, zagen dat de interne privacy toezichthouder niet werd gehoord. Dat laatste lost het probleem echter nog niet op, omdat bij zeer geavanceerde systemen het beslissingsproces via een zogenaamde black box plaatsvindt en de afwegingen daardoor niet volledig traceerbaar zijn. Ook kunnen intellectuele eigendomsrechten op de software van het systeem de transparentie in de weg staan.
Gelukkig is er sinds kort een Algoritmeregister waarin de overheid het gebruik van (eenvoudige) algoritmes inzichtelijk maakt, echter zullen niet alle in gebruik zijnde algoritmes daar te vinden zijn. Het opsporen van fraude kan bijvoorbeeld worden bemoeilijkt wanneer de doelgroep weet heeft van de werking van het algoritme. Daarmee blijft het gebruik van algoritmes toch nog een wat schimmige aangelegenheid, en heeft dit ook gevolgen voor aanpalende vraagstukken als accountability en het vertrouwen van de burger in de overheid.
Gelukkig is er sinds kort een Algoritmeregister waarin de overheid het gebruik van (eenvoudige) algoritmes inzichtelijk maakt, echter zullen niet alle in gebruik zijnde algoritmes daar te vinden zijn. Het opsporen van fraude kan bijvoorbeeld worden bemoeilijkt wanneer de doelgroep weet heeft van de werking van het algoritme. Daarmee blijft het gebruik van algoritmes toch nog een wat schimmige aangelegenheid, en heeft dit ook gevolgen voor aanpalende vraagstukken als accountability en het vertrouwen van de burger in de overheid.
Roderic Winkelhorst