"Uitvoeringsinstanties als de Belastingdienst, het UWV en de Sociale Verzekeringsbank hebben op grote schaal algoritmes ingezet om burgers te controleren. De overheid zal echter pas op de plaats moeten maken. Elke vorm van controle door de overheid op deze algoritmes lijkt te ontbreken." Dat schrijft ICT-expert Marc Gelissen in Computable. Hij doet een aantal suggesties hoe het wel moet.
De bezwaren van Gelissen tegen de huidige inzet van algoritmes door de overheid komen op het volgende neer: "Door gebrek aan kennis van het achterliggende algoritme weet niemand waaróm de computer 'nee' zegt. Als de overheid zonder controle data aan een algoritme voert en dat algoritme vervolgens beslissingen laat nemen, dan geeft het eigenlijk de macht aan degene die dat algoritme ontwikkeld heeft waarvan we niet echt weten op basis van welke parameters de uiteindelijke beslissingen genomen worden."
Zet de overheid toch artificial intelligence in, dan dienen volgens de ICT-expert daar een paar stappen aan vooraf te gaan. Allereerst moet gecontroleerd worden of de wet door de uitvoeringsinstanties goed geïnterpreteerd is. Veel uitvoeringsinstanties zetten hier ook algoritmes bij in. Het is echter van belang dat de wet op een juiste manier geïnterpreteerd is in het algoritme. Als de wetgevende instantie dit niet kan controleren in een algoritme zou dit ook niet ingezet mogen worden in de praktijk.
Ten tweede vindt Gelissen het van groot belang dat het algoritme tijdens de ontwikkeling gevoed wordt met een volledige dataset. Het gaat mis als de datasets incompleet zijn of vooroordelen bevatten. Gelissen noemt als voorbeeld het door overheden voor uitkeringsdoelen gebruikte systeem Syri, waarvan een rechter beoordeelde dat het discriminerend werkt, waarop het gebruik werd stopgezet.
Geautomatiseerde beslissingen
Gelissen pleit voor vertaling van de wetgeving in geautomatiseerde beslissingen, waarbij het systeem niet zelflerend is. "Zo houdt de overheid de controle over de te nemen beslissingen. De beslisregels die daarin worden geprogrammeerd, dienen zo gemodelleerd te worden dat de overheid ze kan controleren. Het overgrote deel van een te controleren groep burgers zal binnen de parameters van de geautomatiseerde beslissing vallen. Zo kan een instantie als de belastingdienst of het UWV snel beoordelingen doen. Het overblijvende deel, waar niet direct een duidelijke beslissing voor in beeld komt, wordt vervolgens beoordeeld door zeer goed getrainde mensen."
De ICT-expert wijst op het toetsingskader van de Rekenkamer om algoritmes doorlopend te beoordelen. "Dat is een goede zaak. De belangrijkste toets is een ethische: wordt er niet gediscrimineerd, en komt de 'menselijke maat' niet in de knel? Ook moet een burger de gebruikte data kunnen opvragen", aldus Gelissen in het computerblad.
Lees ook het thema Machine Learning en fiscaliteit.
Bron: Computable
Informatiesoort: Nieuws
Rubriek: Belastingrecht algemeen, Sociale zekerheid algemeen