De rechtbank in Den Haag heeft zich in een serie uitspraken negatief uitgelaten over het gebruik door de Immigratie- en Naturalisatiedienst (IND) van een aantal algoritmes in de besluiten van de organisatie. Follow the Money (FTM) denkt dat deze uitspraken gevolgen kunnen hebben voor de miljoenen aanslagen, naheffingen en andere beschikkingen van de fiscus die eveneens zijn gebaseerd op algoritmes.
In de rubriek 'De staat van de rechtsstaat' van het journalistieke platform schrijft Jan-Hein Strop dat de rechter mogelijk transparantie eist van de Belastingdienst.
Het verwijt van de rechter aan de IND is namelijk dat de instantie haar besluiten ondeugdelijk motiveert wanneer er geen melding is gemaakt van het gebruik van een algoritme (in dit geval CaseMatcher). De verantwoordelijke minister moet laten zien hoe het systeem documenten beoordeelt en of ‘risico’s op (automation) bias’ in kaart zijn gebracht.
De Belastingdienst gebruikt niet twee algoritmes, zoals de IND, maar minimaal 68. Strop constateert dat hij geen brieven kent van de Belastingdienst waarin is uitgelegd dat er een algoritme is gebruikt en hoe die doorwerkt in het besluit. De journalist vraagt zich af hoe lang dit houdbaar is gezien de rechterlijke uitspraken over de IND en wat er gebeurt als burgers en bedrijven massaal in bezwaar en beroep gaan tegen besluiten waarvan duidelijk is dat de Belastingdienst een algoritme heeft toegepast.
Strop wijst in zijn verhaal op de Staatscommissie tegen Discriminatie en Racisme die begin mei tot stevige conclusies kwam over algoritmische profilering. Het zou discriminatie in de hand werken en leiden tot onvoldoende rechtsbescherming en rechtszekerheid voor mensen. "De niet-transparante werkwijze botst fundamenteel met de principes van goed openbaar bestuur en is onvoldoende democratisch gelegitimeerd", aldus de commissie.
Bron: FTM