De Wetenschappelijke Raad voor het Regeringsbeleid lanceerde deze week het rapport ´Opgave AI´. De WRR conclusie: Nederland is niet goed voorbereid op gevolgen van kunstmatige intelligentie. Mijn conclusie: in elk geval ontbreken voorzieningen voor beroep, bezwaar en dossierinzage door slachtoffers van datakoppeling. Hoe ging dat ook weer bij de toeslagenaffaire?

(Door Taco van Dommels, oorspronkelijk verschenen bij konfrontatie foto free download van pxfuel)

De WRR is in 2018 door negen Nederlandse ministeries gevraagd onderzoek te doen naar ¨de vraagstukken rondom kunstmatige intelligentie (AI)¨. In de adviesaanvraag heette het zo: ¨Gelet op het toenemende gebruik van AI in nagenoeg alle sectoren is er behoefte aan discipline-overstijgend onderzoek naar de impact van AI op publieke waarden.¨ De regering verwees naar de eigenschappen van AI zelf, naar vragen rond de controle en aansprakelijkheid en naar bestaande problemen met betrekking tot digitalisering, zoals privacy, cybersecurity en machtsconcentratie bij technologiebedrijven.

Overheden gebruiken steeds meer automatische besluitvorming op basis van AI. Een paar actuele en toekomstige voorbeelden die WRR projectcoördinator en hoogleraar Haroon Sheikh in een NRC-interview noemde zijn de zelfrijdende auto, precisielandbouw en ´voorspellend politiewerk´. Maar denk ook aan gezichtsherkenning, microtargeting (zoals door Cambridge Analytica) en natuurlijk fraudebestrijding (die uitmondde in een nog steeds niet afgesloten toeslagenaffaire).

Sheikh stelt kunstmatige intelligentie op één vlak met de stoommachine, elektriciteit en de verbrandingsmotor: het is een technologie met zeer grote invloed op de hele maatschappij. Wij zijn echter niet goed op voorbereid op de gevolgen van artificiële intelligentie, aldus de hoogleraar, want het is een technologie die op maatschappelijk, economisch en geopolitiek gebied méér verandert dan waar politiek en bestuurlijk Nederland én de samenleving rekening mee houden. Hij benadrukt dat er nu bij AI grote taken liggen om nieuwe checks en balances in te bouwen.

Checks & Balances?

Ik heb het rapport gescand op een paar zoektermen en vond daarbij niets over passende wettelijke voorzieningen op basis waarvan een geschaduwde en van fraude beschuldigde burger bezwaar kan aantekenen, in beroep kan gaan of zelfs het eigen dossier kan inzien. Blijkbaar kan de burger hooguit een beroep doen op de zwakke privacywetgeving om misbruik van persoonsgegevens aan te kaarten.

Op pagina 315 van het rapport schrijft de WRR het volgende:

¨Misschien nog wel het belangrijkst is dat AI-ontwikkeling niet gebonden is aan AI-specifieke juridische en beroepsmatige verantwoordingsmechanismen. Verhaal en herstel zijn momenteel niet of nauwelijks mogelijk. Enkele uitzonderingen zijn privacyschendingen en datalekken, maar het kenmerk daarvan is nu juist dat verhaal en herstel hier door wetgeving (AVG) worden gereguleerd. Dat laat het behartigen van de overige waarden over aan de zelfregulering van private partijen, waarvan het langetermijn-commitment aan die waarden geenszins gegeven is. Dit wringt des te meer nu de discussie over AI, zoals die gevoerd wordt door het bedrijfsleven en in sommige delen van de wetenschap, zich hoofdzakelijk richt op de vraag hoe en onder welke voorwaarden AI te gebruiken. De wenselijkheid van dit gebruik als zodanig is echter niet of nauwelijks onderwerp van gesprek¨.

Eerste Kamer

De Eerste Kamer bereidt zich voor om zeer binnenkort te stemmen over een nieuwe wet voor datakoppeling door (semi-)overheden en bedrijven, de wet Gegevensverwerking Samenwerkingsverbanden (WGS). Op 9 november riep voorzitter Aleid Wolfsen van de Autoriteit Persoonsgegevens de senatoren op die wet niet goed te keuren, want de gevolgen hiervan zullen nòg heftiger zijn dan in de toeslagenaffaire. De WGS is volgens Wolfsen ook veel ingrijpender dan het afgekeurde SyRI, omdat veel meer organisaties, ook van buiten de overheid, betrokken zijn bij de data-uitwisseling. Hij waarschuwde voor ´kafkaëske toestanden voor grote aantallen mensen´.

Super SyRI

Deze wet Gegevensverwerking Samenwerkingsverbanden werd ondanks de ophef over en kritiek op de manier waarop de Belastingdienst toeslagenontvangers behandelde vlak voor de kerst in 2020 goedgekeurd door de Tweede Kamer. Terecht werd die door critici aangeduid als een Super-SyRI. Het fraude-opsporingssysteem SyRI werd als eerste in de armere wijken van Rotterdam ingezet om fraude met sociale voorzieningen op te sporen.

Begin 2020 werd de inzet van SyRI door gemeenten door de rechter verboden. De rechtbank was van mening dat SyRI in strijd is met het Europees Verdrag voor de Rechten van de Mens. SyRI maakt een onevenredig grote inbreuk op het privéleven van burgers, is niet transparant en burgers kunnen zich er niet tegen verweren. Maar SyRI komt nu op nog krachtiger wijze terug in de vorm van de wet Gegevensverwerking Samenwerkingsverbanden, indien de Eerste Kamer akkoord gaat.

Failliet van de democratische rechtsorde

Op basis van voorgeprogrammeerde procedurestappen door een kunstmatig intelligentiesysteem, of omdat iemand in je omgeving je aangeeft via een kliklijn, kan je naam op een zwarte lijst terecht komen. Een lijst die in stilte wordt gedeeld door verschillende (semi-)overheidsinstanties en bedrijven die hun dataverzamelingen onderling delen om een profiel van je te maken. Je kunt ineens worden veroordeeld wegens fraude en worden veroordeeld terwijl je niets strafbaars hebt gedaan. Maar er zijn geen mogelijkheden om hier met succes tegen in te gaan en om je persoonsgegevens van die lijst te halen. Ongeveer dat wat Frans Kafka beschrijft in zijn boek Das Schloss.

Volgens de voorzitter van het Platform Burgerrechten, Tijmen Wisman, is de wet Gegevensverwerking Samenwerkingsverbanden de volgende stap in de vervolmaking van de BV Nederland en het failliet van de democratische rechtsorde.