AI – vol gas de mist in

(Illustratie: geralt on Pixabay, publiek domein)

Voor mij was artificiële intelligentie in de jaren zeventig een verkooptruc. Ze spreekt tot de verbeelding en natuurlijk mag je niet achterblijven. Reden genoeg om onderzoek te subsidiëren. Net zoiets als cybernetica. Daar waren de Russen blijkbaar goed in, dus alle reden om daarin te investeren. Ondertussen – vijftig jaar later – is de situatie veranderd.
Overheden en ondernemingen verzamelen gigantische hoeveelheden gegevens. De programmatuur (software, algoritmes) is in staat daar verbanden uit te halen en zich verder te ontwikkelen. En ten derde, is de beschikbare rekenkracht voldoende om binnen redelijke tijd resultaten te boeken. Meer brute kracht dan intelligentie, maar daarmee is een kritische massa overschreden en een kettingreactie ontstaan. De vraag is of de belanghebbenden die onder controle willen houden. Want het gaat om macht en geld.

Europese Unie

De Europese Commissie bracht februari 2020 het Witboek uit over kunstmatige intelligentie – een Europese benadering op basis van excellentie en vertrouwen. De toon is duidelijk: AI gaat ons enorm helpen grote problemen op de lossen, de EU kan wereldleider worden op dit gebied en met regelgeving zijn negatieve effecten beheersbaar. Problemen zijn er genoeg op het gebied van privacy, controleerbaarheid, toepassingen bij human resources management, vooroordelen en discriminatie, risico van manipulatie en fake nieuws, …. De regelgeving moet vertrouwen geven. Dat zal niet meevallen, omdat de EU vergeven is van lobbyisten van bedrijven die baat hebben bij AI. En de ambitie tot wereldleider brengt met zich mee dat het bedje voor bedrijven moet worden gespreid. Vanwege efficiëntie (voor de investeerders) wil Europa uniforme regelgeving binnen de Unie. Henk Michel gaat op Ander Europa uitvoerig in op het Witboek.

De Europese Unie heeft haast met de regelgeving, want eenmaal ingevoerde systemen zijn moeilijk en duur terug te draaien. Het Europese Parlement beslist waarschijnlijk volgende maand over wetgeving. Daarna volgen onderhandelingsronden met de lidstaten. Volgens de NRC van 16 mei gaat de EU biometrische toepassingen, zoals bijvoorbeeld gezichtsherkenning en statistische misdaadvoorspellingen, beperken. Op weg naar dit wetsvoorstel heeft Human Rights Watch waarschuwingen gegeven dat de EU de mensenrechten onvoldoende beschermt. Toegang tot sociale voorzieningen en het risico van discriminatie zijn onvoldoende verzekerd. Recentelijk benadrukken ze de gevaren van beveiliging en monitoring, discriminatie en gebrek aan verantwoording, als het mis gaat. Social Europe vreest dat de rechten van werknemers in het geding zijn. De vakbeweging is nauwelijks betrokken bij de ontwikkelingen.

Nederland

Ons land is het stoutste jongetje in de klas. De toeslagenaffaire met het gebruik van SyRI (Systeem Risico Indicatie) is een klassiek voorbeeld hoe het niet moet. Een geautomatiseerd systeem ontneemt via overheidsmacht de burgers hun rechten. De controlemechanismen zijn wegbezuinigd. Vooral armere burgers van kleur uit achterstandswijken werden in diepe armoede gedreven. Gaat dit met nieuwe systemen weer gebeuren? De Wetenschappelijke Raad voor het Regeringsbeleid (WRR) presenteerde in 2021 het rapport Opgave ai. De nieuwe systeemtechnologie. Meer dan vijfhonderd pagina’s dik, maar zeer leesbaar geschreven. De WRR ziet de volgende opgaven:
1) demystificatie van wat ai is en kan;
2) contextualisering [context geven, bijvoorbeeld waar, hoe en waarom; andere standpunten vermelden] van de ontwikkeling en toepassing van ai;
3) engagement van verschillende partijen;
4) regulering van technologie en data, het gebruik ervan en maatschappelijke implicaties;
5) positionering ten opzichte van andere landen en internationale organisaties.

Die opgaven lijken sterk op de plannen van de EU: vertrouwen winnen en razendsnel verder ontwikkelen. De WRR wil helderheid over AI, maar dat zal niet meevallen, want Niemand weet hoe ai zich in de toekomst zal ontwikkelen. Daarom: Een inzet van ai in de samenleving die in lijn is met onze publieke waarden, vraagt om samenwerking, onderhandeling, gewenning, debat en strijd.
Dat houden we in gedachte, want de aanpak tot nu toe is niet zo. Overheid en bedrijven gaan gewoon hun gang en willen niet meer dan een beetje regelgeving als schaamlap. Naar aanleiding van het WRR-advies stelt Taco van Dommels de oprukkende discriminatie en de Kafkaiaanse route voor bezwaren tegen registratie aan de orde.

Vergeten?

Overal wordt benadrukt dat AI niet echt intelligent is en zich niet autonoom tegen de mensheid zal keren, zoals bijvoorbeeld de computer HAL in 2001: A Space Odyssey. Het risico komt van bedrijven en overheden die in een race zijn naar macht. Over AI-toepassingen in wapensystemen hebben de overheden het bijvoorbeeld niet, noch de EU, noch de WRR. Ko Colijn wel. Volgens hem gaat AI een steeds belangrijker rol spelen in (autonome) wapensystemen, kernwapens niet uitgezonderd. De doos van Pandora is volgens hem al open.

De WRR noemt AI als vervolg in het rijtje stoommachine, elektriciteit en verbrandingsmotor: een omwenteling met zeer grote invloed op de hele maatschappij. Maar wat en hoe is mistig. Over de verandering in werkgelegenheid lezen we niets. Ongetwijfeld zal in bepaalde soorten werk de werkgelegenheid toenemen ten koste van andere. De schrijvers van het WRR-advies zijn daar in de NRC nogal laconiek over – de iPhone maakte sommige banen overbodig, maar creëerde volgens hen ook nieuwe diensten en werk. Probleem is dat sommige mensen uit de boot gaan vallen. En hun vertegenwoordigers – de vakbeweging – zitten bij dit alles niet aan tafel. Zover ik kan vinden is de FNV bezig met het effect van robots op de arbeidsomstandigheden, maar niet met andere aspecten van AI. Ook daar ligt een urgente taak voor de vakbeweging om voldongen feiten en ongelukken te voorkomen.