Shoshana Zuboff stelt in haar boek "The Age of Surveillance Capitalism" dat we in een kapitalistische fase zijn aanbeland die is voortgebracht door Google en de andere digitale monsters. Het centraal organiserende maatschappelijke principe van de 20e eeuw - de verdeling van arbeid - heeft nu plaatsgemaakt voor de verdeling van het leren in de maatschappij. In de lange kapitalistische evolutie zijn we van het maken van producten via massaproductie, managerskapitalisme, diensten en financieel kapitalisme nu aangekomen bij de uitbuiting van gedragsvoorspellingen op basis van geheime en ongemerkte observatie van gebruikers.

(Door Taco Van Dommels, oorspronkelijk verschenen bij konfrontatie.nl)

Zuboff : ¨Surveillance kapitalisme claimt de menselijke ervaring als vrij verkrijgbare grondstof die vertaald kan worden in gedragsgegevens. Het gros van de verkregen gegevens wordt beschouwd als ´in eigendom genomen gedragssurplus´ die aan ´machine intelligentieprocessen´ worden gevoerd. Om daar vervolgens te worden omgevormd tot voorspellingsproducten die anticiperen op wat de gebruiker nu, straks of in de toekomst doet. Tenslotte worden deze voorspellingsproducten verhandeld op een nieuw soort markt, de ´gedrags futures markt´ . Surveillance kapitalisten zijn inmiddels ongelovelijk rijk geworden van deze handel want veel bedrijven (en ook overheden, TvD) hebben er belang bij om ons gedrag te kunnen voorspellen¨.

Automatiseren van de gebruikers

Volgens haar krijgen wij, de gebruikers van digitale tehcnologie, geen toegang tot de kennis die aan ons (gedrag) is onttrokken en hebben we er geen enkele controle over. Het zijn de surveillance kapitalisten die de kennis, autoriteit en macht hebben en wij zijn voor hen slechts ´menselijke natuurlijke hulpbronnen´.

De focus wordt ondertussen steeds meer verlegd van de individuele gebruiker naar gemeenschappen als steden en de maatschappij als geheel. Van een ´economy of scale´ zijn we terecht gekomen in een ´economy of action´ waarin digitale systemen zijn ingericht op het beïnvloeden van ons gedrag. Zubboff: Het is niet langer voldoende om de informatiestromen die over ons gaan te automatiseren. Het doel is nu om óns te automatiseren.

Anti-demokratisch

De afgelopen twintig jaar werden de surveillance kapitalisten niet of nauwelijks geremd door bestaande of nieuwe wet- en regelgeving. De democratie sliep en er konden nieuwe vormen van sociale ongelijkheid ontstaan die in de kern anti-democratisch zijn. Mede omdat de ¨normale demokratische reactiemechanismen¨ faalden. Want het surveillance kapitalisme – anders dan het marktkapitalisme – is niet afhankelijk van de mens als consument, hoeft relatief maar weinig mensen als werknemer in dienst te nemen, en bouwt op het ondermijnen van de individuele zelfbepaling, autonomie en besluitvomingsrechten. Het komt neer op een marktgeleide coup van bovenaf vermomd met het digitaal-technologische Trojaanse paard en gepresenteerd als ´gepersonaliseerd´.

Wat te doen?

We hoeven niet te rekenen op zelfregulering door de Big Tech. Dat zou zijn alsof we van een koe verlangen dat die stopt met herkauwen. Ook de eis van ´gegevenseigendom¨ is onbruikbaar. Het zou het verzamelen van gegevens alleen maar verder institutionaliseren en legitimeren. Volgens Zuboff moeten we beginnen met het benoemen van het probleem en daarna met het temmen ervan. Het probleem moet worden aangepakt door de bestaande demokratische instituties te mobiliseren in de politieke arena. Ze stelt voor om voort te bouwen op de General Data Protection Regulation van de EU om te zien of dat voldoende basis oplevert voor ¨een nieuw paradigma voor informatiekapitalisme¨.

In beweging

Ondertussen groeit de arbeidsonrust binnen het Google-imperium. In november vorig jaar gingen 20 duizend Google-werkers wereldwijd de straat op om te protesteren. Hun ´Global Walk-out for Real change´ richt zich tegen het aanhouden van leidinggevenden die sexueel intimideren en geweldplegen en tegen deelname van Google aan projecten voor het militair-industrieel complex en voor de Chinese overheid (digitale bevolkingscontrole via Project Dragonfly).

In maart van dit jaar werd Facebook door het Amerikaanse Department of Housing and Urban Development aangeklaagd wegens het schenden van the Fair Housing Act. De algoritmen van Facebook zorgden er voor dat bepaalde bevolkingsgroepen in de VS niet alle advertenties voor leegstaande huizen voorgeschoteld kregen.

Begin april dienden 3 Democraten in het Amerikaanse Congress een wetsvoorstel in. Deze Algorithmic Accountability Act gaat ervan uit dat de toezichthouder, de Federal Trade Commission,  bedrijven en overheden die persoonlijke data gebruiken, opslaan en delen verplicht om hun algoritmes grondig te evalueren op nauwkeurigheid, fairness, vooringenomenheid en discriminatie. En om ze ook verplicht die algoritmes vervolgens aan te passen.

Volgens de Kaminsky en Selbst is dit een stap in de goede richting, maar moet het voorstel worden aangescherpt. Er is bijvoorbeeld geen duidelijk verbod in opgenomen op vooringenomen of onfaire inzet van algoritmes en het wetsvoorstel steunt op een instantie (Federal Trade Commission) die nu al geen beste trackrecord heeft bij het handhaven en vervolgen van overtreders van privacyschenders.

Verder omvat het wetsvoorstel geen mechanisme voor input van ervaringen van gebruikers met betrekking tot discriminerende algoritmes en softwaretoepassingen. Ook zijn de bepalingen omtrent de evaluaties van algoritmes door onafhankelijke auditors en technologie-experts te zwak. Als laatste wordt de toezichthouder niet verplicht om de resultaten van de evaluaties openbaar en transparant te maken of om tenminste de geleerde lessen uit de resultaten van de evaluaties jaarlijks samen te vatten.

Of juist weer terug naar af?

Europees Commissaris Vestager waarschuwde de buitenlandse techgiganten begin deze maand dat de EU haar anti-kartel wetgeving zal inzettten zodra hun gegevensverzamelwoede de ´vrije´ concurrentie schaadt. Ze kondigde ook aan door te gaan met onderzoek naar gegevensgerelateerde kwesties bij toekomstige fusies en anti-kartelzaken.

En de voorzitter van de Europese Raad, Tusk, gaf aan dat de EU op zijn hoede is voor de opmars van techginganten uit de VS een China. Volgens hem staat de EU vooraan waar het gaat om de controle te verbeteren over hoe sociale mediabedrijven omgaan met de persoonlijke gegevens van consumenten. De regelgeving stelt de Europese toezichthouders in staat om bij schendingen boetes op te leggen tot 4% van de wereldwijde winstopbrengst.

Gaat het hierbij ook om beleid dat een stap is in de goede richting? Of is het ter voorbereiding van de toekomstige versoepeling van de Europese concurrentiewetgeving om de creatie van Europese techgiganten mogelijk te maken die met de Amerikaanse en Chinese kunnen concurreren?

Er is nog een hele lange weg te gaan.....