AI begint hier – Waarom wij uit de architectuur van de oorlog moeten deserteren!

(Bron: kibeginnthier.noblogs.org, vertaling socanta, foto: van website Purge Palantir)

Het is gebaseerd op de data die wij dagelijks bij het gebruik van systemen van ondernemingen als Meta, X, Open AI en Google produceren. Met deze en andere data worden AI-programma’s als Lavender getraind die bepalen wie bijvoorbeeld in Gaza met een luchtaanval, drone of raket wordt gedood. Onze civiele data vormen een noodzakelijk onderdeel van deze civiel-militaire infrastructuur – of andersom: er is geen puur civiel gebruik van civiel-militair ontwikkelde technologieën mogelijk! Wij vormen een onderdeel van de AI-oorlogsindustrie en een deel van de vernietiging! De met behulp van algoritmen gestuurde inzet van (staats-)geweld schetst het beeld van een maatschappij waarin verzet geen zin heeft. Het is de hoogste tijd een debat te voeren over de mogelijkheden van een afgestemd weigeren om data te leveren – zeg maar uit de architectuur van de oorlog te deserteren – verbonden met een consequente sabotage van de veelzijdige processen en knooppunten waarin het civiele met het militaire wordt verweven.

Vrijwel alle Big Tech-bedrijven hebben de afgelopen jaren hun gebruiksvoorwaarden aangepast om de verkregen data en hun technologieën ook militair te kunnen gebruiken. Google werkt met Lockheed Martin op het gebied van AI en cloud computing samen, OpenAI met Anduril en Palantir. Meta werkt met Scale AI aan Defence Llama. Scale AI heeft in het kader van het grote Pentagon-project Thunderforg, naast genoemde ondernemingen, meer samenwerkingsverbanden, onder andere met Microsoft. De drie grote cloud-aanbieders (AWS GovCloud, Microsoft Azure Government en Google Cloud for Defense and National Security) hosten de digitale infrastructuur voor het militaire apparaat en geheime diensten. Ook in computercentra van de Bundeswehr wordt cloud-software van Google gebruikt. De lijst van samenwerking tussen tech-bedrijven en het militaire apparaat is nog langer. Belangrijk is: de private concerns stellen systemen, AI-modellen, data en hun specifieke vakkennis ter beschikking om militaire besluitvormingssystemen te ontwikkelen. Daarmee neemt niet alleen de militaire slagkracht toe, maar ook de invloed op oorlogen van deze concerns.

Op data gebaseerd doden in Gaza

Door getuigenverklaringen van Israëlische soldaten weten we dat het hier niet gaat om een hypothetisch toekomstscenario. Op basis van een alomvattende surveillance-infrastructuur (mobiele telefoongegevens, GPS-signalen, biometrische databanken van geheime diensten, data van sociale media en andere bronnen) kent het beslissingsondersteunende AI-systeem Lavender van de IDF de inwoners van de Gaza-strook een score toe tussen de 1 en de 100. Deze score geeft voor de betreffende persoon qua gedrag de gelijkenis met Hamas-strijders aan. Een steekproef van de IDF leverde een berekende foutmarge van 10% op. Wordt een persoon door Lavender als lid van Hamas ‘geïdentificeerd’ dan worden de datagegevens van de gemarkeerde persoon na een controle van doorgaans 20 seconden (door een mens) aan het systeem Where’s daddy doorgegeven om de verdachten op te sporen, te vervolgen en ’s nachts de betreffende woning met raketten of drones aan te vallen of zelfs het gehele gebouw te bombarderen. De keuze van welke wapens worden ingezet volgt eveneens in hoge mate geautomatiseerd een Collateral Damage Calculation: voor het doden van een lid van Hamas met een lage rang berekent deze functie 5 – 20 gedode burgers erbij. Bij het doden van een hooggeplaatst lid van Hamas worden meer dan 100 burgerslachtoffers mee in gecalculeerd. Naar verluid vertrouwden officieren de technische systemen meer dan de soldaten ter plekke.

Anders dan in eerdere Gaza-oorlogen was er geen ‘gebrek’ aan duidelijke militaire doelen. Doordat de drempelwaarden voor de ‘Hamas-score’ en ingecalculeerde burgerslachtoffers willekeurig zijn bepaald, worden ze flexibel aangepast aan de militaire eliminatie-capaciteit. Anders uitgedrukt: meer klaarstaande bommenwerpers betekenen meer geselecteerde ‘targets’. Het aantal doden in deze oorlog is duidelijk meer dan in vorige oorlogen. Onder de doden bevinden zich voor een derde vrouwen en kinderen. Uit een gelekt bericht van de IDF wordt gesproken van 83% burgerslachtoffers onder de doden in Gaza. Feitelijk heeft ‘targeted killing’ weinig van doenmet nauwkeurigheid.

Lavender betekent niet minder of meer gerichte slachtoffers maar is gericht op het camoufleren van de verantwoordelijkheid. Beslissingen over leven en dood worden klaarblijkelijk door een machine genomen. Deze machine wordt echter door mensen voor juist dit doel geprogrammeerd en geconfigureerd. Automation Bias, d.w.z. de menselijke neiging om voorstellen van machines over te nemen, en de fysieke en emotionele afstand van soldaten tot hun ‘targets’ leiden tot een ‘soepel’ proces in de geautomatiseerde liquidatiemachine.

Versmelten van civiel en militair gebruik

De geautomatiseerde liquidatiemachine blijkt ook uit de interfaces van de nieuwe systemen. Grote taalmodellen à la ChatGPT versmelten met Battle Management Systemen van het militaire apparaat en beeldtechnologieën met speciale ondersteuning van AI voor gevechtspiloten. De werkzaamheden van soldaten lijken steeds meer op alledaags civiel gebruik van technische systemen.

Ons civiel gebruik van ‘sociale’ media en grote taalmodellen vormt voor AI-besluitvormingssystemen een basis aan data om afwijkend gedrag op te kunnen sporen. Palantir loopt voorop in de ontwikkeling van militaire systemen (zoals in het extreme geval Lavender) voor het samenvoegen van deze data voor het bepalen van de vijand; dezelfde systemen worden gebruikt voor civiele markering van mensen die een gevaar vormen of migranten (m/v). Onze posts, chats, feeds, tweets, stories, threads, comments, channels, direct messages, reels, spaces en groepslidmaatschappen vormen de hooiberg waarin de (afwijkende) naald zichtbaar gemaakt moet worden. Haaks staande op onze intuïtie functioneert dit des te beter naarmate de statistische hooiberg groter is.

Algoritmen van Big Data die zijn ontworpen met het oog op gepersonaliseerde advertenties (ad targeting) worden verder ontwikkeld met het oog op zogenaamd gericht doden (targeted killing). In 2018 formuleerde Chelsea Manning al in de Guardian: “Marketing or death by drone, it’s the same math (…) You could easily turn Facebook into that. You don’t have to change the programming, just the purpose of why you have the system”. Civiel en militair gebruik zijn door politieke besluitvorming al in het innovatieproces van deze ‘dual-use’ technologieën nauw en op veel verschillende manieren met elkaar verweven. De cloud-infrastructuur voor Lavender wordt door de Amerikaanse bedrijven Google en Amazon (beide Project Nimbus), Cisco, Dell, Red Hat (IBM) en (het officieel gestopte) Microsoft geleverd. De integratie van data voor AI wordt door Palantir verricht. De AI-modellen zelf komen van Microsoft, Open AI en Google. Er is waarschijnlijk geen ander concern dat over een dergelijke schat aan datasets van sociale media data beschikt die rechtstreeks voor het trainen van militaire AI-modellen kunnen worden gebruikt als Meta. Of de eigen gebruiksgegevens aan een concern als Meta ter beschikking worden gesteld voor het doden van mensen, moet de uitkomst van collectieve onderhandelingen zijn en niet een individuele beslissing. Tenslotte worden de getrainde modellen potentieel tegen ons allemaal ingezet – ook wanneer we zelf de systemen van Meta en Co. helemaal niet eens gebruiken.

We zijn onderdeel van de machine

Op AI gebaseerde systemen als Lavender zijn onder andere daarom zo effectief omdat ze mensen tot onderdeel van het systeem maken. Het is niet juist ze als machines, resp. als puur technische systemen of werktuigen te beschouwen. In 2004 ontwikkelde Luis von Ahn ESP, een online spel waarin twee mensen (die onderling geen contact op kunnen nemen) zo snel mogelijk begrippen bij een getoond beeld moeten noemen. Met dit human-based computation game slaagde Google erin gratis een databank met fotos van miljoenen labels te laten voorzien en daarmee een kunstmatig neuraal netwerk voor het zelf zoeken naar beelden te trainen. Von Ahns nieuwe idee: een algoritme waarin berekeningen zowel door mensen als door machines worden gemaakt om een eerder bepaald doel (efficienter zoeken van beelden) te behalen. De grote innovatie van AI werd niet alleen met toegenomen (parallelle) rekenkracht mogelijk, maar ook met nieuwe mediatechnologie. Pas wanneer het lukt gebruikers ertoe aan te zetten de ‘rekenprestatie’ van hun menselijk brein in de vorm van data ter beschikking te stellen, wordt het mogelijk AI in te zetten voor het oplossen van een probleem. De insteek van Von Ahn werd steeds verder ontwikkeld. Dit zien we terug bij het invoeren van emojis en reactions om emoties te registreren, het taggen van beelden op social media voor gezichtsherkenning, het permanente meedragen van allerlei sensoren (mobiele telefoon, fitness-trackers, smart watches etc.) of de chat-interface van ChatGPT waarmee gebruikers met het geven van reacties meteen corrigerende data voor de volgende feedbackloop aanleveren. Mensen worden echter ook op een geheel andere manier in AI-systemen geïntegreerd: Het finetunen (verder trainen) van grote taalmodellen wordt door slecht betaalde click-werkers (m/v) in het globale Zuiden verricht. Ook hier worden ongelijke machtsverhoudingen door AI benut.

AI vervangt de menselijke intelligentie niet, het buit die uit. Zodra wij de nieuwe mediatechnologieën gebruiken worden we daar onmiddellijk door geabsorbeerd en vormen zodoende een integraal onderdeel van de ‘technische’ systemen die AI implementeren. Deze systemen worden voortdurend verder getraind. Wanneer wij deserteren uit de sociale media en de datastroom op laten drogen, zullen de feedbackloops breken en de nauwkeurigheid van de systemen op den duur afnemen. AI-systemen zijn structureel afhankelijk van onze dubbele volgzaamheid data te leveren: Als leverancier van trainingsdata en onze (vaak vrijwillige) onderwerping aan op data gebaseerde besluitvorming – van social media feed tot targeted killing. Wie de door algoritmen gestuurde media en AI enkel als werktuigen begrijpt die net als messen voor het snijden van brood of om te doden kunnen worden gebruikt, begrijpt de dynamiek van de sociaal-technische wisselwerking niet. Door dubbele feedbackloops slaan de technische systemen ook op ons als gebruikers terug. Degenen die het zo hebben uitgevonden hebben dit zo vanaf het begin af aan ontworpen. Daarom kan een analyse die kritisch is op technologie en macht deze systemen niet enkel als neutrale werktuigen beschouwen.

Technologie als motor van de privatisering van het politieke

Het maatschappelijk explosieve karakter van de nieuwe technische systemen is nog groter dan hiervoor beschreven. Het gebruik van door data gevoede algoritmen leidt er toe dat de bestaande rechtsstaat steeds meer achterhaald raakt. Op regels gebaseerde rechtsstatelijke procedures zoals individuele beslissingen (door autoriteiten of rechtbanken genomen) die kunnen worden aangevochten, worden onder het mom van hun vermeende inefficiëntie steeds meer door procedures vervangen die gebaseerd zijn op kansberekeningen. Al vanaf het begin van hun ontwikkeling worden deze technische systemen zo ontworpen. Wat dat praktisch betekent kunnen we zien in de Verenigde Staten: DOGE automatiseerde met behulp van Palantir’s Foundry Plattform, o.a. het gebruik van de uitgaven van de nationale begroting, besluiten over het al dan niet verstrekken van sociale uitkeringen en het vergoeden van medische behandelingen.

Het door Peter Thiel opgerichte Palantir levert quasi het bedrijfssysteem voor de autoritaire samenleving. In de Verenigde Staten worden de systemen van het bedrijf al door verschillende landelijke overheidsinstanties en inlichtingen- en veiligheidsdiensten ingezet. In juli 2025 verkreeg Palantir een contract van het Pentagon van meer dan 10 miljard dollar. De strijdkrachten zetten de software o.a. in voor de informatieverwerking op het slagveld, de logistiek van de toeleveringsketens, het personeelsbeheer en de militaire keuze van doelen. ICE gebruikt Elite en Immigration OS van Palantir (naast andere software, o.a. van Pen-Link of AI-Solutions 87) waarmee migranten worden vervolgd en de logistiek van uitzettingen wordt georganiseerd.

Het strategische doel van rechtse investeerders als Peter Thiel is het overdragen van (staats-)macht aan private bedrijven, een doel wat hij al langer volgt. Jaren geleden probeerde de libertaire investeerder zogenoemde private steden in internationale wateren (seasteading) als staatsvrije zones te creëren waarin geen juridische grenzen aan de vrijheid van de markt – en de sociale ongelijkheid – zou worden gesteld. De plannen van Thiel vinden ook aan deze kant van de Atlantische oceaan instemming. De rijkste Duitser, Dieter Schwarz, heeft op de door hem gefinancierde TUM Campus in Heilbronn een centrum van de privé-steden scene in dit land. De door hem geleidde Schwarz-groep investeert momenteel 11 miljard euro in een van de grootste AI-rekencentra van Duitsland in Lübbenau. Een ander idee van de libertairen: in web 3.0 worden politiek en staten overbodig omdat maatschappelijke conflicten door smart contracts in de blockchain automatisch en transparant worden geregeld, gebaseerd op individuele contracten. De verdieping van de bestaande ongelijkheden zullen – passende bij het sociaal-darwinistische wereldbeeld van de ‘oprichter’ – niet zichtbaar zijn resp. als gevolg van individueel falen worden gerechtvaardigd. Het is dan ook consequent dat Thiel – hierbij een idee van Curtis Yarvin volgend – de staat als een onderneming propageert, geleid door een CEO.

De hoge mate van samensmelting van staat en tech-bedrijven in de Verenigde Staten kan ook worden gezien aan het personeel. Het Pentagon heeft medewerkers van tech-bedrijven als Palantir, Meta en Open AI tot officieren benoemd, dit wordt embedded engineering genoemd. Donald Trump benoemde een groot aantal vertrouwelingen van Peter Thiel in (civiele) sleutelposities van zijn regering. Vance, Kratsios, Obadal, Barbaccia, Minor om maar enkelen te noemen. De tech-bedrijven vallen de democratische staat niet meer van buitenaf aan met de macht van de meningen van hun mediaplatformen. Ze staan op het punt het apparaat van binnenuit over te nemen. Vanaf een bepaald punt zal de personele overlap en andere afhankelijkheden onomkeerbaar zijn. De tech-bedrijven zijn anders dan gebruikelijk in de wapenindustrie. Ze leveren niet ‘alleen maar’ wapentuig waarbij militairen over de inzet ervan gaan, maar techniek waarmee de beslissing welke wapens worden ingezet aan ondernemingen wordt overgedragen en daarmee aan democratische besluitvorming wordt onttrokken.

De invloed van tech-bedrijven betreft niet alleen door de staat genomen beslissingen maar ook publieke debatten. X-baas Elon Musk mengde zich in de recente Amerikaanse verkiezingsstrijd op het moment dat Kamala Harris favoriet was. De Washington Post toonde in een studie aan dat de reikwijdte van het persoonlijke X-account van Musk tijdens de verkiezingsstrijd 16 maal groter was dan die van alle(!) congresleden bij elkaar. Progressieve of liberale content werd door het algoritme, nadat Musk Twitter had overgenomen, systematisch gemarginaliseerd. Ze is niet verboden maar ook niet echt relevant.

De door algoritmen gestuurde privatisering van het politieke is in de Verenigde Staten verder doorgedrongen, maar is niet tot dat land beperkt en ook niet pas onder Donald Trump begonnen. De openlijke afpersing door machtige buitenlandse actoren leidt in Europa tot verontwaardiging en angst, in het post-koloniale Zuiden is het niets nieuws. De Europese regeringen stimuleren de beschreven transformatie juist. Ze zetten in op systemen van de tech-bedrijven zoals blijkt uit contracten van de Duitse politie en het nationale Britse stelsel van gezondheidszorg National Health Service met Palantir. De Europese wapenindustrie en Amerikaanse tech-bedrijven als Rheinmetall en Anduril gaan ‘strategische partnerschappen’ aan. Anduril wordt ook door Thiels Founders Fund gefinancierd en specialiseert zich in software voor door data aangedreven algoritmische automatisering van de oorlogsvoering. Voor deze achtergrond zouden we ons af moeten vragen welke middelen er, los van regulering door de staat, zouden kunnen zijn om de macht van de rechtse tech-actoren te beperken?

Weigeren data te verstrekken

Stellen we ons een lokale antifa-groep voor die alleen maar op X of via Instagram mobiliseert. De groep is gedwongen om vorm en inhoud van haar communicatie op sociale media aan het algoritme van het platform aan te passen om een minimum aan zichtbaarheid te krijgen. Door effecten van het netwerk draagt de denkbeeldige groep eraan bij meer mensen naar deze platformen te halen, platformen die ten doel hebben het discours naar rechts te verschuiven, openbare ruimte voor discussie systematisch te ondermijnen en met de data die het oplevert door algoritmen getroffen beslissingen om te doden mogelijk te maken. Vooralsnog vindt dit met name in ‘testlaboratoria’ als Gaza plaats. Maar het optreden van ICE in de Verenigde Staten en de inzet van Palantir door de Duitse politie maakt duidelijk dat een grootschalige inzet van het door data aangedreven geweld ook hier kan worden verwacht. Het met deze platformen tijdelijk verkregen bereik voor antifascistische mobilisatie kan niet tegen deze ontwikkeling op.

Een totaalmaatschappelijk marginale boycot zal zeker niet het concentreren van macht bij de tech-bedrijven stoppen. Daarvoor zijn politieke acties en verzet nodig. Toch is het een eerste stap te kunnen begrijpen welke maatschappelijke effecten de technische systemen hebben en er over te discussiëren hoe we ons hieraan kunnen onttrekken. Want er bestaat geen puur civiel gebruik van civiel-militair ontwikkelde technologieën! Wij maken deel uit van de AI-oorlogsindustrie en van de vernietiging! Het technologisch-militair complex presenteert ons het beeld van een samenleving waarin verzet zinloos is. Daarom is het hoog tijd om over de mogelijkheden van een gecoördineerd weigeren van het door ons aanleveren van data te discussiëren – door quasi uit de architectuur van de oorlog te deserteren – verbonden met een consequente sabotage van de veelzijdige processen en knooppunten waar het civiele met het militaire wordt verweven.