Reijer Passchier is als hoogleraar Digitalisering en de democratische rechtsstaat verbonden aan de Open Universiteit en als universitair docent Staats- en bestuursrecht aan de Universiteit Leiden. Hij is auteur van Artificiële intelligentie en de rechtsstaat (Boom, 2021) en nu ook De vloek van big tech. De juridisch-technologische wortels van constitutioneel verval en digitaal feodalisme (Boom, 2024).

“We stevenen recht af op een feodale maatschappij versie 2.0, waarin big techbedrijven parallel met de overheid soevereine macht verwerven”. De waarschuwingen van de Leidse hoogleraar en constitutionalist, Reijer Passchier, zijn niet min. “Toch blijf ik hopen dat we er met Europa wel nog in slagen ons technologisch te ontwikkelen mét respect voor de waarden van de democratische rechtsstaat.”

U erkent royaal de enorme voordelen die technologie en vandaag AI kunnen hebben. Maar sinds enkele jaren waarschuwt u ook voor de gevaarlijke impact ervan. Niet enkel voor ons dagelijks leven en de economie, maar ook voor democratie en rechtsstaat.

“Uiteraard hebben technologie, digitalisering en nu ook AI voor de hand liggende voordelen. Met technologie kun je meer welvaart produceren. Je kunt problemen oplossen waarvoor je nu mensen tekort hebt. In tijden van corona konden we de verspreiding van het virus beter voorspellen en tegengaan. Verkeersproblemen kunnen we perfect aanpakken met meer automatisering, net zoals de inning van belastingen.

Tegelijk zien we nog te weinig in dat de inzet van digitale technologie de samenleving verandert en ook machtsverschuivingen met zich meebrengt. Verschuivingen van de mensen die taken oorspronkelijk uitvoerden, naar organisaties en mensen die al die machines bouwen en beheren. En zelfs naar die machines zelf, in de mate dat ze autonoom opereren. Onze moderne constituties en checks and balances die je daar vindt, zijn hier nog totaal niet op ingericht. Ik pleit daarom voor groot constitutioneel onderhoud. We moeten onze constituties digitaal- en AI-proof maken.”

Heeft u meer concrete aanwijzingen voor de bedreiging door digitale technologie en AI van democratie en rechtsstaat?

“Misschien wel de kern van een democratische rechtsstaat is het legaliteitsbeginsel. De overheid kan enkel handelen als ze daarvoor een wettelijke grondslag heeft. Dat belet niet dat bij de toepassing van de wet de overheid altijd moet interpreteren. Traditioneel werd die vertaalslag naar concrete situaties gemaakt door menselijke ambtenaren, street level bureaucrats. Vandaag zijn we de uitvoering van wetten in hoog tempo aan het automatiseren met digitale technologie. Het is niet langer de persoon achter het loket of aan een bureau die onze belastingaanslag vaststelt, maar een algoritme. De beslisregels die onze rechten en plichten vastleggen, zijn almaar meer het werk van computerprogrammeurs en systeembeheerders.

Om de discretionaire macht van ambtenaren te disciplineren, ontwikkelden we het bestuursrecht met zijn beginselen van behoorlijk bestuur. Maar dat is niet ingesteld op de verschuiving van macht naar computerprogrammeurs en systeembeheerders. We merken ook dat het huidige vertaalproces van wetten naar algoritmes onvoldoende systematisch verloopt en eigenlijk door niemand goed wordt overzien. We weten momenteel niet of de regels die in computers terechtkomen wel een goede afspiegeling zijn van de wetgeving die politiek tot stand is gekomen. Vaak blijven die algoritmes geheim.”

Kan u hiervan een voorbeeld geven?

In Nederland hadden we onlangs de zogenaamde WIA-affaire bij het UWV (het Uitvoeringsinstituut Werknemersverzekeringen berekende door onnauwkeurige automatisering mogelijk 50.000 WIA-uitkeringen voor arbeidsongeschikte werknemers verkeerd, pde). Dat noopt nu tot een enorme hersteloperatie, die het UWV dreigt te doen vastlopen. Intussen zitten talloze mensen wel met enorme problemen.

Als de vertaalslag van wet naar algoritmes dan niet goed is gedocumenteerd, weet eigenlijk niemand meer hoe de systemen in elkaar zitten.

Als de vertaalslag van wet naar algoritmes dan niet goed is gedocumenteerd, weet eigenlijk niemand meer – ook niet de systeembeheerders zelf – hoe de systemen in elkaar zitten. Welke algoritmes erin opgesloten zitten, en hoe die zich tot elkaar verhouden. Dan wordt het ook steeds moeilijker om die systemen weer te veranderen en te verbeteren. Dan krijg je een soort rule of code in plaats van de rule of law. De klassieke, democratische wetgever wordt irrelevant.”

U waarschuwt ook voor het verdere scheeftrekken van de klassieke trias politica-verhoudingen in het voordeel van de regeringsmacht. Zij bij uitstek zou de vruchten plukken van digitale en AI-ontwikkelingen, terwijl parlementen en rechterlijke macht steeds verder achterblijven.

“De uitvoerende macht had natuurlijk al een dominante positie verworven. In westerse landen staat de uitvoerende overheid voor zowat 40% van de economie. Dat ging samen met de ontwikkeling van de verzorgingsstaat en – na 9/11 – de uitbreiding van het veiligheidsapparaat. Parlementen zijn daar nauwelijks voor gecompenseerd. De rechterlijke machten zijn iets meer meegegroeid, maar nog altijd niet in de mate van de uitvoerende macht. De digitalisering vergroot die disbalans.

Tegelijk maken de black boxes die met digitalisering gepaard gaan, de uitvoerende macht minder transparant voor het parlement en de rechter. Digitalisering maakt de uitvoerende macht ook complexer omdat ambtenaren onderling nog meer informatie gaan uitwisselen, formeel dan wel informeel. Dat maakt hun besluiten alleen maar nog minder te overzien door parlementsleden en rechters.”

Wat de zaken extra compliceert, is dat het slechts een handvol big techbedrijven is dat quasi monopolies heeft op al die technologie. Microsoft, Apple, Google, Meta en Amazon, om er enkele te noemen. U gebruikt in dat verband het begrip ‘herfeodalisering’ van de samenleving.

“Dat begrip is niet nieuw. Na de Franse en Amerikaanse Revoluties waren we ervan uitgegaan dat de staat voortaan soeverein zou bepalen welke wetten er op haar territorium zouden gelden. Dat is ook de essentie van de democratische rechtsstaat. Maar de eerste helft van de 20^e eeuw toonde de opkomst van een nieuwe aristocratie. De soevereine staat kreeg weer ‘concurrentie’. Voordien was dat van de landadel, nu van het grote bedrijfsleven. De globalisering heeft dat proces nog versneld.

Vandaag, met de digitalisering, is het helemaal uit de hand gelopen. Want big techbedrijven zijn nog tien keer groter en machtiger dan de Shells en Unilevers die we kenden van vroeger. Nu hebben we het over bedrijven met beurswaarden en winsten van vele miljarden tot zelfs biljoenen dollars. Hun leiders zijn niet democratisch verkozen. En op alle mogelijke manieren proberen ze aan het recht van de staat te ontkomen – door keihard te lobbyen, door eindeloze rechtszaken te voeren, door zich internationaal te verplaatsen. De term ‘digitaal feodalisme’ is dan ook op de plaats. Ook Yanis Varoufakis (oud-minister van Financiën van Griekenland, pde) en Shoshana Zuboff (Harvard-professor en auteur van het boek ‘The Age of Surveillance Capitalism’, pde) zitten op die lijn.”

Ik vermoed dat de actualiteit van de voorbije maanden u koude rillingen bezorgt. Met de herverkiezing van Trump krijgen Amerikaanse big techbedrijven opnieuw vrij spel. Meer: Trump pompt liefst 500 miljard in de verdere ontwikkeling van AI.

“Wat we nu zien in de VS is eigenlijk een illustratie van de complexe wisselwerking tussen staat en big tech. Big tech heeft zich op opportunistische wijze aan de voeten van Trump geworpen en Trump is hen tegemoet gekomen. Zo breidt het nieuwe feodalisme zich nog verder uit en komt de soevereiniteit van de staat nog meer onder druk te staan. Hoe afhankelijker de staat wordt van deze techbedrijven, hoe moeilijker het wordt om hun praktijken nog bij te sturen. Als men dat al zou willen.”

Ook in Vlaanderen merken we een grote welwillendheid ten aanzien van big tech. Matthias Diependaele (N-VA) rolt voor 10.000 Vlaamse ambtenaren de AI-agent Microsoft Copilot uit. En hij is fier: het is in Europa het grootste overheidscontract met Microsoft Copilot tot dusver. Een goede keuze?

“Niet echt, denk ik. Ten eerste is het helemaal niet bewezen dat dit soort technologie tot meer productiviteit leidt. Sterker nog: er zijn aanwijzingen dat digitalisering vaak tot minder productiviteit leidt, zeker in de dienstensector. Mensen raken afgeleid door dit soort gadgets en worden op dwaalsporen gebracht. Verder bestaat het risico dat ambtenaren die veel met AI werken op een gegeven ogenblik de vaardigheden verliezen die ze nodig hebben voor hun werk.

Vlaanderen krijgt Copilot nu mogelijk wel voor een prikje, niets sluit uit dat de tool straks duurder wordt.

In dit geval creëer je een afhankelijkheid van Microsoft. En dan krijg je die Copilot nu mogelijk wel voor een prikje, niets sluit uit dat de tool straks duurder wordt – misschien nog wel duurder dan menselijke ambtenaren. Maar ervan af geraak je er niet meer: je raakt vast in een vendor lock-in. Wil je trouwens ook wel dat Microsoft, via de prompts die ambtenaren in Copilot invoeren, als eerste op de hoogte is van wat de Vlaamse overheid beoogt? Verder vind ik het nog onethisch dat Copilot grotendeels is ontwikkeld door OpenAI, onderdeel van Microsoft, dat daarvoor het internet op grote schaal heeft leeggeroofd. Met een massale schending van het copyright van mensen en bedrijven, die daardoor in grote problemen komen. Op de koop toe kost deze AI ook nog ontzettend veel stroom.

Al die bezwaren brengen me er toch toe te denken dat een overheid hier niet zomaar blind en enthousiast kan in meestappen.”

Over naar de remedies. Hoe dan ook probeert Europa, met de GDPR, de Digital Markets Act en Digital Services Act, en nu ook de AI-Act, iets aan de almacht van big tech te doen.

“Die regulering is wel degelijk nodig. Met een bestuursrechtelijke aanpak kun je er in theorie voor zorgen dat technologie geen gevaar vormt voor mensenrechten, zoals het recht op privacy, de vrijheid van meningsuiting of het recht op productveiligheid. Toch is er een probleem. De machtsverhoudingen zijn nu zo scheef dat die regels big tech eigenlijk in de kaart spelen. Ze maken die bedrijven de facto alleen maar machtiger, omdat zij als geen ander in staat zijn om die regels te ontwijken, bijvoorbeeld door naar een ander land te verhuizen. Als Ierland te moeilijk zou doen, dan verplaatsen ze hun bedrijven wel naar Cyprus of Luxemburg. Ook Nederland is altijd graag bereid om multinationals een vestiging aan te bieden, in ruil voor privilegies en cadeautjes.

Ze voeren ook voortdurend procedures tegen dit soort regels en nemen compliance officers in dienst om er een voor hen gepaste draai aan te geven. Boetes vechten ze systematisch aan. En nu hebben die bedrijven ook de expliciete steun van de Amerikaanse overheid om aan de regels te ontsnappen. Samen met Trump hebben Musk en Zuckerberg gewoon de oorlog aan de Europese regels verklaard. Met zijn regulering loopt Europa dan het risico met allerlei handelsbelemmeringen en tegenmaatregelen te worden geconfronteerd.

De Europese regels dreigen concurrenten of potentiële concurrenten van big tech harder te treffen dan big tech zelf. En als het lukt om de regels enigszins te handhaven, dan heb je aan het eind van de dag misschien wel iets meer privacy of iets betrouwbaardere informatie, maar is big tech toch weer machtiger geworden. Tegelijk is die publiekrechtelijke aanpak wel het enige wat Europa echt kan doen. Op het gebied van het privaatrecht, waar de wortels liggen van big tech, kan Europa op dit moment veel minder aanvangen.”

Wat staat ons dan wel te doen? U suggereert onder meer een ‘constitutionalisering’ van big tech. Wat houdt dat in?

“Om de bestuursrechtelijke aanpak met zijn human rights driven approach te doen werken, moet je ook iets doen aan de diepere structuren die aan de grondslag liggen van de enorme macht van big tech. Eeuwen geleden, toen de staat een steeds belangrijkere rol ging spelen in de samenleving, zijn we hem gaan constitutionaliseren. We hebben hem gebonden, eerst aan rechtsstatelijke waarden, later ook aan democratische principes. We hebben checks and balances ingebouwd, zoals de trias politica, het legaliteitsbeginsel, democratische parlementen, enzovoort. Toen de Europese Unie steeds belangrijker werd, zijn we ook haar gaan constitutionaliseren.

Nu hebben we te maken met bedrijven die feitelijk een soort publieke instellingen, private overheden of semi-staten zijn geworden. Historisch is het dan ook heel logisch om ook hen te constitutionaliseren. Misschien moet er bij hen even goed een vorm van parlement komen, met gebruikers en andere stakeholders buiten de aandeelhouders. Moet je ook binnen die bedrijven geen soort van rechterlijke macht inbouwen, met ernstige bezwaar- en beroepsprocedures?”

In dat verband suggereert u ook nog een ‘property owning democracy’.

“Misschien moeten we inderdaad beleid gaan voeren om het eigenaarschap van aandelen beter te spreiden. Eigenlijk zou elke burger aandeelhouder van deze bedrijven moeten zijn. Alleen dan zal de technologie van die bedrijven in dienst staan van iedereen. Ook dat idee is niet nieuw. John Rawls pakte er al mee uit, en eigenlijk gaat het idee terug tot de Franse Revolutie met Jean-Jacques Rousseau.”

Eigenlijk zou elke burger aandeelhouder van deze bedrijven moeten zijn.

Sommigen pleiten onverkort voor een opbreken van de big techbedrijven. Via het mededingingsrecht de monopolies opheffen dus.

“Daar moeten we wel naartoe, ook al biedt het Europese mededingingsrecht daarvoor op dit moment te weinig mogelijkheden. En ook al krijgen we dan pas echt ruzie met de Amerikanen. Weten we trouwens überhaupt wel hoe die mededingingsregels er moeten uitzien? Zeggen we dan dat iemand niet én WhatsApp mag hebben én nog eens twee sociale mediaplatformen? Of verbieden we een platform dan om én de technologie in handen te hebben én de redactie? Dat moeten we eerst nog goed uitklaren. Daarbij komt dat het onder de huidige machtsverhoudingen heel erg moeilijk is om het mededingingsrecht te handhaven. Deze bedrijven beschikken over talloze mogelijkheden om onder die handhaving uit te komen. Hun lobby- en proceduremogelijkheden zijn oneindig. Met gemak spelen ze staten – ook lidstaten binnen de EU – tegen elkaar uit.

De VS heeft in de jaren 1980 trouwens geprobeerd met mededingingsrecht het megabedrijf AT&T (American Telephone and Telegraph Company, pde) aan te pakken. Maar vervolgens zag je dat een deel van die opsplitsing weer heel snel uitgroeide tot een nieuwe gigant. De Amerikaanse overheid had dat best kunnen tegengaan, maar toen kwam er een regering die het allemaal weer niet zo belangrijk meer vond. Het handhaven van mededingingsrecht vereist dus een consistent en bestendig overheidsbeleid – wat er meestal niet is. En die bedrijven zelf hebben een lange adem natuurlijk.”

Is een grote hinderpaal op weg naar regulering van big toch ook niet het geringe maatschappelijke draagvlak daarvoor? Dankzij Google Search moeten we niet langer dingen onthouden, met de nieuwe AI-tools moeten we nu zelfs niet meer nadenken tout court.

“Ja, het geloof in technologie is enorm groot. We zien een bijna religieus techno-optimisme, inclusief een quasi verering van techleiders. Musk is een voorbeeld, met zijn plannen om naar Mars te gaan. Voor Tesla-rijders maakt hun Tesla deel uit van hun identiteit. Idem dito voor gebruikers van Apple-producten. Je neemt het dus op tegen dat geloof in technologie, en dit in combinatie met een gebrek aan andere ideeën om het leven zin te geven. Mensen zien geen alternatieven voor de gepercipieerde gemakken van een technologische lifestyle.

Toch moeten we ons veel meer bewust worden van de nadelen van die technologie, en van het feit dat big tech niet alleen winnaars kent maar ook heel veel verliezers. Ze breken in hoog tempo allerlei democratische verworvenheden af waar onze voorouders eeuwen lang voor gevochten hebben. Ik merk ook wel dat dat bewustzijn groeit. Ouders maken zich zorgen over het sociale mediagebruik van hun kinderen. Op scholen worden smartphones verboden. Mensen beginnen in te zien dat big tech niet alleen een zegen is maar ook een vloek. Ze gaan ook steeds meer op zoek naar alternatieven. Daar kunnen we hoop uit putten.”

Wat kan Europa eigenlijk betekenen in een wereldwijde campagne om big tech te temmen?

“Ik pleit er voor om big tech alvast wat meer uit Europa te weren en zelf alternatieven te bieden die beter zijn dan de Amerikaanse platformen. Er is geen enkele reden waarom Europa niet zelf ook goede office-producten of clouddiensten zou kunnen ontwikkelen. Voor een deel bestaan die trouwens al.”

Dan kijken we bijvoorbeeld naar het Europese AI-bedrijf Mistral.

“Wat eigenlijk niet zo’n goed voorbeeld is, want dat is nu ook weer overgenomen door Microsoft. Maar goed, bedrijven laten zich graag overnemen natuurlijk als dat winst oplevert voor aandeelhouders en bestuurders. Het geeft wel aan hoe urgent het is om ons eigen technologisch bedrijfsleven beter te beschermen tegen Amerikaanse overnames. Zeker als je zo’n bedrijf met publieke middelen hebt geholpen, moet je je als overheid kunnen weren tegen het groot kapitaal.

Nextcloud biedt een alternatief voor Amazon en Microsoft. En we zouden gebruik kunnen maken van Signal in plaats van WhatsApp.

Gelukkig hebben we in Europa nog andere interessante techbedrijven. Nextcloud biedt een alternatief voor de clouds van Amazon en Microsoft. En om te chatten zouden we ook gebruik kunnen maken van Signal in plaats van WhatsApp. En zo zijn er nog allerlei alternatieven beschikbaar voor de diensten die worden geleverd door big tech. Laat vooral ook overheden en belangrijke bedrijven van die mogelijkheden gebruikmaken.”

Intussen zijn we weer een stap verder, met de nieuwe AI-applicatie Deepseek: een vrij beschikbaar open source model dat veel minder energie en geld kost dan ChatGPT, Gemini & Co. Een stap vooruit door de democratisering van AI, of veeleer een extra doos van Pandora nu AI met al zijn gebreken nog ruimer verspreid wordt?

“Laat ons de effecten van deze ontwikkeling nog even afwachten. De berichtgeving lijkt me op dit ogenblik nog te hysterisch om al zinnige dingen over Deepseek te kunnen zeggen. Toch kan ik me niet meteen voorstellen dat één enkele techniek de hegemonie van big tech kan doorbreken. Daarvoor zitten de juridische, technologische en ideologische wortels van big tech en het omhullende feodalisme veel te diep.”

Slotvraagje: stemt de toekomst u optimistisch of pessimistisch?

“Als je naar de huidige situatie kijkt, is er reden tot pessimisme. We zitten echt in de ellende. Het digitale feodalisme van vandaag heeft diepe wortels die teruggaan tot de Franse Revolutie en zijn bevestigd door het recht en de technologie. We nemen het op tegen 250 jaar technologische en juridische evolutie richting het gigantisme en de technologische verdrukking die we nu meemaken.

Tegelijk denk ik dat we onszelf, zeker in Europa, niet moeten onderschatten. Op middellange termijn hebben we veel mogelijkheden om hier weer uit te komen. Om eigen technologie te ontwikkelen, en een eigen, hopelijk veel socialer en duurzamer bedrijfsleven. Met respect voor de Europese waarden van democratie en rechtsstaat, en met het Verdrag van de Europese Unie en het Europees Verdrag voor de Rechten van de Mens als centrale ankerpunten.”

Samenleving & Politiek, Jaargang 32, 2025, nr. 4 (april), pagina 44 tot 51

• interview
• Reijer Passchier
• Big Tech
• democratie