Toen John Perry Barlow in 1996 zijn Declaration of the Independence of Cyberspace schreef, sprak hij de natiestaat toe als “weary giants of flesh and steel”, die zich maar beter niet moeiden met de mens van de toekomst die in cyberspace leeft. Zijn manifest wordt vaak geciteerd door internetbeleidsexperten om over de dilemma’s en knelpunten te spreken die al sinds de prille jaren hangen rond het beleid van het internet. Een grenzeloos netwerk met internationaal burgerschap voor mensen van vlees en bloed die wel ergens een adres hebben en zich naar stemhokjes begeven, dat zorgt voor spanningen.

Barlow wist op dat moment natuurlijk niet dat zijn cyberspace langzaamaan ook gedomineerd zou worden door andere giants, de Big Tech bedrijven die in de loop der jaren het sociale internet gingen monopoliseren. Met zulke gecentraliseerde macht komt ook verantwoordelijkheid, die de ene reus bij de andere reus probeert af te dwingen.

Platformen kunnen niet worden afgerekend op het gedrag van hun gebruikers, omdat ze wettelijk als intermediair worden gezien.

Ik spaar u heel de geschiedenis van de contentmoderatiewetgeving sinds Barlows manifest, maar de kern van de Europese en Amerikaanse wetgeving rond sociale mediabeleid sindsdien houdt in dat platformen een vrijstelling van aansprakelijkheid hebben. Ze kunnen niet worden afgerekend op het gedrag van hun gebruikers, omdat ze wettelijk als intermediair worden gezien. Dat geldt enkel zolang ze illegale content zo snel mogelijk verwijderen van zodra ze hiervan bewust worden. Ze kunnen dus niet aangeklaagd worden voor alle zonden die plaatsvinden op hun platform, maar moeten wel mechanismes voorzien om content aan de platformen te laten rapporteren. De vrijstelling van platformen is dus voorwaardelijk. Ze kan worden opgeheven wanneer ze niets doen met gerapporteerde content.

X (VOORMALIG TWITTER)

Dat klinkt allemaal redelijk en rechtdoorzee. Alleen is er een heel spectrum aan grijze zones, vooral rond de vraag wat dan als illegale content wordt beschouwd. Zo is er momenteel het debacle van het Braziliaanse Hooggerechtshof. Dat besloot de toegang tot X (voormalig Twitter) voor heel het land te ontzien, omdat Musk weigerde extreemrechtse haatzaaiers van het platform te bannen en daardoor al zijn personeel uit het land weghaalde. Brazilië’s definiering van ‘illegale content’ is in deze gestoeld op de bescherming van zijn precaire democratie. Met de bestorming van hun parlement in 2023 na de verkiezing van president Lula da Silva, georganiseerd en opgestookt op Twitter door die accounts, kwam de democratie volgens de rechters in het gedrang.

Er valt over te discussieren of dit soort wetgeving geen gevaarlijk hellend pad is naar onderdrukking voor het vrijwaren van stabiliteit. Ironisch genoeg had Musk er helemaal geen probleem mee om te zeggen dat ‘de wet is de wet’ toen autoritaire leiders als Modi in India en Erdogan in Turkije van het platform eisten om critici de mond te snoeren.

TELEGRAM

Aan het verdere uiteinde van het spectrum bevindt zich het optreden tegen Pavel Durov, de CEO van Telegram. Hij werd vorige week in Parijs gearresteerd voor de criminele activiteiten op zijn platform. Ook hier gingen alarmbellen af voor de vrijheid van meningsuiting. Het is ongezien dat een CEO crimineel aangeklaagd wordt voor wat op zijn platform gebeurt.

Maar er valt wel degelijk iets te zeggen over Telegrams gebrek aan verantwoordelijkheid. Telegram is uniek in zijn lakse contentmoderatie, die toelaat om elke denkbare mening of versie van de ‘realiteit’ tegen te komen, zowel die van activisten en dissidenten in autoritaire regimes, als die van complotdenkers en racisten. Dit heeft ook een aanzuigeffect gehad voor harde criminaliteit. Ook op andere platformen probeert men het platform te gebruiken voor criminaliteit of beelden van seksueel misbruik van kinderen te verspreiden. Het verschil ligt echter in de intentie van platformen om wel te reageren als een klacht worden neergelegd. Telegram zegt namelijk expliciet op zijn website dat ze NIET op verzoeken van overheden reageert, en dat het enkel wettelijke verzoeken verwerkt voor publieke groepen en kanalen. Gezien privégroepen tot 200.000 leden kunnen bevatten, kan men de vraag opwerpen of deze nog als ‘privé’ kunnen worden beschouwd.

Telegram zegtexpliciet op zijn website dat ze NIET op verzoeken van overheden reageert.

Mijn eigen onderzoek naar de architectuur van Telegram vond dat berichten uit privégroepen en -kanalen zich ook zonder problemen kunnen verspreiden naar andere groepen en kanalen op het platform. Telegram is in die zin meer een sociaal netwerk dan een berichtenplatform door de combinatie van kanalen die als vergaarbak functioneren en groepen die als verspreidingspunten dienen. Berichten kunnen gemakkelijk viraal gaan op het platform. Ze blijven niet ingesloten in hun zogenaamde privécontainers.

WHATSAPP EN SIGNAL

Maar ook privéberichten zouden onder het mom van ‘bescherming van kinderen’ geïnspecteerd kunnen worden. Zo blijven voorstellen zoals het controversiële ChatControl op tafel liggen. Hiermee wil de EU berichtenapps zoals WhatsApp en Signal verplichten hun encryptie op te heffen zodat er bij elke upload gescand kan worden op beelden van seksueel misbruik van minderjarigen. Vele experten, ook in eigen land, waarschuwden al voor deze maatregel. Die zou zo goed als volledig de vrijstelling op aansprakelijkheid opheffen, gezien het niet langer op rapporteringsmechanismes vertrouwt. Deze vorm van contentmoderatie ligt aan het verre uiteinde van overheidsinterventie, ook omdat er de dreiging is van ‘function creep’, waarbij technologie uiteindelijk ingezet zou kunnen worden ver voorbij het oorspronkelijke doel.

Contentmoderatie blijft een precaire balans van bescherming van alle gebruikers en de rechtstaat.

Contentmoderatie blijft een precaire balans van bescherming van alle gebruikers en de rechtstaat. Overheden kunnen hier burgers in vertegenwoordigen en orde handhavenen, maar ook juist burgers onderdrukken in de naam van ‘veiligheid’ en ‘stabiliteit’. Het is belangrijk om de grijze zones in dat spectrum nauwkeurig en kritisch te evalueren en beide reuzen in toom te houden, zolang het nog kan.

• column
• telegram
• sociale media