De nachtmerrie die Facebook heet

Het werk van Sjarrel voor Facebook bestond uit het beoordelen van Nederlandstalige content, content die naar boven komt via het filtermechanisme van Facebook of door gebruikers van Facebook wordt gerapporteerd. In slechts enkele seconden moest hij als cleaner een oordeel vellen over deze content: negeren, verwijderen, rapporteren aan een meerdere of kwalificeren als content waarbij mensen zichzelf beschadigen of van het leven (dreigen te) beroven. En dat gedurende een werkdag van acht uur waarin zo'n 1700-2000 tickets voorbij kwamen. Zelfs voor wie hier al eerder over las in de Volkskrant, is het verhaal van Sjarrel zeer schokkend.

'Jullie houden Facebook veilig'

Sjarrel hoorde steeds: "Jullie doen goed werk. Belangrijk werk. Jullie houden Facebook veilig." Of dit ook op gaat voor Nederlandse posts, is zeer de vraag, want er zijn maar weinig moderators voor het Nederlandse taalgebied beschikbaar. Sjarrel was in zijn tijd een van de acht Nederlandstalige moderators. Soms stonden er daardoor wel 13.000 tickets in de wacht. Uiteindelijk hielpen alleen drank en pillen hem door de dag heen. "Ik denk dat ik mijzelf op een bepaald punt daar ben verloren."

Machine in dienst van Facebook

"Achteraf gezien was ik heel erg bleu, denk ik. Ik zat in mijn eigen onschuldige bubbel. Ik heb de hele tijd mezelf voor de gek gehouden dat je goed werk doet", aldus Sjarrel in Radio Doc. "Aan de ene kant vind ik het waardevol dat ik een heleboel haat kan deleten en blokkeren. Aan de andere kant, je kan niet op je humane initiatief af gaan. Je kan niet zeggen: dit kan echt niet, want je moet het beleid van Facebook volgen. Je moet compleet omschakelen van een bepaalde menselijkheid naar wat Facebook vindt wat menselijk is, want je bent een machine in dienst van Facebook."

Barrières omzeilen met De Fabeltjeskrant

Dat het nog steeds mensen zijn die het werk moeten doen, komt doordat artificiële intelligentie (AI) niet is uitontwikkeld. Computers zijn nog niet in staat om het werk over te nemen. Sjarrel: "Het is nog steeds 90% mensenwerk. Het is een zeer traag zelflerend systeem, AI." Ook worden de mensen die content op Facebook plaatsen steeds sluwer in het omzeilen van de barrières op Facebook. Ze plaatsen onschuldige video’s van De Fabeltjeskrant of SpongeBob, waarin de meest verschrikkelijke beelden zijn verwerkt.

De gewone wereld is niet de wereld

De acht maanden Sjarrel als moderator voor Facebook werkte, hebben hem tot een ander mens gemaakt. "Het is een beetje alsof de gewone wereld, de normale wereld, de wereld niet is. Dan ben ik op vakantie en dan kijk ik naar buiten en dan denk ik: dit is zó nep allemaal. De echte wereld is de wereld van de haat, de wereld van de bedreigingen, de wereld van de porno de wereld van de executies, dat is de echte wereld. Wat daarbuiten gebeurt op een leuk Turks strandje… Jullie moeten weten wat er achter dat leuke strandje gebeurt allemaal, mensen."

Let op: De radiodocumentaire bevat passages die als schokkend kunnen worden ervaren. Uitzending van Facebook is hier terug te luisteren.

Themamaanden over technologie

In september en oktober besteedt de VPRO in een reeks documentaires aandacht een de groeiende invloed van technologie op ons leven. Op dinsdag 11 september werd de documentaire The Cleaners uitgezonden. Deze kun je terugkijken via NPO Start. Meer informatie vind je op vpro.nl/digidocs