Live verkrachting en geweld op Facebook: hoe ga je dat tegen?

Facebook introduceerde vorig jaar een nieuwe livestream-dienst, waarin mensen met hun telefooncamera op hun profiel kunnen uitzenden waar ze op dat moment mee bezig zijn. De dienst wordt uiteraard door de meeste mensen gebruikt waar hij voor bedoeld is: ze communiceren live met een groep vrienden, laten thuisblijvers meegenieten van een concert of delen een mooi uitzicht. Facebook Live wordt ook vaak gebruikt door journalisten die direct verslag willen doen. Onschuldig, leuk en soms erg handig.

Misbruik

Maar zoals Elma Drayer gisteren zei: “Mensen misbruiken elk medium”. De schrijfster en columniste was in het NPO Radio 1-programma Dit is De Dag te gast om te praten over hoe verantwoordelijk Facebook is waar het gaat om het misbruik van deze dienst. Dit is namelijk niet de eerste keer dat er vreselijke beelden zijn uitgezonden.

Sterker nog, in de afgelopen drie weken zijn er nog twee andere incidenten voorgekomen. Een twaalfjarig meisje uit de Amerikaanse staat Georgia pleegde zelfmoord door ophanging en zond het online uit. En twee weken geleden was een halfuur live te bekijken hoe vier mensen uit Chicago een geestelijk gehandicapte man martelden.

De filmpjes worden door mensen gekopieerd, op andere sites geplaatst en zijn vervolgens zeer moeilijk van het internet te schrobben. Een nachtmerrie voor slachtoffers en nabestaanden. Wat is er aan te doen? “Ze zijn bij Facebook ongelofelijk huiverig om al te strenge regels te stellen”, zei Elma Drayer in Dit is De Dag. “Bij Facebook zeggen ze: wij zijn slechts een platform, we geven de dingen door. We willen een open wereld waarin iedereen met elkaar in verbinding staat.”

Live ellende

“Ze zijn heel passief, ze reageren alleen maar op klachten”, vervolgde de columniste. “Ze zijn dus niet actief in het opsporen.”. Je kunt 1,8 miljard gebruikers ook niet constant in de gaten houden. En al kon dat wel: is Facebook überhaupt verantwoordelijk voor de content van haar gebruikers? Het sociale netwerk heeft zijn regels rondom live-uitzendingen vorig jaar wel aangescherpt, nadat een vrouw de bloederige nasleep van een schietpartij live toonde. In haar uitzending lag haar vriend naast haar in de auto dood te bloeden, terwijl de agent die hem had neergeschoten zijn wapen op hem gericht hield.

Nu hanteert Facebook voor live content de regel dat ze expliciete, schockerende of gewelddadige beelden niet van de website verwijderen, tenzij de filmpjes worden gedeeld om het slachtoffer belachelijk te maken, of wanneer er in de beelden wordt aangespoord tot geweld. Filmpjes kunnen gerapporteerd worden bij een team dat 24 uur per dag klaarstaat om de livestreams eventueel te onderbreken als de regels geschonden worden. Maar hoe effectief is dat? Zoals bij het bovengenoemde martelfilmpje kan het dus een halfuur duren voordat er ingegrepen wordt.

Rotte appels

Tijdens de live groepsverkrachting in Uppsala is er ook niet direct ingegrepen. De daders zonden alles uit. “Er schijnen 200 mensen het gezien te hebben, en eentje dacht: hey, dit zijn misschien toch geen leuke, intieme beelden, hier is een verkrachting aan de gang”, zei Elma Drayer. Die ene kijker belde de politie, die het appartement binnenviel terwijl de verkrachters al bezig waren met een vervolgfilmpje.

Er is nog geen oplossing voor het probleem van het live uitzenden van misdaden. Drayer had het over software die dergelijke situaties zou moeten herkennen: “Er bestaat al software waarmee je dit soort dingen heel snel kunt detecteren. Maar dan moet een mens dat vervolgens beoordelen. Dat kost natuurlijk heel veel geld. Dat is een enorme investering. Ik denk dat Facebook niet aan de verantwoordelijkheid moet ontkomen.”

Drayer is begrijpelijk gefrustreerd, maar ook enigszins naïef wat een mogelijke oplossing betreft: er is nog lang geen software geavanceerd genoeg om miljoenen video’s tegelijk te analyseren, en om gevaar te herkennen. En Facebook gaat er nooit zo veel geld, tijd en moeite in steken omdat er mogelijk één rotte appel in de mand zit. Zoals altijd ligt de verantwoordelijkheid bij de gebruikers. En in de verkeerde handen kan een smartphone erg veel schade aanrichten.