Echt of nep? De groeiende dreiging van deepfakes

Deepfakes zouden bijvoorbeeld de aanstaande verkiezingen kunnen beïnvloeden, door video's te laten circuleren waarin politici te zien zijn die dingen zeggen, die ze in werkelijkheid helemaal niet hebben gezegd. Arjan Lubach liet premier Mark Rutte onlangs in zijn satirische programma al dingen zeggen die hij nooit heeft gezegd.

"Deepfakes zijn een acuut maatschappelijk probleem, en dat kan snel groter worden", aldus Jacobs. Hij geeft advies aan het kabinet hoe hier mee om te gaan en werkt ook aan een app om authenticiteit van berichten te waarborgen. "Het grote onderliggende probleem is dat onze standaard manieren om de authenticiteit vast te stellen niet meer werken goed. Stel je voor dat er een video online komt waarin Mark Rutte zich extreem negatief uitlaat over de islam. Dan wil je als overheid een mechanisme hebben om te kunnen zeggen: dit is geen authentieke video. Want zoiets kan erg veel maatschappelijke onrust veroorzaken."

Verdampende beurswaarde

Die onrust kan politiek en maatschappelijk zijn, maar ook commercieel: "Stel dat er van Elon Musk een video online verschijnt waarin hij zegt in een bepaald gebied te gaan investeren – of daar juist mee te willen stoppen. Dan kunnen de beurzen alle kanten op gaan. Ik las onlangs dat er jaarlijks zo’n 40 miljard dollar aan beurswaarde verloren gaat door dergelijke nepberichten."

Hoe worden deep fakes gemaakt?

"Meestal wordt gebruik gemaakt van kunstmatige intelligentie (AI)", legt Jacobs uit. "Tegenwoordig zijn computers erg goed in leren. Als je ze een aantal voorbeelden geeft, kunnen ze daaruit extrapoleren hoe dingen verder gaan. Dus als je computers die daarin getraind zijn van iemand een aantal minuten video geeft, dan kunnen ze daar nieuwe video uit destilleren en die combineren met een bepaalde tekst. Ze laten dan de mondbewegingen zodanig verlopen dat het aansluit op de tekst. Als je heel goed kijkt, zie je tegenwoordig nog wel dat het niet helemaal past, maar dat gaat steeds moeilijker worden."

Sommige wetenschappers ontwikkelen dan weer AI om de deep fake AI te ontmaskeren, zodat je een soort wapenwedloop krijgt. Jacobs gelooft niet dat dat de juiste richting is. “Ik denk dat we technieken moeten ontwikkelen om de authenticiteit van de video’s vast te stellen. Daar zijn standaardtechnieken voor: digitale handtekeningen. Overheden zouden in mijn ogen standaard hun berichtgeving moeten voorzien van een digitale handtekening."

Zelf knutselen

De software achter deepfake is misschien geavanceerd, maar is niet per se heel ingewikkeld om te gebruiken. "Ik verwacht dat je binnenkort gewoon op je telefoon een deepfake in elkaar kunt knutselen, of thuis op je computer. En dan zijn alle remmen los natuurlijk."

Wie zou het probleem van deepfake moeten adresseren? “Ik denk niet dat er één partij is die dat kan oplossen. Het is een probleem met heel veel facetten. Maar ik denk dat iedere organisatie die probeert met gezag bepaalde boodschappen uit te dragen, hier over na zou moeten denken, en iets zou moeten doen. De overheid en de media hebben daar natuurlijk een rol in, maar ik denk bijvoorbeeld ook aan de politie. Het moet duidelijk zijn dat waarschuwingen van de politie echt van de politie afkomstig zijn.”

Liever luisteren?

NPO Radio 1 houdt je dagelijks op de hoogte over de laatste ontwikkelingen in de wetenschap

Dagelijks tussen 17.00 en 18.30 uur in Nieuws en Co
Iedere werkdag van 02.00 tot 04.00 uur in Focus
En wanneer je maar wil in podcast Focus Wetenschap