Deze robot maakt overtuigend nepnieuws

Het bedrijf, mede-opgericht door Tesla-topman Elon Musk, maakte zich in februari nog zorgen over het mogelijke misbruik van de software. GPT-2 zou het wel erg makkelijk maken om nepnieuws te maken en verspreiden. Afgelopen week kondigde OpenAI een nieuwe versie aan van het programma, dat zes keer zo krachtig zou zijn als de eerdere versie.

Op de website Talk to Transformer kun je het zelf - in het Engels - uitproberen. Deze site maakt gebruik van iets andere software, maar het principe is vergelijkbaar.

Wat is GPT-2?

GPT-2 is slimme software die op eigen houtje overtuigend Engelse tekst kan produceren. Het programma is getraind met 40 gigabyte aan teksten van het internet. De opdracht was steeds om te voorspellen wat het volgende woord zou zijn. Dat doet het programma inmiddels zo goed dat er prima leesbare teksten uitrollen.

Inmiddels heeft OpenAI een samenwerking opgestart met onder meer de Amerikaanse Cornell University om dergelijke misbruikproblemen te ondervangen. Ondertussen hebben twee jonge wetenschappers, Aaron Gokaslan en Vanya Cohen, een soort kloon van GPT-2 uitgebracht.

Gokaslan en Cohen zeggen er niet op uit te zijn problemen te veroorzaken – ze zijn ervan overtuigd dat de software op dit moment nog geen risico vormt voor de samenleving. Ze hopen juist een discussie aan te wakkeren over de veiligheid van dit soort ontwikkelingen.

Nepnieuws is van alle tijden

Je zou kunnen denken dat nepnieuws pas met de opkomst van social media is ontstaan, maar niets is minder waar: al in de Gouden Eeuw legden spindoctors elkaar het vuur na aan de schenen

Het is soms lastig om te achterhalen of nieuws echt is of niet. Ben jij bestand tegen nepnieuws?

NPO Radio 1 houdt je dagelijks op de hoogte over de laatste ontwikkelingen in de wetenschap

Maandag t/m vrijdag rond 16.20 uur in Nieuws en Co
Iedere werkdag van 02.00 tot 04.00 uur in Focus
En wanneer je maar wilt in de podcast Focus Wetenschap