Deepfake-video's domineren Indiase verkiezingen

Deepfake video's

Video’s die zijn gemaakt met kunstmatige intelligentie (ook wel AI-video’s genoemd) zijn ontzettend populair in India. Massaal worden ze doorgestuurd in whatsappgroepen, en bereiken in een korte tijd een groot deel van de Indiërs.

Zo is in één daarvan de Indiase oud-politicus Muthuvel Karunanidhi te zien. Gekleed in zijn kenmerkende zwarte zonnebril, wit overhemd en een gele sjaal om zijn schouders, roept de iconische leider om te gaan stemmen. Wat bijzonder is, gezien de man in 2018 is overleden. Het is slechts een voorbeeld van de verwarring die kunstmatige intelligentie kan veroorzaken.

Maar niet alleen overleden politici circuleren rond in Indiase WhatsApp-groepen. Ook van huidige premier Narenda Modi circuleert een video. "Opmerkelijk" noemt Stolte de video omdat de premier in veel verschillende regionale talen spreekt, terwijl hij dat in het echte leven niet machtig is.

Uitdaging voor verkiezing

Deze video's lijken onschuldig, maar toch vormen ze volgens de India-onderzoeker een risico voor de samenleving. "Mensen zijn bang dat, in het extreemste geval, een autoriteitsfiguur zou oproepen tot geweld. Daar is precedent voor in India. Een ander risico is dat een partij oproept om op een andere partij te stemmen."

Stolte ziet dat elke politieke partij in India hieraan meedoet. "Het land is aan de wieg van deepfake. Het is heel moeilijk te bepalen waar de ethische grens ligt. Juridische raamwerken lopen ook achter - dat is overigens ook het geval in andere landen. Het probleem is dat er geen goede definitie van deepfake is. Dan wordt het lastig om kwalijke vormen van deepfake-video's te bestrijden."

Bijna een miljard mensen gaan tussen april en mei van dit jaar naar de stembus. Deze video's lopen als een vuurtje onder miljoenen mensen. De kans dat het een rol gaat spelen tijdens de verkiezingen is groot, zegt Stolte. "India is een volwassen democratie. Maar het risico op desinformatie is aanwezig, bijvoorbeeld in de vorm van een oproep tot het boycotten van de verkiezingen. Bovendien kan het polariserend werken."