'Computer says no': waarom een mondiaal adviesorgaan rondom AI ons kan helpen

"Er wordt altijd gezegd dat er te laat wordt gereageerd. Per definitie loop je als beleidsmaker achter de snelle ontwikkelingen aan", zegt Schuurman. Daarom is het goed als er een mondiaal adviesorgaan komt rondom kunstmatige intelligentie. Schuurman benadrukt dat het mondiale aspect daarin essentieel is: "Het kan niet zijn dat er op de ene plek van de wereld geïnnoveerd wordt en dat wij het aan banden leggen."

Beleid rondom AI

Bovendien is beleid rondom kunstmatige intelligentie volgens Schuurman kansrijker bij overheden, dan bij grote tech-bedrijven. Dat een algoritme van Facebook je niet aanstaat bijvoorbeeld, kan ertoe leiden dat je zelf de keuze maakt om van het platform af te stappen. Maar een overheid die AI inzet om taken die mensen anders zouden doen, ligt net wat anders. Mensen kun je ter verantwoording roepen als ze discrimineren of etnisch profileren bijvoorbeeld, "net zo goed zou je de systemen die je inzet in plaats van de mensen ook ter verantwoording moeten kunnen roepen", aldus Schuurman. Daar kan het adviesorgaan een rol in spelen.

Ook Van Sparrentak vindt het initiatief van een adviesorgaan een goed idee: "Er zijn niet zoveel experts op het gebied van AI, dus de kennis bundelen lijkt me een heel goed idee." Bovendien heeft de tech-lobby veel invloed op het debat, zegt Van Sparrentak, omdat er een gebrek is aan informatie over de innovatieve technologie. "Dus ik denk dat een onafhankelijk adviesorgaan heel erg welkom is", aldus de Europarlementariër.

Van Sparrentak is samen met andere Europarlementariërs bezig met de Kunstmatige Intelligentie Wet. "Het lijkt er wel op dat we grote stappen gaan zetten om in ieder geval minimum vereisten neer te zetten voor kunstmatige intelligentie."

AI-restricties voor bedrijven

Volgens Schuurman is het goed om bedrijven bepaalde restricties op te leggen als het gaat om AI. Het grote gevaar is volgens hem namelijk dat 'we zelf niet meer snappen wat de uitkomst van een algoritme is'. Daarmee doelt Schuurman op situaties zoals we die bij de toeslagenaffaire hebben gezien.

"Computer says no, een grappige sketch die in de praktijk heel erg is," aldus Schuurman. "Het mag eigenlijk niet zo zijn dat bedrijven of overheden algoritmes gebruiken om taken uit te besteden maar vervolgens niet meer kunnen uitleggen waarom het algoritme met een conclusie komt." Daarom lijkt het Schuurman goed om 'explainable AI' op te leggen aan bedrijven, waarbij uitleg van het systeem verplicht wordt.