Onderzoek College voor Rechten van de Mens naar gebruik algoritmen door overheid
- Nieuws
- Onderzoek College voor Rechten van de Mens naar gebruik algoritmen door overheid
Het College voor de Rechten van de Mens gaat onderzoek doen naar het gebruik van algoritmen door de overheid. Zeker 25 gemeenten gebruiken zulke algoritmen, bijvoorbeeld om fraudeurs op te sporen. Dat blijkt uit onderzoek van de NOS in samenwerking met de regionale omroepen.
"Algoritmen worden bijvoorbeeld ook ingezet bij fraudebestrijding", zegt de voorzitter van het College, Adriana van Dooijeweert in Nieuws en Co. "En dan kúnnen er elementen in zitten waarbij het risico op discriminatie ontstaat."
Ook bij de kinderopvangtoeslagaffaire bleek dubbele nationaliteit te worden meegewogen bij het opstellen van risicoprofielen. De rechter oordeelde ook dat het risico op discriminatie aanwezig was in dat systeem.
In de praktijk gebruiken vrijwel alle overheden en bedrijven algoritmen. Vaak gaat het dan om simpele processen, zoals het registreren van hardrijders of het automatisch versturen van brieven.
Maar in 25 gemeenten gaat het dus om profielindeling. Soms om ze sneller te kunnen helpen, maar ook om bijvoorbeeld de kans dat ze fraude plegen te bepalen. In sommige gevallen gaat het nog om pilots of experimenten.
Voordeel
Voor gemeenten bieden algoritmes allerlei voordelen: ze zijn slimmer en sneller dan mensen, en kunnen patronen herkennen die anders niet herkend zouden worden. En ook burgers kunnen er beter van worden, stellen gemeentes: zo kunnen mensen die schulden opbouwen, eerder komen bovendrijven en dus eerder worden geholpen.
Maar critici waarschuwen voor het risico van discriminatie. Zo worden slimme algoritmes vaak gevoed met observaties van mensen van vlees en bloed. Maar mensen hebben vooroordelen, die daarmee in de algoritmes terecht kunnen komen.
Terughoudend
Daarom start het College nu dus een onderzoek. "We vragen dan hoe ze te werk gaan, maar zeggen ook: wat kunnen jullie doen om het te verbeteren?"
Al wijst de voorzitter ook op andere partijen. "Als je nationaliteit opneemt, moet je daar heel erg terughoudend in zijn. Zorg dat je bij de aanbesteding als organisatie ook kennis in huis hebt over hoe het werkt en wat de risico's zijn."
algoritmen
Download de NPO Radio 1-app
Met onze app mis je niks. Of het nou gaat om nieuws uit binnen- en buitenland, sport, tech of cultuur; met de NPO Radio 1-app ben je altijd op de hoogte. Download 'm hier voor iOS en hier voor Android.
Gerelateerd
