Hoe je de menselijke maat houdt met kunstmatige intelligentie

Buijsman, schrijver van het boek AI, alsmaar intelligenter, legt allereerst uit wat kunstmatige intelligente precies is: "Het zijn computersystemen die proberen om aan de hand van patroonherkenning taken proberen te doen die mensen normaal doen. Dus je laat ze miljoenen voorbeelden zien van wat ze moeten oplossen en dan hoop je dat de computer dan leert wat het moet doen."

Disbalans

Door de rekenkracht kunnen computers veel meer berekenen dan een mens. Maar de computer kan ook fouten maken. Zo werden studenten van kleur niet herkend door de anti-spieksoftware. En dat komt waarschijnlijk vooral door een menselijke fout, denkt Buijsman: "Bij het trainen van het algoritme zijn vooral voorbeelden van witte mannen en witte vrouwen gebruikt. Daardoor herkende de computers studentes van kleur niet. Programmeurs zijn niet zo divers, het zijn voornamelijk witte mannen. En daar zit dus de disbalans."

Asociaal

De bedrijven die achter de zelflerende software zitten moeten zich dus bewust zijn van mogelijke fouten. Bovendien is de software niet altijd waterdicht, want dat bestaat volgens Buijsman niet. De fouten zijn uiteindelijk niet de schuld van de computer, maar de verantwoordelijkheid van de mens achter de software, stelt hij: "Het is aan ons om hier goed mee om te gaan. We moeten zowel discriminatie tegengaan als fouten op een menselijke manier afhandelen." Volgens hem moeten programmeurs en softwareontwikkelaars zich vooral bewust zijn van de mogelijkheid dat hun AI discriminerend kan zijn en dat zien te voorkomen.