De geheimen van AI-algoritmes ontrafeld

In deze Nacht van NTR spreken we met informaticus Meike Nauta. Zij bouwde voor haar promotieonderzoek bij de Universiteit Twente aan een zogenaamd 'uitlegbaar' AI-model: kunstmatige intelligentie die uitlegt waarom het bepaalde keuzes maakt.

Kunstmatige intelligentie, of AI, wordt in steeds meer hoeken van de samenleving toegepast. Maar wát er in zo'n AI-model gebeurt is vaak nog onduidelijk, zelfs voor degenen die het model bouwen. Het is een zogenaamde 'zwarte doos' en dat levert best veel problemen op. Uitlegbare AI biedt hier een mogelijke oplossing voor.

In het kader van open science zijn alle papers van Meike te lezen zonder paywall, en is ook haar code openbaar beschikbaar. De code van haar laatste model is beschikbaar via https://github.com/M-Nauta/PIPNet.