AI-collusion: gaan computers onderling prijsafspraken maken?

Als twee bedrijven prijsafspraken maken, kun je dat normaliter proberen te achterhalen door op zoek te gaan naar heimelijke communicatie tussen mensen van die bedrijven. En als daar sprake van is, kun je die mensen daar verantwoordelijk voor houden.

Kunstmatig hoge prijzen

Maar wat nu als niet mensen, maar computers verantwoordelijk zijn voor die prijsafspraken? Die mogelijkheid is reeël, want algoritmes zijn tegenwoordig zelflerend. Als meerdere bedrijven aan hun algoritmes de opdracht geven om een prijs vast te stellen die de winstgevendheid van het bedrijf ten goede komt, dan zouden kunstmatige hoge prijzen zomaar een mogelijke uitkomst kunnen zijn.

Naarmate bedrijven die algoritmes langer gebruiken - en luchtvaartmaatschappijen en websites doen dat al jaren - groeit de kans dat de algoritmes de mogelijkheid van prijsafspraken gaan ontdekken. Daar hoeft geen mens aan te pas te komen. Sterker nog, misschien weet geen mens er iets van af. De algoritmes zijn immers zelflerend.

AI-collusion voorkomen

Hoe voorkom je dat? Hoe herken je het? En wie is er verantwoordelijk en aansprakelijk? Italiaanse en Amerikaanse wetenschappers adviseren in de nieuwste Science om dat nu alvast uit te zoeken. Computerwetenschappers, economen en juristen zouden de handen ineen moeten slaan om een strategie te ontwikkelen tegen geheime prijsafspraken tussen algoritmes, oftewel 'AI-collusion'.

Een eerste stap zou kunnen zijn om in een laboratoriumsetting te testen welke algoritmische prijsbepalingen het meest risicovol zijn. Vervolgens zou je toezichthoudende software moeten ontwikkelen om die algoritmes er in de praktijk uit te kunnen pikken. En ten slotte zou je ook specifieke beperkingen kunnen stellen aan het leervermogen van de algoritmes, zodat ze de illegale prijsafspraken niet kunnen ontwikkelen.

Als je die stappen hebt doorlopen, denken de wetenschappers, zou het mogelijk moeten zijn om bepaalde algoritmes te verbieden - en bedrijven die ze toch gebruiken daarvoor te straffen.

Luister ook:

NPO Radio 1 houdt je dagelijks op de hoogte over de laatste ontwikkelingen in de wetenschap

Dagelijks tussen 17.00 en 18.30 uur in Nieuws en Co
Iedere werkdag van 02.00 tot 04.00 uur in Focus
En wanneer je maar wil in podcast Focus Wetenschap