Dodelijke robots op het slagveld van de toekomst

Zelfdenkende robots die mensen een kopje kleiner maken. Het is al decennia een favoriet thema van de filmindustrie in Hollywood en van sciencefictionschrijvers. In de film 2001: A Space Odyssey (1968) introduceerden regisseur Stanley Kubrick en schrijver Arthur C. Clarke de kunstmatige intelligente HAL-9000. HAL is ingebouwd in een ruimtevaartuig en kan de koers bepalen en talloze functies aan boord bedienen.Tijdens de missie begint HAL kuren te vertonen. Hij verandert van een gezellige reisgenoot die altijd in is voor een potje schaak in een moordenaar. Als astronauten HAL willen uitschakelen, is hij ze voor. HAL wil koste wat het kost de voorgeprogrammeerde missie volbrengen en hij duldt geen tegenwerking.

De Terminator-saga gaat nog een eind verder. In het zwarte toekomstbeeld dat in die films wordt geschetst, staat de wereldwijde strijd tussen machine en mens centraal. De eerste Terminator-film (1984) was al een regelrechte hit, met spierbundel Arnold Schwarzenegger als dodelijke gevechtsrobot die op zoek gaat naar de leider van het menselijke verzet. Het machinale meesterbrein in de films is Skynet, een intelligent defensienetwerk van het Pentagon, dat in de films in 1997 zelfbewust wordt. Skynet is zelflerend en raakt ervan overtuigd dat het zich moet verdedigen tegen de grootste bedreiging: de mens. Nadat Skynet een nucleaire oorlog met de Russen is begonnen en grote delen van de wereld zijn veranderd in een rokende puinhoop, worden robotsoldaten op pad gestuurd om de overgebleven mensen uit te roeien.

De Campaign to stop Killer Robots verwijst naar zulke nachtmerriescenario's nu de ontwikkeling van autonome gevechtsrobots in een stroomversnelling raakt. Allerlei wapenfabrikanten zijn bezig met het bedenken en produceren van (deels) autonome wapensystemen voor het slagveld van de toekomst. Vliegtuigen, tanks en geschutskoepels die grotendeels zelfstandig kunnen opereren, maar waar nog een mens aan te pas komt om definitief de trekker over te halen. De vraag is: hoe lang blijven mensen nog aan de knoppen zitten?

Verbod

De organisatie PAX voor vrede vreest voor het moment dat robots op eigen houtje gaan opereren en is een van de voortrekkers van de campagne tegen dodelijke robots. "Soldaten en generaals kun je ter verantwoording roepen", aldus Frank Slijper (ontwapeningsdeskundige bij PAX), "en een robot niet." PAX pleit voor een algeheel verbod op autonome gevechtsrobots.

Vanaf vandaag komen meer dan honderd VN-lidstaten in Genève bij elkaar om te praten over de ontwikkeling van autonome oorlogsrobots. Het internationaal overleg zou kunnen leiden tot een verdrag waarin regels worden vastgelegd over de ontwikkeling en inzet van deze wapensystemen. Frank Slijper gaat naar Genève om te lobbyen voor het verbod. Hij heeft inmiddels 22 landen aan zijn zijde, waaronder Brazilië, Egypte, Colombia en Ghana.

Overdreven angst

Rob van den Hoven van Genderen (universitair docent robot-recht aan de VU) plaatst kanttekeningen bij het overleg in Genève. Het staat volgens hem vooral in het teken van de definitie van dit soort wapensystemen. "Dat stond vorig jaar ook al op de agenda. Dit zou heel erg lang kunnen duren." Landen als de Verenigde Staten, China en Rusland steken miljarden in de ontwikkeling van deze wapens en zullen niet willen dat de concurrent een grote technologische voorsprong opbouwt. Van den Hoven van Genderen vindt ook de angst voor autonome robots overdreven. "Wat is het grootste gevaar en het grootste risico? Dat is de mens aan die trekker, die emotioneel is, of racistisch. Er is een waanzinnige zelfoverschatting dat het goed gaat als er menselijke controle is."