‘Van sommige beslissingen in het leven, zoals wie je vertrouwt, met wie je in het huwelijk treedt en welke religie je aanhangt, zouden we niet moeten willen dat computers ze voor ons maken’, zegt Dan Saxon. ‘Ook bij bepaalde oorlogssituaties staan er complexe waarden op het spel, en die niet aan machines moeten worden overgelaten. Dat beperkt ons als mens, en vermindert onze waardigheid. Het vermindert ons aandeel in een belangrijk onderdeel van het leven. We vinden oorlog niet leuk, maar het is wel verschrikkelijk belangrijk.’
Saxon onderzoekt al 25 jaar internationale rechtszaken, was 12 jaar aanklager bij het Joegoslavië-tribunaal en promoveerde vorige week op zijn proefschrift Autonomous Weapons, Human Dignity and International Law.
Daarin verkent hij hoeveel verantwoordelijkheid we over moeten dragen aan slimme robots in oorlogen.
Kunstmatige intelligentie wordt al wereldwijd ingezet. In de oorlog tegen IS gebruikt Groot-Brittannië bijvoorbeeld Brimstone. Zodra een gevechtsvliegtuig die raketten dropt, zoeken ze op eigen houtje naar het opgegeven doelwit. Het Israëlisch vliegtuigje ‘Harpy’ dat is gespecialiseerd in het aanvallen van radarsystemen wordt inmiddels ook gebruikt door Zuid-Korea, India, Turkije en China.
Vooral in complexe situaties moeten we voorzichtig zijn met het blind vertrouwen op technologie, betoogt Saxon. De oorlog met IS speelt zich deels af in woestijngebieden, waar weinig burgers rondlopen en de kans op vergissingen veel kleiner is. ‘Het is een relatief simpele oorlogssituatie. Maar stel dat een gevecht in een stad plaatsvindt, tussen de mensen, moskeeën en scholen. Een militair moet dan kiezen tussen het belang van het volbrengen van de operatie en de humanitaire taak om geen burgers te raken. Dat zijn complexe afwegingen, die we niet aan een computer moeten overlaten.’
Tegelijkertijd kun je je ‘de voordelen wel voorstellen’, zegt hij. ‘Vanuit een militair standpunt is het begrijpelijk. Jij en ik zijn misschien slim, maar we kunnen maar met beperkte snelheid denken.’ Computers raken niet gestrest, worden niet bang en zijn niet uit op wraak. In sommige situaties zouden ze dus betrouwbaarder zijn dan een militair van vlees en bloed. In sommige gevallen kan het gebruik van robots juist leiden tot minder dodelijke slachtoffers, omdat ze de plaats kunnen innemen van menselijke soldaten. En daarnaast zijn ze sneller en efficiënter.
Saxon: ‘Maar dat is niet het einde van de discussie. Om een analogie te maken: op een dag komt een computer die met algoritmes de perfecte partner voor ons kan bepalen. ‘Beter’ dan wij zelf, omdat ze minder emotioneel zijn. Maar dat betekent niet dat ik een computer wil laten bepalen met wie ik moet trouwen.’
Het gaat hem vooral om degenen die de aanval uitvoeren. ‘Er zijn wetenschappers geweest die vanuit de slachtoffers redeneren: dat het beneden menselijke waardigheid zou zijn om door een robot vermoord te worden. Maar dat argument vind ik niet werken. Als ik een soldaat zou zijn, dan maakt het mij niet uit of ik word vermoord door een mens of robot. De kogel is hetzelfde. Het gaat om de waardigheid van degenen die achterblijven.’