Meer ethiek met killer robots

03-05-2016 13:45

Nederland heeft een hartstikke mooi leger. Het kan vluchtelingenstromen in kaart brengen, informatie verzamelen, putten slaan in verre droge gebieden, mensen evacueren, migranten uit zee vissen, zieken en gewonden verzorgen, hulpgoederen brengen en nog veel meer nuttigs. Je zou bijna vergeten dat een leger eigenlijk maar één ding echt goed moet kunnen: winnen. Liefst overtuigend, en met acceptabele verliezen aan eigen kant. De rest is leuk als spin-off, maar geen reden er een krijgsmacht op na te houden. Dit lijkt een open deur, maar het toenemende verzet tegen de aanschaf en zo nodig inzet van autonome wapensystemen – ‘killer robots‘ – doet anders vermoeden.

Verbod op robotwapens

Neem Noel Sharkey, voorzitter van The International Committee for Robot Arms Control. Hij ijvert al jaren voor een verbod op robotwapens die in tal van landen worden ontwikkeld, van de VS tot China. “Je kan een killer robot van tevoren programmeren voor specifieke missies”, zo constateert hij. “Maar wat als zo’n doelwit, zoals een tank, plotseling een stad inrijdt, ontdekt wordt en het robotwapen zelfstandig in actie komt? Dan heb je een groot probleem. Machines moeten nooit beslissingen nemen om een mens te doden. Dat is tegen de menselijke waardigheid.”

Organisaties als Pax vinden dat morele overwegingen pleiten tegen gebruik van killer robots. Zo acht Miriam Struyk van Pax een machine niet in staat tot het tonen van compassie, zou hij niet kunnen onderkennen dat een soldaat zich wil overgeven, en kan hij geen bevelen weigeren. En SP Tweede Kamerlid Ronald van Raak zegt in zijn recente TPO-column, overigens zonder navolgbare argumentatie: “Ik vind niet dat we computers oorlogen moeten laten voeren.”

Menselijk handelen, menselijke beperkingen

Veel van wat dergelijke organisaties en hun woordvoerders zeggen wordt niet onderbouwd, is feitelijk onjuist, of is irrelevant. Dat maakt hun impact er echter niet minder om. Als het aan hen ligt komen killer robots er niet. Liefst helemaal niet, maar anders in elk geval niet in de legers van landen die hun pet laten hangen naar dergelijke meningen. En laten dat nou net landen zijn zoals Nederland, waar de consensus nu eenmaal niet is dat het doel de militaire middelen heiligt. Dat lijkt allemaal heel ethisch, maar is het dat ook?

‘Een leger dat zich de steun van killer robots ontzegt zal het afleggen tegen een vergelijkbaar leger mèt deze ondersteuning’

Menselijke soldaten handelen met menselijke beperkingen. Vanuit het perspectief van sommige huidige en vooral toekomstige killer robots doen ze er eindeloos lang over om te signaleren dat ze aangevallen (zullen) worden of een mooie kans hebben een doelwit uit te schakelen, om te beslissen over verdediging of (tegen)aanval, en om hun beslissing te implementeren. Hun waarnemingen beperken zich tot weinig meer dan licht en geluid, hun zintuigen zijn weinig gevoelig, hun motoriek is traag en onnauwkeurig. Hun onderlinge communicatie  wordt beperkt door de capaciteit van het menselijk brein. Ze zijn zelden bereid zichzelf uit puur tactische overwegingen op te offeren. Ze bevriezen van angst of laten zich leiden door wraakgevoelens, met zinloze gruweldaden als gevolg. Ze zijn kwetsbaar voor pijn, stress, hitte, koude, vermoeidheid, honger en dorst. Ze handelen op grond van aannames en inschattingen die de statistische werkelijkheid van het slagveld negeren.

Toekomstige killer robots daarentegen nemen waar in alle denkbare modaliteiten waar de klant voor wil betalen, hebben hun target acquisition rond in een fractie van een seconde en schakelen dat doel net zo snel uit, hebben geen last van menselijke ongemakken of invaliderende emotionele impulsen, analyseren de situatie letterlijk bliksemsnel met een door de afzender instelbare meer of minder agressieve voorkeur en kunnen waar nodig tactisch worden opgeofferd zonder het thuisfront in rouw te dompelen. Een mensenleger dat zich de steun van killer robots ontzegt zal het in de niet te verre toekomst daarom kansloos afleggen tegen een vergelijkbaar leger mèt deze ondersteuning.

Duivels dilemma

Zijn de tegenstanders van killer robots dus dom bezig? Niet noodzakelijk. Killer robots zijn een volgende stap in de wapenwedloop en kosten zoals alle wapensystemen handenvol geld. Bovendien moeten we rekening houden met de mogelijkheid dat de beschikbaarheid van deze machines de conflictdrempel verlaagt. Dat betekent dat een mondiaal moratorium op ontwikkeling en invoering van killer robots verdedigbaar en misschien zelfs wenselijk is.

Maar wie killer robots eenzijdig afwijst, terwijl een mogelijke vijand ze al dan niet openlijk verder ontwikkelt en invoert, staat voor een duivels dilemma. Eén mogelijkheid is volledige eenzijdige ontwapening. Dat voorkomt oorlog; in elk geval totdat een eventuele veroveraar ons menselijk en economisch potentieel inzet voor verdere militaire avonturen; avonturen waarin killer robots ongetwijfeld een belangrijke rol zullen spelen, en dan zonder dat we daar dan alsnog een stem in hebben.

Oorlogsethiek

De andere mogelijkheid is een robotloze strijdmacht in stand te houden. Dat betekent, in geval van een toekomstige oorlog tegen een strijdmacht met geavanceerde killer robots, grote offers in mensenlevens en materieel aan onze kant, zonder dat daar een reële kans op militair succes tegenover staat. Dat is volstrekt immoreel. De ethiek rond oorlogvoering – jawel, die is er – gaat er terecht van uit dat strijd leveren alleen gerechtvaardigd kan zijn als er een reële kans is dat het doel bereikt wordt. Als winnen er niet in zit, zijn een strijdmacht en oorlogvoering zinloos. Zelfs de oude Grieken hadden dat al door, getuige de Melische dialoog in Thucydides’ geschiedenis van de Peloponnesische oorlog.

‘De geschiedenis leert dat weerloze volkeren weinig toekomst hebben’

Drie mogelijkheden

Kortom: er zijn drie mogelijkheden. De eerste is zorgen voor een strijdmacht die tegen de mogelijke uitdagingen is opgewassen. Dat kan onder meer vragen om de ontwikkeling en invoering van ruim voldoende state of the art killer robots, eventueel aangevuld met een campagne voor een controleerbaar en afdwingbaar mondiaal verbod op deze machines. Dat is een keuze die zowel rationeel als ethisch te verdedigen valt. De tweede is volledige ontwapening en pacifisme. De geschiedenis leert weliswaar dat weerloze volkeren meestal weinig toekomst hebben, maar het geluk kan aan onze kant zijn. Zo lang dat geluk duurt genieten we dan van onze morele superioriteit en de uitgespaarde middelen. De derde is kiezen voor een strijdmacht die, anders dan die van een mogelijke tegenstander, niet beschikt over killer robots en daardoor in geval van een serieus conflict kansloos is. Dat is een zowel irrationele als intens immorele optie.

Laten we daarom hopen dat degenen die pleiten tegen killer robots over genoeg realisme en Verantwortungsethik beschikken om nooit aan te dringen op eenzijdig afzweren van deze wapens zonder dan tevens te pleiten voor volledige eenzijdige ontwapening.