Wapensystemen die doelen zelf bepalen, zonder directe menselijke inbreng, veranderen momenteel van science fiction in realiteit. Neem bijvoorbeeld de Warmate 2. Deze raket van Poolse makelij zoekt boven een gebied, op afstand bediend door een operator, maar kan in een volledige autonome modus functioneren als eenmaal een doel is geïdentificeerd. Of de Dual-Mode Brimstone, een geleide raket die een bepaald gebied toegewezen kan krijgen, waarbinnen het zelfstandig naar vooraf gedefinieerde doelen zoekt.

Deze wapens staan nu nog onder menselijke controle, maar de technologie is ontworpen om zonder menselijke inbreng te kunnen functioneren.

Voor ons rapport ”Slippery Slope” (”Hellend Vlak”) onderzochten we de activiteiten van vijftig wapenfabrikanten op het gebied van autonome systemen. Daaruit blijkt dat de industrie zich snel beweegt in de richting van steeds autonomere systemen, hoewel de huidige systemen nog steeds deels bestuurd worden door menselijke operators.

We vroegen de vijftig bedrijven naar hun beleid en activiteiten en analyseerden publiek toegankelijke bronnen over de systemen die ze ontwikkelen en de lopende militaire contracten.

Kamikazedrone

Slechts vier bedrijven konden we classificeren in de categorie ”best practice”. Ze hebben als beleid om geen dodelijke autonome wapens te ontwikkelen. Dertig bedrijven daarentegen werken aan technologie die zeer relevant is voor dodelijke autonome wapens, terwijl ze geen duidelijk beleid hebben als het gaat om het garanderen van menselijke controle over dergelijke wapens. Tot deze groep bedrijven rekenen we: Lockheed Martin, Boeing en Raytheon (Amerikaans), AVIC en CASC (China), IAI, Elbit en Rafael (Israël), Rostec (Rusland) en STM (Turkije).

Het Turkse staatsbedrijf STM heeft bijvoorbeeld het Kargu-systeem ontwikkeld. De Kargu is een kamikazedrone die op basis van vooraf vastgestelde coördinaten een gebied toegewezen krijgt. Vervolgens selecteert de drone doelen op basis van gezichtsherkenning. Dit systeem kan zeer binnenkort al de grens overgaan naar een wapensysteem zonder menselijke controle. Sommige rapporten suggereren dat Kargu binnenkort ingezet wordt in het conflict tussen Turkije en Syrië.

Dodelijke autonome wapensystemen die doelen selecteren en aanvallen zonder noemenswaardige menselijke inbreng brengen een reeks aan juridische, ethische en veiligheidszorgen met zich mee. Machines die aangestuurd worden door algoritmes nemen de beslissing om een mensenleven te beëindigen. Dit gaat volledig tegen het recht op leven en de menselijke waardigheid in.

Dodelijke autonome wapensystemen kunnen opereren met snelheden die voor mensen nauwelijks te bevatten zijn. De hoge mate van autonomie maakt het verder erg moeilijk te voorspellen hoe ze reageren op onverwachte situaties. Denk aan ongelukken met zelfrijdende auto’s.

Dodelijke autonome wapens betekenen ook een ernstig risico voor de internationale vrede en veiligheid. Het is ook zeer onwaarschijnlijk dat ze in staat zijn zich te houden aan de belangrijkste principes van het internationaal humanitair recht. Dat recht eist onderscheid tussen burgers en strijders en verplicht bij elke aanval te bepalen of de schade voor burgers proportioneel is in relatie tot het militaire doel. Dergelijke beslissingen zijn altijd sterk van de context afhankelijk en dat kunnen autonome wapens juist niet goed inschatten.

Preventieverdrag

De zorgen leiden tot intense debatten tussen landen die sinds 2013 bij de Convention on Certain Conventional Weapons (CCW) van de Verenigde Naties discussiëren over autonome wapens. Uit de gesprekken bleek dat een grote meerderheid van de landen voldoende menselijke controle over het gebruik van geweld wil handhaven.

Momenteel hebben dertig landen opgeroepen tot een preventieverdrag dat dodelijke autonome wapens verbiedt en menselijke inbreng garandeert. Het debat ligt momenteel echter stil doordat een handvol landen de artificial intelligence-wapenrace mogelijk wil maken. Een nieuwe internationale wet is niettemin het meest geschikte middel om de ontwikkeling van dodelijke autonome wapens te voorkomen.

De auteur werkt voor de vredesorganisatie Pax for Peace. Bron: IPS