Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
Den Haag, 25 oktober 2017
Zoals verzocht door de vaste commissie voor Buitenlandse Zaken ontvangt u hierbij de kabinetsreactie op de open brief van 21 augustus 2017 over autonome wapens. De brief is gericht aan de UN Convention on certain Conventional Weapons (CCW) en is afkomstig van een aantal CEO’s van bedrijven die zich bezighouden met de ontwikkeling en toepassing van kunstmatige intelligentie en robotica.1
Allereerst verwelkomen de opstellers van deze brief de oprichting van een Governmental Group of Experts (GGE) onder de CCW aangaande Lethal Autonomous Weapon Systems (LAWS). Zij betreuren echter het feit dat de geplande eerste vergadering van de GGE in augustus van dit jaar vanwege geldproblemen bij de CCW is geschrapt. Het kabinet deelt deze teleurstelling. Nederland heeft zich in 2016 actief ingezet voor de oprichting van deze GGE en door het schrappen van de eerste vergadering daarvan heeft de discussie over autonome wapensystemen inderdaad onnodige vertraging opgelopen.
De CEO’s waarschuwen vervolgens voor de mogelijkheid dat kunstmatige intelligentie en robotica worden gebruikt voor de ontwikkeling van autonome wapensystemen. Deze ontwikkeling kan volgens de opstellers tot een nieuwe wapenwedloop leiden en grote humanitaire risico’s met zich meebrengen door mogelijke nieuwe vormen van oorlogsvoering. Als niet tijdig wordt ingegrepen, is deze ontwikkeling onomkeerbaar, aldus de brief. De ondertekenaars roepen de verdragspartijen bij de CCW op om manieren te vinden om een wapenwedloop te voorkomen, burgers tegen misbruik van autonome wapensystemen te beschermen en destabiliserende werking van dergelijke technologieën tegen te gaan.
Het kabinet heeft begrip voor de zorgen van de opstellers van de brief dat de ontwikkelingen op het gebied van kunstmatige intelligentie en robotica kunnen leiden tot volledig autonome wapensystemen die niet meer onder betekenisvolle menselijke controle staan. Op dit moment bestaan zulke systemen nog niet. Dat was ook de conclusie van het AIV/CAVV-advies «Autonome wapensystemen: de noodzaak van betekenisvolle menselijke controle» van oktober 2015. Zoals gesteld in de kabinetsreactie van 4 maart 2016 op dit advies2, wijst het kabinet de mogelijke ontwikkeling en inzet van volledig autonome wapens die niet onder betekenisvolle menselijke controle staan, op voorhand af. Het kabinet steunt dan ook de oproep van de CEO’s om het debat over de zorgen over autonome wapensystemen in de CCW te blijven voeren.
Daarbij merkt het kabinet op dat de open brief een algemene oproep behelst en niet ingaat op eventuele specifieke maatregelen, zoals een moratorium op de ontwikkeling en inzet van autonome wapens. Dit is terecht, want het debat over autonome wapensystemen is complex waarbij de definities en de standpunten van de verschillende actoren sterk uiteen lopen. Het debat wordt verder bemoeilijkt doordat de kerntechnologie, kunstmatige intelligentie, vooral in civiele sector wordt ontwikkeld en toegepast. Ook wetenschappers en bedrijven moeten volgens het kabinet dus kritisch naar kunstmatige intelligentie kijken om ervoor te zorgen dat dit onder controle van de mens blijft staan. Gezien de snelle technologische ontwikkelingen heeft het kabinet de Kamer reeds toegezegd de bruikbaarheid van het desbetreffende AIV/CAVV-advies na vijf jaar (in 2020) opnieuw tegen het licht te houden.
Daarnaast heeft het kabinet toegezegd de relevante ontwikkelingen op de voet te volgen. Daarom blijven het Ministerie van Defensie en het Ministerie van Buitenlandse Zaken in gesprek met technische experts, het maatschappelijk middenveld en blijft Nederland actief in de internationale discussie. Zo heeft het Ministerie van Buitenlandse Zaken in april 2017 een informele bijeenkomst gehouden over LAWS met experts uit de academische wereld en afgevaardigden uit de NGO-gemeenschap. Tevens heeft Nederland in september 2017 financieel bijgedragen aan een door het Stockholm International Peace Research Institute (SIPRI) georganiseerde internationale conferentie over de toepassing van wapenreviews. Nederland acht dergelijke reviews van groot belang bij de beoordeling of wapensystemen aan het internationaal (humanitair) recht voldoen. Op grond van artikel 36 van het Eerste Aanvullende Protocol bij de Verdragen van Genève zijn verdragspartijen, en dus ook Nederland, verplicht om bij het ontwikkelen, verwerven of in gebruik nemen van nieuwe middelen en methoden van oorlogvoering te beoordelen of het gebruik daarvan in strijd zou zijn met het internationaal recht. Het Ministerie van Defensie heeft hiervoor de Adviescommissie Internationaal Recht en Conventioneel Wapengebruik (AIRCW) ingesteld die tot taak heeft de Minister van Defensie hierover te adviseren.
De internationale discussie over LAWS staat nog in de kinderschoenen, maar het kabinet verwelkomt het feit dat het maatschappelijke debat actief wordt gevoerd. Ook de komende tijd blijft Nederland investeren in meer studie en meer discussie om het internationale debat over LAWS verder te verdiepen. Tijdens de aankomende vergadering van de GGE zal Nederland zich daarom inzetten voor:
1. Het opstellen van een werkdefinitie voor autonome wapensystemen, om miscommunicatie door gebruik van verschillende definities te voorkomen;
2. Verdere discussie over het concept van betekenisvolle menselijke controle;
3. De unanieme conclusie van de landen die partij zijn bij het CCW-verdrag dat alle wapensystemen, inclusief autonome wapensystemen, en hun inzet in een gewapend conflict te allen tijde moeten voldoen aan de vereisten van het internationaal recht. In dat kader zal Nederland zich ook inzetten voor meer gebruik van wapenreviewprocedures in het kader van eerder genoemd artikel 36 en informatie-uitwisseling hierover tussen landen.
Tot slot, Nederland is actief betrokken bij het internationale debat over autonome wapensystemen. Zo hoort Nederland bij een beperkt aantal landen met een uitgebreid openbaar standpunt over autonome wapensystemen in de vorm van de kabinetsreactie op het AIV/CAVV advies. Dit is ook in het Engels vertaald.3 Voor een uitgebreide uiteenzetting van de Nederlandse positie en inzet binnen het internationale debat verwijst het kabinet naar die kabinetsreactie.
De Minister van Buitenlandse Zaken, A.G. Koenders