| Ingediend | 19 september 2018 |
|---|---|
| Beantwoord | 11 oktober 2018 (na 22 dagen) |
| Indiener | Salima Belhaj (D66) |
| Beantwoord door | Ank Bijleveld (minister defensie) (CDA) |
| Onderwerpen | criminaliteit europese zaken internationaal openbare orde en veiligheid |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2018Z16320.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20182019-264.html |
Ja.
Het Europees Parlement roept met de resolutie van 12 september 2018 over autonome wapensystemen (2018/2752 RSP) de Hoge Vertegenwoordiger van de Unie voor Buitenlandse Zaken en Veiligheidsbeleid, de EU-lidstaten en de Europese Raad op om (1) een gezamenlijke positie ten aanzien van «lethal autonomous weapon systems (LAWS)» overeen te komen en (2) zich sterk te maken voor internationale onderhandelingen over een juridisch instrument om dodelijke autonome wapensystemen te verbieden.
Hierbij definieert het Europees Parlement LAWS als wapensystemen «die zonder beduidende menselijke controle de kritische taken van het kiezen en aanvallen van afzonderlijke doelwitten verrichten» en geeft daarbij ook aan dat «geautomatiseerde, op afstand bediende systemen» geen LAWS zijn. In de resolutie komt de term «killer robots» niet voor.
Zie antwoord vraag 2.
Het kabinetsstandpunt en de voorgenomen inzet ten aanzien van de internationale discussie zijn verwoord in de kabinetsreactie op het advies «Autonome wapensystemen: de noodzaak van betekenisvolle menselijke controle» van de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV)2, waarin het kabinet het advies heeft overgenomen. Kern van voorgenoemd rapport en kabinetsstandpunt is dat alle wapensystemen, inclusief autonome wapensystemen, onder betekenisvolle menselijke controle moeten staan. Het kabinet verwerpt op voorhand de ontwikkeling en inzet van autonome systemen die niet onder menselijke controle staan.
De Ministeries van Defensie en van Buitenlandse Zaken hebben met het oog op de praktische invulling van het concept van betekenisvolle menselijke controle in autonome wapensystemen de afgelopen jaren uiteenlopende onderzoeksprojecten gefinancierd, waaronder projecten van de Nederlandse Organisatie voor Toegepast-Natuurwetenschappelijk Onderzoek (TNO), van het United Nations Institute for Disarmament Research (UNIDIR), van het Stockholm International Peace Research Institute (SIPRI) en ook een promotieonderzoek van de Vrije Universiteit Amsterdam (VU).
De uitkomsten van die onderzoeken zijn ingebracht in het internationale debat over autonome wapensystemen dat plaatsvindt binnen de Convention on Certain Conventional Weapons (CCW) van de Verenigde Naties. Daarnaast is Nederland bij elke vergadering van de CCW over autonome wapensystemen met een brede delegatie van experts aanwezig en heeft Nederland non-papers ingediend voor een betere discussie.
Het kabinet is zich ervan bewust dat toekomstige ontwikkelingen, in het bijzonder technologische ontwikkelingen en de toepassing daarvan, lastig te voorspellen zijn. Om die reden heeft het kabinet reeds toegezegd het AIV/CAVV-advies 5 jaar na verschijning, in 2020, opnieuw tegen het licht te willen houden. Tevens volgt het kabinet de (technologische) ontwikkelingen op dit terrein op de voet zodat het, indien de ontwikkelingen daar aanleiding toe geven, hier meteen op kan reageren. Hiertoe heeft het kabinet de onderwerpen robotica en kunstmatige intelligentie tot speerpunttechnologie in aangrenzend beleid bestempeld.
Zoals vermeld in eerdergenoemde kabinetsreactie is het kabinet tegen de ontwikkeling en de inzet van volledig autonome wapensystemen waarbij geen sprake meer is van betekenisvolle menselijke controle. Het is daarom niet wenselijk dat dergelijke systemen ontwikkeld zouden worden. Overigens lijkt zich in de CCW al consensus tussen de lidstaten af te tekenen dat autonome wapensystemen altijd onder menselijke controle moeten staan.
Autonome wapensystemen die beschikken over betekenisvolle menselijke controle kunnen echter ook belangrijke militaire voordelen hebben, zoals het genoemde AIV-rapport ook concludeert. Deze systemen kunnen vaak sneller en preciezer reageren dan mensen, waardoor de risico’s voor eigen eenheden en de burgerbevolking kunnen afnemen. Ook kunnen zulke systemen opereren in een omgeving die voor mensen moeilijk bereikbaar en/of gevaarlijk is. Het kabinet verwacht dan ook dat dergelijke wapensystemen, voorzien van betekenisvolle menselijke controle, de komende decennia wereldwijd (verder) worden ontwikkeld en zullen worden ingezet.
Zoals vermeld in het antwoord op vraag 4, heeft het kabinet de onderwerpen robotica en kunstmatige intelligentie tot speerpunttechnologie in aangrenzend beleid bestempeld. Onderzoek naar «mens-machine-teaming» is ook een van de speerpunten van de Strategische Kennis en Innovatie Agenda (2016–2020) van het Ministerie van Defensie.
Zoals aangegeven in de kabinetsreactie op het AIV/CAVV-rapport, is het kabinet geen voorstander van een verbod of moratorium op de ontwikkeling van autonome wapensystemen. Het kabinet is van mening dat voor elk wapen geldt, dat het altijd de mens moet zijn die bepaalt of een wapen wordt ingezet conform het internationale recht en niet het wapen zelf. De kernvraag daarbij, die verder strekt dan wapensystemen, is hoe mensen in controle kunnen blijven en de verantwoordelijkheid kunnen blijven dragen voor systemen die in toenemende mate beschikken over een bepaalde mate van autonomie, zelflerend vermogen, of meer in het algemeen kunstmatige intelligentie.
Die ontwikkeling in kunstmatige intelligentie is allereerst een technologische ontwikkeling in tal van civiele sectoren, zoals vervoer, telecommunicatie, internet, medische zorg, financiële handel, enz. Het betreft ook niet één specifieke technologische ontwikkeling, maar een breed pallet aan technologische ontwikkelingen. Bij een verbod of moratorium op autonome wapensystemen rijst dan ook al snel de vraag, een verbod waarop? Het kabinet is daarom van mening dat regulatie van kunstmatige intelligentie-technologieën, enkel met mogelijke toekomstige wapensystemen in gedachten, nuttige civiele ontwikkelingen kan frustreren, aangezien de grenzen tussen militaire en niet-militaire technologie niet altijd helder zijn. Daar komt bij dat de CCW er tot op heden ook niet in is geslaagd om een algemeen aanvaarde definitie van LAWS op te stellen.
In de visie van het kabinet voldoet het huidige internationale recht, in het bijzonder het humanitair oorlogsrecht. Artikel 36 van het Eerste Aanvullend Protocol bij de Geneefse Verdragen verplicht landen om de ontwikkeling en verwerking van nieuwe middelen en methoden van oorlogsvoering te toetsen aan het internationaalrechtelijke kader. In Nederland is hiermee de Adviescommissie Internationaal Recht en Conventioneel wapengebruik (AIRCW) van het Ministerie van Defensie belast. De AIRCW beoordeelt in voorkomend geval ook of de inzet van wapensystemen met autonome functies onder betekenisvolle menselijke controle kan worden uitgevoerd. In het internationale debat over autonome wapensystemen onderstreept Nederland het belang van een goede uitvoering van artikel 36.
Het kabinet neemt, zoals eerder aangegeven, actief deel aan het internationale debat over autonome wapensystemen dat plaatsvindt binnen de CCW met het standpunt dat alle wapensystemen, inclusief autonome wapensystemen, onder betekenisvolle menselijke controle moeten staan. Het kabinet verwerpt op voorhand de ontwikkeling en inzet van autonome systemen die niet onder menselijke controle staan.
Zie antwoord vraag 6.