| Ingediend | 11 mei 2022 |
|---|---|
| Beantwoord | 24 juni 2022 (na 44 dagen) |
| Indieners | Jasper van Dijk , Renske Leijten |
| Beantwoord door | Hanke Bruins Slot (minister binnenlandse zaken en koninkrijksrelaties) (CDA), Eric van der Burg (staatssecretaris justitie en veiligheid) (VVD) |
| Onderwerpen | immigratie migratie en integratie |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2022Z09099.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20212022-3263.html |
Het risicomodel erkend referenten was een intern hulpmiddel voor de IND om een inschatting te kunnen maken bij welke bedrijven een verhoogd risico lag op niet-naleving van relevante regelgeving. Sinds mei 2021 wordt er niet meer met dit risicomodel gewerkt. Destijds was vanuit de IND geen reden om hierover naar buiten toe te communiceren, omdat het model geen gevolgen heeft gehad voor de besluiten die de IND heeft genomen, er zijn geen aanvragen op grond van dit model afgewezen.
De IND is in mei 2021 gestopt met het gebruik van het risicomodel, en daarmee ook met het registreren van de samenstelling van het bedrijfsbestuur. Er is in het kader van de uitvoering van moties Marijnissen c.s. en Klaver c.s.3 (hierna Motie#21) melding gedaan van het risicomodel en de betreffende verandering van werkwijze bij de Minister van Justitie en Veiligheid. Met het aannemen van deze moties heeft de Kamer het kabinet verzocht om te inventariseren waar afkomstgerelateerde persoonsgegevens worden gebruikt. Doel is om discriminatie te voorkomen door het onrechtmatig en oneigenlijk gebruik tegen te gaan van afkomstgerelateerde gegevens in risico-modellen, -profielen en verwerkingen van systemen en processen. De Minister van Justitie en Veiligheid informeert de Kamer voor het zomerreces over de resultaten van de uitvoering van de Motie#21.
Deze indicator is destijds vastgesteld door de IND op basis van de onjuiste aanname dat in bepaalde regio’s van de wereld er een andere kijk is hoe om te gaan met wettelijke bepalingen en dat hierdoor bestuurders uit een bepaald geboorteland eerder overgaan tot het overtreden van regels. Op basis van de beschikbare informatie, die ook met het besluit van 18 maart 2022 op het Wob-verzoek van Argos4 openbaar is geworden, is niet te achterhalen of er een specifieke aanleiding of concrete casus is geweest om deze indicator op te voeren. De IND is in mei 2021 gestopt met deze registratie. Het is belangrijk te vermelden dat de IND zich bewust is geworden dat deze registratie niet had mogen plaatsvinden en het mogelijk gebruik van de gegevens, had kunnen leiden tot discriminatie.
De samenstelling van het bestuur is nooit meegewogen in de risicoscore van het model. De indicator maakte geen deel uit van het algoritme. De indicator is enkel geregistreerd en er is niet mee gewerkt. De uitkomst van het algoritme, die werd verkregen nadat de aanvraag om erkenning als referent was ingewilligd, vormde een basis voor de inzet van controles en handhaving op de naleving van verblijfsvoorwaarden en plichten door erkend referenten. Zij had geen gevolgen voor de aanvraag en de vreemdeling zelf. Ook los van het algoritme is deze indicator nooit betrokken bij de vaststelling van de risicoscore. Tegenover bedrijven en bestuurders van bedrijven is dus op geen enkele wijze mede op grond van deze indicator handhavend opgetreden.
Ik betreur dat er niet sneller opvolging is gegeven aan een interne notitie van de afdeling Juridische Zaken van de IND, die in 2017 adviseerde met het risicomodel te stoppen en daarbij expliciet in ging op de indicator bestuurssamenstelling. Destijds werd te weinig urgentie gevoeld om uitvoering te geven aan dit advies, omdat er in praktijk niet met deze indicator werd gewerkt. De IND is in mei 2021 wel gestopt met het gebruik van het risicomodel. Het stoppen met het risicomodel is mede ingegeven door extra alertheid en urgentie naar aanleiding van de aanscherping van AVG-vereisten en de uitkomsten van de Parlementaire ondervragingscommissie Kinderopvangtoeslag. Ook was er een intern onderzoek naar de technische aspecten van het model, dat bijdroeg aan de beslissing om te stoppen. Er was in 2021 geen aanleiding om hier breed over te communiceren, omdat het model geen gevolgen heeft gehad voor de besluiten die de IND heeft genomen en dus niet raakte aan de aanvragen van de klant.
Een uitputtend overzicht waar risicoprofilering wordt gebruikt binnen de overheid is er op dit moment niet. Wel wordt gewerkt aan de uitvoering van het onderzoek naar discriminerende risicomodellen op basis van de Motie#21. Werken met risicoprofielen is een standaard werkwijze in alle vormen van toezicht, handhaving en fraude-opsporing. Verschillende overheden gebruiken bij de uitoefening van hun taken dergelijke risicoprofielen. Deze profielen hebben tot doel om doelgerichter en efficiënter te handhaven, te controleren en/of dienstverlenend te zijn, bijvoorbeeld als zij worden ingezet om foutieve aanvragen te voorkomen. Dat is ook nodig: de capaciteit van overheden om te handhaven en/of te controleren is namelijk schaars. Risicoprofielen zijn dan ook van belang voor de uitvoering en het stopzetten van alle signalen en risicosystemen kan tot grote verstoringen in die uitvoering leiden.
Bij brief van 14 december 202112 bent u geïnformeerd over het mensenrechtelijk toetsingskader dat het College voor de Rechten van de Mens heeft opgesteld. Daarin staan de juridische maatstaven om te bepalen wanneer risicoprofielen leiden tot discriminatie op grond van de ras (waaronder etniciteit valt) of nationaliteit. Uit het toetsingskader komt duidelijk naar voren dat slechts in uitzonderlijke situaties een dergelijk onderscheid objectief gerechtvaardigd kan zijn. Daar moeten volgens het Europees Hof voor de Rechten van de Mens zeer zwaarwegende redenen voor zijn. Het mag en kan dus nooit zo zijn dat je afkomst, inkomen, of het wonen in een bepaalde wijk zomaar met zich meebrengen dat je een «kruisje» bij je naam krijgt om strenger gecontroleerd te worden. Onderscheid op dergelijke gronden mag alleen in uitzonderlijke gevallen als daar een dergelijke zware juridische rechtvaardiging voor is. Afkomst mag bovendien nooit als enige of doorslaggevende criterium gebruikt worden.
Overheidsorganisaties die gebruik maken van risicoprofielen moeten zich ervan bewust zijn dat dit onderscheid het risico van discriminatie met zich mee brengt. En discriminatie is verboden. Het non-discriminatiebeginsel uit het eerste artikel van onze Grondwet is daar heel helder over. Waarborgen ter voorkoming van discriminatie zijn van groot belang.
De Staatssecretaris van BZK coördineert nu de uitvoering van het onderzoek naar discriminerende risicomodellen op basis van Motie#21. Onderdeel van dit onderzoek is het stopzetten van het gebruik ervan en het opruimen van vervuilde data binnen de overheid. De Tweede Kamer is hierover geïnformeerd door middel van de tweede voortgangsrapportage. Op 25 mei is over dit onderwerp een technische briefing geweest. In oktober van dit jaar volgt de volgende voortgangsrapportage over de uitvoering van deze motie.
De bewindspersonen informeren de Kamer over de resultaten van de uitvoering van Motie#21 door hun eigen ministerie. Het Ministerie van JenV informeert uw Kamer voor het zomerreces over de resultaten.
Volledigheidshalve kan ik u ook mededelen dat de uitvoering van de motie Azarkan c.s.13, die verzoekt om een brede doorlichting van de overheid op discriminatie en etnisch profileren, is meegegeven in de taakopdracht van de Staatscommissie tegen Discriminatie en Racisme14.
Zie antwoord vraag 6.
Noch risicoscores, noch registraties omtrent samenstelling van bedrijfsbesturen, werden gedeeld met andere overheidsorganisaties. De IND werkt op het gebied van kennismigratie en handhaving nauw samen met de Nederlandse Arbeidsinspectie (hierna te noemen: NLA). Met de NLA worden gecombineerde inspecties/controles uitgevoerd bij bedrijven die door de IND zijn erkend als referent. De NLA is ook bevoegd voor het controleren op de verplichtingen voortvloeiend uit de Wet modern migratiebeleid. De te controleren bedrijven worden door de IND geselecteerd. Bij deze selectie worden gegevens over het bedrijf verzameld. Een deel van deze gegevens komt overeen met gegevens die werden verzameld in het risicomodel. Het betreft (handels)naam van het bedrijf, postcode, KvK nummer, SBI-code, rechtsvorm, datum oprichting, aanwezigheid van een website en de uitkomst van de risicoscore (het percentagecijfer). De samenstelling van het bestuur van het bedrijf heeft hierin geen rol gespeeld.
Zie antwoord vraag 6.
Allereerst hecht het kabinet er met uw Kamer zeer aan dat discriminatie, zoals bedoeld in artikel 1 van de Grondwet, door het gebruik van risicomodellen/-profielen te allen tijde wordt voorkomen.
Ten tweede moeten overheidsorganisaties die gebruik maken van risicoprofielen de staande wet- en regelgeving in acht nemen.
Binnen de werkingssfeer van de Algemene Verordening Gegevens bescherming (AVG), alsook de Wet Politiegegevens (Wpg), de Wet justitiële en strafvorderlijke gegevens (Wjsg) en de Wet Basisregistraties Personen (BRP) moeten verwerkingen van persoonsgegevens naast de wettelijke grondslag voldoen aan de eisen van behoorlijkheid, transparantie, rechtmatigheid, proportionaliteit en subsidiariteit.
Ten derde, ministeries kunnen voor het toetsen verschillende instrumenten als hulpmiddel hanteren voor de ontwikkeling en het gebruik van algoritmen, zoals de Impact Assessment Mensenrechten en Algoritmen (IAMA)5, de handleiding Privacy by design6, de handreiking Non-discriminatie by design7, het Toetsingskader algoritmen van de Algemene Rekenkamer8 en het mensenrechtelijk toetsingskader «discriminatie door risicoprofielen» dat het College voor de Rechten van de Mens heeft opgesteld.9 Hierdoor wordt het mogelijk om bias en non-discriminatie in data-analyses aan de voorkant bij de ontwikkeling en tijdens het gebruik van een risicomodel te herkennen.
Ten vierde, neemt het kabinet conform het regeerakkoord structurele maatregelen om het toezicht op de ontwikkeling en het gebruik van algoritmen vorm te geven. Met deze maatregelen worden de nodige waarborgen getroffen om discriminatie in de toekomst door het gebruik van risicomodellen, profielen, verwerkingen en algoritmen overheid breed te voorkomen.
In Europees verband wordt wetgeving voorbereid voor de ontwikkeling en het gebruik van AI en algoritmen. Het voorkomen van discriminatie is hierbij een belangrijk aandachtspunt. Vooruitlopend daarop maakt de Staatssecretaris van Koninkrijksrelaties en Digitalisering (rijksbrede) afspraken over het (externe) toezicht op de ontwikkeling en gebruik van algoritmen.
Daarin zal ook het gebruik van de IAMA, de handleiding Privacy by design, en de handreiking Non-discriminatie by design worden meegenomen en het door de Algemene Rekenkamer ontwikkelde Toetsingskader algoritmen als uitgangspunt worden gebruikt voor het toezicht. Uw Kamer wordt over de te nemen structurele maatregelen voor het zomerreces per brief geïnformeerd.
Tot slot wordt met het maken van deze rijksbrede afspraken voor het toezicht op algoritmen invulling gegeven aan de motie Bouchallikh en Dekker-Abdulaziz c.s.10, en de motie Van Baarle c.s.11.
Zie antwoord vraag 6.
Per situatie zal moeten worden beoordeeld of door openbaarmaking afbreuk wordt gedaan aan de doeltreffendheid van de gehanteerde inspectie, controle en toezichttechnieken wat een effectieve handhaving zou kunnen belemmeren. Indien gemotiveerd wordt vastgesteld dat daarvan sprake is dan kent de Wet open overheid (Woo), per 1 mei 2022 de vervanger van de Wet openbaarheid van bestuur (Wob), een uitzonderingsgrond die kan worden ingeroepen. Dit zal per situatie nader moeten worden gemotiveerd. Daarbij zal moeten worden meegewogen hoe aannemelijk het is dat burgers hun gedrag gaan aanpassen wanneer men bekend is met de risicoprofielen.
Zie antwoord vraag 12.
Hierbij deel ik u, mede namens de Minister van Binnenlandse Zaken en Koninkrijksrelaties, mede dat de schriftelijke vragen van de leden Leijten en Jasper van Dijk (beiden SP), van uw Kamer aan de Staatssecretaris van Justitie en Veiligheid over het ethisch profileren bij de IND bij «erkend referenten» (ingezonden 11 mei 2022) niet binnen de gebruikelijke termijn kunnen worden beantwoord, aangezien nog niet alle benodigde informatie is ontvangen. Ik streef ernaar de vragen zo spoedig mogelijk te beantwoorden.