| Ingediend | 22 september 2022 |
|---|---|
| Beantwoord | 7 november 2022 (na 46 dagen) |
| Indieners | Stephan van Baarle (DENK), Songül Mutluer (PvdA) |
| Beantwoord door | Dilan Yeşilgöz-Zegerius (minister justitie en veiligheid) (VVD) |
| Onderwerpen | openbare orde en veiligheid politie, brandweer en hulpdiensten |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2022Z17459.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20222023-634.html |
De AVG en de Wpg kennen een vergelijkbaar doel, namelijk het voorzien in een regeling van de bescherming van persoonsgegevens. Een deel van de regels is daarom vergelijkbaar. Er zijn echter ook nadrukkelijke verschillen. Zo kent de Wpg een ruimere grondslag voor het gebruiken van bijzondere persoonsgegevens en zijn bepaalde rechten van betrokkenen in de Wpg beperkt.
Het gaat hier om wederzijds uitsluitende regelgeving. Het is dus onmogelijk een Wpg-verwerking aan de AVG te toetsen (of andersom). Ondanks dat bepaalde begrippen in beide regimes voorkomen, moeten ze bovendien in een geheel andere context worden gezien. De regeling omtrent de gegevensbeschermingseffectbeoordeling (GEB) illustreert dit. De AVG en de Wpg kennen beide de verplichting om een GEB uit te voeren wanneer aan bepaalde voorwaarden is voldaan.
Eerst na ingebruikname van het CAS is die regeling in (art. 4c van) de Wpg geïmplementeerd. Zoals in het antwoord op vraag 2 is toegelicht, is de politie vervolgens tot de conclusie gekomen dat op basis van de karakteristieken van het CAS aan voornoemde voorwaarden niet is voldaan en een GEB aldus niet is voorgeschreven. Desalniettemin verwijst de Algemene Rekenkamer in haar toetsingskader naar de AVG en scoort de politie hier een onvoldoende.
Doordat de Algemene Rekenkamer consequent heeft getoetst aan de AVG (en eenmaal aan de Politiewet 2012) is niet te voorspellen hoe een toetsing door de Algemene Rekenkamer aan het juiste wettelijke kader, zijnde de Wpg, tot een andere uitkomst had geleid.
De richtlijnen van de Autoriteit Persoonsgegevens (AP) voor het uitvoeren van een GEB zijn gericht op de AVG. De politie heeft de AP reeds verzocht aparte criteria op te stellen voor de Wpg. Het feit dat er specifieke wetgeving is voor opsporings- en vervolgingsinstanties vanwege hun bijzondere positie toont al aan dat eisen ten aanzien van gegevensverwerkingen onder de AVG en de Wpg niet altijd vergelijkbaar zijn. Verwerkingen met gegevens van kwetsbare personen, financiële gegevens, gegevens in het kader van heimelijk onderzoek zijn voor de politie immers eerder regel dan uitzondering. Juist daarom kent de Wpg extra verplichtingen rond bijvoorbeeld documentatie, autorisatie en logging.
Vanuit politieperspectief is in dit geval geoordeeld dat de verwerking niet is gericht op de verwerking van gevoelige gegevens of kwetsbare personen, ook is er geen sprake van een nieuwe technologie, het CAS is immers al tien jaar in gebruik. De resultaten zijn bovendien niet tot personen herleidbaar, waardoor geen sprake is van een hoog risico voor betrokkenen.
Zodoende is destijds door de politie beoordeeld dat een GEB in het geval van het CAS niet aangewezen is. Hoewel deze karakteristieken niet ingrijpend zijn veranderd en een GEB volgens het oordeel van de politie nog altijd niet verplicht is, heeft de politie een traject in gang gezet om voor het CAS een (AI) impact assessment of een ander type beoordeling van vergelijkbaar niveau toe te passen.
Zoals hiervoor gemeld, alsook in de beantwoording van uw vorige Kamervragen over dit onderwerp is aangegeven, geeft het CAS een verwachting voor een bepaald gebied en geeft het geen output die op zichzelf tot personen te herleiden is.2 Dit valt ook af te leiden uit de variabelen van het CAS3 waarbij bijvoorbeeld wordt gekeken naar het aantal incidenten dat in een bepaalde periode in een bepaald gebied heeft plaatsgevonden. Dit laat onverlet dat de politie verschillende andere instrumenten, applicaties en informatiesystemen tot haar beschikking heeft en inzichtelijk kan maken welke incidenten in een bepaald gebied en periode hebben plaatsgevonden. Deze informatie heeft de politie ook nodig om zicht te krijgen op de aard en omvang van de lokale problematiek. Het gaat hierbij echter om andere applicaties en systemen dan het CAS.
De variabelen uit het CAS die zich richten op criminaliteitshistorie zijn hoofdzakelijk gebaseerd op aangiftes en meldingen van burgers en niet op de ambtshalve waarnemingen van de politie. Dit geldt voor alle typen speerpunten waarvoor het CAS kan worden ingezet. Hiermee tracht de politie een feedback loop te voorkomen. Hiermee doelt de politie op het volgende verschijnsel. Wanneer mede aan de hand van de output van het CAS de politie-inzet in een gebied tot de waarneming van een toename van het aantal voorvallen aldaar leidt, is dat op zichzelf verklaarbaar. Wanneer die waarnemingen echter weer zouden worden betrokken voor de invoer van het CAS zou bij een volgend gebruik datzelfde gebied weer naar voren komen. Dit wordt ook wel de feedback loop genoemd. Om te voorkomen dat dit effect optreedt en zaken verkleurd worden, is het CAS bewust hoofdzakelijk gebaseerd op aangiftes en meldingen van feiten (brengincidenten) en niet op in registraties vastgelegde eigen waarnemingen van de politie (haalincidenten). Momenteel onderzoekt de politie of en zo ja, ten aanzien van welke feiten zich mogelijk een vermenging van breng- en haalincidenten voordoet, met als doel om dit zoveel mogelijk te beperken.
De Algemene Rekenkamer heeft geen evaluatie van CAS uitgevoerd, maar een controlerende toets verricht van de beheersmaatregelen rondom het CAS. Desalniettemin bestaat voor de Tweede Kamer (bijvoorbeeld via de Vaste commissie Digitale Zaken) de mogelijkheid de Algemene Rekenkamer te vragen nader te reflecteren op de bevindingen rondom het algoritme van het CAS, zoals gerapporteerd in het onderzoek «Algoritmes getoetst».
Het is niet zo dat het CAS zich alleen richt op high impact crimes (HIC), dit is ook nimmer beoogd. De lokale problematiek van het basisteam in kwestie is leidend. HIC behoort dan tot de mogelijkheden, maar dit is zeker niet uitsluitend het geval. Het CAS is bedoeld als een bijdrage aan de efficiënte inzet van de politie. Specifiek voor criminaliteit en openbare ordeverstoring, zoals overlast jeugd en vernieling, geldt dat de aanwezigheid van de politie in een bepaald gebied preventief kan zijn. Die preventie komt echter ook op andere manieren tot stand. De inzet – en daarmee de waarde van het gebruik van het CAS – is dat een basisteam mede aan de hand van de output van het CAS een hypothese over de oorzaken van het hoge risico in een gebied vormt en een strategie formuleert om de oorzaken weg te nemen. Zo kan de politie bijvoorbeeld in gesprek gaan met de gemeente over het plaatsen van extra verlichting op slecht verlichte locaties als blijkt dat dit mogelijk een oorzaak is van een verhoogd risico op overlast of vernieling in een bepaald gebied.
Zie antwoord vraag 6.
Zoals ook bevestigd wordt in het rapport van de Algemene Rekenkamer, maakt het CAS bewust geen gebruik van variabelen, zoals afkomstgerelateerde indicatoren (nationaliteit e.d.), die discriminatie in de hand werken.4 Daarbij geeft het CAS een score voor een bepaald gebied en niet voor een specifieke groep personen. Dit geldt onverkort voor elk type problematiek waarvoor een basisteam het CAS inzet, dus ook voor jeugdoverlast.
Om het risico op (indirecte) discriminatie zoveel mogelijk te mitigeren, maakt de politie ook bewuste keuzes in het uitsluiten van variabelen, die mogelijk indirect tot discriminatie en/of bias zouden kunnen leiden. De variabele «percentage niet-westerse allochtonen» maakte bijvoorbeeld tot voor kort deel uit van een dataset die de politie van het Centraal Bureau voor de Statistiek ontvangt. Deze informatie wordt door de politie niet gebruikt als input voor het CAS. Aanvullend heeft de politie besloten om de ontvangst van deze gegevens al aan de poort te blokkeren.
Het uitsluiten van gegevens over achtergrond, afkomst of geslacht verkleint de kans op indirecte discriminatie, maar sluit deze niet in het geheel uit. Zo kan er onbedoeld bias bestaan in de aangiftes of meldingen die de politie ontvangt. Het inzichtelijk maken en minimaliseren van deze restrisico’s is voor de politie essentieel.
De politie adresseert dit zowel intern als extern. Intern is de politie een onderzoek gestart naar het in kaart brengen en aanpakken van de restrisico’s van de toepassing van het CAS. Extern en transparant (door middel van wetenschappelijke publicaties) onderzoekt de politie tezamen met de wetenschap enerzijds hoe datamodellen van de politie bias het beste kunnen detecteren en uitsluiten en anderzijds het effect van onderlinge sociaal demografische verschillen op politiedata.
Zie antwoord vraag 8.
De variabelen van het CAS zijn in te zien op de website van de politie.5 Zoals gezegd is de criminaliteitshistorie hoofdzakelijk gebaseerd op aangiftes en meldingen van burgers.
De basisteams van de politie kunnen aan de hand van de in het lokale gebied voorkomende problematiek autonoom keuzes maken voor welke typen speerpunten/feiten ze het CAS inzetten. Wel geldt per basisteam een maximumaantal van vier speerpunten, opdat het CAS zo gericht mogelijk wordt benut. De onderstaande tabel toont van de meest voorkomende speerpunten het aantal basisteams, verspreid over het gehele land, dat het CAS voor die feiten toepast.
Speerpunt
Aantal basisteams
Diefstal/Inbraak Woning
160
Diefstal uit en vanuit voertuig
114
Diefstal van een (snor/brom)fiets
72
Overlast jeugd
71
Straatroof
56
Diefstal overig
39
Van overige speerpunten maken telkens niet meer dan tien basisteams tegelijk gebruik.6
Zie antwoord vraag 11.
Hierbij deel ik u mede dat de schriftelijke vragen van de leden Mutluer (PvdA) en Van Baarle (DENK), van uw Kamer aan de Minister van Justitie en Veiligheid over het artikel «Rekenkamer waarschuwt voor mogelijke «vooringenomenheid bij politie-algoritmes» en het rapport van de Algemene Rekenkamer hierover (ingezonden 22 september 2022) niet binnen de gebruikelijke termijn kunnen worden beantwoord, aangezien nog niet alle benodigde informatie is ontvangen. Ik streef ernaar de vragen zo spoedig mogelijk te beantwoorden.