Ontvangen 7 december 2020
De ondergetekende stelt het volgende amendement voor:
Aan artikel 1.9 wordt een lid toegevoegd, luidende:
6. Bij de geautomatiseerde gegevensanalyse door het samenwerkingsverband worden geen algoritmes gehanteerd waarvan de uitkomsten niet navolgbaar en controleerbaar zijn.
Dit wetsvoorstel maakt toepassing mogelijk van vormen van geautomatiseerde gegevensanalyse zoals profilering. Het recente verleden (denk bijvoorbeeld aan de toeslagenaffaire bij de Belastingdienst de toepassing van SyRi) heeft laten zien dat automatische gegevensverwerking kan leiden tot onverklaarbare, onjuiste en zelfs discriminatoire uitkomsten. Deze risico’s zijn terug te leiden op het gebrek aan inzicht in de totstandkoming van de automatisch gegenereerde gegevens. Voorkomen moet worden dat bij automatische gegevensanalyse niet kan worden ingestaan van de kwaliteit van de te analyseren data en de objectiviteit van de gehanteerde analysemethoden.
Indiener stelt daarom voor om bij automatische gegevensanalyse te verplichten dat inzichtelijk moet zijn hoe de uitkomsten tot stand zijn gekomen. Indiener spreekt de wens uit dat de gehanteerde modellen voor de geautomatiseerde gegevensanalyse wetenschappelijk gevalideerd dienen te zijn en auditeerbaar en toetsbaar te zijn voor toezichthouders en wetenschappers. Van alle uitkomsten van de analyse moet het navolgbaar en uitlegbaar zijn hoe deze tot stand zijn gekomen. Dat laat naar het oordeel van de indiener geen ruimte voor het gebruik van zelflerende algoritmes waarbij de uitkomsten niet meer navolgbaar zijn.
Buitenweg