Ontvangen 27 maart 2024
Met belangstelling heb ik kennisgenomen van het verslag van de vaste commissie voor Justitie en Veiligheid. Ik dank de leden van de verschillende fracties voor hun inbreng. Hieronder ga ik, mede namens de Minister van Binnenlandse Zaken en Koninkrijksrelaties, in op de gestelde vragen. Daarbij worden de vragen samengevat weergegeven en thematisch beantwoord. Waar mogelijk wordt de volgorde van het verslag aangehouden.
Daar waar dat voor de beantwoording van de gestelde vragen relevant is, zal worden ingegaan op de verplichtingen die de Digitaledienstenverordening1 (Digital Services Act/DSA) met zich brengt. De DSA is op 17 februari 2024 van toepassing geworden voor alle zogenaamde tussenhandeldiensten2 en voorziet in gedeeltelijke vervanging van de Richtlijn elektronische handel De DSA harmoniseert de regels die van toepassing zijn op tussenhandeldiensten, waaronder hostingdiensten, met als doel te zorgen voor een veilige, voorspelbare en betrouwbare online omgeving, waarin de verspreiding van illegale online-inhoud en de maatschappelijke risico’s die de verspreiding van desinformatie of andere inhoud met zich kunnen brengen, worden aangepakt en waarin de grondrechten doeltreffend worden beschermd en innovatie wordt vergemakkelijkt. Daartoe bevat de verordening enerzijds een kader voor de aansprakelijkheid van aanbieders van tussenhandeldiensten voor door hun gebruikers verstrekte informatie en anderzijds een aantal zorgvuldigheidsverplichtingen waar deze aanbieders aan moeten voldoen bij het verlenen van hun diensten. Omdat de DSA reeds van toepassing is als dit wetsvoorstel in werking zal treden, wordt daar waar dat relevant is alleen ingegaan op de verplichtingen op grond van de DSA en niet op de richtlijn elektronische handel.
Tegelijk met deze nota naar aanleiding van het verslag is een nota van wijziging naar de Kamer gestuurd. Deze nota van wijziging bevat in hoofdlijn vier wijzigingen.
Ten eerste is met de nota van wijziging artikel 7 uit het wetsvoorstel geschrapt. Omdat het wetsvoorstel voor een bestuursrechtelijke aanpak van online kinderpornografisch materiaal inmiddels enige tijd in voorbereiding is, is samenloop opgetreden met de DSA. De DSA is rechtstreeks toepasselijk in alle lidstaten en betreft volledige harmonisatie, wat betekent dat lidstaten geen beleidsvrijheid meer hebben om (andersluidende) nationale wetgeving ten aanzien van onderwerpen die binnen het toepassingsgebied van de DSA vallen vast te stellen. De DSA bevat onder meer een aantal zorgvuldigheidsverplichtingen voor aanbieders van tussenhandeldiensten om de verspreiding van illegale inhoud tegen te gaan. Dat betekent dat het niet toegestaan is om in het nationale recht aanvullende zorgvuldigheidsverplichtingen op te nemen voor aanbieders van tussenhandeldiensten, die dezelfde doelstelling hebben als de DSA.
Artikel 7 van het wetsvoorstel bevatte een zorgplicht voor aanbieders van hostingdiensten. Bij oplegging daarvan werden deze aanbieders verplicht passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch materiaal middels hun diensten te beperken. Deze zorgplicht houdt in feite een zorgvuldigheidsverplichting in voor een aanbieder van hostingdiensten om de verspreiding van illegale inhoud (in dit geval kinderporno) tegen te gaan. De DSA voorziet in diverse zorgvuldigheidsverplichtingen op maat voor meerdere categorieën van aanbieders van tussenhandeldiensten, waaronder hostingdiensten. Een hostingdienst is dus een vorm van een tussenhandeldienst. De artikelen 11 tot en met 15 van de DSA bevatten zorgvuldigheidsverplichtingen voor alle aanbieders van een tussenhandeldienst. Het gaat om het instellen van een contactpunt, het aanwijzen van een wettelijk vertegenwoordiger, het opstellen van algemene voorwaarden waarin informatie is opgenomen over eventuele beleidsmaatregelen, procedures, maatregelen en instrumenten die worden ingezet voor inhoudsmoderatie en de procedurevoorschriften van hun interne klachtenafhandelingssysteem en transparantierapportageverplichtingen. In de artikelen 16 tot en met 18 van de DSA zijn aanvullende bepalingen opgenomen voor aanbieders van hostingdiensten, waaronder onlineplatforms. Op grond van die artikelen zijn aanbieders van hostingdiensten verplicht om te voorzien in kennisgevings- en actiemechanismen, de verplichting om te motiveren waarom sprake is van een aan een gebruiker opgelegde beperking en de verplichting om rechtshandhavings- of gerechtelijke autoriteiten van de betrokken lidstaat of lidstaten onverwijld op de hoogte te stellen van een vermoeden van een strafbaar feit. De zorgvuldigheidsverplichtingen die zijn opgenomen in de DSA werken rechtstreeks door in de Nederlandse rechtsorde. Met de komst van de DSA is het niet langer toegestaan om ten aanzien van de zorgvuldigheidsverplichtingen voor tussenhandeldiensten nog nationale regels te stellen die eenzelfde doelstelling hebben als de DSA en om die reden is artikel 7 uit het wetsvoorstel geschrapt. Overigens voorziet het voorstel voor een Verordening ter voorkoming en bestrijding van materiaal van seksueel kindermisbruik (CSA-verordening) wel in specifieke maatregelen die door de een Coördinerende Autoriteit aan tussenhandeldiensten kunnen worden opgelegd. Op dit moment lopen de onderhandelingen over dit voorstel echter nog en is het tijdpand onbekend.
Ten tweede is, mede naar aanleiding van vragen hierover van de leden van de SP-fractie en de ChristenUnie-fractie, het kennelijkheidsvereiste zoals opgenomen in dit wetsvoorstel geschrapt. Op grond van artikel 6, vierde lid, onder a, van dit wetsvoorstel was het voor de ATKM mogelijk een aanwijzing te geven indien zou blijken dat «kennelijk» sprake was van online kinderpornografisch materiaal. Kinderpornografisch materiaal is in het onderhavige wetsvoorstel gedefinieerd als afbeeldingen als bedoeld in artikel 240b van het Wetboek van Strafrecht. Artikel 240b van het Wetboek van Strafrecht spreekt van een seksuele gedraging waarbij iemand die «kennelijk» de leeftijd van achttien jaar nog niet heeft bereikt, is betrokken of schijnbaar is betrokken. Daarmee was feitelijk sprake van een dubbel kennelijkheidsvereiste. Dit dubbele kennelijkheidsvereiste zou ertoe kunnen leiden dat in het bestuursrecht op dit punt een andere norm wordt gehanteerd dan in het strafrecht, waardoor het in de praktijk erg lastig wordt om op te treden tegen de verspreiding van dit materiaal. Gelet hierop is het kennelijkheidsvereiste zoals opgenomen in dit wetsvoorstel geschrapt.
Ten derde is de samenloopbepaling met de Uitvoeringswet Verordening Terroristische online-inhoud (TOI-verordening) geschrapt, omdat de Uitvoeringswet TOI-verordening per 1 september 2023 in werking is getreden.
Ten vierde is met deze nota van wijziging een samenloopbepaling opgenomen met het wetsvoorstel tot wijziging van het Wetboek van Strafrecht en andere wetten in verband met de modernisering van de strafbaarstelling van verschillende vormen van seksueel grensoverschrijdend gedrag (Wet seksuele misdrijven)3. Met dat wetsvoorstel, dat momenteel aanhangig is bij de Eerste Kamer, wordt artikel 240b Wetboek van Strafrecht (Sr) vervangen door artikel 252 Sr. Artikel 1 en artikel 3 van het onderhavige wetsvoorstel verwijzen naar artikel 240b Sr. Voor het geval de Wet seksuele misdrijven eerder in werking treedt dan dit wetsvoorstel is een samenloopbepaling opgenomen. Tevens is van de gelegenheid gebruik gemaakt om een wijziging aan te brengen in de formulering van de strafbaarstelling van kinderpornografie die is opgenomen in het wetsvoorstel seksuele misdrijven.
De leden van de VVD-fractie hebben met belangstelling kennisgenomen van de Wet bestuursrechtelijke aanpak online kinderpornografisch materiaal (hierna: het wetsvoorstel). Seksueel misbruik van kinderen is een van de meest verwoestende en verderfelijke vormen van criminaliteit, voor slachtoffers en hun omgeving. Wanneer beelden online circuleren, worden zij hier telkens opnieuw mee geconfronteerd. Het is voor betrokkenen ongelofelijk emotioneel, heftig en pijnlijk dat intieme beelden van zichzelf, hun kinderen of hun naasten online staan. We moeten slachtoffers en hun omgeving bijstaan en alles doen om online kinderpornografisch materiaal tegen te gaan. Daarom steunen deze leden het wetsvoorstel van de regering om niet alleen het misbruik zelf tegen te gaan, maar ook het verspreiden van beelden. De afgelopen jaren zijn er enkele stappen gezet om het verspreiden van kinderpornografisch materiaal tegen te gaan, met zelfregulering van hostingbedrijven, opsporing en vervolging. Deze stappen zijn onvoldoende om de grote hoeveelheid van (seksueel) beeldmateriaal van kinderen te verwijderen. Voornoemde leden stellen dat het wetsvoorstel een belangrijke bijdrage kan leveren aan het sneller offline krijgen van beeldmateriaal en aan het bestuursrechtelijk aanpakken van aanbieders van communicatiediensten wanneer zij hun wettelijke verplichtingen niet nakomen. Zij stellen nog enkele vragen.
De leden van de D66-fractie zien dit wetsvoorstel als een belangrijke stap in de bestrijding van online kinderpornografisch materiaal. De toename van online kinderpornografisch materiaal in Nederland is zeer zorgelijk en dient op alle vlakken te worden bestreden. De bestuurlijke instrumenten die in dit wetsvoorstel worden voorgesteld zijn daar onderdeel van. Deze leden hebben hierover nog enkele vragen.
De leden van de CDA-fractie hebben met belangstelling kennisgenomen van het wetsvoorstel. Deze leden vinden het beschamend en pijnlijk dat Nederland een spilfunctie heeft in de productie en handel van kinderpornografisch materiaal en zijn van mening dat hard opgetreden moet worden tegen zowel de producenten als de hostingsbedrijven die dit materiaal faciliteren. Zij maken graag van de gelegenheid gebruik om enkele vragen te stellen aan de regering over dit wetsvoorstel.
De leden van de SP-fractie hebben het wetsvoorstel Wet bestuursrechtelijke aanpak online kinderpornografisch materiaal gelezen. Deze leden hebben hier nog een aantal vragen over.
Zij willen het grote belang en de noodzaak van de aanpak van kinderpornografisch materiaal nogmaals benadrukken. Het is pijnlijk om te lezen dat Nederland in de top 2 staat van landen waarin kinderpornografisch materiaal wordt opgeslagen. Het is dan ook goed om te zien dat de regering bezig is met de aanpak hiervan, onder andere door middel van dit wetsvoorstel.
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie hebben met belangstelling kennisgenomen van het wetsvoorstel bestuursrechtelijke aanpak online kinderpornografisch materiaal. Deze leden delen uiteraard de mening van de regering dat seksueel kindermisbruik een van de meest verwoestende vormen van criminaliteit is en dat niet alleen het misbruik zelf worden tegengegaan, maar ook het verspreiden van beelden daarvan. Zij kunnen daarom instemmen met het ook via de bestuursrechtelijke weg aan banden leggen van verspreiding van dit materiaal, maar zien tegelijkertijd ook de uitdaging om zo gericht en effectief mogelijk in te grijpen zonder burgerlijke vrijheden van onschuldigen aan te tasten. Zij zijn van mening dat snel ingrijpen verdere verspreiding van dergelijk materiaal kan voorkomen en dat dit daarmee bijdraagt aan het beperken van fysieke en emotionele schade van betrokken slachtoffers. Die noodzaak van snelle procedures laat evenwel onverlet dat onafhankelijke waarborgen worden geboden op de juiste toepassing van de geïntroduceerde bevoegdheden. Zij hebben daarom nog enkele vragen.
De leden van de ChristenUnie-fractie hebben met belangstelling kennisgenomen van het wetvoorstel. Deze leden zien het belang van het instellen van de Autoriteit Online Terroristisch en Kinderpornografisch Materiaal (ATKM) en een goede wettelijke basis hiervoor. Zij hebben behoefte aan het stellen van enkele vragen.
De leden van de ChristenUnie-fractie vinden het belangrijk dat voorliggende wet er snel komt en zijn benieuwd wanneer de regering verwacht dat de ATKM volledig operationeel zal zijn. Voorts zijn deze leden benieuwd of de regering het voorstelbaar acht dat op termijn ook ander materiaal onder het bereik van de ATKM kan vallen. Zij denken hierbij bijvoorbeeld aan wraakporno.
De leden van de BBB-fractie hebben kennisgenomen van alle documenten en brieven omtrent het wetsvoorstel. Hier zijn nog een aantal vragen over.
Ik ben blij met de steun die diverse fracties uitspreken voor dit wetsvoorstel. In de Uitvoeringswet TOI-verordening is de wettelijke basis gelegd voor de Autoriteit Online Terroristisch en Kinderpornografisch Materiaal (ATKM) en zijn bevoegdheden geregeld ten aanzien van terroristische online-inhoud. De Uitvoeringswet TOI-verordening is inmiddels in werking getreden en de ATKM is voor wat betreft terroristische online-inhoud sinds 1 september 2023 operationeel. Zodra het onderhavige wetsvoorstel in werking is getreden, kan de ATKM ook ten aanzien van materiaal van seksueel kindermisbruik aan de slag.
De leden van de ChristenUnie-fractie zijn benieuwd of de regering het voorstelbaar acht dat op termijn ook ander materiaal onder het bereik van de ATKM kan vallen, zoals wraakporno. In reactie hierop het volgende. De regering acht het niet opportuun om het mandaat van de ATKM te verbreden naar andere typen content. In het geval van wraakporno zou de ATKM bijvoorbeeld wel kunnen optreden indien het gaat om beeldmateriaal van minderjarigen dat geclassificeerd kan worden als kinderpornografisch materiaal.
De leden van de VVD-fractie lezen dat uit een steekproef van de monitor van de Technische Universiteit Delft blijkt dat in 2022 slechts 40% van al het beeldmateriaal van online seksueel kindermisbruik binnen 24 uur werd verwijderd. In 2021 werd 87% binnen 24 uur verwijderd. Kan de regering nader ingaan waarom in 2022 slechts 40% binnen 24 uur werd verwijderd? Ook vragen deze leden, in het verlengde van enkele uitgebrachte adviezen bij het wetsvoorstel, wat de oorzaak is dat hostingbedrijven beeldmateriaal van online seksueel kindermisbruik online laten staan en niet binnen 24 uur de beelden verwijderen. Kan een overzicht worden gegeven van deze oorzaken? Waarom zijn sommige hostingbedrijven kennelijk wel in staat om beelden binnen 24 uur te verwijderen en andere niet? Ook vragen zij of de hostingbedrijven die wel binnen 24 uur beelden verwijderen, ernaar streven om nog veel sneller, bijvoorbeeld binnen één uur, de beelden te verwijderen. Deelt de regering de mening dat alle aanbieders hiernaar zouden moeten streven?
De leden van de D66-fractie lezen in de memorie van toelichting dat in 2022, 60% van het online kinderpornografisch materiaal niet binnen 24 uur verwijderd werd. Uit de memorie wordt niet duidelijk in hoeverre dit tekortkomen te verklaren is door onwil, onkunde of technische belemmeringen. Die verklaring is wel van belang voor de inschatting van de effectiviteit van dit wetsvoorstel. Heeft de regering een verklaring voor dit (zorgelijk) hoge percentage? En wat betekent dat voor de effectiviteit van het wetsvoorstel?
Uit de TU Delft Monitor blijkt dat er in 2022 een verschuiving heeft plaatsgevonden binnen de aanbieders van hostingdiensten in Nederland. Een aantal aanbieders van hostingdiensten, dat in voorgaande jaren de TU Delft Monitor domineerde, heeft actief opgetreden tegen de verspreiding van online kinderpornografisch materiaal en is daardoor voor een groot deel uit beeld verdwenen, omdat bij deze aanbieders nauwelijks nog kinderpornografisch materiaal wordt aangetroffen. In plaats daarvan zijn er in de TU Delft Monitor aanbieders van hostingdiensten bij gekomen die eerder nog niet in beeld waren. Deze aanbieders van hostingdiensten zijn niet aangesloten bij de Gedragscode Notice and Takedown, hebben mogelijk minder ervaring met het verwijderen van online kinderpornografisch materiaal en hebben tevens (nog) geen druk vanuit de overheid gevoeld.
Een mogelijke oorzaak van het niet binnen 24 uur verwijderen van online kinderpornografisch materiaal is het niet actief optreden van aanbieders van hostingdiensten tegen klanten die onvoldoende of niet meewerken. Een andere mogelijke oorzaak is dat de aanbieders van hostingdiensten die nieuw in beeld zijn gekomen nog onvoldoende kennis en/of ervaring hebben met het verwijderen van online kinderpornografisch materiaal. Tevens zijn er aanbieders van hostingdiensten die (bewust) niet responsief zijn waardoor het lastig is te achterhalen wat de oorzaak is van het niet (tijdig) verwijderen van online kinderpornografisch materiaal.
Het is mij niet bekend in hoeverre aanbieders van hostingdiensten streven naar het sneller verwijderen van het beeldmateriaal. Uiteraard ben ik van mening dat dit beeldmateriaal zo snel mogelijk dient te worden verwijderd. Het wetsvoorstel zal daaraan een belangrijke bijdrage kunnen leveren.
De leden van de CDA-fractie weten dat Nederland in de top 2 staat van landen waar kinderpornografisch materiaal op servers wordt opgeslagen. Deze leden zijn van mening dat dit zeer huiveringwekkend is en dat dit niet onbestraft op grote schaal moet kunnen doorgaan. Zij vragen aan de regering welke maatregelen genomen kunnen worden om Nederland zo snel mogelijk een land te laten worden om voor te vrezen door producenten van online kinderpornografisch materiaal om dit materiaal hier te maken, hosten en verspreiden.
Het kabinet onderstreept het belang dat de leden van de CDA-fractie aanhalen om Nederlandse servers onaantrekkelijker te maken voor de opslag en verspreiding van online materiaal van seksueel kindermisbruik. Hiervoor worden verschillende trajecten bewandeld. Ten eerste wordt het met dit wetsvoorstel voor de ATKM mogelijk om bestuursrechtelijk op te treden tegen aanbieders van hosting- en communicatiediensten die online kinderpornografisch materiaal verspreiden. Daarnaast wordt er algemeen ingezet op maatregelen om te voorkomen dat hostingproviders criminaliteit faciliteren. Hiervoor bestaat bijvoorbeeld de Gedragscode Abusebestrijding. Het Ministerie van Justitie en Veiligheid ondersteunt het project Cleannetworks.net, dat tot doel heeft hostingproviders actiever over (mogelijk) misbruik te informeren en een keurmerk te ontwikkelen. Tenslotte zijn ook de politie en het OM actief, zowel door het informeren van providers als door het strafrechtelijk aanpakken van providers die moedwillig criminaliteit faciliteren.
De leden van de SP-fractie zijn verbaasd om te lezen dat de resultaten betreffende het binnen 24 uur verwijderen van het kinderpornografisch materiaal in 2022 veel slechter zijn dan in 2021. Waarom is het providers veel minder goed gelukt dit materiaal snel te verwijderen? Waarom acht de regering het niet uitvoerbaar om het materiaal binnen een uur te laten verwijderen? Dit aangezien dit bij de Verordening ter voorkoming van de verspreiding van terroristische online-inhoud (TOI-verordening) wel als uitvoerbaar werd gezien. Waarom wordt de termijn van ten hoogste 24 uur niet opgenomen in de wetgeving?
Voor het antwoord op de vraag waarom het providers in 2022 minder goed is gelukt om materiaal tijdig te verwijderen, wordt verwezen naar de beantwoording direct onder punt 2.1.
Voor wat betreft de vraag naar de termijn waarbinnen materiaal moet worden verwijderd, kan worden aangegeven dat in de Gedragscode Notice and Takedown in het kader van de zelfregulering een termijn van (maximaal) 24 uur voor het verwijderen van online kinderpornografisch materiaal haalbaar wordt geacht. Bij een aanwijzing op grond van dit wetsvoorstel is het aan de ATKM om in het concrete geval te beoordelen welke termijn passend wordt geacht. Het is bijvoorbeeld denkbaar dat voor een betrekkelijk korte termijn wordt gekozen indien reeds door Offlimits (voorheen het Expertisebureau Online Kindermisbruik/EOKM) voor het betreffende materiaal een verwijderverzoek is gedaan.
Omdat het doel van het verspreiden van terroristische online-inhoud is om zo snel mogelijk zoveel mensen te bereiken en te beïnvloeden is het bij dat type content van groot belang de verspreiding zo snel mogelijk te stoppen. Daarom is in de TOI-verordening gekozen voor een verwijderingstermijn van 1 uur. Dat doel is bij de verspreiding van online kinderpornografisch materiaal doorgaans anders waardoor de verspreiding van dat type materiaal ook minder snel verloopt. Daar komt bij dat het verwijderen binnen 1 uur na de ontvangst van een aanwijzing voor bedrijven lastig uit te voeren is. Niettemin in het ook bij de verspreiding van online kinderpornografisch materiaal van groot belang om snel op te treden. Daarom is ervoor gekozen de ATKM in het concrete geval een afweging te laten maken over de vraag welke termijn passend is om materiaal te verwijderen.
De leden van de SP-fractie hebben zorgen over het kennelijkheidsvereiste dat wordt toegevoegd in het bestuursrecht. Daarmee ontstaat voor deze leden de indruk dat instanties onomstotelijk moeten bewijzen dat de persoon op de afbeelding minderjarig is. Dat is strenger dan de huidige aanpak in het strafrecht, terwijl dit normaalgesproken en logischerwijs andersom is. Daar komt bij dat dit een vorm van een «escape» geeft voor de bad hosters om telkens bewijs van minderjarigheid te vragen. Dit kan voor grote problemen zorgen bij de ATKM. Deelt de regering deze analyse? Waarom wordt gekozen voor een strengere aanpak dan bij het strafrecht en is dit wenselijk? Ziet de regering ook hoe dit in het voordeel gebruikt kan worden voor de bad hosters om met zaken weg te komen?
Kinderpornografisch materiaal is in het onderhavige wetsvoorstel gedefinieerd als afbeeldingen als bedoeld in artikel 240b van het Wetboek van Strafrecht. Artikel 240b van het Wetboek van Strafrecht spreekt daarbij van een seksuele gedraging waarbij iemand die «kennelijk» de leeftijd van achttien jaar nog niet heeft bereikt, is betrokken of schijnbaar is betrokken. In het woord kennelijk is tot uitdrukking gebracht dat de echte leeftijd niet behoeft te worden bewezen. Het gaat om een verantwoorde schatting, op grond van kenmerken die in het algemeen in de beoordeling kunnen en plegen te worden betrokken bij de schatting van de leeftijd van een bepaalde persoon, waarbij onder meer gedacht kan worden aan de lengte en de lichamelijke ontwikkeling. Door de verwijzing naar artikel 240b Wetboek van Strafrecht moet ook op grond van dit wetsvoorstel bij de beoordeling van de vraag of sprake is van kinderpornografisch materiaal sprake zijn van een persoon die «kennelijk» de leeftijd van achttien jaar nog niet heeft bereikt.
Op grond van het wetsvoorstel was het voor de ATKM mogelijk een aanwijzing te geven indien zou blijken dat «kennelijk» sprake was van online kinderpornografisch materiaal. Daarmee was feitelijk sprake van een dubbel kennelijkheidsvereiste. De vraag van de leden van de SP- is voor het kabinet aanleiding geweest om dit vereiste bij nota van wijziging te schrappen uit artikel 6, vierde lid, van het wetsvoorstel.
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie lezen dat in 87% van de gevallen door de branche zelf naar aanleiding van een melding bij het Expertisebureau Online Kindermisbruik (EOKM) kinderpornografisch materiaal snel offline wordt gehaald. In 13% van de gevallen werd geen of onvoldoende opvolging gegeven aan een melding en bleef het materiaal meer dan 24 uur zichtbaar. De in het voorliggend wetsvoorstel voorgestelde bestuursrechtelijke maatregel is volgens de regering nodig om alle betrokken bedrijven aan te zetten om adequaat op te treden. Deze leden vragen waarom niet alle bedrijven nu al dit type materiaal op zo kort mogelijke termijn ontoegankelijk maken en waarom – naast de zelfregulering en strafrechtelijke aanpak – de bestuursrechtelijke maatregel daar wel toe zal gaan leiden. Indien er technische of organisatorische redenen ten grondslag liggen aan het feit dat niet al het materiaal snel genoeg offline wordt gehaald, hoe zal de bestuursrechtelijke maatregel hier verbetering in brengen? Zorgt de bestuursrechtelijke aanpak er wel voor dat bedrijven die anders onwillig blijven om mee te werken, worden aangezet tot medewerking? Zo ja, waar kan dat uit worden afgeleid?
Op dit moment zijn veel bedrijven welwillend om bij een melding het online materiaal van seksueel kindermisbruik ontoegankelijk te maken of te verwijderen. Met een breed pakket aan maatregelen, waaronder voorliggende wettelijke maatregel, wil het kabinet het internet beter en sneller schonen van kinderpornografisch materiaal. Dit wetsvoorstel is noodzakelijk als sluitstuk van de zelfregulering. In 13% van de gevallen werd geen of onvoldoende opvolging gegeven aan een melding van Offlimits en blijft het kinderpornografisch materiaal langer dan 24 uur zichtbaar. De voorliggende bestuursrechtelijke maatregel is daarom onmisbaar om alle betrokken bedrijven te bewegen dit type materiaal op zo kort mogelijke termijn ontoegankelijk te maken. Daar waar door aanbieders niet zelf wordt opgetreden kan de ATKM een aanwijzing uitvaardigen. Indien de aanwijzing niet wordt opgevolgd kan een bestuurlijke boete of een last onder dwangsom worden opgelegd. De hoogte van de boete kan – afhankelijk van de mate waarin wordt nagelaten opvolging te geven aan een aanwijzing – oplopen tot ten hoogste het bedrag dat is vastgesteld voor de zesde categorie, genoemd in artikel 23, vierde lid, Wetboek van Strafrecht (€ 900.000,–) of, indien die boetecategorie geen passende bestraffing toelaat, ten hoogste 4% van de omzet van de onderneming. Er is voor bedrijven daarmee ook een financiële prikkel ingebouwd om de verspreiding van online kinderpornografisch materiaal tegen te gaan en zich te houden aan de aanwijzingen die door de ATKM worden opgelegd.
De leden van de ChristenUnie-fractie vragen wat de actuele cijfers zijn van de hoeveelheid kinderpornografisch materiaal dat in Nederland gehost wordt en of er rapportages zijn die hier periodiek over rapporteren. Ook vragen deze leden wat de verhouding is ten opzichte van de wereldwijde hoeveelheid kinderpornografisch materiaal en hoe de Nederlandse resultaten op het gebied van bestrijding zich verhouden tot andere landen.
Onder andere in de jaarverslagen van Offlimits en InHope wordt jaarlijks gerapporteerd over de hoeveelheid kinderpornografisch materiaal dat in Nederland wordt gehost. InHope is een internationaal netwerk van meldpunten met leden uit o.a. de Europese Unie, Australië, Verenigde Staten en Thailand. Offlimits is namens Nederland ook onderdeel van dit bredere netwerk. In 2022 heeft Offlimits 88.596 meldingen verwerkt van online kinderpornografisch materiaal waarvan 56.639 (63%) in Nederland werd gehost en 31.540 in het buitenland.
Binnen het netwerk van InHope zijn er in 2022 totaal 402.601 meldingen verwerkt van kinderpornografisch materiaal, zo blijkt uit het jaarverslag. Hiervan werd 146.973 (36%) in Nederland gehost. Binnen Europa werd 52% van al het online kinderpornografisch materiaal in Nederland gehost. De Verenigde Staten hebben de meeste meldingen: in 2022 bijna 32 miljoen. In de VS zijn de meeste techbedrijven gevestigd en deze zijn verplicht verdacht materiaal te melden aan het Amerikaanse meldpunt.
De leden van de ChristenUnie-fractie vragen hoe het kan dat in 2022 60% van het kinderpornografisch materiaal niet binnen 24 uur ontoegankelijk gemaakt is. Deze leden vragen tevens of de regering van mening is dat deze wet ertoe zal leiden dat dit percentage aanzienlijk zal dalen en vragen op welke manier ervoor gezorgd kan worden dat meer materiaal binnen 24 uur ontoegankelijk gemaakt wordt. Zij vragen welke maatregelen de regering verder overweegt die kunnen leiden tot het reduceren van dit percentage.
Voor een antwoord op de vraag hoe het kan dat in 2022 60% van het kinderpornografisch materiaal niet binnen 24 uur ontoegankelijk is gemaakt, wordt verwezen naar de reactie direct onder punt 2.1. Op grond van dit wetsvoorstel wordt het mogelijk om de ontoegankelijkmaking van online kinderpornografisch materiaal te bevorderen en zo nodig bestuursrechtelijk te handhaven. De voorliggende bestuursrechtelijke maatregel is onmisbaar om alle betrokken bedrijven te bewegen dit type materiaal op zo kort mogelijke termijn ontoegankelijk te maken. De verwachting is dat daarmee ook het percentage van materiaal dat in Nederland wordt gehost, zal dalen. Dit wetsvoorstel is derhalve noodzakelijk als sluitstuk van de zelfregulering.
Andere maatregelen die het kabinet neemt om het percentage te verlagen zien op preventie gericht op daders: zo is er een barrièremodel ontwikkeld waarin middels online barrières beoogd wordt te voorkomen dat downloaders van seksueel beeldmateriaal in aanraking komen met online beeldmateriaal van seksueel kindermisbruik. Deze barrières zien bijvoorbeeld op het blokkeren van bepaalde zoektermen en het plaatsen van waarschuwingsberichten op pornowebsites.
Daarnaast zet het kabinet in op het vergroten van de transparantie in de hosting- en servermarkt in Nederland. Een eerste richting betreft het ondersteunen van de sector met informatie over criminele handelingen. De Stichting Nationale Beheersorganisatie Internet Providers werkt samen met het Ministerie van Justitie en Veiligheid aan het project Cleannetworks. Dit project beoogt het opzetten van een systeem om hostingproviders structureel te informeren over actuele criminele handelingen en kwetsbaarheden. Hierdoor kunnen zij deze activiteiten op hun eigen netwerken tegengaan en zich beveiligen tegen dreigingen.
De leden van de VVD-fractie menen dat wanneer overheidsorganisaties zaken doen met bedrijven die (herhaaldelijk) weigeren adequate maatregelen te treffen om online kinderpornografisch materiaal tegen te gaan, de integriteit van de overheid in het geding is. Overheidsorganisaties dragen een bijzondere verantwoordelijkheid om geen zaken te doen met bedrijven die bestuurlijke boetes opgelegd hebben gekregen op basis van onderhavige wet. Deelt de regering deze mening?
Ja de regering deelt deze mening. Om hier inzage in te krijgen, kan Bureau Bibob op grond van artikel 27, eerste lid, onderdeel q, van de Wet Bibob de ATKM raadplegen om te achterhalen of een bedrijf een bestuurlijke boete voor kinderpornografisch materiaal opgelegd heeft gekregen. Daarnaast benut de Rijksoverheid de gedragscode abusebestrijding bij de Rijksbrede inkoop van clouddiensten.4 Het (niet) opslaan en verspreiden van online materiaal van seksueel kindermisbruik valt ook onder het bereik van deze gedragscode.
De leden van de VVD-fractie wijzen erop dat om de integriteit van overheidsorganisaties beter te waarborgen, er met het aangenomen amendement-Michon-Derkzen is bewerkstelligd dat een overtreding waarvoor een bestuurlijke boete kan worden opgelegd door de ATKM, voor de toepassing van de Wet bevordering integriteitsbeoordelingen door het openbaar bestuur (Wet Bibob) onder het begrip «strafbaar feit» valt.5 Hierdoor kan Bureau Bibob advies uitbrengen op grond waarvan bestuursorganen kunnen beslissen niet langer samen te werken met hostingaanbieders die een bestuurlijke boete opgelegd hebben gekregen. Klopt het dat Bureau Bibob dankzij het amendement straks ook advies kan uitbrengen over alle overtredingen die de ATKM kan constateren? Deze leden stellen dat de ATKM het mogelijk in een vroeg stadium wenselijk kan vinden Bureau Bibob om advies te vragen, bijvoorbeeld bij het onderzoek of een hostingbedrijf voldoende adequate maatregelen heeft getroffen om kinderpornografisch materiaal tegen te gaan. In welk stadium kan Bureau Bibob om advies worden gevraagd?
Met het amendement Michon-Derkzen bij de Uitvoeringswet TOI-verordening is mogelijk gemaakt dat de ATKM op verzoek informatie kan verstrekken aan het Bureau Bibob ter uitvoering van de taak die Bureau Bibob op grond van artikel 9 van de Wet bevordering integriteitsbeoordelingen door het openbaar bestuur (Wet Bibob) heeft (zie artikel 27, eerste lid onder q, Wet Bibob). Hierdoor kan Bureau Bibob bij het uitbrengen van advies aan bestuursorganen ook de informatie van de ATKM betrekken. Na inwerkingtreding van het wetsvoorstel voor een bestuursrechtelijke aanpak van online kinderpornografisch materiaal kan de ATKM ook informatie ten aanzien van online kinderpornografisch materiaal met Bureau Bibob delen. De desbetreffende bepaling in de Wet Bibob strekt er niet toe de ATKM in de gelegenheid te stellen advies te vragen aan Bureau Bibob. Dit ligt overigens ook niet voor de hand, nu de ATKM een toezichthouder is die geen vergunningen, subsidies of ontheffingen verstrekt en deze informatie daarom ook niet nodig heeft.
De leden van de VVD-fractie vragen hoeveel meldingen Offlimits (voorheen: EOKM) tot nu toe in 2023 heeft gekregen en hoeveel meldingen van online kinderpornografisch materiaal er dit jaar al zijn binnengekomen bij de politie. Ook vragen deze leden waarom de naam van het EOKM onlangs is gewijzigd, in hoeverre het nieuwe Offlimits ander beleid voert dan het toenmalige EOKM en waarom het niet mogelijk is gebleken de memorie van toelichting hierop aan te passen.
Offlimits is er voor de ondersteuning van mensen die te maken hebben (gehad) met online grensoverschrijdend gedrag en misbruik, in het bijzonder seksueel (kinder-)misbruik en uitbuiting. Offlimits werkt met de initiatieven Meldpunt Kinderporno, Helpwanted en Stop it Now aan een schoner internet.
Offlimits is voortgekomen uit het EOKM dat op zijn beurt weer is ontstaan uit het Meldpunt Kinderporno. Inmiddels richt Offlimits zich op alle leeftijdsgroepen en is het werk niet meer beperkt tot alleen online seksueel (kinder)misbruik, maar bijvoorbeeld ook op online stalking of doxing. Daarom is in 2023 een nieuwe naam gekozen: Offlimits. Offlimits is een private stichting die haar eigen beleid bepaalt. Wel is het zo dat voor een deel van haar taken op het gebied van online seksueel kindermisbruik zij financiering van het Ministerie van Justitie en Veiligheid krijgt, waaronder voor het in stand houden van het Meldpunt Kinderporno. De naamswijziging is bekend gemaakt op hetzelfde moment dat dit wetsvoorstel aan uw Kamer werd toegezonden. De memorie van toelichting kon daar destijds niet nog niet van uitgaan.
Offlimits heeft tot dusver in 2023 ruim 103.000 meldingen ontvangen van online kinderpornografisch materiaal en de politie heeft tot dusver in 2023 ruim 39.400 meldingen van online kinderpornografisch materiaal ontvangen.
De leden van de VVD-fractie vragen of de regering naast het onderhavige wetsvoorstel ook oog heeft voor de toename van het verspreiden van beelden van kinderen die worden geseksualiseerd. Pedoseksuelen zoeken steeds vaker op sociale mediaplatforms naar (op zichzelf onschuldige) beelden van kinderen die ze vervolgens bewerken en daarmee seksualiseren en daarna verspreiden. Is de regering bereid in overleg met de ATKM en Offlimits extra maatregelen te treffen om dit tegen te gaan? Deze leden wijzen bij deze vraag op de onlangs uitgebrachte podcast Het Misdaadbureau.6 Deelt de regering de mening van hen dat het onaanvaardbaar is dat ouders vaak lang moeten wachten tot een social media platform deze beelden van kinderen offline haalt en dat het bewerken en verspreiden van foto’s van andermans kinderen zonder instemming van ouders altijd strafrechtelijk vervolgd dient te worden? Kan de regering een schatting maken hoeveel daders hier in 2022 en 2023 voor zijn vervolgd en veroordeeld? Deze leden vragen of de regering bereid is in overleg met de politie, het Openbaar Ministerie (OM), de ATKM en de aanbieders van communicatiediensten een periodieke bewustwordingscampagne op te zetten om ouders en verzorgers erop te wijzen dat beelden van kinderen zo goed mogelijk dienen te worden afgeschermd.
Het kabinet heeft zeker oog voor het offline en online beschermen van minderjarigen. Daar waar geseksualiseerde afbeeldingen van minderjarigen vallen onder de definitie van artikel 240b Wetboek van Strafrecht kan er in de toekomst door de ATKM op worden geacteerd. Dat laat onverlet dat een melding bij Offlimits een snellere weg naar verwijdering van het materiaal kan betekenen. Zeker in de gevallen die buiten het mandaat van de ATKM zullen vallen, zoals bij bijvoorbeeld privacy schendingen, kan een verwijderverzoek via een meldpunt uitkomst bieden. Het kabinet is daarnaast te allen tijde bereid om in overleg te treden met politie, OM en de internetsector over de aanpak van illegale en ongewenste content. Hiervoor bestaat reeds een publiek-privaat samenwerkingsverband.
De leden van de VVD-fractie wijzen op het vonnis van de Rechtbank Amsterdam in een zaak die het EOKM (thans: Offlimits) heeft aangespannen tegen een bedrijf dat pornowebsites exploiteert.7 De rechter oordeelde dat de aanbieder van websites niet langer heimelijk gefilmde beelden online mag zetten in Nederland, tenzij kan worden aangetoond dat alle personen die in beeld zijn toestemming hebben verleend voor openbaarmaking van het beeldmateriaal. Kan de regering de Kamer informeren over de voortgang van deze zaak? Mocht deze uitspraak in hoger beroep stand houden, wat is daarvan de consequentie voor het beleid van de ATKM? Heeft de ATKM op dat moment voldoende wettelijke bevoegdheden om deze aanbieders op de geldende jurisprudentie te wijzen en, waar opportuun, ook een last onder dwangsom of een bestuurlijke boete op te leggen wanneer deze aanbieders deze beelden na een verzoek van de ATKM of Offlimits niet offline halen? Indien de regering het standpunt van de ATKM en de rechter in deze zaak deelt: is overwogen om een duidelijkere wettelijke grondslag op te nemen om bestaande en toekomstige wettelijke interpretatiegeschillen over de reikwijdte van de bevoegdheden van de ATKM en de verantwoordelijkheden van aanbieders te voorkomen?
Het betreffende bedrijf, Hammy media Ltd., heeft reeds bevestigd in beroep te gaan tegen het vonnis van de Rechtbank Amsterdam. Omdat deze uitspraak betrekking heeft op beeldmateriaal van meerderjarigen, heeft dit geen directe consequenties voor het beleid van de ATKM. Offlimits blijft zich niettemin inzetten voor het tegengaan van online misbruik voor zowel meerderjarigen als minderjarigen. Meerderjarige slachtoffers kunnen zich te allen tijde blijven melden bij Offlimits als bijvoorbeeld naaktbeelden worden gepubliceerd die de rechten en privacy van die slachtoffers schaden.
Wanneer het beeldmateriaal van minderjarigen betreft, biedt dit wetsvoorstel de ATKM de bevoegdheid tot het opleggen van een aanwijzing. Indien de aanwijzing niet tijdelijk wordt opgevolgd kunnen een last onder dwangsom en een bestuurlijke boete worden opgelegd.
De leden van de CDA-fractie lezen dat dit wetsvoorstel een verplichting introduceert voor aanbieders van hostingdiensten om passende en evenredige maatregelen te nemen om de opslag en doorgifte van online kinderpornografisch materiaal te beperken. Deze maatregelen behelzen geen verplichting voor deze aanbieders om actief toe te zien op de inhoud van gegevens die via hun diensten worden verspreid. Deze leden vragen aan de regering waarom niet voor een dergelijke verplichting is gekozen. Zij vragen ook of de aanbieders van hostingdiensten op dit moment goed genoeg kunnen inzien of kinderpornografisch materiaal wordt verspreid via hun diensten, om hier vervolgens snel op te kunnen acteren.
In artikel 7 was de bevoegdheid voor de ATKM opgenomen om een aanbieder van hostingdiensten op te dragen passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch materiaal middels zijn dienst te beperken. Zoals in de inleiding is vermeld, is artikel 7 uit het wetsvoorstel geschrapt omdat de DSA voorziet in maximumharmonisatie. Dat er niet voor is gekozen om een verplichting op te nemen voor aanbieders om in het algemeen actief toe te zien op de inhoud van gegevens die via hun diensten worden verspreid, is gelegen in het feit dat artikel 8 van de DSA bepaalt dat aanbieders van hostingdiensten geen algemene verplichting mag worden opgelegd om toe te zien op de verspreide informatie of om actief te zoeken naar feiten of omstandigheden die op onrechtmatige of strafbare activiteiten duiden. Dergelijke verplichtingen kennen het risico dat bedrijven uit voorzorg meer inhoud gaan verwijderen of weigeren om aansprakelijkheidsrisico’s te minimaliseren, wat schadelijk is voor de vrijheid van meningsuiting. Het staat aanbieders van tussenhandeldiensten op grond van artikel 7 DSA overigens wel vrij om op eigen initiatief onderzoek uit te voeren of andere maatregelen te nemen die gericht zijn op het opsporen, identificeren en verwijderen van, of het uitschakelen van de toegang tot illegale inhoud. Dit is belangrijk omdat het aanbieders van tussenhandelsdiensten de rechtszekerheid en daarmee het vertrouwen geeft dat het nemen van dit soort vrijwillige maatregelen niet leidt tot een grotere kans om aansprakelijk te worden gehouden voor het handelen van hun klanten, dan wanneer ze zich zo passief en terughoudend als mogelijk opstellen. Die zekerheid werd niet geboden door de richtlijn elektronische handel, waardoor er een perverse prikkel was om zo weinig mogelijk invloed uit te oefenen op de inhoud die men doorgaf of hostte.
Aanbieders van hostingdiensten die onder het bereik van dit voorstel vallen, hebben meerdere mogelijkheden om na te gaan of er online kinderpornografisch materiaal wordt verspreid via hun diensten en daartegen op te treden. In de eerste plaats biedt de DSA verschillende mogelijkheden voor de bestrijding van dit soort inhoud. Zoals hierboven toegelicht, faciliteert de DSA nadrukkelijk het nemen van vrijwillige maatregelen tegen illegale inhoud. In dit kader kunnen hostingdiensten bijvoorbeeld gebruik maken van de Instant Image Identifier (voorheen de Hashcheckserver). Dit betreft een database met (thans) ongeveer 1,4 miljoen unieke hashcodes (digitale vingerafdrukken) van eerder gedetecteerd online kinderpornografisch materiaal. Deze hashcodes zijn door de politie beschikbaar gesteld. Daarnaast zijn er inmiddels ruim 60.000 hashcodes opgenomen van Interpol en 1,5 miljoen codes van het Amerikaanse National Center for Missing & Exploited Children (bekend als NCMEC). Naast vrijwillige maatregelen, voorziet de DSA in een reeks (onvrijwillige) zorgvuldigheidsverplichtingen die er (mede) op gericht zijn om illegale online-inhoud aan te pakken. Zo zijn hostingdiensten straks op grond van de DSA verplicht om te voorzien in een kennisgevings- en actiemechanisme zodat personen en entiteiten melding kunnen maken van illegale inhoud bij de aanbieder. Vermoedens van ernstige strafbare feiten waarbij het leven of de veiligheid in het geding is, moeten door hostingdiensten worden gemeld. Daarnaast valt te wijzen op de bepalingen inzake betrouwbare flaggers en misbruik.
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie lezen dat dit wetsvoorstel ervoor moet gaan zorgen dat aanbieders van hostingdiensten passende en evenredige maatregelen gaan nemen om de opslag en doorgifte van online kinderpornografisch materiaal te beperken. Omdat deze leden het uiterst belangrijk vinden dat er effectieve maatregelen worden genomen om de opslag en doorgifte van online kinderpornografisch materiaal te beperken, hebben zij vragen ten aanzien van de waarborgen die daarbij horen. Kan de regering aangeven hoe de in dit wetsvoorstel geïntroduceerde bevoegdheden concreet zullen worden toegepast en welke gevolgen dergelijke vorderingen voor onschuldige gebruikers van dezelfde dienstverleners kunnen hebben? Voorziet het wetsvoorstel er op enige wijze in dat de encryptie van verdacht materiaal kan worden doorbroken en bestaat daar ook het risico dat de encryptie van onverdacht materiaal wordt opgeheven en dus de deur wordt opengezet naar het systematisch ongericht doorzoeken van content van onverdachte burgers en bedrijven? Zo ja, op welke wijze? Zo nee, waarom niet? En hoe zorgt de regering ervoor dat deze maatregelen altijd effectief zijn en vooral gericht op specifieke verdachten?
In artikel 7 was de bevoegdheid voor de ATKM opgenomen om een aanbieder van hostingdiensten op te dragen passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch materiaal middels zijn dienst te beperken. Zoals in de inleiding is vermeld is artikel 7 uit het wetsvoorstel geschrapt. Zie hiervoor ook het antwoord op de vorige vraag. Gelet hierop lijkt beantwoording van de vraag hoe de zorgplicht concreet zal worden toegepast en wat daarvan de gevolgen zullen zijn voor gebruikers niet zinvol meer.
Het onderhavige wetsvoorstel ziet niet op interpersoonlijke communicatiediensten en andere diensten die gebruik maken van encryptie. Ook ziet het niet op besloten groepen binnen platforms en op andere niet-openbare delen van het internet. Daarom voorziet dit wetsvoorstel ook niet in enige bevoegdheid van de ATKM voor het doorbreken van encryptie. De ATKM zal enkel onderzoek doen naar en handhaven op materiaal dat zich bevindt op het openbare deel van het internet. Daartoe kan de ATKM een aanwijzing geven aan een aanbieder om online kinderpornografisch materiaal ontoegankelijk te maken. Er zal altijd eerst een beoordeling door de ATKM van een melding worden gedaan voordat tot handhaving wordt overgegaan. Tegen een aanwijzing en ook tegen het besluit tot het opleggen van een bestuurlijke boete of last onder dwangsom staat beroep bij de bestuursrechtrechter open. Daarmee is voorzien in effectieve rechtsbescherming.
Onschuldige gebruikers van diensten van internettussenpersonen zullen in principe geen gevolgen ondervinden van de aanwijzingen van de ATKM. De ATKM zal op basis van meldingen werken; het is geen handhaver die voorziet in algemene monitoring van het internet. De meldingen die binnen komen zullen vervolgens ook nog worden beoordeeld door de ATKM. Pas als is vastgesteld dat het gaat om beeldmateriaal van seksueel kindermisbruik kan worden overgegaan tot een aanwijzing. De aanwijzingen zullen gericht zijn tegen de aanbieders; niet de gebruikers van hun diensten. De effectiviteit van de maatregelen zal blijvend worden gemonitord. Het voorgaande laat overigens onverlet dat de gebruiker of de plaatser van materiaal van online seksueel kindermisbruik wel strafrechtelijk kan worden vervolgd.
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie vragen of de regering het mogelijk en wenselijk acht dat aanbieders die bij herhaling kinderpornografisch materiaal blijven doorgeven en daarvoor via de strafrechtelijke of bestuursrechtelijke weg zijn aangepakt, wel met judiciële goedkeuring een gerichte verplichting tot actief toezicht opgelegd kunnen krijgen en of dat gesanctioneerd kan worden. Zo ja, op welke wijze? Zo nee, waarom niet? En kan een aanbieder die bij herhaling via de bestuursrechtelijke maatregel gecorrigeerd moet worden en daarna toch steeds opnieuw in de fout gaat met betrekking tot het opslaan en doorgeven van online kinderpornografisch materiaal, alsnog via het strafrecht worden aangepakt? Wanneer ontstaat er voor een aanbieder van een hostingdienst, die weliswaar geen directe betrokkenheid heeft bij het materiaal dat voor derden wordt opgeslagen en doorgegeven, toch een strafrechtelijke aansprakelijkheid? Is dat alleen pas als die aanbieder kennis krijgt van kinderpornografisch materiaal en niet adequaat daartegen optreedt, of acht de regering het mogelijk dat onder omstandigheden de aanbieder ook een meer actieve verantwoordelijkheid moet krijgen?
Op grond van artikel 6 van de DSA zijn de aanbieders van hostingdiensten onder voorwaarden niet aansprakelijk voor de informatie van derden die zij doorgeven of opslaan. Wanneer een aanbieder van hostingdiensten daadwerkelijke kennis van de illegale activiteit of illegale inhoud krijgt, dan moet hij prompt handelen om die inhoud te verwijderen of ontoegankelijk te maken (artikel 6, eerste lid, onderdeel b, van de verordening). Doet hij dat, dan is hij niet aansprakelijk. Wanneer hij niet aan deze voorwaarden voldoet, moet de vraag of hij in dat geval aansprakelijk is worden beantwoord aan de hand van het toepasselijke Unierecht of het nationale recht.
Zoals in antwoord op de vraag van de leden van de CDA-fractie in deze paragraaf reeds vermeld, staat artikel 8 van de DSA eraan in de weg dat er een verplichting tot algemene monitoring aan aanbieders wordt opgelegd. Een verplichting tot het houden van actief en algemeen toezicht is om die reden niet mogelijk, ook niet met tussenkomst van een rechter. Tegelijkertijd heeft het Hof van Justitie van de EU bevestigd dat het verbod op algemeen toezicht zoals dat eerder al gold onder artikel 15 van de richtlijn elektronische handel niet geldt voor toezichtverplichtingen «in speciale gevallen», zoals ook bleek uit overweging 47 bij die richtlijn. Een dergelijk speciaal geval kan onder meer zijn oorsprong vinden in specifieke informatie die door een hostingprovider is opgeslagen op verzoek van een bepaalde gebruiker en waarvan de inhoud is onderzocht en beoordeeld door een bevoegde rechterlijke instantie, die deze informatie onwettig heeft verklaard. In zo’n situatie kan aan de hostingprovider een bevel worden opgelegd om opgeslagen informatie die inhoudelijk identiek is aan informatie die eerder onwettig is verklaard, te verwijderen om te voorkomen dat de betrokken belangen verder worden geschaad. Hetzelfde geldt voor informatie die inhoudelijk overeenstemt met eerder onwettig verklaarde informatie, op voorwaarde dat het toezicht op en het onderzoek van de informatie waarop een dergelijk bevel betrekking heeft, beperkt blijft tot de specifiek in het bevel genoemde gegevens, en dat de verschillen tussen de formulering van die overeenstemmende inhoud en de formulering van de eerder onwettig verklaarde inhoud niet van dien aard zijn dat de betrokken hostingprovider verplicht is die inhoud autonoom te beoordelen.8
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie vragen of de regering het mogelijk acht dat een aanbieder een meer actieve verantwoordelijkheid krijgt. Deze leden kan ik antwoorden dat het aansprakelijkheidsregime uit de DSA juist bijdraagt tot actief handelen, nu het aanzet tot het prompt handelen om de inhoud te verwijderen als de aanbieder daadwerkelijk kennis heeft van illegale activiteit of illegale inhoud. Daarnaast bevat de DSA tal van verplichtingen voor aanbieders van tussenhandeldiensten en aanvullende verplichtingen voor aanbieders van hostingdiensten. Die verplichtingen moeten bijdragen aan een betere bestrijding van illegale inhoud en leggen veel meer verantwoordelijkheid bij die aanbieders om op te treden tegen illegale inhoud. Op niet-naleving van die verplichtingen kan bovendien bestuursrechtelijk worden gehandhaafd door de toezichthouders op de DSA.
Artikel 5 van het wetsvoorstel voorziet in de verplichting voor de ATKM om over de uitoefening van haar taken en bevoegdheden overleg te voeren met de politie en het openbaar ministerie. In dat overleg kan ook aan de orde komen dat een aanbieder onvoldoende reageert op de door de ATKM uitgevaardigde bestuursrechtelijke maatregelen. Het is daarbij niet uitgesloten dat besloten wordt tot een aanpak via het strafrecht. Een beslissing daarover is evenwel voorbehouden aan het openbaar ministerie.
Strafrechtelijk kan een aanbieder aangepakt worden via een verwijderbevel op basis van artikel 125p Wetboek van Strafvordering (Sv). Dat betekent dat een officier van justitie, na voorafgaande schriftelijke machtiging door de rechter-commissaris, ter zake van strafbaar materiaal een strafrechtelijk verwijderingsbevel kan uitvaardigen. Langs die weg kan iedere aanbieder van een communicatiedienst worden bevolen om kinderpornografisch materiaal ontoegankelijk te maken. Indien dit verwijderbevel niet wordt opgevolgd dan kan de aanbieder van de communicatiedienst strafrechtelijk worden vervolgd, bijvoorbeeld wegens het niet opvolgen van een bevoegd gegeven ambtelijk bevel in de zin van artikel 184 Sr.
De leden van de BBB-fractie lezen dat voorliggend wetsvoorstel erop is gericht het Nederlandse internet te schonen van online kinderpornografisch materiaal. Deze wet moet het mogelijk maken om een in Nederland gevestigde dienstverlener die kinderporno opslaat of doorgeeft een bindende aanwijzing te geven. Naleving hiervan kan worden afgedwongen met een dwangsom of bestuurlijke boete. Deze leden juichen het van harte toe dat er iets gedaan wordt ter bestrijding van kinderporno, zij zijn echter van mening dat een dwangsom of bestuurlijke boete een te lage straf is bij het (herhaaldelijk) niets doen met aanwijzingen van kinderporno. Is de regering bereid te kijken naar hogere straffen bij het (herhaaldelijk) niet optreden bij aanwijzingen van kinderpornografisch materiaal?
De regering voorziet met dit wetsvoorstel in een extra mogelijkheid tot (bestuursrechtelijke) handhaving ten aanzien van de verspreiding van online kinderpornografisch materiaal. Aan de aanbieder van een communicatiedienst die nalaat opvolging te geven aan een aanwijzing kan een bestuurlijke boete worden opgelegd van ten hoogste het bedrag dat is vastgesteld voor de tweede categorie, bedoeld in artikel 23, vierde lid, Wetboek van Strafrecht. Dit komt neer op een maximaalbedrag van € 4.500,–. Gelet op artikel 5:46, tweede lid, Awb wordt de hoogte van de boete in elk concreet geval afgestemd op de ernst van de overtreding en de mate waarin deze aan de overtreder kan worden verweten. Zo wordt bijvoorbeeld rekening gehouden met de omstandigheden waaronder de overtreding is begaan, zoals het aantal keren dat een aanwijzing niet is opgevolgd en de mate van medewerking.
Als systematisch of aanhoudend wordt nagelaten opvolging te geven aan een aanwijzing, kan een hoger boetemaximum wordt gehanteerd. De hoogte van de boete kan in een dergelijk geval oplopen tot ten hoogste het bedrag dat is vastgesteld voor de zesde categorie, genoemd in artikel 23, vierde lid, Wetboek van Strafrecht. Dit komt neer op een maximumbedrag van € 900.000. In een mogelijkheid tot het opleggen van een hogere boete bij het herhaaldelijk niet opvolgen van een aanwijzing is dus reeds voorzien. Bovendien is geregeld dat indien deze boetecategorie geen passende bestraffing toelaat, de boete ten hoogste 4% van de jaaromzet van de onderneming kan betreffen.
Bovendien staat ook de strafrechtelijke weg open. Een aanbieder kan aangepakt worden via een verwijderingsbevel op basis van artikel 125p Sv. Dat betekent dat een officier van justitie, na voorafgaande schriftelijke machtiging door de rechter-commissaris, ter zake van strafbaar materiaal een strafrechtelijk verwijderingsbevel kan uitvaardigen. Langs die weg kan iedere aanbieder van een communicatiedienst worden bevolen om kinderpornografisch materiaal ontoegankelijk te maken. Indien dit verwijderingsbevel niet wordt opgevolgd dan kan de aanbieder van de communicatiedienst strafrechtelijk worden vervolgd, bijvoorbeeld wegens het niet opvolgen van een bevoegd gegeven ambtelijk bevel in de zin van artikel 184 Sr.
De leden van de CDA-fractie lezen dat tegen diegenen die kinderpornografisch materiaal produceren en verspreiden, vanzelfsprekend strafrechtelijk wordt opgetreden. Deze leden vragen in hoeverre de identiteit van die verspreiders op een snelle en effectieve manier achterhaald kan worden. Bemoeilijken anonieme accounts het strafrechtelijk opsporen en vervolgen van de producenten van online kinderpornografisch materiaal? Zo ja, op welke manier gaat de regering dit probleem oplossen?
Er zijn op dit moment diverse mogelijkheden om de identiteit van personen die strafbare feiten op internet plegen te herleiden. Zo kan bij strafbare feiten de identiteit van daders, ook online, via de strafrechtketen worden achterhaald. Wel dient dit bij buitenlandse providers plaats te vinden op basis van een rechtshulpverzoek, wat vaak een tijdrovende exercitie is. Nadat iemand geïdentificeerd is kan deze vervolgens strafrechtelijk vervolgd worden voor het verspreiden van kinderporno indien het slachtoffer minderjarig is. Het civiele recht bevat daarnaast mogelijkheden om identificerende gegevens van gebruikers op te vragen bij internettussenpersonen als aannemelijk is dat sprake is van onrechtmatig handelen, de verzoeker een reëel belang heeft bij verkrijging, er geen minder ingrijpende mogelijkheid voorhanden is om de gegevens te achterhalen en het belang van de verstrekking van de gegevens zwaarder weegt dan de andere ter zake doende belangen.9
De leden van de CDA-fractie lezen dat aanbieders van hostingdiensten geen aansprakelijkheid hebben zolang zij geen kennis hebben van de aanwezigheid van kinderpornografisch materiaal, maar zodra zij de kennis wel krijgen, moeten zij terstond handelen om de gegevens te verwijderen of de toegang onmogelijk te maken. Op welke manieren nemen deze aanbieders doorgaans kennis van de aanwezigheid van dergelijk materiaal? Verloopt dit met name via meldingen van gebruikers van de hosting- of communicatiediensten?
Doorgaans nemen aanbieders van hostingdiensten kennis van de aanwezigheid van kinderpornografisch materiaal op het moment dat zij een melding hiervan krijgen van hun gebruikers of op het moment dat zij hiervoor een verwijderverzoek ontvangen van Offlimits.
Indien aanbieders van hostingdiensten gebruik maken van de Instant Image Identifier worden ze eerder in kennis gesteld van de aanwezigheid van kinderpornografisch materiaal middels een melding die ze ontvangen op het moment dat een bestand wordt geüpload dat overeenkomt met een afbeelding uit de database Deze database bestaat uit (thans) ongeveer 1,4 miljoen unieke hashcodes (digitale vingerafdrukken) van eerder gedetecteerd online kinderpornografisch materiaal.
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie lezen dat de voorgestelde bestuursrechtelijke maatregel ter aanvulling dient op de bestaande strafrechtelijke aanpak. Daarbij begrijpen deze leden ook dat de regels van de Algemene wet bestuursrecht (Awb) gevolgd worden en dat daaruit volgt dat het instellen van een rechtsmiddel (bezwaar of beroep) tegen een besluit de werking van dat besluit niet schorst. Echter blijkt ook dat in het geval er een bestuurlijke boete wordt opgelegd wegens het nalaten opvolging te geven aan een aanwijzing, die boete openbaar wordt gemaakt ook al staan daar nog rechtsmiddelen tegen open. De regering is van mening dat niet met openbaarmaking behoeft te worden gewacht tot het besluit waarmee de bestuurlijke boete is opgelegd onherroepelijk is geworden. Voorgenoemde leden begrijpen dat met het openbaar maken van de boete de regering beoogt dat de aanbieder moet worden aangezet tot het alsnog navolgen van een aanwijzing en dat met het openbaar maken beoogd wordt dat de goede naam van een aanbieder in het geding moet komen. De aanbieder krijgt twee weken de tijd om alsnog een aanwijzing op te volgen alvorens een boete openbaar wordt gemaakt. Echter, zo lezen zij, is de Nederlandse Orde van Advocaten van mening dat het openbaar maken van een bestuurlijke boete nog voordat de bezwaartermijn daartegen is verstreken en nog voor dat er een onafhankelijke rechter er zich over heeft kunnen buigen, in strijd is met de onschuldpresumptie (die ook voor het bestraffende bestuursrecht geldt). Bovendien zou de reputatieschade die door de openbaarmaking wordt veroorzaakt, zelfs al zou de rechter de boete intrekken, nauwelijks meer te herstellen zijn. Kan de regering hier nader op ingaan? In hoeverre wordt de effectiviteit van de bestuurlijke aanpak van kinderpornografisch materiaal geschaad als de plicht tot openbaarmaking van boetes komt te vervallen en wordt vervangen door een bevoegdheid tot openbaarmaking voor de gevallen waar dat onder voorwaarden nodig blijkt te zijn?
Graag wil ik vooropstellen dat het feit dat een bestuurlijke boete die is opgelegd wegens het nalaten opvolging te geven aan een aanwijzing openbaar kan worden gemaakt. Het betreft hier dus geen verplichting voor de ATKM, maar een bevoegdheid waarvan deze gebruik kan maken. Het wetsvoorstel voorziet daarmee reeds in de door de leden van de PvdA-fractie en de leden van de GroenLinks-fractie gewenste bevoegdheid tot openbaarmaking voor die gevallen waarin dat nodig blijkt. Het is aan de ATKM om in het concrete geval een afweging te maken over de vraag of een bestuurlijke boete openbaar wordt gemaakt. De ATKM moet daarbij de beginselen van de Algemene wet bestuursrecht, waaronder het evenredigheidsbeginsel, in acht nemen.
Daarnaast is voorzien in waarborgen. De openbaarmaking geschiedt niet eerder dan nadat twee weken zijn verstreken na de dag waarop het besluit bekend is gemaakt. Daardoor is een betrokken aanbieder afdoende in de gelegenheid om een rechtsmiddel aan te wenden, zoals een verzoek om voorlopige voorziening. Als een verzoek tot het treffen van een voorlopige voorziening is ingediend, wordt de openbaarmaking op grond van artikel 10, vierde lid, van het wetsvoorstel opgeschort totdat de voorzieningenrechter op een dergelijk verzoek heeft beslist of het verzoek is ingetrokken.
Als zou worden gewacht tot de bestuursrechtelijke procedure tegen de opgelegde aanwijzing is afgerond, verliest de openbaarmaking gelet op de doorgaans lange tijd die dat in beslag neemt, een groot deel van zijn waarde. Een regeling zoals hier voorgesteld is overigens zeer gebruikelijk. Bij wijze van voorbeeld wordt gewezen op artikel 12u van de Instellingswet Autoriteit Consument en Markt.
De leden van de VVD-fractie lezen dat voor de definitie van kinderpornografisch materiaal is aangesloten bij het huidige artikel 240b uit het Wetboek van Strafrecht (Sr). Hierdoor slaat deze term niet alleen op foto’s, maar ook op een film of videoclip, of fragmenten of beelden daaruit. Deze leden vragen of de regering kan bevestigen dat ook na het wijzigen van artikel 240b met de Wet Seksuele misdrijven de definitie van kinderpornografisch materiaal in de nieuwe artikelen 252 en 254, derde lid, onder c niet inhoudelijk is gewijzigd. En klopt het dat hier ook kinderpornografisch materiaal onder valt dat door Artificial Intelligence (AI) is vervaardigd? Ook vragen zij of de ATKM ook bestuursrechtelijk kan optreden tegen andere strafbare vormen van online seksueel misbruik, zoals bijvoorbeeld dierenpornografie.
Het wetsvoorstel seksuele misdrijven dat op dit moment aanhangig is bij de Eerste Kamer wijzigt de reikwijdte van de strafbaarstelling van kinderpornografie (huidig artikel 240b Sr; nieuwe artikel 252 Sr) niet. Wel wordt de strafbaarstelling beter toegesneden op moderne verschijningsvormen van kinderpornografisch materiaal, onder meer door vervanging van de term «afbeelding» door de term «visuele weergave». Artikel 252 Sr stelt strafbaar het verspreiden, aanbieden, openlijk tentoonstellen, vervaardigen, invoeren, doorvoeren, uitvoeren, verwerven, in bezit hebben of zich de toegang verschaffen van/tot een visuele weergave van seksuele aard of met een onmiskenbaar seksuele strekking of gegevens die geschikt zijn om zo’n visuele weergave te vormen van een seksuele gedraging of een gegevensdrager bevattende gegevens die daartoe geschikt zijn, waarbij een persoon die kennelijk de leeftijd van achttien jaren nog niet heeft bereikt is betrokken of schijnbaar is betrokken.
De term «visuele weergave», betreft zowel fysieke afbeeldingen als digitale gegevensbestanden. Onder visuele weergaven moet onder meer worden verstaan foto’s, filmmateriaal, live streaming beeldmateriaal en streams die reeds bestaand beeldmateriaal bevatten. Ook op grond van het wetsvoorstel seksuele misdrijven zal het bij kinderpornografisch materiaal dus kunnen gaan om foto’s, filmpjes, videoclips of fragmenten of beelden.
Artikel 252 Sr ziet op visuele weergaven van seksuele aard met een onmiskenbaar seksuele strekking waarbij iemand die kennelijk de leeftijd van achttien jaar nog niet heeft bereikt is betrokken of schijnbaar is betrokken. Daarmee valt virtueel kinderpornografisch materiaal, dat betrekking heeft op een visuele weergave waarbij een kind dat de leeftijd van achttien jaren nog niet heeft bereikt schijnbaar is betrokken, eveneens onder de reikwijdte van de strafbaarstelling. Vereist is dat het een realistische weergave van seksuele aard of met een onmiskenbaar seksuele strekking betreft. Als bijvoorbeeld sprake is van bezit van dergelijk materiaal, valt dat onder de reikwijdte van artikel 252 Sr. In antwoord op de vraag van de leden van de fractie van de VVD kan worden geantwoord dat dat ook het geval zou zijn als het kinderpornografisch materiaal zou zijn vervaardigd door middel van Artificial Intelligence.
In de tegelijk met deze nota naar aanleiding van het verslag bij Uw Kamer ingediende nota van wijziging is een samenloopbepaling opgenomen voor het geval de Wet seksuele misdrijven eerder in werking treedt dan het onderhavige wetsvoorstel. In dat geval dient in de definitie van kinderpornografisch materiaal in het onderhavige wetsvoorstel immers te worden verwezen naar artikel 252 Sr in plaats van artikel 240b Sr.
Visuele weergaves van andere vormen van seksueel misbruik zoals dierenpornografie vallen niet onder de reikwijdte van artikel 240b Sr en ook niet onder de reikwijdte van het nieuwe artikel 252 Sr. Het onderhavige wetsvoorstel geeft de ATKM tot taak de ontoegankelijkheid van online kinderpornografisch materiaal af te dwingen en de inmiddels in werking getreden Uitvoeringswet TOI-verordening geeft de ATKM eenzelfde taak waar het online terroristische-inhoud betreft.
De leden van de VVD-fractie vragen of de regering kan bevestigen dat de opbrengsten van de bestuursrechtelijke sancties die de ATKM oplegt, toekomen aan de ATKM, als gevolg van de artikelen 5:10, eerste lid, jo. 1:1, vierde lid van de Awb. Als dat niet is beoogd, vragen deze leden waar deze baten naartoe gaan.
De regering kan bevestigen dat de opbrengsten van de door de ATKM opgelegde sancties aan de ATKM zullen toekomen.
De leden van de CDA-fractie lezen dat de definitie van online kinderpornografisch materiaal aansluit op artikel 240b Sr en de term «afbeelding» die daarin wordt gebruikt. Dit slaat niet alleen op foto’s, maar ook op een film of videoclip, of fragmenten of beelden daaruit. Deze leden vragen of livestreamingsbeelden hier ook onder kunnen vallen.
Zoals hiervoor in antwoord op vragen van de leden van de fractie van de VVD is aangegeven wordt de strafbaarstelling van kinderpornografie in artikel 240b Sr in het wetsvoorstel seksuele misdrijven opgevolgd door artikel 252 Sr. In dat artikel is het woord afbeelding vervangen door «visuele weergave». Daaronder kan ook live streaming beeldmateriaal vallen.
De leden van de ChristenUnie-fractie vragen wat het begrip «kennelijk», genoemd in onder andere de memorie van toelichting, in deze context behelst. Daarbij vragen zij waarom het begrip kennelijk uit artikel 240b Sr tot uitdrukking wordt gebracht als dat betekent dat er redelijkerwijs geen twijfel over mogelijk kan zijn. Waarom is hier niet gekozen voor een ruimere definitie waarbij alleen het vermoeden van minderjarigheid afdoende is om het materiaal te laten verwijderen? Komt met dit vereiste namelijk niet een hoge bewijslast te liggen bij de ATKM?
Zoals in paragraaf 2.1 op vragen van de leden van de SP-fractie is aangegeven, is besloten om het kennelijkheidsvereiste uit dit wetsvoorstel te schrappen. Ik verwijs u voor verdere toelichting naar dat antwoord.
De leden van de CDA-fractie lezen dat in de aanwijzing een termijn wordt opgenomen waarbinnen het kinderpornografisch materiaal ontoegankelijk moet zijn gemaakt. In de TOI-verordening wordt hiervoor een termijn van 24 uur gehanteerd, en voor terroristische online inhoud zelfs één uur. Deze leden vragen aan de regering waarom de termijn van het verwijderen van kinderpornografisch materiaal niet vastgesteld kan worden op een dergelijk korte termijn van maximaal één of 24 uur, met name gezien de ernst van het materiaal en de mogelijke snelle verspreiding over het internet. Welke concrete belemmeringen houden tegen dat dergelijk materiaal niet standaard binnen een uur kan worden verwijderd?
Voor de beantwoording van deze vraag wordt verwezen naar het antwoord op vragen van leden van de SP-fractie onder punt 2.1.
De leden van de SP-fractie vinden het onderscheid dat tussen de zorgplicht en de aanwijzing wordt gemaakt niet helemaal duidelijk te volgen. Kan de regering aangeven waarom het openbaren van een bestuurlijke boete voor het niet opvolgen van de zorgplicht niet is opgenomen in de wet, maar het openbaren van de bestuurlijke boete voor het niet opvolgen van een aanwijzing wel? Worden er ook stappen gezet in het kader van transparantie, los van het openbaren van het niet navolgen van aanwijzingen?
Zoals in de inleiding vermeld, is de zorgplicht bij nota van wijziging uit het wetsvoorstel geschrapt. Gelet hierop is beantwoording van het eerste deel van de vraag niet meer relevant. Verder kan worden aangegeven dat de ATKM voornemens is om in bredere zin transparant naar buiten te treden en het doel van haar werk duidelijk te communiceren.
De leden van de ChristenUnie-fractie vragen waarom er niet gekozen is voor een gespecificeerde termijn waarin providers en hostingbedrijven kinderpornografisch materiaal ontoegankelijk moeten maken. Tevens vragen deze leden waaraan de ATKM gaat toetsen wat als een passende en evenredige maatregel wordt gezien.
In de aanwijzing van de ATKM zal een termijn worden gesteld waarbinnen het online kinderpornografisch materiaal ontoegankelijk moet zijn gemaakt. De lengte van die termijn is afhankelijk van de omstandigheden van het geval en vereist een afweging tussen het belang van tijdige verwijdering en de technische en praktische maatregelen die redelijkerwijs van de aanbieder van een communicatiedienst kunnen worden gevergd. Gelet op het feit dat er doorgaans al door Offlimits een verwijderverzoek is gedaan met een verwijdertermijn van 24-uur termijn en het veelal evidente karakter van online kinderpornografisch materiaal zal de in de aanwijzing opgenomen termijn in de regel een korte zijn.
Zoals in de inleiding vermeld, is de zorgplicht bij nota van wijziging uit het wetsvoorstel geschrapt. Gelet hierop is de vraag hoe de ATKM gaat toetsen of sprake is van een passende en evenredige maatregel niet meer relevant.
De leden van de VVD-fractie vragen of de regering nader kan concretiseren hoe hostingbedrijven, communicatiediensten en internet service providers kunnen voldoen aan de zorgplicht. Is er bijvoorbeeld voldoende invulling gegeven aan de zorgplicht wanneer een hostingbedrijf misbruikgevoelige websites verplicht gebruik te maken van de Hashchecker? In hoeverre moet een hostingbedrijf direct afscheid nemen van een klant als er nog steeds veel meldingen binnenkomen, terwijl de klant al is verplicht gebruik te maken van de Hashchecker? Graag ontvangen deze leden een reactie hierop van de regering.
Zoals in de inleiding vermeld, is de zorgplicht bij nota van wijziging uit het wetsvoorstel geschrapt. Gelet hierop is de vraag over de concretisering van de zorgplicht niet meer relevant.
De leden van de ChristenUnie-fractie vragen of er inzicht is in hoeverre aanbieders kinderpornografisch materiaal kunnen verwijderen en wat de (technische) beperkingen daarvoor zijn. Wanneer heeft een aanbieder «redelijkerwijs» aan zijn inspanningsplicht van een aanwijzing voldaan?
Binnen de zelfregulering is middels de Gedragscode Notice and Takedown reeds met de sector overeengekomen dat het verwijderen van kinderpornografisch materiaal binnen 24 uur haalbaar is. In principe is het zo dat er geen technische beperkingen zijn voor het verwijderen of ontoegankelijk maken van materiaal als duidelijk is waar het materiaal te vinden is. Hiervoor zal een aanbieder de locatie, ook wel URL, nodig hebben die hoort bij de melding. Wel kan het zo zijn dat een hostingbedrijf zijn klant niet kan bereiken om de gewraakte content te laten verwijderen. Om de transparantie in de sector te versterken zijn er verschillende vrijwillige initiatieven ontwikkeld. Een voorbeeld hiervan is de Gedragscode Abusebestrijding. Op grond van artikel 6, eerste lid, van het wetsvoorstel, bestaat de aanwijzing uit een verplichting voor de aanbieder van hostingdienst om alle redelijkerwijs te nemen maatregelen te treffen om het betreffende kinderpornografisch materiaal ontoegankelijk te maken. Wat redelijkerwijs is zal per situatie afgewogen moeten worden door de ATKM. Indien de aanbieder zelf kan verwijderen dient hij dat te doen; indien hij dat niet kan dient bijvoorbeeld te worden aangetoond in hoeverre hij een inspanning heeft gepleegd op het navolgen van de melding bij zijn klanten. Een aanbieder van hostingdienst handelt derhalve overeenkomstig de aanwijzing door het materiaal ontoegankelijk te maken. Wanneer het materiaal niet ontoegankelijk is gemaakt, heeft de ATKM de mogelijkheid om dit bestuursrechtelijk af te dwingen.
De leden van de ChristenUnie-fractie vragen op welke manier omgegaan wordt met een aanbieder die aangeeft dat deze alles heeft gedaan, maar geen meewerkende klant heeft. Kan de aanbieder de klant op basis van een aanwijzing van de ATKM toegang tot de aanbieder ontnemen? Heeft de aanwijzing van de ATKM deze doorwerkende kracht?
Indien de ATKM een aanwijzing oplegt zoals bedoeld in artikel 6, eerste lid van het wetsvoorstel, is de aanbieder van een hostingdienst verplicht overeenkomstig die aanwijzing te handelen en alle redelijkerwijs te nemen maatregelen te treffen om het kinderpornografisch materiaal ontoegankelijk te maken. Op welke wijze dit materiaal ontoegankelijk wordt gemaakt, is vervolgens aan de aanbieder van hostingdienst zelf en zou bijvoorbeeld kunnen zien op het ontnemen van de toegang tot de aanbieder.
De leden van de ChristenUnie-fractie vragen in hoeverre de tot nu toe bekende bedrijven die kinderpornografisch materiaal kunnen blokkeren maar dat nog niet (snel genoeg) doen ook daadwerkelijk boetes opgelegd kunnen worden die geïnd kunnen worden.
Op grond van dit wetsvoorstel heeft de ATKM de wettelijke bevoegdheid om bestuursrechtelijk te handhaven ten aanzien van aanbieders van hostingdiensten die geen gehoor geven aan een aanwijzing om materiaal van seksueel kindermisbruik tijdig ontoegankelijk te maken of te verwijderen. Het is op dit moment nog lastig om een concrete inschatting te maken over de hoeveelheid aanwijzingen die niet tijdig zal worden opgevolgd, omdat eerst moet blijken hoe de aanbieders gaan reageren op een aanwijzing van de ATKM. De ATKM kan een bestuurlijke boete opleggen op het moment dat een aanbieder niet tijdig gehoor geeft aan een aanwijzing. Omdat voor de aanwijzing duidelijk moet zijn om welke aanbieder het gaat wordt ervan uitgegaan dat ook duidelijk is aan wie de boete moet worden opgelegd en daarmee dat de boete geïnd kan worden Om dit zo snel mogelijk na inwerkingtreding van deze wet te kunnen doen worden nu al voorbereidingen getroffen om de bevoegdheid op dat moment ook direct te kunnen uitoefenen. Mocht in de praktijk blijken dat het innen van de boetes door de ATKM moeizaam is, dan wordt dat uitdrukkelijk in de evaluatie van dit wetsvoorstel meegenomen. Daarbij is aandacht voor de werking van het voorgestelde instrumentarium en de effecten daarvan in de praktijk.
De leden van de ChristenUnie-fractie vragen waarom er is gekozen voor de term «ontoegankelijk maken». Deze manier van werken wordt door NLConnect als zinloos beschreven, wat bij genoemde tot bezorgdheid leidt. Waarom is bijvoorbeeld niet gekozen voor het verwijderen van de kinderpornografisch materiaal, zou dat niet beter aansluiten bij het daadwerkelijk aanpakken van de bron van de problemen.
Met de gekozen reikwijdte wordt aangesloten bij de reikwijdte van de artikel 125p Sv neergelegde bevoegdheid tot het geven van een bevel tot ontoegankelijkmaking. Onder ontoegankelijkmaking wordt verstaan het treffen van alle redelijkerwijs te nemen maatregelen om te voorkomen dat derden van het materiaal kennisnemen, en ter voorkoming van de verdere verspreiding van het beeldmateriaal. Onder ontoegankelijkmaking wordt in de eerste plaats verstaan het verwijderen van gegevens uit een geautomatiseerd werk. Onderkend wordt dat het niet in alle gevallen mogelijk zal zijn kinderpornografisch materiaal daadwerkelijk van het internet te verwijderen. Dat is onder meer het geval indien een website niet in zijn geheel op één server wordt gehost: het komt voor dat onderdelen van een website bij een Nederlandse hostingaanbieder worden gehost, terwijl andere onderdelen zijn opgeslagen op een in het buitenland geplaatste server. Mede daarom staat de definitie van ontoegankelijkmaking ook andere vormen van ontoegankelijkmaking toe, mits deze ertoe strekken dat (verdere) kennisneming van die gegevens door derden wordt voorkomen. Omdat beperking tot de term «verwijderen» de ATKM minder mogelijkheden zou bieden, is er gekozen voor het ruimere begrip «ontoegankelijk maken».
De leden van de VVD-fractie hebben met instemming kennisgenomen van de mogelijkheid voor de ATKM om openbaar te maken dat een bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven aan een aanwijzing. Andere toezichthouders zoals de Autoriteit Persoonsgegevens (AP) maken de oplegging van hun bestuurlijke boetes ook openbaar. De AP maakt ook alle andere sancties die zij oplegt openbaar. Ook houdt de AP een openbaar register bij met alle (geanonimiseerde) berispingen. In het verlengde van de praktijk van de AP vragen deze leden of het ook mogelijk zou zijn om in onderhavig wetsvoorstel op te nemen dat de ATKM alle sancties, inclusief de aanwijzingen en de oplegging van een last onder dwangsom en de oplegging van een bestuurlijke boete voor het niet opvolgen van de zorgplicht ook openbaar kunnen worden gemaakt. Deelt de regering de opvatting van deze leden dat de argumenten die gelden voor de openbaarmaking van de bestuurlijke boetes ook gelden voor de last onder dwangsom en de aanwijzing? Zo nee, waarom niet?
De Autoriteit Persoonsgegevens (AP) maakt handhavingsbesluiten openbaar, met uitzondering van berispingen (zie artikel 4.1 van de Beleidsregels openbaarmaking door de Autoriteit Persoonsgegevens, Stcrt. 2023, 10725). Daarnaast houdt de AP inderdaad een register bij waarin (geanonimiseerde) berispingen zijn opgenomen. Daarvoor is bij het onderhavige wetsvoorstel niet gekozen.
Het openbaar maken van de omstandigheid dat een aanbieder kinderpornografisch materiaal op zijn servers host, is een zwaar middel. Anders dan de leden van de VVD-fractie, ben ik van mening dat het daarom niet in de rede ligt dat een (enkele) aanwijzing tot ontoegankelijkmaking openbaar wordt gemaakt. Een aanbieder van een communicatiedienst heeft vaak geen weet van de aanwezigheid van kinderpornografisch materiaal op zijn systemen. Veel aanbieders treden ook op tegen dit type materiaal, zodra zij op de aanwezigheid daarvan zijn geattendeerd. In dit licht is openbaarmaking van een enkele aanwijzing in beginsel niet proportioneel, omdat de aanbieder veelal meewerkt door binnen de gestelde termijn opvolging te geven aan een aanwijzing. Datzelfde geldt ook voor de last onder dwangsom. De ATKM kan een last onder dwangsom in principe gelijk met de aanwijzing opleggen of kort nadat blijkt dat niet aan de aanwijzing is voldaan. Het openbaar maken van een opgelegde last onder dwangsom zal daarom in beginsel evenmin proportioneel zijn.
Een bestuurlijke boete wordt pas opgelegd als is gebleken dat een aanbieder geen opvolging heeft gegeven aan een aanwijzing. Dan kan er aanleiding ontstaan voor het opleggen van een bestuurlijke boete. Is het bijvoorbeeld vaker zo dat een aanbieder nalatig is, dan kan er aanleiding zijn om tot openbaarmaking van de boete over te gaan. Daarbij is van belang dat het totale pakket van sancties, gelet op artikel 3:4, tweede lid, Awb, evenredig zal moeten zijn.
De leden van de ChristenUnie-fractie vragen waarom de regering een diffamerende, naming and shaming werking noodzakelijk acht. Hoe effectief denkt de regering dat het diffameren zal zijn? Hoeveel effect denkt de regering dat de diffamerende werking zal verliezen als de boete pas na de bezwaartermijn opgelegd wordt? Zijn er, met deze werkwijze, ook risico’s bijvoorbeeld als een bezwaarprocedure terecht blijkt te zijn maar het openbaar maken van de boete vóór het verstrekken van de bezwaartermijn geleid heeft tot het in opspraak brengen van een bedrijf?
De ATKM kan tot oplegging van een bestuurlijke boete besluiten als geen opvolging wordt gegeven aan een aanwijzing. Vervolgens kan de ATKM de beschikking tot oplegging van de bestuurlijke boete openbaar maken. De openbaarmaking is er in de eerste plaats op gericht de naleving van deze wet te bevorderen, en tevens inzicht te geven in de mate en de manier waarop op deze naleving toezicht wordt gehouden. Van de openbaarmaking gaat een diffamerende werking uit, omdat de bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven aan een gegeven aanwijzing. Na de publicatie van een lijst van servers die het meeste materiaal van seksueel kindermisbruik hosten, in opdracht van het Ministerie van Justitie en Veiligheid opgesteld door de TU Delft, hebben de meeste partijen op die lijst zich extra ingezet om hun naam van deze lijst af te krijgen en hun klantenbestand op te schonen. Het openbaar maken van een opgelegde bestuurlijke boete kan gelet hierop naar verwachting dan ook bijdragen aan het schonen van internet van kinderpornografisch materiaal.
De openbaarmaking vindt niet eerder plaats dan nadat twee weken zijn verstreken na de dag waarop het besluit tot het opleggen van een boete bekend is gemaakt. Hierdoor is de betrokken aanbieder in de gelegenheid om een voorlopige voorziening te verzoeken bij de voorzieningenrechter; openbaarmaking wordt ingeval een voorlopige voorziening is gevraagd opgeschort totdat de voorzieningenrechter uitspraak heeft gedaan of het verzoek is ingetrokken. De risico’s voor het mogelijk onterecht openbaar maken van de boete worden hiermee zoveel mogelijk afgedekt. Het kabinet denkt dat het diffamerende werking van de openbaarmaking aan effect zal inboeten als de boete pas na de bezwaartermijn openbaar wordt gemaakt gelet op de tijd die is gemoeid met het afwachten van de bezwaartermijn
De leden van de ChristenUnie-fractie vragen welke andere mogelijkheden er voor een autoriteit zijn overwogen los van een zelfstandig bestuursorgaan (zbo) en waarom er niet voor één van deze mogelijkheden is gekozen. Dit vragen deze leden ook in het licht van de zorgen van de Afdeling advisering van de Raad van State (de Afdeling).
Over de ministeriële verantwoordelijkheid hebben de leden van de ChristenUnie-fractie vragen. In lijn met Europese wetgeving wil de regering gehoor geven aan de mogelijkheid tot politiek onafhankelijke oordeelsvorming door de ATKM, maar deze leden vragen waarom dat moet betekenen dat de ministeriële verantwoordelijkheid ten opzichte van de zbo wegvalt.
De leden van de ChristenUnie-fractie vragen in hoeverre de regering rekening heeft gehouden met de beroepsmogelijkheid tegen een beslissing bij een onafhankelijke oordeelsvorming op grond van specifieke deskundigheid.
Met het oog op de inrichting van de autoriteit is een verkenning uitgevoerd om te onderzoeken welke organisatievorm het meest geschikt was voor de uitvoering van de taken van de autoriteit. In deze verkenning is zowel gekeken naar het beleggen van de taken bij bestaande organisaties als naar de oprichting van een nieuwe organisatie. Daarbij is bezien of de taak kon worden uitgevoerd door het Agentschap Telecom, de Inspectie voor Justitie en Veiligheid (Inspectie JenV) en de Autoriteit Consument en Markt (ACM). Hieronder zal worden toegelicht waarom daar niet voor is gekozen.
Strafrecht of bestuursrecht?
Primair is verkend of de autoriteit vorm moest krijgen binnen het strafrecht of het bestuursrecht. Bij de keuze voor het bestuursrecht was ten eerste relevant dat het wetsvoorstel een reparatoir karakter heeft. Het wetsvoorstel heeft niet tot doel om diegenen die kinderpornografisch materiaal produceren en op internet plaatsen op te sporen en te vervolgen; het voorstel is er op gericht om online kinderpornografisch materiaal zo snel mogelijk ontoegankelijk te maken en dit zo nodig af te dwingen om verdere verspreiding tegen te gaan. Ten tweede was relevant dat een deel van het voorgestelde instrumentarium zich niet leent voor positionering binnen het strafrecht. Dit betreft onder meer de beoogde herstelsancties, zoals de last onder dwangsom. Gelet op de uitdrukkelijke wens om de ontoegankelijkmaking van online kinderpornografisch materiaal en de handhaving te beleggen bij één bevoegde autoriteit en alle bevoegdheden in één hand te houden, is in het onderhavige geval gekozen voor een zuiver bestuursrechtelijk stelsel en is er niet voor gekozen meerdere organen met taken op dit gebied te belasten.
Verhouding tot de Minister
Vervolgens is bezien wat de verhouding van de autoriteit tot de Minister zou moeten zijn.
Uitgangpunt van het kabinetsbeleid is dat publieke taken onder volledige ministeriële verantwoordelijkheid worden uitgevoerd, zodat de verantwoordelijke bewindspersoon op alle aspecten van de uitvoering (politiek) aanspreekbaar is. Dat laat onverlet dat het in bepaalde situaties noodzakelijk kan zijn een zelfstandig bestuursorgaan in te stellen. Mogelijke instellingsmotieven zijn limitatief opgesomd in artikel 3, eerste lid, van de Kaderwet zbo’s. Daarnaast is een aanvullende motivering vereist voor de oprichting van een zbo.
Op grond van artikel 3, eerste lid, aanhef en onderdeel a, van de Kaderwet zbo’s, kan een zelfstandig bestuursorgaan worden ingesteld indien er behoefte is aan onafhankelijke oordeelsvorming op grond van specifieke deskundigheid. Daarvan is, zoals de leden van de ChristenUnie-fractie vragen, in dit geval sprake. In dit specifieke geval is de primaire reden voor de keuze om de taak van het ontoegankelijk doen maken van online kinderpornografisch materiaal bij een zbo te beleggen de wens (de schijn van) politieke inmenging in de vrijheid van meningsuiting te voorkomen.
Het ontoegankelijk maken van gegevens op internet, louter vanwege de inhoud daarvan, vormt naar zijn aard een beperking van de vrijheid van meningsuiting, zoals neergelegd in artikel 7 van de Grondwet en artikel 10 van het Europees Verdrag voor de Rechten van de Mens en de fundamentele vrijheden (EVRM). Het is vaste rechtspraak dat met (legitieme en noodzakelijke) beperkingen op dit grondrecht terughoudend en zorgvuldig moet worden omgegaan. Een bevoegdheid die de vrijheid van meningsuiting beperkt, moet daarom met voldoende waarborgen zijn omgeven, zodanig dat een willekeurige inmenging wordt voorkomen. Door de bevoegde autoriteit vorm te geven als een zbo waarbij aanvullende waarborgen zijn gesteld aan de vereiste onafhankelijkheid is naar het oordeel van de regering voldaan aan de vereiste onafhankelijke oordeelsvorming: een zbo is in zijn taakuitoefening niet hiërarchisch ondergeschikt aan enige politieke ambtsdrager, zodat oordeelsvorming onafhankelijk van de politiek is geborgd.
Gelet op de wens de autoriteit zodanig vorm te geven dat oordeelsvorming onafhankelijk van de politiek is geborgd, werd de Inspectie JenV, een dienstonderdeel van het Ministerie van JenV, niet geschikt geacht als autoriteit. Bovendien past de taak die op grond van het wetsvoorstel aan de autoriteit toekomt ook niet goed bij de andere taken van de Inspectie JenV. De Inspectie voor JenV beoordeelt immers het handelen van andere organisaties op het terrein van JenV, terwijl van de bevoegde autoriteit wordt gevraagd onderzoek te doen naar online kinderpornografisch materiaal dat aanwezig bij derden en toe te zien op de naleving van een aanwijzing door aanbieders van hosting- en communicatiediensten.
Geen agentschap
Er is niet voor gekozen om de bevoegde autoriteit vorm te geven als een agentschap. Een agentschap is een intern verzelfstandigd, in de uitvoering werkzaam dienstonderdeel van een ministerie, met een eigen sturingsmodel en financiële administratie maar onder volledige ministeriële verantwoordelijkheid. Een agentschap is minder geschikt als organisatievorm voor de taken die het wetsvoorstel toekent aan de bevoegde autoriteit, omdat, anders dan voor een zbo geldt, deze hiërarchisch ondergeschikt is aan een Minister. Mede om die reden is er niet voor gekozen het Agentschap Telecom aan te wijzen als autoriteit.
Geen regulier dienstonderdeel met inperking bevoegdheid Minister
Een alternatieve constructie die is overwogen betreft de constructie waarin de bevoegde autoriteit weliswaar wordt ondergebracht in een regulier dienstonderdeel van een departement, maar waarbij de bevoegdheid van de Minister om in individuele gevallen aanwijzingen of instructies te geven wordt beperkt. Daar is evenwel niet voor gekozen omdat het leidt tot de ongewenste situatie dat de Minister beperkt wordt in zijn mogelijkheid tot ingrijpen, maar toch volledig politiek verantwoordelijk blijft voor de wijze waarop de bevoegde autoriteit zijn taken vervult. Dit naast het feit dat juist het regime zoals opgenomen in de Kaderwet zbo’s al is ingericht om waarborgen voor de onafhankelijkheid te creëren.
Keuze voor een nieuw zbo
Overwogen is om de ACM, ook een zbo, als autoriteit aan te wijzen. Daarvoor is niet gekozen omdat het opschonen van internet van online kinderpornografisch materiaal fundamenteel ongelijksoortig is aan de bestaande toezichtfuncties van de ACM, en zich bevindt in een voor de ACM onbekende keten. De werkzaamheden van de ACM hebben immers tot doel goed functionerende markten, ordelijke en transparante marktprocessen en een zorgvuldige behandeling van consumenten te bevorderen. Daaronder valt onder meer het bewaken, bevorderen en beschermen van een effectieve mededinging en gelijke concurrentievoorwaarden op markten en het wegnemen van belemmeringen daarvoor. De taak die de autoriteit op grond van het wetsvoorstel gaat uitoefenen, heeft een heel ander doel dat niet goed past bij de taak en het werkgebied van de ACM.
Omdat er geen bestaand zelfstandig bestuursorgaan was dat kon worden belast met het (doen) ontoegankelijk maken van online kinderpornografisch materiaal, is gekozen voor het instellen van een nieuw zbo: de ATKM. Inmiddels is de ATKM opgericht met de Uitvoeringswet TOI-verordening. De bevoegdheden die de Kaderwet zbo’s toekent aan de Minister zijn in onderhavig voorstel zodanig ingeperkt, dat de Minister uitsluitend kan ingrijpen ten aanzien van het financieel beheer en de administratieve organisatie. De Minister blijft overigens verantwoordelijk voor het (wettelijk) stelsel. De Minister heeft daartoe enige bevoegdheden ten aanzien van het zbo, zoals het voordragen voor benoeming van de bestuurders en het financieel beheer.
De leden van de ChristenUnie-fractie vragen hoe de onderzoekende rol van de ATKM vormgegeven zal worden. Ook vragen deze leden of de ATKM aanwijzingen mag geven op basis van het zelf gedane onderzoek of dat dit alleen mogelijk is na een melding.
De inzet van de ATKM is zo veel mogelijk gericht op het doen van onderzoek naar de aard en oorsprong van meldingen en het opvolgen van aanwijzingen die door de ATKM zijn uitgevaardigd. De ATKM is ook zelf bevoegd om onderzoek te doen naar de aanwezigheid van online kinderpornografisch materiaal op het openbare deel van het internet. Artikel 2, tweede lid, van dit voorstel van wet biedt daarvoor de grondslag. Dit onderzoek kan handmatig gebeuren, maar ook met meer innovatieve en automatische instrumenten. Bij dat laatste kan bijvoorbeeld worden gedacht aan een webcrawler, waarmee (deels) geautomatiseerd naar bekend online kinderpornografisch materiaal wordt gezocht. Een voorbeeld waarbij dit toegepast zou kunnen worden, is als er na melding van het aantreffen van materiaal onderzocht moet worden of hetzelfde materiaal ook op andere servers of hostingdiensten wordt aangeboden.
Dit onderzoek hoeft dus niet altijd naar aanleiding van een melding te zijn, maar kan ook gericht zijn op het al dan niet opvolgen van een door de ATKM uitgevaardigde aanwijzing. Het is uiteraard aan de ATKM zelf om te bepalen hoe zij haar bevoegdheden uitoefent en hoe zij haar onderzoekstaak verder zal vormgeven.
De leden van de ChristenUnie-fractie vragen of het gebruik van de webcrawler goed juridisch is ingekaderd, zodat dit instrument daadwerkelijk kan worden ingezet. Eenzelfde vraag naar kaders op het gebied van privacy hebben deze leden bij de verwerking van bijzondere categorieën van persoonsgegevens: welke bevoegdheden heeft de ATKM bij haar onderzoek en zijn deze afdoende ingekaderd?
Het is juist dat het op grond van dit wetsvoorstel mogelijk is om geautomatiseerde instrumenten te gebruiken, zoals een webcrawler. Met een webcrawler kan de ATKM onderzoek doen naar de aanwezigheid van online kinderpornografisch materiaal op het openbare deel van het internet. De grondslag hiervoor is gelegen in artikel 2, tweede lid, van dit voorstel.
Voor de uitoefening van de krachtens deze wet aan de ATKM opgedragen taken is het verwerken van persoonsgegevens noodzakelijk. Dit betreft primair persoonsgegevens van diegenen die op het (gesteld) kinderpornografisch materiaal worden afgebeeld. Daarbij gaat het bijna per definitie om bijzondere persoonsgegevens (zie hierna). Voorts betreft het persoonsgegevens van personen die zijn betrokken bij de rechtspersoon aan wie een aanwijzing wordt gegeven of een sanctie wordt opgelegd. Omdat het niet mogelijk zal zijn een aanwijzing te geven of een sanctie op te leggen zonder dat persoonsgegevens worden verwerkt, is deze verwerking noodzakelijk. De taak om de ontoegankelijkmaking van deze gegevens te bevorderen, zoals deze is opgedragen aan de ATKM, vormt daarmee tevens de grondslag voor de verwerking van persoonsgegevens, als bedoeld in artikel 6, eerste lid, onderdeel e, AVG.
Het verwerken van bijzondere categorieën van persoonsgegevens (waaronder gegevens met betrekking tot iemands seksueel gedrag of seksuele gerichtheid) is op grond van artikel 9, eerste lid, AVG verboden, tenzij in de AVG of het nationale recht een uitzondering is aan te wijzen. De verwerking van deze bijzondere categorieën van persoonsgegevens is noodzakelijk, omdat op het beeldmateriaal een minderjarige zichtbaar is en (veelal) een persoon die een bepaalde handeling met die minderjarige verricht, en waaruit deze gegevens kunnen worden afgeleid. De mogelijkheid die artikel 9, tweede lid, onderdeel g van de AVG biedt om een dergelijke uitzondering te creëren is in dit wetsvoorstel benut. Artikel 11, eerste lid, van het wetsvoorstel bepaalt dat de ATKM bijzondere categorieën van persoonsgegevens kan verwerken, voor zover dat noodzakelijk is voor de uitvoering van de bij deze wet aan hem opgedragen taken.
Vanzelfsprekend is deze verwerking gebonden aan de uitoefening van de taken van de ATKM. De ruimte om persoonsgegevens te verwerken, vindt hierin zijn begrenzing. De verwerking van deze typen persoonsgegevens is derhalve slechts toegestaan voor zover dat noodzakelijk is voor de uitvoering van de taken van de ATKM: het geven van aanwijzingen en zo nodig het opleggen van sancties. Verder dient de ATKM als verwerkingsverantwoordelijke onder meer te voorzien in voldoende beveiligingsmaatregelen.
De leden van de BBB-fractie constateren dat de ATKM een zeer jonge organisatie is. Op 1 september 2023 is de voorzitter van de ATKM pas benoemd. Daarnaast bestaat de ATKM uit enkel twee andere personen. Voor deze leden klinkt dit als erg weinig medewerkers. Citaat uit het jaarverslag van Offlimits: «Afgelopen jaar zijn door onze analisten 144.058 meldingen verwerkt en geanalyseerd. Door onze workflowtoll SCART zijn op basis van de oorspronkelijke meldingen nog meer URL’s gevonden. Dit heeft ertoe geleid dat onze analisten nog een 253.712 URL’s hebben verwerkt. In totaal zijn er in 2022 door onze analisten 397.770 URL’s verwerkt.».10 Voornoemde leden willen met dit citaat de omvang van probleem schetsen. Het probleem is groot en kent enorme aantallen. Om die reden zijn zij van mening dat drie leden te weinig is. Is de regering bereid het aantal leden binnen de ATKM (fors) op te hogen?
De drie leden, bestaande uit de voorzitter en twee leden, vormen samen het bestuur van de ATKM. De gehele organisatie bestaat uit meer werknemers, waaronder juristen, beoordeelaars en onderzoeksmedewerkers. Er is een business case opgesteld om de uitvoeringskosten van de ATKM te becijferen.11 Hierin vergt de behandeling van meldingen en dossiers rondom beeldmateriaal van online seksueel kindermisbruik een geschatte capaciteit van 6 fte. Daarnaast zal de monitoring en analyse één fte vergen, de ontwikkeling en handhaving van de zorgplicht eveneens één fte, en de samenwerking met de sector en buiten Nederland gevestigde meldpunten twee fte. Voor ondersteuning, voorlichting en bestuur is 4,5 fte geschat. In totaal komt dit op 14,5 fte per jaar aan structurele capaciteit.
De leden van de VVD-fractie benadrukken het belang van heldere afspraken tussen de ATKM en Offlimits. De regering schrijft dat het in de rede ligt dat de ATKM afspraken zal maken met Offlimits over de wijze van samenwerking en afstemming. Is in dat licht overwogen om Offlimits op te laten gaan in de ATKM? Wat zijn de voor- en nadelen hiervan? Zijn er andere Europese Unie (EU)-lidstaten die ervoor hebben gekozen de taken en bevoegdheden van Offlimits te laten vervullen door een autoriteit? Deze leden zijn van mening dat een duidelijke scheiding van taken, bevoegdheden en het vervullen van verschillende rollen essentieel is voor de goede taakuitoefening van zowel de ATKM als Offlimits, naast bijvoorbeeld afspraken over gegevensuitwisseling. Is er een voldoende duidelijke grondslag voor de ATKM om gegevens uit te wisselen met opsporingsdiensten, Offlimits, buitenlandse toezichthouders en andere relevante organisaties, zoals gemeenten?
Het is de afgelopen jaren gebleken dat het systeem van zelfregulering in Nederland goed werkt. Over het algemeen werkt de sector goed mee aan de verwijderverzoeken die worden gedaan door het Meldpunt Kinderporno van Offlimits. Omdat er ook bedrijven in de sector zijn die consequent niet meewerken aan het schoonhouden van het internet van online materiaal van seksueel kindermisbruik is besloten tot oprichting van de ATKM. De regering wil het goed werkende systeem van zelfregulering graag in stand houden en daarom is er expliciet voor gekozen de ATKM naast de bestaande zelfregulering te plaatsen in plaats van Offlimits op te laten gaan in de ATKM. De ATKM gaat fungeren als sluitstuk van de zelfregulering en heeft de wettelijke bevoegdheid om bestuursrechtelijk op te treden.
Artikel 5 van het wetsvoorstel regelt dat de ATKM persoonsgegevens of inlichtingen, verkregen bij de uitvoering van de aan hem krachtens deze wet opgedragen taken, aan de politie kan verstrekken voor zover deze persoonsgegevens of inlichtingen noodzakelijk zijn voor de uitoefening van diens wettelijke taak, bedoeld in artikel 3 van de Politiewet 2012. Dit artikel biedt aldus een grondslag voor de uitwisseling van gegevens met de politie.
Een grondslag voor het delen van persoonsgegevens over online kinderpornografisch materiaal met buitenlandse toezichthouders, gemeenten, Offlimits en andere organisaties is niet in het wetsvoorstel opgenomen. De reikwijdte van de aanwijzing die de ATKM ten aanzien van online kinderpornografisch materiaal kan opleggen is beperkt tot in Nederland gevestigde dienstverleners.
Een grondslag voor de uitwisseling van persoonsgegevens met gemeenten is niet opgenomen omdat gemeenten geen rol hebben in de bestrijding van online kinderpornografisch materiaal. Evenmin kent het wetsvoorstel een grondslag voor het delen van gegevens met Offlimits. Als de ATKM het verzoek ontvangt om online kinderpornografisch materiaal ontoegankelijk te doen maken, is de situatie dat zij daarvan eerst melding doet bij Offlimits moeilijk voorstelbaar. Het is aan de ATKM als zbo om op een dergelijk verzoek te beslissen. Gelet op het feit dat het delen van online kinderpornografisch materiaal met derden strafbaar is en het delen van bijzondere persoonsgegevens in beginsel verboden is, is geen grondslag voor verstrekking van persoonsgegevens door de ATKM aan Offlimits opgenomen.
Het voorgaande laat overigens onverlet dat gemeenten en Offlimits wel een melding kunnen doen bij de ATKM. Tevens ligt het in de rede dat de ATKM afspraken zal maken met Offlimits over de wijze van samenwerking en afstemming. In het bijzonder voor de onderzoekstaak die de ATKM op grond van artikel 2, tweede lid, onder b, van het wetsvoorstel heeft en die zij waar mogelijk dient uit te voeren in samenwerking met private en publieke partijen, ligt het in de rede dat zij die vorm geeft in samenwerking met Offlimits.
Wellicht ten overvloede wordt hier opgemerkt dat de ATKM op grond van de TOI-verordening en de bijbehorende Uitvoeringswet ten aanzien van terroristische online-inhoud wel (bijzondere) persoonsgegevens kan uitwisselen met buitenlandse toezichthouders, politie en inlichtingen- en veiligheidsdiensten. Deze bevoegdheid vloeit rechtstreeks uit de TOI-verordening voort.
De leden van de VVD-fractie vragen of er ook afspraken worden gemaakt tussen het OM en de ATKM. Hoe is gewaarborgd dat er effectieve en gerichte strafrechtelijke vervolging plaatsvindt van kinderpornografische delicten en tegelijkertijd effectieve bestuursrechtelijke sancties waar nodig worden opgelegd? Klopt het dat (onderzoeks)gegevens van de ATKM altijd kunnen en mogen worden gebruikt in een strafzaak wanneer het OM dat wenselijk acht?
Artikel 5 van het wetsvoorstel regelt dat de ATKM over de uitoefening van zijn taken en bevoegdheden overlegt met de politie en het openbaar ministerie. Met dit overleg wordt voorkomen dat door de aanwending van bestuursrechtelijke bevoegdheden de strafrechtelijke opsporing en vervolging van diegenen die kinderpornografisch materiaal produceren, verspreiden, bekijken of downloaden, wordt doorkruist. Het is niet uitgesloten dat de ATKM uit hoofde van haar werkzaamheden over informatie komt te beschikken die van belang kan zijn bij de opsporing en vervolging. De ATKM kan deze gegevens daarom uit eigen beweging, of op verzoek, aan de politie verstrekken, voor zover deze persoonsgegevens of inlichtingen noodzakelijk zijn voor de uitoefening van diens wettelijke taak, bedoeld in artikel 3 van de Politiewet 2012. Deze gegevens mogen vanzelfsprekend worden gebruikt in het kader van een strafzaak.
De leden van de VVD-fractie vragen of de regering de totstandkoming van afspraken tussen de ATKM en Offlimits zoveel mogelijk kan bevorderen en openbaar maken, zodat deze kunnen worden betrokken bij de wetsbehandeling. Deze leden feliciteren de bestuursvoorzitter van Offlimits met haar benoeming als bestuursvoorzitter van de ATKM per 1 september 2023. Nu deze benoeming heeft plaatsgevonden, is het voor hen niet op voorhand uitgesloten dat Offlimits en de ATKM beter kunnen worden samengevoegd om expertise over online seksueel kindermisbruik en verwijderingsbevelen zoveel mogelijk te bundelen, waardoor het bovendien ook voor burgers duidelijk is dat er één loket is waar zij terecht kunnen met vragen en meldingen.
Wanneer de eerste afspraken tussen Offlimits en de ATKM zijn overeengekomen, zullen deze openbaar worden gemaakt zodat ze kunnen worden betrokken bij de wetsbehandeling. Ten aanzien van het actief doen van onderzoek naar online kinderpornografisch materiaal is het echter pas mogelijk concrete afspraken openbaar te maken na inwerkingtreding van deze wet, omdat de ATKM pas op dat moment de bevoegdheden voor krijgt. Ook daar zal op een transparante manier mee om worden gegaan. Voor wat betreft de vraag over het samengaan van Offlimits en de ATKM wordt verwezen naar beantwoording hiervoor van vragen van de leden van de VVD-fractie in punt 4.3.
De leden van de VVD-fractie zijn benieuwd of de ATKM ook gebruik kan en mag maken van AI om haar taken uit te voeren zoals die aan haar zijn opgedragen in artikel 2 van het wetsvoorstel. Is het bijvoorbeeld mogelijk dat de ATKM op basis van een AI-gegenereerde melding kan afdwingen dat kinderpornografisch materiaal ontoegankelijk wordt gemaakt? Kan AI ook worden gebruikt bij de uitvoering van de onderzoekstaak van de ATKM? Graag ontvangen deze leden een reactie van de regering.
Ingevolge artikel 2, tweede lid onder b, is de ATKM bevoegd om zelfstandig onderzoek te doen naar de aanwezigheid van online kinderpornografisch materiaal. Dit onderzoek kan handmatig gebeuren, maar ook met meer innovatieve en automatische instrumenten zoals een webcrawler waarmee (deels) geautomatiseerd naar online kinderpornografisch materiaal wordt gezocht. Het is goed mogelijk dat een dergelijke webcrawler (deels) werkt op basis van Artifical Intelligence. In beide gevallen controleert de ATKM of het in het individuele geval daadwerkelijk om kinderpornografisch materiaal gaat. Deze controle kan plaatsvinden door een ter zake deskundige medewerker, maar kan ook geautomatiseerd worden verricht. In dit laatste geval wordt, eventueel in combinatie met de hiervoor genoemde crawler, gebruikgemaakt van de Instant Image Identifier.
Echter, voordat een aanwijzing wordt gegeven, dient altijd een menselijke toets plaats te vinden. Deze taak zal dus nooit door Artificial Intelligence worden overgenomen.
De leden van de VVD-fractie begrijpen dat het wetsvoorstel het voor de ATKM mogelijk maakt om een binnen Nederland gevestigde dienstverlener die online kinderpornografisch materiaal opslaat of doorgeeft een bindende aanwijzing te geven. In artikel 6, tweede lid is de volgordelijkheid neergelegd dat slechts als het in een individueel geval niet mogelijk blijkt om de aanwijzing te richten tot een hostingdienst, de aanwijzing gericht kan worden tot een andere aanbieder van een communicatiedienst. Dat is bijvoorbeeld het geval als een webpagina met online kinderpornografisch materiaal vanuit Nederland is te benaderen, maar niet met zekerheid is vast te stellen dat het desbetreffende materiaal op Nederlands grondgebied wordt gehost. Hier ontvangen deze leden graag een toelichting op. Betekent dit dat Nederland bijvoorbeeld ook bestuursrechtelijke aanbevelingen uit andere landen moet gaan uitvoeren?
Gelet op het uitgangspunt dat kinderpornografisch materiaal zoveel mogelijk moet worden verwijderd, wordt de aanwijzing primair gericht tot aanbieders van hostingdiensten: een aanbieder van een communicatiedienst bestaande uit de opslag van gegevens die van een ander afkomstig zijn. Het is echter niet altijd mogelijk de betrokken aanbieder van hostingdiensten te identificeren. Dat is onder meer het geval als een webpagina met kinderpornografisch materiaal weliswaar vanuit Nederland is te benaderen, maar niet met zekerheid is vast te stellen dat het desbetreffende materiaal ook daadwerkelijk op Nederlands grondgebied wordt gehost. Ook in deze gevallen kan het wenselijk zijn op te treden tegen de verspreiding van kinderpornografisch materiaal. In deze gevallen kan de aanwijzing worden gericht tot dienstverleners die gegevens doorgeven of toegang tot een communicatienetwerk verschaffen en tot dienstverleners die gegevens tijdelijk opslaan met als enige doel de doorgifte van de gegevens aan andere afnemers efficiënter te maken.
De ontoegankelijkmaking van op Nederlands grondgebied opgeslagen online kinderpornografisch materiaal kan gevolgen hebben voor de beschikbaarheid van dit type materiaal in het buitenland. De maatregelen strekken er niet toe de diensten van in een andere lidstaat gevestigde dienstverlener te beperken: de reikwijdte is beperkt tot in Nederland gevestigde dienstverleners. Vanuit Nederland wordt disproportioneel veel online kinderpornografisch materiaal via het internet ter beschikking gesteld. Daarom is Nederland verplicht zich, binnen zijn eigen nationale grenzen, zoveel mogelijk in te spannen om dit type materiaal ontoegankelijk te (laten) maken.
In dit wetsvoorstel wordt niets geregeld over de uitvoering van bestuursrechtelijke aanbevelingen ten aanzien van online kinderpornografisch materiaal uit andere landen. De CSA-verordening voorziet wel in mogelijkheden om in Europees verband op te treden tegen de verspreiding van online kinderpornografisch materiaal.
De leden van de VVD-fractie vragen daarnaast een nadere toelichting op de volgordelijkheid die is aangebracht in het wetsvoorstel in het tweede lid van artikel 6. In de memorie van toelichting schrijft de regering dat slechts wanneer in een individueel geval niet mogelijk blijkt de aanwijzing te richten tot een hostingdienst, de aanwijzing van de ATKM kan worden gericht tot een andere aanbieder van een communicatiedienst, zoals een internet access provider. Welke waarborgen zijn er nog meer of worden er overwogen om zoveel mogelijk kostbare tijd en inzet te blijven richten op het aanpakken van hostingdiensten in plaats van het uitgeven van blokkeerbevelen, die per definitie minder effectief zijn dan het rechtstreeks aanpakken van de hostingbedrijven die te weinig adequate maatregelen treffen tegen online kinderpornografisch materiaal? Is de regering bereid in dat licht in gesprek te gaan met de stakeholders om te bevorderen dat bijvoorbeeld de inspanningen die zijn verricht om het materiaal te verwijderen te delen met de internet service providers, voordat de ATKM een bevel uitvaardigt om content te blokkeren? Welke andere mogelijkheden ziet de regering om de volgordelijkheid van het tweede lid van artikel 6 echt van waarde te laten zijn?
Gelet op de beginselen van evenredigheid en zorgvuldigheid wordt de aanwijzing in eerste instantie altijd gericht tot de aanbieder die daarvoor het meest in aanmerking komt. Indien het materiaal in Nederland wordt gehost, is dit de aanbieder van een hostingdienst. Enkel in die gevallen waarin het niet mogelijk blijkt te zijn de aanbieder van een hostingdienst aan te spreken, bijvoorbeeld wanneer het (technisch) niet mogelijk is om de betrokken aanbieder van hostingdiensten te identificeren, kan de aanwijzing worden gericht tot een aanbieder van een communicatiedienst.
Er zijn in Nederland geen wettelijke verplichtingen voor het bedrijfsleven om klanten te screenen of onderzoek te doen. Wel zijn er verschillende vrijwillige initiatieven gaande die transparantie in de server- en hostingmarkt in Nederland moeten vergroten. Een eerste richting betreft het ondersteunen van de sector met informatie over criminele handelingen. De Stichting Nationale Beheersorganisatie Internet Providers werkt samen met het Ministerie van Justitie en Veiligheid aan het project Cleannetworks. Dit project beoogt het opzetten van een systeem om hostingproviders structureel te informeren over actuele criminele handelingen en kwetsbaarheden. Hierdoor kunnen zij deze activiteiten op hun eigen netwerken tegengaan en zich beveiligen tegen dreigingen.
Daarnaast is in gezamenlijkheid met de private sector een Gedragscode Abusebestrijding opgesteld. Deze bevat maatregelen die hostingproviders kunnen nemen tegen misbruik van hun diensten voor meerdere vormen van illegale activiteiten.
Om de volgordelijkheid van artikel 6, tweede lid, van het wetsvoorstel verder van waarde te laten zijn heeft het kabinet de ATKM in artikel 2, tweede lid, sub b, van het wetsvoorstel tevens de taak gegeven om onderzoek te doen naar, en informatie te verstrekken over, de aanwezigheid van online kinderpornografisch materiaal. Dit kan de ATKM doen in samenwerking met onder andere private partijen, zoals stakeholders. Zij zal als doel hebben om de samenwerking tussen marktpartijen en andere stakeholders te stimuleren en te bevorderen dat zij zoveel mogelijk zelf initiatieven blijven ontplooien en instrumenten ontwikkelen om online kinderpornografisch materiaal tegen te gaan. Ook internet service providers zullen onderdeel zijn van deze samenwerking en de uitwisseling van informatie.
De leden van de CDA-fractie lezen dat de ATKM samenwerking zoekt met vergelijkbare organen in het buitenland. Deze leden vragen of andere landen ook een soortgelijke autoriteit hebben opgericht of voornemens zijn om op te richten, waarmee effectief samen kan worden gewerkt.
Op dit moment loopt Nederland voorop en is het uniek in het oprichten van een autoriteit met bestuursrechtelijke bevoegdheden om de verspreiding van online kinderpornografisch materiaal tegen te gaan. Omdat andere landen een dergelijke autoriteit niet kennen voor dit type materiaal, is samenwerking met soortgelijke organen in het buitenland op dit moment niet aan de orde.
In Brussel wordt momenteel onderhandeld over de CSA-verordening waarin ook een rol voor een coördinerende autoriteit is voorzien. Het is aan lidstaten zelf om te bepalen welke autoriteit deze rol zal vervullen. Het is nu echter nog niet duidelijk wat het precieze tijdspad voor de onderhandelingen is.
De leden van de CDA-fractie lezen dat bij de ATKM een frontoffice wordt ingericht, waar onder andere het EOKM en de politie meldingen kunnen doen van online kinderpornografisch materiaal, maar ook natuurlijke personen of andere rechtspersonen. Deze leden vragen of voorlichtings- en publiekscampagnes worden georganiseerd om kenbaarheid te verspreiden van deze frontoffice, zodat direct duidelijk is waar meldingen van dergelijk materiaal kunnen worden gedaan.
Wanneer de ATKM operationeel wordt voor kinderpornografisch materiaal, zal een voorlichtingscampagne worden georganiseerd om kenbaarheid te creëren van het bestaan van de ATKM en het kunnen melden bij deze frontoffice. Tevens zal hier aandacht voor zijn op de website van de ATKM.
Wegens het reeds bestaande effectieve systeem van zelfregulering van kinderpornografisch materiaal, worden melders aangemoedigd eerst een melding bij Offlimits te doen, alvorens zij zich tot de ATKM wenden. In dat kader worden de samenwerkingsafspraken tussen de ATKM en Offlimits – omtrent de (gezamenlijke) afhandeling van binnengekomen meldingen – publiek toegankelijk en wordt de melder vooraf deze keuzemogelijkheden geboden.
De leden van de CDA-fractie lezen dat het onderzoeksgebied van de ATKM enkel ziet op materiaal dat zich op het openbare internet bevindt en dus door een gebruiker direct kan worden benaderd via bijvoorbeeld een link of adres. Wanneer voor de toegang tot informatie registratie of toelating tot een groep gebruikers vereist is, valt de informatie alleen onder het bereik van het wetsvoorstel wanneer gebruikers die toegang tot de informatie wensen automatisch worden geregistreerd of toegelaten zonder menselijke beslissing. Betekent dit dat online kinderpornografisch materiaal dat zich niet op het openbare internet bevindt, in beginsel via een strafrechtelijke procedure wordt afgedaan?
Ja, dit zal in beginsel via de wegen van opsporing en vervolging plaatsvinden. Het onderhavige wetsvoorstel bevat in ieder geval geen bevoegdheden om onderzoek te doen naar dan wel handhavend op te treden tegen materiaal dat zich op het niet-openbare deel van internet bevindt. Het onderhavige wetsvoorstel ziet niet op interpersoonlijke communicatiediensten, besloten groepen binnen platforms of op andere niet-openbare delen van het internet. Daarom zal de ATKM enkel onderzoek doen naar en handhaven op materiaal dat zich bevindt op het openbare deel van het internet.
De leden van de SP-fractie zien dat het Meldpunt Kinderporno van het EOKM een belangrijke rol speelt als het gaat om meldingen van kinderpornografisch materiaal. Deze leden zien hiermee een overlap met de ATKM. Sterker nog, er ontstaan op deze manier twee meldpunten met op het eerste oog nagenoeg dezelfde doelstelling. Kan de regering ingaan op de verschillen in taken en bevoegdheden van deze twee instellingen en op de verschillen in de vormen van de meldingen? Kan de regering tevens ingaan op de manier waarop de samenwerking tussen deze twee instellingen zal worden vormgegeven, zeker als het gaat om de meldingen van kinderpornografische content? Op welke manier gaat de regering bij de invoering van dit meldpunt aan de mogelijke gebruikers duidelijk maken wat de verschillen zijn?
De leden van de SP-fractie vragen om nadere toelichting omtrent de wijze waarop Offlimits en de ATKM naast elkaar gaan bestaan. Ook de leden van de ChristenUnie-fractie vroegen hiernaar. Aangezien de bestaande zelfregulering voor een groot deel effectief is, blijft de wijze waarop het Meldpunt Kinderporno (als onderdeel van Offlimits) meldingen vanuit burgers en het InHope netwerk verwerkt ongewijzigd. De bestaande systematiek van zelfregulering is op basis van vrijwilligheid. Meldingen die komen van Offlimits/Meldpunt Kinderporno zijn verzoeken tot verwijdering en hebben geen verplichtend karakter. Partijen die de Notice-and-Takedown code onderschrijven hebben zich eraan gecommitteerd om het materiaal van meldingen van het Meldpunt Kinderporno binnen 24 uur te verwijderen of ontoegankelijk te maken. Echter, indien er geen opvolging wordt gegeven aan een verzoek van het meldpunt kan verwijdering niet afgedwongen worden.
De ATKM wordt het sluitstuk van de zelfregulering. Het handhaven door de ATKM heeft geen vrijwillig karakter: een aanwijzing is bindend en indien er geen opvolging wordt gegeven, kan bestuursrechtelijk worden gehandhaafd. Het ligt voor de hand dat de ATKM zich vooral concentreert op dat deel van de sector dat geen gehoor geeft aan de verwijderverzoeken van Offlimits. Gelet op deze positionering van de ATKM zullen melders worden aangemoedigd eerst een melding bij Offlimits te doen, alvorens zij zich tot de ATKM wenden. De samenwerkingsafspraken tussen de ATKM en Offlimits – zullen publiek toegankelijk worden gemaakt.
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie lezen dat de ATKM náást de bestaande zelfregulering wordt geplaatst. Hoewel deze leden begrijpen dat het vrijwillig en uit eigen beweging verwijderen van online kinderpornografisch materiaal verschilt van de bestuursrechtelijke aanpak met sancties, zien zij ook de meerwaarde van een nauwe samenwerking tussen het EOKM en de ATKM. Zij lezen dat de ATKM afspraken zal maken met het EOKM over de samenwerking. Nu het EOKM al is aangemerkt als betrouwbare partij (trusted flagger) en beschikt over kennis en ervaring over het vinden en herkennen van online kinderpornografisch materiaal en het laten verwijderen daarvan, vragen zij in hoeverre de ATKM kan gaan samenwerken met het EOKM. Zij denken dan aan nauwe samenwerking waarbij de ATKM gebruik kan gaan maken van wat er al bij het EOKM aan kennis en ervaring bestaat, een samenwerking die wellicht verder gaat dan het maken van alleen afspraken. Kan de regering hier nader op ingaan? Acht de regering het mogelijk dat het EOKM en de ATKM in een organisatie (een zbo) verenigd worden? Zo ja, waarom? Zo nee, waarom niet?
Het Meldpunt Kinderporno van Offlimits heeft een bijzondere status verkregen als betrouwbare melder in de Notice and Takedown code. Zoals in de beantwoording van de vraag van de leden van de SP-fractie en de ChristenUnie-fractie ook staat, komen deze meldingen in de vorm van verwijderverzoeken en hebben daarmee geen verplichtend karakter. Het inwilligen van de verzoeken van het Meldpunt Kinderporno gebeurt dus op basis van vrijwilligheid. De ATKM is als handhaver met bestuursrechtelijke bevoegdheden uitdrukkelijk naast de bestaande zelfregulering gepositioneerd en het kabinet kiest er daarmee voor om de huidige zelfregulering in stand te houden. Offlimits heeft in nauwe samenwerking met de sector reeds een groot deel van het internet opgeschoond. Een groot deel van de sector werkt dus goed mee aan de verwijderverzoeken die worden gedaan en deze werking van de zelfregulering houdt het kabinet graag in stand. Wel heeft het er oog voor dat alle partijen goed meewerken of opvolging geven aan verzoeken. Hiervoor wordt de ATKM ingericht. Om deze tweetrapsraket in stand te houden voorziet de regering niet dat Offlimits en het ATKM samen verenigd worden. De taken van de twee organisaties zijn niet vergelijkbaar en bovendien heeft de ATKM een bredere taak, namelijk ook ten aanzien van het verwijderen van terroristische online-inhoud.
De leden van de ChristenUnie-fractie vragen wat de beweegredenen zijn voor zowel een meldpunt bij EOKM als wel bij de ATKM zelf. Hoe zullen deze meldpunten zich tot elkaar verhouden?
Aangezien de bestaande zelfregulering voor een groot deel effectief is, blijft de wijze waarop het Meldpunt Kinderporno (als onderdeel van Offlimits) meldingen vanuit burgers en het InHope netwerk verwerkt ongewijzigd. De ATKM wordt het sluitstuk van de zelfregulering. Het ligt voor de hand dat de ATKM zich vooral concentreert op dat deel van de sector dat geen gehoor geeft aan de verwijderverzoeken van Offlimits. Gelet op deze positionering van de ATKM zullen melders worden aangemoedigd eerst een melding bij Offlimits te doen, alvorens zij zich tot de ATKM wenden. De samenwerkingsafspraken tussen de ATKM en Offlimits zullen publiek toegankelijk worden gemaakt.
De leden van de VVD-fractie stellen eveneens enkele vragen over de verhouding van het wetsvoorstel tot de uitvoering van de TOI-verordening. Deze verordening is gericht op de ontoegankelijkmaking van terroristische online-inhoud. Daar geldt een verplichting om terroristische content binnen één uur te verwijderen. Bij kinderpornografisch materiaal is gekozen voor een periode van 24 uur. Waarom is het niet uitvoerbaar, zoals de regering schrijft in de reactie op het advies van de Afdeling, om ook voor kinderpornografisch materiaal binnen één uur ontoegankelijk te maken? Waarom is dat wel uitvoerbaar voor terroristische content? Deelt de regering het streven dat het wenselijk zou zijn om de termijnen voor alle strafbare content gelijk te trekken? Op welke termijn zou het mogelijk zijn voor de hostingbedrijven om kinderpornografisch materiaal binnen één uur na een melding ontoegankelijk te maken?
De leden van de ChristenUnie-fractie vragen waarom de regering van mening is dat bij terroristisch materiaal, zoals gesteld in de TOI-verordening, verwacht kan worden dat aanbieders materiaal binnen een uur kunnen verwijderen maar dat, uitgaand van de gedragscode, bij kinderpornografisch materiaal 24 uur een redelijke termijn is.
Voor de beantwoording van deze vragen wordt verwezen naar het antwoord op vragen van leden van de SP-fractie onder punt 2.1.
De leden van de VVD-fractie lezen in het advies van het OM dat het College van procureurs-generaal vraagt om een voorziening te treffen voor het uitwisselen van gegevens tussen de ATKM en het OM. Zo kan het noodzakelijk zijn voor de uitvoering van de taken van het OM dat er informatie wordt gedeeld met de ATKM. Dit advies wordt in het geheel niet overgenomen, onder de enkele verwijzing naar de stelling dat de politie en het OM ook zonder dat zij politiegegevens verstrekken bij de ATKM melding kunnen maken van online kinderpornografisch materiaal. Kan deze stelling uitgebreid worden onderbouwd? Waarom is het in geen enkel geval noodzakelijk dat politiegegevens worden verstrekt aan de ATKM? Is het toch niet verstandiger om het advies van het College van procureurs-generaal op te volgen en een duidelijke voorziening te treffen voor de uitwisseling van gegevens? Is er wel een adequate voorziening getroffen voor het delen van politiegegevens met de ATKM in het kader van terroristisch online inhoud?
Op grond van dit wetsvoorstel krijgt de ATKM onder meer tot taak de ontoegankelijkmaking van online kinderpornografisch materiaal af te dwingen. Het wordt daartoe mogelijk om (verondersteld) online kinderpornografisch materiaal bij de ATKM te melden. Hiertoe wordt een frontoffice ingericht, waar ook Offlimits en de politie een melding kunnen doen. Om te kunnen onderzoeken of het materiaal daadwerkelijk online kinderpornografisch materiaal betreft, is het voor de ATKM noodzakelijk te weten waar het materiaal zich bevindt. Dit kunnen de politie en het OM in beginsel ook melden zonder dat zij daarbij politiegegevens verstrekken. Om er zeker van te zijn dat de politie altijd bij de ATKM kan melden dat zich op het openbare internet online kinderpornografisch materiaal bevindt, zal worden onderzocht waar een passende grondslag kan worden opgenomen.
De leden van de VVD-fractie vragen de regering ook nader in te gaan op de afbakening van taken en bevoegdheden en gegevensuitwisseling tussen de ATKM en de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV). In hoeverre kan de NCTV bijvoorbeeld eigen informatie en analyses en/of informatie vanuit de inlichtingendiensten aan de ATKM sturen, zodat de ATKM dat kan gebruiken ter onderbouwing van een verzoek tot verwijdering van kinderpornografisch materiaal of terroristische online inhoud? Kan zulke informatie-uitwisseling op basis van bestaande wettelijke grondslagen, of is het verstandiger om hier een nieuwe specifieke grondslag voor te creëren?
De NCTV is verantwoordelijk voor de coördinatie op het gebied van terrorismebestrijding, cybersecurity, nationale veiligheid, crisisbeheersing en weerbaarheid tegen statelijke dreigingen. Vanuit deze rol signaleert, analyseert en deelt de NCTV geen informatie die verband houdt met online kinderpornografisch materiaal.
Als centraal punt binnen de Rijksoverheid waar dreigingsinformatie met betrekking tot terrorisme wordt geïntegreerd en verrijkt met eigen expertise kan de NCTV fenomenen en analyses delen met de ATKM wanneer dit voor de uitvoering van hun taak relevant wordt geacht. Deze fenomenen en analyses bevatten geen persoonsgegevens, en dus kan informatie-uitwisseling plaatsvinden op basis van bestaande wettelijke grondslagen.
De leden van de VVD-fractie stellen dat in de meegestuurde beslisnota te lezen is dat de inmiddels definitief vastgestelde Digitaledienstenverordening tot gevolg heeft dat het niet meer toegestaan is om de zorgplicht, zoals voorgesteld in artikel 7 van het wetsvoorstel, in te voeren. Deze leden vragen welke exacte zorgvuldigheids-verplichtingen zijn opgenomen in de Digitaledienstenverordening, of deze zorgvuldigheidsverplichtingen nopen tot wijziging van Nederlandse wetgeving en hoe deze verplichtingen zich verhouden tot de zorgplicht van artikel 7 van onderhavig wetsvoorstel. Graag ontvangen zij een toelichting hierop.
De DSA is als verordening rechtstreeks van toepassing in Nederland. Blijkens artikel 1 DSA voorziet de verordening in geharmoniseerde regels over het aanbieden van tussenhandeldiensten op de interne markt. Blijkens overweging 9 bij de DSA harmoniseert de DSA de regels die van toepassing zijn op tussenhandeldiensten op de interne markt volledig. Er is met andere woorden sprake van maximumharmonisatie. De lidstaten mogen derhalve geen aanvullende nationale eisen stellen of in stand houden die binnen het toepassingsgebied van de verordening vallen, tenzij daarin uitdrukkelijk is voorzien in de verordening. Dat zou namelijk ten koste gaan van de rechtstreekse en uniforme toepassing van de volledig geharmoniseerde regels overeenkomstig de doelstellingen van de DSA. Zoals in de inleiding toegelicht, bevat de DSA onder meer regels over de zorgvuldigheidsverplichtingen die worden opgelegd aan aanbieders van tussenhandeldiensten. Een hostingdienst is een vorm van een tussenhandeldienst. De artikelen 11 tot en met 15 van de DSA bevatten zorgvuldigheidsverplichtingen voor alle aanbieders van een tussenhandeldienst. Het gaat om het instellen van een contactpunt, het aanwijzen van een wettelijk vertegenwoordiger in de EU door aanbieders die geen hoofdvestiging in de EU hebben, het opstellen van algemene voorwaarden waarin informatie is opgenomen over eventuele beleidsmaatregelen, procedures, maatregelen en instrumenten die worden ingezet voor inhoudsmoderatie en de procedurevoorschriften van hun interne klachtenafhandelingssysteem en transparantierapportageverplichtingen.
In artikel 16 tot en met 18 van de DSA zijn aanvullende bepalingen opgenomen voor aanbieders van hostingdiensten, waaronder onlineplatforms. Op grond van die artikelen zijn aanbieders van hostingdiensten verplicht om te voorzien in een kennisgevings- en actiemechanisme, de verplichting om te motiveren waarom sprake is van een aan een gebruiker opgelegde beperking en de verplichting om rechtshandhavings- of gerechtelijke autoriteiten van de betrokken lidstaat of lidstaten onverwijld op de hoogte te stellen van een vermoeden van een strafbaar feit.
Nu de DSA reeds voorziet in geharmoniseerde zorgvuldigheidsverplichtingen voor hostingdiensten, is het niet toegestaan om in het nationale recht aanvullende zorgvuldigheidsverplichtingen op te nemen voor aanbieders van tussenhandeldiensten die dezelfde doelstelling hebben als de verordening.
Aanpassing van andere nationale wetgeving, anders dan zoals voorzien met de nota van wijziging, in verband met de zorgvuldigheidsverplichtingen in de DSA is op dit moment niet voorzien De Uitvoeringswet Digitaledienstenverordening, die op dit moment in voorbereiding is, voorziet wel in het schrappen of wijzigen van andere Nederlandse wetgeving in verband met het rechtstreeks werkende karakter van de DSA.
De leden van de VVD-fractie constateren dat er in de Digitaledienstenverordening eveneens een duidelijker onderscheid gemaakt is tussen verplichtingen van social media platforms, hostingbedrijven en internet service providers. Deze leden begrijpen dat het voor de bevoegdheden van de ATKM om sancties zoals het opleggen van bestuurlijke boetes niet zozeer nodig is dit onderscheid duidelijker te maken. Wel is het relevant voor de verplichtingen voor de sector die voortvloeien uit het wetsvoorstel. Is het voor alle drie de type aanbieders van communicatiediensten voldoende duidelijk wat er van hen wordt verwacht en wanneer zij voldoen aan de wettelijke zorgplicht? Zij vragen of bij de nota van wijziging die wordt voorbereid nog nader onderscheid wordt gemaakt tussen verplichtingen voor social media platforms, hostingbedrijven en internet service providers.
Omdat artikel 7 bij nota van wijziging uit het wetsvoorstel is geschrapt bevat het wetsvoorstel geen verplichtingen meer in het kader van de zorgplicht. Wel kan een aanwijzing op grond van artikel 6 van het wetsvoorstel worden gericht aan een aanbieder van hostingdiensten en als dat niet mogelijk is tot een aanbieder van een communicatiedienst. Deze aanbieders zijn vervolgens verplicht alle redelijkerwijs te nemen maatregelen te treffen om dit materiaal ontoegankelijk te maken. Aanbieders dienen overeenkomstig de aanwijzing te handelen. De nota van wijziging brengt daarin geen verandering en daarbij wordt derhalve geen nieuw onderscheid geïntroduceerd in de verschillende soorten aanbieders.
De leden van de ChristenUnie-fractie vragen in hoeverre het invoeren van deze regel kan leiden tot een botsing met Europese wetgeving. Deze leden zouden tevens graag meer inzage willen hebben in de aanvullende werking van de Europese wetgeving, zoals artikel 9, vijfde lid van de Digitaledienstenverordening, waarin een termijn wordt gesteld met betrekking tot het geven van een gevolg aan een aanwijzing.
Voor zover de vraag van de leden van ChristenUnie-fractie betrekking heeft op artikel 7 van het wetsvoorstel en de verhouding tot de DSA wordt verwezen naar de beantwoording van de eerste vraag in deze paragraaf van de leden van de VVD-fractie.
Voor wat betreft de verhouding tot de DSA geldt daarnaast dat de aanwijzing op grond van dit wetsvoorstel zal moeten voldoen aan de eisen van artikel 9 van de DSA, als horizontaal en algemeen kader voor tussenhandeldiensten. Het tweede lid van artikel 9 van de DSA bepaalt dat een bevel om op te treden tegen illegale inhoud ten minste de volgende elementen dient te bevatten:
a. een verwijzing naar de Unie- of nationaalrechtelijke rechtsgrond voor het bevel;
b. een motivering waarin wordt uitgelegd waarom de informatie illegale inhoud vormt, onder verwijzing naar een of meerdere specifieke bepalingen van het Unierecht of het met het Unierecht in overeenstemming zijnde nationaal recht;
c. informatie ter identificatie van de uitvaardigende autoriteit;
d. duidelijke informatie waarmee de aanbieder de betrokken illegale inhoud kan identificeren en lokaliseren, zoals een of meerdere exacte URL’s en indien nodig bijkomende informatie;
e. informatie over de verhaalmechanismen die ter beschikking staan van de aanbieder van en de afnemer van de dienst die de inhoud verstrekten;
f. in voorkomend geval vermelding van de autoriteit waaraan de informatie over het aan de bevelen gegeven gevolg moet worden verschaft.
Artikel 9, eerste lid, DSA bepaalt verder dat de aanbieder de beveluitvaardigende autoriteit, in dit geval de ATKM, onverwijld in kennis stelt van het gevolg dat aan de aanwijzing is gegeven met vermelding of, en zo ja wanneer aan de aanwijzing opvolging is gegeven. Artikel 9, derde lid, DSA verplicht de ATKM daarnaast om de aanwijzing samen met de ontvangen informatie van de aanbieder over het aan de aanwijzing gegeven gevolg door te sturen aan de digitaledienstencoördinator. Uiterlijk op het tijdstip waarop gevolg is gegeven aan de aanwijzing of in voorkomend geval op het door de ATKM in de aanwijzing genoemde tijdstip stellen aanbieders van hosting- of communicatiediensten de afnemer van de betrokken dienst in kennis van de ontvangen aanwijzing en het daaraan gegeven gevolg, zo bepaalt het vijfde lid van artikel 9 van de DSA. Dergelijke aan de afnemers van de dienst verstrekte informatie vermeldt overeenkomstig het tweede lid een motivering en de bestaande verhaalsmogelijkheden.
De DSA werkt rechtstreeks door in de Nederlandse rechtsorde. Daar waar dat nodig was, is dit wetsvoorstel aangepast aan de eisen die de DSA daaraan stelt.
De leden van de SP-fractie constateren dat de ATKM bij invoering van deze wet internet acces providers kan gaan bevelen om websites met kinderpornografisch materiaal te blokkeren. Dat zouden deze leden uiteraard alleen maar willen toejuichen, maar zij vragen wel of dit in de praktijk makkelijk mogelijk zal zijn. Kan de regering aangeven op welke manier internet acces providers dit kunnen herkennen? Hoe gaat het toezicht door de ATKM hierop er precies uitzien? Ziet de regering enkel een blokkade van de websites die dit aanbieden als een aanpak van de kern van het materiaal, en daarmee de kern van het probleem?
De kern van de aanpak bestaat uit het doen van onderzoek – al dan niet op basis van een melding – naar online kinderpornografisch materiaal en het zo nodig bestuursrechtelijk handhaven hiervan. Het versturen van een aanwijzing aan een aanbieder van communicatiedienst, wanneer het niet mogelijk blijkt de aanwijzing te richten tot een aanbieder van hostingdienst, draagt daarbij aan.
Omdat internet access providers louter gegevens doorgeven en ze niet (langdurig) opslaan, kan de aanwijzing gericht tot deze aanbieders er niet toe strekken dat kinderpornografisch materiaal daadwerkelijk wordt verwijderd. Wel kan aangegeven worden waar het materiaal zich bevindt zodat de internet access providers de locatie kunnen herkennen en blokkeren. Het blokkeren van het kinderpornografisch materiaal is in een dergelijk geval het hoogst haalbare en draagt bij aan het voorkomen van de verdere verspreiding van dit type materiaal.
Daarnaast is het mogelijk als onderdeel van de taak van de ATKM om samen met private partijen te doen aan informatie-uitwisseling en ook marktpartijen te stimuleren om instrumenten te ontwikkelen om de aanpak van online seksueel kindermisbruik te versterken.
Zoals in de beantwoording van eerdere vragen ook al is gemeld, zijn er geen wettelijke verplichtingen of criteria die het bedrijfsleven verplicht om klanten te screenen of onderzoek te doen. Wel zijn er vrijwillige initiatieven gaande zoals Cleannetworks of de Gedragscode Abusebestrijding om de transparantie in de hostingsector te vergroten.
Tot slot vragen de leden van de VVD-fractie of bij de nota naar aanleiding van het verslag bij het wetsvoorstel de laatste stand van zaken kan worden gegeven met betrekking tot de lopende onderhandelingen over de verordening betreffende voorschriften ter voorkoming en bestrijding van seksueel kindermisbruik (Verordening aanpak seksueel kindermisbruik)12, en in hoeverre de laatste teksten afwijken van de Nederlandse inzet zoals verwoord in het BNC-fiche.13 Deze leden vragen ook in algemene zin hoe onderhavig wetsvoorstel zich verhoudt tot de Verordening aanpak seksueel kindermisbruik. In het bijzonder vragen zij of de ATKM naar verwachting ook de instantie zal zijn die de Verordening aanpak seksueel kindermisbruik en de regelgeving die daaruit voortvloeit uit zal voeren, en zo ja, of de ATKM ook betrokken is bij de onderhandelingen over de Verordening aanpak seksueel kindermisbruik.
Onder het Spaanse voorzitterschap van de Raad van de Europese Unie is het in de tweede helft van 2023 niet gelukt om tot een algemene oriëntatie op deze verordening te komen. Het voorstel bestaat uit verplichtingen voor aanbieders van hostingdiensten en interpersoonlijke communicatiediensten, onder andere om het risico te beoordelen dat hun diensten worden gebruikt voor het verspreiden van materiaal van seksueel online kindermisbruik en het benaderen van kinderen voor seksuele doeleinden (grooming) en om materiaal te verwijderen. Onder bepaalde omstandigheden kunnen deze bedrijven ook worden verplicht om dit materiaal te detecteren. Deze verplichting in de huidige vorm is op te veel bezwaren van lidstaten gestuit om tot een akkoord te komen.
Nederland ziet alleen op het gebied van detecteren van reeds bekend materiaal op interpersoonlijke communicatiediensten acceptabele technologische mogelijkheden. De mogelijkheden voor detectie van nieuw materiaal of grooming acht Nederland thans niet toelaatbaar omdat zij een ongerechtvaardigde inbreuk op het privéleven vormen. Daarom kon ook Nederland niet instemmen met het voorstel. Momenteel is België voorzitter. Mogelijk komt het Belgisch voorzitterschap met een nieuw compromisvoorstel; over mogelijke nieuwe compromissen zal de Kamer separaat geïnformeerd worden.
In het huidige ontwerpvoorstel worden enkele bevoegdheden, zoals het uitvaardigen van allerlei typen bevelen en het delen van informatie met het EU Centrum, toebedeeld aan een nationale bevoegde autoriteit. Het ligt voor de hand dat in Nederland de ATKM daartoe de aangewezen instantie zal worden mocht het zover komen. Hierover zal met de ATKM nader overleg worden gevoerd als meer duidelijk is over de reikwijdte en bevoegdheden in de verordening.
De leden van de CDA-fractie lezen dat de Europese Commissie een voorstel heeft gepubliceerd voor een Verordening aanpak seksueel kindermisbruik, waarover momenteel in Brussel wordt onderhandeld. Deze leden vragen of onderhavig wetsvoorstel op de gepubliceerde verordening aansluit en welke positie Nederland inneemt in de onderhandeling omtrent de verordening.
Zoals hierboven in antwoord op de vragen van de leden van de VVD-fractie al is vermeld, is Nederland kritisch ten aanzien van het opnemen van een detectiebevel in de verordening voor onbekend materiaal en grooming. Voor bekend materiaal ziet Nederland wel mogelijkheden, mits er aan voldoende randvoorwaarden en waarborgen wordt voldaan. Het is op dit moment nog niet duidelijk wat de uiteindelijke tekst van de verordening zal worden en evenmin is helder per wanneer de Verordening van toepassing wordt. Daarom is ook besloten om de onderhandelingen niet af te wachten en door te gaan met het opzetten van de ATKM voor de Nederlandse aanpak van online kinderpornografisch materiaal. Wanneer de Verordening definitief is aangenomen, zal worden gestart met de benodigde uitvoeringswet. Omdat wel duidelijk is dat er grote overlap zal bestaan tussen de Verordening en dit wetsvoorstel zal de onderhavige wet moeten worden ingetrokken zodra deze verordening van toepassing wordt.
De leden van de CDA-fractie maken zich enige zorgen dat de kritische opstelling van Nederland bij de onderhandelingen over dit EU-voorstel potentieel ondermijnend is voor de effectiviteit van onderhavige wetsvoorstel. Deze leden vragen in hoeverre de voorgestelde bestuursrechtelijke aanpak effectief kan zijn als er geen instrumenten zijn om encryptie te doorbreken, waardoor online kinderpornografisch materiaal inclusief de verspreiding en de verspreider onder de radar blijven. Zij vragen of de regering de mening deelt dat het eerst nodig is om online kinderpornografisch materiaal inclusief de hosters en verspreiders adequaat te kunnen detecteren, alvorens tot (bestuursrechtelijke) maatregelen over te kunnen gaan. En zo ja, dan roepen zij de regering op om ervoor te zorgen dat het EU-voorstel geen afbreuk doet aan de effectiviteit van onderhavige wetsvoorstel, door instrumenten om encryptie te doorbreken te snel terzijde te schuiven.
De ATKM krijgt op basis van het onderhavige wetsvoorstel de bevoegdheden om onderzoek te doen en aanwijzingen uit te vaardigen ten aanzien van online kinderpornografisch materiaal dat zich bevindt op het openbare deel van het internet. Deze aanwijzingen dienen gericht te zijn op specifieke aanbieders en gericht te zijn op de feiten en omstandigheden waarop een aanwijzing ziet. Deze moeten dus eerst bekend zijn voordat de ATKM bestuursrechtelijk zal handhaven.
Dit wetsvoorstel heeft geen betrekking op interpersoonlijke communicatiediensten zoals Whatsapp en Signal en ook niet op aanbieders van hostingdiensten die diensten aanbieden op het niet-openbare deel van internet, zoals diverse clouddiensten of besloten groepen op social media. De ATKM heeft derhalve geen bevoegdheden nodig om encryptie te doorbreken. Daarmee is het EU-voorstel ook niet ondermijnend voor de taken van de ATKM die worden geregeld met dit wetsvoorstel.
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie lezen dat de regering zorgen heeft over het voorstel voor de Verordening aanpak seksueel kindermisbruik omdat met die verordening een potentieel vergaande inbreuk kan worden gemaakt op het recht op privéleven, het recht op gegevensbescherming en het telecommunicatiegeheim van burgers. Deze leden delen die zorgen zeer. Zij vragen hoe de bestuursrechtelijke aanpak van online kinderpornografisch materiaal zich met name op het punt van het recht op privéleven, gegevensbescherming en het telecommunicatiegeheim van burgers zich verhoudt tot de genoemde verordening. Kan de regering bevestigen dat op grond van het voorliggend wetsvoorstel het uitgesloten is dat de ATKM encrypties of andere beveiligingsmaatregelen kan doorbreken of anderszins het recht op privéleven, het recht op gegevensbescherming en het telecommunicatiegeheim van burgers gaat doorbreken? Zo nee, waarom niet?
Het wetsvoorstel maakt geen inbreuk op het telecommunicatiegeheim en het recht op privéleven. Wel geeft dit wetsvoorstel de ATKM bevoegdheden ten aanzien van aanbieders van hostingdiensten op het openbare deel van internet. Met het openbare internet wordt bedoeld dat deel van het internet dat door een gebruiker direct kan worden benaderd, bijvoorbeeld via een link, een adres of een inlog. Dit betekent dat wanneer voor de toegang tot informatie registratie of toelating tot een groep gebruikers vereist is, zij alleen onder het bereik van het wetsvoorstel valt wanneer gebruikers die toegang tot de informatie wensen, automatisch worden geregistreerd of toegelaten zonder menselijke beslissing of selectie van wie toegang krijgt. Alleen dan kan namelijk worden gesproken van het «openbare internet». Dit voorstel biedt derhalve geen grondslag voor het kennisnemen van bronnen waarbij een aanvullende handeling, die in feite niet volledig geautomatiseerd is, is vereist en waarvoor een «deurbeleid» bestaat in de vorm van een beoordeling van de accounthouder (in enige mate doorbreken van een beveiliging).
De ATKM wordt krachtens dit wetsvoorstel niet toegerust met opsporingsbevoegdheden, omdat dat niet past bij de taak die het wetsvoorstel aan de ATKM toekent. De ATKM wordt op grond van dit wetsvoorstel evenmin toegerust met bevoegdheden om encryptie te doorbreken. De taak van de ATKM is immers het zo snel mogelijk ontoegankelijk doen maken van online kinderpornografisch materiaal op het openbare deel van het internet en niet het opsporen van de plaatsers van dit materiaal. Daarmee zijn de politie en het openbaar ministerie belast.
Bij het onderzoeken naar en het ontoegankelijk maken van online kinderpornografisch materiaal worden persoonsgegevens verwerkt, die in voorkomend geval bijzonder dan wel strafrechtelijk van aard kunnen zijn. De verwerking van deze bijzondere categorieën van persoonsgegevens dan wel strafrechtelijke persoonsgegevens is noodzakelijk, omdat op het beeldmateriaal een minderjarige persoon zichtbaar zal zijn en (veelal) een persoon die een bepaalde handeling met die minderjarige verricht, en waaruit deze gegevens kunnen worden afgeleid. Daarom is voorzien in een grondslag voor verwerking van deze persoonsgegevens. Deze verwerking is noodzakelijk om redenen van zwaarwegend algemeen belang: het ontoegankelijk maken van kinderpornografisch materiaal en het voorkomen van verdere kennisneming en verspreiding daarvan.
De leden van de PvdA-fractie en de leden van de GroenLinks-fractie lezen dat Nederland in de onderhandelingen over de genoemde verordening zich ervoor zal inzetten dat, «waar mogelijk, de verwijdering van zowel terroristische online-inhoud als online kinderpornografisch materiaal op een uniforme wijze kan worden ingericht.». Gaat de regering zich ook inzetten om te voorkomen dat het recht op privéleven, het recht op gegevensbescherming en het telecommunicatiegeheim van burgers beter wordt gewaarborgd dan nu in het voorstel voor die verordening staat? Zo ja, op welke wijze? Zo nee, waarom niet?
Het beter borgen van grondrechten zoals het recht op privéleven, gegevensbescherming en het telecommunicatiegeheim is onderdeel van de Nederlandse inzet voor de onderhandelingen. Nederland kan daarom ook niet akkoord gaan met een bepaling voor een detectiebevel voor onbekend materiaal of grooming omdat een dergelijke bepaling niet proportioneel is en daarmee een niet-gerechtvaardigde inbreuk op enkele grondrechten maakt. Alleen voor een detectiebevel op bekend materiaal ziet Nederland mogelijkheden. In de onderhandelingen roept Nederland daarnaast op om extra waarborgen en randvoorwaarden in de verordening in te bouwen die zien op detectie van bestaand materiaal.
De leden van de ChristenUnie-fractie vragen wanneer deze wet is voorzien in werking te treden en hoeveel werking deze wet nog heeft na het ingaan van de Verordening aanpak seksueel kindermisbruik, zeker met het oog op het tijdstip van ingang van deze wet en de ingang van de Verordening aanpak seksueel kindermisbruik.
De regering hoopt dat deze wet zo snel mogelijk in werking kan treden om de ATKM de bevoegdheden te geven op te treden tegen online materiaal van seksueel kindermisbruik. Wanneer de CSA-Verordening definitief is aangenomen, zal worden gestart met de daarvoor benodigde uitvoeringswet. Hoewel de inhoud van deze verordening nog niet vaststaat en het derhalve evenmin helder is per wanneer de verordening van toepassing wordt, staat wel vast dat er grote overlap met dit wetsvoorstel zal zijn. Gelet hierop zal deze wet moeten worden ingetrokken zodra deze verordening van toepassing wordt.
De leden van de SP-fractie willen de regering vragen waarop gebaseerd is dat de ATKM maximaal 150 dossiers per jaar zal behandelen en of dit toereikend geacht wordt. Waarom denkt de regering dat het eerste jaar de structurele kosten lager zullen uitvallen? Wat gaat de regering doen als de structurele kosten in het eerste jaar toch hoger zullen uitvallen?
De leden van de ChristenUnie-fractie vragen waarop de regering baseert dat de ATKM maximaal 150 dossiers per jaar zal behandelen en hoe die dossiers eruit zullen zien.
De schatting van het aantal zaken waarop de ATKM zal gaan handhaven is gebaseerd op het aantal meldingen dat bij het Meldpunt Kinderporno binnenkomt en waar geen gehoor wordt gegeven aan een verwijderverzoek. De structurele kosten zullen mogelijk in het eerste jaar lager uitvallen omdat nog gewerkt moet worden aan samenwerkingsovereenkomsten, de naamsbekendheid van de ATKM nog moet groeien en nog niet alle voorziene personeelsleden direct geworven zullen zijn. Indien de structurele kosten in het eerste jaar toch hoger uit zullen vallen, dan kan de ATKM hierover met het ministerie in overleg treden.
De leden van de ChristenUnie-fractie vragen onder welk gepland aantal fte’s het onderzoek doen van de ATKM naar kinderpornografisch materiaal zal vallen en of de regering verwacht dat dit voldoende zal zijn.
In de businesscase die voor de oprichting van de ATKM is opgesteld wordt uitgegaan van een aantal van 6 fte voor de behandeling van meldingen. Hier valt ook deels de onderzoekstaak onder. Het is aan de ATKM om de verdeling van capaciteit verder vorm te geven. Indien in de toekomst blijkt dat hier meer capaciteit aan moet worden toegevoegd kan de ATKM in gesprek treden met het ministerie.
De leden van de ChristenUnie-fractie vragen of, aangezien de TOI-verordening al ingegaan is en de Autoriteit van dit wetsvoorstel samengaat met de in de TOI opgerichte Autoriteit, de kosten van één miljoen euro aan op- en inrichting dus zullen te komen vervallen voor deze Autoriteit. Daarbij vragen deze leden waarom de regering verwacht dat de kosten in het eerste jaar lager uit zullen vallen en of, aangezien de TOI-autoriteit al opgericht is, deze verlaging in kosten nog zal blijven staan.
Het is niet de verwachting dat de kosten voor de oprichting zullen komen te vervallen. Voor de specifieke taken op het gebied van kinderpornografisch materiaal moeten aparte processen en IT-systemen worden opgezet. Omdat de mandaten en bevoegdheden voor deze twee typen content verschillen, kan niet een-op-een gezegd worden dat omdat de ATKM voor de taak ten aanzien van terroristische online-inhoud al is opgericht, de kosten ten aanzien van de taak voor het kinderpornografisch materiaal meteen hoger zullen uitvallen.
De leden van de SP-fractie willen de regering vragen meer in detail te treden over de financiële gevolgen voor de rechtspraak als wel de werkdruk. Wat verwacht de regering voor de financiën en de werkdruk bij inwerkingtreding van dit wetsvoorstel? Heeft de regering hier voldoende rekening mee gehouden?
Naar verwachting kan met de komst van de ATKM gemakkelijker en vaker tot ontoegankelijkmaking van materiaal worden overgegaan zonder dat daarvoor een gang naar de rechter benodigd is. Het gaat bij de ATKM nadrukkelijk om online beeldmateriaal; de aanpak van daders (vervaardigers en verspreiders) blijft in het strafrecht. Wat de precieze financiële consequenties en gevolgen voor de werkdruk zullen zijn voor de rechtspraak is lastig te voorspellen. Als gevolg van de besluitvorming bij de ATKM staat de rechtsgang naar de bestuursrechter open; het is nu echter nog niet duidelijk in hoeveel gevallen de gang naar de bestuursrechter zal worden ingezet nadat een partij het niet eens is met een door de ATKM genomen besluit. In zijn consultatieadvies geeft de Raad voor de Rechtspraak zelf aan te verwachten dat het aantal bezwaar- en beroepsprocedures dat volgt uit besluiten van de ATKM beperkt zal zijn.14 Daarmee zullen de gevolgen voor de werklast van de Rechtspraak naar verwachting ook beperkt zijn. Dit aspect zal worden meegenomen bij de invoeringstoets. De invoeringstoets is een instrument om nieuwe wet- en regelgeving na de invoering te toetsen en de werking en de effecten van de nieuwe maatregelen te evalueren. Naast de financiële consequenties zal dan onder andere ook gekeken worden naar het aantal aanwijzingen dat wordt uitgevaardigd, de samenwerking met de sector, het aantal boetes dat wordt opgelegd en de opvolging daarvan. Ook het effect op de strafrechtketen zal met de invoeringstoets worden meegenomen.
Artikel 1
De leden van de CDA-fractie lezen dat onder hostingdiensten wordt verstaan de aanbieder die een communicatiedienst verleent bestaande in de opslag van gegevens die van een ander afkomstig zijn. Onder de reikwijdte van deze definitie vallen onder meer aanbieders van serverruimte, maar ook social media platforms voor zover zij ruimte aanbieden voor het opslaan van gegevens, zoals websites. De opslag dient enige duur van betekenis te hebben. Deze leden vragen wat de omvang is van die duur en vanaf welke duur dit een vorm van betekenis heeft. Wat wordt precies verstaan onder «kortstondig opslaan»?
Er is geen wettelijke bepaling die precies aanduidt hoe lang enige duur van betekenis precies is. Het automatisch en kortstondig opslaan van gegevens om de latere doorgifte van die gegevens aan gebruikers van een dienst efficiënter te maken («caching») valt niet onder de reikwijdte. Evenmin onder de reikwijdte valt de aanbieder wiens dienstverlening bestaat uit het louter doorgeven van informatie of het verschaffen tot toegang van een communicatienetwerk («mere conduit», waaronder access providers). Het zal afhangen van de omstandigheden van het geval, bijvoorbeeld het totaal aantal bezoekers die het opgeslagen materiaal raadplegen, wanneer de duur van de opslag betekenis heeft gehad.
Artikel 6
De leden van de CDA-fractie lezen dat het soms niet mogelijk is om de betrokken aanbieder van hostingdiensten te identificeren, bijvoorbeeld als deze in het buitenland is gevestigd. Hoe verloopt op dit moment de communicatie met buitenlandse hostingdiensten? En op welke manier kan de ATKM ervoor zorgen dat ook buitenlandse hostingdiensten niet gevrijwaard zijn van een aanwijzing om online kinderpornografisch materiaal dat op hun dienst wordt verspreid, te verwijderen?
Het onderhavige wetsvoorstel richt zich alleen op aanbieders die zijn gevestigd in Nederland. De ATKM heeft daarom op grond van dit wetsvoorstel geen bevoegdheden ten aanzien van in het buitenland gevestigde aanbieders.
De leden van de CDA-fractie constateren dat in de praktijk vaak een lange keten van internationale resellers bestaat, waardoor het zeer lastig is om de uiteindelijke hostingdienst te identificeren. Deze leden vragen of de regering dit risico onderkent en in hoeverre dit voorstel in maatregelen voorziet om ook effectief in de keten op te treden. Zij vragen in hoeverre een aanbieder van een hostingdienst aansprakelijk is of kan worden gesteld voor overtredingen in de keten waar hij redelijkerwijs weet van kan hebben.
Het probleem met resellers is bekend bij het kabinet. De DSA regelt dat de vrijstelling van aansprakelijkheid voor aanbieders van hostingdiensten vervalt indien de aanbieder wist of behoorde te weten van illegale activiteit op zijn hostingdienst en hij daar niet prompt op gehandeld heeft. Overweging 20 bij de verordening verduidelijkt verder dat een aanbieder van een tussenhandeldienst die opzettelijk met een afnemer samenwerkt om illegale activiteiten te ontplooien geen neutrale dienst verricht en daarom niet in aanmerking komt voor de aansprakelijkheidsvrijstellingen. Dat is blijkens die overweging bijvoorbeeld het geval wanneer de aanbieder zijn dienst aanbiedt met als voornaamste doel om illegale activiteiten te faciliteren, bijvoorbeeld door daar uitdrukkelijk op te wijzen, daarvoor te adverteren of door gebruikers aan te sporen illegale activiteiten te verrichten. Daarnaast legt de DSA aanbieders van hostingdiensten een aantal zorgvuldigheidsverplichtingen op, waarop aanbieders ook kunnen worden aangesproken. Een (malafide) aanbieder kan hierdoor niet meer simpelweg onbereikbaar zijn of geen inzicht bieden in de wijze waarop hij opereert. Het is aan de toezichthouder op de DSA, waarvoor de ACM is beoogd, om toe te zien op de zorgvuldigheidsverplichtingen en daarop zo nodig te handhaven.
Artikel 10
De leden van de D66-fractie merken op dat dit artikel het mogelijk maakt voor de ATKM om een bestuurlijke boete voor het niet opvolgen van een aanwijzing openbaar te maken. Een bestuurlijke boete voor het niet opvolgen van de zorgplicht kan daarentegen niet openbaar worden gemaakt op basis van deze wet. Kan de regering dat verschil toelichten?
Zoals in de inleiding toegelicht is de zorgplicht bij nota van wijziging uit het wetsvoorstel geschrapt. Een antwoord op deze vraag is daarom niet meer relevant.
Artikel 13
De leden van de BBB-fractie constateren dat artikel 13 van de wet ingaat op het behoud van het kinderpornografisch materiaal. Deze leden begrijpen dat het materiaal wordt bewaard ten behoeve van de strafvordering of de bestuursrechtelijke procedure. Helaas wordt er hierna niet ingegaan op het vernietigen van het kinderpornografisch materiaal. Waarom wordt er in de wet niet ingegaan op het vernietigen van de beelden? Is de regering bereid dit op te nemen in de wet? Zo nee, waarom niet?
Op grond van artikel 13 worden bij algemene maatregel van bestuur nadere regels gesteld met betrekking tot het behoud van online kinderpornografisch materiaal. De ontoegankelijkmaking kan ertoe leiden dat online kinderpornografisch materiaal wordt verwijderd van het openbare deel van internet. Gelet op het belang van deze gegevens voor een eventuele bestuursrechtelijke of strafrechtelijke procedure, is het van belang dat een kopie van dit materiaal behouden blijft. Het artikel voorziet daarom in een grondslag om bij algemene maatregel van bestuur regels te stellen over het behoud en de opslag van het materiaal en de daarbij bijbehorende persoonsgegevens. Daarbij worden in elk geval regels gesteld over de daarvoor geldende bewaartermijnen. Gelet op het beginsel van opslagbeperking is het uitgangspunt dat persoonsgegevens niet langer worden bewaard dan noodzakelijk is voor de doeleinden waarvoor zij zijn verzameld.
Deze algemene maatregel van bestuur zal ook ingaan op de termijnen waarbinnen het materiaal moet worden vernietigd. Omdat ten aanzien van de verwerking van persoonsgegevens en het behoud van online kinderpornografisch materiaal nog meer dingen moeten worden geregeld dan alleen bewaartermijnen, is ervoor gekozen dit te regelen op het niveau van een algemene maatregel van bestuur. Daarbij moet in ieder geval worden gedacht aan de manier waarop de ATKM dit (strafbare) materiaal opslaat zodat toegang tot dit materiaal door derden wordt voorkomen.
Deze nota wordt ondertekend mede namens de Minister van Binnenlandse Zaken en Koninkrijksrelaties.
De Minister van Justitie en Veiligheid, D. Yeşilgöz-Zegerius