|
ALGEMEEN DEEL |
1 |
||
|---|---|---|---|
|
1. |
Inleiding |
1 |
|
|
2.1 |
Aanleiding |
3 |
|
|
2.2 |
Hoofdlijnen van het voorstel |
4 |
|
|
2.3. |
Verhouding tot het strafrecht |
6 |
|
|
3 |
Maatregelen en sancties |
8 |
|
|
3.1 |
Aanwijzing |
8 |
|
|
3.2 |
Zorgplicht |
13 |
|
|
3.3 |
Last onder dwangsom |
15 |
|
|
3.4 |
Bestuurlijke boete |
16 |
|
|
3.5 |
Openbaarmaking bestuurlijke boete |
17 |
|
|
4. |
De Autoriteit |
18 |
|
|
4.1 |
Een zelfstandig bestuursorgaan |
18 |
|
|
4.2 |
Vormgeving |
20 |
|
|
4.3 |
Taken en positionering |
21 |
|
|
4.4 |
Samenloop met uitvoering van verordening 2021/784/EU |
24 |
|
|
5. |
Grondrechten |
27 |
|
|
5.1 |
Vrijheid van meningsuiting |
27 |
|
|
5.2 |
Vrijheid van ondernemerschap |
30 |
|
|
5.3 |
Verwerking van persoonsgegevens |
31 |
|
|
6. |
Verhouding tot overige regelgeving |
34 |
|
|
6.1 |
Richtlijn inzake elektronische handel |
34 |
|
|
6.2 |
Verordening netneutraliteit |
35 |
|
|
6.3 |
Richtlijn kindermisbruik |
35 |
|
|
6.4 |
Verordening 2021/1232 betreffende een tijdelijke afwijking van sommige bepalingen van Richtlijn 2002/58/EG |
36 |
|
|
6.5 |
Voorstel voor een Verordening aanpak seksueel kindermisbruik |
37 |
|
|
7. |
Financiële gevolgen, MKB-toets en regeldruk |
37 |
|
|
7.1 |
Financiële gevolgen |
37 |
|
|
7.2 |
MKB-toets |
38 |
|
|
7.3 |
Regeldruk |
39 |
|
|
8. |
Uitgebrachte adviezen |
43 |
|
|
ARTIKELSGEWIJS DEEL |
50 |
||
Seksueel kindermisbruik is één van de meest verwoestende vormen van criminaliteit. Een slachtoffer krijgt opnieuw pijn te verduren als beelden van het misbruik op internet worden geplaatst en gedeeld. Daarom moet niet alleen het misbruik zelf worden tegengegaan, maar ook het verspreiden van beelden daarvan.
In Nederland wordt meer kinderpornografisch materiaal via het internet verspreid dan in enig ander Europees land. Dat komt mede door de combinatie van een uitstekende digitale infrastructuur en de sleutelrol in het wereldwijde internet die Nederland vervult. De bestaande zelfregulering en strafrechtelijke aanpak hebben deze verspreiding niet voldoende verminderd. De snelheid waarmee dit materiaal via het internet wordt verspreid, de groei in het aantal meldingen daarover en de weigering van een aantal tussenpersonen om tegen online kinderpornografisch materiaal op te treden, noopt daarom tot een aanvullend instrumentarium, specifiek toegesneden op de bestrijding van dit type materiaal.
Dit wetsvoorstel is erop gericht het Nederlandse internet te schonen van online kinderpornografisch materiaal. Het wordt mogelijk om middels een bestuursrechtelijk instrumentarium op te treden tegen aanbieders van communicatiediensten, in het bijzonder aanbieders van hostingdiensten, middels wier diensten online kinderpornografisch materiaal wordt opgeslagen of doorgegeven. Het wordt mogelijk om aan deze aanbieders een bindende aanwijzing te geven. De aanwijzing houdt het bevel in om online kinderpornografisch materiaal binnen een korte termijn ontoegankelijk te maken, zodat het niet meer mogelijk is om dit materiaal te benaderen. Naleving van deze verplichting kan worden afgedwongen met een last onder dwangsom en een bestuurlijke boete. Voorts kunnen aanbieders van hostingdiensten die regelmatig met online kinderpornografisch materiaal worden geconfronteerd worden verplicht passende en evenredige maatregelen te treffen om de opslag en doorgifte van dit materiaal te beperken.
De in dit wetsvoorstel voorgestelde taken en bevoegdheden worden geattribueerd aan een nieuw zelfstandig bestuursorgaan.1 De oprichting van dit bestuursorgaan is reeds noodzakelijk in verband met de uitvoering van Verordening 2021/784/EU van het Europees Parlement en de Raad van 29 april 2021 inzake het tegengaan van de verspreiding van terroristische online-inhoud (PbEU 2021, L 172/89) (hierna: TOI-verordening).2 Dit wetsvoorstel sluit daarbij aan, zodat dit bestuursorgaan mede tot taak krijgt online kinderpornografisch materiaal ontoegankelijk te maken.
Dit wetsvoorstel dient mede ter uitwerking van enkele toezeggingen aan de Tweede Kamer. Met de brief van 7 februari 2018 is de Tweede Kamer geïnformeerd over verschillende initiatieven voor de aanpak van online seksueel kindermisbruik.3 Eén van deze initiatieven was een onderzoek naar de mogelijkheden om middels het bestuursrecht op te treden tegen aanbieders van hostingdiensten die ongewild betrokken zijn bij de opslag of doorgifte van online kinderpornografisch materiaal, maar daar niet (tijdig) tegen optreden. In diverse brieven zijn vervolgens de contouren van de beoogde aanpak geschetst.4 Dit wetsvoorstel geeft tevens uitvoering aan enkele moties waarin wordt opgeroepen tot een intensievere bestrijding van online kinderpornografisch materiaal en een strengere aanpak van aanbieders die zich onvoldoende inspannen.5
Gelet op artikel 6 van de Kaderwet zelfstandige bestuursorganen (hierna: de Kaderwet) is de Minister van Binnenlandse Zaken en Koninkrijksrelaties medeondertekenaar van dit wetsvoorstel.
De snelle toename van het aantal meldingen van kinderpornografisch materiaal op internet is verontrustend. Het Expertisebureau Online Kindermisbruik (EOKM) geeft in haar jaarverslagen een somber beeld. Sinds 2016 neemt het aantal meldingen over online kinderpornografisch materiaal ieder jaar met bijna de helft toe. Dat blijkt uit het aantal meldingen van dit type materiaal bij het Meldpunt Kinderporno, dat onderdeel is van het EOKM. In 2021 ontving het EOKM 413.748 meldingen, waarbij in 307.364 gevallen daadwerkelijk kinderpornografisch materiaal werd aangetroffen. Van het totaal aantal bekeken webpagina’s werd 89,75% in Nederland gehost. Ook bij de politie stijgt het aantal meldingen van online kinderpornografisch materiaal snel, van ongeveer 3.000 in 2014 naar ruim 50.000 in 2022.
Vanzelfsprekend wordt ingezet op de strafrechtelijke opsporing en vervolging van diegenen die kinderpornografisch materiaal produceren en verspreiden. Het blijft echter noodzakelijk om ook op te treden tegen het kinderpornografische materiaal zelf, dat via het internet wordt gedeeld en verspreid.
Vanuit internationaal perspectief speelt Nederland ongewild een grote rol in de verspreiding van online kinderpornografisch materiaal. De internationale koepelorganisatie INHOPE, waar meldpunten zoals het EOKM lid van zijn, plaatst Nederland in de top 2 van landen waar kinderpornografisch materiaal op servers wordt opgeslagen. De belangrijkste oorzaak hiervan is het knooppunt dat Nederland vormt voor het gehele Europese internet: mede vanwege het gunstige vestigingsklimaat, de directe aansluiting op onderzeekabels tussen de continenten en de goede digitale infrastructuur is Nederland een aantrekkelijk land voor datacentra en hostingproviders. Sinds de jaren negentig staat hier de Amsterdam Internet Exchange, een knooppunt dat internetproviders in Nederland en buitenlandse partijen mondiaal met elkaar verbindt. De Exchange is uitgegroeid tot één van de grootste internetknooppunten ter wereld, waardoor veel van het Europese internet via Nederland loopt. Voor de Nederlandse economie is dit zo belangrijk dat het internetknooppunt ook de derde mainport van Nederland wordt genoemd, na de Rotterdamse haven en luchthaven Schiphol.
De combinatie van een uitstekende digitale infrastructuur en de sleutelrol in het wereldwijde internet maakt dat ook ondernemingen die communicatiediensten, waaronder hostingdiensten, aanbieden graag in en vanuit Nederland ondernemen. Op grote internationale websites, zoals bij image hosters, worden dagelijks veel afbeeldingen en video’s geplaatst, en hoewel dergelijke websites niet zijn bedoeld om kinderpornografisch materiaal te delen, wordt dit type materiaal daar wel geplaatst. Een groot deel van deze websites wordt gehost op Nederlands grondgebied. Dat schept een verantwoordelijkheid voor de Nederlandse overheid om misbruik van internetvrijheden tegen te gaan.
Met een breed pakket aan maatregelen, waaronder voorliggende wettelijke maatregel, wil het kabinet het internet beter en sneller schonen van kinderpornografisch materiaal.6 In dit kader mag niet onvermeld blijven dat in Nederland al veel goed gaat bij het verwijderen van dit type materiaal. Dit komt doordat Koepelverenigingen van hostingbedrijven en van digitale infrastructuur, telecombedrijven en internetbedrijven met het Ministerie van Economische Zaken in 2008 al cruciale stappen hebben gezet in het verwijderen van ongewenst en illegaal online materiaal. Er is een generieke vrijwillige gedragscode ontworpen, gericht op dienstverleners die in Nederland een openbare telecommunicatiedienst aanbieden. Deze gedragscode bevat een procedure voor het omgaan met meldingen van onrechtmatig of strafbaar materiaal op het internet, waaronder kinderpornografisch materiaal. Met een publiek-private samenwerking is deze zelfregulering verder versterkt. Zo hebben bovengenoemde partijen, na overleg met de Minister van Justitie en Veiligheid, op 13 november 2018 voor de aanpak van kinderpornografisch materiaal een addendum aan deze gedragscode toegevoegd, gericht op het verwijderen van kinderpornografisch materiaal.7 Hierin is de rol van het EOKM als onafhankelijke stichting en als betrouwbare melder versterkt, en wordt ingezet op het vrijwillig verwijderen van dit type materiaal binnen een termijn van 24 uur.8
Dit wetsvoorstel is noodzakelijk als sluitstuk van deze zelfregulering. Ongeveer 87% van de meldingen van het EOKM werd in dit regime van zelfregulering door de branche adequaat opgepakt in 2021.9 In 13% van de gevallen werd geen of onvoldoende opvolging gegeven aan een melding en blijft het kinderpornografisch materiaal op zijn minst langer dan 24 uur zichtbaar. De voorliggende bestuursrechtelijke maatregel is daarom onmisbaar om alle betrokken bedrijven te bewegen dit type materiaal op zo kort mogelijke termijn ontoegankelijk te maken.
Voor het opslaan en verspreiden van gegevens via het internet wordt vaak gebruikgemaakt van aanbieders van communicatiediensten. De dienstverlening van deze aanbieders bestaat uit de opslag en doorgifte van gegevens die van een ander afkomstig zijn. Deze aanbieders hebben geen inhoudelijke betrokkenheid bij de gegevens die door derden middels hun diensten worden opgeslagen of verspreid: de dienstverlening heeft een automatisch en passief karakter. Dat laat onverlet dat op hen een verantwoordelijkheid kan rusten om maatregelen te treffen tegen de doorgifte of opslag van onwettige informatie. Dit uitgangspunt is neergelegd in de artikelen 12, derde lid, 13, tweede lid, 14, derde lid en 18, eerste lid, van Richtlijn 2000/31/EG van het Europees Parlement en de Raad van 8 juni 2000 betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij, met name de elektronische handel, in de interne markt (PbEG L178; hierna: de Richtlijn inzake elektronische handel).10 Dit uitgangspunt wordt ook erkend in de rechtspraak van het Hof van Justitie van de Europese Unie.11
Dit wetsvoorstel maakt het mogelijk om een binnen Nederland gevestigde dienstverlener die kinderpornografisch materiaal opslaat of doorgeeft een bindende aanwijzing te geven. De aanwijzing attendeert de dienstverlener op de aanwezigheid van het materiaal en houdt het bevel in dit materiaal binnen een korte termijn ontoegankelijk te maken. Naleving van de aanwijzing kan worden afgedwongen met een last onder dwangsom of een bestuurlijke boete. De aanwijzing kan tot verschillende typen aanbieders van communicatiediensten worden gericht:
1. De dienstverlener die gegevens opslaat («hosting». Een voorbeeld hiervan is een dienstverlener die aan particulieren of bedrijven ruimte aanbiedt om op diens servers websites, afbeeldingen of videobestanden op te slaan).
2. De dienstverlener die gegevens doorgeeft of toegang tot een communicatienetwerk verschaft («mere conduit». Een voorbeeld hiervan is een internet access provider);
3. De dienstverlener die gegevens tijdelijk opslaat, met als enige doel de doorgifte van de gegevens aan andere afnemers en op hun verzoek efficiënter te maken («caching». Een voorbeeld hiervan is caching ten behoeve van de snelheid van streaming services);
Met deze reikwijdte wordt aangesloten bij artikel 125p van het Wetboek van Strafvordering (hierna: Sv). Dit laat onverlet dat als uitgangspunt geldt dat een aanwijzing wordt gericht tot de aanbieder op wier systemen het kinderpornografisch materiaal is opgeslagen. De aanwijzing wordt daarom primair gericht tot aanbieders van hostingdiensten. Slechts als dat in een individueel geval niet mogelijk blijkt kan de aanwijzing worden gericht tot een andere aanbieder van een communicatiedienst, zoals een internet access provider. Deze volgordelijkheid is expliciet neergelegd in artikel 6, tweede lid. Het ligt niet in de rede dat dit vaak gebeurt: omdat aanbieders van mere conduit-diensten louter gegevens doorgeven en ze niet (langdurig) opslaan kan de aanwijzing er niet toe strekken dat kinderpornografisch materiaal daadwerkelijk wordt verwijderd. Wel kan de doorgifte van dit type materiaal binnen Nederland worden verhinderd of bemoeilijkt. Vanzelfsprekend geldt dat de beginselen van evenredigheid en zorgvuldigheid in elk individueel geval grenzen stellen aan de bevoegdheidsuitoefening.
Dit wetsvoorstel introduceert tevens een verplichting voor aanbieders van hostingdiensten om passende en evenredige maatregelen te nemen om de opslag en doorgifte van online kinderpornografisch materiaal te beperken. Deze maatregelen behelzen geen verplichting voor deze aanbieders om actief toe te zien op de inhoud van gegevens die via hun diensten worden verspreid.
Dit wetsvoorstel brengt geen verandering in de geldende hoofdregel dat de aanbieder van een communicatiedienst niet aansprakelijk is voor de inhoud van door derden middels zijn diensten opgeslagen of doorgegeven gegevens.12 Het wetsvoorstel strekt er derhalve niet toe om dergelijke aanbieders in verdergaande mate dan thans het geval is aansprakelijk te stellen of houden voor de opslag of doorgifte van online kinderpornografisch materiaal.
De in dit wetsvoorstel voorgestelde maatregelen worden telkens getroffen door een bestuursorgaan. Zij dienen ter aanvulling op de bestaande strafrechtelijke aanpak waarmee wordt opgetreden tegen diegenen die zich met de productie of het bezit van kinderpornografisch materiaal bezighouden. Deze aanvulling is noodzakelijk, gelet op de grote hoeveelheid online kinderpornografisch materiaal die in Nederland wordt opgeslagen en doorgegeven en de snelle verspreiding daarvan. Het wetsvoorstel doet geen afbreuk aan de mogelijkheden tot strafrechtelijke opsporing, vervolging en berechting van diegenen die kinderpornografisch materiaal vervaardigen, verspreiden of bekijken. Dit wetsvoorstel is er (louter) op gericht online kinderpornografisch materiaal zo snel mogelijk ontoegankelijk te doen maken.
Strafrechtelijke vervolging
Waar aanbieders van communicatiediensten inhoudelijk betrokkenheid hebben bij online kinderpornografisch materiaal, zodat aan de delictsomschrijving van artikel 240b Sr wordt voldaan en sprake is van een verdenking van een strafbaar feit, wordt uiteraard op strafrechtelijke vervolging ingezet.
Met deze mogelijkheid van strafrechtelijke vervolging kan echter niet worden volstaan. In veel gevallen is strafrechtelijke vervolging van deze aanbieders namelijk niet aan de orde. Kenmerkend voor de dienstverlening van deze aanbieders is immers dat zij geen inhoudelijke betrokkenheid hebben bij de gegevens die middels hun diensten worden opgeslagen of verspreid. Hun dienstverlening is passief en bestaat uit de opslag en doorgifte van door derden geplaatst materiaal. Tegen deze derden, diegenen die kinderpornografisch materiaal produceren en verspreiden, wordt vanzelfsprekend strafrechtelijk opgetreden. Specifiek voor een aanbieder van hostingdiensten geldt echter dat aansprakelijkheid ontbreekt zolang hij geen kennis heeft van de aanwezigheid van het materiaal en hij, zodra hij die kennis wel krijgt, terstond handelt om de gegevens te verwijderen of de toegang daartoe onmogelijk te maken. Dit volgt uit artikel 14, eerste lid, van de Richtlijn inzake elektronische handel en is onder meer neergelegd in artikel 54a van het Wetboek van Strafrecht (hierna: Sr) en artikel 125p Sv. Dit wetsvoorstel brengt daar geen verandering in.
Strafrechtelijke vervolging van een aanbieder wegens de middels zijn diensten opgeslagen en verspreide gegevens is daarom slechts in uitzonderlijke gevallen aan de orde. In feite moet het dan gaan om een situatie waarin een aanbieder niet langer optreedt als een tussenpersoon die louter (en passief) gegevens van een ander doorgeeft, maar ook inhoudelijke betrokkenheid heeft of verkrijgt met het online kinderpornografisch materiaal. Een dergelijke situatie doet zich, gelet op de neutrale en passieve rol die deze aanbieders vervullen, zelden voor.
Overigens wordt ook in Europees verband ingezet op de ontoegankelijkmaking van dit type materiaal, en niet op strafrechtelijke vervolging van deze aanbieders. Bij wijze van voorbeeld wordt gewezen op de TOI-verordening, waarmee aanbieders van hostingdiensten worden verplicht om terroristische online-inhoud ontoegankelijk te maken.
Strafrechtelijke bevoegdheid tot ontoegankelijkmaking
Met het voormelde is nog niet de vraag beantwoord of het dan niet wenselijk is om te volstaan met de in artikel 125p Sv neergelegde strafrechtelijke bevoegdheid tot het geven van een bevel tot ontoegankelijkmaking, en de toepassing daarvan dus niet te beperken tot gevallen waarin ook strafrechtelijke vervolging wordt ingezet. Hier is niet voor gekozen. De zeer grote hoeveelheden online kinderpornografisch materiaal die in Nederland worden opgeslagen en doorgegeven en de ongekend snelle verspreiding daarvan nopen tot een specifiek daarop toegesneden instrumentarium. De bestuursrechtelijke aanwijzing verschilt daarom van een strafrechtelijk bevel tot ontoegankelijkmaking. Een krachtens artikel 125p Sv gegeven bevel kan strekken tot de ontoegankelijkmaking van elk type gegevens, maar kan slechts worden gegeven na voorafgaande machtiging van de rechter-commissaris. Een krachtens dit wetsvoorstel gegeven aanwijzing is beperkt tot online kinderpornografisch materiaal, terwijl geen voorafgaande machtiging van de rechter-commissaris is vereist. Dat maakt het mogelijk om zeer snel op te treden tegen online kinderpornografisch materiaal. Conform de gebruikelijke bestuursrechtelijke uitgangspunten is het besluit waarmee de aanwijzing wordt gegeven direct uitvoerbaar: er wordt niet afgeweken van de in artikel 6:16 van de Algemene wet bestuursrecht (hierna: de Awb) neergelegde hoofdregel dat het instellen van een rechtsmiddel tegen een besluit de werking van dat besluit niet schorst. Bovendien is voorzien in aanvullende instrumenten die in het strafrecht niet beschikbaar zijn, zoals een verplichting om specifieke aanbieders van hostingdiensten te dwingen om preventieve maatregelen te nemen tegen de verspreiding van online kinderpornografisch materiaal.
Ten slotte kan niet onvermeld blijven dat het (veel) vaker aanwenden van de in artikel 125p Sv neergelegde bevoegdheid een te groot beslag legt op de capaciteit van het Openbaar Ministerie (hierna: OM). Dit is door het OM onderschreven. Door de ontoegankelijkmaking van online kinderpornografisch materiaal te beleggen bij een daarvoor toegeruste Autoriteit, kan de capaciteit van het OM worden vrijgehouden ten behoeve van de opsporing en vervolging van personen die zelf kinderpornografisch materiaal produceren en verspreiden.
Het voorgestelde instrumentarium onderscheidt zich daarom zowel inhoudelijk als in snelheid van de bestaande strafrechtelijke bevoegdheden, terwijl tegelijkertijd is voorzien in adequate bestuursrechtelijke rechtsbescherming.
De maatregelen strekken tot de ontoegankelijkmaking van kennelijk online kinderpornografisch materiaal. Voor de definitie daarvan is aangesloten bij artikel 240b Sr. De in dit artikel gebruikte term «afbeelding» slaat niet alleen op foto’s, maar ook op een film of videoclip, of fragmenten of beelden daaruit. In dit wetsvoorstel wordt dit gevat onder de noemer «kinderpornografisch materiaal». Met het begrip «kennelijk» is tot uitdrukking gebracht dat over de kwalificatie van het desbetreffende materiaal redelijkerwijs geen twijfel mogelijk kan zijn. Het is derhalve niet mogelijk een aanwijzing te geven als over die kwalificatie enige twijfel kan bestaan. Met het kennelijkheidsvereiste is tevens duidelijk dat met een door de Autoriteit gegeven kwalificatie niet wordt vooruitgelopen op de kwalificatie van dit materiaal in een eventuele strafrechtelijke procedure over hetzelfde materiaal.
Aan een aanbieder van een communicatiedienst die online kinderpornografisch materiaal opslaat of doorgeeft kan een bindende aanwijzing worden gegeven. Anders dan de hierna te bespreken zorgplicht kan de aanwijzing worden gericht tot elke aanbieder van een communicatiedienst, en derhalve niet alleen op aanbieders van hostingdiensten. Wel wordt de aanwijzing primair gericht tot aanbieders van hostingdiensten. Slechts als dat niet mogelijk is én het geven van een aanwijzing evenredig en proportioneel is, wordt een aanwijzing gericht tot een andere aanbieder. Dit uitgangspunt is vastgelegd in artikel 6, tweede lid.
De aanwijzing attendeert de aanbieder op de aanwezigheid van het online kinderpornografisch materiaal en verplicht ertoe dat materiaal binnen een in de aanwijzing opgenomen redelijke termijn ontoegankelijk te maken. Niet relevant is of de desbetreffende aanbieder weet had van het kinderpornografisch materiaal. Evenmin is relevant op wiens verzoek dit materiaal is opgeslagen of wordt doorgegeven. Relevant is slechts of de desbetreffende aanbieder het in zijn macht heeft het online kinderpornografisch materiaal ontoegankelijk te maken. Naleving van een aanwijzing wordt afgedwongen met een last onder dwangsom of een bestuurlijke boete (zie paragrafen 3.3 en 3.4).
Inhoud aanwijzing
In alle gevallen geldt dat de aanwijzing voldoende informatie moet bevatten op basis waarvan de aanbieder het desbetreffende materiaal kan identificeren. Te denken valt aan een URL, de (gebruikers)naam van de persoon die het materiaal op de servers heeft geplaatst of een omschrijving van het materiaal in kwestie, zoals de titel of andere kenmerken. Artikel 6, vierde lid, geeft daarover regels.
Met ingang van 17 februari 2024 geldt bovendien dat de aanwijzing zal moeten voldoen aan de eisen van artikel 9 van de Digitaledienstenverordening.13 Het tweede lid van artikel 9 van de Digitaledienstenverordening bepaalt dat een bevel om op te treden tegen illegale inhoud ten minste de volgende elementen dient te bevatten:
a. een verwijzing naar de Unie- of nationaalrechtelijke rechtsgrond voor het bevel;
b. een motivering waarin wordt uitgelegd waarom de informatie illegale inhoud vormt, onder verwijzing naar een of meerdere specifieke bepalingen van het Unierecht of het met het Unierecht in overeenstemming zijnde nationaal recht;
c. informatie ter identificatie van de uitvaardigende autoriteit;
d. duidelijke informatie waarmee de aanbieder de betrokken illegale inhoud kan identificeren en lokaliseren, zoals een of meerdere exacte URL’s en indien nodig bijkomende informatie;
e. informatie over de verhaalmechanismen die ter beschikking staan van de aanbieder van en de afnemer van de dienst die de inhoud verstrekten;
f. in voorkomend geval vermelding van de autoriteit waaraan de informatie over het aan de bevelen gegeven gevolg moet worden verschaft.
Artikel 9, eerste lid, Digitaledienstenverordening bepaalt dat de aanbieder de beveluitvaardigende autoriteit, in dit geval de ATKM, onverwijld in kennis stelt van het gevolg dat aan de aanwijzing is gegeven met vermelding of, en zo ja wanneer aan de aanwijzing opvolging is gegeven. Artikel 9, derde lid, Digitaledienstenverordening verplicht de ATKM verder om de aanwijzing samen met de ontvangen informatie van de aanbieder over het aan de aanwijzing gegeven gevolg door te sturen aan de digitaledienstencoördinator. Uiterlijk op het tijdstip waarop gevolg is gegeven aan de aanwijzing of in voorkomend geval op het door de ATKM in de aanwijzing genoemde tijdstip stellen aanbieders van hosting- of communicatiediensten de afnemer van de betrokken dienst in kennis van de ontvangen aanwijzing en het daaraan gegeven gevolg, zo bepaalt het vijfde lid van artikel 9 van de Digitaledienstenverordening. Dergelijke aan de afnemers van de dienst verstrekte informatie vermeldt overeenkomstig het tweede lid een motivering en de bestaande verhaalsmogelijkheden.
De aanwijzing zal er in de regel toe strekken dat één of meerdere specifieke, in de aanwijzing aangeduide, afbeeldingen of video’s ontoegankelijk moeten worden gemaakt. Een aanwijzing kan er echter ook toe verplichten materiaal dat inhoudelijk overeenstemt met het in de aanwijzing aangeduide materiaal ontoegankelijk te maken.14 Dit biedt uitkomst in gevallen waarin bijvoorbeeld sprake is van reeksen van afbeeldingen die onderling verschillen, maar toch vrijwel identiek zijn. Hierbij kan worden gedacht aan stills uit een (kortdurende) video-opname. De verschillen tussen het in de aanwijzing specifiek aangeduide materiaal en daarmee inhoudelijk overeenstemmende materiaal mogen niet van dien aard zijn dat de betrokken aanbieder gedwongen wordt het materiaal zelfstandig te beoordelen.15 Gelet op artikel 15, eerste lid, van de Richtlijn inzake elektronische handel mag een aanbieder er immers niet toe worden verplicht om in het algemeen toe te zien op door hem opgeslagen informatie, noch een algemene verplichting om actief te zoeken naar onrechtmatige of onwettige informatie.16 Een in de aanwijzing opgenomen opdracht om (vrijwel) gelijkluidend materiaal ontoegankelijk te maken moet daarom zodanig specifiek zijn dat de betrokken aanbieder van een communicatiedienst niet verplicht wordt een eigen beoordeling te maken.
In de aanwijzing wordt een termijn gesteld waarbinnen het online kinderpornografisch materiaal ontoegankelijk moet zijn gemaakt. De lengte van die termijn is afhankelijk van de omstandigheden van het geval en vereist een afweging tussen het belang van tijdige verwijdering en de technische en praktische maatregelen die redelijkerwijs van de aanbieder van een communicatiedienst kunnen worden gevergd. Gelet op het veelal evidente karakter van kinderpornografisch materiaal zal de in de aanwijzing opgenomen termijn in de regel een korte zijn. Ter illustratie kan worden gewezen op de termijn in het op 13 december 2018 ondertekende addendum, waarin is opgenomen dat kinderpornografisch materiaal binnen 24 uur na een melding moet zijn verwijderd.17 In de aanwijzing wordt niet voorgeschreven op welke wijze de ontoegankelijkmaking moet plaatsvinden. Zie daarover onder «Ontoegankelijkmaking».
Een aanwijzing is een besluit als bedoeld in artikel 1:3 van de Awb en moet derhalve voldoen aan alle eisen die de Awb daaraan stelt. Tegen een aanwijzing staan de gebruikelijke rechtsmiddelen van bezwaar en beroep open. Hierop wordt nader ingegaan onder «Voorbereiding en rechtsbescherming».
Tot wie is de aanwijzing gericht?
De aanwijzing kan worden gericht aan een aanbieder van communicatiediensten die is betrokken bij de opslag of doorgifte van online kinderpornografisch materiaal. Voor de identificatie van de betrokken aanbieder zijn technische instrumenten beschikbaar, zoals een door de TU Delft ontwikkelde monitor.18
De algemene vereisten van zorgvuldigheid en evenredigheid stellen grenzen aan de bevoegdheidsuitoefening. Daaruit vloeit voort dat de aanwijzing wordt gericht tot degene die daarvoor het meest in aanmerking komt. Gelet op het uitgangspunt dat kinderpornografisch materiaal zoveel mogelijk moet worden verwijderd, wordt de aanwijzing primair gericht tot aanbieders van hostingdiensten: een aanbieder van een communicatiedienst bestaande uit de opslag van gegevens die van een ander afkomstig zijn.19 Het is echter niet altijd mogelijk de betrokken aanbieder van hostingdiensten te identificeren. Dat is onder meer het geval als een webpagina met kinderpornografisch materiaal weliswaar vanuit Nederland is te benaderen, maar niet met zekerheid is vast te stellen dat het desbetreffende materiaal ook daadwerkelijk op Nederlands grondgebied wordt gehost. Ook in deze gevallen kan het wenselijk zijn op te treden tegen de verspreiding van kinderpornografisch materiaal. In deze gevallen kan de aanwijzing worden gericht tot dienstverleners die gegevens doorgeven of toegang tot een communicatienetwerk verschaffen, en tot dienstverleners die gegevens tijdelijk opslaan met als enige doel de doorgifte van de gegevens aan andere afnemers efficiënter te maken. Hiermee wordt aangesloten bij de reikwijdte van artikel 125p, eerste lid, Sv.20 Wel moet, mede gelet op de algemene eisen van zorgvuldigheid en evenredigheid, bij een beslissing om een aanwijzing uit te vaardigen aan aanbieders van «mere conduit» of «caching» diensten worden betrokken dat zij minder dan aanbieders van hostingdiensten in staat zijn om online kinderpornografisch materiaal ontoegankelijk te maken. Factoren als kosten en inspanningen aan de kant van de aanbieder en de gevolgen die de ontoegankelijkmaking heeft voor andere gegevens die door deze aanbieders worden opgeslagen of doorgeven maken onderdeel uit van de afweging om in een concreet geval een aanwijzing te geven. De aanwijzing is een herstelsanctie, en kan daarom louter worden opgelegd aan de aanbieder die redelijkerwijs in staat is het kinderpornografisch materiaal ontoegankelijk te (laten) maken. Dit is reeds benoemd in paragraaf 2.2, en wordt hierna verder toegelicht.
Over het gebruik van zijn bevoegdheid tot het geven van een aanwijzing en het identificeren van kennelijk kinderpornografisch materiaal wordt door de Autoriteit beleid gevoerd, bijvoorbeeld door beleidsregels als bedoeld in titel 4.3 van de Awb op te stellen.
Ontoegankelijkmaking
Onder ontoegankelijkmaking wordt verstaan het treffen van alle redelijkerwijs te nemen maatregelen om te voorkomen dat derden van het materiaal kennisnemen, en ter voorkoming van de verdere verspreiding van het beeldmateriaal. Met de toevoeging dat de maatregelen redelijkerwijs moeten zijn, is tot uitdrukking gebracht dat het mogelijk moet zijn de in de aanwijzing opgenomen opdracht tot ontoegankelijkmaking op proportionele wijze na te komen.
Onder ontoegankelijkmaking wordt in de eerste plaats verstaan het verwijderen van gegevens uit een geautomatiseerd werk. Onderkend wordt dat het niet in alle gevallen mogelijk zal zijn kinderpornografisch materiaal daadwerkelijk van het internet te verwijderen. Dat is onder meer het geval indien een website niet in zijn geheel op één server wordt gehost: het komt voor dat onderdelen van een website bij een Nederlandse hostingaanbieder worden gehost, terwijl andere onderdelen zijn opgeslagen op een in het buitenland geplaatste server.21 Mede daarom staat de definitie van ontoegankelijkmaking ook andere vormen van ontoegankelijkmaking toe, mits deze ertoe strekken dat (verdere) kennisneming van die gegevens door derden wordt voorkomen.
De aanwijzing schrijft niet voor welke (technische) middelen moeten worden aangewend om kinderpornografisch materiaal ontoegankelijk te maken. De aanbieder van een communicatiedienst tot wie de aanwijzing is gericht kiest zelf de middelen om aan de aanwijzing te voldoen. De aanwijzing is een herstelsanctie. Een aanbieder die aannemelijk maakt alle redelijkerwijs te nemen maatregelen te hebben getroffen, maar er desalniettemin niet in slaagt het materiaal ontoegankelijk te maken, heeft aan de aanwijzing voldaan, mede gelet op het in artikel 3:4, tweede lid, Awb neergelegde evenredigheidsbeginsel. Daarbij wordt opnieuw opgemerkt dat aanbieders wier dienstverlening bestaat uit het doorgeven van informatie of het verschaffen tot toegang van een communicatienetwerk het veelal niet in hun macht hebben om gegevens daadwerkelijk te (laten) verwijderen. In deze uitzonderlijke gevallen ligt een andere vorm van ontoegankelijkmaking voor de hand.
De aanwijzing verplicht een aanbieder van een communicatiedienst tot ingrijpen in een concreet geval. Een aanwijzing strekt er niet toe dat een aanbieder wordt verplicht in algemene zin toe te zien op de rechtmatigheid van het door hem opgeslagen materiaal. De aanwijzing kan er ook niet toe strekken dat de aanbieder wordt opgedragen actief naar dergelijk materiaal te zoeken of verplicht wordt alle geüploade materiaal op systematische wijze te analyseren.22 Gelet op artikel 7, derde lid, van de Grondwet (hierna: Gw) kan de aanwijzing evenmin strekken tot verplicht preventief toezicht op door de aanbieder opgeslagen of doorgegeven gegevens.
Geografische gevolgen van de aanwijzing
De ontoegankelijkmaking van op Nederlands grondgebied opgeslagen online kinderpornografisch materiaal kan gevolgen hebben voor de beschikbaarheid van dit type materiaal in het buitenland. De Richtlijn inzake elektronische handel23 noch andere (internationale) wet- of regelgeving staat eraan in de weg dat een maatregel tot ontoegankelijkmaking van materiaal ook buiten de Nederlandse territoriale landsgrenzen gevolgen sorteert.
De maatregelen strekken er niet toe de diensten van in een andere lidstaat gevestigde dienstverlener te beperken: de reikwijdte is beperkt tot in Nederland gevestigde dienstverleners.24 Deze geografisch beperkte reikwijdte doet niets af aan de noodzaak van het onderhavige wetsvoorstel. Vanuit Nederland wordt disproportioneel veel online kinderpornografisch materiaal via het internet ter beschikking gesteld. Daarom is Nederland verplicht zich, binnen zijn eigen nationale grenzen, zoveel mogelijk in te spannen om dit type materiaal ontoegankelijk te (laten) maken. Deze verplichting volgt uit artikel 25, eerste lid, van Richtlijn 2011/93/EU van het Europees Parlement en de Raad van 13 december 2011 ter bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen en kinderpornografie, en ter vervanging van Kaderbesluit 2004/68/JBZ van de Raad (PbEU 2011, L 335; hierna: de Richtlijn kindermisbruik). Met dit wetsvoorstel geeft Nederland nadere invulling aan zijn verplichtingen op grond van deze bepaling.
Dit laat onverlet dat Nederland zich ook in Europees verband blijft inzetten voor een Europese aanpak van online kinderpornografisch materiaal.25 Inmiddels heeft de Europese Commissie een voorstel gepubliceerd voor een Verordening betreffende voorschriften ter voorkoming en bestrijding van seksueel kindermisbruik, waarover momenteel in Brussel wordt onderhandeld.26
Voorbereiding en rechtsbescherming
De aanwijzing is een appellabel besluit, meer in het bijzonder een beschikking als bedoeld in artikel 1:3, tweede lid, Awb. Daarom moeten bij het voorbereiden, geven en bekendmaken van een aanwijzing de gebruikelijke bepalingen van de Awb, in het bijzonder de hoofdstukken 2 tot en met 4 daarvan, in acht worden genomen. Zo zal de Autoriteit in ieder concreet geval de rechtstreeks betrokken belangen moeten betrekken en in het aanwijzingsbesluit deugdelijk moeten motiveren waarom de aanwijzing wordt gegeven. Uit de aanwijzing moet voorts duidelijk blijken om welk materiaal het gaat en binnen welke termijn de aanwijzing moet zijn opgevolgd. Een aanwijzing die niet aan voormelde vereisten voldoet, zal door de bestuursrechter worden vernietigd.
Op de voorbereiding van een aanwijzing is afdeling 4.1.2 Awb van toepassing. Gelet op artikel 4:11, eerste lid, aanhef en onder a, Awb zal het horen echter in vrijwel alle gevallen achterwege kunnen worden gelaten. Met het voorgaande is niet uitgesloten dat ook op grond van het Unierechtelijke verdedigingsbeginsel een verplichting kan bestaan tot vooraf horen.27 Uit rechtspraak van het Hof van Justitie volgt dat in een zaak die binnen de werkingssfeer van het Unierecht valt, een concrete afweging moet worden gemaakt of van horen kan worden afgezien. Gelet op het spoedeisende karakter van kinderpornografisch materiaal en in aanmerking genomen dat de gevolgen van een aanwijzing veelal ongedaan kunnen worden gemaakt, zal in veel gevallen aan deze voorwaarden worden voldaan.
Tegen een aanwijzing staan de gebruikelijke bestuursrechtelijke rechtsmiddelen open: bezwaar, gevolgd door het instellen van (hoger) beroep bij de bestuursrechter. De in artikel 6:16 Awb neergelegde hoofdregel, dat het instellen van bezwaar en beroep de werking van het besluit waartegen het is ingesteld niet schorst, geldt onverkort. Vanzelfsprekend is het mogelijk om bij de voorzieningenrechter een verzoek om een voorlopige voorziening te doen, strekkende tot schorsing van het besluit waarin de aanwijzing is gegeven.
Ingevolge artikel 7 kunnen aanbieders van hostingdiensten worden verplicht passende maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch materiaal te beperken. Er is niet voor gekozen deze zorgplicht van toepassing te verklaren op alle aanbieders van hostingdiensten: de zorgplicht is slechts van toepassing na een daartoe strekkend besluit van de Autoriteit. Hiermee wordt aansluiting gezocht bij het systeem van artikel 5, tweede tot en met zesde lid, van TOI-verordening. Een dergelijk besluit kan bijvoorbeeld worden genomen ten aanzien van een aanbieder die regelmatig in aanraking komt met online kinderpornografisch materiaal en daar onvoldoende tegen optreedt. Mede gelet op het beperken van uitvoeringslasten en het evenredigheidsbeginsel ligt een dergelijk besluit dus niet in de rede als een aanbieder niet of nauwelijks met online kinderpornografisch materiaal wordt geconfronteerd, of daar zelf voldoende tegen optreedt.
De keuze ten aanzien van de te treffen maatregelen blijft bij de aanbieder. Gedacht kan worden aan maatregelen van technische aard, zoals het onderhouden van een systeem waarmee gebruikers online kinderpornografisch materiaal bij de aanbieder kunnen melden, aan het voeren van aantoonbaar beleid waarmee klanten die online kinderpornografisch materiaal opslaan of verspreiden worden geweerd of afgestoten, of aan het deelnemen aan de (hierna te benoemen) Hashcheckserver. Het betreft hier een inspanningsverplichting, die uitdrukking geeft aan de eigen verantwoordelijkheid van dergelijke aanbieders om niet alleen reactief, maar ook proactief op te treden tegen de verspreiding van online kinderpornografisch materiaal. Bij de vaststelling welke maatregelen redelijkerwijs van een aanbieder kunnen worden gevergd spelen elementen als grootte, financiële draagkracht en de mate van blootstelling aan online kinderpornografisch materiaal een rol. Van een aanbieder van hostingdiensten die op grote schaal te maken heeft met de opslag of doorgifte van online kinderpornografisch materiaal, mag meer worden verwacht dan van een kleine speler die beperkt met dit type materiaal wordt geconfronteerd.
Vanzelfsprekend zal een besluit waarmee de zorgplicht wordt opgelegd moeten voldoen aan de algemene beginselen van behoorlijk bestuur. Mede gelet op het rechtszekerheidsbeginsel zal een dergelijk besluit voldoende concreet moeten zijn. Zo zal in het besluit moeten zijn opgenomen binnen welke termijn de maatregelen moeten zijn genomen en met welk resultaat. De verplichting tot het treffen van proactieve maatregelen doet vanzelfsprekend geen afbreuk aan de Richtlijn inzake elektronische handel, en kan aanbieders van hostingdiensten er dus niet toe verplichten in algemene zin toe te zien op gegevens die zij doorgeven of opslaan. De zorgplicht verplicht er daarom niet toe geüpload materiaal op systematische wijze te analyseren, of om actief te zoeken naar online kinderpornografisch materiaal.28
De betrokken aanbieder is desgevraagd verplicht informatie aan de Autoriteit te verschaffen over de door hem getroffen maatregelen. Het ligt in de rede dat de Autoriteit zich zal richten op aanbieders van hostingdiensten die in meer dan gebruikelijke mate worden geconfronteerd met de opslag en doorgifte van online kinderpornografisch materiaal, en dus juist bij die aanbieders informatie zal opvragen over de getroffen maatregelen. Een meer dan gebruikelijke mate van opslag en doorgifte kan onder meer worden afgeleid uit het aantal aanwijzingen dat een aanbieder per kalenderjaar ontvangt. Maar indien de Autoriteit op andere wijze kan onderbouwen dat daarvan sprake is, bijvoorbeeld door een onafhankelijk onderzoek te overleggen, kan ook besloten worden tot het opleggen van de zorgplicht.
Aan een aanbieder van hostingdiensten die nalaat passende en evenredige maatregelen te treffen kan een bestuurlijke boete of een last onder dwangsom worden opgelegd. Bij de keuze om handhavend op te treden betrekt de Autoriteit dat de verplichting tot het treffen van proactieve maatregelen een open norm bevat, en dat de keuze voor de te treffen maatregelen aan de desbetreffende aanbieder is. Voorts betrekt de Autoriteit dat de zorgplicht een inspanningsverplichting is: het is niet mogelijk om de opslag en doorgifte van online kinderpornografisch materiaal in alle gevallen te voorkomen. Dit alles heeft gevolgen voor de mogelijkheid om handhavend op te kunnen treden. Gelet op het open karakter van de norm en de algemene beginselen van behoorlijk bestuur, waaronder het rechtszekerheidsbeginsel, zal enig handhavend optreden slechts aan de orde kunnen zijn als het handelen of nalaten van een aanbieder onmiskenbaar in strijd is met de zorgplicht. Het ligt in de rede dat de Autoriteit over de aanwending van deze bevoegdheid beleidsregels vaststelt als bedoeld in titel 4.3 van de Awb, of anderszins kenbaar beleid voert.
Voorbereiding en rechtsbescherming
Een besluit van de Autoriteit om passende en evenredige maatregelen treffen, is een appellabel besluit, meer in het bijzonder een beschikking als bedoeld in artikel 1:3, tweede lid, Awb. Daarom moeten bij het voorbereiden, geven en bekendmaken van dit besluit de gebruikelijke bepalingen van de Awb, in het bijzonder de hoofdstukken 2 tot en met 4 daarvan, in acht worden genomen. Zo zal de Autoriteit in ieder concreet geval de rechtstreeks betrokken belangen moeten betrekken en in het besluit deugdelijk moeten motiveren waarom daartoe wordt besloten. Mede gelet op het rechtszekerheidsbeginsel zal een dergelijk besluit verder voldoende concreet moeten zijn. Zo zal in het besluit moeten zijn opgenomen binnen welke termijn de maatregelen moeten zijn genomen en met welk resultaat.
Tegen een besluit tot het treffen van passende en evenredige maatregelen staan de gebruikelijke bestuursrechtelijke rechtsmiddelen open: bezwaar, gevolgd door het instellen van (hoger) beroep bij de bestuursrechter.
Verzoek om wijziging of intrekking
Aanbieders van hostingdiensten kunnen de Autoriteit verzoeken om wijziging of intrekking van een opgelegde zorgplicht. Dit is geregeld in artikel 7, derde lid van het wetsvoorstel. De Autoriteit dient zo spoedig mogelijk en in ieder geval binnen drie maanden na ontvangst op deze aanvraag te beslissen. Voor wat betreft het verzoek om wijziging of intrekking van de zorgplicht is aansluiting gezocht bij de procedure op grond van de TOI-verordening, meer in het bijzonder artikel 5, zevende lid.29 De beslissing op deze aanvraag is een appellabel besluit, meer in het bijzonder een beschikking als bedoeld in artikel 1:3, tweede lid, Awb. Tegen een afwijzend besluit staan de gebruikelijke bestuursrechtelijke rechtsmiddelen open: bezwaar, gevolgd door het instellen van (hoger) beroep bij de bestuursrechter.
Aan een aanbieder van een communicatiedienst die nalaat tijdig opvolging te geven aan een aanwijzing kan een last onder dwangsom worden opgelegd. Een last onder dwangsom kan tevens worden opgelegd aan de aanbieder van hostingdiensten die nalaat opvolging te geven aan zijn zorgplicht (artikel 7, eerste lid) of nalaat gegevens over de door hem getroffen maatregelen te verstrekken (artikel 7, tweede lid).
Indien de last is opgelegd aan een aanbieder van een communicatiedienst die nalaat tijdig opvolging te geven aan een aanwijzing tot ontoegankelijkmaking, strekt de dwangsom ertoe deze medewerking alsnog af te dwingen. De last wordt slechts opgelegd aan de aanbieder die het in zijn macht heeft de last uit te voeren en dus redelijkerwijs in staat is het kinderpornografisch materiaal ontoegankelijk te maken of maatregelen te treffen.30 Voor het opleggen van een last onder dwangsom is niet vereist dat de aanbieder enige betrokkenheid heeft gehad bij het vervaardigen of de opslag van het kinderpornografisch materiaal, of dat de aanwezigheid van kinderpornografisch materiaal verwijtbaar is. De kern van de door de aanbieder begane overtreding is immers niet de aanwezigheid van online kinderpornografisch materiaal, maar het niet opvolgen van een krachtens artikel 6 gegeven aanwijzing tot ontoegankelijkmaking of het niet voldoen aan een krachtens artikel 7 opgelegde zorgplicht. Een last onder dwangsom kan eveneens worden opgelegd aan de aanbieder van hostingdiensten die nalaat desgevraagd gegevens te verstrekken over de door hem getroffen maatregelen. In dat geval strekt de last ertoe de aanbieder ertoe te bewegen deze gegevens alsnog te verstrekken.
De beschikking waarbij de last onder dwangsom wordt opgelegd vermeldt de herstelmaatregel, zoals het ontoegankelijk maken van het kinderpornografisch materiaal. De last bevat een begunstigingstermijn, waarbinnen het materiaal alsnog ontoegankelijk kan worden gemaakt of maatregelen kunnen worden getroffen zonder dat een dwangsom wordt verbeurd. Indien nodig zal de Autoriteit in overleg treden met de betrokken aanbieder over de verschillende manieren waarop de aanwijzing kan worden opgevolgd.
In beide situaties wordt, in lijn met de algemene uitgangspunten van de Awb, de hoogte van de dwangsom vastgesteld op een bedrag ineens, hetzij per tijdseenheid waarin de last niet is uitgevoerd. De dwangsom wordt gemaximeerd op een bedrag waarboven geen dwangsom meer wordt verbeurd.31 De hoogte van de dwangsom wordt vastgesteld op een bedrag dat in redelijke verhouding staat tot het geschonden belang en de beoogde werking van de dwangsom. Invordering kan zo nodig geschieden bij dwangbevel.32
Aan de aanbieder van een communicatiedienst die nalaat opvolging te geven aan een aanwijzing kan een bestuurlijke boete worden opgelegd van ten hoogste het bedrag dat is vastgesteld voor de tweede categorie, bedoeld in artikel 23, vierde lid, Sr. Aan een aanbieder van hostingdiensten die nalaat passende en evenredige maatregelen te nemen om de opslag en doorgifte van online kinderpornografisch materiaal middels zijn diensten te beperken kan een bestuurlijke boete worden opgelegd van ten hoogste het bedrag dat is vastgesteld voor de vijfde categorie, bedoeld in artikel 23, vierde lid, Sr.
De aard en ernst van online kinderpornografisch materiaal rechtvaardigt dat als systematisch of aanhoudend wordt nagelaten opvolging te geven aan aanwijzing, een hoger boetemaximum wordt gehanteerd.33 Daarom wordt het in dergelijke gevallen mogelijk een bestuurlijke boete op te leggen van ten hoogste het bedrag dat is vastgesteld voor de zesde categorie, genoemd in artikel 23, vierde lid, Sr of, indien dat meer is, ten hoogste 4% van de omzet van de onderneming. Dit strookt met de maximale boetehoogte in vergelijkbare gevallen, zoals de maximale boetehoogte genoemd in artikel 18, derde lid, van de TOI-verordening, waar het niet-nakomen van de verplichtingen uit de verordening kan worden bestraft met een sanctie ter hoogte van maximaal 4% van de omzet van de betrokken hosting service provider34 en de maximale boetehoogte genoemd in artikel 83, vijfde of zesde lid, van Verordening (EU) 2016/679 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (hierna: AVG).
Gelet op artikel 5:46, tweede lid, Awb wordt de hoogte van de boete in elk concreet geval afgestemd op de ernst van de overtreding en de mate waarin deze aan de overtreder kan worden verweten. Bij het opleggen van een boete wordt beoordeeld of er omstandigheden zijn die nopen tot verlaging of matiging van de boete. Een verminderde verwijtbaarheid kan worden aangemerkt als een bijzondere omstandigheid als bedoeld in artikel 5:46, derde lid, Awb, die aanleiding kan vormen de hoogte van de boete te matigen. Ook wordt rekening gehouden met de omstandigheden waaronder de overtreding is begaan, zoals het aantal keren dat een aanwijzing niet is opgevolgd en de mate van medewerking. Een bestuurlijke boete kan op grond van artikel 5:41 Awb niet worden opgelegd voor zover de overtreding niet aan de overtreder kan worden verweten.
Keuze punitief bestuursrechtelijk sanctiestelsel
Bij de afweging om te kiezen voor een zuiver bestuursrechtelijk stelsel (en daarmee handhaving middels een bestuurlijke boete) is acht geslagen op het advies van de Afdeling advisering van de Raad van State van 13 juli 2015 inzake sanctiestelsels,35 de reactie daarop van het kabinet in het nader rapport36 en de in die reactie genoemde kabinetsnota’s over de keuze voor een sanctiestelsel. Zoals hierboven is toegelicht leent een deel van het voorgestelde instrumentarium zich niet voor positionering binnen het strafrecht. Dit betreft onder meer de voorgestelde zorgplicht alsook de beoogde herstelsancties, zoals de last onder dwangsom. Gelet op de uitdrukkelijke wens om de ontoegankelijkmaking van online kinderpornografisch materiaal en de handhaving te beleggen bij één bevoegde autoriteit en alle bevoegdheden in één hand te houden, is in het onderhavige geval gekozen voor een zuiver bestuursrechtelijk stelsel. De bestuurlijke boete complementeert de andere voorgestelde bevoegdheden, en ziet op hetzelfde feitencomplex (de ontoegankelijkmaking van online kinderpornografisch materiaal).37 Met de keuze voor een zuiver bestuursrechtelijk stelsel wordt tevens tot uitdrukking gebracht dat de Autoriteit verantwoordelijk is voor de bestuursrechtelijke handhaving van de verplichting om dit materiaal ontoegankelijk te maken.38 Om die reden is niet gekozen voor strafrechtelijke handhaving of een duaal stelsel. Bij het bepalen van de (maximum)hoogte van de bestuurlijke boete is vanzelfsprekend aangesloten bij de boetecategorieën van artikel 23 Sr (zie paragraaf 3.4).
Het feit dat een bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven aan een aanwijzing, kan openbaar worden gemaakt. Daarvan kan bijvoorbeeld sprake zijn indien stelselmatig wordt nagelaten opvolging te geven aan een aanwijzing. Met deze openbaarmaking zijn meerdere doelen gediend. De openbaarmaking is er in de eerste plaats op gericht de naleving van deze wet te bevorderen, en tevens inzicht te geven in de mate en de manier waarop op deze naleving toezicht wordt gehouden. Van de openbaarmaking gaat bovendien een zekere diffamerende werking uit, omdat de bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven aan een gegeven aanwijzing. Met openbaarmaking behoeft niet te worden gewacht tot het besluit waarmee de bestuurlijke boete is opgelegd onherroepelijk is geworden. Dat zou de openbaarmaking van zijn waarde ontdoen, gelet op de (vaak) lange duur van een bestuursrechtelijke procedure. Wel vindt openbaarmaking niet eerder plaats dan nadat twee weken zijn verstreken na de dag waarop het besluit tot oplegging van de bestuurlijke boete bekend is gemaakt. Daardoor is een betrokken aanbieder in de gelegenheid om een rechtsmiddel aan te wenden, zoals een verzoek om voorlopige voorziening. Het indienen van een dergelijk verzoek schort de openbaarmaking op, totdat op het verzoek is beslist of het is ingetrokken.
Het ligt niet in de rede dat een (enkele) aanwijzing tot ontoegankelijkmaking openbaar wordt gemaakt. Een aanbieder van een communicatiedienst heeft vaak geen weet van de aanwezigheid van kinderpornografisch materiaal op zijn systemen. Veel aanbieders treden ook op tegen dit type materiaal, zodra zij op de aanwezigheid daarvan zijn geattendeerd. In dit licht is openbaarmaking van elke aanwijzing in beginsel niet proportioneel, omdat de aanbieder veelal meewerkt door binnen de gestelde termijn opvolging te geven aan een aanwijzing.
De in dit wetsvoorstel opgenomen taken en bevoegdheden worden uitgeoefend door een nieuw op te richten zelfstandig bestuursorgaan: de Autoriteit Online Terroristisch en Kinderpornografisch Materiaal (hierna: de Autoriteit).
Er is geen bestaand bestuursorgaan dat is belast met de ontoegankelijkmaking van online kinderpornografisch materiaal. De attributie van de in hoofdstuk 3 beschreven taken en bevoegdheden noopt daarom tot de instelling van een nieuw bestuursorgaan. Het is noodzakelijk dit bestuursorgaan vorm te geven als een publiekrechtelijk zelfstandig bestuursorgaan, zonder eigen rechtspersoonlijkheid.
Artikel 1, aanhef en onder a, van de Kaderwet definieert een zelfstandig bestuursorgaan als een bestuursorgaan van de centrale overheid dat bij wet met openbaar gezag is bekleed, en niet hiërarchisch ondergeschikt is aan een Minister. Het kabinetsbeleid ten aanzien van zelfstandige bestuursorganen is primair neergelegd in de Kamerbrief van 13 mei 2014.39 Dit kabinetsbeleid is in lijn met het ongevraagde advies van de Afdeling advisering van de Raad van State van 15 juni 2020 over ministeriële verantwoordelijkheid.40 Het kabinetsbeleid neemt tot uitgangspunt dat publieke taken onder volledige ministeriële verantwoordelijkheid worden uitgevoerd, zodat de verantwoordelijke bewindspersoon op alle aspecten van de uitvoering (politiek) aanspreekbaar is. Dat laat onverlet dat het in bepaalde situaties noodzakelijk kan zijn een zelfstandig bestuursorgaan in te stellen. Dat is mogelijk als is voldaan aan één van de in artikel 3, eerste lid, van de Kaderwet genoemde instellingsmotieven. In aanvulling daarop is een aanvullende motivering vereist.41 Op grond van artikel 3, eerste lid, aanhef en onderdeel a, van de Kaderwet, kan een zelfstandig bestuursorgaan worden ingesteld indien er behoefte is aan onafhankelijke oordeelsvorming op grond van specifieke deskundigheid. Zoals vermeld in de Kamerbrief van 20 november 2020, is daarvan in dit geval sprake.42 In dit specifieke geval is de primaire reden voor de keuze om de taak van het ontoegankelijk doen maken van kinderpornografisch materiaal bij een zbo te beleggen de wens (de schijn van) politieke inmenging in de vrijheid van meningsuiting te voorkomen. Vanzelfsprekend dient elk overheidsorgaan een onafhankelijke positie in te nemen ten opzichte van burgers en bedrijven. In het onderhavige geval gaat het echter om bevoegdheden die onafhankelijk van politieke organen en invloed uitgevoerd moeten worden: het ontoegankelijk maken van gegevens op internet, louter vanwege de inhoud daarvan, vormt naar zijn aard een beperking van de vrijheid van meningsuiting. De vrijheid van meningsuiting is in een democratische rechtsstaat cruciaal, en is mede daarom onder meer neergelegd in artikel 7 van de Grondwet en artikel 10 van het Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden (hierna: EVRM). Het is vaste rechtspraak dat met (legitieme en noodzakelijke) beperkingen op dit grondrecht terughoudend moet worden omgegaan.43 Dit geldt ook als het om uitingen gaat die strafbaar zijn, zoals kinderpornografisch materiaal – nog daargelaten dat over de kwalificatie van gegevens in een concreet geval verschil van inzicht kan bestaan.
Een bevoegdheid die inbreuk maakt op de vrijheid van meningsuiting moet bovendien met voldoende waarborgen zijn omgeven, zodanig dat een willekeurige inmenging wordt voorkomen.44 Uit de rechtspraak van het Europees Hof voor de Rechten van de Mens (hierna: EHRM) volgt dat het in de regel de onafhankelijke rechter is die, waar noodzakelijk, overgaat tot een beperking van de vrijheid van meningsuiting.45 Dat laat onverlet dat ook een ander orgaan, zoals een bestuursorgaan, de bevoegdheid kan worden geattribueerd om uitingen ontoegankelijk te maken. Het ontbreken van voorafgaande rechterlijke toetsing moet dan worden gecompenseerd door andere waarborgen, zodanig dat onafhankelijke oordeelsvorming alsnog is geborgd.46 Door de Autoriteit vorm te geven als zelfstandig bestuursorgaan is aan dit vereiste voldaan: een zelfstandig bestuursorgaan is niet hiërarchisch ondergeschikt aan enige politieke ambtsdrager, zodat onafhankelijke oordeelsvorming is geborgd. De bevoegdheden die de Kaderwet toekent aan de Minister van Justitie en Veiligheid worden bovendien beperkt, zodat invloed op de inhoudelijke uitoefening van de taken van de Autoriteit wordt voorkomen (zie paragraaf 4.2).
De noodzaak tot van de politiek onafhankelijke oordeelsvorming, als het gaat om de ontoegankelijkmaking van uitingen, is ook in Europees verband erkend. Zoals in voormelde Kamerbrief van 20 november 2020 is aangekondigd, zal de Autoriteit zich tevens gaan richten op de ontoegankelijkmaking van terroristische online-inhoud ter uitvoering van de TOIverordening. Deze verordening heeft tot doel terroristische online-inhoud binnen één uur van internet te verwijderen en verplicht elke lidstaat een daartoe bevoegde nationale autoriteit aan te wijzen of op te richten.47 Ingevolge artikel 12, tweede lid, van de verordening vraagt of aanvaardt een dergelijke autoriteit geen instructies van andere instanties in verband met de uitoefening van de taken die hem op grond van de verordening zijn toegewezen, behoudens toezicht overeenkomstig de nationale Grondwet.48 Door de Autoriteit vorm te geven als zelfstandig bestuursorgaan, wordt hieraan voldaan.
Geen agentschap of deconcentratie
Er is niet voor gekozen de Autoriteit vorm te geven als een agentschap. Een agentschap is een intern verzelfstandigd in de uitvoering werkzaam dienstonderdeel van een ministerie, met een eigen sturingsmodel en financiële administratie. Een agentschap is hiërarchisch ondergeschikt aan een Minister, en verhoudt zich reeds daarom niet tot de benodigde onafhankelijke oordeelsvorming. Er is evenmin gekozen voor een constructie waarin de Autoriteit weliswaar wordt ondergebracht in een regulier dienstonderdeel van een departement, maar waarbij de bevoegdheid van de Minister om in individuele gevallen aanwijzingen of instructies te geven wordt beperkt. Dit leidt tot de ongewenste situatie dat de Minister weliswaar beperkt wordt in zijn mogelijkheid tot ingrijpen, maar toch volledig politiek verantwoordelijk blijft voor de wijze waarop de Autoriteit zijn taken vervult.
De Autoriteit wordt vormgegeven als een publiekrechtelijk zelfstandig bestuursorgaan zonder eigen rechtspersoonlijkheid. Deze vormgeving is in lijn met het kabinetsbeleid inzake zelfstandige bestuursorganen.49 Dat kabinetsbeleid neemt als uitgangspunt dat een zelfstandig bestuursorgaan in de regel zonder rechtspersoonlijkheid wordt opgericht. Er is in dit geval geen aanleiding om van dit uitgangspunt af te wijken: het is voor een goede taakvervulling en de beoogde onafhankelijkheid van de Autoriteit niet noodzakelijk dat zij op eigen titel – dat wil zeggen los van de rechtspersoon Staat der Nederlanden – aan het civielrechtelijke rechtsverkeer deelneemt.
De leden van de Autoriteit worden bij koninklijk besluit op voordracht van de Minister van Justitie en Veiligheid voor een termijn van vier jaar benoemd, met uitzondering van de voorzitter, die voor vijf jaar wordt benoemd. Herbenoeming is mogelijk voor eenzelfde periode. Deze termijnen zijn in lijn met de gebruikelijke benoemingstermijnen en stellen de leden in de gelegenheid de benodigde ervaring en expertise op te bouwen. Door de termijn van de voorzitter op één jaar langer te stellen dan de termijn van de overige leden wordt de benodigde continuïteit en kennisoverdracht gewaarborgd.
Na inwerkingtreding van dit wetsvoorstel is de Kaderwet van toepassing op de Autoriteit. De Kaderwet geeft algemene regels over de positionering van de Autoriteit ten opzichte van de Minister van Justitie en Veiligheid, over onder meer:
– de positie van personeelsleden in dienst van het zelfstandig bestuursorgaan (artikel 16 Kaderwet);
– het opstellen van een jaarverslag (artikel 18 Kaderwet);
– het verstrekken van inlichtingen aan de Minister van Justitie en Veiligheid (artikel 20, eerste lid, Kaderwet);
– de bevoegdheid van de Minister van Justitie en Veiligheid om voorzieningen te treffen bij taakverwaarlozing (artikel 23 Kaderwet).
Ter vergroting van de vereiste onafhankelijkheid wordt op onderdelen afgeweken van de Kaderwet. Artikel 21 (geven van beleidsregels) en artikel 22 (vernietiging van besluiten) zijn buiten toepassing verklaard. De artikelen 20 (inlichtingen) en 23 (taakverwaarlozing) zijn van toepassing, doch slechts voor zover het gaat om het financiële beheer en de administratieve organisatie. In afwijking van artikel 12 van de Kaderwet regelen de artikelen 2a en 2c van het onderhavige wetsvoorstel dat de benoeming, schorsing en ontslag van de leden plaatsvindt bij koninklijk besluit. In aansluiting bij artikel 12, tweede lid, van de Kaderwet vindt dit laatste slechts plaats wegens ongeschiktheid of onbekwaamheid dan wel wegens andere zwaarwegende in de persoon van de betrokkene gelegen redenen. Logischerwijze kan ontslag voorts plaatsvinden op eigen verzoek. Een nadere precisering is niet noodzakelijk: de artikelen 9, 13 en 14 van de Kaderwet voorzien in algemene regels.
De beide kamers der Staten-Generaal worden elke vijf jaar geïnformeerd over de doelmatigheid en doeltreffendheid van het functioneren van de Autoriteit (artikel 39, eerste lid, van de Kaderwet).
De Autoriteit heeft tot taak de ontoegankelijkmaking van online kinderpornografisch materiaal te bevorderen en zo nodig af te dwingen. De Autoriteit heeft tevens tot taak onderzoek te doen naar de aanwezigheid van online kinderpornografisch materiaal, zodat de verspreiding daarvan wordt voorkomen of beperkt, zo mogelijk in samenwerking met private en publieke partijen.
De Autoriteit vergewist zich ervan dat een aanwijzing wordt opgevolgd en treedt zo nodig op door het opleggen van een bestuursrechtelijke sanctie. De Autoriteit moet behalve gezaghebbend ook snel kunnen handelen, en daarnaast de nodige expertise in huis hebben om (mogelijk) kinderpornografisch materiaal te beoordelen. Ook moet hij stimulerend en ontwikkelingsgericht zijn in de relatie met de betrokken marktpartijen. De Autoriteit stimuleert de samenwerking tussen deze marktpartijen en bevordert dat zij, en hun belangenorganisaties, zoveel mogelijk zelf initiatieven ontplooien om instrumenten te ontwikkelen om online kinderpornografisch materiaal tegen te gaan. Deze partijen zijn daartoe bij uitstek in staat, omdat de technische ontwikkeling van ICT en internet wortelen in het marktdomein. Ook het mobiliseren van kennis uit de wetenschap en het in verbinding brengen van deze sector met de marktsector is een functie van de maatschappelijke samenwerking. De Autoriteit hanteert hiermee een hybride aanpak: hij werkt via horizontale relaties samen met de markt (zie artikel 2, tweede lid, onder b). Waar dat niet voldoende effect sorteert, vervult hij een verticale gezagsrol en zal hij zo nodig maatregelen opleggen (zie artikel 2, tweede lid, onder a).
Positionering
Positionering ten opzichte van de zelfregulering
De Autoriteit is uitdrukkelijk gepositioneerd náást de bestaande zelfregulering. De zelfregulering is gericht op het vrijwillig en uit eigen beweging verwijderen van online kinderpornografisch materiaal. Het EOKM werkt hiertoe samen met aanbieders van communicatiediensten die vrijwillig meldingen opvolgen, een klein aandeel meldingen hebben en zelf laten zien een actieve bijdrage te leveren aan de aanpak van online seksueel kindermisbruik. De afspraken hieromtrent zijn vastgelegd in het op 13 december 2018 ondertekende addendum bij de gedragscode-notice-and-take-down dat is overeengekomen tussen overheden, internetaanbieders, hostingbedrijven en andere tussenpersonen en waarin het EOKM specifiek aangemerkt staat als betrouwbare partij (trusted flagger) voor de internetsector.
Het ligt in de rede dat de Autoriteit afspraken zal maken met het EOKM over de wijze van samenwerking en afstemming.50 In het bijzonder voor de onderzoekstaak die de Autoriteit op grond van artikel 2, tweede lid, onder b, van het wetsvoorstel heeft en die zij waar mogelijk dient uit te voeren in samenwerking met private en publieke partijen, ligt het in de rede dat zij die vorm geeft in samenwerking met het EOKM. Daarbij kan gedacht worden aan specifieke afspraken betreffende meldingen over aanbieders die in het zelfregulerend kader niet of niet voldoende reageren, relatief veel meldingen krijgen, (technische) barrières opwerpen voor een goede samenwerking of waar anderszins de zelfregulering onvoldoende effectief blijkt. De inzet van de ATKM dient zo veel mogelijk te zijn gericht op het doen van onderzoek naar de aard en oorsprong van meldingen, het opvolgen van besluiten die door de ATKM zijn uitgevaardigd en die gevallen waarin de zelfregulering niet effectief blijkt. Het is daarbij uiteraard aan de ATKM zelf om te bepalen hoe zij haar bevoegdheden uitoefent.
Positionering ten opzicht van strafrechtelijke opsporing en vervolging
De strafrechtelijke opsporing en vervolging ligt en blijft bij de politie en het OM. De focus van politie en het OM richt zich primair op de opsporing en vervolging van daders en het ontzetten van slachtoffers uit misbruiksituaties. De Autoriteit richt zich op de ontoegankelijkmaking van online kinderpornografisch materiaal, in samenwerking met deze relevante ketenpartners. Gelet op de internationale dimensie ligt het voor de hand dat de Autoriteit samenwerking zoekt met vergelijkbare organen in het buitenland. Ook met de politie en het OM worden afspraken gemaakt over de wijze van samenwerking en afstemming tussen deze organisaties. Daarmee wordt voorkomen dat door uitoefening van de bestuursrechtelijke bevoegdheden de strafrechtelijke opsporing en vervolging van diegenen die kinderpornografisch materiaal produceren of bekijken wordt doorkruist. Zie ook de artikelsgewijze toelichting op artikel 5.
Meldingen en crawling
Het wordt mogelijk om (verondersteld) online kinderpornografisch materiaal bij de Autoriteit te melden. Hiertoe wordt een frontoffice ingericht, waar ook het EOKM en de politie een melding kunnen doen. In het geval van het EOKM gaat het in het bijzonder om meldingen over materiaal dat binnen het bestaande regime van zelfregulering niet ontoegankelijk wordt gemaakt. Ook natuurlijke personen of andere rechtspersonen kunnen melding doen. Vanwege het reeds bestaande effectieve systeem van zelfregulering, zullen melders worden aangemoedigd eerst een melding bij het EOKM te doen, alvorens zich tot de ATKM te wenden.
De Autoriteit is bevoegd om onderzoek te doen naar de aanwezigheid van online kinderpornografisch materiaal op het openbare deel van het internet. Artikel 2, tweede lid, van dit voorstel van wet biedt daarvoor de grondslag. Dit onderzoek kan handmatig gebeuren, maar ook met meer innovatieve en automatische instrumenten. Bij dat laatste kan bijvoorbeeld worden gedacht aan een webcrawler, waarmee (deels) geautomatiseerd naar online kinderpornografisch materiaal wordt gezocht. Een voorbeeld waarbij dit toegepast zou kunnen worden, is als er na melding van het aantreffen van materiaal onderzocht moet worden of hetzelfde materiaal ook op andere servers of hostingdiensten wordt aangeboden. Ook kan de onderzoeksbevoegdheid worden ingezet bij door het EOKM uitgevaardigde verwijderverzoeken of door de ATKM uitgevaardigde verwijderingsbevelen en opgelegde sancties. Met de bevoegdheid voor de ATKM om een webcrawler te gebruiken, wordt uitvoering gegeven aan de motie-Van Nispen.51
In beide gevallen controleert de Autoriteit of het in het individuele geval daadwerkelijk om kinderpornografisch materiaal gaat. Deze controle kan plaatsvinden door een ter zake deskundige medewerker, maar kan ook geautomatiseerd worden verricht. In dit laatste geval wordt, eventueel in combinatie met de hiervoor genoemde crawler, gebruikgemaakt van de Hashcheckserver. Dit betreft een database met (thans) ongeveer 1,4 miljoen unieke hashcodes (digitale vingerafdrukken) van eerder gedetecteerd online kinderpornografisch materiaal. Deze hashcodes zijn door de politie beschikbaar gesteld.52 Daarnaast zijn er inmiddels ruim 60.000 hashcodes opgenomen van Interpol en 1,5 miljoen codes van het Amerikaanse National Center for Missing & Exploited Children (bekend als NCMEC). Zoals hiervoor aangegeven overlegt de Autoriteit over zijn activiteiten met de betrokken marktpartijen vanuit het belang van een zo effectief mogelijke aanpak. Zo kunnen de activiteiten van de Autoriteit en die van de betrokken aanbieders van communicatiediensten elkaar aanvullen en versterken.
Onderzoeksgebied
Het onderzoeksgebied van de Autoriteit ziet enkel op materiaal dat zich op het openbare internet bevindt. Met het openbare internet wordt bedoeld dat deel van het internet dat door een gebruiker direct kan worden benaderd, bijvoorbeeld via een link, een adres of een inlog. De Autoriteit is daarom bevoegd onderzoek te doen op het openbare internet. Dit betekent dat wanneer voor de toegang tot informatie registratie of toelating tot een groep gebruikers vereist is, zij alleen onder het bereik van het wetsvoorstel valt wanneer gebruikers die toegang tot de informatie wensen, automatisch worden geregistreerd of toegelaten zonder menselijke beslissing of selectie van wie toegang krijgt. Alleen dan kan namelijk worden gesproken van het «openbare internet». Dit voorstel biedt derhalve geen grondslag voor het kennisnemen van bronnen waarbij een aanvullende handeling, die in feite niet volledig geautomatiseerd is, is vereist en waarvoor een «deurbeleid» bestaat in de vorm van een beoordeling van de accounthouder (in enige mate doorbreken van een beveiliging).
De Autoriteit wordt krachtens dit wetsvoorstel niet toegerust met opsporingsbevoegdheden, omdat dat niet past bij de taak die het wetsvoorstel aan de Autoriteit toekent. De taak van de Autoriteit is immers het zo snel mogelijk offline laten halen dan wel ontoegankelijk doen maken van online kinderpornografisch materiaal en niet het opsporen van de plaatsers van dit materiaal.
Wanneer sprake is van online kinderpornografisch materiaal, kan de Autoriteit een aanwijzing geven. De beschikking daartoe wordt op elektronische wijze bekendgemaakt. Bij nieuw kinderpornografisch materiaal maakt de Autoriteit daarvan melding bij de politie (zie ook artikel 5, tweede lid). In dat geval kan opsporingsonderzoek opportuun zijn, zodat actueel kindermisbruik wordt gestopt en een dader vervolgd. Het is denkbaar dat de Autoriteit besluit geen aanwijzing te geven. Dat kan bijvoorbeeld het geval zijn als de betrokken aanbieder van een communicatiedienst niet eerder in aanraking is geweest met online kinderpornografisch materiaal en aannemelijk is dat zelfregulering effectiever is. Van een aanwijzing zal voorts worden afgezien als de betrokken aanbieder niet in Nederland is gevestigd. In dat geval wordt de melding doorgezet aan een in het betrokken land gevestigd meldpunt.
Om zicht te houden op de meldingenstroom monitort de Autoriteit de uitgaande aanwijzingen en zo mogelijk daarbij ook de meldingen van het EOKM, zodat inzichtelijk wordt welke aanbieders meldingen ontvangen en binnen welke termijn deze worden opgevolgd. Deze eerdergenoemde monitor is als instrument door de Technische Universiteit Delft gebouwd en werkzaam.53 Het heeft een focus op meldingen aan aanbieders van hostingdiensten. Aanbieders van mere conduit-diensten vallen buiten de scope van de monitor omdat meldingen van het EOKM daar niet op zijn gericht. Zoals eerder opgemerkt ligt het echter niet in de rede dat een aanwijzing vaak tot dit type aanbieders wordt gericht. De resultaten van dit monitorinstrument maakt de Autoriteit jaarlijks openbaar, of naar eigen inzicht vaker, waarmee namen en prestaties van deze aanbieders openbaar worden.
Evaluatie
Mede gelet op de toezegging van het kabinet om nieuwe wet- en regelgeving na de invoering daarvan te toetsen, wordt de werking en effecten van het onderhavige voorstel van wet geëvalueerd.54 Daarbij is aandacht voor de werking van het voorgestelde instrumentarium en de effecten daarvan in de praktijk. Gelet op artikel 39 van de Kaderwet zendt de Minister van Justitie en Veiligheid bovendien elke vijf jaar een verslag aan beide kamers der Staten-Generaal ten behoeve van de beoordeling van de doelmatigheid en doeltreffendheid van het functioneren van de Autoriteit.
De Autoriteit zal zich tevens gaan richten op de ontoegankelijkmaking van terroristische online-inhoud, ter uitvoering van de TOI-verordening.55 Voor het beleggen van deze beide taken bij één Autoriteit is gekozen omdat de taken gelijksoortig zijn en de systematiek van inhoudsverwijdering overeenkomt. Het is daarom doelmatig en doeltreffend als één Autoriteit beide taken uitvoert. Ook komt het de zichtbaarheid voor de sector die met de Autoriteit te maken krijgt ten goede als beide taken zijn belegd bij één instantie. De Uitvoeringswet verordening terroristische online-inhoud (Uitvoeringswet TOI-verordening) zal eerder in werking treden dan het onderhavige wetsvoorstel, zodat het zelfstandige bestuursorgaan reeds met die uitvoeringswet zal zijn opgericht. Voor die situatie bevat artikel 15 van dit wetsvoorstel een samenloopbepaling.
Hoewel sprake is van een groot aantal overeenkomsten tussen de Uitvoeringswet TOI-verordening en het onderhavige voorstel, zijn er ook een aantal verschillen. De Afdeling advisering van de Raad van State heeft hier ook naar gevraagd in haar advies. Hieronder zal kort worden stil gestaan bij de achtergrond van die verschillen.
Verwijdertermijn
De termijn waarbinnen terroristische online-inhoud op grond van de TOI-verordening van het internet verwijderd moet zijn bedraagt één uur na ontvangst van het verwijderingsbevel, terwijl artikel 6, vierde lid, aanhef en onder c van het onderhavige wetsvoorstel bepaalt dat de aanwijzing de termijn bevat waarbinnen de gegevens ontoegankelijk moeten worden gemaakt. De lengte van die termijn is afhankelijk van de omstandigheden van het geval en vereist een afweging tussen het belang van tijdige verwijdering enerzijds en de technische en praktische maatregelen die redelijkerwijs van de aanbieder kunnen worden gevergd anderzijds. Een termijn van 1 uur voor de opvolging van een aanwijzing om kinderpornografisch materiaal ontoegankelijk te maken acht het kabinet niet in alle gevallen uitvoerbaar. Daarom is ervoor gekozen geen concrete termijn in de wet op te nemen, maar is het aan de Autoriteit om in het concrete geval een afweging te maken en daarbij een passende termijn te stellen. Gelet op het veelal evidente karakter van kinderpornografisch materiaal zal de in de aanwijzing opgenomen termijn in de regel wel kort zijn. Ter illustratie kan worden gewezen op de termijn in het op 13 december 2018 ondertekende addendum bij de gedragscode-notice-and-take-down voor de Nederlandse internetsector, waarin is opgenomen dat kinderpornografisch materiaal binnen 24 uur na een melding moet zijn verwijderd (zie: Notice and Takedown Code). Ook in het voorstel voor een Verordening ter voorkoming en bestrijding van seksueel kindermisbruik (COM(2022) 209 final 2022/0155 (COD)) waarover momenteel wordt onderhandeld, is een verwijdertermijn van 24 uur opgenomen.
Factoren die een rol spelen bij de keuze en hoogte van de sanctie
Ten aanzien van terroristische online-inhoud expliciteert de TOI-verordening concreet een aantal te betrekken omstandigheden die een rol zullen spelen bij een op te leggen bestuurlijke boete. Deze vloeien daarmee direct uit de Verordening voort. Het gaat dan om: de aard, ernst en duur van de inbreuk; eerder gemaakte inbreuken door de aanbieder; de financiële draagkracht van de aanbieder; de mate van samenwerking met de Autoriteit; de omvang van de onderneming; de schuldgraad van de aanbieder.56 In het onderhavige wetsvoorstel zijn deze factoren niet in de tekst van de wet opgenomen. De reden hiervoor is dat op grond van artikel 5:46, tweede lid, Awb de hoogte van de boete in elk concreet geval wordt afgestemd op de ernst van de overtreding en de mate waarin deze aan de overtreder kan worden verweten. Het bestuursorgaan houdt daarbij zo nodig rekening met de omstandigheden waaronder de overtreding is gepleegd. Bij het opleggen van een boete wordt verder beoordeeld of er omstandigheden zijn die nopen tot verlaging of matiging van de boete. Het in dit wetsvoorstel opnemen van de omstandigheden zoals genoemd in artikel 18, tweede lid van de TOI-verordening, zou daaraan niets toevoegen. De Awb verplicht immers al rekening te houden met alle relevante factoren, ook die zoals genoemd in de TOI-verordening. Dat deze factoren wel in de TOI-verordening zijn opgenomen, is vanuit het standpunt van de EU-wetgever begrijpelijk nu deze daarmee beoogt een binnen de Unie vergelijkbaar kader te scheppen. Nu de Awb hiervoor reeds een algemene regeling geeft, is het niet noodzakelijk in dit wetsvoorstel nog een bijzondere regeling op te nemen met factoren waarmee rekening moet worden gehouden bij het opleggen van een bestuurlijke boete.
Mogelijkheid tot openbaarmaking bestuurlijke boete
In het onderhavige wetsvoorstel is de mogelijkheid opgenomen openbaar te maken dat een bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven aan een aanwijzing (zie artikel 10 van dit wetsvoorstel). Reden daarvoor is in de eerste plaats de naleving van deze wet te bevorderen, en tevens inzicht te geven in de mate en de manier waarop op deze naleving toezicht wordt gehouden. Daarnaast gaat van de openbaarmaking een zekere diffamerende werking uit, omdat de bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven aan een gegeven aanwijzing. Tijdens de behandeling van de Uitvoeringswet TOI-verordening in de Tweede Kamer is door het lid Michon-Derkzen een amendement ingediend dat er onder meer toe strekt de Autoriteit de mogelijkheid te geven opgelegde bestuurlijke boetes voor het niet opvolgen van een verwijderingsbevel openbaar te maken.57 Dit amendement is aangenomen en de Uitvoeringswet TOI-verordening en het onderhavige wetsvoorstel zijn daarmee op dit punt gelijkluidend.
Format voor een beroep op overmacht
In tegenstelling tot het onderhavige wetsvoorstel bevat de TOI-verordening een regeling met betrekking tot de wijze waarop de aanbieder van hostingdiensten zich kan beroepen op overmacht dan wel feitelijke onmogelijkheid tot naleving van het bevel om terroristische online-inhoud ontoegankelijk te maken. De TOI-verordening bevat daartoe een uitgewerkt format op basis waarvan de onmogelijkheid tot naleving kenbaar kan worden gemaakt. Dat het onderhavige wetsvoorstel niet voorziet in een specifieke regeling of specifiek format is gelegen in het feit dat de Awb algemene regels bevat waarmee rekening moet worden gehouden bij het opleggen van een last onder dwangsom of een bestuurlijke boete, waarmee een aanbieder van hostingdiensten voldoende mogelijkheden heeft om een onmogelijkheid tot naleving kenbaar te maken.
Een last onder dwangsom kan alleen worden opgelegd aan de overtreder die het in zijn macht heeft de overtreding te beëindigen.58 Daarin ligt besloten dat een last onder dwangsom niet wordt opgelegd als de aanbieder van een hostingsdienst vanwege overmacht of feitelijke onmogelijkheid niet in staat zal zijn de last uit te voeren. In geval van blijvende of tijdelijke gehele of gedeeltelijk onmogelijkheid voor de overtreder om aan zijn verplichtingen te voldoen, kan het bestuursorgaan dat een last onder dwangsom heeft opgelegd op grond van artikel 5:34, eerste lid Awb, op verzoek van de overtreder de last opheffen, de looptijd ervan opschorten voor een bepaalde termijn of de dwangsom verminderen.
Voor wat betreft een bestuurlijke boete geldt dat een bestuursorgaan deze op grond van artikel 5:41 Awb niet kan opleggen voor zover de overtreding niet aan de overtreder kan worden verweten. Een aanbieder die niet in de mogelijkheid verkeert gegevens ontoegankelijk te maken bijvoorbeeld om technische redenen, kan deze overtreding niet worden verweten en hem kan derhalve geen bestuurlijke boete worden opgelegd. Bovendien dient de ATKM de boete op grond van artikel 5:46, tweede lid, Awb af te stemmen op de ernst van de overtreding en de mate waarin deze aan de overtreder kan worden verweten. Daarbij houdt de ATKM zo nodig rekening met de omstandigheden waaronder de overtreding is begaan. Een verminderde verwijtbaarheid kan derhalve aanleiding vormen een lagere boete vast te stellen. Gelet op de reeds bestaande mogelijkheden in de Awb om de onmogelijkheid tot naleving kenbaar te maken en rekening te houden met de omstandigheden waarin de aanbieder verkeert, acht de regering opname van een specifieke regeling in dit wetsvoorstel niet noodzakelijk.
De voorgestelde bevoegdheden behoeven toelichting in een grondrechtelijk kader. Dit komt hieronder aan bod.
De aanwending van de voorgestelde bevoegdheden kan een inmenging vormen in het recht op vrijheid van meningsuiting. Dit recht omvat de vrijheid een mening te openbaren, en de vrijheid om inlichtingen of denkbeelden te ontvangen, zonder inmenging van het openbaar gezag en ongeacht landsgrenzen. Dit recht is onder meer beschermd in artikel 10 van het EVRM en artikel 11 van het Handvest van de Grondrechten van de Europese Unie (hierna: het Handvest).59 Volgens de toelichting bij het Handvest corresponderen de rechten van artikel 11 van het Handvest met de rechten die in artikel 10 van het EVRM zijn gewaarborgd en hebben deze, gelet op artikel 52, derde lid, van het Handvest, dezelfde inhoud en reikwijdte.
Hierna wordt eerst stilgestaan bij de beperkingssystematiek van het EVRM en het Handvest. De vrijheid van meningsuiting wordt vanzelfsprekend ook beschermd door artikel 7 van de Grondwet. Op deze bepaling wordt aan het slot van deze paragraaf ingegaan.
Artikel 10, eerste lid, EVRM heeft ook betrekking op uitingen op internet.60 Het valt niet uit te sluiten dat materiaal dat als kinderpornografisch wordt gekwalificeerd, onder omstandigheden binnen de reikwijdte van deze bepaling valt en dat (bijvoorbeeld) degene die dit materiaal op het internet heeft geplaatst, hier een beroep op doet.61 Voor zover dat het geval is, geldt dat het in deze bepaling neergelegde recht op vrijheid van meningsuiting niet absoluut is: het tweede lid stelt buiten twijfel dat op dit recht beperkingen mogelijk zijn. Een inmenging is gerechtvaardigd als deze bij wet is voorzien, een legitiem doel dient en noodzakelijk is in een democratische samenleving.
Bij wet voorzien
Een inbreuk op het recht van vrijheid van meningsuiting vergt een wettelijke grondslag. Deze grondslag moet voldoen aan de vereisten van toegankelijkheid (accessibility) en voorzienbaarheid (foreseeability). Het is dus niet alleen van belang of er een wettelijke grondslag is, maar ook of de betreffende regeling kwalitatief in orde is en voldoende waarborgen biedt tegen willekeurige inmenging. Dat betekent onder meer dat de grondslag waarop de inmenging rust voor de burger voldoende kenbaar moet zijn, en dat de desbetreffende norm zodanig precies moet zijn geformuleerd dat de burger zijn gedrag erop kan afstemmen.
Met de voorgestelde bevoegdheden wordt de benodigde wettelijke basis verschaft. Voorts zijn de voorgestelde bevoegdheden nauwkeurig en specifiek omschreven. Allereerst geldt dat zij louter kunnen worden aangewend in geval van kinderpornografisch materiaal. Andere uitingen op internet vallen buiten de reikwijdte van deze bevoegdheid. Het veelal evidente en contextonafhankelijk karakter van kinderpornografisch materiaal maakt dat voldoende voorzienbaar is in welke gevallen zal worden opgetreden. Anders dan bij vele andere soorten online uitingen zal er bij kinderpornografisch materiaal niet snel twijfel zijn over de kwalificatie van het materiaal. Voorts geldt dat de Autoriteit alleen optreedt in geval van kennelijk kinderpornografisch materiaal. Materiaal waarover redelijkerwijs toch enige discussie mogelijk is valt derhalve buiten de reikwijdte van deze bevoegdheid.
Tegen zowel de aanwijzing als een (eventueel) daaropvolgende bestuursrechtelijke sanctie staat bestuursrechtelijke rechtsbescherming open. Hoewel deze rechtsmiddelen de werking van een besluit niet opschorten, kan zowel in bezwaar als in (hoger) beroep een verzoek om een voorlopige voorziening worden gedaan. De toewijzing van dit verzoek kan schorsende werking sorteren en ertoe leiden dat de ontoegankelijkmaking achterwege blijft of ongedaan wordt gemaakt, totdat op het bezwaar of het beroep is beslist.
Legitiem doel
De ontoegankelijkmaking dient een legitiem doel: de bescherming van de gezondheid of de goede zeden, alsmede op de bescherming van de rechten van anderen: daaronder kan worden begrepen het beperken van de beschikbaarheid van online kinderpornografisch materiaal.62 Het voorkomen en beperken van seksueel misbruik van minderjarigen is een zwaarwegend belang.63 Deze zwaarwegendheid wordt ondersteund door de Richtlijn kindermisbruik. Ingevolge deze richtlijn rust op Nederland een verplichting om maatregelen te treffen om handelingen die verband houden met seksueel misbruik van kinderen te voorkomen. In overweging 46 van deze richtlijn staat:
«(...) Om kinderpornografie te bestrijden moet de verspreiding van materiaal betreffende seksueel misbruik van kinderen worden beperkt door het voor daders moeilijker te maken om de inhoud op het publiek toegankelijke internet te uploaden. Er moet derhalve worden opgetreden om de desbetreffende inhoud te verwijderen (...).»
Deze verplichting is uitgewerkt in artikel 25, eerste lid, van voormelde richtlijn. Op grond van deze bepaling zijn lidstaten verplicht maatregelen te nemen om de onverwijlde verwijdering te bewerkstelligen van websites die kinderporno bevatten of verspreiden, indien de desbetreffende gegevens op het grondgebied van die lidstaat worden gehost. Met dit wetsvoorstel wordt in dergelijke maatregelen voorzien.
Noodzakelijk in een democratische samenleving
Ten slotte kan worden opgemerkt dat de voorgestelde maatregelen voorzien in een dringende maatschappelijke behoefte (pressing social need).64 Gewezen wordt op het zeer grote aantal kinderpornografische afbeeldingen dat ieder jaar in Nederland wordt gehost en doorgegeven en de noodzaak daar tegen op te treden. De voorgestelde maatregelen zijn proportioneel. Het geven van een bindende aanwijzing is een middel dat op een weinig ingrijpende manier de verspreiding van online kinderpornografisch materiaal tegen gaat. Het opleggen van een sanctie, zoals een last onder dwangsom of een bestuurlijke boete, kan noodzakelijk zijn om naleving van de aanwijzing af te dwingen. Het opleggen van een last onder dwangsom of een bestuurlijke boete is bovendien pas aan de orde als de aanwijzing niet, of niet volledig, wordt nagekomen. Als de aanwijzing wordt opgevolgd, is er geen ruimte een sanctie op te leggen. De aanwijzing verplicht ook niet tot meer dan waartoe de aanbieder van een communicatiedienst in redelijkerwijs in staat is: de aanbieder die aannemelijk maakt alle redelijkerwijs te nemen maatregelen te hebben getroffen, heeft aan zijn verplichtingen voldaan. Ten aanzien van de last onder dwangsom wordt opgemerkt dat de hoogte van een dwangsom in alle gevallen in redelijke verhouding moet staan tot de zwaarte van de overtreding en de beoogde werking van de dwangsom. Enerzijds dient van de (dreigende) verbeurte een prikkel uit te gaan de overtreding te beëindigen. Anderzijds mag deze prikkel, gelet op het niet-punitieve karakter van de last onder dwangsom, niet verder te gaan dan noodzakelijk. Het voormelde geldt evenzeer voor het opleggen van een bestuurlijke boete: daarvoor is slechts plaats indien en nadat een aanwijzing niet of niet volledig is opgevolgd en dit aan de dienstverlener kan worden verweten. De hoogte van de boete wordt afgestemd op de ernst van de overtreding en de mate waarin deze aan de overtreder kan worden verweten. Daarbij wordt onder meer rekening gehouden met de omstandigheden waaronder de overtreding is gepleegd. Over de openbaarmaking wordt ten slotte opgemerkt dat openbaarmaking pas aan de orde is nadat een bestuurlijke boete is opgelegd. Het gaat derhalve niet om een maatregel die direct samen met een aanwijzing tot ontoegankelijkmaking wordt opgelegd, maar om een maatregel opgelegd ter handhaving van deze aanwijzing. Gelet op de mogelijke samenloop van een last onder dwangsom en een bestuurlijke boete geldt bovendien dat het totale pakket van sancties, gelet op artikel 3:4, tweede lid, Awb, evenredig zal moeten zijn.
Gelet op het voormelde is de voorgestelde regeling met voldoende waarborgen omkleed om een willekeurige inmenging in de grondrechten te voorkomen. Daarbij is relevant dat de bevoegdheid tot het geven van een aanwijzing slechts aangewend kan worden indien sprake is van kennelijk online kinderpornografisch materiaal. Er is derhalve geen sprake van een algemene bevoegdheid tot ontoegankelijkmaking, die onder alle omstandigheden en gericht op alle typen online materiaal kan worden aangewend. Voorts is voorzien in een effectief en daadwerkelijk rechtsmiddel, waaronder de mogelijkheid tot het indienen van een verzoek om een voorlopige voorziening waarmee schorsende werking kan worden verkregen.
Artikel 7 van de Grondwet
De vrijheid van meningsuiting wordt ook beschermd door artikel 7 Gw. Het derde lid van dit artikel bepaalt dat niemand voorafgaand verlof nodig heeft voor het openbaren van gedachten en gevoelens door andere middelen dan de drukpers en omroep, behoudens ieders verantwoordelijkheid volgens de wet. Dit recht impliceert het recht een mening te uiten, waarbij alleen de wet in formele zin beperkingen kan stellen. Ook uitingen op internet vallen onder de reikwijdte van deze bepaling. Voorafgaand verlof wegens de inhoud van een uiting is verboden, ook als dat bij wet in formele zin geschiedt. Waar een (repressieve) beperking wordt aangebracht, moet bovendien zijn voorzien in een rechtsgang naar een rechtsprekend orgaan.65
Gelet op hetgeen hiervoor is opgemerkt, is het voorgestelde systeem in lijn met artikel 7, derde lid, Gw. Benadrukt wordt dat de voorgestelde maatregelen niet strekken tot enig stelsel van voorafgaand verlof: een aanwijzing kan slechts worden gegeven ten aanzien van reeds geüpload kinderpornografisch materiaal, en strekt derhalve niet tot enige verplichting om uitingen preventief te filteren. Dat geldt evenzeer voor eventuele op de aanwijzing volgende sancties, nu deze slechts strekken ter handhaving van de aanwijzing tot ontoegankelijkmaking. Ook de zorgplicht leidt niet tot preventief toezicht van overheidswege, maar laat de keuze voor het treffen van passende en evenredige maatregelen aan de aanbieder van hostingdiensten.
Een bevoegdheid die strekt tot ontoegankelijkmaking van online informatie kan een beperking opleveren van de vrijheid van ondernemerschap (artikel 16 Handvest). De vrijheid van ondernemerschap ziet met name op het recht voor elke onderneming om, binnen de grenzen van de aansprakelijkheid voor eigen handelingen, vrij te beschikken over de haar ter beschikking staande economische, technische en financiële middelen.
De hier voorgestelde bevoegdheden kunnen ertoe leiden dat deze vrijheid wordt beperkt omdat wordt ingegrepen in de bedrijfsvoering van ondernemingen. Deze beperking moet noodzakelijk en proportioneel zijn. Uit de rechtspraak van het Hof van Justitie66 kan worden afgeleid dat een aanwijzing tot ontoegankelijkmaking van gegevens een gerechtvaardigde inmenging is als aan drie eisen is voldaan:
– de aanwijzing schrijft niet voor welke maatregelen getroffen moeten worden. Degene tot wie de aanwijzing is gericht kan zelf de (technische) middelen kiezen om aan die maatregel te voldoen. Tevens moet diegene niet worden aangerekend dat een aanwijzing niet is nagekomen als hij kan aantonen alle redelijke maatregelen daartoe te hebben genomen;
– de genomen maatregelen mogen internetgebruikers niet nodeloos de mogelijkheid ontzeggen om zich rechtmatig toegang tot beschikbare informatie te verschaffen, en
– de maatregel moet daadwerkelijk doeltreffend zijn, en derhalve tot gevolg hebben dat niet-toegestane uitingen worden verhinderd of minstens bemoeilijkt.
Met de voorgestelde wettelijke regeling wordt aan deze voorwaarden voldaan. De beoogde aanwijzing verplicht de aanbieder van een communicatiedienst alle maatregelen te treffen die redelijkerwijs kunnen worden gevergd om het kinderpornografische materiaal ontoegankelijk te maken. De aanwijzing schrijft niet voor welke (technische) middelen moeten worden aangewend. De aanbieder van een communicatiedienst kan dus zelf de (technische) middelen kiezen om aan de aanwijzing te voldoen. De aanbieder die aannemelijk maakt alle redelijkerwijs te nemen maatregelen te hebben getroffen, maar er desalniettemin niet in slaagt het materiaal ontoegankelijk te maken, heeft aan deze verplichting voldaan. Het voormelde geldt in gelijke zin voor de zorgplicht.
Het vereiste van evenredigheid betreft een uitwerking van het evenredigheidsbeginsel, zoals dat onder meer is neergelegd in artikel 52, eerste lid, van het Handvest. Uit dit vereiste volgt dat de gevorderde maatregelen in een redelijke verhouding moeten staan tot het daarmee beoogde doel. Een maatregel die slechts beperkt effectief is wordt eerder als onevenredig aangemerkt: als het beoogde doel minder gemakkelijk wordt gerealiseerd, zal de maatregel minder snel in een redelijke verhouding tot dat doel staan. Ten aanzien van de voorgestelde maatregelen wordt opgemerkt dat de zorgplicht, aanwijzing en eventuele daarop volgende sancties ertoe strekken dat de verspreiding van online kinderpornografisch materiaal wordt beperkt. Hoewel de verspreiding van kinderpornografisch materiaal nooit volledig valt uit te bannen, wordt dit wel sterk bemoeilijkt. Gelet daarop, en op de omstandigheid dat er geen minder verstrekkend middel voorhanden is, is de regering van oordeel dat de onderhavige maatregel aan het evenredigheidsvereiste voldoet.
De AVG geeft regels voor de verwerking van persoonsgegevens. Onder «persoonsgegevens» wordt op grond van artikel 4, eerste lid, AVG verstaan alle informatie over een geïdentificeerde of identificeerbare natuurlijke persoon.
Voor de uitoefening van de krachtens deze wet aan de Autoriteit opgedragen taken is het verwerken van persoonsgegevens noodzakelijk. Dit betreft primair persoonsgegevens van diegenen die op het (gesteld) kinderpornografisch materiaal worden afgebeeld. Voorts betreft het persoonsgegevens van personen die zijn betrokken bij de rechtspersoon aan wie een aanwijzing wordt gegeven of een sanctie wordt opgelegd. Omdat het niet mogelijk zal zijn een aanwijzing te geven of een sanctie op te leggen zonder dat persoonsgegevens worden verwerkt, is deze verwerking noodzakelijk. De taak om de ontoegankelijkmaking van deze gegevens te bevorderen, zoals deze is opgedragen aan de Autoriteit, vormt daarmee tevens de grondslag voor de verwerking van persoonsgegevens, als bedoeld in artikel 6, eerste lid, onderdeel e, AVG. Het voormelde geldt evenzeer indien de Autoriteit persoonsgegevens, verkregen bij de uitoefening van zijn taken, aan het Openbaar Ministerie verstrekt ten behoeve van de strafrechtelijke vervolging en opsporing.
Bijzondere categorieën van persoonsgegevens
Voor de uitvoering van de voorgestelde bevoegdheden kan het voorts noodzakelijk zijn om bijzondere categorieën van persoonsgegevens als bedoeld in artikel 1 van de Uitvoeringswet Algemene verordening gegevensbescherming te verwerken. Hetzelfde geldt voor de verwerking van strafrechtelijke gegevens als bedoeld in artikel 10 van de AVG. Voorafgaand aan het geven van een aanwijzing moet worden vastgesteld of het materiaal inderdaad kinderpornografisch is. Dat vergt een verwerking van persoonsgegevens betreffende seksuele gedragingen van de personen (in het bijzonder: daders) die op het beeldmateriaal zichtbaar zijn.
Het verwerken van bijzondere categorieën van persoonsgegevens (waaronder gegevens met betrekking tot iemands seksueel gedrag of seksuele gerichtheid) is op grond van artikel 9, eerste lid, AVG verboden, tenzij in de AVG of het nationale recht een uitzondering is aan te wijzen. De verwerking van deze bijzondere categorieën van persoonsgegevens is noodzakelijk, omdat op het beeldmateriaal (veelal) een persoon zichtbaar zal zijn die een bepaalde handeling met een minderjarige verricht, en waaruit deze gegevens kunnen worden afgeleid. Voor het verwerken daarvan is derhalve een wettelijke grondslag noodzakelijk. De mogelijkheid die artikel 9, tweede lid, onderdeel g biedt om een dergelijke uitzondering te creëren is in dit wetsvoorstel benut. Artikel 11, eerste lid, bepaalt dat de Autoriteit bijzondere categorieën van persoonsgegevens kan verwerken, voor zover dat noodzakelijk is voor de uitvoering van de bij deze wet aan hem opgedragen taken. Deze verwerking is noodzakelijk om redenen van zwaarwegend algemeen belang: het ontoegankelijk maken van kinderpornografisch materiaal en het voorkomen van verdere kennisneming en verspreiding daarvan. De zwaarwegendheid van dit belang blijkt onder meer uit de eerder genoemde Richtlijn kindermisbruik. Deze Richtlijn onderstreept dat seksueel misbruik en seksuele uitbuiting van kinderen tot ernstige schendingen van grondrechten leidt en dat de bestrijding van dit type misbruik de hoogste prioriteit heeft.
Vanzelfsprekend is het doel van deze verwerking gebonden aan de uitoefening van de taken van de Autoriteit. De ruimte om persoonsgegevens te verwerken, vindt hierin zijn begrenzing. De verwerking van deze typen persoonsgegevens is derhalve slechts toegestaan voor zover dat noodzakelijk is voor de uitvoering van de taken van de Autoriteit: het geven van aanwijzingen en zo nodig het opleggen van sancties. Verder dient de Autoriteit als verwerkingsverantwoordelijke onder meer te voorzien in voldoende beveiligingsmaatregelen.
Geautomatiseerde besluitvorming
De Autoriteit is ook bevoegd om zelfstandig en dus zonder voorafgaande melding onderzoek te doen naar de aanwezigheid van online kinderpornografisch materiaal. Artikel 2, tweede lid onder b, van dit voorstel van wet biedt daarvoor de grondslag. Dit onderzoek kan handmatig gebeuren, maar ook met meer innovatieve en automatische instrumenten zoals een webcrawler waarmee (deels) geautomatiseerd naar online kinderpornografisch materiaal wordt gezocht. In beide gevallen controleert de Autoriteit of het in het individuele geval daadwerkelijk om kinderpornografisch materiaal gaat. Deze controle kan plaatsvinden door een ter zake deskundige medewerker, maar kan ook geautomatiseerd worden verricht. In dit laatste geval wordt, eventueel in combinatie met de hiervoor genoemde crawler, gebruikgemaakt van de Hashcheckserver. Dit betreft een database met (thans) ongeveer 1,4 miljoen unieke hashcodes (digitale vingerafdrukken) van eerder gedetecteerd online kinderpornografisch materiaal. Deze hashcodes zijn door de politie beschikbaar gesteld.67
Voordat op basis van een geautomatiseerde controle besloten wordt tot oplegging van een aanwijzing of zorgplicht, vindt altijd een menselijke toets plaats. In antwoord op het advies van de Afdeling advisering kan derhalve worden aangegeven dat het wetsvoorstel op dit punt in overeenstemming is met de AVG, in het bijzonder artikel 22 AVG. De AVG stelt namelijk grenzen aan besluitvorming die uitsluitend is gebaseerd op de geautomatiseerde verwerking van persoonsgegevens en waaraan, zoals de AVG bepaalt, voor de betrokkene rechtsgevolgen zijn verbonden of die hem op een andere manier in aanmerkelijke mate treft.
Rechten van betrokkene
De betrokkene (of zijn wettelijk vertegenwoordiger), kan op grond van de AVG bij de Autoriteit een verzoek indienen waarbij hij een beroep doet op een van zijn rechten als betrokkene. Het kan in voorkomend geval noodzakelijk zijn bepaalde rechten van betrokkene in te perken indien dit noodzakelijk is op grond van één van volgende gronden genoemd in artikel 23, eerste lid, AVG:
– de nationale veiligheid (a),
– de openbare veiligheid (c),
– de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, met inbegrip van de bescherming tegen en de voorkoming van gevaren voor de openbare veiligheid (d),
– de bescherming van de betrokkene of van de rechten en vrijheden van anderen (i).
Daarmee wordt aangesloten bij artikel 23, eerste lid, aanhef en onderdelen a, c, d, en i van de AVG die voorziet in de mogelijkheid om bij Unierechtelijke of lidstaatrechtelijke wetgevingsmaatregel die op de verwerkingsverantwoordelijke of de verwerker van toepassing is bepaalde rechten van betrokkene te beperken, op voorwaarde dat die beperking de wezenlijke inhoud van de grondrechten en fundamentele vrijheden onverlet laat en in een democratische samenleving een noodzakelijke en evenredige maatregel is ter waarborging van een van de aldaar genoemde belangen.
In artikel 41 UAVG is eveneens een bepaling opgenomen die de mogelijkheid biedt om rechten van betrokkenen onder de aldaar genoemde voorwaarden in te perken. Artikel 12 van onderhavig voorstel bevat een nadere concretisering van deze mogelijkheid, waarbij de voorwaarde is opgenomen dat bij gebruikmaking van deze bevoegdheid moet worden voorzien in een dragende onderbouwing, die schriftelijk wordt medegedeeld aan de betrokkene wiens rechten worden beperkt. Indien dit echter afbreuk doet aan het doel van de beperking kan de mededeling aan de betrokkene achterwege worden gelaten. In dat geval dient alsnog mededeling aan betrokkene te worden gedaan zodra de reden voor het achterwege blijven is vervallen. Het informeren van betrokkene doet dan immers geen afbreuk meer aan het doel van de beperking.
Buiten kijf staat dat op een op het beeldmateriaal afgebeeld slachtoffer op grond van deze bepaling – desgewenst – inzage kan en moet kunnen krijgen in dit materiaal. Het is echter niet uitgesloten dat ook de persoon die het kinderpornografisch materiaal heeft geproduceerd en daarop zichtbaar is, inzage in dit materiaal wil krijgen of hier een kopie van wil ontvangen. In dat geval ligt het in de rede dat inzage wordt geweigerd. Artikel 12, eerste lid, regelt daarom dat de Autoriteit kan bepalen dat de rechten van betrokkene op grond van de AVG worden beperkt. Gelet op de aard van kinderpornografisch materiaal kan deze verwerking mede betrekking hebben op bijzondere categorieën van persoonsgegevens (waaronder gegevens met betrekking tot iemands seksueel gedrag of seksuele gerichtheid). Dit vergt een zaaksgebonden afweging van de Autoriteit. Een dergelijke beslissing zal bijvoorbeeld niet snel worden genomen als een op het materiaal afgebeelde minderjarige of diens wettelijk vertegenwoordiger om inzage vraagt.
Advies Autoriteit Persoonsgegevens
Gelet op artikel 36, vierde lid, van de Algemene verordening gegevensbescherming is een concept van dit wetsvoorstel en toelichting voorgelegd aan de Autoriteit Persoonsgegevens. De Autoriteit Persoonsgegevens heeft geen opmerkingen bij het concept.
De Richtlijn inzake elektronische handel bepaalt onder welke voorwaarden en omstandigheden een aanbieder van een communicatiedienst aansprakelijk is voor zijn aandeel in het ontsluiten van die informatie. Zo bepaalt artikel 14 van deze richtlijn dat aansprakelijkheid voor hostingactiviteiten ontbreekt zolang de dienstverlener niet daadwerkelijk kennis heeft van de onwettige informatie en, indien hij kennis krijgt van het onwettige karakter van de informatie, hij prompt handelt om die informatie te verwijderen of de toegang daartoe ontoegankelijk te maken. De artikelen 12 en 13 van deze richtlijn bevatten vergelijkbare bepalingen voor aanbieders van respectievelijk «mere conduit» en «caching». Voorts bepaalt artikel 15 van deze richtlijn dat deze typen dienstverleners geen algemene verplichting mag worden opgelegd om toe te zien op de verspreide informatie of om actief te zoeken naar feiten of omstandigheden die op onrechtmatige of strafbare activiteiten duiden.
Dit aansprakelijkheidsregime doet geen afbreuk aan de mogelijkheid om nationale maatregelen te treffen in het kader van de openbare orde en openbare veiligheid, waaronder het tegengaan van online kinderpornografisch materiaal. Onder de mogelijke maatregelen vallen in ieder geval administratieve uitspraken waarin de beëindiging van een inbreuk wordt bevolen, met inbegrip van de verwijdering of het ontoegankelijk maken van onwettige informatie (artikelen 12, derde lid, 13, tweede lid, en 14, derde lid, van de richtlijn). De aanwijzing, last onder dwangsom en de bestuurlijke boete zijn dergelijke instrumenten.
Ook de zorgplicht, waarmee specifieke aanbieders van hostingdiensten bij besluit een verplichting kan worden opgelegd om maatregelen te treffen waarmee de opslag en doorgifte van online kinderpornografisch materiaal wordt beperkt, is in overeenstemming met deze richtlijn, in het bijzonder artikel 15 daarvan.68 Benadrukt wordt dat een dergelijk besluit er niet toe strekt dat een aanbieder van hostingdiensten wordt verplicht om in algemene zin toe te zien op de middels zijn systemen opgeslagen of verspreide informatie. Van belang is verder dat de keuze voor de te treffen maatregelen bij de aanbieder zelf blijft. Mogelijke maatregelen betreffen onder meer het onderhouden van een systeem waarmee gebruikers online kinderpornografisch materiaal bij de aanbieder kunnen melden of het (anderszins) voeren van aantoonbaar beleid waarmee klanten die online kinderpornografisch materiaal opslaan of verspreiden worden geweerd of afgestoten. Dit systeem sluit aan bij artikel 5, tweede tot en met zesde lid, van de TOI-verordening.
De in dit wetsvoorstel voorgestelde maatregelen zijn beperkt tot aanbieders van communicatiediensten die op Nederlands grondgebied zijn gevestigd. De in artikel 3, tweede tot en met zesde lid, van de Richtlijn inzake elektronische handel opgenomen regeling voor maatregelen gericht op aanbieders in andere lidstaten dan de lidstaat waar het desbetreffende aanbieder is gevestigd, is daarom niet van toepassing.
Op 16 november 2022 is Digitaledienstenverordening in werking getreden.69 De Digitaledienstenverordening wordt voor het grootste deel met ingang van 17 februari 2024 van toepassing. De Digitale Dienstenverordening zal in de toekomst het algemene kader vormen en de Elektronischehandelsrichtlijn deels vervangen. De Digitaledienstenverordening is een zogenoemde lex generalis, horizontale wetgeving, die geen sectorspecifieke verboden of bepalingen bevat. Wel bevat de Digitaledienstenverordening procedurele bepalingen om illegale online-inhoud aan te pakken. Met het van toepassing worden van de Digitaledienstenverordening zullen de artikelen 12 tot en met 15 van de Richtlijn inzake elektronische handel worden geschrapt. Daarvoor in de plaats komen de artikelen 4, 5, 6 en 8 van de Digitaledienstenverordening. Deze artikelen kennen een goeddeels gelijkluidende aansprakelijkheidsvrijstelling voor aanbieders van mere-conduit-, caching- en hostingdiensten als de Richtlijn inzake elektronische handel. Ook mag een aanbieder op grond van de Digitaledienstenverordening geen algemene verplichting worden opgelegd tot monitoring van de door hen doorgegeven of opgeslagen informatie noch tot actief onderzoek naar de feiten of omstandigheden die duiden op illegale activiteiten (artikel 8 Digitaledienstenverordening). Verder bevat artikel 9 van de Digitaledienstenverordening verplichtingen voor het bevel om op te treden tegen illegale inhoud. Op deze verplichtingen, die gelden voor een de door de ATKM uit te vaardigen aanwijzing op grond van dit wetsvoorstel, is reeds in gegaan in paragraaf 3.1.
De verordening netneutraliteit (Verordening (EU) 2015/2120 tot vaststelling van maatregelen betreffende open internettoegang en tot wijziging van Richtlijn 2002/22/EG inzake de universele dienst en gebruikersrechten met betrekking tot elektronische-communicatienetwerken en -diensten en Verordening (EU) nr. 531/2012 betreffende roaming op openbare mobilecommunicatienetwerken binnen de Unie (PbEU 2015, L 310)) geeft regels over open internettoegang. Artikel 3 van deze verordening bepaalt, kort gezegd, dat alle internetverkeer gelijk moet worden behandeld en dat aanbieders van internettoegangsdiensten, zoals een internetserviceprovider, internetverkeer niet mogen beperken of beïnvloeden. De verordening kent een beperkte lijst van uitzonderingen op het verbod op het blokkeren en vertragen van internetverkeer. Uitzonderingen zijn onder meer mogelijk ter uitvoering van een wettelijk voorschrift of rechterlijk bevel. Daaraan is in dit geval voldaan: de opvolging van de zorgplicht of een aanwijzing, als bedoeld in deze wet, geldt als de uitvoering van een dergelijk wettelijk voorschrift.
De eerder aangehaalde Richtlijn kindermisbruik strekt er mede toe online seksueel misbruik tegen te gaan. De richtlijn is er primair op gericht degenen die zich schuldig maken aan het vervaardigen, verspreiden of downloaden van beelden van seksueel misbruik van kinderen te vervolgen, maar beoogt ook de beschikbaarheid van online kinderpornografisch materiaal te beperken door te voorzien in maatregelen gericht op het verwijderen van dit type inhoud. Zoals eerder opgemerkt verplicht artikel 25, eerste lid, van deze richtlijn lidstaten om maatregelen te treffen tegen websites die kinderpornografisch materiaal bevatten of verspreiden. Dergelijke maatregelen kunnen onder meer worden gebaseerd op verschillende soorten overheidsoptreden zoals wetgevend, niet-wetgevend, gerechtelijk en ander optreden. De in dit wetsvoorstel voorgestelde bevoegdheden passen in het doel van deze richtlijn en versterken de Nederlandse inzet bij de aanpak van online kinderpornografisch materiaal.
Bepaalde aanbieders van elektronische communicatiediensten maken op vrijwillige basis gebruik van technologieën om online kindermisbruik op te sporen op hun diensten. De Richtlijn betreffende privacy en elektronische communicatie (e-privacy-richtlijn) is sinds december 2020 van toepassing op bepaalde aanbieders door een wijziging in de definitie van het begrip «elektronische communicatiedienst».70 De e-privacy-Richtlijn bevat geen specifieke bepalingen betreffende de verwerking van persoonsgegevens door aanbieders met het oog op het opsporen van online seksueel kindermisbruik en het melden ervan of het verwijderen van onlinemateriaal betreffende seksueel misbruik van kinderen. Daardoor konden aanbieders van elektronische communicatiediensten met het van toepassing worden van de e-privacyrichtlijn niet langer gebruik maken van technologieën om online kindermisbruik op te sporen.71 Verordening 2021/1232 voorziet in een tijdelijke afwijking van bepaalde voorschriften van de e-privacy-Richtlijn.72 Daardoor kunnen aanbieders van elektronische communicatiediensten doorgaan met het op vrijwillige basis opsporen, verwijderen en melden van kinderpornografie en met het inzetten van technologie ter bestrijding van kinderuitlokking. Om ervoor te zorgen dat de privacy van de gebruikers van die diensten wordt geëerbiedigd, moeten deze aanbieders voldoen aan de voorwaarden uit de AVG en aan een aantal extra waarborgen die in verordening 2021/1232 zijn opgenomen.
De tijdelijke afwijking is in ieder geval 3 jaar van toepassing. De in het onderhavige wetsvoorstel voorgestelde bevoegdheden passen bij het doel van deze verordening en versterken de Nederlandse inzet bij de aanpak van online kinderpornografisch materiaal.
Op 11 mei 2022 heeft de Europese Commissie een voorstel gepubliceerd voor een verordening betreffende voorschriften ter voorkoming en bestrijding van seksueel kindermisbruik (Verordening aanpak seksueel kindermisbruik, COM/2022/209 final). Het voorstel bestaat uit regels die aanbieders van hostingdiensten en interpersoonlijke communicatiediensten verplichten om het risico te beoordelen dat hun diensten worden gebruikt voor het verspreiden van materiaal van seksueel kindermisbruik en het benaderen van kinderen voor seksuele doeleinden (grooming). Onder bepaalde omstandigheden kunnen bedrijven ook worden verplicht kinderpornografisch materiaal te detecteren, verwijderen of blokkeren. Daarnaast stelt de Commissie voor een Europees centrum inzake seksueel misbruik van kinderen (hierna: EU Centrum) op te richten. Het EU Centrum zal als expertise centrum fungeren om betrouwbare informatie over materiaal van CSA te verstrekken, de ontvangen meldingen van materiaal van CSA te beoordelen, relevante meldingen spoedig naar rechtshandhavingsautoriteiten door te sturen en steun aan slachtoffers te verlenen.
Nederland steunt het uitgangspunt uit het voorstel dat zowel Europese overheden als aanbieders van internetdiensten een verantwoordelijkheid hebben bij het voorkomen en bestrijden van online seksueel kindermisbruik en de oprichting van een EU centrum. Tegelijkertijd heeft Nederland zorgen over een aantal aspecten van het voorstel omdat hiermee een potentieel vergaande inbreuk wordt gemaakt op het recht op privéleven, het recht op gegevensbescherming en het telecommunicatiegeheim van burgers. Nederland zal zich er in de onderhandelingen voor inzetten dat, waar mogelijk, de verwijdering van zowel terroristische online-inhoud als online kinderpornografisch materiaal op een uniforme wijze kan worden ingericht.
Zoals in paragraaf 2.1 is toegelicht werd in 2021 bij 13% van de meldingen binnen de bestaande zelfregulering geen of onvoldoende opvolging gegeven aan een melding.73 De Autoriteit bundelt deze meldingen tot dossiers, gekoppeld aan specifieke aanbieders. Daarbij wordt uitgegaan van maximaal 150 dossiers per jaar. De beoogde werkzaamheden variëren van het geven van een aanwijzing tot ontoegankelijkmaking en de opvolging daarvan, inclusief het voeren van bestuursrechtelijke procedures, tot het vormgeven van de zorgplicht en de beoogde samenwerking met de sector (zie paragraaf 4.3). De Autoriteit hanteert een hybride aanpak voor het toezicht. De communicatie met de sector vindt op elektronische wijze plaats.
Er is een business case opgesteld om de uitvoeringskosten van de Autoriteit te becijferen.74 Hierin vergt de behandeling van meldingen en dossiers een geschatte capaciteit van 6 fte. Daarnaast zal de monitoring en analyse één fte vergen, de ontwikkeling en handhaving van de zorgplicht eveneens één fte, en de samenwerking met de sector en buiten Nederland gevestigde meldpunten twee fte. Voor ondersteuning, voorlichting en bestuur is 4,5 fte geschat. In totaal komt dit op 14,5 fte per jaar aan structurele capaciteit. Omdat sprake is van een kleine en een hoog specialistische organisatie zijn de gemiddelde integrale kosten per fte op € 177.000 geschat, op basis van een vergelijking met andere relevante zelfstandige bestuursorganen. Aldus bedragen de structurele kosten ten behoeve van de Autoriteit € 2,5 miljoen per jaar. Zoals in paragraaf 4.4 is opgemerkt is de beoogde hybride werkwijze van belang, omdat deze aanpak het meest effectief is in het bereiken van het beoogde resultaat: een schoner internet. Deze aanpak is in de business case hoger begroot dan slechts een sobere uitvoering van een verticale gezagsrol door de Autoriteit. Daarom is voor de aanpak van kinderpornografische content door de nieuwe Autoriteit structureel € 2,5 miljoen jaarlijks beschikbaar gesteld. Zoals eerder vermeld wordt de Autoriteit ook belast met de uitvoering van de TOI-verordening; de financiering daarvan wordt separaat geregeld.
De op- en inrichting van de beoogde Autoriteit zorgt tevens voor eenmalige kosten. Deze betreffen onder meer de uitwerking en inrichting van de organisatiestructuur, het werven van personeel, huisvesting en de inrichting van de ICT-structuur. Daartoe is een kwartiermaker aangesteld. Een deel van deze kosten is overigens al gemaakt in het kader van de bestaande zelfregulering: zo is de in paragraaf 4.3 bedoelde monitor van de TU Delft al operationeel. Daarnaast wordt zoveel mogelijk aangehaakt bij de bestaande meldverwerkingssystemen van het EOKM en andere ketenpartners. De geschatte kosten voor de op- en inrichting van de Autoriteit bedragen derhalve € 1 miljoen. Overigens kan het hiervoor genoemde bedrag van € 2,5 miljoen voor de structurele kosten in het eerste jaar deels voor deze eenmalige kosten worden ingezet, omdat de structurele kosten bij aanvang nog relatief laag zullen zijn en stapsgewijs zullen groeien. Verwacht wordt daarom dat de eenmalige en structurele kosten in het eerste jaar sommeren tot de begrote € 2,5 miljoen.
In samenspraak met het Ministerie van Economische Zaken en Klimaat heeft een MKB-toets plaatsgevonden. Tijdens een panelgesprek is aandacht besteed aan de werkbaarheid en uitvoerbaarheid van het onderhavige wetsvoorstel, en de gevolgen van dit wetsvoorstel voor de regeldruk. Tijdens de bijeenkomst waren vijf aanbieders van hostingsdiensten aanwezig. Eén aanbieder heeft schriftelijk gereageerd. Alle deelnemers behoren tot het midden- en kleinbedrijf. De hieronder weergegeven opmerkingen en suggesties zijn een weergave van de verschillende perspectieven en invalshoeken, zoals ingebracht door en namens de verschillende deelnemers en het Ministerie van Justitie en Veiligheid.
Door de deelnemers is opgemerkt dat wetgeving en de uitvoering door het beoogde bestuursorgaan ruimte moeten laten voor aanpassingen aan de hand van de laatste (technische) ontwikkelingen, zoals live-streaming en deeplinking. Dit betekent dat het bestuursorgaan in nauw contact moet staan met zowel de markt als de betrokken partijen. Door de deelnemers is verder de suggestie gedaan om te onderzoeken of de aanwijzing en last onder dwangsom ook middels digitale wijze, voorzien van degelijke authenticatie, kan worden verzonden. Dit is door het ministerie onderschreven.
Tijdens de bijeenkomst is verder opgemerkt dat de beoogde aanwijzing en sancties bij bepaalde type aangeboden diensten (unmanaged hosting en transit hosting) moeilijker opvolgbaar zijn. Dergelijke meldingen worden direct doorgegeven aan de klant; de aanbieder heeft zelf geen toegang tot de servers, omdat deze door de klant worden onderhouden. Namens het ministerie is opgemerkt dat voor het opvolgen van een aanwijzing een redelijke termijn, zoals 24 uur, wordt gegeven. Dat is voldoende tijd om dergelijke meldingen te verwerken of laten verwerken, ook als deze op servers staan die onderhouden worden door de klant. Dit standpunt is door de andere deelnemende aanbieders onderschreven. Zijdens het ministerie is benadrukt dat het de verantwoordelijkheid van de aanbieder is om te zorgen dat een melding accuraat wordt opgevolgd, ongeacht de aangeboden dienst en de klant.
Door de deelnemers is erop gewezen dat door de grilligheid van het internet «abuse golven» kunnen ontstaan. Dit zijn korte periodes waarbij veel ongewenste content, zoals kinderpornografisch materiaal, wordt verspreid. Op dergelijke momenten kunnen aanbieders het verwerken van meldingen nauwelijks bijhouden. Door het ministerie is opgemerkt dat bij de aanwijzing en (het afdwingen van) de naleving daarvan rekening zal worden houden met extreme abuse golven. Het moet voor het betrokken aanbieder immers wel redelijkerwijs mogelijk zijn een aanwijzing op te volgen.
Een aantal marktpartijen heeft zorgen geuit dat bij het verwerken van meldingen mogelijk nevenschade ontstaat, als er te weinig kennis is van het netwerk om het materiaal ontoegankelijk te maken. Ook is opgemerkt dat de beoogde wetgeving mogelijk een «waterbed-effect» zal hebben; zodanig dat de te treffen partijen uitwijken naar het buitenland. Het ministerie erkent deze zorgen, maar benadrukt dat aanbieders, maar ook Nederland, een eigen verantwoordelijkheid hebben om op te treden tegen de verspreiding van online kinderpornografisch materiaal. Bovendien zet Nederland ook in Europees verband in op de (grensoverschrijdende) bestrijding van online kinderpornografisch materiaal.
Ten slotte beaamt het ministerie dat juist slordige hosters zullen worden geraakt. Aanbieders die zich binnen het bestaande regime van zelfregulering adequaat opvolging geven aan een melding, worden niet of slechts zeer beperkt geraakt. Alle aanbieders zijn en blijven echter verantwoordelijk voor het tijdig en zorgvuldig verwerken van een aanwijzing. Benadrukt wordt dat ook zogenoemde «bulletproof hosters» (die bijvoorbeeld gebruikmaken van «katvangers» en een bepaalde mate van anonimiteit garanderen) zullen worden geraakt, bijvoorbeeld omdat daar middels het strafrecht tegen wordt opgetreden. Dat laat onverlet dat het beoogde instrumentarium van toepassing wordt op alle aanbieders van communicatiediensten. Hierin wordt geen onderscheid gemaakt.
In deze paragraaf worden de uitgangspunten van effectieve regelgeving toegepast op het beleid en de wetgeving die leidt tot de voorliggende voorstel van wet. Hierbij is gebruik gemaakt van het Handboek Meting Regeldrukkosten.
Beleid en nadere acties om online materiaal van seksueel kindermisbruik aan te pakken is evident nodig, om slachtoffers beter tegen dit materiaal te beschermen en om het moeilijker te maken dit materiaal te vinden en delen op internet. Zoals in paragraaf 2.1 is opgemerkt, heeft Nederland een bijzondere verantwoordelijkheid vanwege haar grote internetindustrie. De bestaande zelfregulering en strafrechtelijke aanpak werkt goed, maar is duidelijk niet afdoende. Wanneer een aanbieder kennis krijgt van online kinderpornografisch materiaal op zijn systemen, moet dit materiaal ontoegankelijk gemaakt worden. Dit uitgangspunt is niet nieuw.75 De rol van de Autoriteit ligt in het verlengde van de bestaande zelfregulering, en komt niet daarvoor in de plaats. Voor bedrijven die in dit kader goed meewerken en acteren op online kinderpornografisch materiaal, verandert er dus vrijwel niets. Daarnaast draagt het onderhavige voorstel bij aan een gelijk speelveld tussen aanbieders die zich geconfronteerd zien met online kinderpornografisch materiaal omdat concurrentievoordelen, die ontstaan door een verschil in handhavingsinspanning en bijbehorende kosten tussen aanbieders, worden verminderd.
Het onderhavige wetsvoorstel is gericht op aanbieders die geen of onvoldoende invulling aan de zelfregulering geven. Zij krijgen te maken met bestuursrechtelijke instrumenten, zoals de plicht tot het treffen van maatregelen of een aanwijzing tot ontoegankelijkmaking. De gevergde actie (het ontoegankelijk maken van het online kinderpornografisch materiaal en het zo nodig treffen van passende maatregelen) is proportioneel en passend. Zo verplicht de aanwijzing ertoe dat online kinderpornografisch materiaal ontoegankelijk wordt gemaakt, maar wordt de wijze waarop dat gebeurt uitdrukkelijk bij de aanbieder gelaten. De zorgplicht noopt niet tot het treffen van maatregelen door een aanbieder die in het geheel niet met online kinderpornografisch materiaal wordt geconfronteerd. Dat maakt voorliggende voorstel van wet lastenluw. Waar mogelijk wordt aangesloten op bestaande processen die door de branche al binnen de bestaande zelfregulering worden toegepast. Zo zal de bestaande Notice and Takedown code als uitgangspunt gelden voor de Autoriteit. Ook zal het berichtenverkeer tussen de Autoriteit en de betrokken aanbieders op elektronische wijze plaatsvinden, zodat aanbieders aanwijzingen krijgen op een wijze die voor hen snel en goed werkbaar is. Verder zal de Autoriteit een hybride aanpak in toezicht hanteren: hij werkt via horizontale relaties samen met aanbieders, en vervult slechts waar dat onvoldoende effect sorteert een verticale gezagsrol. De Autoriteit zal kennisnemen van alternatieve nalevingsvarianten en deze meenemen in zijn werkwijze. Deze hybride vorm van toezicht garandeert een blijvende dialoog tussen sector en de Autoriteit, in navolging van de huidige publiek-private samenwerking die thans loopt met de branche. Concreet kan dit bijvoorbeeld resulteren in innovatieve nieuwe oplossingen die vanuit de branche worden voorgesteld, en omarmd.
Om de kosten die gemoeid zijn met de uitvoering van deze wet inzichtelijk te krijgen is uitvraag onder aanbieders van communicatiediensten gedaan, waarbij de kosten in drie delen zijn opgesplitst. Het eerste deel gaat over de kosten die elke aanbieder moet maken om bereikbaar te zijn voor eventuele aanwijzingen. Het tweede deel heeft betrekking op de opvolging van aanwijzingen en derhalve het ontoegankelijk (laten) maken van online kinderpornografisch materiaal. Daarbij zijn de verwachte kosten sterk afhankelijk van het aantal aanwijzingen. Bij het derde deel gaat het om de invulling van de zorgplicht, waarbij een aanbieder van hostingdiensten preventieve maatregelen moet nemen na een daartoe strekkend besluit. Deze zorgplicht zal voor een klein deel van deze aanbieders gelden.
Opgemerkt wordt dat de genoemde kosten ook worden gemaakt om andere vormen van online abuse te bestrijden. De focus is hierna gericht op meldingen over online kinderpornografisch materiaal. Kosten voor de bestrijding van andere vormen van abuse worden buiten beschouwing gelaten.
Aanbieders van hostingdiensten
Bereikbaarheid
De hoogte van de kosten voor bereikbaarheid hangen samen met de wijze waarop meldingen door de Autoriteit worden gedaan. Door aanbieders is opgemerkt dat een gestandaardiseerde digitale weg tot minder kosten leidt dan bijvoorbeeld een fysieke vorm van melden.
De incidentele kosten voor het eenmalig aanleveren van contactgegevens aan de Autoriteit door een aanbieder worden ingeschat op 50 tot 100 Euro. Verder zijn er andere incidentele kosten, zoals het aanpassen van algemene voorwaarden om de klanten van de aanbieder van hostingdiensten de plicht op te leggen binnen een bepaalde tijd content ontoegankelijk te maken. De kosten daarvan worden tussen de € 500,– en € 1.000 geschat. Veel aanbieders hebben al een supportafdeling of abuse-afdeling die 7 dagen per week, 24 uur per dag, meldingen afhandelt. Indien deze afdeling niet bestaat moet die worden ingericht. De kosten daarvan worden geschat op € 5.000 eenmalig en jaarlijks € 8.000. Dit betekent ongeveer € 500,– per maand, om concreet 365 dagen per jaar de (mail)box waar meldingen binnenkomen meerdere malen per dag te monitoren op mogelijke meldingen.
Kosten voor het afhandelen van aanwijzingen
Dit betreft handelingen als verificatie, loggen, uitzoeken en doorzetten naar een klant. Wanneer de aanwijzing ziet op een server waar een aanbieder van hostingdiensten zelf «managed hosting»-diensten op aanbiedt, worden de handelingskosten ongeveer 50% lager ingeschat dan in het geval een hoster zelf géén logische toegang heeft tot het materiaal, omdat hij bijvoorbeeld VPS-hosting aanbiedt (waarbij VPS staat voor Virtual Private Server). In het eerste geval kan de aanbieder zelf handelen, terwijl hij in het tweede geval zijn klant daartoe moet bewegen. In het tweede scenario ligt het eerder voor de hand te kiezen voor een termijn van 24 uur, en geen kortere tijdspanne zoals de termijn van één uur uit de TOI-verordening. Het verwerken van aanwijzingen buiten kantoortijden kost een aanbieder grofweg twee keer meer dan het verwerken daarvan binnen kantoortijden. Automatisering kan de afhandeling vereenvoudigen. Een aanwijzing kan dan bijvoorbeeld automatisch gecategoriseerd worden en doorgestuurd naar een klant. De opvolging door de aanbieder bestaat dan uit een controle of het materiaal daadwerkelijk is verwijderd.
De kosten voor het verwerken van een aanwijzing binnen kantoortijden worden geschat op een bedrag tussen de € 25,– en € 100,–. Voor meldingen buiten kantoortijden schatten aanbieders de kosten op een bedrag tussen de € 50,– en € 200,– Euro extra per melding. De handeling om een dienst af te sluiten worden door aanbieders geschat op € 35,–. De kosten van automatisering worden op € 10.000 tot € 20.000 geschat, de opvolging van een deels geautomatiseerd proces wordt op gemiddeld € 75,– geschat. Afhankelijk van de hoeveelheid meldingen kan een aanbieder besluiten een team van medewerkers in te richten dat enkel meldingen over abuse verwerkt. Een dergelijk team kan in de rede liggen voor grote aanbieders die veel aanwijzingen (of meldingen van het EOKM) krijgen voor verschillende vormen van content (en derhalve ook over andere vormen van online abuse). De jaarlijkse loonsom van een medewerker ligt in dit scenario tussen de 50.000 en 60.000 Euro, de extra kosten voor het routeren tussen de € 7.000 en € 10.000.
Kosten voor het uitvoeren van een zorgplicht
In reactie op de uitvraag geeft het merendeel van de aanbieders van hostingdiensten aan niet te verwachten onder het zorgplichtregime te vallen, omdat het aantal meldingen dat ze krijgen beperkt is. Een aanbieder die na een besluit van de Autoriteit onder het zorgplichtregime valt kan een combinatie van maatregelen nemen, zoals het effectiever inregelen of automatiseren van Notice and Takedown-processen, het toepassen van de HashCheckService of het afstoten van bepaalde klanten. De keuze ten aanzien van de te nemen maatregelen blijft bij de aanbieder.
De kosteninschatting is afhankelijk van het aantal klanten dat een aanbieder heeft en de mate van blootstelling. Aanbieders geven aan tussen de € 20.000 en € 60.000 aan kosten te verwachten. Daarvan bedraagt grofweg de helft eenmalige kosten, en de andere helft jaarlijks terugkerende kosten. Deze bedragen worden onderbouwd met een optelsom van mogelijke preventieve maatregelen: het verplichtstellen van de HashCheckService aan bestaande en nieuwe klanten, het opstellen van nieuw beleid en nieuwe voorwaarden, het inpassen daarvan in bestaande processen en bijbehorende documentatie, een nadere inventarisatie van klanten, deze klanten benaderen, activeren en evalueren, extra opvolging geven aan notificaties, diensten tijdig tijdelijk afsluiten en contracten definitief beëindigen.
Totale kosten aanbieders van hostingdiensten
De totale kosten voor aanbieders van hostingdiensten hangen sterk samen met de hoeveelheid aanwijzingen die moeten worden verwerkt en reeds ingerichte processen om op te treden tegen andere vormen van abuse. Hieraan gerelateerd zijn bijvoorbeeld keuzes om activiteiten al dan niet te automatiseren. Concreet zal een aanbieder van hostingdiensten met een enkele melding per jaar en een ingerichte abuse-afdeling nauwelijks extra kosten hebben. Voor een aanbieder van hostingdiensten die een grote hoeveelheid aanwijzingen ontvangt én onder de zorgplicht valt, kunnen de kosten oplopen tot rond de € 200.000.
Kosten mere conduit-diensten
Om de kosten voor mere conduit-diensten inzichtelijk te krijgen is eveneens een uitvraag gedaan.
Hierbij is uitgegaan van een aantal uitgangspunten. Ten eerste dat een aanwijzing primair wordt gericht tot aanbieders van hostingdiensten. Slechts als dat niet mogelijk blijkt kan de aanwijzing worden gericht tot een aanbieder van mere-conduit diensten. Het ontoegankelijk maken van online kinderpornografisch materiaal zou in dat geval via een DNS-blokkade gebeuren. Een tweede uitgangspunt is dat de aanwijzing door de Autoriteit geautomatiseerd plaatsvindt (via een uniform meldsysteem), zodat verwerking waar mogelijk ook geautomatiseerd kan plaatshebben. Binnen deze uitgangspunten bedragen de kosten voor een eenmalig implementatietraject tussen € 20.000 en € 30.000 Euro. Als indicatie van de structurele operationele kosten wordt een bedrag van € 1.000 tot € 6.000 per maand genoemd, mits het aantal aanwijzingen niet meer dan 5 per maand bedraagt.
Het wetsvoorstel is in consultatie gegeven en op www.internetconsultatie.nl geplaatst. Er zijn adviezen ontvangen van het OM, de Raad voor de Rechtspraak (RvdR), de Nederlandse Orde van Advocaten (NOvA), Google, VodafoneZiggo, NLConnect, Internet Society Nederland (ISN), Match Group, KPN, Leaseweb, de Europese Commissie, het Adviescollege toetsing regeldruk (ATR), de Autoriteit Persoonsgegevens (AP) en de Stichting Digitale Infrastructuur Nederland (DINL). Ook enkele particulieren hebben op het wetsvoorstel gereageerd. De regering is iedereen erkentelijk voor de ontvangen adviezen76.
De noodzaak om online kinderpornografisch materiaal ontoegankelijk te maken wordt breed onderschreven. Door onder meer het OM, de RvdR, de Europese Commissie, Leaseweb, Google en enkele particulieren is het wetsvoorstel positief ontvangen. Andere respondenten hebben vragen gesteld over de reikwijdte van de voorgestelde maatregelen, de gevolgen daarvan voor de betrokken tussenpersonen, en over de verhouding tot het strafrecht. Hierna worden de adviezen samengevat weergegeven en thematisch besproken.
Nut en noodzaak
De TU Delft constateerde (op basis van een steekproef) dat 87% van de meldingen binnen het regime van zelfregulering binnen 24 uur wordt opgepakt in 2021 en vraagt inzichtelijk te maken welke verdere effecten een bestuursrechtelijk instrumentarium heeft. Het is inderdaad zo dat een groot deel van de meldingen binnen de bestaande zelfregulering adequaat wordt opgepakt. Dat neemt niet weg dat in 13% van de gevallen in Nederland opgeslagen kinderpornografisch materiaal langer dan 24 uur beschikbaar blijft. Daarvan bleef 10% zelfs langer dan 48 uur staan. Gelet op de snelheid waarmee dit materiaal zich verspreidt is dit onvoldoende tijdig. Het is niet zo dat de resterende 13% niet wordt opgevolgd omdat dit technisch niet mogelijk zou zijn. Het handhaven van een korte termijn van bijvoorbeeld 24 uur is daarom zowel wenselijk als redelijk.
Een aantal partijen heeft erop gewezen dat uit de monitor van de Technische Universiteit Delft blijkt dat het overgrote deel van online kinderpornografisch materiaal wordt gehost bij slechts vier aanbieders. Zij vragen in hoeverre het proportioneel is daarvoor het onderhavige voorstel van wet en een Autoriteit in het leven te roepen.
In reactie hierop wordt opgemerkt dat de beoogde Autoriteit niet louter wordt belast met de bestrijding van online kinderpornografisch materiaal, maar tevens strekt tot uitvoering van de TOI-verordening. Bovendien is een blijvende aanpak van online kinderpornografisch materiaal in Nederland belangrijk en proportioneel, ook als het grootste deel van dit materiaal zich momenteel bij vier aanbieders bevindt. Zoals hierboven beschreven blijven er momenteel numeriek onacceptabel veel meldingen openstaan, waardoor kinderpornografisch materiaal langdurig beschikbaar blijft. Ook deze laatste groep meldingen moet worden opgevolgd. Evenzeer is belangrijk dat deze aanbieders preventieve maatregelen nemen, zodat de hoeveelheid kinderpornografisch materiaal afneemt. De zorgplicht in dit wetsvoorstel maakt dat een dergelijke verplichting gericht kan worden opgelegd.
Bovendien geldt dat een focus op deze vier aanbieders niet afdoende is. Uit de monitor van de Technische Universiteit Delft blijkt dat ook bij andere aanbieders online kinderpornografisch materiaal wordt opgeslagen en doorgegeven. Ook binnen deze groep zijn er bedrijven die niet of nauwelijks reageren op meldingen. Voorkomen moet worden dat deze aanbieders, met nu nog relatief weinig meldingen, uitgroeien tot aanbieders van grotere hoeveelheden kinderpornografisch materiaal: verschuivingseffecten moeten worden tegengegaan. In technische zin is het verplaatsen van deze content immers eenvoudig, en in een land met een hostingsector zo groot als in Nederland is de kans daarop reëel. Het eerder genoemde rapport van de Technische Universiteit Delft laat zien hoe dit materiaal zich tussen domeinen verplaatst. Van de top 10 domeinen in 2020 stonden er bijvoorbeeld vijf in de top 10 in 2019, en geen enkele in de top 10 van 2018. In de uitvoering van het voorliggende voorstel van wet zal de Autoriteit verplaatsingseffecten inzichtelijk krijgen en dit bestrijden, door met hybride toezicht de recent geïnfecteerde aanbieders bij te staan, dan wel direct daarop te gaan handhaven.
De aanpak van online kinderpornografische materiaal vraagt daarom om een structurele aanpak. Het ontoegankelijk maken van afbeeldingen in Nederland zal helaas niet tot resultaat hebben dat deze afbeeldingen nooit meer opnieuw kunnen worden geüpload, want op andere locaties waar dan ook ter wereld kan een kopie van de gewraakte afbeelding staan en opnieuw worden verspreid. De Technische Universiteit Delft laat in haar rapport zien dat de hoeveelheid kinderpornografisch materiaal in Nederlandse hostingnetwerken in 2020 flink is gestegen en dat de aantallen maandelijks sterk fluctueren. Het gaat hier dus om een hardnekkig en grillig probleem. In het verlengde van een verdere publiek-private samenwerking is een kaderstellende rol vanuit de overheid dan ook geboden en proportioneel. De voorliggende bestuursrechtelijke maatregel is daarom onmisbaar om álle betrokken aanbieders te bewegen dit type materiaal op zo kort mogelijke termijn ontoegankelijk te maken.
Verhouding tot het strafrecht
De ATR en het ISN vragen of het niet meer is aangewezen om middels het strafrecht op te treden tegen tussenpersonen die betrokken zijn bij de opslag of doorgifte van online kinderpornografisch materiaal.
Als aanbieders van communicatiediensten inhoudelijk betrokkenheid hebben bij online kinderpornografisch materiaal, zodat aan de delictsomschrijving van artikel 240b Sr wordt voldaan en sprake is van een verdenking van een strafbaar feit, wordt uiteraard op strafrechtelijke vervolging ingezet. Met deze mogelijkheid van strafrechtelijke vervolging kan echter niet worden volstaan. In artikel 54a Sr, gelezen in samenhang met artikel 125p Sv, is een vervolgingsuitsluitingsgrond opgenomen voor tussenpersonen die een communicatiedienst verlenen. Deze bepalingen strekken ter implementatie van de Richtlijn inzake elektronische handel.77 Specifiek voor een aanbieder van hostingdiensten geldt dat deze niet aansprakelijk is als hij geen kennis heeft van de gegevens die middels zijn diensten worden opgeslagen en hij, zodra hij die wetenschap wel verkrijgt, prompt handelt om de gegevens ontoegankelijk te maken. Voor aanbieders van andere diensten geldt een vergelijkbaar regime. Strafrechtelijke vervolging van een aanbieder wegens de middels zijn diensten opgeslagen en verspreide gegevens is daarom slechts in uitzonderlijke gevallen aan de orde. Een aanbieder kan echter wel worden verplicht een inbreuk te beëindigen of te voorkomen (zie de artikelen 12, derde lid, 13, tweede lid, en 14, derde lid, van de Richtlijn inzake elektronische handel). Daartoe strekt de bestuursrechtelijke aanwijzing. Dit alles is nader toegelicht in paragraaf 2.3.
De RvdR en de NVvR vragen of een bestuursrechtelijke aanwijzing de strafrechtelijke opsporing en vervolging niet doorkruist. Artikel 5, eerste lid, bepaalt dat de Autoriteit met de politie en het OM in overleg treedt over de wijze waarop de Autoriteit zijn taken en bevoegdheden uitoefent. Dit overleg strekt ertoe te voorkomen dat door de aanwending van bestuursrechtelijke bevoegdheden de strafrechtelijke opsporing en vervolging van diegenen die kinderpornografisch materiaal produceren of bekijken wordt doorkruist.
Aanwijzing
Onder meer KPN, NLConnect en VodafoneZiggo stellen dat de aanwijzing zich moet beperken tot aanbieders van hostingdiensten en dat aanbieders van «caching» en «mere conduit»-diensten moeten worden uitgezonderd.
Met de gekozen reikwijdte wordt aangesloten bij de reikwijdte van de artikel 125p Sv neergelegde bevoegdheid tot het geven van een bevel tot ontoegankelijkmaking. Gelet op de beginselen van evenredigheid en zorgvuldigheid wordt een aanwijzing echter gericht tot de aanbieder die daarvoor het meest in aanmerking komt. Als het materiaal in Nederland wordt gehost is dit in de eerste plaats de aanbieder van hostingdiensten. Slechts als dat niet mogelijk is kan de aanwijzing worden gericht tot andere typen aanbieders. Het advies van onder meer VodafoneZiggo en KPN om deze volgordelijkheid in de tekst van de wet op te nemen is opgevolgd door de toevoeging van een nieuw artikel 6, tweede lid.
Er is niet voor gekozen om het – in afwijking van artikel 125p Sv – in geen enkel geval mogelijk te maken de aanwijzing te richten tot andere aanbieders dan aanbieders van hostingdiensten. Het is (technisch) niet altijd mogelijk om de betrokken aanbieder van hostingdiensten te identificeren. Dat kan onder meer het geval zijn als een webpagina weliswaar vanuit Nederland is te benaderen, maar niet met zekerheid is vast te stellen dat het desbetreffende materiaal op Nederlands grondgebied wordt gehost. Ook dan kan het wenselijk zijn om op te treden tegen de verspreiding van kinderpornografisch materiaal, bijvoorbeeld als sprake is van een zeer groot aantal afbeeldingen.78 In dergelijke gevallen kan het aangewezen zijn de aanwijzing te richten tot een andere aanbieder dan aanbieders van hostingdiensten. Ook in dat geval stellen de beginselen van zorgvuldigheid en evenredigheid grenzen aan de bevoegdheidsuitoefening. Factoren als kosten en inspanningen aan de kant van de aanbieder en de gevolgen die de ontoegankelijkmaking heeft voor andere gegevens die door deze aanbieders worden opgeslagen of doorgeven maken onderdeel uit van de afweging om in een concreet geval een aanwijzing te geven. Daarbij moet worden betrokken dat niet elke aanbieder van een communicatiedienst in gelijke mate in staat is op te treden tegen de opslag en de doorgifte van online kinderpornografisch materiaal. Zo is voor internet access providers een blokkering van het materiaal het hoogst haalbare.
Het is dus niet zo dat aanbieders van «mere conduit» of «caching» services buiten de reikwijdte van het onderhavige wetsvoorstel vallen, zoals DINL suggereert. De aanwijzing kan worden gericht tot elke aanbieder van een communicatiedienst, met inachtneming van de in artikel 6, tweede lid, opgenomen volgordelijkheid. Ook aanbieders van (hybride) vormen van diensten vallen derhalve onder de reikwijdte, waaronder «infrastructure as a service» diensten. De zorgplicht is echter beperkt tot aanbieders van hostingdiensten.
De ATR en ISN wijzen erop dat de aanwijzing voldoende feitelijke informatie moet bevatten, omdat deze anders niet kan worden opgevolgd. Dit wordt onderschreven. In artikel 6, vierde lid, is daarom opgenomen welke informatie een aanwijzing ten minste moet bevatten. Deze gegevens zijn ontleend aan het bestaande artikel 125p Sv. Er zijn geen aanwijzingen dat deze gegevens in de praktijk niet voldoende zijn. Ook overigens geldt voor de aanwijzing het algemene bestuursrechtelijke uitgangspunt dat deze zodanig duidelijk en concreet moet zijn geformuleerd dat degene tot wie deze is gericht niet in het duister hoeft te tasten omtrent hetgeen gedaan moet worden. Een aanwijzing die onvoldoende informatie bevat is niet afdwingbaar. Het is daarom niet nodig om in artikel 1 een definitie van de «aanwijzing» op te nemen, zoals ISN voorstelt.
De RvdR merkt op dat voor het geven van een aanwijzing geen voorafgaande machtiging van de rechter-commissaris is vereist. Dit is juist. Dat betekent echter niet dat de bestuursrechtelijke aanwijzing met onvoldoende waarborgen is omkleed. Tegen een aanwijzing staan de gebruikelijke rechtsmiddelen open, zoals bezwaar en beroep. Voort is het zowel in de bezwaar- als in de beroepsfase mogelijk een verzoek tot een voorlopige voorziening te doen, waarmee schorsende werking kan worden verkregen. Zoals toegelicht in paragraaf 5.1 is de voorgestelde regeling daardoor met voldoende waarborgen omkleed om een willekeurige inmenging in de grondrechten te voorkomen.
Zorgplicht
Een aantal respondenten vraagt om verduidelijking van de zorgplicht. Zij stellen dat niet op voorhand duidelijk is wanneer een aanbieder alle redelijkerwijs te nemen maatregelen heeft getroffen en dat dit voor rechtsonzekerheid zorgt. In reactie hierop wordt opgemerkt dat een open norm in de regel niet precies omschrijft wanneer daaraan is voldaan. Het betreft hier een inspanningsverplichting om maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch materiaal te beperken. Gelet op het rechtszekerheidsbeginsel zal enig handhavend optreden daarom slechts aan de orde kunnen zijn als het handelen of nalaten van een aanbieder onmiskenbaar in strijd is met de zorgplicht. De verplichting tot het treffen van preventieve maatregelen wordt bovendien opgelegd bij besluit en is daarom niet van toepassing op álle aanbieders van hostingdiensten, zoals hierna wordt toegelicht. Van het rauwelijks opleggen van enige bestuursrechtelijke sanctie, zoals de NOvA vraagt, zal dus geen sprake zijn.
Een aantal respondenten heeft gewezen op de (administratieve) lasten voor aanbieders van hostingdiensten, zeker als het gaat om aanbieders die slechts zeer beperkt of niet met online kinderpornografisch materiaal worden geconfronteerd. Deze reacties hebben ertoe geleid dat de zorgplicht is heroverwogen. Thans is niet langer voorzien in een zorgplicht die voor alle aanbieders van hostingdiensten geldt, maar voor een verplichting die van toepassing is na een daartoe strekkend besluit van de Autoriteit. Hiermee wordt aangesloten bij het stelsel van de TOI-verordening.79 De keuze ten aanzien van de te treffen maatregelen blijft bij de aanbieder. De zorgplicht strekt er niet toe een aanbieder te verplichten om in algemene zin toe te zien op de gegevens die hij opslaat en doorgeeft. Dat zou immers neerkomen op een vorm van voorafgaand verlof en daarmee censuur. Het is niet noodzakelijk deze onmogelijkheid in de tekst van de wet tot uitdrukking te brengen, zoals ISN vraagt, omdat deze verplichting rechtstreeks voortvloeit uit artikel 15 van de Richtlijn inzake elektronische handel.
De suggestie van de RvdR om bij de vormgeving van de zorgplicht niet te spreken van het «beperken» maar van het «verhinderen» van de opslag en doorgifte van online kinderpornografisch materiaal is niet overgenomen. Met de term «beperken» wordt tot uitdrukking gebracht dat de zorgplicht een inspanningsverplichting is. De opslag en doorgifte van online kinderpornografisch materiaal kan immers niet geheel worden voorkomen.
De NOvA wijst erop dat de Autoriteit wel de bevoegdheid wordt gegeven om een aanbieder van hostingdiensten een bestuurlijke boete op te leggen als niet aan de zorgplicht is voldaan, maar dat de bevoegdheid tot het opleggen van een last onder dwangsom ontbreekt. Dit advies is opgevolgd. Zoals de NOvA terecht stelt, moet het in deze gevallen mogelijk zijn een last onder dwangsom op te leggen. De bevoegdheid tot het opleggen van een bestuurlijke boete kan echter niet worden gemist. Hierop is hiervoor al ingegaan.
Autoriteit
De NVvR vraagt waarom de in dit wetsvoorstel genoemde bevoegdheden niet bij het OM of een bestaand zelfstandig bestuursorgaan zijn belegd. In antwoord hierop wordt opgemerkt dat het niet voor de hand ligt om bestuursrechtelijke taken en bevoegdheden onder te brengen bij een strafrechtelijk orgaan. Bovendien is met de huidige aanpak juist beoogd het OM te ontlasten, zodat zijn capaciteit kan worden benut ten behoeve van de opsporing en vervolging van personen die kinderpornografisch materiaal produceren en verspreiden. Het OM onderschrijft deze aanpak.
Er is voorts onderzocht of het mogelijk is deze taken onder te brengen bij een reeds bestaand zelfstandig bestuursorgaan, zoals bij de (door de NVvR genoemde) Autoriteit Consument en Markt. Er is echter geen bestaand zelfstandig bestuursorgaan dat kan worden belast met de ontoegankelijkmaking van online materiaal. Waar een bestaand zelfstandig bestuursorgaan een vergelijkbare bevoegdheid al heeft betreft het kleine en hoogspecialistische bestuursorganen die zich niet lenen voor de onderhavige taak (zoals de kansspelautoriteit ingevolge artikel 34n van de Wet op de kansspelen). Het gaat immers niet om een klein aantal meldingen, zeker omdat het beoogde bestuursorgaan ook wordt belast met de uitvoering van de TOI-verordening. Gelet op de aard en omvang van deze taak is daarom gekozen voor een nieuw zelfstandig bestuursorgaan, dat wordt belast met de ontoegankelijkmaking van zowel terroristische online-inhoud als online kinderpornografisch materiaal.
Het OM adviseert om in de tekst van de wet op te nemen welke personen zijn belast met het toezicht op de naleving. Dit advies is opgevolgd door de toevoeging van een nieuw artikel 2, derde lid. Hiermee beschikken de daartoe aangewezen ambtenaren over alle in afdeling 5.2 van de Awb opgenomen bevoegdheden. Mede in dit licht is het, anders dan de NVvR in zijn advies opmerkt, niet noodzakelijk om te voorzien in aanvullende (opsporings)bevoegdheden.
De ISN stelt dat het opleggen van een bestuurlijke boete en een last onder dwangsom niet snel proportioneel zal zijn. De last onder dwangsom en de bestuurlijke boete kunnen slechts worden opgelegd wegens het niet opvolgen van een aanwijzing of het niet naleven van de zorgplicht. Het zijn bestaande bestuursrechtelijke instrumenten, die onder meer worden genormeerd door de algemene bestuursrechtelijke waarborgen, zoals hoofdstuk 5 van de Awb. De vrees van ISN, dat de genoemde maatregelen leiden tot oververwijdering en er (bijvoorbeeld) toe leiden dat reeds de suggestie dat ergens online kinderpornografisch materiaal is opgeslagen tot ingrijpen leidt, wordt daarom niet gedeeld.
De NOvA stelt dat de definities van «aanbieder van hostingdiensten» en «aanbieder van communicatiediensten» onvoldoende onderscheidend zijn. Dit wordt niet gedeeld. Het begrip «aanbieder van een communicatiedienst» sluit aan bij artikel 138g van het Wetboek van Strafvordering. Hieronder worden mede begrepen aanbieders van hostingdiensten: de aanbieder van een communicatiedienst bestaande in de opslag van gegevens die van een ander afkomstig zijn. Wel is opvolging gegeven aan het advies om deze definities direct na elkaar op te nemen in de definitiebepaling. Voorts is op advies van de RvdR in de artikelsgewijze toelichting geëxpliciteerd dat met begrip «aanbieder van hostingdiensten» wordt aangesloten bij artikel 14 van de Richtlijn inzake elektronische handel. Onder de reikwijdte van dit begrip valt derhalve de natuurlijke persoon of rechtspersoon die in de uitoefening van een beroep of bedrijf aan de gebruikers van zijn dienst de mogelijkheid biedt te communiceren met behulp van een geautomatiseerd werk, of gegevens verwerkt of opslaat ten behoeve van een zodanige dienst of de gebruikers van die dienst.
Het is niet noodzakelijk om de strafuitsluitingsgrond te verbreden naar publieke en private partijen waar de Autoriteit mee samenwerkt, zoals de NOvA suggereert. Alleen de Autoriteit komt immers in aanraking met online kinderpornografisch materiaal. Voor aanbieders van communicatiediensten is dit niet wenselijk. Het ontbreken van een strafuitsluitingsgrond voor private partijen leidt ook binnen de bestaande zelfregulering niet tot problemen.
De NVvR vraagt om een nadere uitwerking van de taak genoemd in artikel 2, tweede lid, onder b. Ingevolge deze bepaling krijgt de Autoriteit mede tot taak onderzoek te doen naar, en informatie te verstrekken over, de aanwezigheid van online kinderpornografisch materiaal teneinde de verspreiding daarvan te beperken, waar mogelijk in samenwerking met private en publieke partijen. Deze taakstelling is in paragraaf 4.4 toegelicht. Het gaat, kortheidshalve, om het verder vormgegeven van de bestaande publiek-private samenwerking waarmee met vertegenwoordigers van het bedrijfsleven op vrijwillige basis wordt opgetreden tegen online kinderpornografisch materiaal. Deze samenwerking bestaat al in de vorm van werkgroepen en bilaterale contacten en kan bij de Autoriteit worden geborgd, als onderdeel van de hybride werkwijze. Voor het inrichten van een meldpunt, het doen van onderzoek, het stimuleren van marktpartijen en het mobiliseren van kennis is geen nadere afzonderlijke wettelijke grondslag vereist.
Openbaarmaking
De NOvA, RvdR en de NVvR hebben bezwaren tegen de verplichting tot openbaarmaking van een bestuurlijke boete wegens het stelselmatig nalaten opvolging te geven aan een aanwijzing. In reactie hierop wordt opgemerkt dat met de openbaarmaking meerdere doelen zijn gediend. De openbaarmaking is erop gericht de naleving van deze wet te bevorderen en inzicht te geven in de mate en de manier waarop op deze naleving toezicht wordt gehouden. Van de openbaarmaking gaat bovendien een zekere diffamerende werking uit. Het advies om van openbaarmaking af te zien wordt daarom niet opgevolgd. Evenmin gevolgd is het advies om openbaarmaking slechts mogelijk te maken ten aanzien van een onherroepelijk geworden beschikking. Gelet op de duur van de bestuursrechtelijke procedure verliest de openbaarmaking daardoor een groot deel van zijn waarde. Bovendien is voorzien in afdoende waarborgen. Zo vindt openbaarmaking niet eerder plaats dan nadat twee weken zijn verstreken na de dag waarop het besluit tot oplegging van de bestuurlijke boete bekend is gemaakt. Daardoor is een betrokken aanbieder afdoende in de gelegenheid om een rechtsmiddel aan te wenden, zoals een verzoek om voorlopige voorziening. Ingevolge artikel 10, vierde lid wordt de openbaarmaking opgeschort totdat de voorzieningenrechter op een dergelijk verzoek heeft beslist of het verzoek is ingetrokken.
Een dergelijke regeling is overigens zeer gebruikelijk. Bij wijze van voorbeeld wordt gewezen op artikel 12u van de Instellingswet Autoriteit Consument en Markt.
Wel gevolgd is het advies van de NOvA om op de openbaarmaking het gehele artikel 10 van de Wet openbaarheid van bestuur van toepassing te verklaren. Omdat de Wob per 1 mei 2022 is vervangen door de Wet open overheid (Woo), is er voor gekozen het regime van het goeddeels gelijkluidende artikel 5.1 Woo van toepassing te verklaren. Naar het oordeel van de regering wordt met deze regeling en de daarin opgenomen waarborgen een passend evenwicht bereikt tussen de doelen van openbaarmaking en de belangen van de betrokken aanbieder.
Overig
De NOvA vraagt om aandacht te besteden aan de gevolgen van dit wetsvoorstel voor de werklast van de Rechtspraak. Gewezen wordt op hetgeen hierover in hoofdstuk 7 is opgemerkt. Het wetsvoorstel is voorts voorgelegd aan de RvdR, die heeft geconstateerd dat er geen substantiële gevolgen voor zijn werklast zijn.
Door de NVvR is de vraag gesteld waarom niet is voorzien in de bevoegdheid tot oplegging van een last onder bestuursdwang. Dit instrument is overwogen. Uit onderzoek dat op verzoek van het Ministerie van Justitie en Veiligheid is verricht, blijkt echter dat een last onder bestuursdwang slechts zeer beperkt inzetbaar is bij aanbieders van hostingdiensten die niet meewerken en dat grote nevenschade niet kan worden uitgesloten, omdat geforceerd toegang moet worden verkregen tot een netwerk.80 De last onder dwangsom is een gerichter instrument, dat aanbieders er door een financiële prikkel (alsnog) toe beweegt zelf mee te werken.
De NVvR stelt dat een last onder dwangsom ook kan worden opgelegd zonder voorafgaande aanwijzing, omdat de last per definitie een concretisering van de zorgplicht betreft. Hier lijkt sprake te zijn van een misverstand. De zorgplicht verplicht specifieke aanbieders van hostingdiensten ertoe de opslag en doorgifte van online kinderpornografisch materiaal (proactief) te beperken. De aanwijzing strekt ertoe één of meerdere specifieke afbeeldingen (reactief) ontoegankelijk te maken. Het betreft hier dus twee te onderscheiden instrumenten. Overwogen is, zoals de NVvR adviseert, het mogelijk te maken een last onder dwangsom op te leggen zonder voorafgaande aanwijzing. Hier is van afgezien: gelet op het neutrale karakter van de dienstverlening van een aanbieder wordt verwacht dat een aanwijzing in de regel tijdig wordt opgevolgd. Anders dan de NVvR betoogt heeft dit geen significante invloed op de effectiviteit van het voorgestelde instrumentarium, omdat de termijn om opvolging te geven aan een aanwijzing een korte zal zijn.
Voor zover de NVvR stelt dat in de toelichting niet is ingegaan op de rechtsbescherming wordt gewezen op hetgeen daarover in hoofdstuk 3 is opgenomen.
Door onder meer het OM en Leaseweb is opgemerkt dat de voorgestelde verplichting om een kopie van de ontoegankelijk gemaakte gegevens te behouden lastig uitvoerbaar is voor aanbieders van «mere conduit» of «caching» diensten. Zij wijzen erop dat deze verplichting ertoe leidt dat deze aanbieders ongewild in aanraking komen met dit type materiaal. Deze adviezen hebben ertoe geleid dat deze verplichting is geschrapt. Daarbij is betrokken dat het voor de Autoriteit ook zelf mogelijk is om een kopie te maken van het materiaal dat ontoegankelijk wordt gemaakt, mede ten behoeve van de bestuursrechtelijke en strafrechtelijke procedure.
Het OM heeft gevraagd of de Autoriteit zich mede kan richten op online kinderpornografisch materiaal dat benaderbaar is middels het «dark web». De bevoegdheden van de Autoriteit strekken zich uit tot voor een ieder toegankelijke informatiebronnen. Daaronder valt ook het «dark web», omdat eenieder daartoe in beginsel toegang zal kunnen verkrijgen. Voor toegang tot het dark web zijn immers in de regel geen bijzondere (strafrechtelijke) opsporingsbevoegdheden vereist.
Het OM onderschrijft de mogelijkheid voor de Autoriteit om gegevens te delen met de politie en het OM, en vraagt of het niet ook mogelijk zou moeten zijn dat politie en het OM richting de Autoriteit gegevens kunnen delen zodat meldingen uit het strafrecht kunnen worden doorgegeven aan de Autoriteit. Dit wordt niet noodzakelijk geacht: de politie en het OM kunnen ook zonder dat zij deze (politie)gegevens verstrekken bij de Autoriteit melding maken van online kinderpornografisch materiaal.
Een aantal partijen, waaronder DINL, heeft gevraagd naar de relatie van het onderhavige voorstel van wet met de overige actielijnen uit het programma «Hernieuwde aanpak online seksueel kindermisbruik». Daarbij is ook gevraagd hoe de continuïteit en financiering van het EOKM wordt geborgd. De actielijnen uit dit programma zijn gericht op het schonen van internet door publiek-private samenwerking, en worden geborgd bij de Autoriteit. De beoogde hybride werkwijze zal het mogelijk maken om deze samenwerking constructief verder vorm te geven. Het gaat daarbij bijvoorbeeld om het voortzetten van afstemmingsoverleggen tussen publieke en private partners in de bestaande werkgroep. Ook de monitor van de Technische Universiteit Delft is een instrument dat bij de Autoriteit wordt belegd. Voor wat betreft de inzet van de HashCheckServer zal de Autoriteit nadere afspraken met het EOKM maken, voor de beoogde webcrawler van de Autoriteit is bijvoorbeeld een verbinding met de database van de HashCheckServer van belang. De financiering van het EOKM is geen onderdeel van dit wetsvoorstel en blijft belegd bij het Ministerie van Justitie en Veiligheid. Daarbij wordt aangetekend dat ook private partners hierin een rol hebben, omdat zelfregulering van het EOKM juist in hun belang is. Naast bovengenoemde actielijn gericht op het publiek-privaat schonen van internet, kent het programma «Hernieuwde aanpak online seksueel kindermisbruik» een preventieve actielijn en een actielijn gericht op het verscherpen van de opsporing. De projecten uit deze twee actielijnen vallen buiten dit wetsvoorstel, omdat ze zich richten op partijen en doelgroepen buiten de publiek-private samenwerking.
Verschillende respondenten, zoals Google, hebben erop gewezen dat de Richtlijn inzake elektronische handel op termijn wordt vervangen door de DSA. Zij vragen hierop te anticiperen. In paragraaf 3.1 en 6.1 is ingegaan op de van toepassing zijnde bepalingen uit de Digitaledienstenverordening.
Aan het advies van de ATR om de gevolgen voor de regeldruk te kwantificeren is gevolg gegeven. Er is uitvraag gedaan onder aanbieders van communicatiediensten. De uitvraag resulteerde in een elftal reacties, waaruit een indicatie van de kosten is gedestilleerd die in paragraaf 7.3 is verwoord.
Artikel 1
Aanbieder van een communicatiedienst
Deze definitie sluit aan bij de definitieomschrijving in artikel 138g Sv. Hieronder wordt derhalve verstaan de natuurlijke persoon of rechtspersoon die in de uitoefening van een beroep of bedrijf aan de gebruikers van zijn dienst de mogelijkheid biedt te communiceren met behulp van een geautomatiseerd werk, of gegevens verwerkt of opslaat ten behoeve van een zodanige dienst of de gebruikers van die dienst.
Aanbieder van hostingdiensten
Met aanbieder van hostingdiensten wordt gedoeld op de aanbieder die een communicatiedienst verleent bestaande in de opslag van gegevens die van een ander afkomstig zijn. Daarbij is niet het type onderneming, maar de aard van de aangeboden dienst doorslaggevend. Ook aanbieders wier activiteiten gedeeltelijk bestaan uit hosting zijn derhalve, voor zover zij dergelijke activiteiten ontplooien, aan te merken als aanbieder van hostingdiensten. Met deze definitie wordt aangesloten bij artikel 14 van de Richtlijn inzake elektronische handel. Onder de reikwijdte van deze definitie vallen onder meer aanbieders van serverruimte, maar ook social media platforms, video streaming services en internet service providers, voor zover zij ruimte aanbieden voor het opslaan van gegevens, zoals (onderdelen van) websites, losse afbeeldingen of videobestanden. De opslag dient enige duur van betekenis te hebben. Het automatisch en kortstondig opslaan van gegevens om de latere doorgifte van die gegevens aan gebruikers van een dienst efficiënter te maken («caching») valt niet onder de reikwijdte. Evenmin onder de reikwijdte valt de aanbieder wiens dienstverlening bestaat uit het louter doorgeven van informatie of het verschaffen tot toegang van een communicatienetwerk («mere conduit», waaronder access providers).
Kinderpornografisch materiaal
De definitie van kinderpornografisch materiaal stemt overeen met artikel 240b Sr, met dien verstande dat het onderhavige wetsvoorstel slechts betrekking heeft op kinderpornografisch materiaal dat via het internet wordt verspreid. Onder de reikwijdte van deze bepaling vallen onder meer afbeeldingen waarop een seksuele gedraging staat waarbij iemand die kennelijk de leeftijd van achttien jaar nog niet heeft bereikt, is betrokken of schijnbaar is betrokken. De toepassing van deze bepaling is in hoge mate geobjectiveerd. De werkelijke leeftijd van de afgebeelde persoon is niet relevant en hoeft evenmin te worden bewezen. Het is voldoende dat aan de hand van de uit het materiaal blijkende uiterlijke lichaamskenmerken volgt dat degene die is afgebeeld jonger oogt dan 18 jaar.81 Bij die schatting wordt rekening gehouden met alle kenmerken van het lichaam van de desbetreffende persoon die enige indicatie kunnen geven omtrent de leeftijd van die persoon.82 Voor het overige wordt verwezen naar het algemene deel van de toelichting.
Ontoegankelijk maken
Verwezen wordt naar paragraaf 3.2 van het algemene deel van de toelichting. In aanvulling daarop wordt opgemerkt dat de aanwijzing niet dwingend voorschrijft op welke wijze het kinderpornografisch materiaal ontoegankelijk moet worden gemaakt. De ontoegankelijkmaking daarvan kan plaatsvinden door het materiaal te verwijderen, of de toegang daartoe te blokkeren.
Artikelen 2, 2a en 2c
Zie hoofdstuk 4 van deze toelichting.
Artikel 2b
De Kaderwet verplicht niet tot vaststelling van een bestuursreglement. Wel is aan de Minister die het aangaat een goedkeuringsrecht toegekend voor die gevallen waarin een zelfstandig bestuursorgaan op grond van een andere wettelijke regeling een bestuursreglement dient vast te stellen (artikel 11, eerste lid, van de Kaderwet). Het voorgestelde artikel voorziet in een dergelijke verplichting. De reden voor deze verplichting is dat de Minister van Justitie en Veiligheid een algemene verantwoordelijkheid heeft voor de taakuitoefening door de Autoriteit, en de in een bestuursreglement opgenomen regels – te denken valt bijvoorbeeld aan regels over de wijze van besluitvorming en de taakverdeling tussen de leden – het functioneren en daarmee de taakuitoefening van de Autoriteit kunnen beïnvloeden. Door algemene regels daarover op te nemen in een bestuursreglement, dat door de Minister van Justitie en Veiligheid moet worden goedgekeurd, wordt hij aldus in staat gesteld betere invulling te geven aan zijn systeemverantwoordelijkheid. Het bestuursreglement bevat geen bepalingen die de inhoudelijke uitoefening van de bevoegdheden van de Autoriteit normeren en kan dus niet afdoen aan de onafhankelijkheid van de autoriteit.
Artikel 3
De uitoefening van de bij deze wet aan de Autoriteit opgedragen bevoegdheden vergt dat de Autoriteit kinderpornografisch materiaal ontvangt, beoordeelt en in bezit houdt. De Autoriteit en de personen die daar werkzaam zijn zullen zich bovendien door middel van een geautomatiseerd werk of met gebruikmaking van een communicatiedienst toegang tot dit materiaal moeten verschaffen, voor zover dit beschikbaar is op het openbare internet. Dit artikel sluit zowel de Autoriteit als diens medewerkers uit van strafrechtelijke vervolging voor deze handelingen. Dit geldt uiteraard alleen voor zover zij handelen ter uitoefening van de bij deze wet aan hen opgedragen taken. Deze beperking moet eng worden uitgelegd: het betreft niet alle werknemers van de Autoriteit, maar alleen die werknemers voor wie het voor de uitoefening van hun werkzaamheden noodzakelijk is dat zij met kinderpornografisch materiaal werken.
Artikel 4
Dit artikel bevat een kapstokbepaling voor het elektronische berichtenverkeer tussen de Autoriteit en aanbieders van communicatiediensten.
Afdeling 2.3 Awb bevat een algemene regeling voor elektronische berichtenverkeer tussen burgers en bestuursorganen. Zo is bijvoorbeeld geregeld dat een bericht van een bestuursorgaan aan één of meer geadresseerden elektronisch kan worden verzonden als de geadresseerde kenbaar heeft gemaakt dat hij langs deze weg voldoende bereikbaar is, en is bepaald dat een burger die een bericht wil verzenden aan een bestuursorgaan, ook wanneer het bestuursorgaan de elektronische weg daartoe heeft opengesteld, nog altijd de keuze heeft het bericht anders dan langs elektronische weg te verzenden. In afwijking van de artikelen 2:14, eerste lid, en 2:15, eerste lid van de Awb wordt in dit artikel elektronisch berichtenverkeer tussen de Autoriteit en de betrokken aanbieder verplicht voorgeschreven. De overige bepalingen van afdeling 2.3 van de Awb blijven van toepassing. Dit houdt onder meer in dat de Autoriteit een elektronisch bericht op een betrouwbare en vertrouwelijke manier verzendt, en dat als tijdstip van verzending van een bericht geldt het moment waarop het een systeem voor gegevensbewerking heeft bereikt waarvoor de Autoriteit geen verantwoordelijkheid draagt.
Het tweede lid bepaalt dat bij regeling van de Minister van Justitie en Veiligheid nadere regels kunnen worden gegeven over de wijze waarop het elektronische berichtenverkeer plaatsvindt. Hieronder worden verstaan regels over welke digitale voorziening beschikbaar is, en over de wijze van authenticatie. Onder authenticatie wordt verstaan: de manier waarop bij het inloggen in het elektronische berichtensysteem de identiteit van de betrokken aanbieder van een communicatiedienst, danwel degene die namens deze aanbieder optreedt, wordt vastgesteld.
Artikel 5
Het eerste lid regelt dat de Autoriteit met de politie en het openbaar ministerie in overleg treedt. Met dit overleg wordt voorkomen dat door de aanwending van bestuursrechtelijke bevoegdheden de strafrechtelijke opsporing en vervolging van diegenen die kinderpornografisch materiaal produceren of bekijken, wordt doorkruist. Het overleg betreft ten eerste aangelegenheden van algemene aard, zoals algemene kaders waarbinnen de Autoriteit zijn bevoegdheden zal aanwenden en de wijze en frequentie waarop nadere afstemming plaatsvindt met het openbaar ministerie en de politie. Het is niet noodzakelijk dat de Autoriteit en het openbaar ministerie voorafgaand aan iedere bestuursrechtelijk maatregel in overleg treden. Dat zou ook niet mogelijk zijn, gelet op de grote aantallen meldingen over kinderpornografisch materiaal en het dus potentieel grote aantal op te leggen maatregelen.
Het is niet uitgesloten dat de Autoriteit uit hoofde van haar werkzaamheden over informatie komt te beschikken die van belang kan zijn bij de opsporing en vervolging. Het moet daarom mogelijk zijn deze gegevens uit eigen beweging, of op verzoek, aan de politie te verstrekken. Het tweede lid bevat daartoe een grondslag, op grond waarvan de Autoriteit dergelijke gegevens aan de politie kan verstrekken voor zover deze persoonsgegevens of inlichtingen noodzakelijk zijn voor de uitoefening van diens wettelijke taak, bedoeld in artikel 3 van de Politiewet 2012.
Artikel 6
De aanwijzing schept een bestuursrechtelijke norm waar de betrokken aanbieder van hostingdiensten aan moet voldoen. De aanwijzing attendeert de aanbieder op de aanwezigheid van online kinderpornografisch materiaal en verplicht ertoe dit materiaal binnen een in de aanwijzing opgenomen termijn ontoegankelijk te maken. In algemene zin geldt dat de aanwijzing (zo mogelijk) wordt gegeven aan een aanbieder van hostingdiensten. Omdat deze aanbieders het materiaal daadwerkelijk hebben opgeslagen, kan van hen redelijkerwijs worden gevergd dat zij dit materiaal verwijderen. Soms is het (technisch) niet mogelijk om de betrokken aanbieder van hostingdiensten te identificeren. Dat is bijvoorbeeld het geval als deze in het buitenland is gevestigd. Het tweede lid bepaalt daarom dat indien de aanwijzing niet kan worden gericht tot een aanbieder van hostingdiensten, deze kan worden gericht tot een aanbieder van een communicatiedienst. Gedacht kan worden aan een aanbieder die de doorgifte van deze gegevens verzorgt («mere conduit»).
Het derde lid stelt buiten twijfel dat de aanwijzing bindend is. Naleving van deze verplichting kan worden afgedwongen met een last onder dwangsom of een bestuurlijke boete.
Voor de definitie van ontoegankelijkmaking in het eerste lid is aansluiting gezocht bij de omschrijving van ontoegankelijkmaking zoals deze is neergelegd in artikel 125p Sv en artikel 34n van de Wet op de kansspelen. Zie daarover het algemene deel van deze toelichting. In de aanwijzing wordt niet dwingend voorgeschreven welke handelingen de aanbieder moet verrichten om het desbetreffende materiaal ontoegankelijk te maken.
Het vierde lid vermeldt de elementen die in ieder geval in de aanwijzing moeten worden opgenomen. Door deze elementen in de wet op te nemen wordt zeker gesteld dat elke aanwijzing in ieder geval deze gegevens bevat. Indien de Digitaledienstenverordening van toepassing wordt, geldt ten aanzien van de inhoud van de aanwijzing dat ook moet worden voldaan aan de voorwaarden genoemd in artikel 9, tweede lid, van de Digitaledienstenverordening.
Artikel 7
Verwezen wordt naar paragraaf 3.2 van het algemene deel van deze toelichting.
Artikel 8
Een last onder dwangsom kan worden opgelegd als de aanwijzing, bedoeld in artikel 6, niet is opgevolgd. Het is derhalve niet mogelijk om direct, zonder voorafgaande aanwijzing, een last onder dwangsom op te leggen, ook niet als vast staat dat de betrokken aanbieder van een communicatiedienst kennis heeft van het kinderpornografisch materiaal. De last onder dwangsom is een herstelsanctie. De last mag daarom niet verder strekken dan noodzakelijk om ongedaanmaking van de overtreding te bewerkstelligen. Zie verder paragraaf 3.3 van het algemene deel van deze toelichting.
Het is tevens mogelijk een last onder dwangsom op te leggen aan de aanbieder van hostingdiensten die niet heeft voldaan aan artikel 7, eerste en tweede lid.
Artikel 9
Het eerste lid bepaalt dat de Autoriteit bevoegd is tot het opleggen van een bestuurlijke boete voor het niet voldoen aan een aanwijzing. Voor wat betreft de maximale boetehoogte is aangesloten bij het boetemaximum voor het niet voldoen aan een ambtelijk bevel op grond van artikel 184 Sr. Daarmee wordt verzekerd dat het niet opvolgen van een aanwijzing niet anders wordt gesanctioneerd dan het niet voldoen aan een krachtens artikel 125p Sv gegeven bevel.
Het tweede lid bepaalt dat de Autoriteit bevoegd is tot het opleggen van een bestuurlijke boete wegens het nalaten passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch materiaal te beperken. Voorts bepaalt dat artikellid de maximale hoogte van de bestuurlijke boete die kan worden opgelegd
Ingevolge het derde lid kan aan een aanbieder van een communicatiedienst die systematisch of aanhoudend nalaat opvolging te geven aan een aanwijzing een bestuurlijke boete worden opgelegd van ten hoogste het bedrag dat is vastgesteld voor de zesde categorie, genoemd in artikel 23, vierde lid, Sr of, indien dat meer is, ten hoogste 4% van de omzet van de onderneming. Met het vereiste dat het nalaten systematisch of aanhoudend moet zijn is tot uitdrukking gebracht dat de hogere bestuurlijke boete (met een hoger boetemaximum) niet kan worden opgelegd aan de overtreder die slechts enkele keren heeft nagelaten een aanwijzing tot ontoegankelijkmaking uit te voeren; in het begrip systematisch of aanhoudend ligt besloten dat het moet gaan om een patroon van nalaten (tijdig) te handelen.
Gelet op artikel 5:46, tweede lid, Awb wordt de hoogte van de bestuurlijke boete in alle gevallen afgestemd op de ernst van de overtreding en de mate waarin deze aan de overtreder kan worden verweten. Daarbij wordt rekening worden gehouden met de omstandigheden waaronder de overtreding is gepleegd.
Het is denkbaar dat een last onder dwangsom en bestuurlijke boete cumuleren. Wel blijft van belang dat het totale pakket van sancties evenredig is.
Artikel 10
Artikel 10 voorziet in een bevoegdheid van de Autoriteit tot openbaarmaking van een besluit waarin een bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven aan een aanwijzing tot ontoegankelijkmaking. Uitgangspunt is dat deze besluiten openbaar worden gemaakt, met uitzondering van de gegevens die op basis van artikel 5.1 van de Wet open overheid (Woo) niet voor openbaarmaking in aanmerking komen. Het betreft hier onder meer bedrijfs- en fabricagegegevens die vertrouwelijk aan de overheid zijn medegedeeld en persoonsgegevens als bedoeld in paragraaf 3.1 onderscheidenlijk paragraaf 3.2 van de Uitvoeringswet Algemene verordening gegevensbescherming. Ten aanzien van de in artikel 5.1, tweede lid, Woo genoemde belangen wordt door de Autoriteit een belangenafweging verricht waarbij het belang van openbaarmaking wordt gewogen tegen de in die bepaling genoemde belangen. Gelet op de aard van de overtreding ligt het overigens niet in de lijn der verwachting dat deze afweging snel in het voordeel van de betrokkene uitvalt Op grond van het vijfde lid van artikel 5.1 Woo kan openbaarmaking voorts achterwege blijven indien openbaarmaking onevenredige benadeling toebrengt aan een ander belang dan genoemd in het eerste of tweede lid en het algemeen belang van openbaarheid niet tegen deze benadeling opweegt. Het bestuursorgaan baseert een beslissing tot achterwege laten van de openbaarmaking van enige informatie in dat geval ten aanzien van dezelfde informatie niet tevens op een van de in het eerste of tweede lid genoemde gronden.
Met openbaarmaking wordt niet gewacht totdat de beschikking waarbij de bestuurlijke boete is opgelegd onherroepelijk is geworden. Gelet op de daartegen openstaande rechtsmiddelen zou dit de openbaarmaking goeddeels van zijn toegevoegde waarde ontdoen, omdat door het aanwenden van rechtsmiddelen tegen een dergelijk besluit de openbaarmaking gedurende lange tijd kan worden uitgesteld. In plaats daarvan is in het derde lid geregeld dat openbaarmaking niet eerder plaatsvindt dan nadat twee weken zijn verstreken na de dag waarop het besluit aan de belanghebbende bekend is gemaakt. Voorts bepaalt het vierde lid dat een verzoek om een voorlopige voorziening schorsende werking heeft en de openbaarmaking opschort, totdat op dat verzoek is beslist.
Niet de gehele beschikking waarbij de bestuurlijke boete is opgelegd wordt openbaar gemaakt; deze beschikking bevat in de regel immers ook andere (persoons)gegevens dan alleen de normadressaat, zoals bijvoorbeeld gegevens over het online kinderpornografisch materiaal. Het zesde lid bepaalt daarom dat bij algemene maatregel van bestuur regels worden gesteld over de openbaar te maken gegevens. Het betreft hier in elk geval regels over welke gegevens openbaar worden gemaakt, en regels over de wijze waarop deze openbaarmaking plaatsvindt.
Artikel 11
Het eerste lid bevat de noodzakelijke wettelijke grondslag voor het verwerken van bijzondere categorieën van persoonsgegevens en persoonsgegevens van strafrechtelijke aard. In het tweede lid is de noodzakelijke wettelijke grondslag voor het verwerken persoonsgegevens van strafrechtelijke aard opgenomen. Voor een nadere toelichting wordt verwezen naar paragraaf 5.3 van het algemene deel van de toelichting.
Artikel 12
Artikel 12 voorziet in de mogelijkheid om in concrete gevallen conform de voorwaarden die de AVG daaraan stelt de rechten van betrokkene te beperken. Dit is in paragraaf 5.3 toegelicht.
Artikel 13
De ontoegankelijkmaking kan ertoe leiden dat online kinderpornografisch materiaal wordt verwijderd. Gelet op het belang van deze gegevens voor een eventuele bestuursrechtelijke of strafrechtelijke procedure, is het van belang dat een kopie van dit materiaal behouden blijft. Het artikel voorziet in een grondslag om bij algemene maatregel van bestuur regels te stellen over het behoud en de opslag van het materiaal en de daarbij bijbehorende persoonsgegevens. Daarbij worden in elk geval regels gesteld over de manier waarop de Autoriteit dit (strafbare) materiaal opslaat zodat toegang tot dit materiaal door derden wordt voorkomen en daarvoor geldende bewaartermijnen. Gelet op het beginsel van opslagbeperking is het uitgangspunt dat persoonsgegevens niet langer worden bewaard dan noodzakelijk is voor de doeleinden waarvoor zij zijn verzameld. Voorts worden regels gesteld over de wijze waarop de kopie kan worden gebruikt of inzage daarin wordt gegeven ten behoeve van een strafrechtelijke of bestuursrechtelijke procedure. Bij procedures ten behoeve van de strafvordering kan worden gedacht aan een strafzaak tegen degene die het kinderpornografisch materiaal heeft geproduceerd of op internet heeft geplaatst. De verwijzing naar de bestuursrechtelijke procedure ziet op de mogelijkheid van bezwaar, beroep of hoger beroep tegen de rechtmatigheid van een gegeven aanwijzing of een sanctie. Het betreft hier bijvoorbeeld een procedure waarin een aanbieder van een communicatiedienst de rechtmatigheid van een aanwijzing tot ontoegankelijkmaking of een daarop volgende bestuursrechtelijke sanctie bestrijdt, bijvoorbeeld omdat verschil van inzicht bestaat over de kwalificatie van het als kinderpornografisch aangemerkte materiaal.
Artikel 14
Het huidige artikel 54a Sr bevat een vervolgingsuitsluitingsgrond voor aanbieders van een communicatiedienst. Deze vervolgingsuitsluitingsgrond strekt ertoe de aansprakelijkheid van deze intermediaire dienstverleners te beperken, door te bepalen dat deze aanbieders bij een strafbaar feit dat met gebruikmaking van die diensten wordt begaan als zodanig niet worden vervolgd, als is voldaan aan een krachtens artikel 125p Sv gegeven bevel. In artikel 54a Sr is geen vervolgingsuitsluitingsgrond opgenomen voor een aanbieder van een communicatiedienst die opvolging geeft aan een aanwijzing. Deze wijziging voorziet daarin, zodat een beroep op de in artikel 54a Sr opgenomen vervolgingsuitsluitingsgrond evenzeer toekomt aan de aanbieder die kinderpornografisch materiaal ontoegankelijk heeft gemaakt als gevolg van een aanwijzing.
Artikel 15 bevat een samenloopbepaling voor de Uitvoeringswet TOI-verordening. Deze samenloopbepaling bewerkstelligt dat het beoogde nieuwe zelfstandige bestuursorgaan slechts éénmaal wordt opgericht. Ook is voorzien in een samenloopbepaling voor de beoogde wijziging van artikel 54a Sr.
Artikel 16 schrapt artikel 19 uit de Uitvoeringswet TOI-verordening. Dit artikel uit de Uitvoeringswet TOI-verordening bevatte een samenloopbepaling voor het geval van samenloop met dit wetsvoorstel. De Uitvoeringswet TOI-verordening is op 21 maart 2023 door de Eerste Kamer aangenomen en treedt op korte termijn in werking. Gelet hierop zal de Uitvoeringswet TOI-verordening eerder in werking treden dan het onderhavige wetsvoorstel. Een samenloopbepaling in de Uitvoeringswet TOI-verordening met dit wetsvoorstel is daarom niet langer noodzakelijk.
Artikel 17 bevat een samenloopbepaling voor het bij koninklijke boodschap van 18 juli 2019 ingediende voorstel van wet tot wijziging van de Algemene wet bestuursrecht in verband met de herziening van afdeling 2.3 van die wet (Wet modernisering elektronisch bestuurlijk verkeer). Hoewel het met dat wetsvoorstel voorgestelde artikel 2:7, derde lid, voorziet in een algemene grondslag voor het verzenden van een bericht langs elektronische weg, is niet uit te sluiten dat een aanbieder van hostingdiensten een natuurlijk persoon is. Een afwijking van het in dat wetsvoorstel voorgestelde artikel 2:8 blijft daarom noodzakelijk.
Artikel 18 bevat de inwerkingtredingsbepaling van deze wet, waarbij het mogelijk is om voor de verschillende artikelen of onderdelen daarvan een verschillend tijdstip vast te stellen. Als uitgangspunt geldt dat de gehele voorstel van wet als één geheel in werking treedt. Gedeeltelijke of gefaseerde inwerkingtreding zal slechts in zeer uitzonderlijke gevallen aan de orde zijn, bijvoorbeeld als dat noodzakelijk blijkt om de benodigde samenloop met de Uitvoeringswet TOI-verordening te waarborgen.
Artikel 19 bevat de citeertitel.
Deze toelichting wordt ondertekend mede namens de Minister van Binnenlandse Zaken en Koninkrijksrelaties.
De Minister van Justitie en Veiligheid, D. Yesilgöz-Zegerius