Nr. 4 ADVIES AFDELING ADVISERING RAAD VAN STATE EN NADER RAPPORT1

Hieronder zijn opgenomen het advies van de Afdeling advisering van de Raad van State d.d. 7 februari 2024 en het nader rapport d.d. 28 maart 2024, aangeboden aan de Koning door de Minister van Economische Zaken en Klimaat, mede namens de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties. Het advies van de Afdeling advisering van de Raad van State is cursief afgedrukt.

Blijkens de mededeling van de Directeur van Uw kabinet van 6 november 2023, nr. 2023002578, machtigde Uwe Majesteit de Afdeling advisering van de Raad van State haar advies inzake het bovenvermelde voorstel van wet rechtstreeks aan mij te doen toekomen. Dit advies, gedateerd 7 februari 2024, nr. W18.23.00330/IV, bied ik U hierbij aan.

De tekst van het advies treft u hieronder cursief aan, voorzien van mijn reactie.

Bij Kabinetsmissive van 6 november 2023, no. 2023002578, heeft Uwe Majesteit, op voordracht van de Minister van Economische Zaken en Klimaat, bij de Afdeling advisering van de Raad van State ter overweging aanhangig gemaakt het voorstel van wet tot uitvoering van verordening (EU) 2022/2065 van het Europees Parlement en de Raad van 19 oktober 2022 betreffende een eengemaakte markt voor digitale diensten en tot wijziging van Richtlijn 2000/31/EG (Uitvoeringswet digitaledienstenverordening), met memorie van toelichting.

De digitaledienstenverordening (ofwel Digital Services Act, hierna: DSA) voorziet in regels over het aanbieden van zogenoemde tussenhandeldiensten. Daarbij gaat het onder meer om onlineplatforms en onlinezoekmachines. De DSA beoogt in dat kader de verspreiding van illegale online-inhoud, desinformatie of andere maatschappelijke risico’s tegen te gaan en een goede werking van de interne markt voor tussenhandeldiensten te bevorderen. Zij stelt verschillende soorten regels. Enerzijds geeft zij een kader voor vrijstelling van aansprakelijkheid van aanbieders van tussenhandeldiensten indien zij kunnen aantonen aan bepaalde verplichtingen te hebben voldaan. Anderzijds bevat de DSA zorgvuldigheidsvereisten waaraan aanbieders moeten voldoen om de hiervoor genoemde risico’s te voorkomen en te bestrijden.

Verder bevat de DSA regels over toezicht en handhaving. Het toezicht op de DSA is belegd bij zowel de Europese Commissie (hierna: Commissie) als nationale toezichthouders. Het wetsvoorstel geeft uitvoering aan de DSA door de Autoriteit Consument en Markt (ACM) en de Autoriteit Persoonsgegevens (AP) aan te wijzen als toezichthouder. De ACM wordt daarnaast als digitaledienstencoördinator aangewezen en heeft daarmee verschillende taken op nationaal en Europees niveau.

De Afdeling advisering van de Raad van State wijst erop dat de DSA van groot economisch en constitutioneel belang is, omdat zij niet alleen gericht is op bevordering van de interne markt maar ook op de bescherming van de democratie, grondrechten en de openbare veiligheid. Met het oog daarop verplicht zij tussenhandeldiensten tot soms ingrijpende afwegingen waarbij ook sprake kan zijn van botsing van grondrechten en belangen. Op dit uit constitutioneel oogpunt belangrijke terrein regelt de DSA een verschuiving van bevoegdheden van de lidstaten naar de Commissie.

De Afdeling adviseert om, mede met het oog op een heldere afbakening van bevoegdheden tussen de verschillende actoren, in de toelichting het in de DSA cruciale begrip «illegale inhoud» en daarmee samenhangende begrippen te verduidelijken. Voorts merkt zij op dat het voor de ACM, anders dan in de toelichting bij het wetsvoorstel staat, in bepaalde gevallen onontkoombaar zal zijn om te beoordelen of bepaalde informatie die aanwezig is op de diensten van tussenhandelaanbieders als illegale inhoud in de zin van de DSA moet worden beschouwd. Zij adviseert hierop in de toelichting in te gaan.

In verband daarmee kan het soms ook nodig zijn dat de ACM op grond van de DSA oordeelt over individuele besluiten van een tussenhandeldienst die betrekking hebben op informatie die online is of wordt verspreid (inhoudsmoderatie). De Afdeling adviseert daarom de bevoegdheid tot het opleggen van een bestuurlijke boete of een last onder dwangsom niet te beperken tot overtredingen die schade aan de collectieve belangen toebrengen en de toelichting op dit punt aan te passen.

Gelet op de mogelijk ingrijpende afwegingen die soms door de ACM gemaakt zullen moeten worden, gaat de Afdeling ook in op de wijze waarop de ACM verantwoording aflegt over de uitoefening van zijn bevoegdheden. De ministeriële verantwoordelijkheid wordt in het wetsvoorstel beperkt door op enkele punten af te wijken van de Kaderwet zelfstandig bestuursorganen (hierna: Kaderwet zbo’s).

De Afdeling adviseert om de uitsluiting van de bevoegdheid van de Minister om beleidsregels te stellen dragend te motiveren en in dit verband duidelijkheid te scheppen over de vraag hoe, voor zover de ministeriële verantwoordelijkheid niet geldt, dan wel publieke verantwoording door de ACM wordt afgelegd. Dat geldt ook voor het optreden van de ACM als digitaledienstencoördinator in Europees verband, evenals voor het optreden van de Europese digitaledienstenraad.

In verband met deze opmerkingen is aanpassing wenselijk van het wetsvoorstel en de toelichting.

1. Inhoud van de verordening en het wetsvoorstel

a. Reikwijdte en algemene bepalingen

De DSA voorziet in Europese regels over het aanbieden van zogenoemde tussenhandeldiensten. De DSA legt voorwaarden op voor het opkomen van digitale diensten en de groei hiervan in de interne markt. De DSA beoogt door het opleggen van deze voorwaarden verspreiding van illegale online-inhoud, desinformatie of andere maatschappelijke risico’s tegen te gaan en een goede werking van de interne markt voor tussenhandeldiensten te bevorderen.2

De DSA beoogt tevens daarmee rechtszekerheid voor ontwikkelaars en aanbieders te waarborgen, en communicatie tussen en samenwerking door diensten te bevorderen.3 De DSA biedt, met andere woorden, een kader voor het reguleren van tussenhandeldiensten binnen de grenzen van en ter bescherming van de democratische rechtsstaat en met inachtneming van de grondrechten van burgers.4

Voor een goed begrip van de DSA zijn twee begrippen in het bijzonder van belang: «illegale inhoud» en «tussenhandeldienst».

Het begrip «illegale inhoud» is in de DSA gedefinieerd als alle informatie die op zichzelf of in verband met een activiteit, waaronder de verkoop van producten of het aanbieden van diensten, indruist tegen het Unierecht of tegen het met het Unierecht in overeenstemming zijnde recht van een lidstaat, ongeacht het precieze voorwerp of de precieze aard van dat recht.5

Bij informatie die op zichzelf in strijd is met het recht gaat het bijvoorbeeld om terroristische, kinderpornografische, haatzaaiende of discriminerende inhoud, of informatie waarvan openbaarmaking of verspreiding in strijd is met het recht omdat het bijvoorbeeld gaat om bedrijfsgeheimen of inbreuken op intellectueel eigendom. Bij informatie die in verband met een activiteit in strijd is met het recht is de informatie zelf niet per se onrechtmatig, maar de wijze waarop en het doel waarmee die wordt verspreid. Voorbeelden hiervan zijn valsheid in geschrifte, het gebruik van een online omgeving voor oplichting, de verkoop of verspreiding van illegale of non-conforme producten en het gebruik van malware.

De DSA legt met het oog op de bestrijding van illegale online inhoud aan tussenhandeldiensten verschillende soorten verplichtingen op (zie hierna). Essentieel in de DSA is daarom ook het begrip «tussenhandeldienst». Dit wordt gedefinieerd als een van de volgende diensten:

• – Een «mere conduitdienst», die bestaat in de doorgifte in een communicatienetwerk van door een afnemer van de dienst verstrekte informatie, of in het verstrekken van toegang tot een communicatienetwerk. Voorbeelden zijn internetknooppunten en vpn-diensten.6

• – een «cachingdienst», die bestaat in de doorgifte in een communicatienetwerk van door een afnemer van de dienst verstrekte informatie, waarbij die informatie automatisch, tussentijds en tijdelijk wordt opgeslagen met als enige doel om de latere doorgifte van die informatie aan andere afnemers van de dienst op hun verzoek doeltreffender te maken. Dergelijke diensten zijn van cruciaal belang voor een soepele en efficiënte informatiedoorgifte via het internet. Voorbeelden hiervan zijn proxydiensten.7

• – een «hostingdienst», die door een afnemer van de hostingdienst verstrekte informatie opslaat, zoals websites, foto’s of applicaties. Voorbeelden zijn cloudcomputing, betaalde zoekmachineadvertentiediensten of diensten die het online delen van informatie en inhoud mogelijk maken, waaronder het opslaan en delen van bestanden. Een subcategorie hostingdiensten zijn onlineplatforms, waaraan de DSA extra verplichtingen oplegt. Voorbeelden van dergelijke platforms zijn Bol.com (een online marktplaats) en Mastodon (een sociaal netwerk).8

• – Een aparte categorie binnen de DSA zijn de onlinezoekmachines. Een onlinezoekmachine is een tussenhandeldienst die gebruikers de mogelijkheid biedt om zoekacties uit te voeren. Onlinezoekmachines kunnen ook aan te merken zijn als mere conduit-, caching-, of als hostingdienst.

De DSA kent een gelaagdheid van regels. In het algemeen geldt dat afhankelijk van de aard en grootte (in termen van aantallen gebruikers), de aanbieder van de tussenhandeldienst aan zwaardere verplichtingen moet voldoen. De meest vergaande verplichtingen gelden voor de zeer grote onlineplatforms en onlinezoekmachines. Zij worden gecategoriseerd als «zeer groot» als zij maandelijks minimaal 45 miljoen actieve afnemers van de dienst in de Unie hebben.9

De Commissie heeft inmiddels 17 aanbieders van online platforms en onlinezoekmachines als zeer groot aangewezen. Hieronder vallen bijvoorbeeld META (voor Facebook en Instagram), Google (voor Search, Play, Maps, Shopping en Youtube), maar ook Booking.com.10

Zoals gezegd bevat de DSA verschillende soorten regels. Zij bevat allereerst voorwaardelijke aansprakelijkheidsvrijstellingen voor informatie voor mere conduit-, caching- en hostingdiensten, die voorheen waren opgenomen in de richtlijn elektronische handel.11 Aanbieders van tussenhandeldiensten kunnen op deze aansprakelijkheidsvrijstellingen een beroep doen als zij vrijwillig onderzoek doen naar illegale inhoud of als zij maatregelen nemen die zijn gericht op het opsporen, identificeren en verwijderen van, of het uitschakelen van toegang tot, illegale inhoud.12 Zij worden echter niet verplicht tot monitoring van de door hen opgeslagen informatie noch tot actief onderzoek naar feiten of omstandigheden die duiden op illegale activiteiten.13 Dit is gelijk aan wat in de richtlijn elektronische handel al was geregeld.

Daarnaast stelt de DSA regels over de bevelen die nationale gerechtelijke (civiele rechter of strafrechter) of bestuursrechtelijke autoriteiten (zoals de Autoriteit online Terroristisch of Kinderpornografisch Materiaal) aan aanbieders kunnen richten ten aanzien van het bestrijden van illegale inhoud of het verstrekken van informatie over afnemers van de diensten.14 De DSA geeft zelf geen grondslagen voor het uitvaardigen van dergelijke bevelen; die grondslagen zijn voorzien in het Unierecht of in het nationale recht. De DSA stelt wel enkele eisen aan de inhoud van bovengenoemde bevelen en de opvolging daarvan. De bedoeling daarvan is dat zulke bevelen met name in een grensoverschrijdende context op een efficiënte en doeltreffende manier kunnen worden uitgevoerd.15

Zoals het voorgaande laat zien hangt de DSA samen met andere in de digitale economie relevante nationale en EU-regelgeving. Daarbij gaat het bijvoorbeeld om regelgeving die bepaalde inhoud verbiedt zoals de EU-verordening over terroristische online-inhoud en het wetsvoorstel bestuursrechtelijke aanpak online kinderpornografisch materiaal.16

Veel andere (reeds bestaande of recent voorgestelde) Europese regels hangen hiermee samen, zoals richtlijn 2011/93 ter bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen en kinderpornografie, de voorgestelde verordening ter voorkoming en bestrijding van online seksueel misbruik van kinderen, en de voorgestelde richtlijn ter bestrijding van geweld tegen vrouwen en huiselijk geweld, maar ook de aankomende mediavrijheid-verordening.17 In dit verband kan verder worden gewezen op de voorstellen voortvloeiend uit de Europese digitaliserings- en datastrategie. Met name is de digitalemarktenverordening (DMA) van belang die regels stelt ten aanzien van kernplatformdiensten van de grootste online platforms.18 Zoals hierna (punt 1b) uiteen wordt gezet heeft de DSA daarnaast raakvlakken met de AVG.

b. Zorgvuldigheidsverplichtingen

Een relatief groot deel van de DSA bestaat uit zorgvuldigheidsverplichtingen waaraan een aanbieder van een tussenhandeldienst moet voldoen, afhankelijk van zijn aard en omvang. Daarbij geldt: hoe groter de dienst, hoe zwaarder de verplichtingen. In dit verband is van belang dat een tussenhandeldienst zowel afzonderlijk, als onderdeel, of samen met een andere tussenhandeldienst of andere dienst, kan worden aangeboden. Een aanbieder die verschillende categorieën tussenhandeldiensten aanbiedt, heeft dus te maken met de verplichtingen die op de verschillende categorieën tussenhandeldiensten van toepassing zijn.

Bij de zorgvuldigheidsverplichtingen die in de DSA zijn opgenomen gaat het onder meer om de volgende verplichtingen.

• – Alle aanbieders moeten contactpunten instellen voor toezichthouders en afnemers van de diensten.19

• – Alle aanbieders moeten verder informatie over inhoudsmoderatie in hun algemene voorwaarden opnemen en op een zorgvuldige, objectieve en evenredige wijze inhoudsmoderatie toepassen.20

• – Hostingdiensten moeten daarnaast voorzien in kennisgevings- en actiemechanismen, en hun besluiten motiveren.21

• – Onlineplatforms dienen zich te houden aan aanvullende bepalingen: zij dienen een intern klachtenafhandelingssysteem te hebben en te goeder trouw samen te werken met buitengerechtelijke geschillenbeslechtingsorganen.22 Ook dienen zij maatregelen te nemen tegen misbruik door gebruikers (bijvoorbeeld wanneer deze frequent kennelijk illegale inhoud verstrekken).23

• – Onlineplatforms hebben ook te maken met de aanvullende bepalingen over misleidend ontwerp van interfaces,24 reclame en profilering (ook in verband met de bescherming van minderjarigen) en over transparantie van aanbevelingssystemen.25

• – Voor platforms die aan consumenten de mogelijkheid bieden op afstand overeenkomsten te sluiten met handelaren (zoals Bol.com of Zalando), gelden aanvullende bepalingen.

De zeer grote onlineplatforms en zeer grote onlinezoekmachines moeten ten slotte voldoen aan extra zorgvuldigheidsverplichtingen, zoals het uitvoeren van een beoordeling van systeemrisico’s.26 Het gaat daarbij om risico’s die het individu overstijgen en die de samenleving en de democratie ernstige schade toe kunnen brengen, zoals bijvoorbeeld beïnvloeding van het publieke debat door desinformatie. Voor vier categorieën risico’s moet jaarlijks een risicobeoordeling worden doorlopen. Het betreft systeemrisico’s die:

• – voortvloeien uit de verspreiding van illegale inhoud via hun diensten;

• – betrekking hebben op de werkelijke of voorzienbare negatieve effecten van de dienst op de uitoefening van grondrechten;

• – werkelijke of voorzienbare negatieve effecten hebben op de burgerdialoog en verkiezingsprocessen en op de openbare veiligheid; en

• – werkelijke of voorzienbare negatieve effecten in relatie tot gendergerelateerd geweld, de bescherming van de volksgezondheid en minderjarigen en het lichamelijk en geestelijk welzijn van personen.27

De zorgvuldigheidsverplichtingen die in de DSA zijn opgenomen zijn cumulatief in de zin dat ook steeds aan de verplichtingen van de onderliggende categorieën moet worden voldaan. Dat wil zeggen, dat bijvoorbeeld een zeer groot onlineplatform ook moet voldoen aan de verplichtingen voor «gewone» onlineplatforms, en ook voor hostingdiensten en de verplichtingen die gelden voor alle tussenhandeldiensten.

c. Toezicht

De DSA bepaalt dat elke lidstaat een of meer bevoegde autoriteiten aanwijst als verantwoordelijke voor het toezicht op aanbieders van tussenhandeldiensten en de uitvoering van de verordening.28 Daarnaast wijst iedere lidstaat één van de bevoegde autoriteiten aan als zogenoemde digitaledienstencoördinator. De digitaledienstencoördinator is verantwoordelijk voor alle kwesties die verband houden met het toezicht op en de handhaving van de DSA in de lidstaat, tenzij de betrokken lidstaat specifieke taken of sectoren aan andere bevoegde autoriteiten heeft gelaten. De digitaledienstencoördinator is in elk geval verantwoordelijk voor de coördinatie op nationaal niveau en voor het bijdragen tot het doeltreffend en consistent toezicht houden op en handhaven van deze verordening binnen de hele Unie.29

De DSA voorziet voorts in de oprichting van een onafhankelijke adviesgroep van digitaledienstencoördinatoren, de digitaledienstenraad.30 Deze adviesgroep adviseert de digitaledienstencoördinatoren en de Commissie, en draagt zo bij aan:

• – consistente toepassing en effectieve samenwerking;

• – het coördineren van en bijdragen aan richtsnoeren en analyse van opkomende kwesties;

• – het bijstaan van de coördinatoren en de Commissie bij het toezicht op zeer grote onlineplatforms en onlinezoekmachines.

Het toezicht op de DSA is gelaagd; er is een taakverdeling tussen de nationale toezichthouders en de Commissie. Toezicht op lidstaatniveau is de hoofdregel. De aangewezen toezichthouders van het land waar de aanbieder zijn hoofdvestiging heeft, houden in beginsel toezicht op de verplichtingen onder de DSA. De Commissie is echter exclusief bevoegd voor het toezicht op en de handhaving van de specifieke verplichtingen31 in de DSA die alleen gelden voor aanbieders van zeer grote onlineplatforms en zeer grote onlinezoekmachines.32

Als het gaat om de overige verplichtingen van de DSA waaraan ook zeer grote onlineplatforms en zeer grote onlinezoekmachines moeten voldoen, zijn de nationale toezichthouders bevoegd, tenzij de Commissie de zaak «naar zich toe heeft getrokken» en een procedure is gestart naar een inbreuk op een of meer van die overige verplichtingen die mogelijk door een zeer groot onlineplatform of een zeer grote onlinezoekmachine is gepleegd.33

Vereenvoudigd samengevat ziet de gelaagde toezichtsstructuur op grond van de DSA er als volgt uit:

Figuur 1 Deze figuur laat zien dat (1) verplichtingen toenemen afhankelijk van de aard en omvang van de tussenhandeldienst, en (2) welke toezichthouder op welke verplichtingen toezicht houdt. Bijvoorbeeld, een zeer groot onlineplatform moet ook aan de onderliggende verplichtingen moet voldoen, waarop gezamenlijk toezicht is. Een onlineplatform dient weer te voldoen aan de onderliggende verplichtingen, enzovoorts. Ontleend aan https://commission.Europa.eu/strategy-and-policy/priorities-2019-2024/Europe-fit-digital-age/digital-services-act_en.

d. Inhoud van het wetsvoorstel

Het wetsvoorstel geeft op nationaal niveau uitvoering aan de DSA. De Autoriteit Consument en Markt (ACM) wordt aangewezen als digitaledienstencoördinator.34 De ACM is ook toezichthouder op het overgrote deel van de DSA. De ACM krijgt in het wetsvoorstel verschillende bevoegdheden toegekend indien een aanbieder zijn verplichtingen niet nakomt, zoals het opleggen van een bestuurlijke boete, een last onder dwangsom en een zelfstandige last.35 Daarnaast dient de ACM de Commissie volgens het wetsvoorstel bij te staan in de uitvoering van haar toezichthoudende taak.36

De AP wordt aangewezen als bevoegde autoriteit voor zover het gaat om toezicht op verwerking van persoonsgegevens, meer specifiek in relatie tot profilering.37 Ook worden regels gesteld over de bevoegdheden van de ACM en de AP, over samenwerking tussen de ACM en de AP en tussen het OM en de ACM en over gegevensuitwisseling.

Uit de toelichting blijkt daarnaast dat de ACM en de AP samenwerken met de Autoriteit Financiële Markten en het Commissariaat voor de Media in het Samenwerkingsplatform Digitale Toezichthouders (SDT). Het SDT heeft een aparte DSA-kamer, waar op onderdelen mogelijk ook andere toezichthouders bij betrokken zijn of zullen worden.38

2. Constitutionele uitgangspunten

De DSA beoogt, naast bevordering van de goede werking van de interne markt voor tussenhandeldiensten, een veilige, voorspelbare en betrouwbare online-omgeving te waarborgen.39 Daarbij gaat het om belangrijke constitutionele beginselen en publieke waarden zoals de bescherming van de democratie, de openbare veiligheid, de vrijheid en pluriformiteit van de media, individuele grondrechten zoals vrijheid van meningsuiting en informatie, de bescherming van de persoonlijke levenssfeer en (in het kader van de DSA) ook consumentenbescherming.

Deze beginselen en waarden zijn indringender aan de orde naarmate de tussenhandeldiensten grootschaliger zijn. In dat geval zijn de regels gericht op voorkoming van risico’s die het democratisch bestel als geheel kunnen raken. Een voorbeeld van een dergelijk systeemrisico is het verspreiden van desinformatie en misinformatie tijdens verkiezingen door buitenlandse actoren dat zich, zoals de ervaring in de afgelopen jaren leert, op bepaalde onlineplatforms kan voordoen.40

Met het oog op de waarborging van de genoemde beginselen en waarden verplicht de DSA tussenhandeldiensten tot soms ingrijpende afwegingen. Daarmee veronderstelt de DSA de doorwerking van bepaalde grondrechten in private rechtsverhoudingen (horizontale werking van grondrechten), zoals de toelichting aangeeft.41 Omdat er verschillende, soms tegengestelde, grondrechtelijke belangen van burgers in het geding kunnen zijn, kan er ook sprake zijn van botsing van grondrechten. De DSA faciliteert en bevordert deze horizontale doorwerking door middel van de daarin geregelde zorgvuldigheidsverplichtingen en het publieke toezicht daarop, zoals het voorgaande laat zien. Ook vanuit dit oogpunt is de DSA van constitutioneel belang.

Ook voor overheidsinstanties heeft de DSA gevolgen; deze dienen bij de uitoefening van de in de DSA aan hen toegekende bevoegdheden tot een eerlijk evenwicht («fair balance») tussen de betrokken rechten en belangen te komen.42 Dat raakt niet alleen de toezichthouders die zijn aangewezen om op de naleving van de DSA toe te zien (in casu de ACM en de AP) maar ook de rechterlijke instanties en bestuursorganen die door middel van een bevel moeten optreden tegen illegale inhoud in de zin van de DSA.

De DSA is naast de verplichting voor private en publieke actoren tot democratisch-rechtsstatelijke afwegingen ook van constitutioneel belang vanwege de verschuiving van bevoegdheden van de lidstaten naar de Unie, meer specifiek naar de Commissie. De DSA voorziet in gedeeld toezicht tussen de Commissie en de nationale toezichthouders – in Nederland, ingevolge het wetsvoorstel, de ACM en de AP. De Commissie is niet alleen exclusief bevoegd als toezichthouder op te treden ten aanzien van de verplichtingen die voor zeer grote onlineplatforms en onlinezoekmachines gelden.43 Het is ook aan de Commissie om te beoordelen wanneer zij het toezicht naar zich «toetrekt» ten aanzien van de overige verplichtingen van zeer grote onlineplatforms en onlinezoekmachines.44 De Commissie heeft daarmee een potentieel ruime bevoegdheid om op te treden als toezichthouder.45

Bovendien voorziet de DSA in een zogenoemd crisisresponsmechanisme. Daarmee is aan de Commissie de bevoegdheid toegekend om (op aanbeveling van de digitaledienstenraad) aanbieders van zeer grote onlineplatforms en onlinezoekmachines te verplichten maatregelen te nemen in tijden van crisis.46 Dit kan bijvoorbeeld betekenen dat bepaalde online-inhoud moet worden geblokkeerd of verwijderd.

Tegen de achtergrond van deze constitutionele gezichtspunten gaat de Afdeling hierna verder in op enerzijds de reikwijdte van het toezicht, en in het bijzonder het beoordelen van illegale inhoud en individuele besluiten, en anderzijds de publieke verantwoording over de wijze waarop het toezicht op de naleving van de DSA moet worden uitgeoefend.

3. Reikwijdte van het toezicht en de handhaving

a. Zorgvuldigheidsvereisten, meldingen, klachten en buitengerechtelijke geschilbeslechting

Uit het voorgaande bleek dat de zorgvuldigheidsverplichtingen voor aanbieders van tussenhandeldiensten in de DSA zijn gericht op het tegengaan van verspreiding van illegale online-inhoud, desinformatie en andere maatschappelijke risico’s. Die zorgvuldigheidsverplichtingen vereisen een actieve houding van de aanbieders van tussenhandeldiensten om die verspreiding tegen te gaan. Tegelijkertijd moeten zij ook voorzien in mechanismen voor gebruikers van hun diensten om melding te doen van de aanwezigheid van specifieke informatie die een gebruiker als illegale inhoud beschouwt (melding).47

b. Wat is illegale inhoud?

Voor de beoordeling in welke gevallen aanbieders van tussenhandelsdiensten (en mogelijk ook overheidsinstanties) beslissingen en maatregelen moeten nemen en op welke wijze, is het begrip «illegale inhoud» essentieel. Zoals hiervoor aangegeven wordt dat begrip in de DSA gedefinieerd als, kort samengevat, alle informatie die in strijd is met het Unierecht of met het nationale recht van de lidstaat.51 Uit de DSA zou echter kunnen worden afgeleid dat de reikwijdte van de DSA verder strekt dan de bestrijding van «illegale inhoud». De terminologie loopt niet in alle gevallen parallel.

De Afdeling wijst in de eerste plaats op overweging 9 waaruit blijkt dat met het oog op het doel van de DSA (een veilige, voorspelbare en betrouwbare onlineomgeving) deze niet alleen gericht is op de aanpak van «illegale online-inhoud» maar ook van «de maatschappelijke risico’s die de verspreiding van desinformatie of andere inhoud met zich kunnen brengen».

Dezelfde ruime reikwijdte komt naar voren in de omschrijving van de systeemrisico’s die aanbieders van zeer grote onlineplatforms en zeer grote onlinezoekmachines moeten identificeren, analyseren en beoordelen. Deze hebben blijkens artikel 34, eerste lid, DSA niet alleen betrekking op de verspreiding van illegale inhoud (onderdeel a) maar ook op de werkelijke of voorzienbare negatieve effecten op onder meer grondrechten, verkiezingen, de openbare veiligheid en de bescherming van de volksgezondheid (onderdelen b tot en met d). Niet duidelijk is of en zo ja, in welke mate deze categorieën elkaar overlappen.

Tegenover het voorgaande staan overwegingen en bepalingen van de DSA waarin uitgegaan lijkt te worden van een beperktere reikwijdte. Zo spreekt artikel 9 (onder het kopje «Bevel om op te treden tegen illegale inhoud») van een door de bevoegde nationale rechter of bestuurlijke autoriteit gegeven bevel om tegen «een of meer specifieke illegale inhoudselementen» op te treden.52 Niet duidelijk is in hoeverre onder «illegale inhoud» in de context van deze bepalingen ook inhoud kan of moet worden verstaan die negatieve effecten heeft op de grondrechten, de democratie of de openbare veiligheid in bovengenoemde zin en wat het antwoord op deze vraag betekent voor de bevoegdheden van toezichthouders (zie ook hierna onder c). Daarbij is het bijvoorbeeld de vraag of en zo ja, in welke gevallen desinformatie en de verspreiding daarvan als «illegaal» kwalificeert in de betekenis van de DSA.

Met het oog op het laatste constateert de toelichting terecht dat het begrip «desinformatie of andere inhoud» als bedoeld in overweging 9 niet in de DSA wordt gedefinieerd. In die lacune wordt voorzien door in de toelichting een eigen omschrijving daarvan te geven. Als «desinformatie» beschouwt de regering «het .... doelbewust, veelal heimelijk, verspreiden van misleidende informatie, met het doel om schade toe te brengen aan het publieke debat, democratische processen, de open en kenniseconomie of de volksgezondheid.53 Het is een vorm van schadelijk, maar vaak legaal gedrag, aldus de toelichting. Niet duidelijk is echter of en zo ja, in welke gevallen de verspreiding van desinformatie weliswaar niet wettelijk verboden is maar wel onrechtmatig kan zijn en in hoeverre in dat verband daartegen, in het licht van de brede doelstelling van de DSA, bij de gewone rechter kan worden opgekomen.

De Afdeling adviseert in de toelichting in het licht van de reikwijdte van de DSA nader in te gaan op de begrippen «illegale inhoud» en «desinformatie of andere inhoud» en op welke wijze dit doorwerkt in de bevoegdheid van de nationale toezichthouder, de nationale rechter en de overige bij de uitvoering van de DSA betrokken bestuursorganen.

Aan dit onderdeel van het advies is gevolg gegeven door paragraaf 2.4.2 van de memorie van toelichting over het begrip begrip «desinformatie of andere inhoud» uit te breiden. In de eerste plaats is het begrip «desinformatie» nader uitgewerkt aan de hand van de in praktijk gangbare definities. Alle definities van het begrip hebben met elkaar gemeen dat het steeds gaat om (i) informatie die onjuist of misleidend is, (ii) die leidt tot maatschappelijke schade en (iii) waarbij een element van intentie/opzettelijkheid aanwezig is.

In de tweede plaats wordt ook nader toegelicht hoe het begrip «desinformatie» zich verhoudt tot het begrip «illegale inhoud», en wat dat betekent voor de behandeling van «desinformatie» onder de verordening. Toegelicht is dat het begrip desinformatie uiteenlopende juridische kwalificaties kan hebben. Het kan zowel illegale (strafbare of anderszins onrechtmatige), als toegestane, doch mogelijk schadelijke uitingen omvatten. Indien desinformatie tevens kwalificeert als «illegale inhoud», zijn de daarmee corresponderende bepalingen uit de verordening van toepassing. In zijn algemeenheid kan op grond van de verordening niet beoordeeld worden of een specifieke desinformatie-uiting tevens kwalificeert als «illegale inhoud». Die beoordeling is afhankelijk van de omstandigheden van het geval en hangt af van het op de uiting toepasselijke recht. De beoordeling of informatie illegaal is, dient immers te geschieden aan de hand van het toepasselijke Unierecht of het recht van de lidstaten (artikel 3, onderdeel h, van de verordening) en dus niet aan de hand van de verordening zelf (zie paragraaf 2.4.1 van de memorie van toelichting).

In de derde plaats is in paragraaf 2.4.2 aangevuld met een nadere toelichting over welke onderdelen van de verordening betrekking hebben op «illegale inhoud», welke op «desinformatie» en welke op «andere inhoud». Zoals de Afdeling terecht opmerkt, komt de aanpak van desinformatie of andere schadelijke inhoud met name terug in de verplichtingen over systeemrisico’s die louter gelden voor zeer grote online platforms en zeer grote online zoekmachines (de artikelen 34 en 35 van de verordening). Op grond van die bepalingen kan het niet-optreden door zeer grote online platforms en zeer grote online zoekmachines tegen desinformatie strijd opleveren met de verordening. Voor het toezicht is van belang dat de Commissie op grond van artikel 56, tweede lid, van de verordening exclusief bevoegd is voor het toezicht op en de handhaving van de verplichtingen die uitsluitend gelden ten aanzien van aanbieders van zeer grote online platforms en zeer grote online zoekmachines, waaronder de verplichtingen ten aanzien van systeemrisico’s. De lidstaten – en dus de op nationaal niveau aangewezen bevoegde autoriteiten – hebben geen bevoegdheid tot toezicht op en handhaving ten aanzien van deze verplichtingen.

Het bovenstaande neemt uiteraard niet weg dat de vaststelling (door de Europese Commisie) dat een zeer groot online platform of zeer grote online zoekmachine de artikelen 34 en 35 van de verordening heeft overtreden relevant kan zijn voor de beoordeling of een aanbieder onrechtmatig handelt door de civiele rechter. Hetzelfde geldt voor de Europese praktijkcode tegen desinformatie, die is ondertekend door 34 partijen. Deze en andere gedragscodes kunnen worden gebruikt door de civiele rechter ter invulling van de algemene zorgvuldigheidsnormen.

c. Beoordeling van illegale inhoud

Volgens de toelichting bij het wetsvoorstel moeten de bevoegde autoriteiten bij de uitoefening van hun handhavingstaken de zorgvuldigheidsverplichtingen die gelden voor de verschillende categorieën van aanbieders van tussenhandeldiensten effectief controleren en handhaven en zich niet richten op het identificeren en tegengaan van illegale inhoud op die diensten. De DSA bevat daarom volgens de toelichting ook geen bevoegdheden voor de bevoegde autoriteiten om te oordelen of inhoud illegaal is, en verplicht lidstaten ook niet om dergelijke bevoegdheden aan hun autoriteiten toe te kennen.

De Afdeling begrijpt de toelichting zo, dat de regering ervan uitgaat dat de ACM als toezichthouder niet zal oordelen over de illegaliteit van de inhoud op tussenhandeldiensten. De vraag is echter gerezen of dit in alle gevallen houdbaar is. De ACM heeft er in zijn reactie op het wetsvoorstel op gewezen dat het onwenselijk is het toezicht op zorgvuldigheidsverplichtingen uit de DSA in alle gevallen los te trekken van de bevoegdheid om te oordelen over de illegaliteit van de inhoud.54 De Afdeling begrijpt het standpunt van de ACM zo, dat toezicht op de naleving van de zorgvuldigheidsverplichtingen niet (altijd) goed mogelijk is zonder, in elk geval marginaal, te beoordelen of de desbetreffende inhoud mogelijk illegaal is of niet.

De Afdeling onderschrijft het uitgangspunt dat het niet primair de taak van de ACM is om aanbieders van tussenhandeldiensten te bevelen op te treden tegen specifieke illegale inhoud.55 De DSA gaat er vanuit dat dergelijke bevelen afhankelijk van het rechtsstelsel van elke lidstaat en het betrokken rechtsgebied door nationale rechters of bestuurlijke autoriteiten worden gegeven, met inbegrip van rechtshandhavingsinstanties.56 Dat is ook in de Nederlandse rechtsorde het uitgangspunt. Tegelijkertijd lijkt de ACM om te onderzoeken en vast te stellen of de zorgvuldigheidsvereisten door de aanbieders van tussenhandeldiensten worden nageleefd, er niet altijd aan te kunnen ontkomen om een oordeel te vormen over of bepaalde inhoud mogelijk illegaal is. In hoeverre dat zo is hangt van de bijzondere omstandigheden van het geval.

De Afdeling wijst bij wijze van voorbeeld op de verplichting van aanbieders van onlineplatforms om de mogelijkheid te bieden tot indiening van een klacht. Een klacht moet in die context betrekking hebben op een eerder genomen besluit van de aanbieder en kan bijvoorbeeld inhouden dat de aanbieder informatie ten onrechte niet heeft verwijderd omdat de betrokken informatie, anders dan de aanbieder meent, «illegale inhoud vormt of onverenigbaar is met zijn algemene voorwaarden».57 Een aanbieder moet die klacht op grond van de DSA op tijdige, zorgvuldige, niet-willekeurige en niet-discriminerende wijze behandelen. Als de aanbieder de klacht gegrond acht omdat de informatie bij nader inzien toch illegaal is, trekt hij het besluit in en kan hij in het gegeven voorbeeld alsnog tot verwijdering overgaan.58 Indien vervolgens de ACM moet beoordelen of de aanbieder de klacht in overeenstemming met de zorgvuldigheidseisen van de DSA heeft behandeld59 en gelet daarop in het concrete geval terecht tot verwijdering is overgegaan, kan de ACM in dat kader niet of althans niet geheel ontkomen aan een oordeel over de vraag of de desbetreffende informatie illegale inhoud bevat en de aanbieder van het online platform gehouden zou kunnen zijn om maatregelen te treffen.

Ook bij de toepassing van andere bepalingen van de DSA kan een zekere beoordeling van de inhoud door de ACM niet worden uitgesloten. Zo vereist de DSA dat aanbieders van onlineplatforms hun dienst voor afnemers die frequent kennelijk illegale inhoud verstrekken voor een redelijke periode en na een voorafgaande waarschuwing schorsen.60 Schorsing kan ook aan de orde zijn voor verwerking van meldingen en klachten die zijn ingediend door personen of klagers die regelmatig meldingen of klachten indienen die kennelijk ongegrond zijn.61 Ook bij toezicht op naleving van deze bepalingen in de DSA zal ACM vermoedelijk meer dan eens een op zijn minst marginaal oordeel moeten geven over de vraag of informatie als «illegale inhoud» in de zin van de DSA moet worden beschouwd. De DSA bevat hieromtrent in elk geval geen specifieke regels die hieraan in de weg staan.62 Zo nodig kan de ACM over de taakverdeling in contact treden met de terzake bevoegde toezichthouder.63

De Afdeling adviseert in de toelichting uiteen te zetten dat de ACM zich, bij de uitoefening van haar taak op grond van de DSA, in sommige gevallen een op zijn minst marginaal oordeel zal moeten vormen of bepaalde inhoud mogelijk illegaal is.

Het ontwerp van de memorie van toelichting, zoals dat aan de Afdeling voor advies is voorgelegd, bevatte een aantal passages waarin de bepalingen van de verordening zo werden uitgelegd, dat de ACM bij het toezicht op de zorgvuldigheidsverplichtingen uit hoofde van de verordening niet beschikt over de bevoegdheid om te oordelen of specifieke online inhoud illegaal is en dat lidstaten ook niet verplicht waren om een dergelijke bevoegdheid aan hun toezichthoudende autoriteit toe te kennen. De Afdeling onderschrijft dit uitgangspunt, maar adviseert om in de memorie van toelichting uiteen te zetten dat de ACM in sommige gevallen een op zijn minst marginaal oordeel zal moeten vellen of bepaalde inhoud mogelijk illegaal is.

De verordening heeft mede tot doel om de veiligheid van de onlineomgeving te vergroten en om de verspreiding van illegale inhoud tegen te gaan. In het verlengde daarvan hebben verschillende verplichtingen in de verordening betrekking op hoe aanbieders van tussenhandeldiensten om moeten gaan met illegale inhoud op hun dienst. Of sprake is van illegale inhoud op de diensten van een aanbieder, speelt dus een rol bij de vraag of de betreffende verplichtingen van toepassing zijn, wat die verplichtingen in het concrete geval inhouden en dus ook bij de beoordeling of een aanbieder die verplichtingen heeft overtreden.

De ACM zal dus inderdaad in het kader van het toezicht op en de handhaving van deze verplichtingen zich in zekere mate een oordeel moeten vormen over welk type illegale inhoud aanwezig is op de dienst van een bepaalde aanbieder en wat de ernst daarvan is. Het ligt ook in de rede dat de ACM hierbij kiest voor een risicogestuurde aanpak van toezicht en handhaving en samenwerkt met politie, OM en bevoegde toezichthouders om tot een optimale aanpak te komen. Het is dus aan de ACM om hier in de praktijk een invulling aan te geven die past binnen de kaders van de verordening. Op EU-niveau kunnen de digitaledienstenraad, waar de ACM aan deelneemt, en de Commissie eraan bijdragen dat de verordening op dit punt uniform wordt toegepast. Uiteindelijk is de uitleg van de verordening op dit punt aan de rechter, in laatste instantie het Hof van Justitie van de Europese Unie.

Naar aanleiding van dit advies zijn de betreffende passages van de memorie van toelichting aangepast, omdat daaruit ten onrechte zou kunnen worden afgeleid dat de ACM op geen enkele manier bij het toezicht op de zorgvuldigheidsverplichtingen zou kunnen oordelen over de vraag of sprake is van illegale inhoud op de diensten van een aanbieder. Specifiek is paragraaf 5.3.1 van de memorie van toelichting over de reikwijdte van het toezicht en de handhaving aangevuld met een nieuwe paragraaf 5.3.1.2 over de beoordeling van illegale inhoud. Ook zijn de paragrafen 2.4.1 (het begrip «illegale inhoud»), 4.3.4.2 (schorsing van gebruikers) en 9.1.1 (reactie op het onderdeel «illegale inhoud» van de UHT van de ACM) aangevuld en aangepast.

Het kabinet wil in dit verband wel benadrukken dat de Uniewetgever in de overwegingen 31 en 109 bij de verordening duidelijk heeft gemaakt dat de verordening niet voorziet in de taak voor de toezichthouder op de zorgvuldigheidsverplichtingen om uitspraak te doen over de rechtmatigheid van specifieke inhoud of in een rechtsgrond voor het uitvaardigen van bevelen aan aanbieders om op te treden tegen illegale inhoud. Deze afbakening van de reikwijdte van het toezicht en de handhaving past ook bij de systematiek van de verordening, waarin het begrip «illegale inhoud» geen zelfstandige, geharmoniseerde betekenis heeft en waarbij de beoordeling van de rechtmatigheid van specifieke online inhoud geschiedt met toepassing van ander EU-recht of lidstatelijk recht. De ACM zal zijn toezichts- en handhavingsbevoegdheden met inachtneming van deze beperkingen moeten inzetten, ook in de specifieke voorbeelden die de Afdeling noemt (de verplichting voor aanbieders van online platforms om klachten zorgvuldig te behandelen en om de gebruikers en indieners van meldingen en klachten, die misbruik van de dienst maken, te schorsen).

d. Individuele besluiten

Volgens de toelichting volgt uit de DSA dat het toezicht op en handhaving van de zorgvuldigheidsverplichtingen zich niet moeten richten op individuele besluiten van aanbieders. In situaties waarin een aanbieder in een individueel geval een inbreuk zou hebben gepleegd op de DSA voorziet deze in de hierboven beschreven interne klachtenprocedure of buitengerechtelijke geschillenbeslechting. Ook is er in die gevallen altijd de mogelijkheid om een geschil aan de civiele rechter voor te leggen, aldus de toelichting. Het toezicht op de zorgvuldigheidsbepalingen door de ACM zal zich volgens de toelichting alleen moeten richten op de vraag of de aanbieder de juiste procedures heeft ingesteld en toegepast om een zorgvuldig besluit te nemen.64

Dit uitgangspunt is in de opzet van het wetsvoorstel met name van belang voor het toezicht op de zorgvuldigheidsverplichtingen die eisen stellen aan de wijze waarop aanbieders in individuele gevallen omgaan met inhoud die mogelijk illegaal is of in strijd met de algemene voorwaarden: een zorgvuldige besluitvorming over inhoudsmoderatie,65 een zorgvuldige beoordeling van kennisgevingen van illegale inhoud,66 een goede motivering van besluiten tot inhoudsmoderatie,67 een zorgvuldige beoordeling van klachten,68 de verplichting om te goeder trouw samen te werken met buitengerechtelijke geschillenbeslechtingsorganen,69 en een zorgvuldige besluitvorming over schorsing wegens misbruik.70 Omdat het volgens de regering niet aan de ACM is om een oordeel te geven over de vraag of in een individueel geval de DSA is overtreden is in het wetsvoorstel geregeld dat een bestuurlijke boete of last onder dwangsom alleen kan worden opgelegd als de collectieve belangen van de afnemers van een dienst of andere betrokkenen in het geding zijn.71

De Afdeling merkt op dat de stelling in de toelichting dat toezicht en handhaving van zorgvuldigheidsverplichtingen zich niet moeten richten op individuele besluiten van aanbieders geen grondslag vindt in de DSA. Deze lijkt zelfs van het tegendeel uit te gaan, nu afnemers van diensten van aanbieders het recht hebben om bij de ACM een klacht in te dienen tegen een aanbieder wegens een vermeende inbreuk op de verordening. Klachten kunnen een overzicht geven van problemen met de naleving van de DSA door een bepaalde aanbieder van tussenhandeldiensten.72 Een individuele klacht zal waarschijnlijk in veel gevallen echter betrekking hebben op een individueel besluit over bijvoorbeeld inhoudsmoderatie. In dit verband wijst de Afdeling erop dat een zodanige klacht ook een verzoek om handhavend op te treden kan behelzen of een ander verzoek om een besluit over een vermeende inbreuk op de DSA te nemen. De ACM moet dan over het betreffende individuele geval beslissen.

Ook de voorgestelde beperking dat een bestuurlijke boete of last onder dwangsom alleen kan worden opgelegd als de collectieve belangen van de afnemers van een dienst of andere betrokkene in het geding zijn,73 vindt geen grondslag in de DSA. Overweging 117 zegt dat lidstaten ervoor moeten zorgen dat het opleggen van geldboetes of dwangsommen wegens een inbreuk op de DSA «in elk afzonderlijk geval doeltreffend, evenredig en ontradend is» door overeenkomstig de DSA nationale regels en procedures vast te stellen. Daarbij dient rekening te worden gehouden met alle criteria betreffende de algemene voorwaarden die gelden voor het opleggen van boetes of dwangsommen.74

De Afdeling begrijpt die overweging vooral zo dat, indien wordt overgegaan tot het treffen van bestuurlijke handhavingsmaatregelen, bij de keuze van de sanctie en de hoogte daarvan met die criteria rekening gehouden moet worden. Daaruit blijkt niet dat toezicht en handhaving zich niet (ook) moeten richten op individuele besluiten van aanbieders over inhoudsmoderatie.

Uit het voorgaande volgt dat, anders dan waarvan in de toelichting wordt uitgegaan, het voor de ACM op grond van de in de DSA aan de toezichthouder toegekende bevoegdheden in bepaalde gevallen noodzakelijk kan zijn om te oordelen over individuele besluiten van aanbieders. De Afdeling adviseert daarom de bevoegdheid tot het opleggen van een bestuurlijke boete of een last onder dwangsom niet te beperken tot overtredingen die schade aan de collectieve belangen toebrengen. De Afdeling adviseert in verband hiermee in het voorgestelde artikelen 2.3, tweede lid, en 2.4, tweede lid, de zinsnede «de collectieve belangen van» te schrappen en de toelichting op dit punt aan te passen.

In de artikelen 2.3, tweede lid, en 2.4, tweede lid, van het ontwerpwetsvoorstel, was bepaald dat de ACM enkel bevoegd zou zijn om bij een overtreding van bepaalde zorgvuldigheidsverplichtingen een bestuurlijke boete of een last onder dwangsom op te leggen als sprake was van «schade aan de collectieve belangen van de afnemers van de dienst of van andere betrokkenen». Het ging om de verplichtingen voor aanbieders om, kort gezegd, zorgvuldig, evenredig, objectief en tijdig te handelen bij beoordelingen van meldingen van vermeende illegale online inhoud en bij besluiten over inhoudsmoderatie. Het kabinet heeft besloten deze bepalingen niet langer op te nemen in het wetsvoorstel, omdat de Afdeling in dit onderdeel van haar advies terecht opmerkt dat deze beperking van de sanctiebevoegdheden van de ACM niet één-op-één te herleiden is tot de tekst van de verordening.

Het kabinet merkt tegelijkertijd op dat een eventuele inbreuk op deze zeer ruim en open geformuleerde verplichtingen het meest doeltreffend kan worden beoordeeld door de instantie (de rechter, het interne klachtenafhandelingssysteem van de aanbieder, het buitengerechtelijke geschillenbeslechtingsorgaan) die ook bevoegd is om de inhoud van het inhoudsmoderatiebesluit zelf te beoordelen en om een doeltreffende remedie op te leggen (zoals bevelen dat de inhoud wordt verwijderd of juist wordt teruggeplaatst, of het vaststellen van een schadevergoeding). Het is aan de ACM om te bepalen welk beleid zij voert met betrekking tot het toezicht op en de handhaving van deze verplichtingen, in het licht van de eisen uit de verordening en algemeen geldende principes als het legaliteitsbeginsel. In de visie van het kabinet is het niet de bedoeling van de verordening dat de toezichthouder gaat fungeren als extra beroepsinstantie voor klachten over individuele inhoudsmoderatiebesluiten. Het toezicht moet zich, daarentegen, richten op de vraag of een aanbieder alle op grond van de verordening vereiste procedures ingesteld heeft en in de praktijk ook toepast. De memorie van toelichting is aangevuld met een nieuwe paragraaf 5.3.1.3, waarin wordt ingegaan op de reikwijdte van het toezicht op individuele inhoudsmoderatiebesluiten.

4. Publieke verantwoording

a. Ministeriële verantwoordelijkheid en beleidsregels

Mede gelet op de soms verstrekkende bevoegdheden van de toezichthouder op grond van de DSA en de democratisch-rechtsstatelijke afwegingen die in dat kader aan de orde zijn (zie hiervoor punt 3), is de vraag van belang op welke wijze daarover publieke verantwoording wordt afgelegd. Voor zover de toezichthouder besluiten neemt in een individueel geval staat beroep op de rechter open. In andere gevallen echter is dat niet of niet zonder meer het geval. Voor zover het gaat om algemene activiteiten of beleidsbeslissingen rijst de vraag in hoeverre nog ruimte bestaat voor ministeriële verantwoordelijkheid en, in verband daarmee, de uitoefening van parlementaire controle.

Voor het antwoord op die vraag is van belang dat nationale toezichthouders op grond van de DSA moeten voldoen aan onafhankelijkheidsvereisten zodat zij hun taken op onpartijdige, transparante en tijdige wijze kunnen uitvoeren. Zij moeten over alle nodige middelen kunnen beschikken om hun taken te kunnen vervullen. Ook moeten zij voldoende autonomie hebben ten aanzien van het beheer van hun begroting binnen de grenzen van de begroting. Met betrekking tot hun onafhankelijkheid moeten zij vrij blijven van directe en indirecte externe invloed, en mogen zij geen instructies vragen of aanvaarden van enige andere overheidsinstantie of particulier.75

Met het oog op deze onafhankelijkheidsvereisten wordt in de toelichting gewezen op de (al bestaande) vormgeving van de autoriteiten als zelfstandig bestuursorgaan (zbo). Dat is ook van toepassing op de ACM en diens al bestaande bevoegdheden. In het wetsvoorstel wordt met betrekking tot de uitoefening van de nieuwe bevoegdheden van de ACM op grond van de DSA een aantal bevoegdheden buiten werking gesteld, die de Minister op grond van de Kaderwet zbo’s normaliter heeft.

Dit betreft in het bijzonder de bevoegdheid tot het stellen van beleidsregels.76 De Minister kan gelet op de in het wetsvoorstel geregelde beperkingen alleen nog noodzakelijke voorzieningen treffen wegens taakverwaarlozing door de ACM of de AP ten aanzien van het gevoerde financiële beheer en de administratieve organisatie.77 Verder worden de leden van de ACM door de verantwoordelijke Minister benoemd en valt de uitvoering van de taken door de ACM «in algemene zin onder de verantwoordelijkheid van de Minister van EZK», aldus de toelichting.78 Wat die algemene verantwoordelijkheid concreet betekent – en waar het parlement de Minister op grond daarvan wel en niet voor verantwoordelijk kan houden – blijkt uit de toelichting niet.

De Afdeling merkt op dat ministeriële verantwoordelijkheid een wezenlijk, grondwettelijk verankerd element is van onze parlementaire democratie en daarmee van groot belang is voor de werking van ons stelsel.79 Dit impliceert dat (verdere) beperking van de ministeriële verantwoordelijkheid door afwijking van de Kaderwet zbo’s slechts bij uitzondering zou moeten worden toegestaan en alleen na zorgvuldige motivering.80 Dat geldt in het bijzonder voor de ministeriële bevoegdheid om beleidsregels te stellen omdat daarbij beleidsmatige afwegingen aan de orde zijn die sterk raken aan het politieke domein. De Afdeling merkt op dat het in het wetsvoorstel categorisch buitenwerking stellen van deze bevoegdheid in de toelichting niet wordt gemotiveerd.

Met het oog op de noodzakelijke nadere motivering merkt de Afdeling op dat de DSA geen beletsel vormt voor evenredige verantwoordingsverplichtingen met betrekking tot de algemene activiteiten van de digitaledienstencoördinator en andere bevoegde autoriteiten, zoals financiële uitgaven en verslaglegging aan het parlement, voor zover die vereisten geen afbreuk doen aan de wezenlijke doelstellingen van de DSA.81 De opsomming van «algemene activiteiten» als bedoeld in de DSA is niet limitatief. Daarmee lijkt de DSA een ministeriële bevoegdheid om beleidsregels te stellen zoals voorzien in de Kaderwet zbo’s, niet bij voorbaat uit te sluiten.82

De Afdeling merkt ten slotte op dat waar door afwijking van de Kaderwet zbo’s verantwoordingsmechanismen buiten werking wordt gesteld, uit de toelichting niet duidelijk wordt hoe publieke verantwoording over de uitoefening van bevoegdheden, anders dan de rechtsbescherming in individuele gevallen via de bestuursrechter, dan wel gerealiseerd wordt. Dit klemt temeer nu, gelet op de voorgaande punten, de ACM – en tot op zekere hoogte de AP – bij het toezicht op de DSA soms constitutioneel ingrijpende en maatschappelijk zeer relevante afwegingen zal moeten maken. Publieke verantwoording in deze context moet ruim worden opgevat in die zin dat zij betrekking heeft op zowel de vraag in hoeverre de ACM voorafgaande aan de besluitvorming zal consulteren en wie daarbij zullen worden betrokken als de vraag op welke wijze achteraf verantwoording wordt afgelegd.

De Afdeling adviseert in de toelichting in het licht van het voorgaande de voorgestelde afwijking van de Kaderwet zbo’s dragend te motiveren. Zij adviseert verder om, voor zover de ministeriële verantwoordelijkheid in het kader van de uitvoering van de DSA niet geldt, in concrete zin duidelijkheid te schappen over hoe dan wel publieke verantwoording in bovenbedoelde zin door de ACM wordt afgelegd.

De Afdeling merkt terecht op dat op grond van aanwijzing 2.46 van de Aanwijzingen voor de regelgeving afwijkingen van de Kaderwet zbo’s dragend gemotiveerd dienen te worden in de memorie van toelichting. Daarom is de motivering van de afwijkingen in het wetsvoorstel in paragraaf 5.2.2.1 van de memorie van toelichting nader toegelicht. Artikel 50, tweede lid, van de verordening schrijft voor dat de bevoegde autoriteiten volledig onafhankelijk handelen, vrij blijven van elke directe dan wel indirecte externe invloed en geen instructies vragen of aanvaarden van enige andere overheidsinstantie of particulier. Gelet op deze verwoording passen naar het oordeel van het kabinet geen ministeriële bevoegdheden uit de Kaderwet zbo’s die de Minister de mogelijkheid geven om inhoudelijke invloed uit te oefenen op de uitvoering van de taken op grond van de verordening. Het gaat dan om de bevoegdheid om beleidsregels op te stellen, besluiten te vernietigen of in te grijpen bij ernstige inhoudelijke taakverwaarlozing. Voor de goede orde wordt opgemerkt dat de Minister wel bevoegd blijft in te grijpen bij ernstige taakverwaarlozing ten aanzien van het gevoerde financiële beheer en de administratieve organisatie.

Tevens sluit deze afwijking van de Kaderwet zbo’s aan bij andere uitvoeringswetten ter uitvoering van verordeningen waarin vergelijkbare onafhankelijkheidsvereisten worden gesteld aan de bevoegde autoriteiten (zie artikel 13 van de Uitvoeringswet Algemene verordening gegevensbescherming en artikel 5 van de Uitvoeringswet verordening terroristische online-inhoud). Bovendien wordt door de afwijking (de schijn) van politieke inmenging in grondrechtelijke afwegingen, zoals bijvoorbeeld met betrekking tot de vrijheid van meningsuiting, voorkomen.

Daarnaast is op verzoek van de Afdeling in paragrafen 5.2.2.1 en 5.2.2.2 van de memorie van toelichting nader verduidelijkt hoe door de bevoegde autoriteiten publieke verantwoording wordt afgelegd. Dit vindt onder andere plaats door het vaststellen van jaarverslagen op grond van nationale regelgeving en de verordening. Daarnaast zijn de bevoegde autoriteiten verplicht om desgevraagd inlichtingen te verstrekken aan de verantwoordelijke Minister.

b. Transparantie en verantwoording van de digitaledienstencoördinator

De vraag naar de wijze van publieke verantwoording is ook van belang als het gaat om de uitoefening van de bevoegdheden op grond van de DSA op Europees niveau. De ACM heeft, als digitaledienstencoördinator, zitting in de Europese digitaledienstenraad onder voorzitterschap van de Commissie. De digitaledienstenraad adviseert de nationale digitaledienstencoördinatoren en de Commissie en staat hen ook bij in het toezicht op de zeer grote onlineplatforms en onlinezoekmachines.83 In het bijzonder is de taak van de digitaledienstenraad «het ondersteunen en bevorderen van de ontwikkeling en uitvoering van Europese normen, richtsnoeren, verslagen, sjablonen en gedragscodes».84

De Afdeling heeft bij soortgelijke gelaagde toezichtsstructuren eerder opgemerkt dat ook hier transparantie en publieke verantwoording van belang is.85 De regering verwijst, in reactie daarop, naar Commissiebesluit C(2016)3301 dat voorziet in regels voor deskundigengroepen.86 De Afdeling merkt op dat het Commissiebesluit weliswaar ingaat op transparantievereisten,87 maar dat niet duidelijk is of en hoe door deskundigengroepen, adviesgroepen en soortgelijke entiteiten, in casu de digitaledienstenraad, ook verantwoording wordt afgelegd.

Voor verantwoording is transparantie weliswaar noodzakelijk maar op zichzelf niet voldoende. Verantwoording afleggen omvat meer dan dat en heeft in die zin een bredere functie: het beoogt een voor burgers, en de samenleving als geheel, zichtbaar aanspreekpunt te bieden.88 Dit klemt in het kader van dit wetsvoorstel te meer nu de ACM als digitaledienstencoördinator vanuit Nederland deelneemt aan de digitaledienstenraad.

De Afdeling wijst erop dat de digitaledienstenraad ruime bevoegdheden heeft, die in voorkomende gevallen verstrekkende gevolgen kunnen hebben voor het functioneren van de democratische rechtsstaat en voor de bescherming van grondrechten van burgers in de lidstaten.89 De bevoegdheden van de digitaledienstenraad zien met het oog daarop ook op het ontwikkelen van soft law als richtsnoeren en gedragscodes.

Aangenomen moet worden dat dit in de praktijk van substantieel belang zal zijn voor uitleg en toepassing van de DSA – niet alleen voor de ACM maar ook voor andere bestuursorganen, rechters, bedrijven en burgers in Nederland. De DSA bepaalt op dit punt dat de uitoefening van deze taak «in nauwe samenwerking met de relevante belanghebbenden» zal plaatsvinden.90 In algemene zin bepaalt de DSA dat de digitaledienstenraad «in voorkomend geval» belanghebbenden «kan» raadplegen en de resultaten daarvan openbaar maakt.91 Wat deze verplichtingen precies betekenen en in welke gevallen en op welke wijze zij worden toegepast blijkt daaruit niet. Ook de toelichting gaat op het bovenstaande niet in.

De Afdeling adviseert in de toelichting nader op het voorgaande in te gaan.

De Afdeling stelt terecht vast dat de digitaldienstenraad ruime bevoegdheden heeft die mede neerkomen op het ondersteunen en bevorderen van de ontwikkeling van soft law, zoals richtsnoeren en gedragscodes. In de praktijk zullen dergelijke instrumenten naar verwachting van substantieel belang zijn voor de uitleg en toepassing van de verordening. Eveneens merkt de Afdeling terecht op dat de initiërende rol van de digitaledienstenraad bij de inzet van het crisisresponsmechanisme van invloed kan zijn op het functioneren van de democratische rechtstaat en voor de bescherming van grondrechten van burgers in lidstaten.

Het kabinet onderschrijft het standpunt van de Afdeling dat het van belang is dat de digitaledienstenraad transparant is over de inzet van haar bevoegdheden en publieke verantwoording aflegt over de uitvoering van haar taken en de inzet van haar bevoegdheden. In dit verband zij echter wel opgemerkt dat de structuur, taken en bevoegdheden van de digitaledienstenraad rechtstreeks voortvloeien uit de verordening. Voor de lidstaten is het daarom niet mogelijk om aanvullende eisen te stellen aan de werkwijze van de digitaledienstenraad of om te voorzien in mechanismen voor publieke verantwoording.

Dat wil niet zeggen dat de digitaledienstenraad geen publieke verantwoording af zal leggen. De verordening zelf bevat enkele relevante bepalingen in dit verband. Relevant is ook de bestaande praktijk met vergelijkbare samenwerkingsverbanden van toezichthouders, zoals Berec (het samenwerkingsverband van telecomtoezichthouders) of het Europees comité voor gegevensbescherming. Dit is nader uitgewerkt in paragraaf 5.4.5.1 van de memorie van toelichting.

Zo schept artikel 62, zesde lid, van de verordening de bevoegdheid voor de digitaledienstenraad om belanghebbenden te raadplegen. In lijn hiermee bepaalt artikel 63, eerste lid, onderdeel e, van de verordening dat het ondersteunen en bevorderen van de ontwikkelingen en uitvoering van Europese normen, richtsnoeren, verslagen en gedragscodes «in nauwe samenwerking met de relevante belanghebbenden» zal plaatsvinden. De Afdeling stelt terecht vast dat de verordening de digitaledienstenraad niet verplicht om voorafgaand aan de vaststelling van soft law instrumenten relevante belanghebbenden te raadplegen, bijvoorbeeld via een openbare consultatie. Het betreft een discretionaire bevoegdheid van de digitaledienstenraad. Het ligt echter wel in de lijn der verwachting dat de digitaledienstenraad dit, in navolging van vergelijkbare Europese samenwerkingsverbanden van toezichthouders, in de praktijk zal doen. In dit kader is in paragraaf 5.4.5.1 van de memorie van toelichting de parallel getrokken met het werk van het Europees comité voor gegevensbescherming (EDPB) en Berec, twee vergelijkbare samenwerkingsverbanden waar de AP respectievelijk de ACM zitting in hebben. Aangenomen wordt dat de nationale toezichthouders mede daardoor de goede praktijken van het Europees comité voor gegevensbescherming en Berec zullen inbrengen in de digitaledienstenraad. Zo verrichten Berec en de EDPB, hoewel daartoe niet verplicht, doorgaans openbare consultaties van werkplannen, adviezen, aanbevelingen en richtsnoeren voordat die worden vastgesteld. Net als deze organen zal ook de digitaledienstenraad een reglement van orde moeten vaststellen, waarin de werkwijze verder wordt uitgewerkt.

5. Overige wijzigingen

De memorie van toelichting is na ommekomst van de Raad van State geactualiseerd. Voorts zijn het wetsvoorstel en de memorie van toelichting op de volgende punten gewijzigd:

• – In artikel 2.1 van het wetsvoorstel is verduidelijkt dat de ACM, naast als digitaledienstencoördinator, ook wordt aangewezen als bevoegde autoriteit, bedoeld in artikel 49, eerste lid, van de verordening.

• – De nummering in de wijzigingsopdracht voor de wijziging van het Wetboek van Burgerlijke Rechtsvordering (artikel 5.6 van het wetsvoorstel) is aangepast vanwege de samenloop tussen dit wetsvoorstel en artikel 5, eerste lid, van het voorstel voor de Uitvoeringswet digitalemarktenverordening.92 Tevens is om die reden een samenloopbepaling ingevoegd (nieuw artikel 6.1 van het wetsvoorstel).

• – Gelet op de belangrijke rol die grondrechten spelen bij inhoudsmoderatie door aanbieders van tussenhandeldiensten, is paragraaf 7.1 «Verhouding tot grondrechten» aangevuld met een nadere duiding van de jurisprudentie van het Hof van Justitie van de Europese Unie over het vinden van een «juist evenwicht» tussen botsende grondrechten. Ook is nader toegelicht welke rol de grondrechten spelen in de verschillende bepalingen van de verordening.

• – Paragraaf 7.2 «Overige EU-rechtshandelingen die bepaalde aspecten van de aanbieding van tussenhandeldiensten regelen» van de memorie van toelichting is aangevuld met de paragrafen 7.2.11 en 7.2.12 over het voorstel voor de verordening mediavrijheid93 en het voorstel voor de verordening transparantie van politieke reclame.94 Over beide voorstellen is recent politiek akkoord bereikt op EU-niveau.

De Afdeling advisering van de Raad van State heeft een aantal opmerkingen bij het voorstel en adviseert de regering om daarmee rekening te houden voordat zij het voorstel bij de Tweede Kamer der Staten-Generaal indient.

Ik moge U, mede namens de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, verzoeken het hierbij gevoegde voorstel van wet en de memorie van toelichting aan de Tweede Kamer der Staten-Generaal te zenden.

De Minister van Economische Zaken en Klimaat, M.A.M. Adriaansens