| Ingediend | 31 augustus 2023 |
|---|---|
| Beantwoord | 16 november 2023 (na 77 dagen) |
| Indieners | Hind Dekker-Abdulaziz (D66), Sjoerd Sjoerdsma (D66), Hülya Kat (D66) |
| Beantwoord door | Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Franc Weerwind (minister zonder portefeuille justitie en veiligheid) (D66) |
| Onderwerpen | cultuur en recreatie media |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2023Z14475.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20232024-412.html |
Als ik de vraag zo mag interpreteren dat de vraagstellers zich zorgen maken dat het ontbreken van bronvermelding bij AI gegenereerde tekst kan zorgen voor de verspreiding van onder andere mis- en desinformatie, dan deel ik die zorg. De verspreiding van mis- en desinformatie kan verminderen door correcte bronvermelding, aangezien dit de lezer en factcheckers in staat stelt om de herkomst en betrouwbaarheid van informatie te kunnen controleren en beoordelen. Daarom vind ik het van belang dat AI-sites en andere generatieve artificiële intelligentie bronnen correct vermelden.
Het is een andere vraag of de ontwikkelaars van generatieve artificiële intelligentie op grond van het auteursrecht ook verplicht zijn om te melden met welke werken van letterkunde, wetenschap of kunst de generatieve artificiële intelligentie is getraind. Het antwoord op die vraag luidt ontkennend. Artikel 25a, derde lid, van de Auteurswet bevat een definitie van tekst- en datamining. Onder «tekst- en datamining» wordt verstaan een geautomatiseerde analysetechniek die gericht is op de ontleding van tekst en gegevens in digitale vorm om informatie te genereren, zoals, maar niet uitsluitend, patronen, trends en onderlinge verbanden. Die definitie, die op de EU-richtlijn auteursrecht in de digitale eengemaakte markt is gebaseerd, is zo ruim geformuleerd dat daaronder naar het zich laat aanzien ook het trainen van artificieel intelligente applicaties met teksten van nieuwsmedia kan ressorteren. Het geven van een authentieke interpretatie is echter niet aan mij, maar uiteindelijk aan het Hof van Justitie van de Europese Unie voorbehouden. Artikel 15o van de Auteurswet regelt in lijn met de voornoemde richtlijn dat het maken van een reproductie van een werk van letterkunde, wetenschap of kunst in het kader van tekst- en datamining onder twee cumulatieve voorwaarden geen inbreuk maakt op het auteursrecht. Een reproductie is dan dus toegestaan zonder voorafgaande toestemming van de maker of zijn rechtverkrijgenden. In de eerste plaats moet degene die de tekst- en datamining verricht rechtmatig toegang hebben tot het werk. In de tweede plaats moet het maken van zo’n reproductie ten behoeve van tekst- en datamining niet door de makers of zijn rechtverkrijgenden uitdrukkelijk op passende wijze zijn voorbehouden. Bronvermelding is dus geen voorwaarde voor het rechtmatig kunnen maken van een reproductie in het kader van tekst- en datamining.
Momenteel wordt in de Europese Unie onderhandeld over een Europese AI-verordening. Binnen de triloogonderhandelingen van de AI-verordening is onderwerp van discussie of en hoe bij door AI gegenereerd materiaal verantwoording moet worden afgelegd over met welke (auteursrechtelijk beschermde) bronnen de data is getraind. Het Europees Parlement heeft een verplichting voorgesteld om aan te geven of de AI-systemen zijn getraind met auteursrechtelijk beschermde werken. Het gaat om een eigenstandige verantwoordingsbepaling die de auteursrechtelijke uitzondering inzake tekst- en datamining nadrukkelijk onverlet laat. Het niet naleven van zo’n eigenstandige verantwoordingsbepaling zou, als die bepaling in de verordening zou worden opgenomen, een onrechtmatige daad kunnen opleveren.
Artikel 15o van de Auteurswet bevat een uitzondering op het auteursrecht voor tekst- en datamining. Die uitzondering kan door iedereen, dus ook door tech-bedrijven, worden ingeroepen, mits de twee voorwaarden worden nageleefd die aan de inroepbaarheid van de uitzondering worden gesteld. Zoals bij de beantwoording van vraag 1 is aangegeven, moet degene die zich op de beperking beroept in de eerste plaats op rechtmatige wijze toegang tot het auteursrechtelijk beschermde werk hebben verkregen. In de tweede plaats moet de rechthebbende het maken van een kopie van het werk ten behoeve van tekst- en datamining niet uitdrukkelijk op passende wijze hebben voorbehouden.
Van een andere kijk op de zaak of een verschil van inzicht tussen de Minister van Economische Zaken en Klimaat en mij is geen sprake. De Minister van Economische Zaken en Klimaat heeft opgemerkt dat het auteursrecht onverkort geldt met betrekking tot tekst- en datamining. Het auteursrecht kent de hoofdregel dat voor het maken van een reproductie van een werk van letterkunde, wetenschap en kunst in beginsel telkens voorafgaande toestemming van de maker of zijn rechtverkrijgenden is benodigd. De toestemming is «in beginsel» vereist, want er kan een uitzondering op het auteursrecht van toepassing zijn. Een voorbeeld van zo’n uitzondering is artikel 15o van de Auteurswet op grond waarvan het maken van een kopie van werk ten behoeve van tekst- en datamining onder bepaalde voorwaarden is toegestaan zonder voorafgaande toestemming van de rechthebbende. Als de bij de beantwoording van de eerste twee vragen geduide voorwaarden van artikel 15o van de Auteurswet niet worden gerespecteerd is er alsnog sprake van een inbreuk.
De vragenstellers merken terecht op dat alleen een beroep op artikel 15o van de Auteurswet kan worden gedaan als er rechtmatige toegang bestaat tot het werk van letterkunde, wetenschap of kunst dat wordt gereproduceerd in het kader van tekst- en datamining. Dat wil echter niet zeggen dat de bepaling alleen maar kan worden ingeroepen voor tekst- en datamining van werken die online vrij toegankelijk zijn. Ook het scrapen van artikelen die door nieuwsmedia achter een betaalmuur zijn geplaatst, kan onder artikel 15o van de Auteurswet vallen, mits degene die zich op die bepaling beroept rechtmatige toegang tot die artikelen heeft verkregen door daarvoor te betalen. Uiteraard moet ook de andere voorwaarde, dat het auteursrecht niet uitdrukkelijk is voorbehouden door de maker of zijn rechtverkrijgenden, worden nageleefd. Nieuwsmedia die niet willen dat hun achter een betaalmuur geplaatste artikelen worden gebruikt om artificieel intelligente applicaties te trainen, kunnen dus een daartoe strekkend uitdrukkelijk voorbehoud maken en de gebruikers van die artikelen daarop wijzen bij het verlenen van toegang. Daar wordt in toenemende mate gebruik van gemaakt. Het voorbehoud kan ook in de metadata van de nieuwsartikelen worden opgenomen.
Tegen het onbeperkt kunnen vergaren en verwerken van journalistieke content zijn rechthebbenden beschermd via artikel 15o van de Auteurswet, die makers en hun rechtverkrijgenden in staat stelt daaraan desgewenst paal en perk te stellen, in het bijzonder door hen in de gelegenheid te stellen het auteursrecht uitdrukkelijk op passende wijze voor te behouden. De EU-richtlijn auteursrecht in de digitale eengemaakte markt, waar artikel 15o Auteurswet op is gebaseerd, zal in 2026 worden geëvalueerd.
Vermeldenswaardig is voorts dat recent de Europese Digital Markets Act (DMA) van kracht is geworden die (oneigenlijk) gebruik van data door de allergrootste tech-bedrijven (zogeheten poortwachters) moet beteugelen en tot eerlijker marktgedrag van die bedrijven moet leiden. De DMA heeft als doel concurrentie op digitale markten te versterken en meer keuzevrijheid te bieden aan gebruikers. In september 2023 zijn de eerste poortwachters aangewezen. Deze poortwachters moeten binnen zes maanden aan de verboden en verplichtingen uit de DMA voldoen. De DMA bevat onder andere transparantievereisten en verplichtingen tot het hanteren van eerlijke en niet-discriminerende voorwaarden voor poortwachters.
Artikel 15o van de Auteurswet schrijft in het voetspoor van de EU-richtlijn auteursrecht in de digitale eengemaakte markt op dit specifieke punt voor dat het auteursrecht door de maker of zijn rechtverkrijgenden niet uitdrukkelijke en passende wijze is voorbehouden zoals door middel van machinaal leesbare middelen bij een online ter beschikking gesteld werk. Uit overweging 18 van de voornoemde richtlijn blijkt dat de rechthebbenden specifiek de rechten om reproducties te maken en opvragingen te verrichten ten behoeve van tekst- en datamining op passende wijze kunnen voorbehouden. Bij content die online voor het publiek beschikbaar is gesteld, wordt het voorbehouden van die rechten enkel als passend beschouwd indien hierbij machinaal leesbare middelen worden gebruikt, waaronder metagegevens en de voorwaarden van een website of een dienst. Het voorbehouden van rechten ten behoeve van tekst- en datamining mag dus geen betrekking hebben op andere vormen van gebruik. In andere gevallen dan online gebruik kan het passend zijn om rechten voor te behouden met behulp van andere middelen, zoals contractuele overeenkomsten of een eenzijdige verklaring. Rechthebbenden moeten maatregelen kunnen nemen om te waarborgen dat indien zij de rechten hebben voorbehouden, dit ook wordt nageleefd. Het geven van een authentieke interpretatie van de uitzondering en daarin opgenomen voorwaarden is uiteindelijk aan het Hof van Justitie van de Europese Unie voorbehouden.
De AI-verordening biedt naar verwachting handvatten om risico’s te voorkomen en te mitigeren die ontstaan door de inzet van AI-systemen die voor een breed scala aan toepassingen kan worden ingezet, de zogeheten General Purpose AI (GPAI), maar lijkt minder geschikt om alle risico’s op schendingen van auteursrecht te adresseren. Hierbij is het wel belangrijk om te vermelden dat de AI-verordening geen afbreuk doet aan het bestaande juridische kader voor het auteursrecht. De Raad en het Europees Parlement hebben voor GPAI een andere aanpak voorgesteld waarover nog overeenstemming moet worden gevonden in de triloog in Brussel. Hiervoor verwijs ik naar de geannoteerde agenda voor de informele Telecomraad.4 Het kabinet vindt het belangrijk dat er eisen worden gesteld GPAI die leiden tot een eerlijke AI-ontwikkelketen. Omdat veel AI wordt ontwikkeld op basis van GPAI, is het noodzakelijk dat andere ontwikkelaars de juiste informatie hebben als ze op een GPAI-systeem voortbouwen. Het kabinet steunt de eis aan aanbieders van GPAI om informatie te geven en ondersteuning te bieden aan aanbieders die voortbouwen op deze GPAI om er een «nieuw» systeem van te maken waardoor ze aan de eisen van de AI-verordening die voor hen gelden kunnen voldoen.
Zoals in het antwoord bij vraag 1 is aangegeven, is binnen de triloogonderhandelingen van de AI-verordening onderwerp van discussie of en hoe bij door AI gegenereerd materiaal verantwoording moet worden afgelegd over met welke (auteursrechtelijk beschermde) bronnen de data is getraind. Het Europees Parlement heeft een aantal aanvullende eisen voorgesteld, waaronder een verplichting om te markeren dat er gebruik is gemaakt van auteursrechtelijk beschermd materiaal bij het trainen van grote AI-modellen. Dit betreft geen verplichting tot bronverwijzing, maar een samenvatting van het gebruik van trainingsdata dat is beschermd onder het auteursrecht. Deze verplichting zou rechthebbenden beter in staat moeten stellen om te controleren of de voorwaarden worden nageleefd die aan de inroepbaarheid van artikel 15o van de Auteurswet zijn gesteld, aldus het Europees Parlement. Het kabinet zet op dit moment in op goede informatieverplichtingen voor alle GPAI zoals hierboven beschreven, wat naar verwachting al gevolgen zal hebben voor de wijze waarop grote AI-modellen worden getraind. Daarnaast heeft het kabinet conform de motie Dekker-Abdulaziz en Rajkowski,5 zoals ook naar verwezen in de geannoteerde agenda van de informele Telecomraad en het bijbehorend schriftelijk overleg, een mogelijke verdergaande verplichting die zich richt op door AI gegenereerde tekst- of beeldmateriaal waarbij gebruik is gemaakt van auteursrechtelijk materiaal in de trainingsdata bij het Spaanse voorzitterschap onder de aandacht gebracht. De discussie hierover loopt echter nog. De specifieke risico’s op schendingen van auteursrecht kunnen daarnaast worden meegenomen in de evaluatie van de EU-richtlijn auteursrecht in 2026, wanneer ook de AI-verordening enkele tijd van kracht is en de eerste gevolgen kunnen worden bezien.
Ja, ik heb kennis genomen van de gezamenlijke verklaring die de Australische privacytoezichthouder samen met elf andere gegevensbeschermings- en privacytoezichthouders uit niet-EU landen heeft uitgebracht om scraping op sociale media en andere publiekelijk toegankelijke websites te adresseren. Organisaties dienen volgens de Australische privacytoezichthouder redelijke stappen te nemen om persoonsgegevens te beschermen tegen misbruik, inmenging, verlies, ongeoorloofde toegang en verandering. Ook het beschermen tegen het ongeoorloofd verzamelen van deze gegevens via scraping, zou daaronder vallen.
Ik zie dat ook in EU-verband organisaties die persoonsgegevens verwerken deze gegevens op een passende manier moeten beschermen. Dit wordt geregeld in de Algemene Verordening Gegevensbescherming (AVG). De AVG telt zes basisprincipes waaraan de verwerking van persoonsgegevens dient te voldoen. De verwerking van persoonsgegevens dient rechtmatig, behoorlijk en transparant te zijn, terwijl ook dient te zijn voldaan aan de beginselen van doelbinding, minimale gegevensverwerking, juistheid, opslagbeperking en integriteit en vertrouwelijkheid (artikel 5 AVG). Het laatstgenoemde beginsel van integriteit en vertrouwelijkheid houdt onder andere in dat de nodige technische of organisatorische maatregelen dienen te worden getroffen om een passende beveiliging van persoonsgegevens borgen. Daarbij noemt dit artikel uitdrukkelijk dat persoonsgegevens moeten zijn beschermd tegen ongeoorloofde of onrechtmatige verwerking, opzettelijk verlies, vernietiging en beschadiging. In lijn daarmee vereist artikel 32 AVG dat, rekening houdend met de stand van de techniek, de uitvoeringskosten, en de aard de omvang en de context van verwerking en de risico’s, voor de rechten van de betrokkene een op het risico afgestemd beveiligingsniveau moet worden gewaarborgd. Zo kan het noodzakelijk zijn om een procedure in te stellen voor het op gezette tijdstippen testen, beoordelen en evalueren van de doeltreffendheid van de technische en organisatorische maatregelen ter beveiliging van de verwerking (artikel 32 AVG). Welke maatregelen in concrete gevallen zijn vereist – bijvoorbeeld om te beschermen tegen de gevolgen van scraping – vraagt om een risicoanalyse waarin met alle relevante omstandigheden wordt rekening gehouden. Of in concrete gevallen is voldaan aan het vereiste niveau van beveiliging uit de AVG is uiteindelijk aan de onafhankelijke toezichthouder om te beoordelen, in Nederland de Autoriteit Persoonsgegevens.
In het Commissievoorstel voor de AI-verordening en de raadspositie op die verordening worden gebruikers van deepfaketechnologie verplicht om bekend te maken dat het gegenereerde beeld-, audio- of videomateriaal kunstmatig gegenereerd of bewerkt is. Een dergelijke plicht draagt bij aan het zoveel mogelijk (vooraf) mitigeren van het gevaar dat gemanipuleerd materiaal ten onrechte voor authentiek wordt gehouden. Nederland heeft deze transparantieverplichting in de onderhandelingen in de Raad en in de trilogen met het Europees Parlement gesteund. Een mogelijke verdergaande verplichting die is gericht op door AI gegenereerde tekst-, audio- of beeldmateriaal waarbij gebruik is gemaakt van auteursrechtelijk materiaal in de trainingsdata, zal door het kabinet bij het Spaanse voorzitterschap onder de aandacht worden gebracht als het onderwerp op de agenda staat.
De ontwikkelingen van de (kabinets)visie op generatieve AI worden voortgezet. De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties zal deze begin 2024 met uw Kamer delen. De opgaven rondom (generatieve) AI zijn te groot om hier als kabinet geen stappen in te zetten tijdens deze demissionaire periode. Daarbij heeft uw Kamer in grote meerderheid gevraagd om deze visie via het steunen van de motie Dekker-Abdulaziz en Rajkowski.8 Daarom is het van belang om een integrale visie neer te leggen die recht doet aan de korte- en lange termijn impact en een handelingsperspectief formuleert waarmee deze technologie op verantwoorde wijze in de samenleving wordt ingebed.
Daarnaast stuurt de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties uw Kamer voor het einde van het jaar het voorlopige standpunt inzake de omgang met generatieve AI door Rijksorganisaties. Om tot dit standpunt te komen, is onder andere advies ingewonnen van de Landsadvocaat.
Hierbij deel ik u, mede namens de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, mede dat de schriftelijke vragen van de leden Sjoerdsma, Kat en Dekker-Abdulaziz (allen D66), van uw Kamer aan de Minister voor Rechtsbescherming over het bericht dat AI-sites teksten van nieuwsmedia gebruiken, zonder daar bronvermelding aan toe te voegen (ingezonden 31 augustus 2023) niet binnen de gebruikelijke termijn kunnen worden beantwoord, aangezien nog niet alle benodigde informatie is ontvangen. Ik streef ernaar de vragen zo spoedig mogelijk te beantwoorden.