| Ingediend | 20 april 2023 |
|---|---|
| Beantwoord | 13 juni 2023 (na 54 dagen) |
| Indieners | Chris Stoffer (SGP), Nico Drost (CU) |
| Beantwoord door | Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
| Onderwerpen | bestuur organisatie en beleid |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2023Z07267.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20222023-2886.html |
Ja, hiermee ben ik bekend.
Ik vind het zeer onwenselijk wanneer chatbots zich voordoen als echte mensen. Ik vind het belangrijk dat zeker kwetsbare groepen zoals kinderen voor wie het nog moeilijker is om dat onderscheid te maken hiertegen worden beschermd.
In de AI-verordening (die nog in onderhandeling is) staat dat aanbieders ervoor moeten zorgen dat AI-systemen die voor interactie met natuurlijke personen zijn bedoeld (zoals chatbots), zodanig worden ontworpen en ontwikkeld dat natuurlijke personen worden geïnformeerd dat zij met een AI-systeem te maken hebben, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.
Ja, daarvan ben ik op de hoogte. Snap Inc., het bedrijf achter Snapchat, heeft in een gesprek met de Staatssecretaris van VWS en mij inmiddels aangegeven dat de functionaliteit is aangepast waardoor de chatbot zich niet langer voordoet als een echt persoon en expliciet wordt vermeld dat het gaat om een chatbot. Desalniettemin vind ik het kwalijk dat er bij de introductie van deze nieuwe functie in Snapchat onvoldoende rekening is gehouden met de impact die dit kan hebben op kinderen. Ik wil bedrijven zoals Snap Inc. dan ook oproepen de Code Kinderrechten Online toe te passen, waarvan het eerste beginsel luidt: «zet het belang van het kind voorop bij het ontwerp». Ook met het oog op de aankomende AI-verordening vind ik het belangrijk dat ontwerpers die gebruik maken van een chatbot duidelijk en transparant zijn richting de eindgebruiker dat er sprake is van een AI-systeem.
Op basis van de beschikbare informatie is het niet te zeggen of «My AI» inspeelt op de behoeften en problemen van jongeren en daardoor eenzijdige input verschaft. Het is hoe dan ook belangrijk dat aanbieders van online diensten, wanneer er gebruik wordt gemaakt van een bot, hierover transparantie bieden. Dit wordt zoals in vraag 2 toegelicht geregeld in de AI-verordening.
Bovendien dienen aanbieders van zogenaamde zeer grote online platforms, waaronder Snapchat, TikTok, Facebook en Instagram, op grond van de Digital Services Act (DSA), die op 25 augustus 2023 op hen van toepassing wordt, jaarlijks de zogenaamde systeemrisico’s die voortvloeien uit het ontwerp of uit de werking van hun diensten in kaart te brengen en maatregelen te nemen om deze risico’s te verminderen. Tot deze systeemrisico’s behoren nadrukkelijk ook eventuele werkelijke of voorzienbare negatieve effecten op de uitoefening van grondrechten, waaronder de rechten van kinderen, en negatieve effecten met betrekking tot minderjarigen. Dit betekent dat deze partijen ook maatregelen zullen moeten nemen om kinderen te beschermen tegen chatbots wanneer deze (potentieel) een negatief effect hebben op de rechten of het welzijn van kinderen.
Ik deel de mening dat het onwenselijk is als een chatbot zich tegenover kinderen voordoet als echt persoon. Het is belangrijk dat kinderen zich realiseren of zij tegen een echt persoon praten of tegen een bot. Het is daarom goed dat deze functie in Snapchat is aangepast, zodat My AI zich niet meer voordoet als een echt persoon. Maar zoals ik hierboven ook al schreef, had Snap Inc. al bij de introductie van deze functie duidelijk moeten maken dat het om een AI-functionaliteit gaat en niet om een echt persoon. Het is kwalijk dat dat niet is gebeurd.
Het geldende juridische kader voor de verwerking van persoonsgegevens wordt hoofdzakelijk vormgegeven door de Algemene Verordening Gegevensbescherming (AVG) en de bijbehorende Uitvoeringswet (UAVG). Dit kader stelt verschillende voorwaarden aan het verwerken van persoonsgegevens. Zo is het verwerken van persoonsgegevens alleen toegestaan op basis van de verwerkingsgrondslagen, of redenen, die de AVG daarvoor biedt. Een van de verwerkingsgrondslagen uit de AVG is de «toestemming» van een betrokkene voor het verwerken van de persoonsgegevens voor een specifiek doel. Zo kan een betrokkene toestemming geven voor het verwerken van persoonsgegevens, bijvoorbeeld ter verbetering van de dienst die hij afneemt, of voor reclamedoeleinden. Als de betrokkene jonger is dan 16 jaar oud, dient de toestemming te worden gegeven door zijn of haar wettelijke vertegenwoordiger.
Bij de verwerking van deze persoonsgegevens dient ook aan andere voorwaarden uit de AVG te worden voldaan, waaronder beginselen van behoorlijke gegevensverwerking, zoals het beginsel van dataminimalisatie. Dit beginsel bepaalt dat niet meer gegevens mogen worden verwerkt dan strikt noodzakelijk voor het doel waarvoor de verwerking plaatsvindt.
De vraag of My AI aan de AVG voldoet, kan ik als bewindspersoon echter niet beoordelen. Dit is ook niet aan mij. De Autoriteit Persoonsgegevens (AP) is aangewezen als onafhankelijke toezichthouder om toe te zien op de naleving van de AVG en waar nodig handhavend op te treden.
Bedrijven mogen functies als een chatbot bij hun online dienst beschikbaar stellen. Daarbij dient evenwel altijd te worden voldaan aan toepasselijke regelgeving, waaronder de AVG. Als persoonsgegevens worden verwerkt op basis van toestemming, dient deze bij kinderen onder de 16 jaar bijvoorbeeld steeds te zijn gegeven door een wettelijke vertegenwoordiger. Bij dergelijke functies dienen de kinderrechten te allen tijde te worden geborgd en dienen de belangen van het kind in ogenschouw te worden gehouden. Commerciële belangen wegen uiteraard nooit zwaarder dan de rechten van kinderen. Het is belangrijk dat technologiebedrijven zoals Snap Inc. bij het ontwerp van apps en games de Code Kinderrechten Online toepassen, waarvan een belangrijk beginsel luidt: «voorkom te allen tijde economische exploitatie van kinderen».
Ik heb met Snap Inc., het bedrijf achter Snapchat, gesproken. Toen bleek dat Snap Inc. deze functie inmiddels heeft aangepast waardoor de chatbot zich niet langer voordoet als echt persoon en wordt vermeld dat het een chatbot betreft. Ik vind het belangrijk dat aanbieders van online diensten transparant zijn over het gebruik van bots, zeker wanneer het kinderen betreft.
De opkomst van AI is een gegeven en heeft impact op de maatschappij en het onderwijs. AI kan het onderwijs verbeteren door het leren motiverender en meer op maat te maken en docenten te ondersteunen. Tegelijkertijd zijn er risico’s en kan de inzet van AI bijvoorbeeld door biases leiden tot grotere verschillen tussen groepen leerlingen en studenten waardoor groepen leerlingen en studenten onterecht benadeeld kunnen worden.2 De ontwikkeling van AI zal dan ook een aanpassing vragen van docenten en leerlingen en studenten om goed met intelligente technologieën in het onderwijs om te gaan.
De ontwikkeling van AI vraagt van zowel docenten als leerlingen om op een doordachte manier met deze technologie in het onderwijs om te leren gaan. Daarbij is het belangrijk dat scholieren, leraren en de brede maatschappij in gesprek blijven over het gebruik van AI in de klas. Van docenten vraagt dit ook meer op het gebied van didactische en digitale vaardigheden. OCW draagt hieraan bij door het inrichten van een expertisepunt voor digitale geletterdheid in 2023, waar leraren, schoolleiders en bestuurders terecht kunnen voor hulp en informatie over digitale geletterdheid. Van onderwijsinstellingen vraagt dit om te doordenken hoe zij vanuit hun visie op goed onderwijs dit binnen hun instellingen willen vormgeven.
Ja, daarmee ben ik het eens. Het kabinet onderneemt daarom op dat gebied acties. Het kabinet gaat in de beantwoording van de vragen van Kamerlid Leijten hierop nader in.3
Er bestaan al verschillende algemene regelgevende kaders, zoals de AVG, de herziene richtlijn audiovisuele mediadiensten (AVMSD) en binnenkort de DSA en de AI-verordening. Daarbij wordt zoveel mogelijk gekozen voor technologie neutrale bepalingen zodat de wetgeving toekomstbestendig is. Wel is het zo dat technologische ontwikkelingen elkaar snel opvolgen. Hierdoor kan het voorkomen dat de kaders van wet- en regelgeving niet meer geheel passend zijn bij de nieuwste ontwikkelingen. Ik acht het echter wel van het grootste belang dat publieke waarden juist ook bij nieuwe ontwikkelingen goed worden geborgd. Daarom zet ik, zoals aangegeven in de Werkagenda Waardengedreven digitalisering, in op het opstellen van techniek neutrale voorwaarden en impact assessments voor de borging van publieke waarden bij de toepassing van nieuwe digitale technologieën. Een voorbeeld hiervan is het bestaande Impact Assessment Mensenrechten en Algoritmen (IAMA)4 en het Kinderrechten Impact Assessment (KIA) dat ik momenteel ontwikkel en in het najaar gereed zal zijn. Ook stel ik ten aanzien van nieuwe technologieën beleidsagenda’s op. In zo’n agenda staan concrete acties om kansen van een nieuwe technologie te benutten en risico’s te adresseren. In het najaar zal ik een beleidsagenda immersieve technologie lanceren.
In het geval van AI vind ik het van belang dat de AI-verordening niet te lang op zich laat wachten. Daarin wordt onder meer geregeld dat hoog risico AI-systemen pas op de Europese markt gebracht mogen worden als deze goedgekeurd zijn op het gebied van veiligheid en mensenrechten. Daarmee zorgen we ervoor dat die afweging vooraf gemaakt wordt.
Zoals ik hierboven reeds opmerkte bij het antwoord op vraag 6, is het aan de onafhankelijke toezichthouder (de Autoriteit Persoonsgegevens) om te beoordelen of OpenAI met ChatGPT aan de AVG voldoet, en indien er sprake blijkt te zijn van onrechtmatig handelen handhavend op te treden. Ik kan als bewindspersoon niet beoordelen of My AI aan de AVG voldoet, en of, en zo ja hoe, in dat verband handhavend dient te worden opgetreden.
De Italiaanse toezichthouder heeft overigens inmiddels het verbod opgeven nadat OpenAI heeft toegezegd enkele wijzigingen te zullen doorvoeren die de zorgen van de Italiaanse toezichthouder met betrekking tot gegevensbescherming moeten wegnemen. OpenAI heeft tot 30 april de tijd gehad om deze aanpassingen door te voeren.5 Sindsdien is er geen nieuw verbod op ChatGTP uitgevaardigd door de Italiaanse toezichthouder.
Het kabinet gaat nader in op dit onderwerp in de beantwoording van de vragen van Van Raan.6
Net als de vragenstellers vind ik het enorm belangrijk dat kinderen en jongvolwassenen goed worden beschermd. Er bestaan daarvoor al veel regels. De AVG en de DSA kennen bijvoorbeeld specifieke regels voor de bescherming van deze groepen. In de EU wordt momenteel gewerkt aan de AI-verordening, zoals ook benoemd in vraag 2 en 11. Deze stelt eisen aan bepaalde AI-systemen, zoals een transparantieverplichting voor chatbots. In het kader van de kabinetsvisie op nieuwe AI-producten, waaronder generatieve AI, zal het kabinet bestuderen of er aanvullende wet- en regelgeving nodig is, en daarbij ook aandacht besteden aan de bescherming van kwetsbare groepen zoals kinderen en jongvolwassenen.