28-05-2025
Op 28 mei organiseerden de Autoriteit Persoonsgegevens (AP) en ECP een bijeenkomst rond het door de AP gepubliceerde visiedocument Verantwoord vooruit: AP-visie op generatieve Ai. De bijeenkomst werd geopend door Arie van Bellen, directeur ECP | Platform voor de Informatiesamenleving, die als dagvoorzitter de deelnemers welkom heette en het belang benadrukte van het samenbrengen van verschillende perspectieven. Om die reden waren die middag partijen uit het bedrijfsleven, de wetenschap, overheid en belangenorganisaties samengebracht.
Tot de stoeprand
Monique Verdier, vicevoorzitter van de AP verzorgde de inleiding en gaf aan dat het doel van de middag is om het gesprek aan te gaan over gemeenschappelijke kaders voor verantwoorde inzet van generatieve AI. Alleen wijzen op het bestaan van risico’s is niet genoeg. We moeten gezamenlijk begrijpen wat de randvoorwaarden zijn, om binnen de kaders gebruik te kunnen maken van deze technologie. Als je aan een kind zegt dat het niet de straat op mag, dan beperk je de ruimte. Maar als je uitlegt dat het tot de stoeprand mag, dan gééf je ruimte.
Monique benadrukte de opmars van Generatieve AI: één op de drie Nederlanders maakt gebruik van Generatieve AI. Daarbij is het van belang om met wetgeving grondrechten als autonomie, non-discriminatie en privacy te beschermen. Vooroordelen en niet neutrale informatiebronnen kunnen bijvoorbeeld invloed hebben op democratische processen en individuele beoefening van deze rechten. Wet en regelgeving moeten hierbij niet innovatie belemmeren: maar juist eisen en richting geven aan verantwoorde ontwikkeling van generatieve AI. Daarbij moeten we wel dezelfde taal spreken. De AP wil de dialoog aangaan met ontwikkelaars en gebruikers over verantwoorde inzet van generatieve AI. De consultatie van deze visie nodigt uit om input te leveren zodat we gezamenlijk verantwoord vooruit kunnen.
Presentatie Verantwoord vooruit: AP-visie op generatieve Ai
Sven Stevenson, directeur van de directie Coördinatie Algoritmes (DCA) en Nanning de Jong, directeur van de Directie Systeemtoezicht, Beveiliging en Technologie, presenteerden twee documenten: Verantwoord vooruit: AP-visie op generatieve Ai en de AVG-randvoorwaarden. Deze documenten geven inzicht in hoe de toezichthouder naar generatieve AI kijkt, zowel in relatie tot de AVG als in bredere maatschappelijke context. De visie is toekomstgericht, erkent de complexiteit en onzekerheid van AI-ontwikkelingen, en benadrukt het belang van betrokkenheid van maatschappelijke actoren.
Reguleren om te innoveren
Sven benoemde dat AI-capaciteiten snel toenemen, met voortdurend nieuwe technologische toepassingen. Generatieve AI wordt steeds meer verweven met andere systemen, van AI-agents tot multimodale modellen, en roept vragen op over autonomie, semantiek en maatschappelijke impact.
Nanning vervolgde de presentatie met de nadruk op de positieve inzet van generatieve AI. Hij schetste vier scenario’s langs twee assen: de effectiviteit van EU-regulering en het gebruik van AI-oplossingen. Het streven is een balans waarin technologie effectief wordt ingezet zonder grondrechten te schaden. Daarbij zijn waardengedreven investeringen, AVG-conforme ontwikkeling, en een lerende samenleving essentieel. Op systeemniveau benadrukte Nanning het belang van Europese digitale autonomie, maatschappelijke weerbaarheid, democratische sturing en een goed functionerende markt met lage overstapdrempels. Op toepassingsniveau gaat het om transparantie in AI-gebruik, risicobeoordeling, en controleerbare doelstellingen. De AI Act zal hierin aanvullende kaders bieden. Tot slot werd gewezen op het belang van rechtmatigheid en gecontroleerd beheer van systemen en data als randvoorwaarden voor verantwoord gebruik van generatieve AI.
Sven en Nanning sloten af met een oproep aan de aanwezigen om actief bij te dragen aan de verdere ontwikkeling van deze visie. Dit kan tot 28 juni via genai-loket@autoriteitpersoonsgegevens.nl
Paneldiscussie
Na de presentaties volgde een paneldiscussie onder leiding van Arie, met bijdragen van panelleden Loes Rojer – Ai Governance Lead bij KPN, Irvette Tempelman – Deputy Director Privacy, Consumerpolicy & Regulation of Digitalisation bij VNO-NCW en Cor Veenman – Senior Scientist Data Science bij TNO. Elk van hen bracht vanuit een eigen achtergrond en praktijkervaring een waardevolle blik op de inzet en impact van generatieve AI.
Helderheid nodig om te handelen
Arie vroeg de panelleden naar wat de ontwikkeling van generatieve AI voor hun werkveld betekende. Loes benadrukte hoe generatieve AI de technologie heeft gedemocratiseerd: waar AI voorheen vooral het domein was van dataspecialisten, is het nu toegankelijk voor een veel breder publiek. Deze laagdrempeligheid leidt tot snelle adoptie, maar ook tot uitdagingen in controle en bewust gebruik. Loes pleitte voor het actief meenemen van mensen in deze ontwikkeling, met aandacht voor AI-geletterdheid. Irvette wees op de toenemende betrokkenheid van het bedrijfsleven, wetenschap en overheid, en benoemde dat kleinere organisaties nu ook kansen zien dankzij de toegankelijkheid van generatieve AI. Tegelijkertijd leidt de complexiteit van regelgeving soms tot handelingsverlegenheid. Cor gaf aan dat binnen TNO AI al lange tijd werd toegepast, maar dat de komst van generatieve AI en grote taalmodellen heeft geleid tot bredere bewustwording en nieuwe toepassingen. Tegelijkertijd stelde Cor kritische vragen over verantwoord gebruik, bijvoorbeeld bij het inzetten van generatieve AI in wetenschappelijke processen. Alle panelleden onderstreepten het belang van duidelijke kaders, transparantie en een zorgvuldige afweging van risico’s. Want zonder helderheid kan handelingsverlegenheid ontstaan.
Samen de straat over
Tijdens het vervolg van de paneldiscussie vroeg Arie wat de panelleden willen meegeven aan de AP als het gaat om het visiedocument. Irvette benadrukte het belang van “verantwoord vooruit” gaan met generatieve AI. Hoewel er brede waardering is voor het beschermen van grondrechten, moet er ook ruimte zijn om kansen te benutten. Zoals Monique in haar inleiding vertelde over tot de stoep gaan en niet op de straat, zo moeten we verder kijken: Hoe steken we samen die straat over? Irvette wees op het SER-advies over AI en werk, waarin zowel risico’s als kansen worden geanalyseerd. Loes onderstreepte de behoefte aan duidelijke guidance, zeker nu veel organisaties zich op het hoogtepunt van de zogeheten Gartner Hype Cycle bevinden. Praktische vragen over verantwoordelijkheid bij het gebruik van SaaS-oplossingen en open source-modellen blijven vaak onbeantwoord. Cor vulde aan dat het onderscheid tussen modellen, systemen en toepassingen in het visiedocument sterk is, maar dat aspecten als bias, transparantie en accountability – kernonderwerpen van de AI Act – nog meer aandacht verdienen.
Onvolledige data geeft een onvolledig beeld
Hoewel Greet Vink, hoofd research & development office van het Erasmus MC, verhinderd was om deel te nemen aan het panel, had zij waardevolle schriftelijke input geleverd. Greet benadrukte het belang van aandacht voor meer dan alleen privacy en gegevensbescherming. Zo wees ze op de risico’s van (onbewuste) biases in trainingsdata, met name op het gebied van vrouwengezondheid, waar data vaak onvolledig of afwezig is. Dit kan leiden tot AI-systemen die, ondanks AVG-compliance, toch discriminerende of onbetrouwbare uitkomsten genereren. Ook in het onderwijs en bij etnisch-culturele verschillen speelt dit. De vraag is hoe hiermee op een verantwoorde manier om te gaan, bijvoorbeeld in de gezondheidszorg.
Arie gaf de zaal de gelegenheid om te reageren en betrok Sven en Nanning om de vragen en opmerkingen te beantwoorden. Zo sprak men samen over deze visie in relatie tot een Europese visie, hierbij werd het belang van de AI regulatory sandboxes opgemerkt. Ook werd vanuit de praktijk mogelijke tegenstrijdigheid binnen de matrix met de twee assen en de vier scenario’s gesignaleerd. Een andere aanwezige noemde dat de vier scenario’s illustreren hoe Big Tech invloed kan uitoefenen binnen een gefragmenteerd regelgevingslandschap, waarbij samenwerking tussen diverse toezichthouders essentieel is om consistent toezicht te houden op sectoren met uiteenlopende dynamieken. Dit vraagt om intensieve afstemming, die wordt gezien als een gezamenlijke verantwoordelijkheid.
Na het plenaire gedeelte gingen de aanwezigen samen verder in gesprek tijdens een vijftal break-outsessies geleid door medewerkers van de AP. Hieronder leest u de verslagen van deze sessies.
Break-out sessie – Generative AI & GDPR
Break-out sessie – Future Scenario’s
Break-out sessie – Get started with AI literacy
Break-out sessie – Open Source
Break-out sessie – Technologische ontwikkelingen