Belangrijkste conclusies
- Online content moderatie is complex maar heeft veel invloed op de digitale leefwereld van jongeren. Juist jongeren moeten daarom beschermd worden door passend beleid.
- Omdat jongeren veel tijd spenderen in de digitale wereld is mediawijsheid cruciaal. De rol van onderwijs is cruciaal en kan veel betekenen voor de veiligheid van jongeren.
- Diverse perspectieven tijdens het gesprek, inclusief aandacht voor media wijsheid, privacykwesties rond nieuwe technologieën zoals Digital Identity Wallets en AI-generatie van content, onderstrepen de behoefte aan voortdurende discussie over de vormgeving van digitale platforms en hun impact op jongeren. Het samenbrengen van verschillende partijen is hierin erg belangrijk.
Samenvatting
Eleonora van Hoorn van het ministerie van Justitie en Veiligheid opende de sessie met een presentatie over online content moderatie, waarbij de uitdagingen van het omgaan met onrechtmatige content en de evoluerende context van online platforms werden benadrukt.
Ze begon met het definiëren van online content moderatie en wees op het bestaan van de Digital Services Act (DSA) met strikte regels voor moderatie. Ondanks deze regels blijft het een uitdagende taak. Een voorbeeld van ongewenste content werd aangehaald in de zaal, waarop Meta aanvulde dat dit voorbeeld verboden is op hun platforms en dat challenges met betrekking tot fysiek welzijn niet toegestaan zijn ondanks dat het niet altijd duidelijk om strafbare content gaat. Eleonora wees erop dat het voorbeeld illustreert hoe de context voortdurend verandert en dat er een aanzienlijk grijs gebied bestaat in de moderatie van online content.
Daarna werd het vraagstuk van verantwoordelijkheid werd aangesneden; momenteel is het ingewikkeld om vast te stellen wie deze verantwoordelijkheid precies draagt. Eleonora benadrukte ook dat nieuwe ontwikkelingen voornamelijk bij jongeren terecht komen, doordat zij experimenteren met de platforms. Hierdoor worden jongeren vaak slachtoffer, wat aantoont dat er actie ondernomen moet worden om hen te beschermen.
De presentatie bracht de complexiteit van online content moderatie aan het licht, waarbij de focus lag op de veranderende context, het grijze gebied van moderatie en de noodzaak om de verantwoordelijkheden te identificeren, vooral met betrekking tot de bescherming van jongeren.
Discussie
In de paneldiscussie gingen Eleonora van Hoorn van het ministerie van Justitie en Veiligheid, Edo Haveman van Meta en Maud Pols van Microsoft onder leiding van moderator Tijs Koops van ECP met elkaar in gesprek over de online veiligheid en vrijheid van jongeren. Edo en Maud benadrukten beiden de noodzaak om een veilig platform te bieden, vooral voor jongeren.
Edo Haveman (Meta): “Je wil iedereen een veilig platform bieden en voor specifieke groepen moet je extra stappen zetten om die veiligheid te waarborgen, zo ook voor jongeren”
Verschillende politieke partijen noemden online anonimiteit als mogelijke oplossing voor online problematiek. Aan de hand van de stelling ‘online anonimiteit op digitale platforms zou verboden moeten worden’ ging het panel in discussie over dit thema. Hoewel de zaal verdeeld was over deze stelling, was het panel het vrijwel volledig eens over het belang van anonimiteit. Maud benadrukte hierin het belang van media wijsheid en onderwijs. Ook een van de studenten benadrukte het belang van online anonimiteit voor bijvoorbeeld mensen die worden gestalkt.
Maud Pols (Microsoft): “Het gaat om de balans tussen bescherming en vrijheid en hierin is de key mediawijsheid.”
Daarna kwamen ook andere studenten aan het woord om hun vragen te stellen aan het panel. Zo werd privacy besproken met een vraag over Digital Identity Wallets en de mogelijke gevolgen hiervan. Ook gegenereerde content met behulp van AI en de bijbehorende risico’s werden besproken, waarbij Maud en Eleonora de noodzaak benadrukten om nieuwe technologie grondig te testen voorafgaand aan de implementatie.
Eleonora van Hoorn (ministerie van Justitie en Veiligheid): “Nieuwe technologieën zouden wellicht in de toekomst net als nieuwe medicijnen meer getest moeten worden voor ze op de markt komen om zo ook jongeren beter te beschermen.”
Het was een genuanceerd gesprek waarin de complexiteit van online veiligheid en vrijheid goed naar voren kwam. Jongeren besteden veel tijd op digitale platforms. Daarom moet de inrichting van de platforms en het effect op jongeren zeker onderwerp van gesprek blijven in de toekomst.