Over de sessie
Het afgelopen jaar zijn door ECP in samenwerking met het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) dialogen gevoerd met de Aanpak Begeleidingsethiek. De dialogen zijn gehouden omtrent actuele digitaliseringsthema’s in het kader van de Werkagenda Waardengedreven Digitaliseren van BZK. Deze thema’s betreffen sociale media monitoring in het openbaar bestuur, de inzet van digitale identificatie voor leeftijdsverificatie en de omgang met generatieve AI. Rondom ieder thema zijn meerdere dialogen gevoerd op verschillende plekken met afsluitend steeds een conferentie voor een bredere dialoog. In deze break-out sessie is nader ingegaan op de dialogen samen met de betrokkenen.
De Aanpak Begeleidingsethiek gaat uit van de wisselwerking tussen mens en technologie. Hoe begeleiden we technologie in de samenleving en hoe begeleiden we de samenleving bij het ethisch gebruik van technologie? De Aanpak Begeleidingsethiek vindt dat ethiek begint bij betrokkenen. In een sessie gaan betrokkenen daarom met elkaar in gesprek. Vanuit hun waarden ontstaan ideeën over het herinrichten van de technologie en organisatie.
Samenvatting
De break-outsessie werd geopend door Desiree Geerts (MT-lid directie digitale samenleving, Ministerie van Binnenlandse Zaken en Koninkrijksrelaties). Zij ging in op de dialogen in het kader van de Werkagenda Waardengedreven Digitaliseren. Wat is wenselijk en hoe nemen we dat mee in beleid? De Aanpak Begeleidingsethiek is daarin een belangrijk instrument voor BZK.
Sociale media monitoring
De toepassing van sociale media monitoring in het openbaar bestuur is verkend bij gemeente Breda, Veiligheidsregio Noord Oost Gelderland en bij gemeente Eindhoven. Claudia van Casteren, lid van de ethische commissie bij gemeente Eindhoven, lichtte toe dat de tool gebruikt wordt om inzage te krijgen in het effect van communicatiecampagnes en om het omgevingsbeeld te monitoren. Bij de dialoog waren, naast mensen vanuit beleid en de politie, ook twee burgers aanwezig. Dat leverde rijke inzichten en handelingsopties op. Van Casteren onderstreept het belang van burgers betrekken. De burgers die deelnamen aan de dialoog gaven na afloop aan dat de sessie hun vertrouwen in de overheid had vergroot. Edwin Borst, moderator van de Aanpak Begeleidingsethiek, vulde daarop aan dat bij de Veiligheidsregio als handelingsoptie werd genoemd om burgers mee te laten kijken in de meldkamer om de inzet van sociale mediamonitoring te demystificeren en transparantie te bevorderen.
e-ID en leeftijdsverificatie
Rondom het thema e-ID en leeftijdsverificatie hebben vier sessies plaatsgevonden; bij Gall&Gall, Nintendo, gemeente Amersfoort en TikTok. Alexander van den Wall-Bake SSI-lead bij TNO was bij meerdere sessies aanwezig. Wat hem opviel was dat de dialogen bijzonder open en leuk waren en dat de Aanpak Begeleidingsethiek waarden zichtbaar maakt en helpt om deze te vertalen naar handelingsopties om ze te borgen. Van den Wall-Bake merkte op dat een belangrijke handelingsoptie uit de dialogen is opgenomen in de voorbeeldwallet die is ontwikkeld door BZK, namelijk overvraging (van identiteitscomponenten) voorkomen.
Andere betrokkenen vanuit de sessies rondom dit thema zijn Harry en Joeri die als burgers aanwezig waren bij de dialoog over de uitgifte van het online rijbewijs bij de Gemeente Amersfoort. Zij zijn onderdeel van de externe ethische commissie van de gemeente. Zij gaven aan het nuttig te vinden met meerdere betrokkenen aan tafel te zitten, zoals het CBR en ICT ontwikkelaars. De grote verscheidenheid geeft een zo volledig mogelijk beeld van een casus maar, benadrukten ze, vanuit beleid is het van belang óók burgers mee te nemen die niet dicht bij een overheidsinstelling staan. Ze gaven aan zelf toch wat dichter bij de gemeente te staan omdat ze leden zijn van de ethische commissie. Een suggestie die zij daarvoor doen is op wijkniveau surveys uit te zetten.
Generatieve AI
Rondom generatieve AI zijn casussen verkend bij het Leids Universitair Medisch Centrum (LUMC), de politie en Hogeschool Windesheim. Bij het LUMC is gekeken naar de toepassing van een generatieve AI tool die arts-patiënt gesprekken kan samenvatten. André Krom, docent en onderzoeker bij het LUMC, ging nader in op het doel van de inzet van deze tool. Het achterliggende idee is een tijdsefficiëntieslag te maken en deze tijdswinst in te zetten voor betere zorg. Daar zijn dus twee waarden mee gemoeid: kwaliteit van zorg en efficiëntie. Tijdens de dialoog bij het LUMC kwam ook de waarde privacy ter sprake. Vanuit het ICT-perspectief werd tijdens de dialoog vraagtekens gezet bij het automatisch doorzetten van het gegenereerde transcript. Wat betekent dat voor de privacy van de patiënt? Een aanwezige patiënt kaartte aan dat juist wél te willen; belangrijke keuzes die besproken zijn zouden anders weggelaten worden. Bij het LUMC wordt al langer gewerkt met de Aanpak Begeleidingsethiek en het wordt steeds meer beleid om de aanpak in te zetten. Het eerdergenoemde voorbeeld illustreert de meerwaarde van een dialoog met verschillende perspectieven, aldus André Krom.
Rondom het thema generatieve AI is bij Hogeschool Windesheim ingezoomd op het gebruik van ChatGPT. Docent Wieger en student Yannick lichtten toe dat ChatGPT al veel wordt gebruikt door studenten. Yannick gebruikt het om toetsen interactief te leren en zijn productiviteit te verhogen. De snelle adoptie van ChatGPT stelt het onderwijs voor een uitdaging. Wat hebben studenten te leren als ze het via een chatbot kunnen opvragen? Samen met docenten, studenten, het Ministerie voor Onderwijs, Cultuur en Wetenschap, de examencommissie van Windesheim en BZK heeft men zich gebogen over de effecten van ChatGPT in het onderwijs. Ook examenfraude kwam aan bod. Een interessante conclusie daaromtrent was dat dat eigenlijk een klein probleem is. Ook Wikipedia en de introductie van smart phones wierpen deze vraag op. Een veel fundamentelere vraag is wat studenten nog wel moeten leren, en als ze iets moeten kunnen, hoe leren ze dat dan op een fatsoenlijke manier? Daarvoor is nieuw onderwijs nodig.
Conclusie
De kern van de aanpak begeleidingsethiek is dat het de effecten van een technologie zichtbaar maakt op een specifieke plek door iedereen die te maken heeft of geraakt wordt door een technologie te betrekken. De aanpak leidt tot handelingsopties specifiek voor die context. Dat is een waardevolle aanvulling op meer generalistische ethiek. Daarnaast gaven meerdere sessies rondom één thema in verschillende contexten inzicht in effecten en waarden die op meerdere plekken spelen en daarmee de mogelijkheid meer generieke conclusies te trekken. Zo is de input van de sessies rondom generatieve AI en de afsluitende conferentie daarover op 14 december a.s. input voor het visiedocument AI van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties.