Conferentie Waardengedreven Dialogen - Algoritmen in het openbaar bestuur

Op maandag 9 december vond de conferentie ‘Waardengedreven Dialogen – Algoritmen in het openbaar bestuur’ plaats in de Koninklijke Schouwburg in Den Haag onder leiding van moderator Hannah Boute (ECP). De conferentie, die in het teken stond van 3 sessies Begeleidingsethiek rondom het thema Algoritmen in het openbaar bestuur, werd georganiseerd door ECP/ Platform voor de InformatieSamenleving in samenwerking met de Aanpak Begeleidingsethiek (ECP) en het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK).

Digitalisering & Algoritmen in het openbaar bestuur: Elja Daae (Ministerie van BZK​​)

De conferentie begon met een korte introductie door moderator Hannah Boute (ECP), gevolgd door een toelichting op het onderwerp van Elja Daae, Coördinator AI (Artificial Intelligence) en Algoritmes bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK). Zij benadrukte het belang van de Aanpak Begeleidingsethiek voor BZK op het gebied van digitaliseren. Veel vraagstukken binnen het ministerie zijn politiek gedreven, wat het voeren van een brede dialoog essentieel maakt, maar in de praktijk vaak uitdagend is. Bij digitalisering en technologie, zoals vraagstukken rondom AI en algoritmes voor de overheid, kom je voortdurend ethische dilemma’s tegen. Juist om deze reden is de samenwerking met ECP op het gebied van ethiek van groot belang. Het is cruciaal om de ethische dialoog structureel vorm te geven.

Beleid & Algoritmen in het openbaar bestuur: Mildo van Staden (Ministerie van BZK​)

Mildo van Staden, senior beleidsmedewerker bij de directie Digitale Samenleving van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK), gaf vervolgens een toelichting op het beleid rondom AI-algoritmes. De afgelopen jaren heeft BZK veel aandacht besteed aan de rechtmatige inzet van AI en algoritmes. Er wordt gewerkt aan het beter toepasbaar maken van wetten, regels en maatregelen om tijdige toetsing en compliance te bevorderen. Zo is er inmiddels een uitgebreid Algoritmekader beschikbaar dat voortdurend wordt doorontwikkeld. Daarnaast is het Algoritmeregister in het leven geroepen om meer inzicht te bieden in de werking van impactvolle algoritmes. Een ander belangrijk instrument is de Impact Assessment Mensenrechten Algoritmes (IAMA), dat raakvlakken heeft met ethiek. Dit instrument stimuleert een bredere discussie over waardenafwegingen, waarbij zowel regelgeving als ethische vraagstukken worden meegenomen. Ook vanuit de politiek is er steeds meer vraag naar het toetsen van beleid en regelgeving aan ethische kaders. BZK onderstreept het belang van het betrekken van de samenleving en gebruikers, naast bedrijven en overheden, bij het vormgeven van beleid en de ontwikkeling van AI. De methode van Begeleidingsethiek sluit hier goed op aan dankzij de pragmatische benadering, de focus op verschillende perspectieven en de technologie-specifieke aanpak.

De Aanpak Begeleidingsethiek – Toelichting methode: Daniël Tijink (ECP)

Daniël Tijink, programmamanager ethiek bij ECP, ging kort in op de sessies Begeleidingsethiek die vanuit de samenwerking met BZK reeds zijn gehouden of nog op de planning staan. Vervolgens belichtte hij kort de Aanpak Begeleidingsethiek.

De Aanpak Begeleidingsethiek (ABE) organiseert in samenwerking met het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) een reeks dialoogsessies over vier belangrijke thema’s: immersieve technologie, algoritmes bij de overheid, neurotechnologie en generatieve AI in overheidsprocessen. De sessies over het thema immersieve technologie, inclusief de bijbehorende werkconferentie, zijn eerder dit jaar succesvol afgerond. Ook de drie sessies rondom algoritmes in het openbaar bestuur zijn inmiddels afgerond, en de uitkomsten van dit thema worden tijdens deze conferentie besproken. De sessies van de overige twee thema’s zijn momenteel in volle gang, en de bijbehorende werkconferenties zullen binnenkort op de agenda verschijnen.

In de toelichting op de Aanpak Begeleidingsethiek gaf Daniël aan dat wij onze waarden vormen door onze ervaring, kennis, gevoel, opvoeding en cultuur. Iedereen neemt regelmatig bewust of onbewust, kleine of grote ethische beslissingen. Maar niet alleen onze waarden bepalen uiteindelijk onze beslissing, ook de manier waarop we betrokken zijn bij een onderwerp speelt mee. De moderne techniekfilosofie gaat uit van verwevenheid tussen mens en technologie, in plaats van technologie als de ander te zien. Wij als mens vormen technologie en technologie vormt ons. We zijn onlosmakelijk met elkaar verbonden. Bij de inzet van een nieuwe technologie is het belangrijk om, naast waarden, altijd mee te nemen waar en in welke context een techniek wordt toegepast. De gewenste inzet van een technologie is in iedere praktijk weer net anders. De Aanpak Begeleidingsethiek is ontwikkeld om juist vanuit die unieke context met de mensen die erbij betrokken zijn (burgers, professionals, beleidsmakers en technici) ethisch handen en voeten te geven aan een technologie. De Aanpak Begeleidingsethiek brengt mensen vanuit verschillende perspectieven tegelijk bij elkaar rondom de (mogelijke) inzet van een technologie in een concrete context.

De Aanpak Begeleidingsethiek bevat een aantal fasen. De Aanpak start met de introductie (fase 0) van de doelstelling en toelichting op het gedachtengoed van de Aanpak. Daarna volgt een toelichting (fase 1) op de technologie en de context. Vervolgens vindt de echte dialoog (fase 2) plaats waarin deelnemers van de sessie actoren, effecten en de daarbij horende waarden benoemen. Uiteindelijk gaan de deelnemers in groepen aan de slag om handelingsopties vast te stellen (fase 3) vanuit de onderwerpen technologie, omgeving en mens.

Begeleidingsethiek is inmiddels meer dan 150 keer toegepast en vervult vijf belangrijke functies. De aanpak kenmerkt zich door een participatieve en constructieve werkwijze, waarbij innovatie vaak een rol speelt. Daarnaast levert het waardevolle input voor beleidsvorming, bevordert het een brede dialoog en biedt het een alternatieve vorm van toezicht.

Doe-dialoog: Begeleidingsethiek in de praktijk​

Na de toelichting op de methode werden de deelnemers van de conferentie door Hannah Boute meegenomen in een doe-dialoog over één van de casussen. Zij kregen een video te zien van de casus ‘Inzet van algoritmen in het sociale domein rond werkgelegenheid bij de gemeente Huizen’. Na de video lichtte Marleen van Leengoed, moderator van de sessie, kort de applicatie Zicht op Werk van de gemeente Huizen toe. Door het beantwoorden van een aantal vragen over deze casus via Mentimeter konden de deelnemers een stukje van een sessie begeleidingsethiek zelf ervaren. Deelnemers aan de dialoog bespraken vragen zoals: Wie zijn bij deze casus betrokken? Wat zijn de mogelijke negatieve gevolgen? En welke positieve effecten kunnen we verwachten? De inbreng van de deelnemers leverde mooie nieuwe inzichten op en gaf de deelnemers klein kijkje in de keuken van een sessie Begeleidingsethiek.

De casussen

Centraal bij de casussen van dit thema stonden algoritmen in het openbaar bestuur. Dit onderwerp is verkend binnen de contexten van de gemeente Huizen, de Koninklijke Marechaussee en de SVB (Sociale Verzekeringsbank) in samenwerking met de Belastingdienst. De casussen worden hieronder kort toegelicht. Op de website van begeleidingsethiek zijn de verslagen van de gemeente Huizen en de SVB/Belastingdienst terug te vinden.

Casus: Informatie Gestuurd Optreden (IGO) aan de Grens bij Koninklijke Marechaussee (KMAR)

​CDe casus werd toegelicht door casushouder en co-moderator Hilje de Boer (InnoValor Advies/KMAR) en door moderator van de sessie Daniël Tijink (ECP). Het project IGO aan de grens ontwerpt het toekomstbeeld en de werkwijze waarop de KMAR na implementatie van Europese verordeningen uit het Smart Borders pakket, wil gaan werken. Tijdens de sessie Begeleidingsethiek over IGO aan de grens werden, op basis van de gezamenlijk benoemde mogelijke effecten, de waarden betrouwbaarheid, effectiviteit en rechtvaardigheid als belangrijkste geïdentificeerd. Vanuit deze waarden zijn handelingsopties geformuleerd binnen de drie thema’s: mens, techniek en omgeving. Een van de handelingsopties die naar voren kwam is de behoefte aan het stellen van duidelijke ethische en juridische kaders aan de techniek.

Casus: Inzet van algoritmen in het sociale domein rond werkgelegenheid bij de gemeente Huizen

De casus werd toegelicht door casushouder Koen Buikema (Gemeente Huizen) onder leiding van de moderator van de sessie Marleen van Leengoed (Zelfstandig adviseur). Zicht op Werk is een applicatie voor inwoners met afstand tot de arbeidsmarkt om een passende werkplek (met behoud van uitkering) of dagbesteding in de samenleving te vinden. Inwoners met een uitkering met afstand tot de arbeidsmarkt vinden het moeilijk om een goede plek te vinden die past bij hun vaardigheden en persoonlijkheid. Tegelijkertijd hebben werkgevers die maatschappelijk meerwaarde willen bieden aan de samenleving moeite om de geschikte participanten te vinden. De applicatie Zicht op Werk biedt een platform om participanten door middel van algoritmen duurzamer te kunnen plaatsen en beter aan te laten sluiten op hetgeen wat de werkgevers kunnen bieden en waar de werknemers behoefte aan hebben.

Tijdens het benoemen van de effecten van de Zicht op Werk applicatie door de deelnemers van de ethiek sessie zijn de meest genoemde waarden inzicht, persoonlijke ontwikkeling van de bewoner en inclusie geïnventariseerd. Vanuit deze waarden werden handelingsopties opgesteld binnen de drie onderwerpen mens, techniek en omgeving. Belangrijkste les die de gemeente Huizen meeneemt vanuit deze sessie is dat open en transparant communiceren noodzakelijk is en bijdraagt aan het vertrouwen. Lees hier het hele verslag van de sessie.

Het programma Future Borders van de KMar heeft twee doelstellingen: (1) het implementeren van de Europese verordeningen uit het zogeheten ‘Smart Borders’-pakket en (2) het realiseren van een vernieuwd grensconcept. Het vernieuwde grensconcept van de tweede doelstelling wordt vormgegeven door het project “Informatiegestuurd Optreden aan de grens” (IGO aan de grens). Het project IGO aan de Grens ontwerpt en realiseert het toekomstbeeld en de werkwijze waarop de KMar na de implementatie van deze verordeningen wil gaan werken. Het huidige grensproces is rule-based: Er wordt onderscheid gemaakt tussen EU-burgers of gelijkgestelden en niet-EU-reizigers op basis van nationaliteit. Sommige niet-EU-reizigers zijn verplicht een visum aan te vragen, andere nationaliteiten zijn daarvan vrijgesteld. Momenteel kunnen alleen EU-onderdanen door middel van biometrie door de Self Service Paspoort Controle. Informatie wordt aan de grens door de grenswacht uitgevraagd bij de reiziger. Voor de toekomst zou meer vooraf informatie kunnen worden gebruikt onder andere op basis van large scale informatiesystemen vanuit de EU.

Casus: Bevorderen van het gebruik van de AIO-regeling ​(Aanvullende Inkomensvoorziening Ouderen) met ​Privacy Enhancing Technologies (PET) bij de SVB

De casus werd toegelicht door casushouder Martin Jonker (Belastingdienst) en door moderator Daniël Tijink (ECP). Martin gaf aan dat de Belastingdienst bewust vanuit het oogpunt van innovatie kijkt naar een aantal nieuwe technologieën om hun dienstverlening te kunnen verbeteren waaronder Privacy Enhancing Technologies (PET). PET-technologie maakt gezamenlijk data-analyses tussen organisaties mogelijk, en doet dat op een privacy-vriendelijke manier.

De overheid biedt inkomensondersteunende regelingen aan om de stijgende armoede tegen te gaan, en hiermee bestaanszekerheid te borgen. Hiervoor is het van belang dat het niet-gebruik van inkomensondersteunende regelingen wordt tegengegaan. De SVB (Sociale Verzekeringsbank) heeft een succesvolle pilot met TNO en UWV uitgevoerd om te kijken of met behulp van PET technologie potentiële AIO-klanten (Aanvullende Inkomensvoorziening Ouderen) konden worden opgespoord. De AIO is een aanvulling op het inkomen voor ouderen die de AOW-leeftijd hebben bereikt, maar geen of geen volledige AOW hebben. De AIO vult het inkomen aan tot het bijstandsniveau. Om verschillende redenen vragen de gerechtigden deze aanvulling echter niet altijd aan. De huidige situatie is dat er geen (actieve) gegevensuitwisseling plaatsvindt tussen instanties om potentiële AIO-gerechtigden te selecteren en gericht te benaderen. Na de eerste pilot heeft de SVB de Belastingdienst benaderd om mee te doen aan een vervolg pilot om de groep van potentieel gerechtigden voor AIO nog nauwkeuriger te kunnen bepalen. Hiervoor zijn gegevens over het inkomen en vermogen vanuit de Belastingdienst nodig.

Deze sessie Begeleidingsethiek ging over de inzet van PET-technologie voor het terugdringen van niet-gebruikt van de AIO-regeling vanuit verschillende perspectieven. Als belangrijkste waarden vanuit de diverse groep deelnemers werden bestaanszekerheid, vertrouwen en effectiviteit en efficiëntie benoemd. Na het fileteren van de belangrijkste waarden werden verschillende handelingsopties aan de waarden toegekend. Lees hier het hele verslag van de sessie.

De resultaten​

Daniël Tijink (ECP) nam de deelnemers van de conferentie vervolgens mee in de geaggregeerde resultaten van de drie sessies van het thema algoritmen in het openbaar bestuur. De betrokkenen van de sessies waren in alle gevallen zeer divers toch is er verschil te zien in het type betrokkenen afhankelijk van de omgeving waarin de casus zich afspeelt. Zo vindt de casus van de IGO aan de grens zich echt af in een internationaal speelveld, terwijl de sessie over het gebruik van PET bij het terugdringen van niet-gebruikt van de AIO-regeling in een keten van een aantal partijen plaatsvindt. Als de waarden van de verschillende sessies met elkaar worden vergeleken dan komen duidelijk in alle drie de sessies de waarden effectiviteit en autonomie naar boven. En bij twee (AIO en KMAR) van de drie sessies werd ook nog de waarde veiligheid en legitimiteit benoemd. Ook privacy wordt altijd genoemd maar lijkt soms toch minder van belang te worden geacht dan vooraf gedacht in vergelijking met andere waarden. Naast de waarden werden ook de gezamenlijke resultaten van de handelingsopties besproken.

Tafelgesprek en dialoog met het publiek​

Als afsluiting van de middag vond er nog tafelgesprek plaats met tafelgasten vanuit diverse perspectieven onder leiding van moderator Hannah Boute. Aan tafel zaten Daan Joling (gemeente Huizen) vanuit het perspectief professional​, Gerald Munters (Belastingdienst) vanuit het perspectief innovatie,​ Hennie Duijst (i-Interim Rijk) vanuit het perspectief techniek, Mildo van Staden (BZK) vanuit het perspectief beleid​ en Edwin Borst (ECP). Zij deelden hun ervaringen over de diverse sessies vanuit hun verschillende invalshoeken. Hieruit bleek nogmaals dat betrokkenheid van een diverse groep deelnemers met verschillende achtergronden van grote meerwaarde is voor de dialoog.