AI-experts: werk aan de winkel voor toezichthoudende instanties
Automatische en zelflerende algoritmen rukken steeds verder op in de samenleving. De toepassing ervan gaat nog wel eens mis, getuige nieuwsberichten en politieke discussie over autonome overheidsbesluiten die door het gebruik van eenzijdige data tot discriminerende keuzes leiden. Vooral toezichthouders liggen onder vuur. Compleet vergeten wordt dat het gebruik van algoritmes kansen biedt voor het werk van toezichthouders. Een groep experts publiceert vandaag onder de vlag van ECP | Platform voor de InformatieSamenleving een essay ‘Toezicht met algoritmen’. Daarin is een praktijkanalyse opgenomen die toezichthouders helpt artificial intelligence (AI) verantwoord in te bedden in hun beroepspraktijk en daarbij nauwlettend de vinger aan de pols te houden.
De Nederlandse AI Coalitie – een samenwerkingsverband tussen overheid, bedrijfsleven, maatschappelijke organisaties, wetenschap en onderwijs – komt binnenkort met een actieplan AI. Deze coalitie ziet namelijk kansen voor de samenleving en voor de Nederlandse bedrijven. AI biedt dan ook oplossingen voor allerlei maatschappelijke en bedrijfsmatige vraagstukken, zoals op het gebied van zorg, fraudebestrijding en industriële processen. “In de samenleving signaleren we echter een onderstroom van wantrouwen, naar aanleiding van missers met de toepassing van deze nieuwe technologie”, zegt Daniël Frijters, MT-lid en programma – en teammanager bij ECP – een publiek-privaat platform voor de informatiesamenleving. “Dat bemoeilijkt de acceptatie en implementatie. Daarom is er werk aan de winkel voor iedere organisatie die AI toepast of wil toepassen.” In de discussie rondom instanties die toezicht houden met artificial intelligence, lijkt volgens hem vergeten te worden dat slimme algoritmen wel degelijk kansen bieden voor bijvoorbeeld effectieve fraudebestrijding of het tegengaan van witwassen. Volgens de AI-experts moeten toezichthouders aan de slag. Zo moeten zij hun organisatie en de AI-technologie op elkaar aanpassen, in plaats van als twee losse onderdelen te zien. Ook moeten zij transparant zijn over het gebruik van AI en continu de vinger aan de pols houden of processen wel lopen zoals ze zouden moeten lopen.
Toezichtwerk verandert
De experts stellen in het essay dat de discussie vooral moet gaan over de mogelijkheden en effectiviteit van het werken met AI, en niet gelijk over extra bevoegdheden voor de toezichthouders. Ook moeten de instanties beter rekening houden met processen die onbewust veranderen door het gebruik van algoritmen. Verder is het delen van ervaringen en geleerde lessen nodig, zodat toezichthouders gezamenlijk meer kennis van zaken krijgen. Want dat is hard nodig, aldus de experts. Verder stellen zij dat toezichthoudende instanties meer verantwoordelijkheid kunnen nemen bij ontoereikende wet- en regelgeving of andere beleidskaders dan nu vaak het geval is. Als voorbeeld gebruikt de AI-expertgroep de ‘compliance’ benadering van de Belastingdienst. Frijters: “Toezichthouders kunnen dit ook toepassen in hun beroepspraktijk. Zij gaan dan het gesprek aan met bedrijven en ontdekken samen waar de ethische en juridische grenzen liggen en hoe wet- en regelgeving kan worden toegepast op nieuwe technologie.”
Aan de hand van drie praktijkcasussen over witwassen, verkeer en rechtszekerheid voor burgers beschrijven de experts dat er werk aan de winkel is voor toezichthouders, en dat ze daarbij nauwlettend de vinger aan de pols moeten houden.
Impact Assessment
Het vandaag gepubliceerde essay is geschreven door dezelfde expertgroep die eind 2018 het AI Impact Assessment heeft gepubliceerd, omdat zij toen al maatschappelijke en politieke onrust signaleerde en er een concreet handelingsperspectief aan wilde koppelen. Het impact assessment is speciaal ontwikkeld voor organisaties die hun verantwoordelijkheid willen nemen en AI verantwoord en transparant willen toepassen.
Haagse week van algoritme
In het kader van de Haagse week van het Algoritme neemt Saskia Bruines, wethouder kenniseconomie en innovatiebeleid, het essay in ontvangst. Tijdens deze week, van 24 september tot en met 5 oktober, bespreken inwoners, ondernemers, studenten en ambtenaren wat algoritmen zijn en wat de voor- en nadelen van algoritmen en artificial intelligence kunnen zijn. Specifiek is er aandacht voor transparantie en ethische en juridische afspraken rondom de toepassing en inzet van AI door de overheid. De gemeente organiseert de Haagse Week van het Algoritme om de kennis en het bewustzijn over het gebruik van algoritmes te vergroten bij inwoners, bedrijven en medewerkers. Het vergaren van nieuwe kennis over dit onderwerp is daarom van belang.