Best practices AI-toepassing in het overheidsdomein

10/07/2018

Verslag bijeenkomst 2 juli 2018

Het ministerie van BZK en ECP organiseerden op 2 juli een bijeenkomst over AI-toepassing in het overheidsdomein. De directeur Informatiesamenleving, Steven Luitjens, deed de aftrap. Hij zette de toon door te bepleiten dat de eisen die burgers stellen het uitgangspunt moeten zijn voor de overheid om AI te beoordelen. En verder te kijken dan efficiency of verblind zijn door de gouden bergen die de term “kunstmatige intelligentie” belooft: de term gekunstelde intelligentie is soms toepasselijker.

Vervolgens werd door verschillende sprekers ingegaan op voorbeelden: kansen die toepassing van AI biedt voor de samenleving en de ethische aspecten daarvan.

Casuistiek

De eerste casus, ingebracht door TNO, adresseert de vraag hoe mensen verantwoordelijkheid kunnen nemen voor autonome systemen die sneller en wellicht beter beslissen dan mensen. Daarvoor is ook techniek nodig en die is nog sterk in ontwikkeling. Toch is deze techniek cruciaal om AI-systemen verantwoord in te kunnen zetten in organisaties.

De RDW neemt een principieel standpunt in rond de toelating van de autonome auto tot het wegverkeer: de auto moet zich net zo gedragen als een gewone weggebruiker en dat wordt getoetst door een menselijke rijexaminator. Hoe de fabrikanten bereiken dat de rij-examinator de autonome auto goed genoeg vindt, is aan hen. Dit is een omstreden keus van de RDW: want op dit moment gedraagt de autonome auto zich alleen even goed dan de menselijke chauffeur in vrij voorspelbare omstandigheden.

Downhe.re is een startup die met AI democratie wil versterken: nu komt AI vooral in de media omdat het democratie ondermijnt met nepnieuws en gerichte manipulatie. Downhe.re gaat er van uit dat mensen nodig zijn om de heterogeniteit van opvattingen, onderliggende waarden en de verschillende argumenten en feiten te herkennen. Maar AI kan hen helpen bij dat werk: zeker als er duizenden mensen meedoen.

De recherche laat zien hoe rechercheurs en ontwikkelaars nauw samenwerken om met hulp van AI de cold cases de vinden, die met nieuwe opsporingsmethoden alsnog opgelost kunnen worden. Binnenkort is de eerste test: een coldcase, geselecteerd met deze nieuwe methoden, komt opnieuw voor de rechter. Het is voor het team spannend hoe de rechters en advocaten de manier waarop zij AI nu toepassen ontvangen.

Het Ministerie van BZK heeft onderzoek gedaan naar kansrijke toepassingen van AI: naast het vervangen van repetitief werk, kan AI een rol spelen bij het ontsluiten van kennis. Bijvoorbeeld rond complexe regelgeving, maar ook om vragen van burgers te ordenen en te relateren aan antwoorden. Maar de overheid moet dan wel over voldoende mensen beschikken die de techniek en het kennisdomein voldoende kennen om bias te herkennen en te voorkomen.

Paneldiscussie

In de paneldiscussie stond de vraag centraal wat de rol van de overheid is om toepassing van AI in goede banen te leiden. Focus kwam in het debat te liggen op de ethische aspecten van AI-toepassing. Samenleving en bestuur/politiek moeten nog leren/wennen het gesprek over ethische kaders zo te voeren dat de bouwers van AI toepassingen dat als kaders kunnen gebruiken. En het bestuur en politiek moet leren/eisen dat zij de ethische kaders vaststellen voor AI.

Nieuwe thema’s zullen actueel worden: bijvoorbeeld wanneer bij een incident een systeem verantwoordelijk is. Krijgen autonome systemen dan voldoende tijd en kans om zich te bewijzen? Hoe gaan we om met transparantie, verantwoording, vergelding en genoegdoening? Een belangrijke rol van de overheid is de vragen en het debat rond deze onderwerpen te faciliteren en mogelijk te maken.

 

 

 





Terug naar actueel