Hoe voorkom je een nieuwe toeslagenaffaire, terwijl je wel algoritmes wilt gebruiken? Mogen mensen naar wie een monteur onderweg is, op een kaartje zien waar het busje rijdt? En zo’n zorgrobot voor ouderen ziet er leuk uit, maar voorziet deze ook echt in hun zorgbehoeften?

Technologische veranderingen volgen elkaar snel op en zijn steeds meer verweven met ons leven. Dat zorgt voor dilemma’s, die uitgroeien tot echte problemen als je ze niet tijdig opmerkt. Wat betekent het bijvoorbeeld voor monteurs als hun werkgever voornemens is om hun roosters te laten indelen door kunstmatige intelligentie? Hoe zit het dan met menselijk contact, autonomie en andere waarden die zo belangrijk zijn voor plezier in je werk? Hoe kun je ervoor zorgen dat het leuk blijft en gelijktijdig de planning efficiënter maken?

Daarvoor is een dialoog nodig tussen de mensen die te maken hebben met een nieuwe technologische toepassing. Welke positieve en negatieve effecten heeft een innovatie in de praktijk? Welke waarden spelen een rol? Hoe kom je vanuit die waarden tot betere besluitvorming rondom de inzet en het gebruik van technologie?

De afgelopen jaren is daarvoor een methode ontwikkeld: de Aanpak Begeleidingsethiek. Hierin worden doelgericht discussies opgezocht die leven onder gebruikers en andere betrokkenen, waarna de knelpunten in kaart worden gebracht, als basis voor het uiteindelijke doel: handelingsperspectief bieden; opties om de problemen op te lossen.

Deze ‘doe-dialogen’ zijn ontwikkeld door ECP en het Platform Ethiek en Digitalisering. De methodiek is in twee jaar ontwikkeld: daarvoor zijn ruim vijftig sessies gedaan in bijvoorbeeld de zorg, bij de politie, gemeenten en provincies. En in bijna alle gevallen is er ‘ethische impact’ geweest. De verslagen zijn meestal openbaar en in dat geval te vinden op www.begeleidingsethiek.nl/cases.

Het Platform Ethiek en Digitalisering, voorgezeten door Daniël Tijink, mede-ontwikkelaar van de Aanpak Begeleidingsethiek en binnen ECP hoofdverantwoordelijke voor o.a. ethiek en Peter-Paul Verbeek, hoogleraar filosofie en ethiek en sinds kort rector magnificus van de Universiteit van Amsterdam (UvA), brengt vandaag een Manifest uit. Het platform wil namelijk de komende tijd dit soort doe-dialogen overal gaan voeren waar toepassing van technologie vragen oproept. Hierdoor ontstaat een maatschappijbrede dialoog over ethiek en digitalisering, waar nu zo’n behoefte aan is. De leden van het Platform zorgen ervoor dat de output van al die sessies uit de verschillende sectoren onder de aandacht komt van nationale beleidsmakers en bestuurders.

“Mens en techniek zijn met elkaar verweven. Het gaat dan ook niet om de vraag óf we techniek gebruiken, maar om hóe we die inzetten op een ethische wijze -die mens en maatschappij ten goede komt”, zegt Daniel Tijink. “Die vraag kan alleen beantwoord worden door de mensen die te maken hebben met die nieuwe technologie: van professional tot burger en van beleidsmedewerker tot ICT-er.”

Voorbeelden

Deze dialogen zijn onder andere gevoerd over de inzet van een drone boven een bedrijventerrein, een kookapp voor mensen met een verstandelijke beperking, crowdmanagement in steden, een monteurvolgsysteem, nachtmonitoring in de ouderen- en gehandicaptenzorg, AI-advisering voor patiënten met prostaatkanker, thuismonitoring bij hartziekten en veel meer. Dat laat ook zien dat digitalisering meer is dan big tech.

Zorgrobot

De zorg kampt met tekorten en nieuwe technologie kan een uitkomst bieden. Zo dacht een zorgorganisatie na over de inzet van een zorgrobot. De robot heeft verschillende programma’s om cliënten te stimuleren te bewegen en om hen te vermaken. Kan een robot wel persoonlijke aandacht bieden? Hoe haalbaar is dat technisch eigenlijk? Wat als de wifi niet werkt? Wat betekent dit voor zorgmedewerkers? En wat betekent dat voor de privacy van een cliënt?

Mensen die te maken hebben met de robot, waaronder cliënten en hun naasten, zorgverleners en beleidsadviseurs, vonden het belangrijk dat de inzet van de robot niet ten koste zou gaan van de kwaliteit van zorg, de autonomie van cliënt en medewerker en de privacy. Met behulp van de Aanpak Begeleidingsethiek kwamen ze met manieren om daarvoor te zorgen. Zo moeten cliënten (of hun naasten) vooraf instemmen met de inzet van de robot. Deze toestemming moet ieder halfjaar worden vernieuwd. Ook moet er een sluitend privacy-beleid komen en moeten medewerkers op training om de kwaliteit van zorg te borgen.

AI-planningssysteem monteurs

De komst van een met kunstmatige intelligentie geautomatiseerd planningssysteem voor monteurs van een netbeheerder zorgde voor veel beroering onder het personeel. De mogelijkheid voor klanten om de monteur live te volgen, stuitte op weerstand. Wat bleek uit de doe-dialoog: privacy was niet eens zozeer het grootste probleem, wél dat de monteurs op de weg het contact met de zaak zouden verliezen. Eén van de gesuggereerde oplossingen: het aanpassen van het algoritme, zodat er meerdere suggesties bij de planning binnenkwamen en zij blijven bellen met de planners. En de mogelijkheid om monteurs live te volgen? Voor collega’s prima, voor wachtende klanten een no go.

Drones boven bedrijventerrein

Tijdens een bijeenkomst over de inzet van drones voor toezicht op bedrijventerreinen, georganiseerd door een provincie, werd het al snel behoorlijk ongezellig. Bedrijfseigenaren vreesden een ‘alziende overheid’ die wel even via beeldherkenning op luchtfoto’s alle overtreders zou pakken en hen automatisch de boete zou toesturen. Bij het inventariseren van de voor- en nadelen, bleek dat beeld bij meerdere betrokkenen te leven. Uitkomst van de dialoog was dan ook dat er bij een beslissing altijd een mens aan de knoppen moet zitten.

Zelf onderwerpen aandragen

Organisaties en burgers zijn van harte welkom zelf nieuwe onderwerpen voor zo’n doe-dialoog in te brengen. Zelf een sessie aanvragen kan via info@begeleidingsethiek.nl.