Conferentie Waardengedreven Dialogen - Neurotech

10-02-2025 -

Op maandag 10 februari vond de conferentie ‘Waardengedreven Dialogen –Neurotech – plaats in Bleyenberg in Den Haag onder leiding van moderator Hannah Boute (ECP). De conferentie, die in het teken stond van 4 sessies Begeleidingsethiek rondom het thema neurotechnologie, werd georganiseerd door ECP/ Platform voor de InformatieSamenleving in samenwerking met de Aanpak Begeleidingsethiek en het ministerie van Binnenlandse Zaken en Koninkrijksrelaties.

Beleid Neurotech & Waardengedreven dialogen

De conferentie begon met een presentatie van Désirée Geerts, MT-lid Digitale Samenleving bij het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Zij gaf uitleg over het anticiperen op nieuwe technologieën vanuit de overheid. Het ministerie van BZK verdiept zich in nieuwe digitale technologieën, zoals Neurotech, Quatum technologie, AI en Immersive tech om vroegtijdig ontwikkelingen te signaleren die grote impact op de samenleving kunnen hebben. Dit stelt hen in staat om tijdig beleid te ontwikkelen, zodat de kansen van digitalisering optimaal worden benut en risico’s worden beperkt. Het huidige beleid richt zich op het formuleren van maatschappelijke opgaven om doorbraken te forceren, met een sterke focus op de digitale overheid. Publieke waarden staan hierbij centraal, zodat inclusiviteit, veiligheid, transparantie en privacy goed in beleid kunnen worden ingebed. De Aanpak Begeleidingsethiek biedt waardevolle handvatten om ethische vraagstukken van deze technologieën te onderzoeken. Eerdere sessies begeleidingsethiek hebben al belangrijke inzichten opgeleverd rondom de thema’s Immersive Tech en Algoritmen in het openbaar bestuur. Afgelopen periode stonden ethiek sessies rond het thema Neurotech centraal. Recent heeft Rathenau, in opdracht van het ministerie van BZK, de techscan neurotechnologie uitgevoerd, waarin het onderwerp Neurotech verder wordt uitgediept. 

Gegevens verzamelen, gedachten lezen?

Luuk Ex, onderzoeker bij het Rathenau Instituut, gaf uitleg over de basisbeginselen van neurotechnologie en presenteerde daarnaast de nieuwe Tech Scan Neurotechnologie. De Tech Scan Neurotechnologie, die op verzoek van het ministerie van BZK is ontwikkeld door Rathenau, brengt kennis vanuit verschillende expertise gebieden samen om de kansen en risico’s te duiden vanuit publieke waarden. Een nieuwe technologie moet bijdragen aan publieke waarden en geen afbreuk doen aan deze waarden. Neurotechnologie is een technologie waarmee we mogelijk onze mentale toestand, zoals beweging, concentratie en emoties, kunnen veranderen en beïnvloeden en wellicht zelfs vanuit onze gedachten met de omgeving kunnen communiceren. Door het gebruik van invasieve (in de hersenen onder de huid ingebracht) of non-invasieve meetsystemen kunnen signalen vanuit de hersenen worden gemeten en worden ongezet naar digitale data. Deze neurodata worden samengebracht en geanalyseerd. Met deze data kunnen toepassingen worden bediend. Steeds meer neurotechnologie zal worden toegepast in bestaande apparatuur. Toepassingen en publieke waarden rondom neurotechnologie worden uitgebreid besproken in de Tech Scan Neurotechnologie. Luuk gaf aan dat er een internationale discussie loopt over de vraag of onze mentale toestand voldoende is beschermd voor beïnvloeding en manipulatie van buitenaf. Hij gaf aan dat het volgens Rathenau belangrijk is om deze discussie nu al te voeren.

De Aanpak Begeleidingsethiek – Toelichting methode

Daniël Tijink, programmamanager ethiek bij ECP, ging kort in op de sessies Begeleidingsethiek die vanuit de samenwerking met BZK reeds zijn gehouden of nog op de planning staan. Vervolgens belichtte hij kort de Aanpak Begeleidingsethiek   

De Aanpak Begeleidingsethiek (ABE) organiseert in samenwerking met het ministerie van BZK een reeks dialoogsessies over vier belangrijke thema’s: immersieve technologie, algoritmes bij de overheid, neurotechnologie en generatieve AI in overheidsprocessen. De sessies over het thema immersieve technologie en algoritmen in het openbaar bestuur, inclusief de bijbehorende werkconferenties, zijn eerder al succesvol afgerond. Ook de sessies rondom neurotech zijn inmiddels afgerond, en de uitkomsten van dit thema werden tijdens deze conferentie besproken. De sessies van het thema generatieve AI in overheidsprocessen zijn bijna afgerond, en de bijbehorende werkconferentie zal op 6 maart plaatsvinden.  

In de toelichting op de Aanpak Begeleidingsethiek gaf Daniël aan dat wij onze waarden vormen door onze ervaring, kennis, gevoel, opvoeding en cultuur. Iedereen neemt regelmatig bewust of onbewust, kleine of grote ethische beslissingen. Maar niet alleen onze waarden bepalen uiteindelijk onze beslissing, ook de manier waarop we betrokken zijn bij een onderwerp speelt mee. De moderne techniekfilosofie gaat uit van verwevenheid tussen mens en technologie, in plaats van technologie als de ander te zien. Wij als mens vormen technologie en technologie vormt ons. We zijn onlosmakelijk met elkaar verbonden. Bij de inzet van een nieuwe technologie is het belangrijk om, naast waarden, altijd mee te nemen waar en in welke context een techniek wordt toegepast. De gewenste inzet van een technologie is in iedere praktijk weer net anders. De Aanpak Begeleidingsethiek is ontwikkeld om juist vanuit die unieke context met de mensen die erbij betrokken zijn (burgers, professionals, beleidsmakers en technici) ethisch handen en voeten te geven aan een technologie. De Aanpak Begeleidingsethiek brengt mensen vanuit verschillende perspectieven tegelijk bij elkaar rondom de (mogelijke) inzet van een technologie in een concrete context.  

De Aanpak Begeleidingsethiek bevat een aantal fasen. De Aanpak start met de introductie (fase 0) van de doelstelling en toelichting op het gedachtengoed van de Aanpak. Daarna volgt een toelichting (fase 1) op de technologie en de context. Vervolgens vindt de echte dialoog (fase 2) plaats waarin deelnemers van de sessie actoren, effecten en de daarbij horende waarden benoemen. Uiteindelijk gaan de deelnemers in groepen aan de slag om handelingsopties vast te stellen (fase 3) vanuit de onderwerpen technologie, omgeving en mens. 

Begeleidingsethiek vervult vijf belangrijke functies. De aanpak kenmerkt zich door een participatieve en constructieve werkwijze, waarbij de input vanuit de praktijk een belangrijke rol speelt. Ook levert de aanpak waardevolle input voor beleidsvorming, bevordert het een brede dialoog en biedt het een alternatieve vorm van toezicht. 

Doe-dialoog: Begeleidingsethiek in de praktijk​

Na de toelichting op de methode werden de deelnemers van de conferentie door Hannah Boute meegenomen in een doe-dialoog over één van de casussen. Zij kregen een video te zien van de casus ‘Brain-Computer Interface technologie bij ALS patiënten – UMCU’. Door het beantwoorden van een aantal vragen over deze casus via Mentimeter konden de deelnemers een stukje van een sessie begeleidingsethiek zelf ervaren. Deelnemers aan de dialoog bespraken vragen zoals: Wie zijn bij deze casus betrokken? Wat zijn de mogelijke negatieve gevolgen? En welke positieve effecten kunnen we verwachten? De inbreng van de deelnemers leverde mooie nieuwe inzichten op en gaf de deelnemers klein kijkje in de keuken van een sessie Begeleidingsethiek.

Na de doe-dialoog werden de resultaten van de casus ‘Brain-Computer Interface technologie bij ALS patiënten – UMCU’ besproken door Mariska van Steensel en Daniël Tijink, de moderatoren van de sessie.
Lees hier het hele verslag van de sessie.

Overige Casussen

Het onderwerp neurotech is naast de casus vanuit de UMCU ook verkend binnen de contexten van Meta, Neurensics/Beeld en Geluid en UTwente. De casussen worden hieronder kort toegelicht. Op de website van begeleidingsethiek zijn de verslagen van de sessies terug te vinden.

Casus: Neural wristband- Meta

De casus werd toegelicht door casushouder Edo Haveman (Meta) onder leiding van moderator van de sessie, Sophie van Eck. De ontwikkeling van nieuwe apparaten, zoals de slimme bril, vragen om een nieuwe manier van het bedienen van deze apparaten. De in ontwikkeling zijnde neural wristband van Meta kan hier een antwoord op zijn. Men kan met deze polsband de bril bedienen zonder muis of toetsenbord. Gebruikers kunnen door handbewegingen zoals tikken met de vingers of vegen met de duim hun computers bedienen. Behalve de bril, kan men ook bijvoorbeeld laptops of smartphones bedienen met de wristband. Met surface-elektromyografie (sEMG) technologie detecteert en interpreteert een polsband (de intentie tot) spieractivatie van de hand. De band zendt de signalen vervolgens naar verbonden apparaten zoals een smartphone of slimme bril, en bedient zo de apparaten. Doordat de AI van de polsband getraind is op data van een grote variatie van gebruikers, kan de polsband extreem snel snappen wat een nieuwe gebruiker bedoelt en is deze direct inzetbaar voor eenieder. Meta heeft als doel om haar producten breed toegankelijk te maken.

Tijdens het benoemen van de effecten van de neural wristband door de deelnemers van de ethiek sessie zijn als belangrijkste waarden betrouwbaarheid en technische veiligheid, sociale en fysieke veiligheid en autonomie en vrijheid geïnventariseerd. Vanuit deze waarden werden handelingsopties opgesteld binnen de drie onderwerpen mens, techniek en omgeving. Lees hier het hele verslag van de sessie.

Casus: Neurotech & desinformatie

De casus werd toegelicht door de moderator van de sessie, Hannah Boute, en door co-moderator Daniël Tijink. Bij deze sessie waren Neurensics, een bedrijf dat werkt met neurotechnologie voor marketing en Instituut Beeld en Geluid betrokken. In de sessie is er gekeken naar Neurotech in samenhang met het maatschappelijk thema: desinformatie met een focus op prebunking. Prebunking gaat over de mogelijkheid van mensen om patronen achter desinformatie te leren herkennen. In deze sessie stond de vraag centraal hoe neurotechnologie zou kunnen helpen bij het valideren van prebunking. Daar waar de-bunken gaat over factchecken van valse informatie achteraf, gaat pre-bunken over het herkennen van de manipulatietechnieken.

Tijdens de sessie Begeleidingsethiek over Neurotech & Desinformatie werden, op basis van de gezamenlijk benoemde mogelijke effecten, de waarden kennis, goed gebruik en geluk/autonomie als belangrijkste geïdentificeerd. Vanuit deze waarden zijn handelingsopties geformuleerd binnen de drie thema’s: mens, techniek en omgeving. Een van de handelingsopties die naar voren kwam bij de waarde ‘goed gebruik’ was het gebruik ‘bulk data’ en geen opslag van individuele dossiers. Lees hier het hele verslag van de sessie.

Casus: Neurotech in het onderwijs – UTwente​

De casus werd toegelicht door moderator Edwin Borst (ECP) en casushouder Cesco Willemse (UTwente).​ ANTNeuro en Artinis Medical Systems ontwikkelden samen met de Universiteit Twente een technologie die gelijktijdig de alertheid en mentale werkbelasting van meerdere mensen meet. Deze hyperscanning techniek meet via een speciale cap twee verschillende signalen van hersenactiviteit: EEG en fNIRS. De casus betreft een mogelijk toekomstig scenario waarin docenten deze technologie kunnen inzetten om direct te reageren als de aandacht verslapt tijdens een college, bijvoorbeeld door het college interactiever te maken. Dit kan tijdens een online college, maar ook in fysieke bijeenkomsten. De techniek is gebaseerd op zogenoemde brein-computer-interfaces. Dat wil zeggen dat met behulp van in dit geval non-invasieve breinmetingen, een computer of systeem realtime kan worden bediend. In dit geval gaat informatie over de alertheid en werkbelasting van de studenten naar de computer van de docent.

Als belangrijkste waarden vanuit de diverse groep deelnemers werden privacy, handelingsvrijheid en persoonlijke ontwikkeling benoemd. Na het filteren van de belangrijkste waarden werden verschillende handelingsopties aan de waarden toegekend. Lees hier het hele verslag van de sessie.

De resultaten​

Daniël Tijink (ECP) nam de deelnemers van de conferentie vervolgens mee in de geaggregeerde resultaten van de vier sessies van het thema Neurotech. De meest genoemde waarden die werden genoemd in de vier casussen rond neurotech waren autonomie, betrouwbaarheid, effectiviteit en veiligheid. Onder de waarde autonomie werd aangegeven dat er meer afhankelijkheid ontstaat door het gebruik van Neurotech. Een daaraan verbonden handelingsoptie is het recht op gebruik of juist het recht op niet-gebruik. De waarde betrouwbaarheid gaf als mogelijke handelingsopties verwachtingsmanagement en het behouden van alternatieven. De waarde effectiviteit gaf als handelingsoptie dat professionals en gebruikers van de technologie ook goed getraind moeten worden. En de waarde veiligheid ging over het gebruik van de verkregen data en de eventuele fysieke gevolgen van het gebruik van de technologie. Een voorstel voor een daaraan verbonden handelingsoptie zou dataminimalisatie kunnen zijn volgens de betrokkenen van de sessies.

Tafelgesprek en dialoog met het publiek​

Als afsluiting van de middag vond er nog panelgesprek plaats met panelgasten vanuit diverse perspectieven onder leiding van Hannah Boute. Aan tafel zaten Edo Haveman (Meta) en Mariska van Steensel (UMCU) vanuit het perspectief Techniek​, Dennis van Kampen vanuit het perspectief Beleid, Luuk Ex vanuit het perspectief Expert​ en Cesco Willemse vanuit het perspectief Professional​. Zij deelden hun ervaringen over de diverse sessies vanuit hun verschillende invalshoeken. Dit resulteerde in een mooie en stevige dialoog onder meer over de vraag of regelgeving innovatie vooral vertraagt of ook kan versnellen. Hieruit bleek nogmaals dat betrokkenheid van een diverse groep deelnemers met verschillende achtergronden van grote meerwaarde is voor de dialoog.