16-07-2019

Verslag ECP deelnemersbijeenkomst: Transparantie en uitlegbaarheid van AI - voorbeelden in sectoren


Artificial Intelligence (AI) wordt steeds vaker ingezet, maar is niet per definitie neutraal en kan grote gevolgen voor mensen hebben. Daarom is er steeds meer behoefte aan transparantie en uitlegbaarheid van AI. Wat betekent transparant zijn in de uitvoering? Wie moet wat uitleggen als algoritmes keuzes maken? En wat zijn de (on)mogelijkheden van volledige transparantie? Tijd voor een bijeenkomst met meer achtergrondinformatie hierover. Dat het onderwerp leeft, blijkt wel uit de deelnemersaantallen. Een grote groep van 70 mensen heeft de bijeenkomst op donderdag 27 juni bezocht.  Een kort verslag van de dag:

AI Alliance Conferentie Brussel

Mauritz Kop, Managing Partner van AIRecht.nl, gaf een korte toelichting over de eerste Europese AI Alliance Conferentie in Brussel. Daar werden de HLEG Policy and Investment Recommendations for Trustworthy AI aan EU Commissaris Mariya Gabriel gepresenteerd. De belangrijkste punten waren: meer budget en zelfregulering, geflankeerd door een risk based bottom up governance-model dat innovatie niet in de weg zit, maar juist leidt tot vertrouwen, bewustwording en rechtszekerheid. Best practices en codes of conduct zoals het ECP AI Impact Assessment spelen daarin een prominente rol.

Op zoek naar BIAS via data controle

Diensten zijn vaak uit talloze componenten aan opgebouwd. Sommige componenten zijn gebaseerd op AI. Veel van die componenten bevinden zich niet onder het directe beheer van de organisatie die de dienst aanbiedt. Damiaan Zwietering, Developer Advocate bij IBM, gaf aan dat het nog vaak fout gaat met AI in de praktijk. Dat heeft alles te maken met hoe een organisatie data interpreteert. Een model toepassen op personen of situatie kan niet alleen worden overgelaten door systemen. De menselijke handeling blijft. Ook Cor Veenman, Senior Scientist Data Science van TNO, bevestigde dit beeld met zijn presentatie. Zijn boodschap was hoe je veilig en eerlijke data kunt delen in de praktijk.

De praktijk & ethiek

Verantwoord gebruik van AI brengt ethische uitdagingen met zich mee. Louis Huyskes, Human and Tech Institute, lichtte dit toe aan de hand van een zelf ontworpen tool. De boodschap die hij meegaf, is dat je als organisatie moet nagaan wat je kan en mag verwachten van een technologie.

Tot slot een voorbeeld uit de praktijk, de start-up Pacmed en het Amsterdam UMC gaan met machine learning de zorg verbeteren op de Intensive Care (IC).

Veelomvattend speelveld

De bijeenkomst laat zien dat AI een veelomvattend speelveld is. Het is een interdisciplinair vakgebied. Belangrijkste boodschap in de presentaties: wij als mens hebben grote verantwoordelijkheid bij het juist en vertrouwelijk omgaan met data en AI.

Presentaties

Damiaan Zwietering IBM – Tools Fairness & Explainability en praktijkvoorbeelden Cor Veenman TNO – Veilig en fair data delen in de praktijk Louis Huyskes Human and Tech Institute – De praktijk van ethiek, business-case en Impact Assessment (presentatie op aanvraag via events@ecp.nl) David Ruhe Pacmed – Uitlegbaarheid van machine learning algoritmen voor persoonlijke en precieze zorg

Artificial Intelligence

Kunstmatige Intelligentie (of AI, Artificial Intelligence) is geen futuristische revolutie die ons ineens overkomt. Jaren geleden is deze ontwikkeling onze samenleving al binnengekomen. Beetje bij beetje zal het een grotere rol ga... + Meer over Artificial Intelligence