Samenvatting
Deze sessie ging over de aankomende Europese AI verordening. Het doel is het beschermen van burgers en de maatschappij tegen (gevaarlijke) bijeffecten van AI en AI-toepassingen.
Hoog op de agenda staat burgers laten meepraten over deze onderwerpen. EU- burgers moeten vertrouwen krijgen in AI. Dat doen we door regels vast te stellen. De discussie over het opstellen van het definiëren van AI wordt blijvend gevoerd. Wat zeker is, is dat waar een algoritme “in” zit onder de AI-act valt.
De Regulatory Sandbox werd toegelicht. Instrument voor met name MKB om te toetsen of jouw AI-systeem voldoet of moet voldoen aan de wet -en regelgeving binnen de Europese AI verordening. De lessen die hieruit worden getrokken moeten gedeeld worden met de toezichthouders, wetgevers en ontwikkelaars van AI.
Het EU-parlement is druk bezig om met elkaar tot een akkoord te komen over de AI Act/EU verordening. Streven is om dit in het voorjaar van 2023 gereed te hebben. Coördinatie van dit proces vanuit Nederland wordt geleid door het ministerie ven Economische Zaken en Klimaat.
Discussie
Lisa Vermeer: Deze verordening is heel breed, maar er zijn ook hele specifieke ankerpunten beschikbaar voor bedrijven.
Natali Helberger, Hoogleraar UvA: Deze wetgeving biedt een kans om te innoveren en standaardisatie en dialoog over jurisprudentie.We moeten het samen uitzoeken. Daar ligt een kans voor co creatie voor de quadruple helix. (overheid bedrijfsleven kennisinstituten en burgers). Het ELSA concept is hier een goed voorbeeld van.
Jos van der Wijst: De verantwoordelijkheid zal in belangrijke mate bij de ontwikkelaars blijven liggen. De partij die die technologie inzet zal zich daarin moeten blijven verdiepen. Er is een verplichting om elkaar van informatie te blijven voorzien wanneer er bijvoorbeeld een update is. Dit kan d.m.v. het afsluiten van overeenkomsten die de EU-verordening volgen.
Deze act is onderdeel van een veel grotere Act die bijvoorbeeld ook gaat over bijvoorbeeld privacy, datamanagement, impact assessment en online veiligheid. De regelgeving over social media zit bijvoorbeeld in de Digital (social)Media Act. Zo zijn er veel meer acts die dit onderwerp raken.
Toezicht op de AI-Act (algoritme toezichthouder). Er moet ruimte zijn voor kennis over die sectoren. Maar er is bestaande regelgeving voor Ai die nu al ontwikkeld en gebruikt wordt.
Quotes
“De geopolitieke context tussen Europa en US en China bijvoorbeeld, er wordt met grote interesse gekeken naar wat wij in Europa doen. Het moet de trend gaan zetten voor de rest van de wereld”, Natali Helberger, UvA
“Als je digitale producten maakt dan moet je straks ook heel veel goeie juristen in dienst hebben”, Lisa Vermeer, Ministerie EZK
Belangrijkste conclusies van de sessie
- De overkoepelende doelstelling is het reguleren van de digitale economie.
Presentatie
Presentatie sessie AI Act: Van uitdaging naar kans.