Marianne Schoenmakers introduceert het thema en gaat in op de vraag waarom juist de overheid geïnteresseerd is in GenAI en betrouwbaarheid daarvan. GenAI lijkt bij te kunnen dragen aan het op lossen van maatschappelijke uitdagingen en aan het beter functioneren van de overheid. Uitdaging is om GenAI te gebruiken zonder dat dat leidt tot digitale afhankelijkheid en zo dat het tegelijkertijd voldoet aan eisen voor duurzaamheid en veiligheid en het juist en verantwoord toepassen ervan.
De aantrekkelijkheid van GenAI is de laagdrempeligheid. Dat leidt al snel tot schaduwgebruik: het niet-gereguleerde gebruik door ambtenaren. Dat is één van de drijfveren voor de overheid om snel met GenAI aan de slag te gaan. Privacy, transparantie en bias zijn voor de overheid belangrijke aandachtspunten.
Om AI-volwassenheid bij de overheid te stimuleren is kennis nodig, governance op toepassing en processen en domein-specialisatie. De Nationale Digitale Strategie (NDS) adresseert dit ook. Het AI competentiecentrum is een belangrijk onderdeel daarvan en GPT-NL, het Nederlandse taalmodel.
Claartje Barkhof gaat in op Agentic AI. Kenmerk is dat Agentic AI tools kan gebruiken (denk aan Google Maps bijvoorbeeld), beschikking heeft over of toegang kan krijgen tot specifieke kennis over een vraagstuk en beschikking over procedures heeft om problemen op te lossen. Bijvoorbeeld in het veiligheidsdomein, in natuurlijke interactie.
Lydia Meijer begint de presentatie met de observatie dat de ontwikkelingen rond GenAI de ontwikkelingen zijn waar ze haar carrière lang op hoopte en gaat in op twee voorbeelden, met de oproep om zich bij haar te melden als aanwezigen willen participeren.
Als eerste gaat ze in op LLM4LM: het gebruik van LLM’s voor Logistiek. 80% van de kosten van logistiek is gerelateerd aan compliance. Het voldoen aan regels en eisen. Juist in het interpreteren van wet- en regelgeving (denk aan douane, certificeringen) is GenAI goed. Dit project kan de logistieke kosten aanzienlijk verminderen.
In het project METAL wordt een opdracht voor een bedrijf om een product te maken met hulp van GenAI vertaald naar de benodigde interne processen (denk aan planning), de bestellingen en logistiek van en naar de magazijnen en naar de instellingen van de machines om het gevraagde product te maken. METAL zal de concurrentiekracht van de bedrijven die er in slagen GenAI hiervoor in te zetten aanzienlijk versterken.
Tenslotte gaat Vincent Dunning in op verifieerbare AI. Encryptiemethoden kunnen bijdragen aan het beantwoordeen van een aantal verificatie-vraagstukken rond AI. Hij gaat in op Zero-Knowledge proofs en verschillende vragen die daarmee beantwoord kunnen worden: zijn voor een vraagstuk de afgesproken modellen en processen gebruikt: proof of inference? Zijn die modellen getraind op de data (proof of training)? en zijn de gebruikte modellen on-bevooroordeeld op bepaalde aspecten (proof of fainess)? Met Zero-Knowledge proof wordt afgesproken welke onderzoeken worden gedaan. En zonder dat de afnemer inzage krijgt in het model, de data of de algoritmen kan met zero-knowledge proofs worden bewezen dat de opdrachtnemer aan de afspraken heeft voldaan.