Willen, mogen, kunnen. In die volgorde.
♪ RUSTIGE MUZIEK ♪
De vraag waar en wanneer we generatieve AI willen gebruiken...
is niet aan de ICT'er om te bepalen.
Het is aan de gebruikers of aan de opdrachtgevers van de systemen...
om te bepalen of dit geschikt is.
Je kan die overweging afpellen door een onderscheid te maken...
in willen, mogen en kunnen. En wederom in die volgorde.
Te beginnen met willen. Willen we dit werk ondersteunen met generatieve AI?
Het is regelmatig niet wenselijk om een besluit of kritieke stap in een proces...
uit te besteden aan een AI-systeem.
Bijvoorbeeld bij het beoordelen van een asielaanvraag...
of het toekennen van een toeslag.
Hoe meer autonomie we aan het systeem geven...
hoe zekerder we ervan moeten zijn dat het geen fouten zal maken.
Manieren om tot deze inschatting te komen zijn bijvoorbeeld de IAMA, AIIA...
of een sessie begeleidingsethiek.
Ons advies is om deze afweging aan de voorkant uit te voeren.
De tweede vraag die we onszelf moeten stellen, is:
mogen we dit werk ook ondersteunen met een AI-systeem?
De wet beperkt ons, terecht, in wat we wel en niet met AI-systemen mogen doen.
Deze kaders komen voornamelijk uit de EU. Denk aan de AVG of de AI Act.
We hebben binnen de overheid diverse gremia en processen...
om hier invulling aan te geven.
Dit is voor generatieve AI niet anders.
Denk bijvoorbeeld aan de processen rondom de DPIA's...
of rondom informatiebeveiliging.
En daarnaast is het ook goed om te bedenken...
dat wat er wel en niet mag heel contextafhankelijk is.
Er is niet één generiek antwoord te geven of algemene uitspraak te doen...
over wat er wel of niet mag met een techniek zoals generatieve AI.
Dat moet je echt met elkaar bespreken in jullie werkprocessen.
Maak dit gesprek ook echt bestuurlijk.
Dus leg deze afweging voor aan een MT of misschien wel aan de directie.
De derde vraag die we onszelf moeten stellen, is:
kunnen we dit werk ook ondersteunen met AI-systemen?
Men denkt al gauw dat AI elk probleem kan oplossen...
als een soort magisch middel.
Helaas is de waarheid wat weerbarstiger en moeten we dat eerst goed meten...
voor we daar uitspraken over kunnen doen.
AI moet voldoende toegevoegde waarde bieden...
in bijvoorbeeld een kortere doorlooptijd van dossiers...
complexere analyses of echt extra inzichten...
om het te kunnen verantwoorden.
Met behulp van heldere KPI's, validatiemethodes en monitoring...
kunnen we dit heel goed in kaart brengen...
en kunnen we aantonen waarom het toepassen van AI meerwaarde heeft.
Om af te sluiten. We hebben onszelf dus drie vragen te stellen.
Willen we AI gebruiken in ons werkproces? Mogen we AI gebruiken in ons werkproces?
En kunnen we AI ook echt gebruiken in ons werkproces?
Om deze vragen te beantwoorden is het van belang...
om een open en eerlijk gesprek te voeren.
Omdat we dan met elkaar kunnen leren...
waar zowel de harde als de zachte grenzen van deze technologie liggen.