INTROMUZIEK
TJERK TIMAN: Vanaf die ethische discussies die er gevoerd worden...
tussen allerlei partijen met verschillende actoren...
vanuit uw eigen achtergrond, maar ook met het team waarmee u werkt...
hoe vertalen die ethische principes zich...
naar de dagelijkse werkzaamheden van een IT'er?
REMCO BOERSMA: Dat is best een lastige vraag, eigenlijk.
Je ziet dat ethische afwegingen die voorheen echt vanuit de uitvoering werden gemaakt...
de Marechaussee die verweten wordt etnisch te profileren...
is natuurlijk echt in de locatie Schiphol waarin ze mensen uit de rij halen.
Dat is natuurlijk heel duidelijk zichtbaar dat je dat doet.
En met welke grond je dat doet.
Als je dat aan de voorkant gaat halen, dus vanuit een data-analysevraagstuk...
diezelfde afweging wilt maken, is dat best wel ingewikkeld...
omdat daar aspecten bij komen kijken van: Hoe zit je data dan in elkaar?
Zit daar een bias in die data? Hoe voorkom ik daar discriminatie in?
Hoe maak ik daar ethische afwegingen?
Die worden ook door analisten gemaakt die soms het primaire proces lang niet zo goed kennen...
als de uitvoerder in de praktijk.
Dus die samenwerking, om daar een goede afweging in te maken...
die wordt denk ik, of die is essentieel.
Maar dat brengt dit soort vraagstellingen veel meer naar de ontwikkelingskant.
TJERK: Ja. Dus de ontwikkelaar wordt eigenlijk veel zwaarder belast met dit soort vragen.
Waar de analist of de ontwikkelaar alleen op z'n eigen stukje zat...
moet hij nu allerlei dingen gaan meenemen die misschien buiten de primaire taak liggen.
Is dat eerlijk? Kunnen we van de AI-ontwikkelaar verwachten...
dat hij of zij alle ethische dilemma's meeneemt en opvangt?
Of hoe moeten we methodologisch daarmee omgaan?
REMCO: Je kan dat aan de data-analist zelf best vragen, om daar goeie afwegingen in te maken.
De vraag is of hij alle elementen beschikbaar heeft om dat te kunnen doen.
En ik vond wel aardig dat we in een werkgroep over fairness discussie hadden...
en eigenlijk pas uit die discussie het gevoel naar voren kwam...
dat een analist zei: Oké, ik heb er eigenlijk nog nooit zo tegen aangekeken...
om bijvoorbeeld het geslacht mee te nemen, wel of niet.
Hij zei: Voorheen dacht ik, het is heel logisch om dat in mijn model te zetten...
omdat daar een betere categorisering uit valt.
En hij zei: Ik ga nu, aan de hand van deze discussie...
opnieuw bij mezelf kijken van: Is dat nou logisch, dat ik dat gegeven meeneem of niet?
En die afwegingen creëer je alleen maar door gezamenlijk die discussie ook te voeren.
TJERK: Ja. Dus dat lerende effect om buiten je eigen model te kijken...
en de boer op te gaan.
Hoe wordt dat georganiseerd bij JenV, in dit geval?
REMCO: We hebben een data-analysenetwerk waar we dit soort discussies met elkaar voeren...
en ook voorbeelden aan elkaar presenteren...
waar we kritisch proberen door te vragen aan elkaar:
Waarom heb je dit op deze manier gedaan? Welke afweging heb je daarin gemaakt?
Daar is als spin-off een werkgroepje uitgekomen...
dat zich rond 'fairness metrics' eens een keer is gaan verdiepen...
en gezegd: Hoe passen we die 'fairness metrics' nu eigenlijk toe?
Die eerlijkheidsbeginselen, hoe werken die nou door in ons dagelijks werk?
TJERK: Ja. Dat is bij JenV.
Zijn er ook connecties naar Rijksbreed? Is er ook weer een connectie naar beleid?
Hoe is de interactie tussen de data science-praktijk...
en de hoge ethische kaders en richtlijnen die gemaakt worden?
REMCO: Er wordt wel vanuit BZK natuurlijk heel sterk gekeken:
Kunnen we daar meer Rijksbrede kaders neerzetten?
Die discussies lopen...
rond de toepassing van de IAMA, de Impact Assessment Mensenrechten en Algoritmes...
of de AI-systeemprincipes voor non-discriminatie.
Dat wordt natuurlijk in een Rijksbrede context bediscussieerd en gekeken.
Ik merk dat de individuele data science-teams die er zijn...
interdepartementaal elkaar nog best wel moeilijk vinden.
Er worden wel werkbezoeken afgelegd onderling...
maar er is niet een Rijksbrede community die daarop inzoomt.
TJERK: En die zou er wel moeten zijn? Of, dat zou helpen?
REMCO: Het zou natuurlijk voor de versterking wel helpen...
om ook af en toe buiten de context waarin ik acteer, van Justitie en Veiligheid...
ook natuurlijk eens een keer andere disciplines daarin mee te nemen.
Die hebben misschien op bepaalde stukken wel een heel andere invalshoek dan wij.
TJERK: Ja. We zijn nu heel erg aan het ingaan op de relatie tussen die ethische principes...
en de data science-praktijk.
Er is natuurlijk ook nog een sociale en een juridische werkelijkheid.
Hoe vertalen die ethische principes en die overwegingen zich...
naar wettelijke kaders waarin JenV kan acteren?
Wordt die discipline ook meegenomen...
en hoe werkt dat tussen de jurist en de data scientist?
REMCO: Justitie heeft best wel wat wettelijke kaders waar die zich aan dient te houden.
Daar zit soms ook wel wat onduidelijkheid in.
Dan wordt er gezegd: Oké, je dient je te houden aan de AVG...
maar de politie heeft voor opsporing en vervolging z'n eigen Richtlijn Opsporing en Vervolging.
Die is niet belast met de AVG.
Je merkt in discussies dat af en toe dat door elkaar loopt.
Is dit een domein...
waarin we vallen onder de Richtlijn Opsporing en Vervolging of niet?
Dus dat maakt het soms wel ingewikkeld, om te kijken:
Welk wettelijk kader is van toepassing?
En welk wettelijk kader van toepassing is, heeft effect...
op hoe je omgaat met bijvoorbeeld privacy of ethiek.
TJERK: Ja, precies. En dat is een spel dat nooit af is, neem ik aan?
REMCO: Nee. Nee, dat is continu een afweging die wij zelf natuurlijk maken...
ook op: Waar dient het veiligheidsbelang? Waar prevaleert dat boven het privacybelang?
Want het privacybelang is geen absoluut recht, dat is 'n afweging tussen verschillende waardes.
Een waarde van: Is de samenleving veilig? Kunnen we individuele veiligheid garanderen...
ten opzichte van de afbreuk in privacy die dat soms vraagt.
OUTROMUZIEK