INTROMUZIEK
TJERK TIMAN: Er is vanuit maatschappelijke en politieke bewegingen...
maar ook misschien vanaf de ICT-kant zelf een grotere roep om AI goed in te regelen...
om die governance goed te doen.
Wat zou een data scientist zelf kunnen doen...
om te zorgen dat zijn of haar AI-systeem voldoet...
aan al die ethische normen of wettelijke eisen?
REMCO BOERSMA: Het is ontzettend belangrijk dat een data scientist of een data-analist...
rekening houdt met de transparantie en de verantwoording die genomen moet worden.
Dat betekent ook dat een data scientist zich al heel bewust moet zijn...
dat hij de dingen op de juiste manier documenteert.
Dat hij z'n aannames vastlegt, dat hij aangeeft waarom hij bepaalde afwegingen heeft gemaakt.
Wat daar de beweegreden voor was.
En dat dient hij ook eigenlijk bijna zelfs in de code te documenteren.
Of in ieder documentatie te creëren hoe dat tot stand gekomen is.
Zodat later die transparantie er ook ingebracht kan worden...
en ook de verantwoording daarover kan worden afgelegd.
Dat betekent wel echt specifieke aandacht van een data scientist op die punten.
TJERK: En kan dat altijd? Ik kan me voorstellen dat bij vormen van machine learning...
je niet altijd terug kunt redeneren waarom een neuraal netwerk tot een bepaalde uitkomst kwam.
Op welk niveau zou die transparantiedocumentatie moeten plaatsvinden?
Hoe specifiek diep moet dat gaan en kan dat gaan?
REMCO: Ja, dat is... Voor supervised learning zou dat prima kunnen.
Dat je gewoon denkt: Welke identifiers neem ik mee?
Maar bij unsupervised learning wordt dat al een ingewikkelder vraagstuk.
Maar ook daar kun je natuurlijk wel aannames maken...
op de kwaliteit van je dataset die je inbrengt...
of die dataset scheef is qua populatie...
en als je dan toch besluit om die gegevensset met dat kwaliteitsniveau te gebruiken...
zou je minimaal moeten vastleggen waarom je dan vindt dat voor dit doel de kwaliteit voldoende is...
en het bijvoorbeeld niet erg is dat er een wat scheve verhouding zit in de dataset op zichzelf.
Dus dan leg je in ieder geval een aantal van die afwegingen wel vast.
TJERK: Ja. Aan de voorkant. Misschien ook aan de achterkant?
REMCO: Ja, aan de achterkant zou je dat wellicht ook moeten doen.
Die zijn wat minder duidelijk te duiden, wellicht.
Dan kom je toch op het aspect van hertrainen van je model...
en de uitkomsten daarvan evalueren.
Bekijken: Waardoor heeft het systeem deze verdeling gemaakt?
Is dat logisch ook vanuit een domeinexpertise gezien?
Je zult dan die discussie ook met de product owners of de business aan moeten gaan...
van: Klopt dit ook met de praktijk?
TJERK: Ja. En hoe worden de data scientists bij JenV daarbij geholpen op dit moment?
REMCO: We proberen natuurlijk echt wel in daily standups of in sprint reviews...
die business echt te betrekken.
In mijn optiek is dat nog te weinig.
Die hebben vaak geen dagelijkse bemoeienis met dit soort ontwikkelingen...
maar komen dan inderdaad bij sprint reviews naar voren.
Soms is natuurlijk wel de vraag: Is dat voldoende...
om in de loop van die sprints ook die afwegingen goed te kunnen bediscussiëren onderling.
TJERK: En nog te kunnen sturen. REMCO: Ja, zeker. Ja.
Dus de samenwerking tussen een data scientist en de groep die daarmee bezig is...
en echt de primaire businessvertegenwoordiger, zou misschien wel wat intensiever moeten.
OUTROMUZIEK