*Muziek*
We denken vaak: IT is heel neutraal.
We maken een dienst die geen smaak of een vooroordeel heeft. Dat is heel objectief.
Maar dat is helemaal niet zo. -Nee, dat klopt.
Je kan wel een code hebben en die kan wel neutraal overkomen.
Maar algoritmes moeten getraind worden.
Wat je erin stopt, daar zitten vaak ook al keuzes achter.
Bijvoorbeeld over trainingsinformatie.
Amazon gebruikte het bijvoorbeeld om automatisch aannamebeleid te doen.
Maar er was getraind met allemaal mannelijke cv's, dus vrouwen werden niet aangenomen.
Of kijk naar gezichtsherkenning. Dat wordt vaak getraind met witte mensen.
Dan worden andere mensen niet herkend.
Wat voor keuzes zitten daar achter? Waar zou dat aan kunnen liggen?
Ik denk dat het vooral te maken heeft met onbewuste keuzes.
De keuzes die eigenlijk niet gemaakt zijn.
De onbewuste vooroordelen die je hebt in het selecteren van mensen...
of dat nu mannen zijn of witte mensen...
of dat je met een bepaald niveau van digivaardigheid denkt:
'Dat knopje, dat kan toch iedereen.' 'We snappen allemaal wat een uploadknop is.'
Dat soort aannames heeft iedereen. Je kunt ook niet zonder.
Maar je er bewust van zijn dat je die aannames hebt, is volgens mij het belangrijkst.
Dat doen we continu. We zeggen elke keer, ook als ambtenaar die aan een systeem werkt:
'Ik ben ook een burger. Ik heb ook weleens een paspoort aangevraagd.
Als ik het snap, kan iedereen het.' Maar dat is natuurlijk niet zo.
Dat pleit ervoor dat je een heel divers een multidisciplinair team hebt...
zodat je elkaar in de gaten kan houden voor die biases.
Diversiteit van het team draagt bij aan inclusiviteit van je dienstverlening. Absoluut.
Zijn er ook nog bewuste keuzes? Want dit gaat over onbewuste keuzes.
Er worden ook heel bewust keuzes gemaakt over hoe iets wordt ingericht.
Bij elke vraag die je neerzet, bepaal je hoe iemand erdoorheen gaat.
Of je eerst vraagt: Wil je inloggen? Of eerst vraagt: Wat wil je precies hier doen?
Dat zorgt er al voor dat bepaalde mensen afhaken of eerder gaan bellen.
Alles wat je online neerzet, is een keuze waar mensen op reageren.
Een opt-in of een opt-out maakt uit. Een knopje...
Bij gemeenten zie je vaak dat 'maak een afspraak' helemaal bovenaan staat...
zodat mensen eerder geneigd zijn om een afspraak te maken.
Dat heeft de gemeente graag, want dan kunnen ze plannen wanneer je precies binnenkomt...
nog voordat ze informatie geven over wat je precies moet gaan doen.
Dus elk stukje informatie, elk stukje interactie of transactie...
alles stuurt mensen een bepaalde kant op.
Dus ook daar zie je: als je die bewuste keuzes maakt...
test het met mensen om te kijken wat voor effect dat heeft.
Ja, en dan vooral meerdere variabelen naast elkaar, dus meerdere varianten...
en ook kijken welke het beste werkt in jouw situatie.
Want ook daar zitten weer aannames in dat deze variant beter gaat werken...
maar dat hoeft niet, want dat is ook maar op een bepaalde rationaliteit gestoeld...
die helemaal in de praktijk niet hoeft uit te komen.
Dus als het erom gaat te zorgen dat IT wel neutraal is:
Zorg voor een divers team en zorg ook dat je test...
zodat je weet wat het effect van die keuzes is op verschillende vlakken.
Ja, exact.
*Muziek*
*Muziek eindigt*