INTROMUZIEK
TIJMEN WISMAN: Risicoprofilering is in schwung.
We leven in een samenleving waarin het steeds belangrijker wordt om risico's te managen.
We willen het liefst voorkomen dat er iets gebeurt...
dus we kijken naar de kansen die er zijn dat mensen bepaalde dingen doen.
Vanuit een rechtstatelijk perspectief roept dat enorm grote vragen op...
want het uitgangspunt binnen een rechtsstaat is dat 'n burger alleen kan worden aangesproken...
op wat hij heeft gedaan.
Binnen risicoprofilering verandert die ratio licht...
en zijn we aan het kijken naar: Misschien moeten we iemand anders gaan behandelen...
aan de hand van de kans dat hij wat gaat doen.
En daarin zitten een hele hoop risico's.
Het kunnen hele praktische risico's zijn.
Dat je in plaats van gaat kijken naar causaliteit gaat kijken naar correlaties...
en dat je eigenlijk uitkomsten bereikt die helemaal niet te rechtvaardigen zijn...
maar ook vanuit een principieel standpunt: Is risicoprofilering op zichzelf problematisch?
Het wordt wellicht extra problematisch gemaakt...
door 'n aantal veranderingen die zijn ingevoerd in de AVG...
waardoor het mogelijk wordt om op basis van wetten...
steeds meer gegevens van burgers te verwerken en bij elkaar te voegen.
Dat data van verschillende partijen bij elkaar wordt gevoegd.
Dat die data gaat worden doorzocht om te kijken naar verschillende patronen.
Een goed voorbeeld hiervan is project Waterproof.
Project Waterproof was een project waarbij er werd gekeken...
naar de watermetergegevens van ik geloof 50.000 burgers...
om te kijken of er sprake was van fraude.
Om te kijken of mensen samenleefden of niet.
Met andere woorden, je hebt een groep onverdachte burgers...
en van al die onverdachte burgers wordt er gekeken wat hun watergebruik is.
Dan kan je zeggen: Ja, maar dat heeft wel een redelijk doel...
maar je kan ook zien dat, ja, er zijn een hele hoop zaken die een redelijk doel hebben...
maar als we in al die gebieden gaan zeggen 'het is oké om gegevens bij elkaar te rapen'...
dan hou je een samenleving over waarin je misschien helemaal geen privacy meer hebt.
Philip Alston, de Special Rapporteur van de Verenigde Naties...
zei bij de rechtszaak over Siri bijvoorbeeld...
dat het Siri-systeem het equivalent was van fraude-inspecteurs...
die in een wijk overal op deuren gingen kloppen en bij iedereen alle dossiers gingen opvragen.
Als je dat fysiek zou uitvoeren, zou er heel erg veel verzet tegen zijn.
Maar door de digitalisering, door de verandering in de architectuur van de samenleving...
is het mogelijk dat de overheid nu dit soort dingen doet...
zonder dat we dat eigenlijk kunnen zien.
Bij risicoprofilering zijn ook wel een paar belangrijke waarborgen...
die je in het achterhoofd moet houden.
Zo moet het altijd uitlegbaar zijn aan de burger...
waarom hij wordt geprofileerd, wat zijn profiel is, welke gegevens daarvoor worden verwerkt...
en waarom die dan uiteindelijk, waarom er een bepaald profiel van hem bestaat.
Dat moet inzichtelijk zijn.
Bij de Siri-rechtszaak waren die profielen niet inzichtelijk.
Daarbij heeft de rechter destijds gezegd...
dat een burger moet weten welke gegevens er van hem worden verwerkt...
op basis van welke verwerkingsgrond...
en welk risicomodel er wordt gehanteerd.
En dat een burger dat moet weten om in staat te zijn om zichzelf te kunnen verdedigen.
Wat de rechter daar in feite deed, was de ratio achter het gegevensbeschermingsrecht...
en achter de rechtsstaat bevestigen.
Er moet een relatie... In een relatie tussen de burger en de overheid...
moet de burger rechtsbescherming genieten.
Een ander vereiste is menselijke tussenkomst.
Dat is ook een waarborg.
Dus als er een risicoprofiel wordt toegepast in een bepaalde situatie...
en jij maakt daar bezwaar tegen als persoon bij wie dat gebeurt...
dan moet er een mens zijn die kijkt naar het risicoprofiel...
en een beslissing die daar wellicht aan verbonden is.
Dat moet ook iemand zijn die dan de feitelijke macht heeft...
om die beslissing terug te draaien en die daar ook voldoende inzicht voor heeft.
Die kan dus niet met een systeem werken wat hij zelf niet snapt.
Risicoprofilering is een fenomeen wat ervoor kan zorgen...
dat de architectuur van de samenleving waar we in leven...
drastisch wordt veranderd.
Je kan terechtkomen in een soort poortjesmaatschappij...
waarin iedereen middels een soort stoplichtsysteem...
je bent of groen, of geel, of rood...
beslissingen over zich genomen krijgt.
Dat is iets wat al in verregaande mate gebeurt.
Je ziet bijvoorbeeld al dat dit soort risicoscores of -kleuren worden geïntroduceerd...
op lagere scholen, universiteiten en op tal van andere plekken.
Het is daarbij altijd heel belangrijk om in het achterhoofd te houden...
dat we in wezen bezig zijn met statistiek.
Dat we nog steeds in een rechtsstaat leven waar mensen moeten worden behandeld...
op basis van wat ze hebben gedaan, niet op basis van wat de kans is dat ze iets gaan doen.
OUTROMUZIEK