X
07mrt

Criminaliteits Anticipatie Systeem (CAS): de risico's van algoritmen

Hoe werkt predictive policing?

Predictive policing is gericht op het voorzien van veelvoorkomende criminaliteit, zoals woninginbraken, en op het voorspellen van de toekomstige plaats delict. In Amsterdam maakt de politie sinds 2017 gebruik van het Criminaliteits Anticipatie Systeem (CAS), dat afwijkende patronen opmerkt in grote hoeveelheden data. Het algoritme maakt enerzijds gebruik van historische criminaliteitsdata en anderzijds van specifieke kenmerken op wijk- en straatniveau. Dit laatste betreft bijvoorbeeld informatie over nabijgelegen op- en afritten van snelwegen, maar ook over demografische kenmerken en de hoeveelheid winkels in een gebied. Met behulp van deze data produceert het algoritme van het CAS-systeem per twee weken een digitale plattegrond, waarop te zien is in welke gebieden een verhoogde kans is op zogenoemde ‘high impact crimes’, zoals overvallen en woninginbraak. Deze plaatsen zijn zichtbaar als rode vakjes op de plattegrond.

De politie zet deze voorkennis actief in, een werkwijze die past binnen de trend van een informatiegestuurd politieapparaat. Zo wordt de inzet van flexteams mede bepaald door de roodgekleurde vakjes op de kaart en de informatie die daaruit voortvloeit. Is er een verhoogde kans op overvallen in vakje A tussen 19:00u en 22:00u? Dan zal de politie daar surveilleren en zo nodig preventief ingrijpen. Voor de politie lijkt het systeem zeer interessant, omdat het niet alleen informatie geeft over ‘waar’ en ‘wanneer’, maar ook over ‘wie’. Bovendien is deze kennis nuttig in de samenwerking met de particuliere beveiligingsbranche.

Er wordt met het CAS-systeem dus geprobeerd om de risico’s van criminaliteit te managen. Toch kent het systeem ook enige nadelen en daarmee lopen de politie en haar veiligheidspartners zelf het risico op onder andere etnische profilering, privacyschending en interpretatiefouten.

 

De subjectiviteit van data

Data wordt vaak onterecht gezien als een objectieve bron van informatie. In werkelijkheid is data juist onderhevig aan een grote mate van subjectiviteit. In het geval van politiedata is het niet ongebruikelijk dat het verwerken van misdaden haastig gebeurt en de data daardoor gebrekkig of zelfs onjuist is. Dat kan leiden tot interpretatiefouten.

Bovendien is het onontkoombaar dat de politiemensen een eigen kijk hebben op de wereld om hen heen en deze percepties (onbewust) meenemen naar hun werk. Als een agent bepaalde aannames doet over culturele identiteit en etniciteit, waarbij enigszins racistische motieven een rol kunnen spelen, dan zal dit van invloed zijn op zijn werk. Mogelijk leidt deze etnische bias tot de arrestatie van relatief meer niet-westerse burgers ten opzichte van westerse burgers. Dit resulteert in subjectieve data.

Maar ook de ontwikkelaars van het systeem zijn niet vrij van vooronderstellingen. De software is opgebouwd op een manier die de ontwikkelaar nuttig en logisch leek, maar daarin zijn al bepaalde keuzes gemaakt die een invloed kunnen hebben op de uitkomsten. De algoritmen missen in alle opzichten neutraliteit en kunnen daardoor ook geen neutrale informatie verschaffen.

 

Het zelfversterkende effect van predictive policing

Het is belangrijk om op te merken dat het CAS-systeem eigenlijk de criminaliteit uit het verleden analyseert, in plaats van de misdaden van de toekomst. Het risico hierbij is dat er een zelfversterkend effect optreedt.

Als er op plek A in het verleden relatief veel overvallen zijn gepleegd en er bovendien bepaalde demografische kenmerken en omgevingsfactoren aanwezig zijn, dan zal het CAS-systeem dit gebied bestempelen als risicogebied op de digitale plattegrond. De politie zal proberen hierop in te spelen. Maar als de politie daardoor op plek A gaat surveilleren, dan zal zij daar eerder criminaliteit opsporen dan op plek B, waar de politie niet aan het surveilleren is. Dit wordt ook wel self-fulfilling prophecy genoemd, oftewel: doordat je een bepaalde verwachting hebt en daarop anticipeert, zal de verwachting werkelijkheid worden.

Dit kan zeer kwalijke gevolgen hebben. In het geval het CAS-systeem iemand met een niet-westerse achtergrond aanduidt als potentiële wetsovertreder, dan zal de politie, bewust of onbewust, op zoek gaan naar zo’n dader. Dit leidt tot etnisch profileren, wat inhoudt dat mensen op basis van hun etnische afkomst vaker gecontroleerd worden. Het structurele probleem van etnisch profileren wordt dus mogelijk mede door predictive policing in stand gehouden.

 

Privacyrisico’s van predictive policing

Er kan gesproken worden van een risico op privacyschending omtrent de predictive policing-systemen. Het juridische beginsel van doelbinding stelt dat persoonsgegevens mogen worden verzameld voor een bepaald doel, maar niet later gebruikt mogen worden voor een ander doel. Als de persoonsgegevens van een crimineel worden gebruikt om criminaliteit op te sporen en te registreren in het politiearchief, dan zou je kunnen beargumenteren dat deze gegevens (zoals adres) niet gebruikt mogen worden voor het voorspellen van criminaliteit.

Daarnaast stelt het juridische beginsel van noodzakelijkheid dat alleen zeer noodzakelijke persoonsgegevens verzameld mogen worden. In het geval van predictive policing valt het te betwijfelen of alle gebruikte persoonsgegevens strikt noodzakelijk zijn, omdat het doel juist is om zoveel mogelijk data te verzamelen.

 

Het probleem blijft bestaan

Een ander risico is dat de politie alleen de gevolgen aanpakt (namelijk de gepleegde misdaad), maar niet de oorzaken. Hoewel de politie door het CAS-systeem in staat is om preventief in te grijpen, wordt het overkoepelende probleem daarmee niet verholpen. Het zou effectiever zijn om de oorzaken van een hoge kans op criminaliteit te onderzoeken, zodat deze weggenomen kunnen worden.

Als een hoge mate van woninginbraken in een wijk veroorzaakt wordt door gebrekkige sociale controle, dan is een logische oplossing het verbeteren van deze sociale controle. In de toekomst zullen er in die wijk als gevolg minder woninginbraken plaatsvinden en daarmee wordt de politie ontlast.

Samenvattend kan dus gesteld worden dat er behoorlijk wat haken en ogen zitten aan predictive policing-systemen en het gebruik daarvan door de politie. Ben je van plan om predictive policing in te zetten in bijvoorbeeld de beveiligingsbranche? Laat je dan adviseren door onze consultants.

Bronnen:

Lynsey Dubbeld voor de Politie Academie

Marc Schuilenburg voor Ars Aequi

Gepubliceerd in Risicomanagement

Over de auteur

Gerelateerd

Geen artikelen