X
07mrt

Gedragsbeïnvloeding: de risico's van technologie en data

Onze toenemende angst voor veiligheids- en gezondheidsrisico’s zorgt ervoor dat we bedrijven en overheden toestaan data over ons te verzamelen om ons te kunnen beschermen en de risico’s te kunnen managen. Als gevolg daarvan worden digitale middelen en technologie steeds vaker ingezet ter gedragsbeïnvloeding. Hoe vergevorderd deze ontwikkeling is, wordt tijdens de coronacrisis extra zichtbaar. In hoeverre kunnen we al spreken van een digidystopie? En wat zijn de risico’s van gedragsbeïnvloeding en -verandering?

Technologie en data in onze dagelijkse realiteit

Inmiddels zijn cookies (data over jouw internetgedrag) volledig geïntegreerd op het web. Een bonuskaart met persoonlijke aanbiedingen lijkt een onschuldig pasje om geld mee te besparen. En ook de smartwatch, die jouw dagelijkse beweging bijhoudt, is niet meer weg te denken uit onze samenleving.

Deze schijnbaar onschuldige en dienstbare technologieën worden ook wel persuasive technology genoemd, omdat ze niet alleen data verzamelen, maar er specifiek op zijn gericht om ons gedrag te beïnvloeden en te veranderen. Zo zorgt een bonuskaart ervoor dat jij deze week crackers koopt in plaats van paprikachips en helpt de smartwatch je om meer stappen te zetten. Hoewel deze gedragsbeïnvloeding in overeenstemming is met de persoonlijke doelen van de gebruiker, zijn er ethische bezwaren. De technologieën slaan namelijk jouw data op (om je in de toekomst nog beter van dienst te kunnen zijn) en bedrijven hebben als gevolg daarvan zeer persoonlijke informatie over gebruikers in handen. Zo weet het bedrijf achter jouw smartwatch precies wanneer je slaapt, of je een actief of zittend beroep uitoefent en of je een gezondere levensstijl ambieert.

Maar daar blijft het niet bij. Door data te koppelen, kunnen complete gedragsprofielen van individuen worden gecreëerd. Als iemand veel YouTube-video’s bekijkt over fitness, vaak te vinden is in een sapjesbar en bovendien een relatief hoog stappendoel heeft, dan trekt de technologie de conclusie dat het individu geïnteresseerd is in gezondheid en sport. Het is zelfs mogelijk de emotionele staat van iemand te meten, bijvoorbeeld aan de hand van een smartwatch. Al deze componenten leiden ertoe dat marketing zeer persoonlijk kan worden afgestemd. De technologie weet enorm secuur te voorspellen waar de consument op welk moment van de dag behoefte aan heeft, en speelt hier vervolgens op in. Voor techreuzen als Facebook is dat erg interessant, want op die manier kan veel geld worden verdiend.

Deze ontwikkelingen maken grote technologiebedrijven als Facebook zeer machtig. Zulke conglomeraten vormen mogelijk zelfs een bedreiging voor de democratie, omdat zij nieuwsstromen beheren en enorme hoeveelheden privacygevoelige gegevens verzamelen.

 

Onze data en de overheid

In de bedrijfswereld wordt dus veelvuldig gebruik gemaakt van data om gedrag te sturen. Hoe zit dat met de overheid?

In landen als China wordt door de overheid al geruime tijd ingezet op technologie om de burgers te controleren en te sturen. In zogenaamde ‘slimme steden’ in China worden camera’s op straat gebruikt om door middel van gezichtsherkenning Oeigoeren op te sporen. Bovendien beweert advocaat Michael Sprenger dat de Chinese overheid een onlinetrollenleger heeft ingeschakeld om een positief beeld te creëren omtrent de lockdown tijdens de coronapandemie.

Ook in Amerikaanse en Britse steden wordt technologie ingezet om de stad te managen, maar dit heeft als doel de burger te dienen en de leefomgeving te verbeteren. De bedoeling is dus goed, maar uiteraard zijn er vraagtekens te plaatsen bij het inzetten van persoonlijke data.

In Nederland zien we enkele ontwikkelingen waarbij de overheid actief gebruik maakt van data. Zo staan er in sommige gemeentes ‘slimme lantaarnpalen’ met meer functionaliteiten dan slechts de verlichting van de straat. Deze lantaarnpalen bevatten sensoren die data verzamelen over onder andere de hoeveelheid verkeer en de hoogte van het water op straat. De gemeente levert deze data vervolgens aan andere partijen die hun diensten met bijvoorbeeld omwonenden willen delen.

Maar ook in het kader van de volksgezondheid zien we in Nederland een verhoogd gebruik van technologie. Tijdens de rellen op het Museumplein in januari 2021 werden drones ingezet om de demonstranten en omstaanders te controleren. De politie kon daarmee agressieve uitingen signaleren en registreren en bovendien fungeerden de drones als luidsprekers.

De Nederlandse overheid neemt op het gebied van veiligheid en de volksgezondheid steeds meer een sturende rol aan. Zo is in 2014 vastgelegd dat alle ministeries experimenteren met gedragssturing, waarbij gebruik wordt gemaakt van inzichten uit de gedragseconomie en de sociale psychologie. In reclames van Rijksoverheid wordt het gebruik van de corona-applicatie gepromoot, om een sociale norm te stellen en om ervoor te zorgen dat burgers de corona-app downloaden. Ook dit is een vorm van gedragssturing. En met de corona-app zelf wordt natuurlijk de locatie van de gebruiker ingezet om, indien nodig, aan te zetten tot een quarantaineperiode.

 

Het belang van tegengeluiden

Zijn we dan al beland in een digidystopie? Een antwoord daarop is niet eenduidig te geven, omdat een dystopisch beeld individueel bepaald is. Er zou beargumenteerd kunnen worden dat de inzet van technologie al zodanig gevorderd is, dat er sprake is van een afschrikwekkend beeld. We worden immers gedeeltelijk aangestuurd door onze smartwatches, bonuskaarten en door reclames van de Rijksoverheid.

Anderzijds is de technologie ons nu van dienst en zijn de ontwikkelingen niet in strijd met de wensen van het individu. Integendeel zelfs, want het individu wordt ondersteund bij het behalen van een stappendoel. Bovendien is er nog geen sprake van volledige eenvormigheid, oftewel: de burgers hebben nog individuele doelen, wensen en gedachten.

Toch is het belangrijk om te waken voor uniformiteit, omdat juist onze individuele kenmerken de samenleving vormgeven. Wanneer iedereen hetzelfde denkt en doet, verdwijnt de kritische reflectie volledig en zullen de burgers in dienst staan van de machtige techreuzen of overheden. Het geven van tegengeluiden aan techreuzen en overheden is daarom zeer belangrijk, zo beargumenteren wetenschappers. Om dat te kunnen doen, moeten we ons bewust zijn van de risico’s en langetermijngevolgen van digitalisering en slimme technologie.

 

Bronnen:

Bernie van Unen (AD) over slimme lantaarnpalen

David Bremmer (De Ondernemer) over techreuzen

Universiteit Twente over persuasive technology

Gepubliceerd in Risicomanagement

Over de auteur

Gerelateerd

Geen artikelen