We moeten ‘iets’ met data-ethiek – dat hoor je steeds vaker in het bedrijfsleven. Hoe komt dat?
‘De negatieve kanten van data en technologie komen de laatste jaren veel meer aan het licht. Aan het begin van de jaren ’10 heerste er nog een hosannasfeer rondom alles wat met nieuwe technologie te maken had. Alles werd omarmd en niemand keek kritisch naar big tech. Dat spiegeltjes- en kraaltjesstadium zijn we nu wel voorbij. Mede door een aantal geruchtmakende zaken – denk aan Cambridge Analytica – is dit beeld nu 360 graden gedraaid. De wal heeft het schip gekeerd. De grote tech-partijen worden bijna gezien als een soort roofridders, de maatschappelijke opinie over data en technologie is voornamelijk negatief en de politiek is volop bezig met strengere regels. Die ontwikkeling zorgt ervoor dat begrippen als privacy, ethiek en vertrouwen veel meer zijn gaan leven in het bedrijfsleven. Organisaties zijn zich nu steeds meer bewust dat het gebruik van data en technologie ook risico’s met zich kan brengen.’
Ethiek is een breed en vaag begrip. Wat betekent het volgens jou en waarom is het zo belangrijk?
‘Of je het nu data-ethiek, digital ethics of responsible tech, zoals wij vaak doen, noemt, het doel is hetzelfde: voorkomen dat het misgaat. Dat doe je door beter na te denken over de onvoorziene effecten van technologie, bijvoorbeeld over een algoritme dat alleen maar laat zien wat je leuk vindt. Zo’n algoritme leek eerst heel handig, pas later kwam er aandacht voor het begrip filterbubbel. Zo gaat het eigenlijk altijd: er is een nieuwe technologie, die wordt toegepast, er ontstaan op wat voor manier dan ook problemen, er komt een maatschappelijke discussie die vervolgens politiek wordt, de oproep tot regulering neemt toe en uiteindelijk komen er nieuwe regels. En als organisatie moet je die regels vervolgens weer implementeren, wat vaak enorme transformatieprocessen zijn, zoals je zag met de AVG.
Door ethisch naar technologie te kijken draai je het om: in plaats van te wachten tot er weer nieuwe regels komen, kun je beter anticiperen. Door meteen te kijken naar de onverwachte effecten of risico’s, al vanaf het begin van een ontwerp of gebruik van een nieuwe oplossing. Value-sensitive design noem ik dat. Natuurlijk is ethiek breed – voor mij is het een overkoepelend verhaal van privacy, security, inclusiviteit, het hele spectrum aan menselijke waarden – maar in de praktijk komt het ook gewoon neer op logisch nadenken. Zorg ervoor dat je weet wat er leeft in de maatschappij, maar kijk ook als een consument naar je eigen producten.’
Is ethiek voor elke organisatie relevant?
‘Ja absoluut. Al zijn er wel duidelijke verschillen. In het algemeen zie ik nu 3 soorten organisaties qua ethiek. Als eerste heb je de big tech-partijen, die strijden tegen een negatief imago en daarom hard werken aan consumentenvertrouwen. Dan heb je een kleine groep voorlopers die echt intrinsiek gemotiveerd zijn. Denk hierbij aan ASN, Triodos en XS4All, organisaties die vanuit hun missie altijd al naar hun impact op de maatschappij keken, dus ook wat data en technologie betreft. Als laatste is er een hele grote groep bedrijven die zich richting klanten niet meteen kunnen onderscheiden met privacy en ethiek. Neem een bedrijf dat kinderwagens verkoopt. Die zeggen: ik wil best verantwoordelijk zijn, maar niet voorlopen. Natuurlijk krijgt ethiek meer lading als je producten of diensten zelf data gebruiken en interacteren met mensen dan wanneer je data alleen inzet voor marketing. Er is een duidelijk verschil tussen een gewone kinderwagen en een smart kinderwagen – bij die tweede komen er veel meer ethische vragen bij. Maar in de basis geldt: elke organisatie is onderdeel van de maatschappij en maakt gebruikt van data en technologie, dus dan ontkom je niet aan ethiek. Bovendien leven we qua technologie in hele spannende tijden. Iedereen kijkt nu vooral naar AI, maar de impact van VR en AR gaat misschien nog wel groter zijn. Denk aan een levensechte avatar of een AR-bril met deepfake – dat roept weer allerlei andere ethische vragen op, ook qua marketing en beïnvloeding van mensen.’
Ethiek klinkt soms nog als iets dat vooral nobel is. Wat levert een ethische werkwijze organisatie nu concreet op?
‘In de ideale wereld is een verantwoordelijke manier van werken noodzakelijk voor het verdienen van geld. Zover zijn we nog niet, ook niet op andere onderwerpen zoals het klimaat. Er is maar een beperkt aantal organisaties dat echt meer gaat verkopen door actief met privacy en ethiek bezig te zijn, zoals XS4ALL. Apple doet het nu ook slim, die hebben van privacy succesvol een USP gemaakt. Maar voor de meeste organisaties is het vooral een dissatisfier: pas als er iets misgaat – een datalek, een discriminerend algoritme – worden mensen boos. Dat maakt het niet minder belangrijk, maar het is niet echt een positief verhaal.
Toch is er wel degelijk een financiële kant aan ethiek. Daarmee kom ik weer terug bij de cyclus van regelgeving waar ik het eerder over had. Heel algemeen gesteld: alles wordt uiteindelijk een wet. Iets concreter: elke paar jaar zijn er weer nieuwe regels waar je je als organisatie op moet voorbereiden, nieuwe werkwijzen voor moet inrichten en dus ook veel geld aan moet uitgeven. Er zijn nu verschillende grote EU-wetten op komst en we weten allemaal nog hoeveel tijd, werk en geld de AVG kostte. Een ethische werkwijze zorgt ervoor dat je bij elke nieuwe wet je businessmodel hoeft aan te passen. Je hebt immers al geanticipeerd op de onvoorziene effecten van technologie en houdt al rekening met de impact op je klanten en de maatschappij. Financieel gezien is dat een stuk voordeliger dan steeds net voldoen aan de regels en afwachten tot de volgende wet komt.’
Het bewustzijn van het belang van ethiek neemt de laatste jaren toe in het bedrijfsleven, maar de hoe-vraag is voor velen nog niet beantwoord. Waar moeten organisaties beginnen?
‘Value-sensitive design is voor mij het uitgangspunt: alles testen in de vroege beginfase. Wil je dat echt goed en structureel doen, dan is intrinsiek bewustzijn cruciaal. Medewerkers moeten snappen dat ze iets maken dat impact heeft op de maatschappij en dat mensen raakt. Daarvoor moet je de organisatiecultuur veranderen, de governance anders inrichten. Daar zijn we echter nog lang niet. Ik zie nu dat veel organisatie beginnen met een soort productbeoordelingscommissie, een data usage board. Daarmee creëer je nog geen intrinsieke motivatie, maar het is een hele zinvolle stap, omdat je daardoor privacy en ethiek meeneemt in de productontwikkeling.
Daarnaast is het in deze beginfase belangrijk om het praktisch te maken. Je moet oppassen dat ethiek geen filosofisch verhaal wordt, door het concreet te maken krijg je mensen mee. Dat doen wij bijvoorbeeld door organisaties te laten zien hoe je value-sensitive design direct toepast op nieuwe campagnes. We voegen daarbij als het ware een extra stap toe aan de DPIA (Data Protection Impact Assessment). Ook doen we veel algoritme-assessments, met als doel ontwikkelaars verder te laten kijken dan alleen de techniek. Hoe gaat het algoritme bijvoorbeeld werken in contact met mensen? Dit zijn kleine stappen, die voor steeds meer bewustzijn zorgen bij mensen die dagelijks met data en technologie werken.”
En hoe maak je van ethiek uiteindelijk echt een succesverhaal?
‘De assessments die ik zojuist noemde zijn een goede stap, maar je moet wel oppassen dat je een soort woud van tests en checks creëert, voor ethiek, privacy, mensenrechten en ga zo maar door. Het moet geen moetje worden, het is een hulpmiddel om betere producten en diensten te maken. Je moet wegblijven uit die compliance-hoek als je cultuurverandering wil creëren. Wat wél helpt en zelfs noodzakelijk is: de juiste toon aan de top van een organisatie. De top stelt namelijk de targets van een organisatie, en die targets zijn uiteindelijk bepalend. Ik zie dat meerdere organisaties inmiddels een moreel kompas hebben en ethisch naar data en technologie zeggen te kijken, maar bijna nergens zijn de targets daar al op aangepast. Zolang sales de enige KPI is, kom je er niet. Dan wordt ethiek nooit meer dan windowdressing.’
Wil je aan de slag met data-ethiek? Ben je op zoek naar meer houvast bij het ontwikkelen van een ethische visie op data? Lees dan meer over de DDMA Workshop Data-ethiek in de praktijk.
Erik Molkenboer
Ook interessant
Zaak Meta en Schrems: Openbare data is geen vrijbrief voor gepersonaliseerde advertenties
Duurzaamheidsclaims in marketing: wat mag en wanneer is sprake van misleiding?
