We moeten ‘iets’ met data-ethiek of digital ethics – dat hoor je steeds vaker in het bedrijfsleven. Hoe komt dat?
Het concept ‘vertrouwen’ in relatie tot het gebruik van data en technologie wordt steeds belangrijker voor organisaties. Voorheen stond waarde bieden aan aandeelhouders centraal, maar nu is het belangrijker dat organisaties vertrouwen opbouwen en hebben bij alle belanghebbenden: medewerkers, leveranciers, de maatschappij etc. De publieke opinie omtrent het gebruik van data en technologie, wordt de laatste tijd steeds meer gevoed door negatieve berichtgevingen – van de toeslagenaffaire tot discriminerende algoritmes. Er is hier ook steeds meer media-aandacht voor, bijvoorbeeld via Netflix-documentaires als ‘Coded Bias’ of ‘The Social Dilemma’. Mensen worden zich bewuster van wat technologie allemaal kan en hoe groot de impact is. Ze zijn kritischer en verwachten dat concepten die we kennen uit de offlinewereld, zoals transparantie en non-discriminatie, ook terug te zien zijn in de digitale ‘online’ wereld. Je ziet dat organisaties hierdoor beseffen dat ze anders naar technologie moeten kijken. Technologie moet niet louter ingezet worden voor kostenbesparingen of efficiëntie, maar moet ook positief bekeken worden: hoe kan ik data en technologie inzetten om waarde te creëren voor iedereen met als gevolg het vertrouwen van consumenten en andere belanghebbenden te versterken? Dat is precies waar ‘digital ethics’ over gaat.’
Ethiek is een breed en vaag begrip. Wat betekent het volgens jou en waarom is het zo belangrijk?
‘Digital ethics gaat in de basis over ‘het goede’ doen met data en technologie. Wat dat goede precies is, dat moet je in een samenleving en binnen een organisatie met elkaar bepalen. Daarbij zou de focus moeten liggen op het creëren, behouden en vergroten van vertrouwen van alle belanghebbenden. We zien dat alleen voldoen aan wet- en regelgeving niet genoeg is om klanten en andere belanghebbenden de beste ervaring te bieden. Wetgeving kan technologische ontwikkelingen simpelweg niet bijbenen. Bovendien geeft de wet alleen een bandbreedte van toelaatbaarheid aan, maar er is ook altijd speelruimte.
Ik probeer digital ethics altijd concreet te maken met een voorbeeld. Een goede chef-kok wil al zijn gasten een fantastisch diner en een geweldige ervaring bieden. Wat doet zij als iemand binnenkomt met bijvoorbeeld een glutenallergie? Niks doen betekent een ontevreden klant en misschien zelfs een negatieve recensie waardoor vertrouwen van je klanten weg gaat en minder klanten meer komen. Dus zorgt zij ervoor dat ze alle klanten ongeacht hun dieetwensen een geweldig ervaring kan bieden door rekening te houden met diverse wensen. Dat is precies de houding die consumenten ook steeds meer in de digitale wereld verwachten van organisaties. Hou rekening met iedereen, niet alleen bepaalde doelgroepen, geef mensen inzicht in wat je met hun gegevens gaat doen (transparantie), geef ze autonomie over die gegevens, behandel ze met respect en discrimineer niet. Als je het zo omschrijft, kun je je eigenlijk niet voorstellen dat er organisaties zijn die digital ethics níet belangrijk vinden.
De macht van de publieke opinie is simpelweg te groot: kijk maar naar het enorme effect dat de ‘Black Lives Matter’-protesten vorig jaar hadden, ook op organisaties. Dat gaat verder dan een morele kwestie: reputatieschade, omzetverlies, moeizame personeelswerving – het ligt allemaal op de loer als je als organisatie niet aan de slag gaat met ethische en verantwoorde vraagstukken bij het gebruik van data en technologie. Ik zie gelukkig al veel mooie voorbeelden van digitale oplossingen die echt waarde toevoegen aan het leven van mensen. Bijvoorbeeld de food-apps van supermarkten die de optie bieden of gaan krijgen om je allergieën door te geven, zodat je een seintje krijgt als een product ingrediënten bevat waar je allergisch voor bent. Of denk aan medische apparatuur. Daarmee wordt aangetoond hoe technologie ook ingezet kan worden om mensenlevens te redden.’
Is ethiek voor elke organisatie relevant?
‘Absoluut! Je moet als organisatie naar je positie in de maatschappij kijken en bepalen waar je de data en technologie voor gebruikt. Die context is cruciaal voor de aanpak en de snelheid waarmee je digital ethics binnen je organisatie verankert. Dat ‘big tech’ niet om ethiek heen kan spreekt voor zich, vanwege de grote rol van hun technologieën in onze maatschappij. Maar hetzelfde geldt voor alle organisaties die data en technologie inzetten voor bijvoorbeeld marketing, HR of fraudebestrijding. Dit vanwege het hoge risico op discriminatie en/of uitsluiting. Of neem de hierboven genoemde supermarkten, die via loyaliteitsprogramma’s en food apps inzicht kunnen krijgen in iemands levensstijl en gezondheid. Je moet dan vooraf al bepaald hebben hoe je daarmee omgaat. Ik noem nu vooral B2C-bedrijven, maar voor B2B wordt dit net zo belangrijk – zij leveren immers diensten en producten aan B2C-bedrijven. En die kijken op hun beurt weer kritischer naar alle leveranciers en partners in hun ecosysteem.’
Het bewustzijn van ethiek neemt de laatste jaren toe in het bedrijfsleven, maar de hoe-vraag is voor velen nog niet beantwoord. Waar moeten organisaties beginnen? En hoe maak je van ethiek uiteindelijk echt een succesverhaal?
‘Ik zie de bewustwording inderdaad toenemen en ben positief gestemd. Steeds meer, vooral grote, organisaties zijn er mee bezig en willen verantwoord en ethisch innoveren. Vaak begint dat bij iemand die intrinsiek gemotiveerd is om het goede te doen. Dat kan iemand uit de directie zijn, maar net zo goed een data scientist die zelf aan de slag gaat met principes voor algoritmes. Meerdere routes zijn mogelijk. Maar net als bij alle organisatievraagstukken geldt: overtuiging van het senior management is essentieel om van digital ethics echt een succes te maken.
Uiteindelijk heb je een plan nodig om klaar te zijn voor toekomstige veranderingen. Digital ethics is geen one-off en geen simpele checklist. De publieke opinie over wat wel of niet acceptabel is, verandert namelijk continu. Het gaat erom dat je een werkwijze en organisatiecultuur creëert die je flexibel maakt. Het is een utopie dat je dat in één keer kunt doen, maar begin vooral – en begin verantwoord. Het voordeel is dat door de AVG al veel werk verzet is. Veel organisaties voeren bijvoorbeeld al een Data Protection Impact Assessment (DPIA) uit voordat ze een nieuwe technologie inzetten of nieuwe campagne opstarten: daar kun je makkelijk een aantal ethische vragen aan toevoegen, als startpunt.
De corona-app vind ik een passend voorbeeld van de waarde van de toepassing van digital ethics bij lastige dilemma’s, in dit geval tussen privacy en gezondheid. In deze situatie lag het zwaartepunt bij het beperken van gezondheidsrisico’s, maar er zijn daarnaast ook allerlei maatregelen genomen om de privacyrisico’s te minimaliseren.’
Hoe ziet jouw ideale toekomstbeeld eruit, kijkend naar digital ethics?
‘Als ik echt ver vooruitkijk, zijn we op weg naar een hybride wereld, waarin het onderscheid tussen online en offline verdwijnt en waarin alles met elkaar is verbonden. De term bedacht door professor Luciano Floridi ‘Onlife’ vind ik daar een hele mooie term voor. Dat betekent ook dat organisaties die het goed willen doen idealiter één moreel kompas hebben voor zowel online als offline. Eén verhaal over hoe zij met hun klanten om willen gaan en vertrouwen willen creëren, die richtinggevend is voor elke keuze die gemaakt wordt: over security, het verkopen van data, legal, waarde creëren voor consumenten, samenwerking met leveranciers en ga zo maar door.
Dit klinkt nog ver weg, maar gaat sneller dan je denkt. Ik maak vaak de vergelijking met duurzaamheid en verantwoord ondernemen. Het belang van duurzaamheid en klimaatbewust handelen is voor bedrijven en organisaties exponentieel toegenomen in korte tijd. Ik verwacht dat verantwoord omgaan met data en technologie eenzelfde soort relevantie voor organisaties gaat krijgen. Er zijn nu al organisaties die dit meenemen in hun jaarverslagen en duurzaamheidsrapportages. De Sustainable Development Goals van de VN laten in dat opzicht ook weinig te raden over: alles wat je doet, moet je met in achtneming van mens en klimaat doen – dus ook bij de inzet van data en technologie.’
Wil je aan de slag met data-ethiek? Ben je op zoek naar meer houvast bij het ontwikkelen van een ethische visie op data? Lees dan meer over de DDMA Workshop Data-ethiek in de praktijk.
Erik Molkenboer
Ook interessant
Zaak Meta en Schrems: Openbare data is geen vrijbrief voor gepersonaliseerde advertenties
Duurzaamheidsclaims in marketing: wat mag en wanneer is sprake van misleiding?
