Martin Heidegger wist het ons al te vertellen. In zijn meesterwerk ‘Die Frage Nach der Techniek’ (1954) laat hij zien dat technologie nooit neutraal is. Het vervormt de manier waarop we leven en welke verwachtingen we hebben van onszelf, de natuur en het leven. Er is weinig fantasie voor nodig om te voorzien dat de huidige digitale transformatie grote gevolgen gaat hebben in het economische domein. Slimme technologie speelt hierin een belangrijke rol, waarbij er een hoofdrol is weggelegd voor op algoritmes gestoelde Artificiële Intelligentie (AI).
We hebben tegelijkertijd veel recente voorbeelden gezien waaruit blijkt dat we dergelijke technologie niet blind kunnen vertrouwen. Soms omdat er verkeerde dingen mee gedaan wordt, zoals in het Cambridge Analytica-schandaal. Soms omdat algoritmes vol racistische en seksistische vooroordelen blijken te zitten. Zo herkent niet ieder automatisch zeeppompje de hand van een donker persoon en komt het geregeld voor dat geautomatiseerde vertaalprogramma’s er in vertalingen van uitgaan dat een dokter altijd een man is en een verpleegkundige een vrouw. Er is doordacht en vernieuwend leiderschap nodig om op een betekenisvolle manier om te gaan met deze materie, met sterke morele fundamenten als uitgangspunt. De vraag moet daarom niet zijn hoe we digitale transformatie in een organisatie vormgeven, maar vooral waarom.
Al enkele decennia vindt er een breed debat plaats over de maatschappelijke verantwoordelijkheid van het bedrijfsleven. Er bestaat niet alleen een verantwoordelijkheid om winst te maken, maar ook een verantwoordelijkheid om zorg te dragen voor mens en milieu. Voor veel bedrijven zijn termen als ‘The Triple Bottom Line’, ‘Duurzaamheid’ en ‘Integrated Reporting’ inmiddels gesneden koek. Echter zien we dergelijke termen vaak wat meer als onderdeel van een business model dan als leidende principes. Complicerende factor in dat debat is dat het abstracte verband van mensen die samen een bedrijf vormen soms wat ver afstaat van de morele beleefwereld van individuen. Dat wordt nog eens extra lastig wanneer in toenemende mate technologie wordt ingezet in de interactie met mensen: AI heeft geen moreel besef, maar kan wel morele voorkeuren uitdragen. Hierdoor dreigt het gevaar dat er een dubbele morele verwijdering ontstaat tussen bedrijf en individu. Nog een reden om bedrijfsethiek niet als een business model te zien, maar als een fundament waarop het bedrijf kan staan. Hierbij is het individu geen lijdend voorwerp, maar een bron van morele input.
Morele uitdagingen in het economische domein
Het is belangrijk om na te denken over de relatie van een organisatie met de verschillende stakeholders wanneer digitale transformatie leidt tot een hernieuwde manier van zakendoen. Niet iedereen begrijpt hoe een algoritme werkt, of herkent de hand van AI in een bepaalde toepassing. Door digitale transformatie kan er een kennisgat ontstaan tussen diegene die de technologie inzet, en diegene die er gebruik van maakt of er de gevolgen van ervaart. Er ontstaat een ongelijkwaardige relatie waarbij met name de consument in toenemende mate kwetsbaar kan zijn. En met die kwetsbaarheid moeten leiders en managers moreel goed omgaan.
We zouden kunnen stellen dat degene die de technologie inzet de verantwoordelijkheid draagt voor het belang van bijvoorbeeld de consument. De gemiddelde Volkswagenrijder zal niet veel verstand hebben van de software waarmee uitstoot gemeten wordt en de gemiddelde Facebookgebruiker kan niet volledig doorgronden hoe bepaald wordt wat er in zijn/haar tijdlijn voorbij komt. En hoe vinden we het wanneer we een chatbot trainen om zo menselijk of betrouwbaar mogelijk over te komen? Kan dit de autonomie van de persoon aan de andere kant van de lijn aantasten?
Niets meer missen?
Schrijf je dan in voor onze nieuwsbrief
Tegelijkertijd schuilt in de goede bedoeling van het nemen van verantwoordelijkheid ook een serieuze valkuil: het kan leiden tot ongewenste paternalistische relaties tussen degene die de technologie inzet, en diegene die ermee te maken krijgt. Mag je duurzaamheid opdringen aan een consument door groenere alternatieven eerder te laten zien in een webshop? En wie bepaalt wanneer een chatbot wel of niet een leugentje om bestwil mag vertellen wanneer dit voor de gesprekspartner leidt tot betere resultaten? Mag een algoritme informatie blokken die niet in lijn is met bepaalde wetenschappelijke inzichten? Hier moeten we goed over nadenken en niet alleen nádat we digitaal getransformeerd zijn.
Morele verwachtingen
We zullen dus op zoek moeten naar manieren om de morele verwachtingen rondom digitale transformatie in kaart te brengen. Niet alleen binnen, maar vooral ook buiten die commerciële organisatie. Wanneer technologie een grote impact heeft op het leven van een gebruiker, dan zal die gebruiker daar wat van moeten kunnen vinden. Wanneer de impact niet alleen de gebruiker betreft, maar ook een bredere maatschappelijke impact heeft, dan is het van belang om politieke processen te betrekken bij het ontwerpproces van technologische vernieuwing.
Het wordt een uitdaging om op een goede manier te achterhalen welke waarden we binnen welke relaties willen nastreven en deze input op een integere manier door te voeren in de visie en aansturing van een commerciële organisatie. Dat vergt veel meer dan het formuleren van een goed bedoelde code of conduct en het jaarlijks toevoegen van een mooi verslag aan de jaarcijfers waarin een bedrijf aangeeft te werken aan een positieve maatschappelijke bijdrage. Dat komt in de praktijk toch een beetje neer op de slager die haar eigen vlees keurt en dat kan ertoe leiden dat gebruikers van technologisch hoogwaardige producten of diensten een ‘take it or leave it’-gevoel krijgen, waarbij de keuze ‘leave it’ soms lastig is.
Zo kun je in sommige sectoren simpelweg niet overleven zonder gebruik te maken van enkele gevestigde socialmediakanalen. Wanneer je ‘shared value’ wilt creëren zal je serieus onderzoek moeten doen naar wat die gewenste waarde dan kan zijn. Alleen dan kun je een relatie opbouwen die gebaseerd is op vertrouwen, omdat je laat zien te begrijpen wat het belang is van gebruikers en dit belang altijd als uitgangspunt neemt. Dat is –in lijn met het werk van Mayer et al– zelfs de kern van vertrouwen.
Het in kaart brengen van deze wederzijdse verwachtingen kan door breder onderzoek te doen naar de ethische perceptie van gebruikers waarin nieuwe technologie gebruikt wordt. Denk daarbij aan Virtual Reality simulaties en het testen van prototypes door potentiële gebruikers. Daarnaast zal er een feedbackloop moeten ontstaan waarbij nagegaan wordt of de ethische verwachtingen ook daadwerkelijk waargemaakt worden wanneer de toepassing daadwerkelijk gebruikt wordt. Bij het in kaart brengen van dergelijke morele verwachtingen is dus een meer gelijkwaardige relatie nodig met stakeholders.
Moreel leiderschap
Digitale transformatie is dus geen doel maar een middel. Het kan leiden tot fundamentele veranderingen in klantinteractie, klantbeleving, waardenproposities en business modellen. Een vraag die te vaak gesteld wordt is hoe we dat moeten doen, terwijl we ons vooral de vraag zouden moeten stellen waarom we dergelijke veranderingen willen omarmen. ‘Wat is je Massive Transformative Purpose (MTP)?’, zoals Singularity University het verwoordt. Wanneer ‘digitaal’ de kern wordt van je bedrijf, helpt het om dit voor ogen te hebben en van daaruit na te denken welke waarden je wilt nastreven door de bedrijfsvoering op die manier in te richten. Zoals Covey zou zeggen: er is een houding nodig waarbij je veel meer vanuit een principieel dan vanuit een pragmatisch paradigma te werk gaat. Niet het hoe, maar het waarom is leidend. Een mooi beginpunt van een dergelijke zienswijze zien we toegepast door John Elkington (bijvoorbeeld in zijn baanbrekende werk ‘cannibals with forks’): bedrijven moeten niet redeneren vanuit hun product of dienst, maar vanuit de functie of ‘rol’ die ze willen hebben in de samenleving. Je levert geen stroom, maar energie aan de samenleving. Je verkoopt geen auto’s, maar verbetert mobiliteit in de samenleving. Je verhuurt geen DVD’s maar je draagt bij aan een filmbeleving. En, in ons eigen werk: we bieden geen onderwijs, maar kennisontwikkeling en persoonlijke ontplooiing aan mensen in de samenleving.
Maar het gaat nog een stapje verder. Wanneer deze waarden samen met relevante stakeholders vanuit een gedeelde MTP ontwikkeld worden, dan heb je een gedeeld handelingsperspectief van waaruit je AI wilt ontwikkelen. Wanneer je MTP bijvoorbeeld ‘duurzame mobiliteit’ en ‘comfort’ is, dan kan het goed zijn dat digitale vernieuwing een onmisbare bouwsteen is in de realisatie van die MTP. ‘Data-driven’ is daarbij nu geen loos containerbegrip, maar heeft een doel gekregen: welke data kan ik gebruiken en inzetten om deze kernwaarden vorm te geven? Dat vergt niet alleen data over medeweggebruikers, data van de publieke sector –zoals regels in het verkeer, maar ook info over wegwerkzaamheden- en data over uitstoot en energieverbruik. Het vergt uiteindelijk toepassingen die deze enorme bulk aan data kunnen ombouwen naar betekenisvolle toepassingen die bijdragen aan de waardenrealisatie die je als organisatie voor ogen hebt.
Digitale transformatie stuurt niet, maar wordt gestuurd
Innovatie wordt nu niet gestuurd door digitale transformatie, maar digitale transformatie wordt gestuurd om te vernieuwen. Een dergelijke sturing kan alleen wanneer je heel helder voor de geest hebt wat je MTP en je waarden zijn. Dat je data wellicht ook kunt gebruiken als mogelijke handelswaar waardoor de privacy van je gebruikers op het spel komt te staan, is ongetwijfeld waar. Maar wanneer het niet in je waarden zit om op deze manier met data om te gaan – en die kans lijkt klein wanneer we de stakeholderdialoog serieus genomen hebben – dan zal data dus ook niet snel op die manier aangewend worden.
De vraag is dus welk doel we voor ogen hebben bij de toepassing van slimme technologie. Het bepalen van dit doel vergt een gezamenlijke inspanning van relevante stakeholders bij een organisatie. Aan het stuur van dit proces moeten vernieuwende leiders staan die moedig genoeg zijn om te varen op een moreel, en niet een digitaal kompas. Juist dan kan een bedrijf een inspirerende, digitale koploper worden. Het idee om waarden niet vanuit de context van een businessmodel te zien, maar als een onwrikbaar fundament klinkt voor sommigen misschien als een contradictie. Wat nu wanneer je kernwaarden te duur worden? Maar het is ons inziens slechts een contradictio in terminis: juist bedrijven met een sterk moreel fundament zullen beter bestand zijn om te gaan met de snelle technologische progressie en een duurzamer economisch succes kunnen realiseren.
Onderwijs
Ook voor ons onderwijs heeft digitale transformatie gevolgen. Universiteiten en hogescholen moeten met bedrijven in gesprek om samen te bespreken wat de implicaties zijn voor het opleiden van toekomstige professionals in het bedrijfsleven. Wij zijn gelieerd aan de Fontys School of Business and Communication en zien dat onze economie-, marketing-, accountancy- en vastgoedstudenten niet alleen vakinhoudelijk moeten worden opgeleid. Ze moeten juist ook een moreel denk- en handelingskader meekrijgen over wat ethische AI betekent voor hun vakgebied en hoe ze dit strategisch kunnen verwezenlijken binnen een organisatie. Want, zoals Kane et al. overtuigend stellen in hun werk ‘the Technology Fallacy’: succesvolle Digitale Transformatie wordt niet gerealiseerd door technologie, maar door mensen. En daar is een breed gedeeld vertrouwen voor nodig.
Door: Bart Wernaart & Mignon van Halderen
Bart Wernaart is Senior researcher recht & ethiek, Fontis Hogescholen. Correspondentie over dit artikel via b.wernaart@fontys.nl.
Mignon van Halderen is Lector thought leadership, Fontys Hogescholen.
