Zou een organisatie volledig kunnen worden aangestuurd door algoritmes? Zou kunstmatige intelligentie de manager overbodig kunnen maken? Het lijkt wellicht een aantrekkelijk vooruitzicht, want in organisaties gaat van alles mis door menselijk handelen. Organisaties hebben bijvoorbeeld de neiging tot conservatisme, waardoor de impact van externe ontwikkelingen en technologische mogelijkheden wordt onderschat en genegeerd. We bespraken eerder al het fenomeen digitaal darwinisme dat op den duur tot het faillissement leidt van bedrijven die zich niet tijdig aanpassen aan de veranderende omstandigheden.
The DAO
Een aardige poging om een alternatieve organisatievorm te creëren, was The DAO, opgericht in mei 2016. DAO staat voor decentralized autonomous organization. The DAO bestond alleen uit open-source software, om precies te zijn een smart contract op het platform van Ethereum. Er was geen personeel, geen directeur en geen bestuur. Het was opgezet als een beleggingsfonds en iedereen die geld inlegde, kreeg stemrecht om mee te beslissen over de investeringen die het fonds zou doen. De regels van het spel, zoals geprogrammeerd in de software, waren voor iedereen zichtbaar en konden worden veranderd als een meerderheid van de deelnemers zo besliste.
Het idee sprak velen aan, want binnen een maand had deze virtuele organisatie $162 miljoen opgehaald. Deelnemers konden anoniem blijven en overheidstoezicht was er niet. Het duurde niet lang. Een groep computerwetenschappers ontdekte fouten in de software, waardoor het mogelijk was het stemproces te manipuleren.
Een anonieme hacker wist vervolgens ongeveer een derde van de ingelegde fondsen te stelen, of in ieder geval onbereikbaar te maken voor de deelnemers in het fonds. Om de situatie te herstellen is een zogenoemde ‘hard fork’ toegepast in de virtuele cryptomunt Ethereum, waardoor het mogelijk was de eerdere transacties terug te draaien. Sindsdien is Ethereum gesplitst in Ethereum en Ethereum Classic en beide bestaan nu naast elkaar.
De desillusie was niet alleen dat deze fraude plaatsvond, maar ook dat de hard fork alleen mogelijk was door menselijk ingrijpen. Dit is ook illustratief voor een veelvoorkomend misverstand over distributed-ledgertechnologie (DLT) of blockchain. Het verhaal wil dat deze technologieën veilig zijn omdat het vertrouwen is gedecentraliseerd. Vertrouwen in mensen blijft echter altijd een factor van betekenis. In dit geval moest je vertrouwen hebben in de programmeurs. Bij systemen met kunstmatige intelligentie is het niet anders. Hier moet je bijvoorbeeld vertrouwen hebben in de mensen die een algoritme trainen, de werking ervan toetsen en de toepassing ervan overzien.
Waarom bestaan organisaties?
De fundamentele reden voor het bestaan van organisaties, met mensen, is dat het simpelweg onmogelijk is om alle denkbare omstandigheden te beschrijven en te programmeren in een contract (zie: Andrew McAfee en Erik Brynjolfsson, Machine, platform, crowd. Harnessing our digital future, W.W. Norton & Company, 2017, hoofdstuk 13). Contracten zijn altijd incompleet omdat omstandigheden veranderen of er zich situaties voordoen die niet vooraf zijn bedacht. Een organisatie lost dit op door managers beslissingen te laten nemen.
Managers en leiders blijven nodig, omdat in onze complexe wereld voortdurend keuzes moeten worden gemaakt en activiteiten en reacties moeten worden afgestemd. Bovendien worden wij zelden overtuigd door alleen getallen en algoritmes. Wij hebben behoefte aan verhalen daarbij. En daar komt dan nog bij dat mensen graag met andere mensen samenwerken.
De organisatie onder leiding van mensen zal dan ook niet snel verdwijnen, maar wel veranderen. We zien dat de hiërarchie afneemt en er meer gelijkwaardigheid komt, vooral met betrekking tot ideeën. Managers zijn geen poortwachters van informatie meer. Transparantie en delen van informatie staan centraal.
Om een algoritme te ontwerpen, heb je veel voorbeelden nodig en die zijn er niet voor uitzonderlijke situaties. Bovendien kunnen bestuurders en directeuren informatie hebben die de huidige omstandigheden veranderen. Denk aan nieuwe wet- en regelgeving of technologische doorbraken, die niet in de – per definitie historische – dataset zijn opgenomen. We hebben managers nodig om beslissingen te nemen als de informatie incompleet is en je toekomstige resultaten niet kunt herleiden uit historische cijfers.
Leiderschap is problemen identificeren en oplossen
Juist in het stellen van vragen zit het overwicht van de mens en de beperking van de machine. Computers met slimme algoritmes zijn alleen gemaakt om vragen te beantwoorden. Dit betekent dat ondernemers, vernieuwers, wetenschappers, uitvinders en andere mensen die bedenken wat het volgende probleem is dat we gaan oplossen of het volgende gebied dat we gaan onderzoeken, heel hard nodig blijven.
Daarnaast zijn mensen, lees: leiders, in organisaties nodig om nieuwe oplossingen te implementeren en andere mensen te overtuigen van het nut en de noodzaak om te veranderen. We kunnen met behulp van kunstmatige intelligentie voorspellen wat er gaat gebeuren en processen optimaliseren, maar de meeste mensen moeten actief worden gemotiveerd en aangespoord om daarvan gebruik te maken.
Ook algoritmes mogen fouten maken
Dat we management en leiderschap niet kunnen robotiseren, sluit niet uit dat kunstmatige intelligentie bij het nemen van beslissingen een steeds grotere rol speelt, ook op strategisch niveau. Een veelgehoord bezwaar tegen het gebruik van slimme systemen is dat deze niet foutloos zijn, wat meestal ook zo is. Als je een algoritme traint aan de hand van verkeerde data is de uitkomst ook fout. Als de data vooroordelen bevatten, zitten die vooroordelen ook in de resultaten van het algoritme.
Bovendien is machine learning vaak een black box. Het aantal knooppunten in een (deep learning) neuraal netwerk is zo groot dat het onmogelijk is na te gaan wat er precies op elk punt gebeurt. De machine weet meer dan zij ons kan vertellen. Dit maakt het lastig de uitkomst te interpreteren en uit te leggen, ook als die uitkomst juist is. De vraag is echter hoe erg dat is. Ook mensen maken afwegingen ‘op gevoel’ die zij niet altijd goed kunnen uitleggen. Als je maar lang genoeg doorvraagt naar iemands motief, kom je uiteindelijk tot het weinig bevredigende antwoord ‘omdat ik het zo wil’.
Bij het beoordelen van kunstmatige intelligentie moet perfectie niet het criterium zijn, maar het best beschikbare alternatief. Mensen zijn allesbehalve foutloos, maar wij zijn in de regel veel toleranter voor de fouten van mensen dan de fouten van machines.
Comply or explain
Hoewel kunstmatige intelligentie vooral dient om bestuurders te ondersteunen, is het in de toekomst eenvoudig voor te stellen dat bestuurders die afwijken van het advies van een prescriptief informatiesysteem dat moeten verantwoorden. Het zou een nieuwe dimensie toevoegen aan het corporate-governanceprincipe ‘comply or explain’ (pas toe of leg uit). En als de routinematige beslissingen door kunstmatige intelligentie worden genomen, worden sociale vaardigheden, empathie, creativiteit en originaliteit belangrijkere competenties voor directies dan kennis van operaties en financiën. Vragen stellen wordt belangrijker dan antwoorden geven.
Door: Willem Peter de Ridder
Dr. Willem Peter de Ridder is directeur van Futures Studies, een strategisch adviesbureau dat organisaties ondersteunt bij het verkennen van de toekomst en het formuleren van een toekomstbestendige strategie. Hij verzorgt keynotes op congressen en medewerkersbijeenkomsten, geeft strategieworkshops voor managementteams en doceert in executive programma’s van onder andere de Erasmus Universiteit Rotterdam en TIAS.
Dit blog is gebaseerd op het boek Winnen met kunstmatige intelligentie van Willem Peter de Ridder (2020).
