Artificial Intelligence (AI) is al bijna niet meer te weg te denken uit onze maatschappij. Hoe gaan we goed om met de risico’s van AI? Futuroloog Maurits Kreijveld presenteerde tijdens het jaarcongres van het Instituut van Internal Auditors in zeven vragen de belangrijkste risico’s van AI.
We zijn met volle vaart het tijdperk van Big Data en Artificial Intelligence (Kunstmatige intelligentie) aan het ingaan. Denk aan de personal assistents op je smartphone, zoals Alexa, Siri en Google Assistent waar je tegen kunt praten en vragen aan kunt stellen. Aan de productierobot Baxter, zorgrobot Alice en klantenservice assistent Amelia. De intelligente computer heeft een menselijk uiterlijk gekregen. Maar wat gaat er schuil achter de onschuldige glimlach van deze virtuele (meestal) dames?
Data kunnen waardevolle nieuwe inzichten bevatten maar tegelijkertijd ook oude patronen en vooroordelen. Door AI verliezen data definitief hun onschuld: alles draait om de interpretatie van gegevens en de consequenties die daar door organisaties aan verbonden worden.
7 ontwerpvragen
In zeven vragen bespreek ik de belangrijkste risico’s van AI. De vragen zijn geformuleerd als ontwerpvragen: ‘hoe kunnen we…’, vragen die aanzetten tot creatief denken: hoe kun je de risico’s ervan ondervangen? Dat is de gezamenlijke uitdaging waar ontwikkelaars, bedrijven, burgers en overheden voor staan.
Vraag 1: Wie controleert de algoritmes van kunstmatige intelligentie?
Het voordeel én nadeel van Artificial Intelligence: Het is zelflerend en zelf-programmerend. Maar wie controleert wat er gebeurt met data in een algoritme? Met computerprogramma’s kan de kwaliteit van algoritmes getoetst worden, zoals de gemeente Amsterdam doet. Ook kunnen de gebruikte aannames worden geëxpliciteerd en gepubliceerd zodat deze gecontroleerd kunnen worden door derden.
Bedrijven zouden, meer dan ze nu doen, gebruik kunnen maken van elkaars werk, door modules en algoritmen, die goed beschreven en geëvalueerd zijn, te hergebruiken.
Ook zouden bedrijven, meer dan ze nu doen (vanwege concurrentie), gebruik kunnen maken van elkaars werk, door modules en algoritmen, die goed beschreven en geëvalueerd zijn, te hergebruiken. Zo kunnen best practices worden ontwikkeld waarop kan worden voortgebouwd. Net zoals veel software gebaseerd is op enkele robuuste open source software-codes.
Vraag 2: Hoe houd je controle over AI?
Talloze science-fiction films hebben ons laten zien wat er kan gebeuren als zelflerende en zelf-programmerende systemen een eigen logica ontwikkelen en veel slimmer worden dan wij. Een robuuste manier om controle te houden kan zijn om een uit-knop in te bouwen, een kill-switch: een noodrem waarmee software stilgelegd kan worden en uitgeschakeld kan worden.
Een robuuste manier om controle te houden kan zijn om een uit-knop in te bouwen, een kill-switch: een noodrem waarmee software uitgeschakeld kan worden.
Zou dat verplicht moeten zijn? Laboratoria die synthetische virussen ontwikkelen (zoals het lab van Craig Venter) publiceren tegelijkertijd de code waarmee en anti-virus kan worden gemaakt. Zo wil men een wereldwijde epidemie die talloze levens kan eisen voorkomen. Synthetische virussen zijn ook een soort levende code die zich kan aanpassen aan de omgeving.
Vraag 3. Hoe respecteer je privacy?
Digitale systemen leven van data en het lijkt vrijwel onmogelijk om in zo’n wereld privacy nog te respecteren. Toch is het goed mogelijk om een dienstverlening te ontwikkelen die privacy in beginsel respecteert en beschermt (vaak aangeduid als ‘privacy by design’). Zo kunnen pseudoniemen of anonieme, blanco-profielen ingezet worden om privacy te beschermen. In plaats van data uit te wisselen (te kopiëren van de ene naar de andere aanbieder of computer) kan een bepaalde dienst ook bij elke database een stukje data ophalen, dat verspreid staat over meerdere computers, zonder dat deze worden uitgewisseld, gekopieerd en gecombineerd.
Het is goed mogelijk om een dienstverlening te ontwikkelen die privacy in beginsel respecteert en beschermt, vaak aangeduid als ‘privacy by design’.
Ook het recht om vergeten te worden of met een schone lei te kunnen beginnen, zoals je je internet cookies elke dag kunt weggooien, draagt bij aan meer privacy. Internetbrowser Firefox creëert een nep-geschiedenis om daarmee eveneens privacy te beschermen wanneer een website je geschiedenis met eerder bezochte pagina’s opvraagt.
Vraag 4. Hoe bouw je vertrouwen?
Vaak wordt gedacht dat technologie automatisch vertrouwen met zich meebrengt. Zo wordt de blockchain ook wel een ‘trust machine’ genoemd omdat deze bijna niet gemanipuleerd kan worden. Toch weten we uit de sociologie dat vertrouwen veel meer is dan dat: het gaat om de bereidheid te investeren in een langeretermijn relatie en de gezamenlijke lotsverbondheid aan het succes daarvan: samen uit en samen thuis.
Vaak wordt gedacht dat technologie automatisch vertrouwen met zich meebrengt.
Ook belangrijk is de mogelijkheid tot het nemen van ‘wraak’ als een van de partijen het vertrouwen schendt. Hiervoor is een bepaalde mate van gelijkheid nodig: de machtsbalans moet niet te veel doorslaan naar een partij. En dat is nou net wat veel marktpartijen wel creëren met hun systemen: precies weten hoe jij als consument gestuurd kunt worden tot meer aankopen, terwijl jij als consument amper zicht hebt op de werkwijze van bedrijven en amper mogelijkheden hebt om bedrijven of overheden ter verantwoording te roepen. In zo’n geval creëer je geen vertrouwen.
Vraag 5. Hoe kijk je toekomstgericht?
Met historische data heb je kans op vooroordelen en tunnelvisie: ze kijken immers per definitie terug. De kansen van Artificial Intelligence liggen in het anticiperen en in het vroegtijdig signaleren van de opkomst van veranderingen, zoals een trend die op doorbreken staat of een tsunami die in ontwikkeling is. AI zal daarom ook nooit een oplossing bieden voor alles.
AI zal ook nooit een oplossing bieden voor alles.
Organisaties moeten de schijnzekerheid die datasystemen bieden durven loslaten en AI gebruiken om vanuit meerdere opvattingen en informatiebronnen prognoses te maken en opties te schetsen waarop organisaties kunnen inspelen.
Vraag 6. Hoe kan AI mensen aanvullen en versterken in plaats van vervangen?
Een belangrijke vraag is of we AI inzetten om mensen te vervangen door betweterige experts of dat we AI gebruiken om mensen beter te laten presteren, zowel individueel als in groepen. Artificiële intelligentie kan eraan bijdragen dat organisaties op een hoger niveau functioneren op twee manieren.
Ten eerste door te zorgen dat grote hoeveelheden data, die steeds meer verzameld worden, hanteer worden voor mensen. AI kan patronen in data herkennen en effecten van keuzes doorrekenen. Zo kunnen mensen betere, evidence-based, beslissingen nemen.
AI kan patronen in data herkennen en effecten van keuzes doorrekenen. Zo kunnen mensen betere, evidence-based, beslissingen nemen.
Ten tweede kan AI processen van het gezamenlijk creëren en beslissen ondersteunen. AI kan de overeenkomsten en verschillen in grote groepen zichtbaar maken en strategieën voorstellen om tot groepsconsensus te komen. Hiervoor worden momenteel modellen ontwikkeld, gebaseerd op groepen bijen of spreeuwen.
AI kan heel goed overweg met de complexe voortdurende communicatie en afstemming die nodig is om grote groepen individuen te laten samenwerken en gebruik te maken van de kennis en inzichten die aanwezig zijn in de groep, de ‘wisdom of the crowd’.
Vraag 7. Hoe bouw je langetermijnrelaties?
Uit de bovenstaande vragen werd al duidelijk dat AI ons geen hapklare antwoorden gaat serveren op alle vragen. Bepaalde taken en processen in organisaties kunnen drastisch worden geautomatiseerd en efficiënter gemaakt. Wat overblijft zijn complexe, morele afwegingen waar organisaties voor staan. Zij kunnen niet afwachten op of zich verschuilen achter overheden die precies aangeven aan welke voorwaarden AI moet voldoen.
AI zal een groot beroep gaan doen op ons morele besef.
Organisaties die een langeretermijn relatie aan willen gaan met hun klanten zullen zelf moeten laten zien hoe ze gewetensvol omgaan met alle informatie die zij over hun klanten verzamelen. Laten zien hoe ze afwegingen maken die verder gaan als: zo veel mogelijk proberen te verkopen of zo min mogelijk uit te keren (bij een verzekering bijvoorbeeld). Het vraagt om lastige afwegingen die horen bij het samenleven en waarbij organisaties ook maatschappelijke verantwoordelijkheden dragen. AI zal een groot beroep gaan doen op ons morele besef. Zoals de tv-serie Westworld (HBO) al duidelijk maakte: AI houdt ons mensen een spiegel voor over wie we zelf zijn.
Door: Maurits Kreijveld, futuroloog, spreker en adviseur. Hij is auteur van de boeken De plug&play-organisatie, Samen slimmer en De kracht van platformen. Meer informatie over Maurits vind je op zijn website: wisdomofthecrowd.nl
