Er was altijd al verschil tussen collega’s die technologie omarmen en collega’s die in de weerstand schieten. Maar AI ontwikkelt zich zo snel dat het gat snel schrikbarend groot wordt. Daar hebben organisaties een rol in te spelen, zegt AI-expert en technologie-trendwatcher Deborah Nas. Ook hamert ze op blijvende monitoring door een mens. Want wie alle vertrouwen in de output van AI legt komt voor verrassingen te staan. Nas spreekt op dinsdag 1 december 2026 op het Jaarcongres Procesmanagement in Afas Leusden.
Deborah Nas zit midden in de media-piek waarin haar mening wordt gevraagd over de destructieve kant van AI: nadat agents uit hun testomgevingen losbraken en op eigen houtje bedrijven hackten, gonst het dat er een reële kans van meer dan tien procent bestaat dat AI ons als mensheid binnen tien jaar kan uitroeien. Nas gaf duiding, maar suste niemand in slaap: de technologie is onvoorspelbaar, daar kunnen we niet omheen.
Merk je dat mensen huiverig worden?
‘Het gros begrijpt het niet zo goed. Het gat tussen iemand die af en toe wat vraagt aan ChatGPT en de huidige discussie in Silicon Valley dat AI ons gaat uitroeien is zacht gezegd nogal groot. Mensen hebben dus echt behoefte aan duiding.’
Vind jij het eng?
‘Eng is niet het woord, maar ik maak me wel zorgen. Deze technologie is heel krachtig en kan veel goeds doen, maar het is primair in handen van bedrijven met sterke commerciële motieven die met elkaar verwikkeld zijn in een race richting super Artificial General Intelligence (AGI). Dat alles vindt plaats in een grillige geopolitieke context. Er worden afslagen genomen waarin veiligheid niet bovenaan staat. Deze technologie waarin we agents autonomie geven, doet dingen die we niet voorzien hebben.’
Hackende AI agents
Hoe zorgwekkend is dat?
‘Kijk, die agents hebben een doel dat ze koste wat het kost willen halen en die verzinnen een manier om dat te bereiken. Als daarvoor een grote hack nodig is, dan doen ze dat. De hack die in het nieuws kwam, was een bijeffect van een test die agents kregen waarin ze een losstaand cybersecurityvraagstuk moesten oplossen waarbij ze geen toegang tot internet kregen. Ze dachten informatie te kunnen vinden bij een online platform en vonden een manier om het internet op te gaan en dat platform te hacken. Wat ik er zorgwekkend aan vind, is dat deze incidenten dus niet eens opzettelijk kwaadwillend waren. En als het al gebeurt in zo’n testsituatie dan kun je je voorstellen wat er gebeurt als mensen deze technologie wél met slechte intentie inzetten.’
Hoe verhoudt dit nieuws zich tot de AI-technologie in een gemiddeld bedrijf?
‘Ik ga ervan uit dat de gemiddelde procesmanager gebruik maakt van de tools die hij van zijn organisatie krijgt aangereikt. En dat zijn in verhouding met wat er aankomt nog vrij basic tools, het zijn vaak taalmodellen of modellen om mee te coderen. Begrijp me niet verkeerd, daar kun je al ongelooflijk veel aan hebben. AI kan heel veel tijdrovende taken overnemen, al moet ook hier een mens altijd de regie houden. Procesmanagers blijven dus nodig, al zal hun werk er over vijf jaar heel anders uitzien. Het is een beetje alsof je kijkt naar de financiële professional die we vroeger kenden – met papier en een rekenmachine – versus de komst van Excel. Die financiële professional is er nog steeds. Hij kan wellicht minder goed hoofdrekenen, maar hij kan wel veel méér. Het verschil is wel dat die transitie heel langzaam is gegaan.’
Hoe zou een procesmanager AI moeten zien?
Zou een procesmanager AI als collega of als een stukje software moeten zien?
‘Het maakt nogal uit hoe je daar over denkt. Wie een agent puur ziet als een stukje software onderschat wat deze technologie kan. Wie een agent puur ziet als een collega overschat waarschijnlijk het vertrouwen dat terecht is. Natuurlijk heb je ook menselijke collega’s die fouten maken of slechte intenties hebben, maar als je alle vertrouwen in de output van AI-agents legt en die overneemt, dan kun je voor verrassingen komen te staan.’
Wat zou een goede positionering zijn?
‘Ik kijk er op drie niveaus naar. Als algemene efficiëntie-tool, als hulpje van de vakspecialist en als collega. In de rol van collega vervangt AI menselijke medewerkers. Dat zien we bijvoorbeeld op de klantenservice waar AI-agents zestig tot wel tachtig procent van de eerstelijnsvragen kunnen afhandelen. Ze werken dan als collega’s, maar ze hebben niet dezelfde eigenschappen. Je moet daarom heel goed vastleggen wie verantwoordelijk is voor wat de agents doen en je moet ze blijvend monitoren. AI-agents hebben namelijk een verschijnsel dat we drift noemen. Dat betekent dat ze zich na verloop van tijd anders gaan gedragen. Dan kunnen ze verkeerd advies gaan geven of buiten de regels treden. Stel dat je een agent inricht met het doel op een hoge klanttevredenheidsscore, dan gaat-ie hoge kortingen geven. Dus bouw je in dat dat niet mag, maar door de interacties met klanten, kan het toch na verloop van tijd wat anders doen. En dan moet je bijsturen.’
Een supergedreven collega dus?
‘Ja zoiets. Maar tegelijk een collega die je niet kunt beoordelen als een mens met normen en waarden. Die heeft het simpelweg niet en die moet je in het harnas, in de instructies, zo goed mogelijk definiëren. Het is als het ware een nieuwe verhouding met een nieuwe entiteit.’
Verliesaversie
Je onderzoekt ook waarom sommige mensen dit heel gaaf vinden en anderen de hakken in het zand zetten.
‘De meeste mensen zijn geneigd om te focussen op wat er misgaat, waar de risico’s zitten en wat ze kwijt dreigen te raken. Dat noemen we verliesaversie, en dat bepaalt heel sterk hoe we naar nieuwe technologieën kijken. Een kleine groep van innovators en early adopters heeft daar geen last van, zij zien van nature veel meer de kansen en vinden het prima dat het nog niet perfect werkt. Voor hen is dat onderdeel van de fun. Maar de meeste mensen nemen een afwachtende houding aan of zitten actief in de weerstand. Er ontstaat daardoor een groeiend gat tussen mensen die hier helemaal in duiken en snappen wat de technologie kan en mensen die het amper of zelfs helemaal niet gebruiken. Het ontwikkelt zich zo snel dat dat gat in schrikbarend tempo heel groot wordt. Dan kom je op een punt dat het haast onmogelijk wordt om uit te leggen wat deze technologie potentieel kan aan mensen die nog op het spoor zitten van: ik krijg slechte teksten en vaak foute antwoorden.’
Kunnen ze hun been nog bijtrekken?
‘Daar heeft de organisatie wel een rol. Als je weet dat het merendeel van de mensen hier niet vanzelf in duikt dan moet je mensen bij de hand nemen. Ten eerste moet de top laten zien dat ze het belangrijk vinden, dat de AI-transitie een thema is dat op de agenda staat. Daarvoor moeten ze het zelf volledig omarmen. Ik zie weinig succesvolle AI-transities waarbij de top het niet zelf gebruikt en het niet echt begrijpt. Daarnaast moet je mensen op de werkvloer voldoende vrijheid geven om te experimenteren en als een experiment niet direct lukt, dat niet meteen afschaffen. Het moet zowel topdown als bottum up gebeuren. Ik geloof zelf heel erg in het meenemen van je peers. Geef de mensen die er vol voor gaan de ruimte en de taak om hun collega’s te informeren en mee te nemen. Daar geloof ik meer in dan een online training die ze kunnen afvinken.’
Een agent bouwen tijdens de betsuursvergadering
Wat zou je de top aanraden?
‘Het gaat erom dat ze het zelf gaan doen, zich niet alleen maar laten bijpraten. Anders ondervind je niet aan den lijve hoe het werkt. Ga met elkaar een agent bouwen tijden de bestuursvergadering. Want ik kan je vertellen hoe lekker appeltaart smaakt, maar pas als jij het proeft begrijp je het écht. Mensen in topfuncties gaan vaak van meeting naar meeting en komen er niet aan toe. Dat moet je als top dus strak organiseren en bij voorkeur zet je er ook KPI’s op.’
Is niet meedoen een optie voor een bedrijf?
‘Dat ligt heel erg aan het type bedrijf of merk. Als jij werkt voor een merk dat prat gaat op authenticiteit en menselijk contact dan kan het bij je merkwaarde passen om het niet te doen. Maar als jij financieel dienstverlener bent en de klant krijgt bij de concurrent in een paar minuten antwoord en bij jou niet, dan ga je het merken in je marktaandeel en je omzet. Dus dan zul je wel moeten.’
Het is nu elf uur ’s ochtends, hoe heb jij zelf AI vandaag al gebruikt?
‘Ik heb een deep research-rapport gemaakt over de impact van kwantumtechnologie op het juridische domein en het werk van de juridische professional. Ik moet het nog lezen, maar ik heb een rapport van 24 pagina’s gekregen en dat maakte hij in 10 minuten. Als ik dat zelf had moeten doen met dezelfde kwaliteit, dan had me dat vermoedelijk een dag gekost. Dan was ik gaan googelen en had ik veel meer moeten lezen om bij de belangrijke punten te komen. Belangrijker nog: ik zou die dag er niet in hebben gestopt, die tijd heb ik helemaal niet. Als ik het rapport straks ga lezen en ik wil iets gebruiken, dan ga ik altijd terug naar de bron. Ik gebruik nooit iets blind uit wat AI heeft gemaakt. Maar ik ervaar in mijn werk heel duidelijk de voordelen. Het gaat sneller, het is makkelijker en de kwaliteit is hoger. Tegelijkertijd vind ik het moeilijk om een langetermijnperspectief voor de maatschappij te doordenken dat heel positief uitpakt. Dus ik ben enthousiast en bezorgd tegelijk.’
Over Deborah Nas
Deborah Nas is deeltijdhoogleraar ‘Strategic Design for Technology-Based Innovation’ aan de Technische Universiteit Delft, Innovatiemanager bij het Centre for Quantum & Society, commissaris bij Hardt Hyperloop en Quooker, lid van de investeringscommissie van InnovationQuarter en bestuurslid bij Stichting Cre8. Ze schreef het boek ‘Design Things That Make Sense’ voor startups, scale ups en corporate agile innovatieteams die nieuwe technologieën willen toepassen in innovatieve producten en diensten. Op 1 december 2026 staat ze als spreker op het podium tijdens het jaarcongres Procesmanagement in Afas Leusden. Er bij zijn? Schrijf je dan hier in >>>
Door: Jannie Benedictus
