Agentic AI rukt op maar gebrek aan toezicht bedreigt consumentenvertrouwen

Onderzoek van Genesys laat een grote kloof zien tussen hoe bedrijven omgaan met AI en wat consumenten nodig hebben om het met vertrouwen te gebruiken. Terwijl vier op de vijf ondervraagde consumenten aangeven duidelijke regels te willen voor AI-interacties, zegt minder dan een derde (31 procent) van de zakelijke leiders dat hun organisatie beschikt over een volledig, organisatiebreed AI-beleid en bijbehorend toezicht.

Het onderzoek werd door Genesys samen met een onafhankelijk onderzoeksbureau uitgevoerd onder 4.000 consumenten en 1.600 CX- en IT-beslissers in meer dan tien landen. Ongeveer 200 respondenten kwamen uit Nederland.

Nu agentic AI, autonome systemen die zelfstandig kunnen denken, handelen en beslissingen nemen, steeds vaker wordt ingezet in strategieën voor klantbeleving (Customer Experience, CX) van bedrijven, verwacht 91 procent van de ondervraagde CX-verantwoordelijken dat dit hen in staat zal stellen hun dienstverlening sneller, effectiever en persoonlijker te maken. Toch schetsen de gegevens een complex beeld: het enthousiasme over de transformatieve waarde van agentic AI is groot, maar de governance-structuren blijven achter, met risico’s voor consumentenvertrouwen, merkreputatie en naleving van regelgeving.

Governance-kloof ondermijnt vertrouwen
Meer dan 90 procent van de ondervraagde CX-verantwoordelijken is het erover eens dat sterk toezicht essentieel is om:
• de merkreputatie te beschermen (91 procent),
• langdurig vertrouwen en loyaliteit bij klanten op te bouwen (91 procent),
• het consumentenvertrouwen in autonome systemen te vergroten (90 procent).
Toch zijn veel organisaties nog onvoldoende voorbereid. Meer dan een derde (35 procent) van de AI-verantwoordelijken geeft eerlijk toe dat hun organisatie weinig tot geen formeel beleid voor AI-governance heeft. Nog zorgwekkender: 28 procent van degenen zonder enig beleid denkt desondanks dat hun organisatie klaar is om agentic AI in te zetten.

Deze governance-kloof wordt nog problematischer in het licht van de zorgen van consumenten. Veel consumenten blijven terughoudend door een gebrek aan transparantie over hoe hun gegevens worden gebruikt en het ontbreken van duidelijk toezicht.

Zorgen over gebruik persoonlijke gegevens door AI
Duidelijkheid over hoe AI persoonlijke gegevens gebruikt is volgens het onderzoek de belangrijkste zorg onder respondenten. Daarbovenop denkt 37 procent van de ondervraagde consumenten dat AI ‘hallucineert’ of informatie verzint. Een zorg die wordt gedeeld door maar liefst 59 procent van de CX-verantwoordelijken, die erkennen dat hallucinaties ernstige risico’s vormen voor klantloyaliteit, juridische kwesties en merkreputatie. Dit gevoel van onbetrouwbaarheid ondermijnt het vertrouwen verder en benadrukt de noodzaak van waarborgen die nauwkeurigheid en verantwoording in AI-gedreven ervaringen garanderen.

De kloof tussen wat leiders weten dat nodig is en wat organisaties daadwerkelijk hebben geïmplementeerd, is extra zorgwekkend gezien de duidelijke vraag van consumenten naar transparantie en toezicht. Het is daarom noodzakelijk dat bedrijven deze kloof dichten vóór ze agentic AI grootschalig uitrollen.

Consumentenvertrouwen blijft fragiel
Hoewel 81 procent van de CX-verantwoordelijken agentic AI vertrouwt met gevoelige klantgegevens, geldt dat slechts voor 36 procent van de consumenten. Dit verschil wordt nog groter bij situaties met een grotere gevoeligheid.

Bedrijven tonen veel vertrouwen in het gebruik van agentic AI voor cruciale klantfuncties: 74 procent zegt zich comfortabel te voelen bij het gebruik van de technologie voor facturering, financiële transacties en accountbeveiliging. Consumenten daarentegen zijn veel terughoudender: slechts 35 procent voelt zich comfortabel bij geldtransfers via agentic AI, 49 procent bij het oplossen van factuurproblemen en 50 procent bij het bijwerken van persoonlijke gegevens.

Toch wijst het onderzoek ook op een belangrijke kans: meer dan de helft van de consumenten, 58 procent, maakt het niet uit of hun probleem door een mens of AI wordt opgelost, zolang het maar snel en volledig gebeurt. Dit laat zien dat efficiëntie en effectiviteit in klantbeleving scepsis kunnen overwinnen. Maar alleen als deze hand in hand gaan met transparantie en verantwoordelijkheid. Om het vertrouwen te versterken en verantwoord te innoveren, moeten organisaties hun AI-schaalvergroting volledig klantgericht aanpakken.

Genesys werkte samen met een onafhankelijk onderzoeksbureau om 4.000 consumenten en 1.600 CX- en IT-beslissers in meer dan 10 landen te ondervragen. Het onderzoek vond plaats in juni 2025.