Pegasystems: consumenten nog niet overtuigd van voordelen AI

Consumenten hebben geen vertrouwen in kunstmatige intelligentie (AI) en begrijpen niet in hoeverre AI hun interacties met bedrijven beter en efficiënter kunnen maken, blijkt uit nieuw onderzoek van Pegasystems. Het onderzoek dat werd uitgevoerd door onderzoeksbureau Savanta is gepresenteerd tijdens PegaWorld 2019 in Las Vegas. Voor het onderzoek zijn 5.000 consumenten wereldwijd gevraagd naar hun mening en ideeën over AI, het moraal, ethisch gedrag en empathie.

Ondanks dat AI voor een persoonlijke klantervaring en optimale beleving kan zorgen, zijn consumenten nog niet overtuigd van de voordelen. Nu veel bedrijven overgaan op AI om de klantbeleving te verbeteren is het belangrijk dat zij de ideeën, zorgen en voorkeuren van hun klanten daadwerkelijk begrijpen.

De belangrijkste bevindingen uit het onderzoek zijn onder meer:
• Consumenten zijn cynisch over de bedrijven waarmee ze zaken doen: 68 procent van de respondenten zegt dat organisaties de plicht hebben om niet alleen te doen wat wettelijk is verplicht, maar ook wat moreel goed is voor de klant. Desondanks denkt 65% van de respondenten dat bedrijven niet de belangen van de klant behartigen. Hier rijst de vraag hoeveel vertrouwen zij hebben in de technologie die bedrijven inzetten om met de klant te communiceren. In een wereld waar bedrijven zeggen klantgericht te zijn, geloven consumenten niet dat bedrijven echt om hen geven of voldoende empathie tonen voor hun persoonlijke situaties.
• Het is serieus gesteld met het vertrouwen in AI: Minder dan de helft (40 procent) van de respondenten was het ermee eens dat AI de klantenservice van bedrijven waarmee zij in contact staan verbetert. Minder dan 30 procent ​​geeft aan dat zij zich prettig voelen bij bedrijven die AI gebruiken om met hen te communiceren; slechts negen procent voelt zich ‘erg op zijn gemak'. Tegelijkertijd geeft een derde van alle respondenten aan zich zorgen te maken dat machines hun banen en werk zullen overnemen. Meer dan een kwart (27 procent) noemt ook de 'opkomst van robots en beperken van (professionele) menselijke vrijheid’ als zorg.
• Veel consumenten geloven dat AI niet onbevooroordeeld beslissingen kan nemen:  Meer dan de helft (53 procent) zegt dat AI vooroordelen meeneemt in de manier waarop het beslissingen neemt. Drieënvijftig procent was ook van mening dat AI altijd beslissingen neemt op basis van de vooroordelen van diegene die de oorsponkelijke instructies heeft opgesteld, ongeacht hoeveel tijd er sindsdien is verstreken.
• Menselijk contact heeft nog steeds de voorkeur: Zeventig procent van de respondenten spreekt nog steeds liever met een mens dan met een AI-systeem of een chatbot in het contact met de klantenservice. Daarnaast geeft 69 procent van de respondenten aan dat zij eerder geneigd zijn de waarheid te vertellen aan een mens dan aan een AI-systeem. Als het gaat om het nemen van beslissingen over leven en dood, zei een overweldigende 86 procent meer vertrouwen te hebben in mensen dan in AI.
• De meerderheid gelooft niet in ethiek of empathie binnen AI: Slechts 12 procent van de consumenten is van mening dat AI het verschil opmerkt tussen goed en kwaad. Meer dan de helft (56 procent) van de ondervraagden denkt dat het niet mogelijk is om machines te ontwikkelen die zich moreel gedragen. Slechts 12 procent gelooft dat ze ooit interactie hebben gehad met een machine die enige empathie toonde.

Empathie
Een van de belangrijkste manieren waarop organisaties klantvertrouwen en -tevredenheid kunnen vergroten, is door interactie menselijker en meer empatisch te maken. Maar empathie en winstgevendheid van een bedrijf gaan meestal niet samen. Naarmate AI steeds belangrijker wordt in de klantbetrokkenheid, moeten bedrijven nadenken over hoe ze op AI gebaseerde inzichten kunnen combineren met ethische overwegingen van de mens.

Volgens Rob Walker, vice-president decisioning en analystics bij Pegasystems, wijst het onderzoek uit dat slechts 25 procent van de consumenten meer vertrouwen heeft in de beslissing van een AI-systeem boven die van een persoon als het gaat om de kwalificatie voor een banklening. "Waarschijnlijk spreken consumenten liever met een persoon omdat ze meer vertrouwen hebben in mensen en zij ten onrechte het idee hebben dat zij hun beslissing mogelijk kunnen beïnvloeden. Waar wij naartoe moeten is dat AI-systemen bedrijven helpen bij het nemen van ethische beslissingen. Om bij het voorbeeld van de bank te blijven: naast het volgen van wettelijke procedures voor het aanvragen van een lening, moeten banken ook kunnen bepalen of het ethisch een juiste beslissing is.”