SAS: Organisaties werken aan verantwoordelijk gebruik van AI

Een nieuwe studie laat zien dat zakelijk leiders stappen ondernemen om artificial intelligence (AI) binnen hun organisaties op een verantwoordelijke manier te gebruiken. Onderzoek van SAS, Accenture, Intel en Forbes Insights wijst uit dat 92 procent van AI-leiders technologen traint in ethiek en 74 procent AI-projecten evalueert.

De meeste organisaties die zijn begonnen met AI – dat is op dit moment 72 procent van de organisaties wereldwijd – bieden hun technologiespecialisten ethiektrainingen aan (70 procent) en hebben ethische commissies ingesteld (63 procent) om het gebruik van AI te evalueren. AI-leiders – organisaties die de inzet van AI ‘succesvol’ of ‘zeer succesvol’ noemen – lopen ook voorop als het gaat om verantwoord gebruik van AI. Bijna alle organisaties (92 procent) trainen medewerkers in ethiek, in vergelijking met 48 procent van andere organisaties die AI toepassen.
Deze uitkomsten zijn gebaseerd op een wereldwijde studie onder 305 zakelijk leiders. Meer dan de helft van de respondenten is Chief Information Officer, Chief Technology Officer of Chief Analytics Officer. De studie ‘AI Momentum, Maturity and Models for Success’, vond plaats in opdracht van SAS, Accenture en Intel, en werd in juli 2018 uitgevoerd door Forbes Insights.

Ethisch raamwerk rondom AI-gebruik
AI heeft nu een concrete impact op het leven van mensen. Dat onderstreept volgens het rapport de noodzaak van een robuust ethisch raamwerk rond het gebruik van deze technologie.
“Organisaties zijn zich meer gaan bezighouden met de zorgen die leven rondom AI, zoals een vooringenomen of oneerlijke behandeling van mensen”, zegt Rumman Chowdhury, Responsible AI Lead bij Accenture Applied Intelligence. “Dit zijn positieve stappen. Toch moeten organisaties meer doen dan het instellen van ethische richtlijnen voor AI, die in lijn zijn met de hippocratische eed om geen kwaad te doen. Specifieke en technische richtlijnen zijn nodig om AI-systemen te ontwikkelen, die veilig, transparant en duidelijk zijn. Zo worden onbedoelde gevolgen en compliance-uitdagingen die negatief kunnen zijn voor individuen, bedrijven en de samenleving, voorkomen. Data-scientists kijken uit naar deze richtlijnen.”

Analytics en AI
AI-leiders erkennen ook de sterke relatie tussen analytics en hun AI-succes. 79 procent van deze groep zegt dat analytics een belangrijke of centrale rol speelt in de AI-activiteiten van hun organisatie, tegen slechts veertien procent van de respondenten die nog niet hebben geprofiteerd van de inzet van AI.

“Organisaties die AI inzetten, hebben ontdekt dat de succesvolle inzet van AI ook succes betekent in analytics”, zegt Oliver Schabenberger, Chief Operating Officer en Chief Technology Officer van SAS. “Voor die organisaties heeft analytics een centrale rol gekregen in AI.”

Toezicht op AI is niet optioneel, maar essentieel
Ondanks populaire berichten dat AI zonder menselijke tussenkomst werkt, laat de studie zien dat AI-leiders van mening zijn dat voor deze technologieën toezicht niet optioneel is. Bijna driekwart (74 procent) van de AI-leiders zegt zorgvuldig toezicht te houden met ten minste een keer per week een evaluatie van uitkomsten (bij minder succesvolle AI-adopters is dit 33 procent). Daarnaast zegt 43 procent van de AI-leiders dat hun organisatie een proces heeft voor het uitbreiden of afkeuren van resultaten als ze tijdens een controle als discutabel zijn beoordeeld (bij minder succesvolle AI-adopters gaat het om 28 procent).
Desondanks blijkt uit het onderzoek dat het toezicht op AI nog een lange weg te gaan heeft voordat dit op hetzelfde niveau ligt als de snelheid van de ontwikkelingen in AI-technologie.

Het is logisch dat bedrijven stappen ondernemen in de richting van ethische AI en zorgen voor AI-toezicht, omdat ze weten dat verkeerde AI-output gevolgen kan hebben. Van de organisaties die al AI hebben toegepast of van plan zijn dit te doen, verklaarde zestig procent dat ze zich zorgen maken over de impact van AI-gedreven beslissingen op klantbetrokkenheid – bijvoorbeeld dat hun acties onvoldoende empathie tonen of klanten minder vertrouwen zullen hebben.

Andere belangrijke resultaten uit de studie
- In totaal maakt 72 procent van de organisaties wereldwijd gebruik van AI in een of meer bedrijfsdomeinen.
- Meer dan de helft (51 procent) van de AI-adopters gaf aan dat hun AI-inzet een succes is geweest. Zij noemen nauwkeuriger forecasting en besluitvorming, succesvollere klantenwerving en hogere productiviteit als belangrijkste voordelen van AI.
- Bijna de helft (46 procent) van de AI-adopters zei over het algemeen dat hun organisatie AI volledig heeft geïmplementeerd. Andere adopters bevinden zich nog in de experimenteer- en prototypefase.
- Respondenten buiten de C-level waren meer geneigd de impact van AI als iets positiefs te zien: meer dan de helft (55 procent) van niet-C-level leidinggevenden zegt dat hun AI-inspanningen ‘succesvol’ of ‘zeer succesvol’ zijn geweest. Slechts 38 procent van de C-suite meldde hetzelfde.
- Veel organisaties zien in AI een voordeel voor hun personeel dankzij meer strategische rollen. 64 procent is het er sterk of helemaal mee eens dat ze de effecten al zien, omdat werknemers zich dankzij AI concentreren op meer strategische taken in plaats van operationele.
- Echter, bijna twintig procent identificeert “weerstand van werknemers als gevolg van zorgen over werkzekerheid” als een uitdaging voor hun AI-inspanningen. Bovendien is 57 procent het eens of helemaal eens met de stelling “We maken ons zorgen over de impact van AI op werknemersrelaties (werknemers kunnen zich bijvoorbeeld bedreigd of overbelast voelen).”

Over dit onderzoek
De enquête bevat antwoorden van 305 wereldwijde zakelijk leiders in Noord- en Zuid-Amerika, Europa en Azië/Pacific. De studie werd uitgevoerd in juli 2018 door Forbes Insights; de strategische onderzoeks- en thought leadership-tak van Forbes Media. Download de volledige studie voor meer informatie.