IT-beslissers roepen op tot verantwoorde en ethische AI-ontwikkeling

Ethische en verantwoorde ontwikkeling van artificiële intelligentie (AI) is een prioriteit voor IT-beslissers. Dit blijkt uit onderzoek van SnapLogic. 94 procent van de beslissers vindt dat er meer aandacht moet zijn voor de ethische kant van AI. Daarnaast vindt 87 procent dat de ontwikkeling van AI moet worden gereguleerd om zo de belangen van bedrijven, overheden en burgers optimaal te dienen.

Het onderzoek, uitgevoerd door Vanson Bourne in opdracht van SnapLogic, bestudeerde de standpunten van IT-beslissers in verschillende bedrijfstakken en stelde belangrijke vragen zoals: wie heeft de primaire verantwoordelijkheid om ervoor te zorgen dat AI op ethische en verantwoorde wijze wordt ontwikkeld, Gaan samenwerkingen tussen wereldwijde experts invloed hebben op de toekomstige ontwikkeling van AI, en moet AI worden gereguleerd en zo ja door wie?

Wie is verantwoordelijk?
Op de vraag wie er verantwoordelijk is voor de ethische ontwikkeling van AI-systemen, gaf 53 procent van de respondenten aan dat de bedrijven die de systemen ontwikkelen verantwoordelijk zijn, ongeacht of dit een commerciële of wetenschappelijke organisatie is. 17 procent vindt dat de individuele werknemer die werkt aan het project verantwoordelijk is.

Daarnaast vindt 16 procent dat een onafhankelijk, wereldwijd consortium, bestaande uit vertegenwoordigers van overheden, onderzoeksinstellingen, organisaties en academici, de enige manier is om eerlijke regelgeving en protocollen op te stellen om verantwoorde en ethische ontwikkeling van AI te garanderen. 11 procent vindt dat de verantwoordelijkheid moet liggen bij de overheden van de landen waarin de systemen worden ontwikkeld.

Onafhankelijke leiding en expertise
Sommige onafhankelijke, regionale initiatieven bieden al AI-ondersteuning, leiding en overzicht, bijvoorbeeld de European Commission High-Level Expert Group on Artificial Intelligence. IT-beslissers zien dit als een positieve stap in het adresseren van de ethische problemen rondom AI. De helft denkt dat organisaties die AI ontwikkelen zich zullen laten leiden door de aanbevelingen van dergelijke experts. Ook denkt 55 procent dat deze groepen ervoor zullen zorgen dat organisaties die AI ontwikkelen beter gaan samenwerken.

Oproep tot regulering
87 procent van de IT-beslissers vindt dat AI moet worden gereguleerd, waarbij 32 procent aangeeft dat dit moet worden gedaan door een samenwerking tussen overheid en de sector. 25 procent geeft aan dat regulering de verantwoordelijkheid is van een onafhankelijk consortium binnen hun sector.

Sommige sectoren staan welwillender tegenover regulering dan andere. 18 procent van de IT-beslissers in de manufacturing is tegen regulering van AI, gevolgd door 13 procent in de technologie-, retail-, distributie- en transportsectoren. Redenen hiervoor zijn de overtuiging dat regulering AI-innovatie zal vertragen en dat AI-ontwikkeling naar goeddunken van de organisaties moet gebeuren.

Verantwoordelijke AI-ontwikkeling
CEO Gaurav Dhillon van SnapLogic zegt hierover: “AI is de toekomst en heeft nu al veel impact op bedrijven en de maatschappij. Maar zoals met iedere snelle ontwikkeling, bestaat ook hier de mogelijkheid dat het wordt gebruikt voor immorele, kwaadaardige of onbedoelde zaken. AI-innovatie moet floreren, maar we moeten de potentiële risico’s beheren en ervoor zorgen dat AI zich op de juiste manier ontwikkelt.”
Dhillon vervolgt: “Zorgen over datakwaliteit, veiligheid en privacy zijn terecht en het debat over regulering zal blijven bestaan. Maar AI draait op data – het vereist continu toegang tot grote hoeveelheden data die vrijelijk vloeit tussen verschillende systemen om effectief het AI-systeem te trainen en in te zetten. Regulering heeft voordelen en is nodig, maar het moet met zorg worden geïmplementeerd, zodat de datatoegang en informatieflow blijft bestaan. Anders draaien AI-systemen op incomplete of foutieve data, waardoor de vooruitgang van AI-innovatie wordt gedwarsboomd.”

Over het onderzoek
Het onderzoek is uitgevoerd door een onafhankelijk onderzoeksbureau Vanson Bourne, in opdracht van SnapLogic, in februari 2019. In totaal namen er 300 IT-beslissers deel aan het onderzoek, werkzaam bij Amerikaanse en Britse organisaties met meer dan 1.000 medewerkers.