Ethische en verantwoorde ontwikkeling van artificiële intelligentie (AI) is een prioriteit voor IT-beslissers. Dit blijkt uit onderzoek van SnapLogic. 94 procent van de beslissers vindt dat er meer aandacht moet zijn voor de ethische kant van AI. Daarnaast vindt 87 procent dat de ontwikkeling van AI moet worden gereguleerd om zo de belangen van bedrijven, overheden en burgers optimaal te dienen.
Het onderzoek, uitgevoerd door Vanson Bourne in opdracht van SnapLogic, bestudeerde de standpunten van IT-beslissers in verschillende bedrijfstakken en stelde belangrijke vragen zoals: wie heeft de primaire verantwoordelijkheid om ervoor te zorgen dat AI op ethische en verantwoorde wijze wordt ontwikkeld, Gaan samenwerkingen tussen wereldwijde experts invloed hebben op de toekomstige ontwikkeling van AI, en moet AI worden gereguleerd en zo ja door wie?
Wie is verantwoordelijk?
Op de vraag wie er verantwoordelijk is voor de ethische ontwikkeling van AI-systemen, gaf 53 procent van de respondenten aan dat de bedrijven die de systemen ontwikkelen verantwoordelijk zijn, ongeacht of dit een commerciële of wetenschappelijke organisatie is. 17 procent vindt dat de individuele werknemer die werkt aan het project verantwoordelijk is.
Daarnaast vindt 16 procent dat een onafhankelijk, wereldwijd consortium, bestaande uit vertegenwoordigers van overheden, onderzoeksinstellingen, organisaties en academici, de enige manier is om eerlijke regelgeving en protocollen op te stellen om verantwoorde en ethische ontwikkeling van AI te garanderen. 11 procent vindt dat de verantwoordelijkheid moet liggen bij de overheden van de landen waarin de systemen worden ontwikkeld.
Onafhankelijke leiding en expertise
Sommige onafhankelijke, regionale initiatieven bieden al AI-ondersteuning, leiding en overzicht, bijvoorbeeld de European Commission High-Level Expert Group on Artificial Intelligence. IT-beslissers zien dit als een positieve stap in het adresseren van de ethische problemen rondom AI. De helft denkt dat organisaties die AI ontwikkelen zich zullen laten leiden door de aanbevelingen van dergelijke experts. Ook denkt 55 procent dat deze groepen ervoor zullen zorgen dat organisaties die AI ontwikkelen beter gaan samenwerken.
Oproep tot regulering
87 procent van de IT-beslissers vindt dat AI moet worden gereguleerd, waarbij 32 procent aangeeft dat dit moet worden gedaan door een samenwerking tussen overheid en de sector. 25 procent geeft aan dat regulering de verantwoordelijkheid is van een onafhankelijk consortium binnen hun sector.
Sommige sectoren staan welwillender tegenover regulering dan andere. 18 procent van de IT-beslissers in de manufacturing is tegen regulering van AI, gevolgd door 13 procent in de technologie-, retail-, distributie- en transportsectoren. Redenen hiervoor zijn de overtuiging dat regulering AI-innovatie zal vertragen en dat AI-ontwikkeling naar goeddunken van de organisaties moet gebeuren.
Verantwoordelijke AI-ontwikkeling
CEO Gaurav Dhillon van SnapLogic zegt hierover: “AI is de toekomst en heeft nu al veel impact op bedrijven en de maatschappij. Maar zoals met iedere snelle ontwikkeling, bestaat ook hier de mogelijkheid dat het wordt gebruikt voor immorele, kwaadaardige of onbedoelde zaken. AI-innovatie moet floreren, maar we moeten de potentiële risico’s beheren en ervoor zorgen dat AI zich op de juiste manier ontwikkelt.”
Dhillon vervolgt: “Zorgen over datakwaliteit, veiligheid en privacy zijn terecht en het debat over regulering zal blijven bestaan. Maar AI draait op data – het vereist continu toegang tot grote hoeveelheden data die vrijelijk vloeit tussen verschillende systemen om effectief het AI-systeem te trainen en in te zetten. Regulering heeft voordelen en is nodig, maar het moet met zorg worden geïmplementeerd, zodat de datatoegang en informatieflow blijft bestaan. Anders draaien AI-systemen op incomplete of foutieve data, waardoor de vooruitgang van AI-innovatie wordt gedwarsboomd.”
Over het onderzoek
Het onderzoek is uitgevoerd door een onafhankelijk onderzoeksbureau Vanson Bourne, in opdracht van SnapLogic, in februari 2019. In totaal namen er 300 IT-beslissers deel aan het onderzoek, werkzaam bij Amerikaanse en Britse organisaties met meer dan 1.000 medewerkers.
15 oktober 2024 Workshop met BPM-specialist Christian Gijsels over AI-Gedreven Business Analyse met ChatGPT. Kunstmatige Intelligentie, ongetwijfeld een van de meest baanbrekende technologieën tot nu toe, opent nieuwe deuren voor analisten met i...
7 november (online seminar op 1 middag)Praktische tutorial met Alec Sharp Alec Sharp illustreert de vele manieren waarop conceptmodellen (conceptuele datamodellen) procesverandering en business analyse ondersteunen. En hij behandelt wat elke data-pr...
18 t/m 20 november 2024Praktische workshop met internationaal gerenommeerde spreker Alec Sharp over het modelleren met Entity-Relationship vanuit business perspectief. De workshop wordt ondersteund met praktijkvoorbeelden en duidelijke, herbruikbare ...
21 november 2024 Praktische en interactieve workshop met Nigel Turner Data-gedreven worden lukt niet door alleen nieuwe technologie en tools aan te schaffen. Het vereist een transformatie van bestaande business modellen, met cultuurverandering, een h...
28 november 2024Workshop met BPM-specialist Christian Gijsels over business analyse, modelleren en simuleren met de nieuwste release van Sparx Systems' Enterprise Architect, versie 16.Intensieve cursus waarin de belangrijkste basisfunctionaliteiten v...
De DAMA DMBoK2 beschrijft 11 disciplines van Data Management, waarbij Data Governance centraal staat. De Certified Data Management Professional (CDMP) certificatie biedt een traject voor het inleidende niveau (Associate) tot en met hogere niveaus van...
3 april 2025 (halve dag)Praktische workshop met Alec Sharp [Halve dag] Deze workshop door Alec Sharp introduceert conceptmodellering vanuit een non-technisch perspectief. Alec geeft tips en richtlijnen voor de analist, en verkent datamodellering op c...
10, 11 en 14 april 2025Praktische driedaagse workshop met internationaal gerenommeerde spreker Alec Sharp over herkennen, beschrijven en ontwerpen van business processen. De workshop wordt ondersteund met praktijkvoorbeelden en duidelijke, herbruikba...
Deel dit bericht