Progress: Tweederde organisaties ondervindt last van Data Bias

Progress heeft de resultaten bekendgemaakt van haar wereldwijde onderzoek Data Bias: The Hidden Risk of AI. Het onderzoek van Progress is uitgevoerd door het onafhankelijke onderzoeksbureau Insight Avenue en is gebaseerd op interviews met meer dan 640 business- en IT-professionals, op directieniveau en hoger, die data gebruiken om beslissingen te nemen en die kunstmatige intelligentie en machine learning gebruiken of van plan zijn te gebruiken om hun besluitvorming te ondersteunen.

Vooroordelen worden vaak overgeërfd door culturele en persoonlijke ervaringen. Wanneer gegevens worden verzameld en gebruikt bij de training van modellen voor machinaal leren, erven de modellen de vooroordelen van de mensen die ze opbouwen, wat onverwachte en mogelijk schadelijke resultaten oplevert. Maar ondanks de potentiële juridische en financiële valkuilen die aan gegevensvooringenomenheid verbonden zijn, is er een gebrek aan inzicht in de opleiding, processen en technologie die nodig zijn om gegevensvooringenomenheid met succes aan te pakken.

Uit het Progress-onderzoek blijkt dat 78 procent van de zakelijke en IT-besluitvormers denkt dat data bias een groter probleem wordt naarmate het gebruik van AI/ML toeneemt, maar slechts 13 procent pakt het momenteel aan en heeft een doorlopend evaluatieproces. De grootste belemmeringen die zij zien, zijn een gebrek aan bewustzijn van mogelijke vooroordelen, inzicht in hoe vooroordelen kunnen worden geïdentificeerd en het gebrek aan beschikbare deskundige middelen, zoals toegang tot data scientists.

Uit het onderzoek blijkt ook dat
- 66 procent van de organisaties verwacht de komende jaren meer gebruik te maken van AI/ML-besluitvorming.
- 65 procent gelooft dat er momenteel sprake is van data bias in hun organisatie.
- 77 procent vindt dat ze meer moeten doen om data bias aan te pakken.
- 51 procent beschouwt een gebrek aan bewustzijn en onderschatting van vooroordelen als een belemmering om het aan te pakken.

Het onderzoek, "Data Bias: The Hidden Risk of AI", is in opdracht van Progress uitgevoerd door Insight Avenue, een in het Verenigd Koninkrijk gevestigd onderzoeksbureau, gespecialiseerd in business-to-business technologieonderzoek. De resultaten zijn gebaseerd op interviews met zakelijke en IT-professionals in Noord- en Zuid-Amerika, Europa en Azië, gericht op het gebruik van gegevens bij de besluitvorming. Deze professionals zijn afkomstig uit organisaties met meer dan 500 werknemers om een beter inzicht te krijgen in het algemene bewustzijn van gegevensvooringenomenheid, de invloed ervan op bedrijven en wat bedrijven doen om het aan te pakken.

Bekijk hier het onderzoek.