SAS: Technologie kan helpen bias te verminderen

Dit jaar staat Internationale Vrouwendag in het teken van Accelerate Action. Hoe kunnen we de actie voor gendergelijkheid versnellen? Het antwoord zal volgens SAS misschien verrassend klinken: met AI. Terwijl Artificial Intelligence zelf al vaak de mist is ingegaan onder invloed van bias, heeft net deze technologie de sleutel in handen om voor meer gelijkheid te zorgen. In de eerste plaats omdat AI kan helpen om de aanwezige bias in de maatschappij tastbaar te maken.

Bias beïnvloedt ons van jongs af aan. Zelfs jonge kinderen nemen onbewuste genderstereotypen over uit hun omgeving. Véronique Van Vlasselaer, Analytics en AI Lead bij SAS, vertelt: “Ondanks dat mijn zoon van vier en dochter van één worden opgevoed met het idee dat zij dezelfde kansen krijgen en in gelijkheid opgroeien, zei mijn zoontje laatst uit het niets “Jongens kunnen hard werken, meisjes niet”. Dit laat zien hoe diepgeworteld deze vooroordelen zijn. De oorzaak ligt niet per se in de gezinssituatie, maar eerder in de maatschappij. Ideeën over genderongelijkheid worden blijkbaar generaties lang doorgegeven, vaak zonder dat we het doorhebben.”

AI voor gelijkheid
Dit voorbeeld laat zien hoe diepgeworteld en automatisch onze maatschappelijke bias is. En dat is precies waar AI een rol kan spelen. Vaak wordt gedacht dat AI juist voor meer ongelijkheid zorgt, maar in werkelijkheid kan het helpen die bloot te leggen en te corrigeren.

Er zijn intussen genoeg voorbeelden van AI-systemen die ongelijkheid blootleggen. Zo beoordeelden sommige recruitmenttools het vrouwelijk geslacht als een negatieve factor, simpelweg omdat ze getraind waren op historische data. In de medische sector leiden AI-modellen er soms toe dat vrouwen anders behandeld worden dan mannen. In plaats van AI enkel te veroordelen en deze modellen af te wijzen, moeten we ze zien als een spiegel die bevestigt hoe diepgeworteld ongelijkheid in onze samenleving is.

Correctie met biasmitigatie
Van Vlasselaer vult aan: “AI is geen magische oplossing, maar een krachtig middel om ongelijkheid bespreekbaar te maken. In vaktermen noemen we dit biasmitigatie. Zodra we weten waar er bias opduikt, kunnen we gaten opvullen met synthetische data. Dat zijn gegevens die kenmerken simuleren en op die manier het tekort aan informatie over bepaalde minderheidsgroepen helpen opvangen. Vrouwen die niet genoeg vertegenwoordigd zijn in historische data, worden op die manier versterkt, waardoor AI-systemen ook in hun beslissingslogica meer gelijkwaardigheid gaan opnemen. Ook taalmodellen zoals ChatGPT hebben in korte tijd enorme stappen gezet in het neutraliseren van genderstereotypen.”

De maatschappij veranderen kost generaties. Technologie aanpassen gaat sneller. AI kan helpen onze blinde vlekken te zien én te corrigeren. Zo groeien kinderen volgens SAS op in een wereld met eerlijker kansen dan eerdere generaties.