Het echte werk begint bij het verkleinen van de risico's van AI

Kunstmatige Intelligentie is bezig zijn eigen succesverhaal te schrijven. Hoe vaker het wordt gebruikt, des te meer bruikbare use-cases er naar voren komen. Als we de cijfers mogen geloven, dan blijkt uit het recente rapport van NewVantage Partners dat 77,8 procent van de respondenten aangeeft dat hun bedrijf AI op grote schaal, of in ieder geval in beperkte productie, gebruikt. Dit is een verbluffende stijging van 65,8 procent ten opzichte van het jaar ervoor.

Dit onderzoek laat duidelijk zien dat AI er is, dat het steeds meer gebruikt wordt en dat de bewezen waarde van AI zorgt voor meer investeringen in deze technologie. Maar organisaties die AI-succes ervaren (degenen die het hebben gebruikt voor innovatie en business transformatie) worden geconfronteerd met nieuwe risico’s. Kort gezegd zorgt het grote succes van hun AI-implementaties voor toekomstige uitdagingen. Waar u zich ook bevindt in uw AI-reis, deze risico’s zullen nu ook beperkt moeten worden.

Gevaar: Kritieke AI-risico’s
Er zijn twee primaire risico’s voor het verkrijgen van waarde voor de business met AI, die door ons ook wel ‘double trouble’ worden genoemd. Het eerste risico is het risico van een tekort aan talent en het tweede is de afhankelijkheid van niet-conforme of slecht uitgevoerde black box-oplossingen.

Een nieuwe benadering om het risico van AI te verminderen – ModelOps
Laten we eerst de aanpak definiëren die ik aanbeveel: ModelOps. De meeste business leaders hebben nog nooit te maken gehad met ModelOps – en dat is oké. Maar het is belangrijk om te begrijpen hoe het AI mogelijk maakt, aangezien bedrijven de innovatie en optimalisatie nodig hebben die AI en machine learning bieden. Simpel gezegd maakt ModelOps het beheer mogelijk van de belangrijkste elementen van de levenscyclus van AI- en decision-models. Houd er rekening mee dat AI-modellen machine learning-algoritmen zijn; ze zijn getraind op echte of synthetische data en emuleren logische besluitvorming op basis van de gegevens die teams hen ter beschikking stellen. Deze modellen zijn zorgvuldig ontworpen door datawetenschappers om inzicht te krijgen in het oplossen van een specifiek probleem in het bedrijf of zijn activiteiten, dat is geïdentificeerd in samenwerking met analytics- en datamanagement teams. Maar laten we nu eens kijken hoe ModelOps de risico’s van AI verkleint.

Hoe ModelOps de uitdagingen rond AI-productiviteit vermindert
Met alle tekorten op de arbeidsmarkt wordt ook het rekruteren van AI-talent een enorme uitdaging. En als je een data scientist of data science-team aan boord krijgt, worden ze meestal overspoeld met verzoeken die weer leiden tot een ernstige achterstand in projectaanvragen. Wanneer de resources voor data science beperkt zijn, kan een organisatie onmogelijk AI-gedreven inzichten en besluitvorming opschalen.

De inzet van ModelOps kan de druk hierop verminderen. Door de automatisering van model-management en de democratisering van model-productie en -implementatie te ondersteunen, kan ModelOps helpen om de tekorten aan AI-talent te verkleinen en zo productiviteitsuitdagingen aan te pakken. In plaats van uw data science-team voortdurend tegen de stroom in te laten zwemmen van de toenemende vraag, helpt deze aanpak hen om zich te concentreren op datgene dat de meeste waarde biedt voor de business. Een ModelOps-aanpak houdt uw data science-team gefocust op het verkennen, testen en innoveren via AI, terwijl uw data-engineers en -analisten meer modellen in productie kunnen nemen.

Een andere uitdaging waar ModelOps bij helpt, is schaalbaarheid. Het maken van modellen op schaal gaat niet alleen over het aantal modellen, maar schaal heeft ook betrekking op hoe breed AI wordt gebruikt in de systemen en processen van een organisatie. Eerder hadden we het over de uitdaging van het rekruteren van AI-talent. Meer integratie betekent dat er meer modellen nodig zijn om de voordelen van AI te benutten, en dit vereist meer data scientists om de ontwikkeling en implementatie van modellen te ondersteunen. Zonder ModelOps loopt u het risico dat implementatie-uitdagingen resulteren in falende AI. Door ModelOps te gebruiken om model-implementatie op schaal te democratiseren, beschikt u over een katalysator die het bedrijf van incrementele naar baanbrekende voordelen van AI brengt.

Hoe ModelOps AI-risico’s verkleint door verbeterde transparantie
Het tweede risico is de afhankelijkheid van ‘black box’ AI-oplossingen. We weten dat er regelgeving komt die interpreteerbaarheid en transparantie voor alle AI-systemen gaat verplichten. Zelfs als uw AI-technologie wordt geleverd door een partner of leverancier, kan uw organisatie aansprakelijk zijn voor bevooroordeelde of gebrekkige resultaten. De aankomende en huidige regelgeving brengen reële risico’s met zich mee, zoals juridische problemen, boetes en zelfs reputatieverlies.

Zoals opgemerkt door het Stanford Institute for Human-Centered Artificial Intelligence in zijn 2022 AI Index-rapport: “Wereldwijd blijft AI-regelgeving zich uitbreiden. Sinds 2015 zijn er 18 keer meer wetsvoorstellen met betrekking tot AI aangenomen in 25 landen over de hele wereld en de vermeldingen van AI in wetgevende procedures zijn de afgelopen zes jaar ook 7,7 keer groter geworden.” Het is dus absoluut noodzakelijk om het huidige en geplande AI-gebruik te begrijpen en om AI-transparantie en -interpreteerbaarheid in uw hele bedrijf door te voeren. Transparantie in AI is niet alleen nodig voor risicobeheer. Het ondersteunt ook initiatieven op het gebied van milieu, maatschappij en bestuur (ESG), vooral als het gaat om de bezorgdheid van de samenleving over eerlijk en ethisch gebruik van AI.

Er is een reden waarom transparantie een uitdaging is. Machine learning en AI-algoritmen en -modellen zijn niet bepaald gemakkelijk te begrijpen, omdat het aantal parameters dat ze gebruiken en hoe deze parameters precies met elkaar omgaan, ronduit complex kan worden. Deze complexiteit wordt verergerd door de manier waarop deze modellen interactie met elkaar hebben en hoe ze integreren met data. Ik zeg altijd dat complexiteit gepaard gaat met ondoorzichtigheid – waardoor het moeilijk wordt voor mensen om te interpreteren hoe het model beslissingen neemt en om te bepalen of deze beslissingen vooroordelen bevatten.

Wanneer ModelOps in dit proces wordt toegepast, kan een organisatie technologieën, mensen, processen en gegevens combineren en tegelijkertijd de transparantie in de model-ontwikkeling beter managen. Waar modellen vaak worden beheerd via een verzameling slecht geïntegreerde tools, kan ModelOps zorgen voor transparantie en voor het toezicht op model testen, versiebeheer, model-stores en rollback van modellen. Een uniforme en interoperabele benadering van ModelOps ondersteunt governance en transparantie die helpen bij het verminderen van risico’s rond regelgeving en vooroordelen.

Dus, wanneer implementeert u een ModelOps-aanpak? Als u AI-projecten wilt schalen, verminder dan de complexiteit van het beheren van slecht geïntegreerde ontwikkelingstools en bereid u voor op naleving van de regelgeving. Wat zijn de voordelen van ModelOps? Het verkleinen van de risico’s van AI doordrenkte processen, het creëren een beheersbaar AI-raamwerk en waarborgen van transparantie. En ModelOps bereikt dit door gestroomlijnd beheer van AI- en decision-modellen vanaf het begin, tot uiteindelijk hun productief en ethisch gebruik.

Een risicoloze AI-realiteit
We weten dat ModelOps-benaderingen werken. Een specifiek succesverhaal is te vinden bij het National University Health System (NUHS) in Singapore. Om een volledig beeld te krijgen van het patiëntentraject en om inzicht te krijgen in een groeiende vergrijzende bevolking, heeft NUHS zijn ENDEAVOR AI-platform ontwikkeld met behulp van ModelOps-beheer. Het platform heeft de organisatie in staat gesteld om een compleet beeld van patiëntendossiers af te leiden, realtime diagnostische data te ontdekken en diagnostische voorspellingen te doen.

Om Dr. Ngiam Kee Yuan, Group Chief Technology Officer bij NUHS te citeren: “Ons ultramoderne ENDEAVOR AI-platform stimuleert slimmere, betere en effectievere gezondheidszorg in Singapore. We verwachten dat [ModelOps] de implementatie van veilige en effectieve AI-geïnformeerde processen zal versnellen op een meer schaalbare, gecontaineriseerde manier.”

Organisaties die ModelOps gebruiken, profiteren snel van een eenvoudiger pad naar de implementatie van ML- en AI-modellen. Ze hebben ook de ontwikkeling van AI gedemocratiseerd door ervoor te zorgen dat data-engineers en data-analisten aan het proces kunnen deelnemen zonder risico op mislukking, omdat ze een gekwalificeerd en effectief framework hebben om mee te werken.

Risicovrije AI ontgrendeld door ModelOps
Laat tekorten aan AI-talent of juridische AI- en reputatierisico’s die ontstaan door het inzetten van ‘black box’-oplossingen u niet beperken. Een schaalbare en robuuste ModelOps oplossing maakt de weg vrij naar AI met minder risico’s. Het zorgt er ook voor dat de AI-modellen die u ontwikkelt en implementeert zich aanpassen aan de veranderende behoeften van uw organisatie en het zorgt voor de governance-flexibiliteit die nodig is om een stap voor te blijven op de steeds veranderende regelgeving.