DataRobot bouwt AI-governance uit buiten de cloud
DataRobot breidt zijn AI-governanceaanpak uit naar omgevingen buiten de publieke cloud, zoals on-premises, edge en air-gapped of soevereine infrastructuur. Het bedrijf schrijft dat de handhaving van policies, end-to-end lineage en compliancedocumentatie daardoor consistent geborgd is, ongeacht waar agents draaien, met welke systemen ze verbinden en door wie ze zijn gebouwd.
Volgens DataRobot kampt AI-governance in de praktijk met een fragmentatieprobleem. Platformleveranciers reguleren alleen binnen hun eigen platform, cloudaanbieders alleen binnen hun eigen cloud en applicatieleveranciers alleen binnen hun eigen applicatie. Zodra een AI-agent de grens overschrijdt van het domein waarin hij op dat moment opereert, vallen zowel het zicht op als de controle over de agent weg.
DataRobot levert een platform waarmee organisaties AI-agents bouwen, inzetten en beheren binnen bedrijfsprocessen. Het bedrijf werd eerder dit jaar voor het derde jaar op rij aangemerkt als Leader in het Gartner Magic Quadrant voor Data Science en Machine Learning-platforms.
Drie beheerlagen
DataRobot onderscheidt drie lagen van governance. De eerste laag betreft AI- en agentgovernance. Voordat een agent in productie gaat, toetst een centraal register met rolgebaseerde toegang, goedkeuringsworkflows en versiebeheer of alleen compliant agents worden uitgerold. Eenmaal in productie beoordeelt realtime moderatie elke input en output aan bedrijfsbeleid, waarbij bias, hallucinaties, prompt-injectie, toxische inhoud en het lekken van persoonsgegevens worden opgespoord en onveilige reacties worden geblokkeerd voordat ze de organisatie bereiken. Dat gebeurt met doorlopende afstemming op het NIST AI Risk Management Framework en de EU AI Act.
Losstaande identiteit per agent
De tweede laag, IT-governance, zorgt dat elke agent onder een eigen identiteit en machtigingen opereert in plaats van geërfde menselijke inloggegevens, met fijnmazige rechten voor data- en API-toegang en consistente lineage over agents, tools en applicaties heen. De derde laag, infrastructuurgovernance, houdt de kosten van agentic AI beheersbaar via gateways, fair-use-beleid en gedeelde modelhosting, ongeacht of agents draaien in de publieke cloud, private cloud, hybride omgevingen, edge, air-gapped of soevereine infrastructuur.
Praktijkvoorbeeld kredietbeslissing
DataRobot illustreert de urgentie met een voorbeeld uit gereguleerde sectoren. Wanneer een AI-agent vanuit meerdere clouds en interne systemen beslist over een kredietaanvraag, kan een governancetool die slechts één van die omgevingen overziet geen patronen detecteren op basis van beschermde kenmerken, en zal dus noch ingrijpen voordat compliance-schade ontstaat, noch documentatie genereren die toezichthouders vereisen. Chief Product Officer Venky Veeraraghavan van DataRobot zegt dat organisaties één consistent mechanisme nodig hebben om beleid te definiëren, af te dwingen en aan te tonen, over elke agent, omgeving en workflow heen.
De onderliggende technologie, het DataRobot Agent Workforce Platform, is mede ontwikkeld met NVIDIA en getest op infrastructuur van Dell en Nebius.
Bron: DataRobot
