Databricks lanceert oplossingen voor implementatie en governance van AI-agents

Databricks kondigt een reeks mogelijkheden aan binnen het Databricks Data Intelligence Platform, die organisaties helpen om AI-agents sneller en effectiever te ontwikkelen, verbeteren en beheren. Deze mogelijkheden komen beschikbaar in public preview.

Volgens Kevin Jonkergouw, VP Benelux bij Databricks, maken veruit de meeste bedrijven al volop gebruik van AI. Om concurrerend te blijven, wordt het naar zijn mening belangrijker om de inzet van AI effectief en structureel op te schalen. “Maar in die opgave krijgen organisaties veelal te maken met complexe uitdagingen op het gebied van onder meer de nauwkeurigheid en governance van modellen. Databricks helpt organisaties om met vertrouwen hun AI-toepassingen uit te breiden naar meer en meer bedrijfskritische onderdelen van de organisatie. Tegelijkertijd helpen we robuuste governance en nauwkeurige output te borgen. Dit zijn essentiële voorwaarden om AI te transformeren van een handig hulpmiddel tot een strategisch concurrentievoordeel.”

De door Databricks aangekondigde mogelijkheden zijn:
• Versimpelde integratie met bestaande applicaties: Gebruikers kunnen nu de AI/BI Genie via API integreren binnen het Mosaic AI Agent Framework om met behulp van chatbots data-inzichten te verkrijgen vanuit verschillende platforms, van Slack, Teams en SharePoint tot zelfgemaakte applicaties. Hierdoor kunnen gebruikers bedrijfsbreed data verbinden om domeinspecifieke uitdagingen op te lossen met behulp van data intelligence.
• Gecentraliseerde governance voor al je AI-modellen: Mosaic AI Gateway ondersteunt nu ook zelfgemaakte LLM-modellen. Hierdoor kunnen bedrijven zowel commerciële als open source AI-modellen op één centrale plek beheren. Ook is het hierdoor mogelijk om voor ieder model native Databricks-functies zoals AI Playground en inferentie tabellen te gebruiken.
• Meer menselijke controle over AI-modellen: De Agent Evaluation Review-applicatie is sterk verbeterd, zodat experts van andere afdelingen gemakkelijker hun feedback kunnen geven op de werking van modellen. Betere feedback voor data- en AI-teams is cruciaal voor het ontwikkelen van AI-agents die concurrentievoordeel opleveren.
• Provisionless batch inference: Met een enkele SQL-query kunnen grote hoeveelheden data worden verwerkt met AI-modellen (batch inference) zonder daarvoor handmatig aanvullende infrastructuur voor op te tuigen (provisionless). Hierdoor kunnen teams zich volledig toeleggen op het opschalen van hun AI-werkzaamheden, zonder zich druk te hoeven maken over de infrastructurele benodigdheden.