Dataiku introduceert LLM Mesh voor integratie large language models

Dataiku, platform voor Everyday AI, introduceert LLM Mesh, een platform om effectief, schaalbaar en veilig Large Language Models (LLM's) te integreren. De introductie is samen met launching partners Snowflake, Pinecone en AI21 Labs. Dataiku's nieuwe functies voor de LLM Mesh worden vanaf oktober uitgebracht in publieke en besloten previews. 
 
Generatieve AI biedt een groot aantal kansen en voordelen, maar organisaties worden ook geconfronteerd met belangrijke uitdagingen. Denk hierbij aan een gebrek aan gecentraliseerd beheer, ontoereikende toegangscontroles voor gegevens en modellen, minimale maatregelen tegen giftige inhoud, het gebruik van persoonlijk identificeerbare informatie en een gebrek aan kostenbewakingsmechanismen. Daarnaast hebben veel organisaties hulp nodig bij het vaststellen van best practices om het potentieel van dit opkomende technologische ecosysteem volledig te benutten.  
 
De LLM Mesh bouwt voort op Dataiku's Generative AI-mogelijkheden die in juni 2023 werden geïntroduceerd en biedt de componenten die bedrijven nodig hebben om op efficiënte wijze veilige toepassingen te bouwen met behulp van LLM's op schaal. Met de LLM Mesh tussen LLM-serviceproviders en eindgebruikertoepassingen kunnen bedrijven de meest kosteneffectieve modellen voor hun behoeften kiezen, de veiligheid van hun gegevens en reacties waarborgen en herbruikbare componenten maken voor schaalbare applicatieontwikkeling.  

Generatieve AI-apps
De LLM Mesh bevat onder andere universele AI-service routing, veilige toegang en auditing voor AI-diensten, veiligheidsvoorzieningen voor het screenen van privégegevens en responsmoderatie, en het bijhouden van prestaties en kosten. De LLM Mesh biedt ook standaardcomponenten voor applicatieontwikkeling om kwaliteit en consistentie te garanderen en tegelijkertijd de controle en prestaties te leveren die een organisaties mag verwachten.  
 
Volgens Clément Stenac, Chief Technology Officer en medeoprichter van Dataiku, vertegenwoordigt de LLM Mesh een cruciale stap in AI. "Bij Dataiku overbruggen we de kloof tussen de belofte en de realiteit van het gebruik van generative AI in de onderneming. We geloven dat de LLM Mesh de structuur en controle biedt waar velen naar op zoek waren en de weg vrijmaakt voor veiligere, snellere GenAI-implementaties die echte waarde leveren."

LLM Mesh launching partners
Dataiku faciliteert het effectieve en brede gebruik van LLM's, vectordatabases en verschillende rekeninfrastructuren als aanvulling op bestaande aanbieders. Deze aanpak sluit aan bij Dataiku's filosofie om de mogelijkheden van bestaande technologieën te verbeteren in plaats van te dupliceren en ze voor iedereen toegankelijk te maken. De LLM Mesh launching partners zijn Snowflake, Pinecone en AI21 Labs. Zij zijn verantwoordelijk voor verschillende van de belangrijkste componenten van de LLM Mesh: gecontaineriseerde data- en computermogelijkheden, vectordatabases en LLM-bouwers.