Neo4j geeft AI-agents persistent geheugen
Neo4j heeft Agent Memory beschikbaar gemaakt als experimentele Labs-oplossing waarmee AI-agents informatie over meerdere sessies kunnen bewaren. Het geheugen wordt opgeslagen in een Neo4j knowledge graph en kan onder meer gesprekken, entiteiten, voorkeuren en reasoning traces vastleggen.
Neo4j Agent Memory is bedoeld voor single- en multi-agentomgevingen waarin agents informatie uit eerdere interacties opnieuw moeten kunnen gebruiken. In plaats van alleen context in een prompt of vector store te bewaren, slaat de oplossing verschillende soorten geheugen als onderling verbonden data in een graph database op.
Neo4j onderscheidt drie geheugenlagen. Short-term memory bevat gesprekken en ervaringen, long-term memory slaat onder meer feiten, entiteiten en voorkeuren op en reasoning memory legt toolgebruik en reasoning traces vast.
Volgens Neo4j kunnen die lagen gezamenlijk worden doorzocht om relevante context voor een nieuwe interactie terug te halen.
Drie geheugenlagen
De oplossing ondersteunt zowel een gehoste dienst als self-hosted gebruik. Bij de hosted variant, Neo4j Agent Memory Service, beheert Neo4j de infrastructuur en krijgen ontwikkelaars via een API toegang tot het geheugen.
Voor self-hosted gebruik kunnen organisaties Agent Memory koppelen aan een eigen Neo4j-omgeving, bijvoorbeeld Aura, Docker of Desktop. Daarmee houden ze meer controle over het schema en kunnen ze onder meer Cypher direct gebruiken.
Er zijn SDK’s beschikbaar voor Python en TypeScript. Verschillende agentframeworks kunnen dezelfde graph gebruiken, waardoor bijvoorbeeld een Python-agent en een TypeScript-agent informatie met elkaar kunnen delen zonder afzonderlijke synchronisatie.
Geheugen blijft bij modelwissel
Neo4j heeft daarnaast een provider ontwikkeld voor de Vercel AI SDK. Het package @neo4j-labs/nams-ai-provider koppelt modellen binnen die SDK aan Neo4j Agent Memory Service.
Daarbij wordt vóór een modelcall relevante informatie uit het geheugen opgehaald en na de call nieuwe informatie opgeslagen. Omdat het geheugen buiten het model zelf staat, blijft deze informatie behouden wanneer ontwikkelaars bijvoorbeeld wisselen tussen modellen van verschillende leveranciers.
Neo4j positioneert graph memory als alternatief voor geheugenlagen die vooral losse tekstfragmenten in vector stores bewaren. Door personen, tools, beslissingen en andere entiteiten als nodes en relaties op te slaan, kunnen agents volgens het bedrijf ook verbanden tussen opgeslagen informatie gebruiken.
Neo4j Agent Memory bevindt zich binnen Neo4j Labs en wordt door Neo4j aangeduid als experimenteel en community-supported.
Bron: Neo4j
