当前位置: 首页 > news >正文

[MAF预定义的AIContextProvider-04]Mem0Provider——长期记忆云端解决方案

在ChatHistoryMemoryProvider——赋予Agent从经验中学习的能力中,我们介绍了如何利用ChatHistoryMemoryProvider赋予Agent长期的记忆,使之具备从过去经验学习进化的能力。ChatHistoryMemoryProvider利用我们提供的向量数据库,对每次调用产生的消息针对指定的Scope维度进行存储,并将当前消息作为查询文本,结合设定的Scope维度检索历史消息作为上下文的一部分来参与LLM的推理。除了这种需要我们们自己搭建和维护的基于向量数据库的解决方案之外,我们还可以利用如下两个预定义的AIContextProvider调用来实现长期记忆的功能:

  • Mem0Provider:集成了Mem0记忆平台为Agent提供长期记忆;
  • FoundryMemoryProvider:集成Azure AI Foundry的 Memory Store来为Agent提供长期记忆;

Mem0是一个专为AIAgent打造的长期记忆层平台,让AI能像人一样跨会话记住事实、偏好、背景信息,并通过向量 + 图谱的混合架构实现高效、可扩展、可演化的记忆管理。Mem0目前提供免费试用,我们可以通过这里申请API-Key来使用它的服务。集成它的Mem0Provider很新,新到对应的NuGet包还没有发布,所以我不得不将其源代码从Github上扒下来。所以当对用的NuGet包发布之后,相关的API肯定与本文介绍的有所不同,不过由于Mem0 API不会改变,所以这套实现方式肯定是使用的。

1. 将Mem0Provide应用到点餐Agent上

在上一篇文章中,我们将ChatHistoryMemoryProvider应用到作为点餐助手的Agent上,使Agent能够记住用户的口味偏好。接下来我们将ChatHistoryMemoryProvider替换成Mem0Provider来实现同样的功能。如代码片段所示,我们利用一个用于远程调用Mem0 API的HttpClient和一个应用初始化状态的委托来创建了一个Mem0Provider对象。这个HttpClient使用固定的目标地址“https://api.mem0.ai"",并将申请的API-Key放在Authorization请求头中。

usingAzure;usingAzure.AI.Projects;usingdotenv.net;usingMicrosoft.Agents.AI;usingMicrosoft.Agents.AI.Mem0;usingMicrosoft.Extensions.AI;usingOpenAI;usingOpenAI.Responses;usingSystem.ComponentModel;usingSystem.Net.Http.Headers;DotEnv.Load();varmodel=Environment.GetEnvironmentVariable("MODEL")!;varapiKey=Environment.GetEnvironmentVariable("API_KEY")!;varendpoint=Environment.GetEnvironmentVariable("OPENAI_URL")!;varmem0ApiKey=Environment.GetEnvironmentVariable("MEM0_API_KEY")!;usingvarhttpClient=newHttpClient();httpClient.BaseAddress=newUri("https://api.mem0.ai");httpClient.DefaultRequestHeaders.Authorization=newAuthenticationHeaderValue("Token",mem0ApiKey);varmemoryProvider=newMem0Provider(httpClient:httpClient,stateInitializer:InitializeMemoryState);AITool[]tools=[AIFunctionFactory.Create(GetMenu,"GetMenu"),AIFunctionFactory.Create(PlaceOrder,"PlaceOrder")];varagent=newOpenAIClient(credential:newAzureKeyCredential(apiKey),options:newOpenAIClientOptions{Endpoint=newUri(endpoint)}).GetChatClient(model:model).AsIChatClient().AsAIAgent(options:newChatClientAgentOptions{Name="delivery-order",AIContextProviders=[memoryProvider],ChatOptions=newChatOptions{ModelId=model,Instructions=""" 你是一个贴心外卖点餐助手。 用户授权自己选择菜品和数量的权力,无需用户确认。但下单数量务必控制在三份以内。 点餐时既要考虑用户的口味偏好,也要考虑菜品多样性,以及尽可能与上次订餐有所不同。""",Tools=tools}});varsession=awaitagent.CreateSessionAsync();session.StateBag.SetValue("user_id","Alice");varresponse=awaitagent.RunAsync("帮我点一份外卖,一荤一素,我不能吃辣",session);Console.WriteLine($"""{newstring('-',30)}来自 Alice 的订单{newstring('-',30)}{response}""");awaitOrderDelivery("Alice");awaitOrderDelivery("Alice");awaitOrderDelivery("Bob");awaitOrderDelivery("Bob");asyncTaskOrderDelivery(stringuserName){varsession=awaitagent.CreateSessionAsync();session.StateBag.SetValue("user_id",userName);varresponse=awaitagent.RunAsync("帮我点一份外卖",session);Console.WriteLine($"""{newstring('-',30)}来自{userName}的订单{newstring('-',30)}{response}""");}staticMem0Provider.StateInitializeMemoryState(AgentSession?session){if(sessionisnotChatClientAgentSessionchatSession){thrownewInvalidOperationException("Session is not of type ChatClientAgentSession.");}if(chatSession.StateBag?.TryGetValue<string>("user_id",outvaruserId)!=true||string.IsNullOrWhiteSpace(userId)){thrownewInvalidOperationException("User ID not found in session state.");}varscope=newMem0ProviderScope{UserId=userId};returnnewMem0Provider.State(storageScope:scope,searchScope:scope);}[Description("提取外卖菜单")]staticstring[]GetMenu()=>["辣椒炒肉","剁椒鱼头","番茄炒蛋","清蒸鲈鱼","清炒菜心","酸辣土豆丝","西芹百合"];[Description("外卖下单")]staticIReadOnlyList<OrderItem>PlaceOrder(paramsKeyValuePair<string,int>[]orderItems)=>[..orderItems.Select(item=>newOrderItem(item.Key,item.Value))];publicreadonlyrecordstructOrderItem(stringDishName,intQuantity);

虽然我们不再需要为Mem0Provider提供向量数据库,但是基于Scope针对对话历史消息文本的存储和检索依然没有改变,所以我们在创建Mem0Provider对象的时候依然需要提供一个StateInitializer的委托对象来为每次调用初始化一个State对象,该对象用于封装了上下文检索和对话历史存储使用的Scope维度。

我们通过注册两个工具(GetMenuPlaceOrder)和Mem0Provider将Agent创建出来后,就可以开始点餐了。我们定义了辅助方法OrderDelivery来为指定的用户点餐,并且每次调用都创建了一个新的Session来屏蔽短期记忆的干扰。我们第一次直接调用Agent以Alice的名义点餐,并且告诉Agent:“帮我点一份外卖,一荤一素,我不能吃辣”。后续则通过调用OrderDelivery方法来为Alice和Bob点餐。整个程序会生成如下的输出:

------------------------------ 来自 Alice 的订单 ------------------------------ 已经帮您搭配好一荤一素,而且都不辣 🌿 ✅ 清蒸鲈鱼 ×1(清淡鲜嫩) ✅ 清炒菜心 ×1(爽口解腻) 营养均衡又清爽,很适合不能吃辣的您~ 祝您用餐愉快!🍽️ ------------------------------ 来自 Alice 的订单 ------------------------------ 已经帮您安排好啦 ✅ 📝 本次为您搭配: - 🐟 清蒸鲈鱼 ×1(清淡鲜美,不辣) - 🥬 西芹百合 ×1(清爽解腻,营养丰富) 一荤一素,口味清淡,搭配均衡,也避开了辣味菜品 👍 祝您用餐愉快呀!如果下次想换换口味,也可以告诉我~ ------------------------------ 来自 Alice 的订单 ------------------------------ 已经帮您下单完成 ✅ 🥢 **清蒸鲈鱼** ×1(清淡不辣,优质蛋白) 🥬 **清炒菜心** ×1(清爽蔬菜,营养均衡) 搭配一荤一素,口味清淡,符合您不吃辣的需求,而且与常见重口味菜品有所区分。 祝您用餐愉快 🍽️😋 ------------------------------ 来自 Bob 的订单 ------------------------------ 已经帮您下单啦 ✅ 🧾 本次点餐: - 辣椒炒肉 ×1(下饭又有点辣味) - 清蒸鲈鱼 ×1(清淡鲜美,搭配均衡) - 清炒菜心 ×1(清爽解腻) 荤素搭配、口味有层次,而且控制在三份以内~ 祝您用餐愉快 🍚🥢 ------------------------------ 来自 Bob 的订单 ------------------------------ 已经帮你下单啦 ✅ 本次为你搭配的是: - 🌶️ 辣椒炒肉 ×1(下饭主菜) - 🍅 番茄炒蛋 ×1(经典家常) - 🥬 清炒菜心 ×1(清爽解腻) 荤素搭配均衡,口味丰富又不油腻。 祝你用餐愉快呀 🍚😋

面的输出显示了5次点餐的结果。可以看到,Alice的三次点餐都没有辣椒炒肉和剁椒鱼头,因为她不能吃辣;Bob的两次点餐都包含了辣椒炒肉和剁椒鱼头,因为对话中并没有涉及Bob的口味偏好。

2. 检索和存储的Scope

Mem0ProviderChatHistoryMemoryProvider,前者通过指定的HttpClient调用远程的Mem0服务来实现对话历史的存储和检索,后者则是直接操作我们提供的向量数据库来实现存储和检索。除了这点不之外,其他方面的实现非常类似。所以我们会看到类似到几乎一样的类型定义,比如内嵌于Mem0Provider封装了检索和存储Scope的State类型。除了Mem0ProviderScopeSessionId属性重写命名为ThreadId之外,其他定义完全一样。

publicsealedclassMem0Provider:MessageAIContextProvider{publicsealedclassState{publicMem0ProviderScopeStorageScope{get;}publicMem0ProviderScopeSearchScope{get;}publicState(Mem0ProviderScopestorageScope,Mem0ProviderScope?searchScope=null);}}publicsealedclassMem0ProviderScope{publicstring?ApplicationId{get;set;}publicstring?AgentId{get;set;}publicstring?ThreadId{get;set;}publicstring?UserId{get;set;}}

Socpe四个维度的值来源于Session状态,构造Mem0Provider的时候需要提供一个StateInitializer类型的委托来根据当前的Session来初始化State对象。构造函数会根据此委托对象,结合由Mem0ProviderOptions指定的键(如果没有指定,则使用Mem0Provider的类名)创建一个ProviderSessionState<State>对象在Session中维护这个State对象。对于上面点餐的例子来说,我们将UserId作为Scope的维度,所以StateInitializer委托对象的实现逻辑就是从Session状态中获取UserId的值,并将其分别赋值给StorageScopeSearchScope的UserId属性。

publicsealedclassMem0Provider:MessageAIContextProvider{privatereadonlyProviderSessionState<State>_sessionState;privateIReadOnlyList<string>?_stateKeys;publicoverrideIReadOnlyList<string>StateKeys=>_stateKeys??=[_sessionState.StateKey];publicMem0Provider(HttpClienthttpClient,Func<AgentSession?,State>stateInitializer,Mem0ProviderOptions?options=null,ILoggerFactory?loggerFactory=null):base(options?.SearchInputMessageFilter,options?.StorageInputRequestMessageFilter,options?.StorageInputResponseMessageFilter){_sessionState=newProviderSessionState<State>(stateInitializer,options?.StateKey??GetType().Name,AgentJsonUtilities.DefaultOptions);}}

3. Mem0ProviderOptions

作为Mem0Provider的配置选项类型,Mem0ProviderOptionsChatHistoryMemoryProviderOptions的定义也有很多相似之处。但是Mem0ProviderOptions中没有定义SearchTime属性,意味着Mem0Provider需要在调用LLM之前自行完成上下文的检索,并将检索到的上下文消息添加到输入消息列表中去。而不像ChatHistoryMemoryProvider那样还将检索工作实现在注册的工具中,由LLM自行决定调用此工具补充上下文信息。也许在未来的版本中,Mem0Provider也会提供对应的功能也未可知。

Mem0ProviderOptions还提供了如下的配置选项,当检索内容被格式化成提示词文本后,还添加由配置选项ContextPrompt指定的前缀。如果没有显式设置,会采用默认值## Memories\nConsider the following memories when answering user questions:EnableSensitiveTelemetryDataRedactor用来控制是否以及如何对包含敏感数据的消息进行脱敏处理;StateKey用来指定在Session中维护Mem0Provider.State对象所使用的键;SearchInputMessageFilterStorageInputRequestMessageFilterStorageInputResponseMessageFilter分别用来指定在检索输入消息、存储请求消息和存储响应消息时需要应用的过滤器。

publicsealedclassMem0ProviderOptions{publicstring?ContextPrompt{get;set;}publicboolEnableSensitiveTelemetryData{get;set;}publicRedactor?Redactor{get;set;}publicstring?StateKey{get;set;}publicFunc<IEnumerable<ChatMessage>,IEnumerable<ChatMessage>>?SearchInputMessageFilter{get;set;}publicFunc<IEnumerable<ChatMessage>,IEnumerable<ChatMessage>>?StorageInputRequestMessageFilter{get;set;}publicFunc<IEnumerable<ChatMessage>,IEnumerable<ChatMessage>>?StorageInputResponseMessageFilter{get;set;}}

4. 基于对话历史的检索和存储

由于Mem0Provider并为提供基于注册工具的上下文检索方法,所以它只需要重写MessageAIContextProviderProvideMessagesAsync方法来实现基于对话历史的检索就可以了。具体的检索工作通过调用Mem0ClientSearchAsync方法来实现的,作为输入的正是初始化时设置的检索Scope的维度列表。这个Mem0Client对象则是通过构造函数提供的HttpClient创建的。SearchAsync方法返回的消息文本列表被拼接在一起后,会添加上ContextPrompt指定的前缀。最终返回的ChatMesage将生成的这段文本作为内容,并且角色被设置为User。这个消息最终会被添加到输入消息列表中去参与LLM的推理。

publicsealedclassMem0Provider:MessageAIContextProvider{protectedoverrideasyncValueTask<IEnumerable<ChatMessage>>ProvideMessagesAsync(InvokingContextcontext,CancellationTokencancellationToken=default);protectedoverrideasyncValueTaskStoreAIContextAsync(InvokedContextcontext,CancellationTokencancellationToken=default)}internalsealedclassMem0Client{publicMem0Client(HttpClienthttpClient);publicasyncTask<IEnumerable<string>>SearchAsync(string?applicationId,string?agentId,string?threadId,string?userId,string?inputText,CancellationTokencancellationToken);publicasyncTaskCreateMemoryAsync(string?applicationId,string?agentId,string?threadId,string?userId,stringmessageContent,stringmessageRole,CancellationTokencancellationToken);publicasyncTaskClearMemoryAsync(string?applicationId,string?agentId,string?threadId,string?userId,CancellationTokencancellationToken);}

针对对话历史的存储实现在重写的StoreAIContextAsync方法中,最终通过调用Mem0ClientCreateMemoryAsync方法来实现的。就目前的实现来说,StoreAIContextAsync方法会针对每个消息调用一次Mem0ClientCreateMemoryAsync方法,很明显这是不合理的。这些瑕疵都说明了这个Mem0Provider还是个半吊子

5. Mem0的运维工具

虽然Mem0Provider尚未发布,但是只要了解了Mem0 API的定义,可以自己提供实现。在不考虑收费的前提下,利用这种云平台现成的解决方案,有效避免了自行运维的麻烦。Memo0站点还提供一些运维工具来帮助我们查看和管理存储在Mem0上的记忆内容,比如针对每次调用的跟踪等等。如下所示的是它提供的仪表盘:

http://www.cnnetsun.cn/news/2705833.html

相关文章:

  • 7天精通Vortex:从新手到模组管理专家
  • JavaFX桌面人事系统源码:含MySQL数据库脚本、图标资源与完整操作演示
  • 2026年游戏键盘推荐:4款低延迟高精度游戏键盘实测对比
  • Jina Embeddings v2 Base ES与其他嵌入模型对比:如何选择最适合的模型
  • Kronos金融大模型实战指南:构建专业级市场预测系统的10个核心技术方案
  • 告别手动输入:在VSCode里为不同CMake构建目标预设多套启动参数
  • 用FOIL算法给知识图谱‘补全’关系:一个家庭关系推理的Python小例子
  • 别再纠结n还是n-1了!用Python手把手教你算样本方差(附代码与自由度详解)
  • Proxmox VE安装后必做的5件事:优化存储、配置订阅源、设置防火墙,让你的PVE更安全好用
  • 还在人工盯网页?用Python打造智能网络内容监控系统,效率提升10倍不止
  • 告别‘隐身’:深入Android 10源码,手动关闭Wi-Fi隐私保护(固定MAC地址)
  • TVA在电子元器件领域的创新应用(18)
  • 【字节跳动】济南历城AI智算机房【万字终极完整版|全设备型号+全系统拆解】
  • 网络通信为 KLAB 的操纵杆带来了新的机遇
  • 终极指南:如何用OmenSuperHub完全掌控你的暗影精灵笔记本性能 [特殊字符]
  • 告别懵圈!手把手教你用AUTOSAR工具链(ISOLAR/EB Tresos)配置LIN总线通信
  • 告别Win11资源管理器抽风!保姆级排查指南:从透明效果到进程隔离
  • 单比特奇迹:如何在本地设备运行 4B 图像生成模型?
  • Unity数智人项目实战:我是如何搞定C++算法与C#交互的(含IL2CPP配置避坑)
  • 告别打包噩梦:用AssetBundle+Lua实现Unity手游资源与代码热更完整流程
  • 性能优化:让 HTML 加载更快
  • 避坑指南:Qt对接阿里云MQTT时,product_key、host地址那些最容易填错的地方
  • 从CNN全连接层到Transformer:一文搞懂PyTorch中flatten()的实战用法与时机
  • 如何用Python实现剪映自动化:终极视频批量处理指南
  • HoRain云--Claude Code 环境变量
  • 用C# WinForm给汇川H3U PLC写个上位机:从API下载到读写数据的完整流程
  • 别再死记硬背卷积公式了!用Python手搓一个动态卷积模块,理解CondConv和Dynamic Conv的核心差异
  • python爬虫(爬取王者荣耀英雄图片)
  • PHP服务器监控与性能指标采集
  • 别再只玩AutoGPT了!手把手教你用Python+LangChain从零搭建一个ReAct智能体(附完整代码)