当前位置: 首页 > news >正文

记忆检索与更新,Agent什么时候该回忆什么时候该遗忘

记忆检索与更新,Agent什么时候该回忆什么时候该遗忘

记忆系统做大了以后,会遇到一个矛盾。记的东西越多,检索越慢,噪音越多。记的东西太少,又不够用。

关键不在于记多少,在于该记的记住了、该忘的忘掉了、需要的时候能找到。

这一篇我们讲记忆的检索和更新策略。怎么高效地回忆,怎么合理地遗忘,怎么保持记忆库的整洁。


记忆检索策略

记忆存在向量数据库里,检索的时候怎么做。

最简单的方式是,每次用户提问,都去记忆库里搜一遍。但这样有两个问题。一是每次都搜,浪费时间和Token。二是搜回来的记忆不一定有用,反而干扰Agent的回答。

更好的做法是,判断一下当前问题是否需要回忆。

什么情况需要回忆。

用户提到了之前聊过的内容。“上次你说的那个方案”、“我们之前讨论的”。这类明确的回溯信号,需要回忆。

用户的问题涉及个人偏好或历史决策。“我适合学什么”、“帮我推荐一个框架”。这类问题需要结合用户画像和历史记忆来回答。

Agent的回答跟上下文不连贯。可能是丢了之前的上下文,需要从记忆里找回来。

什么情况不需要回忆。

通用知识问题。“Python怎么写冒泡排序”。这种问题不需要个人记忆,大模型自己就能回答。

全新的话题。用户开始聊一个之前没聊过的话题,旧记忆没有相关内容,不用回忆。

classSmartRecall:"""智能回忆策略"""def__init__(self,llm,memory_store):self.llm=llm self.memory=memory_store self.judge_prompt="""判断以下用户问题是否需要从历史记忆中检索相关信息。 判断标准: - 需要检索:提到之前的内容、涉及个人偏好、需要历史决策信息 - 不需要检索:通用知识问题、全新话题、纯技术问题 用户问题:{question} 是否需要检索记忆?只回答"是"或"否"。"""defmaybe_recall(self,question):"""根据问题判断是否需要回忆"""# 先用简单规则过滤recall_keywords=["上次","之前","我记得","我们讨论","你说的","我的偏好","帮我推荐"]needs_recall=any(kwinquestionforkwinrecall_keywords)ifnotneeds_recall:# 规则没命中,用大模型判断response=self.llm.invoke(self.judge_prompt.format(question=question))needs_recall="是"inresponse.contentifneeds_recall:memories=self.memory.recall(question,k=3)returnmemorieselse:return[]

这个智能回忆策略能减少不必要的检索,提升响应速度。


检索结果排序

记忆检索回来以后,怎么排序。

向量相似度是一个维度,但不是唯一的。一条记忆的价值,除了相似度,还要看时效性、重要程度、使用频率。

时效性。近期的记忆通常比旧记忆更有参考价值。用户一个月前说在学Python,现在可能已经在学Agent了。时间越久,权重越低。

重要程度。用户的核心信息比临时信息重要。用户的职业和技能水平,比某次闲聊的内容重要得多。可以给不同类型的记忆打上重要程度标签。

使用频率。被频繁检索到的记忆,说明它经常有用,应该排在前面。很久没被检索到的记忆,可能已经不太相关了。

fromdatetimeimportdatetime,timedeltaclassWeightedRecall:"""加权回忆"""def__init__(self,memory_store):self.memory=memory_store self.access_count={}# 记录每条记忆的访问次数defrecall(self,query,k=5):"""加权检索记忆"""# 先多检索一些raw_results=self.memory.similarity_search_with_score(query,k=k*2)weighted=[]fordoc,distanceinraw_results:# 相似度分数(距离越小越相似)similarity=1/(1+distance)# 时间衰减timestamp=doc.metadata.get("timestamp","")iftimestamp:created=datetime.fromisoformat(timestamp)age_days=(datetime.now()-created).days time_weight=max(0.3,1-age_days/180)# 半年衰减到0.3else:time_weight=0.5# 重要程度importance=doc.metadata.get("importance",0.5)# 使用频率content_hash=hash(doc.page_content)freq=self.access_count.get(content_hash,0)freq_weight=min(1.0,0.5+freq*0.1)# 综合分数final_score=similarity*0.5+time_weight*0.2+importance*0.2+freq_weight*0.1weighted.append((doc,final_score))# 排序并取前k个weighted.sort(key=lambdax:x[1],reverse=True)# 更新访问次数fordoc,_inweighted[:k]:content_hash=hash(doc.page_content)self.access_count[content_hash]=self.access_count.get(content_hash,0)+1return[docfordoc,_inweighted[:k]]

记忆遗忘机制

记忆不是越多越好。记太多旧的、过时的、不相关的记忆,会干扰检索质量。需要有遗忘机制。

什么时候该遗忘。

信息过时了。用户之前说"在学Python",现在已经是Python高手了。旧的"在学Python"这条记忆就应该被更新或删除。

信息重复了。同一条信息被存了多次。保留一条就行,其余删除。

信息不再相关了。用户换工作了、换技术栈了、兴趣转移了。跟旧状态相关的记忆不再有用。

长期没被检索到。一条记忆如果半年都没被检索到过,大概率不太重要。可以考虑清理。

遗忘的几种方式。

硬删除。直接从数据库里删掉。简单粗暴,不可恢复。适合明确无用的信息。

软删除。标记为"已过期"或"低优先级",检索时降低权重或跳过。保留数据但不参与检索。适合不确定是否该删的信息。

合并压缩。把多条相关的旧记忆合并成一条摘要。信息保留但体积变小。适合同一主题的多条记忆。

classMemoryMaintenance:"""记忆维护和遗忘"""def__init__(self,memory_store,llm):self.memory=memory_store self.llm=llmdefcleanup_expired(self,days=180):"""清理过期的记忆"""cutoff=datetime.now()-timedelta(days=days)# 获取所有记忆all_docs=self.memory.get()deleted=0fordocinall_docs:timestamp=doc.metadata.get("timestamp","")iftimestamp:created=datetime.fromisoformat(timestamp)ifcreated<cutoff:# 超过阈值的记忆,检查重要程度importance=doc.metadata.get("importance",0.5)ifimportance<0.7:# 不太重要的直接删self.memory.delete(doc.metadata.get("id"))deleted+=1print(f"清理了{deleted}条过期记忆")defmerge_similar(self):"""合并相似的记忆"""all_docs=self.memory.get()# 找出内容相似的记忆对fori,doc1inenumerate(all_docs):fordoc2inall_docs[i+1:]:# 用简单的文本相似度判断ifself._is_similar(doc1.page_content,doc2.page_content):# 用大模型合并merged=self._merge_memories(doc1.page_content,doc2.page_content)# 删除旧的两条,存入合并后的self.memory.delete(doc1.metadata.get("id"))self.memory.delete(doc2.metadata.get("id"))self.memory.add_text(merged)print("记忆合并完成")def_merge_memories(self,mem1,mem2):"""用大模型合并两条记忆"""prompt=f"""请合并以下两条记忆,保留所有重要信息,去掉重复内容。 只输出合并后的内容,不要其他文字。 记忆1:{mem1}记忆2:{mem2}"""response=self.llm.invoke(prompt)returnresponse.content

记忆的定期维护

记忆系统需要定期维护,就像定期整理电脑文件一样。

建议设置一个定期任务,比如每周或每月跑一次。

维护内容包括清理过期记忆、合并重复记忆、更新用户画像、统计记忆使用情况。

defweekly_maintenance(memory_store,llm):"""每周记忆维护"""print("开始每周记忆维护...")# 1. 清理过期记忆maintenance=MemoryMaintenance(memory_store,llm)maintenance.cleanup_expired(days=90)# 2. 合并相似记忆maintenance.merge_similar()# 3. 统计记忆使用情况stats={"total_memories":memory_store.count(),"avg_access_count":sum(maintenance.access_count.values())/max(len(maintenance.access_count),1),"never_accessed":sum(1forvinmaintenance.access_count.values()ifv==0),}print(f"记忆总数:{stats['total_memories']}")print(f"平均访问次数:{stats['avg_access_count']:.1f}")print(f"从未被访问的记忆数:{stats['never_accessed']}")print("维护完成")

一个实际的记忆管理策略

给一个实用的记忆管理策略,可以直接参考。

记忆分层。把记忆分成三层。热记忆是最近7天的,检索权重最高。温记忆是7到90天的,正常权重。冷记忆是90天以上的,降低权重。

按需回忆。用智能回忆策略,不是每次都检索记忆。有回溯信号才检索。

定期维护。每周清理过期记忆,每月合并相似记忆。保持记忆库的整洁。

重要程度标记。存入记忆时标记重要程度。核心信息高权重,临时信息低权重。遗忘时先忘低权重的。


下一篇是记忆篇的最后一篇。我们做一个完整的记忆系统实战项目,把短期记忆、长期记忆、用户画像整合在一起。

http://www.cnnetsun.cn/news/3893514.html

相关文章:

  • 深耕基层民生福祉,揭秘临沭县建设局官方网站背后的城市温情与服务初心
  • Logo商标瑕疵专项检测:OCR+LLM文本核验方案
  • CH32F208工业级无线MCU开发实战:从选型到低功耗传感器节点设计
  • 本地AI语音合成项目部署与测试全指南:从环境搭建到效果验证
  • 基于Godot引擎的卡牌游戏开发框架:从场景化架构到数据驱动设计
  • 3分钟掌握Windows防撤回神器:让微信QQ撤回消息无处可藏的秘密武器![特殊字符]
  • 企业级AI Agent系统架构设计:从OpenClaw看智能体工程化落地
  • SilentPatch:让GTA经典三部曲在现代PC上完美运行的终极修复方案
  • KingbaseES V9R2C13数据库性能优化实战与调优策略
  • Forza Mods AIO:极限竞速地平线终极免费修改器完全指南
  • 5项核心设置对比,看懂不同战略管理全球EMBA差别
  • 前端开发者入门Cocos Creator:从Web思维到游戏开发的实战指南
  • 终极指南:如何使用m3u8-downloader快速下载M3U8视频
  • LaTeX页眉设置全解析:从基础样式到fancyhdr与titleps高级定制
  • 基于yolov7和BOTSORT的人体识别与追踪项目142(设计源文件+万字报告+讲解)(支持资料、图片参考_相关定制)_
  • 基于SpringBoot的校园失物招领平台设计与实现
  • Perseus终极指南:解锁碧蓝航线完整游戏体验的简单方法
  • LaTeX公式高效迁移Word全攻略:Mathpix+MathType+Pandoc工作流解析
  • CTF Pwn题解析:从CGI服务中的UAF漏洞到Glibc堆利用实战
  • 不对称故障下T型三电平逆变器多目标协同低电压穿越控制研究(Simulink仿真实现)
  • PMON引导加载程序:从硬件初始化到PHY芯片适配的实战指南
  • CLAUDE.md:打造AI编程助手的个性化上下文配置文件
  • SQL入门与实战:从基础查询到性能优化
  • 基于深度学习/YOLO的交通标志识别系统142(设计源文件+万字报告+讲解)(支持资料、图片参考_相关定制)_
  • 标题: 标题: 标题: 标题: 标题:
  • 技术文章前言写作指南:从痛点共鸣到价值承诺的四层结构
  • C++与MFC实战:构建本地化AI图像分类工具
  • 华硕笔记本终极优化指南:GHelper轻量控制工具完全教程
  • 从0到1打造高转化率:资深开发者揭秘优秀购物网站建设的那些事儿与避坑指南
  • 如何3分钟搞定网盘直链解析:新手必看的全能下载指南