当前位置：首页 > news >正文

给Agent装上“海马体”！上海AILab开源MemVerse，定义多模态记忆新范式

news 2026/8/20 9:27:53

一页纯文本的记忆是看不清世界的。

人与世界的交互天然是多模态的。一张产品设计图、一段用户操作录屏、一次包含语音和演示的线上会议，这些由图像、声音、视频构成的高维业务信息，正成为驱动AI智能体创造价值的关键来源。

当前绝大多数“长期记忆”系统在架构上仍设计为纯文本的记忆库。但智能体的“记忆”不应该是扁平的文本日志，而是一个能够记录并关联 “在何时、看到了何物、讨论了何事” 的多维体验图谱。这种跨模态、跨时间的记忆关联与融合能力，是智能体从被动工具进化为智能助手的关键要素。

为了攻克这一挑战，上海人工智能实验室正式开源MemVerse—首个面向智能体的通用多模态记忆框架。它突破性地将图像、音频、视频等多模态信息与文本对齐到统一的语义空间进行记忆，并首创 “双通路”架构与“记忆蒸馏” 技术，让智能体首次拥有了可成长、可内化、秒级响应的终身记忆能力。

Agent需要的不是更大的“硬盘”，而是一个会思考的“大脑”。

现有的LLM Agent，无论上下文窗口如何扩展，仍面临灾难性遗忘与模态割裂的双重困境。

传统方法在处理文本时尚可应对，一旦面对图像、视频等多模态信息流，便显得力不从心，通常只能进行机械的切片与检索，无法理解信息内在的时空逻辑与跨模态语义。

针对这一根本性挑战，上海人工智能实验室-数据前沿团队提出全新解决方案：多模态记忆系统MemVerse。

它从人类认知的经典记忆模型中汲取灵感，旨在构建一个包含中央协调器、双通路记忆与参数化蒸馏的完整闭环，实现从“被动数据检索”到“主动记忆运用”的范式转移。

MemVerse的核心是一个精密的三层仿生记忆架构，模拟了人类信息从暂存、结构化到内化的完整认知过程。

中央协调器（Orchestrator）：作为系统的“前额叶”，它主动感知交互情境，智能决策记忆的读取、写入与更新，并动态调度不同记忆模块。这改变了传统Agent被动查询数据库的模式。
短期记忆（STM）：采用滑动窗口机制，像“工作记忆”一样保持对话的即时连贯性，确保智能体不会“忘了上一句说了什么”。
长期记忆（LTM）：构建多模态知识图谱，将记忆结构化为核心记忆（用户画像）、情景记忆（事件时间线）和语义记忆（抽象概念）。这使智能体能进行深度的关联推理，从根本上缓解“幻觉”问题。
参数化记忆与周期性蒸馏：这是MemVerse的高效来源。系统会定期将长期记忆中的高价值知识，通过轻量微调“蒸馏”到一个专用的小模型中，实现知识的参数化内化。相当于让智能体将常用知识转化为“肌肉记忆”，检索响应速度提升10倍以上，解决了结构化存储的性能瓶颈。