首页| 论坛| 搜索| 消息
主题:告别碎片化记忆:中科院开源轻量级内存原生Agent记忆系统Mandol
爱我中华发表于 2026-07-06 21:21
andol 在 LoCoMo 和 LongMemEval 上分别取得 92.21% 和 88.40% 的整体准确率,在所比较的代表性开源记忆系统中取得最优总体结果。尤其在多跳推理、时序推理与知识更新等复杂查询类型上,Mandol 展现出较强优势。值得注意的是,即使采用更轻量的检索后端模型(Qwen3-Embedding-0.6B 与 bge-reranker-v2-m3),Mandol 仍在总体准确率和多数关键任务上超过使用更大检索模型的对比系统,同时将 Token 消耗降低了 17.4%–20.0%。这一结果说明,其性能增益主要来自记忆组织与检索机制的结构性优势,而非单纯依赖更大规模的嵌入或重排序模型。在系统性能方面,在 10 QPS 并发负载的服务器环境中(NVIDIA H800 GPU),Mandol 的平均检索延迟仅为 82.2 ms,相比最快基线实现约 5.4 倍加速;平均记忆插入延迟为 39.7 ms,相比最快基线实现约 4.8 倍加速。值得注意的是,在本地消费级设备(笔记本 NVIDIA RTX 5090)的补充实验中,Mandol 的延迟仍低于现有系统,显示出优异的本地部署潜力。这种显著的效率优势,根源在于其进程内内存原生架构彻底避免了数据库往返和跨库协调开销。在资源消耗上,Mandol 同样表现良好。其内存占用适中,且因消除了对外部数据库服务及其网络通信的依赖,完成标准长对话负载的整体耗时仅为对比系统的 1/4.2 至 1/9.9,展现出良好的本地部署潜力。结语Mandol 通过凝聚式的分层记忆模型、内存原生统一存储与智能量化检索三项核心创新,为 Agent 提供了一个兼顾高精度、低延迟和轻量化部署的记忆系统解决方案。该系统已在 GitHub 开源,便于研究者复现、试用和进一步开发。得益于内存原生架构,Mandol 无需依赖外部数据库服务,可在消费级设备上高效运行,为端侧 Agent 的记忆管理提供了新的可能。对于正在构建需要可靠长期记忆的对话 Agent、推荐 Agent 或陪伴 Agent 等的研究与工程团队而言,Mandol 提供了一个兼具精度、性能和工程实用价值的选择。【ICML 2026首尔 · 云帆AI Talent Meetup】最后报名中,快来晚宴现场Pick你感兴趣的同行者~7月9日晚,首尔ICML会场旁,上海人工智能实验室、上海科技大学、上海创智学院、阶跃星辰、Sharpa Robotics等20余家上海顶尖AI单位现场设展,开放100+岗位。专场招聘、学术分享、圆桌交流、自由Networking、晚宴一站式搞定。
上一页  (2/2)
回帖(0):

全部回帖(0)»
最新回帖
收藏本帖
发新帖