发生了什么
当 AI 助手把你的新职位说错时，我们很容易把它归结为：模型又在「胡说八道」。 但错误一定发生在回答的那一刻吗？ 想象一下，你已经告诉助手自己刚刚升职。它可能在整理对话时就记错了职位，也可能保留着旧记录、没有完成更新，还可能拿到了正确记忆，却在回答时换成另一个头衔。最后呈现给用户的，都是一句错误答案。 同样是「答错」，背后却可能是完全不同的记忆故障。 中国电信研究院与上海记忆张量（ MemTensor ）公司等研究者围绕这一问题提出了 HaluMem：首个面向智能体记忆系统的操作级幻觉评测基准 。它将评测深入到记忆提取、记忆更新和记忆问答三个环节，追踪错误究竟在哪里产生，以及如何影响后续回答。 该工作已被自然语言处理领域顶级会议 EMNLP 2026 主会接收 。 如果一本笔记在写入时就记错了，之后再熟练地翻阅，也可能只是更准确地找回错误。要判断 AI 的记忆是否可靠，我们需要检查这本「笔记」是怎么写成、怎么修改、又怎么被使用的。 论文题目： HaluMem: Evaluating Hallucinations in Memory Systems of Agents 作者： Ding Chen、Simin Niu、Kehang Li、Peng Liu、Xiangping Zheng、Bo Tang、Xinchi Li、Feiyu Xiong、Zhiyu Li 开源项目： https://github.com/MemTensor/HaluMem arXiv 论文：https://arxiv.org/pdf/2511.03506 1. 一个被最终答案遮住的问题：AI 是答错了，还是早就记错了？ 记忆系统让 AI 能够在一次次对话之间保留用户信息：你从事什么工作、喜欢什么、最近经历了哪些变化。可一条信息从聊天记录走向最终回答，中间还要经历提取、存储、更新和检索。 现有记忆评测主要采用端到端问答：给系统输入一系列对话，再提出问题，比较回答与标准答案。这能衡量系统最后答得怎么样，却很难说明它为什么答错。 HaluMem 的切入点，是为中间操作也提供可以核对的标准答案。 图 1：HaluMem 与现有评测方式的对比。除了检查最终回答，还要检查记忆在提取和更新时是否已经发生偏差。（论文图 2） 例如，用户说「我最近开始喜欢鹦鹉了，以前确实不喜欢」，系统却提取成「用户不喜欢鹦鹉」。错误已经发生在写入记忆的第一步。再如，用户明确表示健康状况变差，系统却按照助手的错误回忆，将健康状态更新为「良好」。即使后续检索没有出错，回答也已经建立在错误记录之上。 还有一种更隐蔽的情况： 助手自己编出的细节，被记忆系统当成了用户事实 。 对话中，AI 可能顺口提到一个并不存在的朋友或经历；用户没有明确确认，系统却把它存进了长期记忆。一次未经证实的表达，就可能成为下一次回答的「依据」。 因此，
当 AI 助手把你的新职位说错时，我们很容易把它归结为：模型又在「胡说八道」。 但错误一定发生在回答的那一刻吗？ 想象一下，你已经告诉助手自己刚刚升职。它可能在整理对话时就记错了职位，也可能保留着旧记录、没有完成更新，还可能拿到了正确记忆，却在回答时换成另一个头衔。最后呈现给用户的，都是一句错误答案。 同样是「答错」，背后却可能是完全不同的记忆故障。 中国电信研究院与上海记忆张量（ MemTensor ）公司等研究者围绕这一问题提出了 HaluMem：首个面向智能体记忆系统的操作级幻觉评测基准 。它将评测深入到记忆提取、记忆更新和记忆问答三个环节，追踪错误究竟在哪里产生，以及如何影响后续回答。 该工作已被自然语言处理领域顶级会议 EMNLP 2026 主会接收 。 如果一本笔记在写入时就记错了，之后再熟练地翻阅，也可能只是更准确地找回错误。要判断 AI 的记忆是否可靠，我们需要检查这本「笔记」是怎么写成、怎么修改、又怎么被使用的。 论文题目： HaluMem: Evaluating Hallucinations in Memory Systems of Agents 作者： Ding Chen、Simin Niu、Kehang Li、Peng Liu、Xiangping Zheng、Bo Tang、Xinchi Li、Feiyu Xiong、Zhiyu Li 开源项目： https://github.com/MemTensor/HaluMem arXiv 论文：https://arxiv.org/pdf/2511.03506 1. 一个被最终答案遮住的问题：AI 是答错了，还是早就记错了？ 记忆系统让 AI 能够在一次次对话之间保留用户信息：你从事什么工作、喜欢什么、最近经历了哪些变化。可一条信息从聊天记录走向最终回答，中间还要经历提取、存储、更新和检索。 现有记忆评测主要采用端到端问答：给系统输入一系列对话，再提出问题，比较回答与标准答案。这能衡量系统最后答得怎么样，却很难说明它为什么答错。 HaluMem 的切入点，是为中间操作也提供可以核对的标准答案。 图 1：HaluMem 与现有评测方式的对比。除了检查最终回答，还要检查记忆在提取和更新时是否已经发生偏差。（论文图 2） 例如，用户说「我最近开始喜欢鹦鹉了，以前确实不喜欢」，系统却提取成「用户不喜欢鹦鹉」。错误已经发生在写入记忆的第一步。再如，用户明确表示健康状况变差，系统却按照助手的错误回忆，将健康状态更新为「良好」。即使后续检索没有出错，回答也已经建立在错误记录之上。 还有一种更隐蔽的情况： 助手自己编出的细节，被记忆系统当成了用户事实 。 对话中，AI 可能顺口提到一个并不存在的朋友或经历；用户没有明确确认，系统却把它存进了长期记忆。一次未经证实的表达，就可能成为下一次回答的「依据」。 因此，
为什么重要
需要你自己点开原文确认一次，这里给的是摘要与判断。
需要你自己点开原文确认一次，这里给的是摘要与判断。
跟你有什么关系
能转：做内容的话，这条多半能直接变成一个选题或一段工作流。
能转：做内容的话，这条多半能直接变成一个选题或一段工作流。
以上判断为规则生成的初稿，发布前请润色。
判定理由
评分 0 / 100