直接回答。 AI助手的长期记忆应按用途、权限和时效管理,而不是把聊过的所有内容永久保留。每条可再次使用的记忆,需要知道来自哪里、适用于谁、什么时候过期,以及用户如何纠正或删除。
核心要点
- 区分当前会话上下文、长期偏好和正式业务记录。
- 记忆要标记来源、用户范围、用途与失效条件。
- 临时事实和模型推断不能自动升级为永久事实。
- 删除需要检查摘要、向量索引、缓存和备份政策。
- 记忆错误要有纠正入口,不能只让用户重新提醒模型。
先区分三种容易混在一起的内容
当前会话上下文帮助助手理解这一轮问题,不一定需要进入长期记忆。偏好可能帮助下次交互,例如员工希望输出简短表格。正式业务记录则属于企业系统,需要既定的数据质量、权限和保留规则。三者不能因都能放进数据库就采用同一管理方式。
假设员工告诉助手“这周由同事代我审批”。这是临时安排,而且是否拥有正式授权需要查验。系统不应把这句话永久记成审批责任已转移,更不能在未来月份凭这条记忆替换企业权限矩阵。用户表达与组织授权是两个不同来源。
记忆里也可能有模型推断,例如系统从连续几次请求猜测员工属于某个团队。推断应有明确标签,不能默认作为事实使用。尤其不能让这些猜测控制访问权限、员工评价或外部承诺。高影响用途需要对应依据与授权流程。
建立一张记忆登记表
| 字段 | 要解决的问题 |
|---|---|
| 来源 | 用户明确提供、系统记录还是推断 |
| 主体 | 属于哪位用户或哪个组织 |
| 用途 | 下一次什么任务可以使用 |
| 时效 | 到期时间或事件失效条件 |
| 权限 | 谁可以读取、更新与删除 |
| 纠正 | 原记录有误时如何修订 |
用途不清楚的记忆不要默认收集。团队可以从少量有明确价值的偏好开始,验证收益再扩大。把全部聊天历史记住,通常会同时增加不适用信息、敏感数据暴露和删除难度,并不必然带来更好的工作体验。
对于用户可管理的偏好,界面可以展示记忆内容与修改入口。正式组织规则则不能由普通用户在聊天里修改。设计时应区别“我希望答案更短”与“以后不需要经理审批”,两者都像一句偏好表达,却属于完全不同的权限边界。
过期不仅是一个日期字段
临时安排可以按日期失效,产品规则可能按版本替换失效,项目身份可能随成员退出失效。系统需要在使用记忆时检查这些条件,而不是只在写入时检查一次。过期内容继续存在于存储中,也不应该继续进入回答上下文。
业务记录的保留期限需要按企业政策、合法用途和适用要求确认,本文不提供统一法定天数。偏好与正式记录的删除规则也可能不同。团队应让相关专业人员决定用途和保留,而不是让模型根据“常见做法”编一个时长。
在多个设备和多个入口使用同一个助手时,还要检查修改传播。用户在网页上删除偏好,手机入口却继续引用旧缓存,会使控制看起来有效但实际失效。测试应记录更新生效范围,并给用户可理解的状态说明。
删除要检查衍生物
长期记忆可能进入摘要、向量索引、检索缓存和日志。删除主表记录后,如果旧摘要仍被召回,用户仍可能看到已经要求删除的内容。团队应画出数据流并明确每个副本的处理,不用一个成功提示掩盖未完成的传播。
备份有单独的恢复与保留安排。产品说明应由真实系统能力和企业政策决定,不能承诺即时清除所有历史副本而没有实现依据。必要时区分日常不可再用、活动副本删除和备份按周期失效,并由专业负责人确认对外表述。
如果某项正式记录因合规目的必须保留,也不能悄悄当作助手长期记忆继续使用。保留与使用是不同决定。用户应获得适当说明,系统应限制该记录的后续用途,不能因为“数据库还在”就自动召回到普通问答。
用旧事实测试下一次回答
记忆的收益也应被测量。比较启用和关闭记忆时,用户是否少重复提供信息、错误是否增加、纠正是否更费时间。若某类偏好没有明确收益却难以维护,可以停止保存,不必为了展示个性化能力维持一个持续制造过期事实的功能。
测试可以从合成数据开始:写入临时事实,触发到期,再询问相关问题;修改角色后检查历史记忆是否越权;撤销偏好后观察所有入口是否一致。期待结果要在测试前定义,不只检查系统是否有删除按钮。
还要加入互相矛盾的记忆。员工先说项目在上海,后来正式记录更新为杭州,助手应按可靠来源和适用时效处理,而不是随机采用更靠近当前提示的句子。矛盾无法解决时,可以补问或说明限制,不能编造一个折中地点。
理门的企业AI方法用于梳理记忆的用途与责任;培训可以让员工识别系统记错的内容并正确纠正。通过沟通入口讨论长期记忆时,先提供数据流和使用场景,不要先设定“越多越好”的目标。
常见问题
不保存原文只保存摘要是否就没风险?
摘要仍可能包含敏感事实和错误推断,也需要权限、用途与时效管理。形式缩短不等于风险消失。
用户允许记住是否足以用于所有任务?
不是。授权范围与企业数据用途需要明确,不能从一个交互许可推导出无限后续使用。
记忆错误能否靠新提示覆盖?
应修正真正的数据记录和衍生物。仅在当前对话补一句,可能使下一次会话继续出现同一个错误。
参考来源
- NIST AI RMF Core:MAP 1.1涉及使用情境,MEASURE 2.10涉及隐私风险,GOVERN 1.7涉及安全退役。本文记忆登记表为实践应用。
- NIST AI RMF Playbook:自愿建议不规定统一数据保留期限,不替代企业的法律与政策判断。
预约沟通