直接回答。 多客户AI助手必须把会话身份、检索范围、记忆、缓存和日志接收者一起隔离。换一个客户标识再运行同一段提示词,并不能证明系统不会把上一位客户的材料带进下一次回答。
核心要点
- 每次请求使用已验证的身份与租户,不信任用户自填标识。
- 会话、缓存和长期记忆要有明确归属。
- 检索与工具调用都在服务端检查授权。
- 支持人员访问客户内容需要单独审批和记录。
- 测试跨租户、跨会话、撤权和并发,不只测单一路径。
从一条数据串线的路径开始
假设一个服务团队为不同企业提供知识助手。甲公司的合成资料写着一个独特产品参数,乙公司没有这份资料。测试乙公司的正常问题时,不应得到甲公司的参数,更不应出现甲公司的文件标题或客户名称。这个案例用于设计验证,不描述任何实际客户泄露。
串线可能发生在不同层。前端复用了会话编号,检索服务忘记筛选租户,缓存只按问题文字命中,后台日志转发给错误客户,这些情况都可能导致输出越界。仅检查模型返回内容,容易看不到根因和没有显现的传播路径。
因此先画出请求与数据流:登录身份如何形成租户,租户怎样进入检索与工具,答案如何存储,会话怎样再次打开,支持人员在哪里看到记录。每一步都标明负责组件和失败时的默认处理,再决定测试哪些边界。
先定义隔离对象
| 对象 | 归属与边界问题 |
|---|---|
| 会话 | 谁创建、谁能再次打开 |
| 检索资料 | 哪个租户与角色有权获得 |
| 缓存 | 相同问题是否可能复用他人结果 |
| 长期记忆 | 用户偏好与组织事实如何分开 |
| 工具凭据 | 动作到底代表哪个客户 |
| 日志与导出 | 谁可以接收排障和报告材料 |
服务端应从可信身份确定租户,而不是把请求里填写的公司编号直接当授权依据。用户能够选择某个界面选项,不表示他已经有权访问该客户资料。多组织用户也应使用明确的当前上下文,不能依靠模型猜测这次代表谁。
工具凭据同样重要。如果答案隔离正确,但代理使用了另一个客户的系统令牌,仍可能修改错误组织的记录。测试不仅要看回答文本,还要在获准测试环境核对动作发生在哪个目标系统、以什么身份执行。
用合成租户检查边界
建立两个获准测试租户,各放独特的虚构事实和不同授权角色。先运行正常任务,确认两个租户都能使用自己的资料;再提出会涉及另一方事实的问题,期待系统说明无法处理,而不是泄露内容后解释限制。
检查同一个问题在不同租户连续提出时,缓存是否保持正确。缓存命中会让系统更快,但如果缓存键没有涵盖必要的身份与版本条件,速度提升可能伴随错误复用。具体实现应由架构团队说明,不能以提示词声称已经隔离。
并发任务也应加入验证。异步队列可能丢失原请求的租户上下文,后台任务完成后将结果写入错误会话。记录任务标识、租户标识和最终存储位置,检查这些字段是否贯穿整个链路,而不是只存在于第一条请求日志。
撤权与跨组织用户要单独测试
把某个账号从甲公司移除后,检查历史会话、已生成报告和记忆是否仍可使用。撤权后的数据处理取决于企业政策与合法用途,但不能默认把过去的访问权限永久带到以后。产品说明应反映真实传播与生效范围。
一个咨询顾问可能获准同时服务甲乙公司。这个人有两边权限,不意味着系统可以混合两边材料回答任何问题。当前任务的客户范围与允许用途仍应明确,导出报告也要核对接收者,避免人有权限却把资料发给没有权限的人。
租户合并、拆分和账户重新分配可能让原标识失去原意。迁移方案需要处理旧会话、缓存和工具凭据,不只是修改主表客户名称。测试应覆盖迁移前后归属,让遗留资料进入受控处置,而不是继续被默认检索。
支持访问也属于产品边界
客户导出报告时也要再次检查当前身份与接收范围。之前生成的报告可能仍包含当时允许、现在不再允许的资料。发送邮件或创建分享链接不是简单的展示动作,而是新的披露环节,应纳入同一授权与审计链路。
排障人员可能需要查看特定任务,但这不等于应长期拥有所有客户对话。临时访问应说明目的、范围、批准人和失效条件。可以先用最小化诊断信息排查,再在必要时按获准流程获取更多材料。
安全报告需要区分已覆盖范围和未覆盖组件。两租户演示通过不等于完整渗透测试,第三方审计也应核对版本、系统范围和日期。发现疑似越界时,应按企业事件流程处理证据,不在公共渠道粘贴客户内容。
理门的企业AI方法帮助团队把租户边界写成可验证任务;资源中心可用于准备架构评审。通过沟通入口讨论多客户助手前,先带上身份、数据和工具调用的简要路径图。
常见问题
一客户一数据库就一定不会串线吗?
不一定。应用缓存、会话路由和工具凭据仍可能混用。需要检查完整请求链路,而不只看数据库部署方式。
提示词说明公司名称是否足够?
不够。它帮助表达上下文,但不能执行访问控制。资料和动作授权必须由可信系统组件检查。
管理员是否可以自由查看所有内容?
应按企业授权与客户约定确定,不默认无限访问。支持用途、临时权限与日志保留都需要具体边界。
参考来源
- NIST AI RMF Core:MEASURE 2.7及2.10支持安全与隐私评估,GOVERN 2.1强调责任清楚。本文是隔离验证建议,不构成产品认证。
- NIST AI RMF Playbook:自愿方法需结合架构与业务选择,不能替代授权安全测试或法律审查。
预约沟通