AI 找到了很像的答案，却来自另一家客户的合同，这到底是聪明还是泄露？ 在实际业务中，会把资料权限放在检索路径里；回答生成后再提醒模型保密，已经太晚。 比如… · @KOF97AI · TwKit

@KOF97AI

AI 找到了很像的答案，却来自另一家客户的合同，这到底是聪明还是泄露？ 在实际业务中，会把资料权限放在检索路径里；回答生成后再提醒模型保密，已经太晚。 比如甲乙两家公司都问“合同什么时候到期”，我会给测试资料放入相似标题但不同日期，再分别用两个身份查询。还要测撤销权限后的旧会话和缓存。如果答案引用了另一家的日期，哪怕它在事实层面确实存在，也是不允许返回的结果。 1. 文档带可信归属 入库时记录租户权限与资料版本不能让模型从正文猜访问范围。我会从真实身份系统取得归属，上传人不能随手填写别人的租户编号；来源与权限更新都要可追踪。 2. 检索前落实过滤 按照当前用户真实身份限制候选资料而非先查全库再口头筛选。我会检查所有检索入口和缓存键，防止主接口隔离了、调试接口却没有；[数据库行安全说明](https://www.postgresql.org/docs/current/ddl-rowsecurity.html)也提醒不同角色可能有不同适用边界。 3. 交叉用户做攻击测试 准备术语相同但归属不同的资料验证引用与缓存不会跨租户。我会检查检索片段和最终引用，撤权后再测旧会话；只确认界面列表隐藏，不证明后台已经隔离。 卡片提纲可以收藏，下一次处理时按这三个检查点对照。 我的企业知识库底线：找得到正确答案之前，先保证找不到不该看的答案。

曝光 86 · 评论 1 · 点赞 2 · 书签 0