AI 员工上线前,最危险的一句话是“先都给它,后面再收”。

数据给出去容易,收回来难。日志、缓存、临时文件、模型调用,都可能留下副本。

数据边界不是上线后补的权限设置,而是任务设计的一部分。

问题一:为什么不能一股脑给

因为 AI 员工不是人。人看一眼就过去了,系统可能会存、会转发、会写进日志。

给多了,风险有三层:越权访问、数据泄露、错误关联。

越权访问是它看到了不该看的数据;数据泄露是数据流到了不该去的地方;错误关联是把 A 客户的数据用到了 B 客户身上。

问题二:哪些数据不能直接给

客户身份和联系方式。 除非任务必须联系客户,否则先脱敏。

支付和银行卡信息。 一般不需要给智能体,需要时也只给后四位或状态。

员工个人信息。 薪酬、身份证、家庭信息,和大多数业务任务无关。

源代码、密钥、配置文件。 这些不是业务知识,是系统资产。

跨客户、跨租户的数据。 一个客户的会话里,不能出现另一个客户的数据。

未公开的合同和报价。 除非任务就是审合同,否则不给全量。

问题三:哪些数据可以给

公开资料、产品手册、已经脱敏的工单、当前客户自己的订单状态、当前任务需要的字段。

判断标准不是“能不能给”,而是“这个任务需不需要”。

不需要的字段,一律不给。哪怕它就在同一个接口里。

问题四:最小权限怎么定

按任务定,不按岗位定。

一个查订单的智能体,只给订单查询权限,不给改地址、不给退款、不给看支付。

一个写回复草稿的智能体,只给知识库读取和草稿生成,不给发送权限。

权限跟着任务走,任务结束,权限收回。

问题五:脱敏怎么做

能不给就不给;必须给时,替换、截断、聚合。

手机号只留后四位,地址只留城市,姓名用编号代替。

脱敏要在数据进入智能体之前做,不要指望提示词让它“不要泄露”。

问题六:日志和留存怎么定

每次读写记:谁、什么时候、查了什么、改了什么、结果是什么。

日志本身也可能含敏感数据,要单独做权限和保留周期。

不要让日志变成第二个数据泄露点。

问题七:什么时候可以放宽

内部工具、只读查询、数据本来就在同一部门可见,可以适当放宽。

但只要涉及客户数据、跨部门数据、对外发送,边界要收紧。

放宽也要有记录,不能靠口头同意。

问题八:数据给了以后怎么收

员工离职、换岗、项目结束,权限要收回。

接口密钥要定期轮换,临时访问要有到期时间。

日志按保留周期清理,不要让历史数据无限期留着。

问题九:员工怎么知道边界

把不能给的数据写成清单,放在上线培训里。

每次新增数据字段,走一次审批,不要开发顺手就加。

每月抽查一次调用记录,看有没有越权或异常查询。

一张数据分级表

公开:产品介绍、公开报价、宣传资料。

内部:制度、流程、培训材料。

敏感:客户信息、订单、合同、工单。

禁止:支付信息、员工隐私、密钥、跨客户数据。

不同级别,对应不同的模型、部署方式和日志要求。

一个常见争议

业务说没数据干不了活,安全说不能给。

折中通常不是“都给”或“都不给”,而是脱敏、最小字段、只读、限时。

先给任务必需的那一部分,跑通再评估要不要扩。

边界

完全离线、数据不出内网、只做内部查询,风险相对低,但仍然要最小权限。

如果业务坚持“先都给”,先写清楚出事谁负责。写不清楚,就不要上线。

AI 员工的数据边界,不是限制它变聪明,而是让它只在该聪明的地方聪明。给对数据,比给多数据重要。

如果你正在做 AI 员工上线,可以看我们的AI 员工定制和AI 诊断与陪跑,先把任务和数据字段列出来。

相关阅读:AI 员工上线前先定哪三条权限、企业级智能体为什么要单独做审计日志。