AI 员工上线前,最危险的一句话是“先都给它,后面再收”。
数据给出去容易,收回来难。日志、缓存、临时文件、模型调用,都可能留下副本。
数据边界不是上线后补的权限设置,而是任务设计的一部分。
问题一:为什么不能一股脑给
因为 AI 员工不是人。人看一眼就过去了,系统可能会存、会转发、会写进日志。
给多了,风险有三层:越权访问、数据泄露、错误关联。
越权访问是它看到了不该看的数据;数据泄露是数据流到了不该去的地方;错误关联是把 A 客户的数据用到了 B 客户身上。
问题二:哪些数据不能直接给
客户身份和联系方式。 除非任务必须联系客户,否则先脱敏。
支付和银行卡信息。 一般不需要给智能体,需要时也只给后四位或状态。
员工个人信息。 薪酬、身份证、家庭信息,和大多数业务任务无关。
源代码、密钥、配置文件。 这些不是业务知识,是系统资产。
跨客户、跨租户的数据。 一个客户的会话里,不能出现另一个客户的数据。
未公开的合同和报价。 除非任务就是审合同,否则不给全量。
问题三:哪些数据可以给
公开资料、产品手册、已经脱敏的工单、当前客户自己的订单状态、当前任务需要的字段。
判断标准不是“能不能给”,而是“这个任务需不需要”。
不需要的字段,一律不给。哪怕它就在同一个接口里。
问题四:最小权限怎么定
按任务定,不按岗位定。
一个查订单的智能体,只给订单查询权限,不给改地址、不给退款、不给看支付。
一个写回复草稿的智能体,只给知识库读取和草稿生成,不给发送权限。
权限跟着任务走,任务结束,权限收回。
问题五:脱敏怎么做
能不给就不给;必须给时,替换、截断、聚合。
手机号只留后四位,地址只留城市,姓名用编号代替。
脱敏要在数据进入智能体之前做,不要指望提示词让它“不要泄露”。
问题六:日志和留存怎么定
每次读写记:谁、什么时候、查了什么、改了什么、结果是什么。
日志本身也可能含敏感数据,要单独做权限和保留周期。
不要让日志变成第二个数据泄露点。
问题七:什么时候可以放宽
内部工具、只读查询、数据本来就在同一部门可见,可以适当放宽。
但只要涉及客户数据、跨部门数据、对外发送,边界要收紧。
放宽也要有记录,不能靠口头同意。
问题八:数据给了以后怎么收
员工离职、换岗、项目结束,权限要收回。
接口密钥要定期轮换,临时访问要有到期时间。
日志按保留周期清理,不要让历史数据无限期留着。
问题九:员工怎么知道边界
把不能给的数据写成清单,放在上线培训里。
每次新增数据字段,走一次审批,不要开发顺手就加。
每月抽查一次调用记录,看有没有越权或异常查询。
一张数据分级表
公开:产品介绍、公开报价、宣传资料。
内部:制度、流程、培训材料。
敏感:客户信息、订单、合同、工单。
禁止:支付信息、员工隐私、密钥、跨客户数据。
不同级别,对应不同的模型、部署方式和日志要求。
一个常见争议
业务说没数据干不了活,安全说不能给。
折中通常不是“都给”或“都不给”,而是脱敏、最小字段、只读、限时。
先给任务必需的那一部分,跑通再评估要不要扩。
边界
完全离线、数据不出内网、只做内部查询,风险相对低,但仍然要最小权限。
如果业务坚持“先都给”,先写清楚出事谁负责。写不清楚,就不要上线。
AI 员工的数据边界,不是限制它变聪明,而是让它只在该聪明的地方聪明。给对数据,比给多数据重要。