返回AI世界

风险 · 数据与合规

企业数据进入大模型前,先回答七个责任问题。

不能把“不要上传敏感数据”当作完整方案。企业需要明确处理目的、数据分类、模型供应链、权限、日志、保留、删除与退出机制,再决定哪些数据可以进入哪一种 AI 工作流。

作者:蓝旗鱼 AI FDE 研究与交付团队事实核验:2026-09-01证据状态:方法文章

方法步骤

01

确认处理目的与依据

先写清哪些角色为了什么任务处理哪些数据,哪些数据不能进入模型。涉及个人信息、商业秘密、合同义务或行业监管时,由企业合规与法务确认适用要求。

可核验产出:目的—数据—角色—处理依据清单。

02

完成数据分类与最小化

区分公开、内部、敏感、受限和禁止数据;删除与任务无关的字段,优先使用脱敏、摘要、检索片段或合成样本,不默认上传完整资料库。

可核验产出:数据分类表、禁止清单和最小样本集。

03

核验模型与供应链

确认模型服务商、部署位置、日志与训练使用规则、分包方、数据保留、删除、跨境、事故通知和退出后的数据处置。不能仅凭“企业版”三个字判断安全。

可核验产出:供应商问卷、合同条款和数据流图。

04

落实身份、权限与隔离

按角色、数据域和动作实施最小权限;把读取、生成、写回、导出和外发分开授权。测试越权检索、提示词注入、跨租户访问和批量导出。

可核验产出:权限矩阵、越权测试和审批记录。

05

建立日志、保留与退出

记录数据来源、检索、输出、人工修改和系统动作;确定日志可见范围、保留期限、删除流程、异常响应和服务退出时的导出与销毁证明。

可核验产出:审计日志、保留表、事故响应与退出清单。

适用边界

什么时候应该使用?

系统需要处理客户、员工、合同、价格、研发或经营资料。

AI 会连接企业知识库、业务系统或外部模型服务。

项目准备从个人试用进入企业生产环境。

不适用边界

什么时候先不要用?

没有数据所有者,却希望工程团队自行判断所有合规边界。

只签保密协议,不核验实际数据流、日志、保留和删除机制。

把法律合规、信息安全和业务风险全部混成一个勾选项。

完成标准

产出必须能被检查,而不是只有一张漂亮图。

01

任何输入字段都能说明来源、目的、权限、保留期和责任人。

02

越权、提示注入、批量导出、供应商退出和事故场景已经测试。

03

企业法务、安全、数据所有者和业务负责人共同确认生产边界。

继续推进

从方法进入真实项目判断。