返回AI世界

方法 · 人机责任

人机边界不是“AI 辅助、人来负责”八个字。它要精确到每一个动作。

企业 AI 的人机边界应按任务和动作定义:AI 能读取什么、能生成什么、能写回哪里、能否执行、谁审批、证据不足时如何拒绝,以及发生例外时升级给谁。

作者:蓝旗鱼 AI FDE 研究与交付团队事实核验:2026-09-01证据状态:方法文章

方法步骤

01

拆分任务动作

把流程拆成读取、检索、归纳、起草、建议、审批、写回和外部执行。

可核验产出:动作清单与上下游影响。

02

评估错误代价

判断错误是否可发现、可逆,以及是否影响资金、合同、安全、权限、客户或合规。

可核验产出:风险等级和不可逆动作清单。

03

分配自动化级别

低风险动作可自动,高风险动作要求人工确认,禁区动作不开放给 AI。

可核验产出:自动、审核、禁止三级矩阵。

04

定义拒绝与升级

当依据缺失、冲突、过期或超出权限时,系统必须拒绝并转给明确角色。

可核验产出:拒绝条件、升级路径和响应要求。

05

用日志复查边界

记录 AI 建议、人工修改、批准、执行和最终结果,持续调整自动化范围。

可核验产出:审计日志和边界变更记录。

适用边界

什么时候应该使用?

AI 会生成外部答复、写回系统或触发后续动作。

任务包含金额、承诺、隐私、安全、合规或权限风险。

希望逐步扩大自动化,同时保持可审计和可回退。

不适用边界

什么时候先不要用?

把所有责任留给用户,却不给来源、风险提示和审核工具。

所有动作一律人工确认,且不按风险分层。

边界只写在制度文件中,系统权限和工具并未限制。

完成标准

产出必须能被检查,而不是只有一张漂亮图。

01

每个系统动作都有允许条件、审批人和失败路径。

02

高风险与不可逆动作不能绕过权限和审批。

03

日志能还原 AI、人工和最终执行之间的责任链。

继续推进

从方法进入真实项目判断。