拆分任务动作
把流程拆成读取、检索、归纳、起草、建议、审批、写回和外部执行。
可核验产出:动作清单与上下游影响。
方法 · 人机责任
企业 AI 的人机边界应按任务和动作定义:AI 能读取什么、能生成什么、能写回哪里、能否执行、谁审批、证据不足时如何拒绝,以及发生例外时升级给谁。
方法步骤
把流程拆成读取、检索、归纳、起草、建议、审批、写回和外部执行。
可核验产出:动作清单与上下游影响。
判断错误是否可发现、可逆,以及是否影响资金、合同、安全、权限、客户或合规。
可核验产出:风险等级和不可逆动作清单。
低风险动作可自动,高风险动作要求人工确认,禁区动作不开放给 AI。
可核验产出:自动、审核、禁止三级矩阵。
当依据缺失、冲突、过期或超出权限时,系统必须拒绝并转给明确角色。
可核验产出:拒绝条件、升级路径和响应要求。
记录 AI 建议、人工修改、批准、执行和最终结果,持续调整自动化范围。
可核验产出:审计日志和边界变更记录。
适用边界
AI 会生成外部答复、写回系统或触发后续动作。
任务包含金额、承诺、隐私、安全、合规或权限风险。
希望逐步扩大自动化,同时保持可审计和可回退。
不适用边界
把所有责任留给用户,却不给来源、风险提示和审核工具。
所有动作一律人工确认,且不按风险分层。
边界只写在制度文件中,系统权限和工具并未限制。
完成标准
每个系统动作都有允许条件、审批人和失败路径。
高风险与不可逆动作不能绕过权限和审批。
日志能还原 AI、人工和最终执行之间的责任链。
继续推进