# 人工审批：什么是“human-in-the-loop”？

> 人工审批让专人在AI执行敏感操作前把关。本文介绍人工监督的几种常见形式、魁北克与加拿大的相关规定、带数字的实际示例以及企业最容易犯的错误，帮助你更稳妥、放心地使用AI。

更新于 2026年11月8日 · https://app.pilotiko.com/zh/glossary/human-in-the-loop

人工审批，即“human-in-the-loop”，是一种自动化系统或AI智能体的设计方式：在某项操作被执行之前，由专人授权、修改或拒绝。它主要适用于敏感操作：给客户发信息、产生支出、修改官方数据，或对案件作出决定。

## 要点
- 监督意味着可以授权、确认、修改、暂停或拒绝。
- 具有重大影响的操作，须在执行前经过确认。
- 形式化的监督，如果不提供判断所需的信息，就不算数。
- 在魁北克，完全由自动化作出的决定，必须告知相关当事人。

## 具体来说，监督AI是什么意思？

魁北克的智能体式AI指南把人工监督定义为一种干预，使人可以对智能体提出或已执行的操作进行授权、确认、修改、暂停或拒绝。其指导原则之一是：敏感操作必须继续接受**事先的人工确认**[1]。

该指南清楚列出了必须监督的情形：智能体修改官方数据、在系统中触发操作、产生涉及个人的建议、使用个人信息、与第三方沟通、产生支出，或处理含糊不清的个案[1]。

它同时提醒要防止走过场式的监督：负责人必须掌握足够的信息来理解所提出的操作，然后接受、修改、拒绝或上报[1]。

## 事前、事中还是事后：该选哪种监督形式？

| 时点 | 适用场景 | 服务型中小企业示例 |
|---|---|---|
| 执行前确认 | 具有重大影响的操作 | 向客户确认价格或预约 |
| 执行中监控 | 可以中途打断的进行中任务 | 跟进次日排班的准备工作 |
| 事后复查 | 内部的、可撤销的、低影响的操作 | 复核当天的请求分类结果 |

该指南把事后复查仅限于内部的、可撤销的、低影响的操作[1]。

## 加拿大和魁北克的规定怎么说？

联邦政府的《自动化决策指令》按影响程度对系统分级。在I级和II级，系统可以在没有员工直接参与的情况下作出决定；在III级和IV级，最终决定必须由员工作出[2]。该指令针对联邦各部门，但其分级方式对企业来说是很好的参照。

对魁北克的私营企业而言，经[Loi 25](https://app.pilotiko.com/zh/glossary/quebec-law-25)修订的《私营部门个人信息保护法》第12.1条，适用于完全基于对个人信息的自动化处理而作出决定的情形。企业最迟应在向当事人告知该决定时一并告知这一点，并应当事人要求，向其说明所使用的信息和主要因素。当事人还必须能够向有权复核该决定的员工陈述意见[3]。

## 审批队列会拖慢团队吗？

**示例：拉瓦尔一家拥有12名员工的住宅保洁公司**

假设：一个AI智能体负责准备确认信息、排班变更和对各类请求的回复。协调员每天两次，在同一个队列里统一审批。

- 每周准备的信息数 : 80
- 审批一条无误信息的时间 : 20 s
- 需要修改的信息（假设：10%） : 8
- 每条信息的修改时间 : 3分钟
- 每周总计（80 × 20秒 + 8 × 3分钟） : 约51分钟
- **= 每周不到一小时，就能保证80条信息中没有一条未经人过目就发出。**

## 哪些错误会让审批变得毫无意义？

- 不看内容就批量批准：等于不声不响地回到完全自动化。
- 只给审批人一份过于简短、不足以判断的摘要，而不提供所用的数据。
- 把审核环节放在发给客户之后，而不是之前。
- 让智能体修改自己的规则：魁北克指南要求智能体绝不能绕过既定的确认环节[1]。
- 对所有事情都要求审批，哪怕是没有风险的内部任务：团队最后只会不看就点击。请只把审批用在敏感操作上，其余交给简单的[自动化](https://app.pilotiko.com/zh/glossary/process-automation)。

## Pilotiko如何落实人工审批？

这是Pilotiko的一条设计规则：[AI智能体](https://app.pilotiko.com/zh/glossary/ai-agent)读取企业的真实数据并准备工作，但凡涉及客户、资金或发送的操作，都要等人同意。因此，可能出现的[幻觉](https://app.pilotiko.com/zh/glossary/ai-hallucination)只会停留在草稿阶段。撰写的内容同样遵循这一规则：未经您的批准，不会发布任何内容。

Pilotiko通过电子邮件和短信发送预约提醒。[AI前台接待员](https://app.pilotiko.com/zh/glossary/ai-receptionist)已可使用。

## 常见问题

### human-in-the-loop用中文怎么说？

这个说法指的是人处于自动化系统的决策回路之中。在中文里，根据介入的时点，可以称为人工审批、人工确认或人工监督。魁北克的智能体式AI指南主要使用“人工监督”和“人工确认”。

### 需要审批AI智能体的每一项操作吗？

不需要。魁北克指南建议按风险程度确定监督力度：具有重大影响的操作在执行前确认，内部的、可撤销的、低影响的操作则事后复查。关键在于把操作分好类。

### 法律是否要求中小企业必须有人参与决策环节？

在魁北克，企业如作出完全基于对个人信息的自动化处理的决定，必须告知当事人，并让其能向有权复核该决定的员工陈述意见。至于如何适用于您的具体情况，请咨询法律专业人士。

### 如果获批的操作有误，谁来负责？

无论操作来自员工还是智能体，企业都要对自己发出或作出的决定负责。魁北克指南也提醒，机构仍要对与智能体相关的操作负责。因此，务必向审批人提供全部有用的信息。

### 如何避免审批成为瓶颈？

把审批集中到同一个队列中，在固定时间处理，并按紧急程度排序。事先确认只用于敏感操作。先用几周时间衡量实际审批耗时，再进行调整。

## 资料来源

1. Ministère de la Cybersécurité et du Numérique (Gouvernement du Québec), « Guide sur l'utilisation responsable de l'intelligence artificielle agentique », https://cdn-contenu.quebec.ca/cdn-contenu/adm/min/cybersecurite_numerique/Intelligence_artificielle/GU_IA_Agentique.pdf (查阅于 2026-10-15)
2. Secrétariat du Conseil du Trésor du Canada, « Directive sur la prise de décisions automatisée », https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 (查阅于 2026-10-15)
3. LégisQuébec, « Loi sur la protection des renseignements personnels dans le secteur privé (RLRQ, c. P-39.1) », https://www.legisquebec.gouv.qc.ca/fr/document/lc/P-39.1 (查阅于 2026-10-15)
