Pilotiko feature : 已上线

人工审批:什么是“human-in-the-loop”?

AI负责准备,由人来决定:如何设置这一审核环节,又不拖慢整个团队。

人工审批,即“human-in-the-loop”,是一种自动化系统或AI智能体的设计方式:在某项操作被执行之前,由专人授权、修改或拒绝。它主要适用于敏感操作:给客户发信息、产生支出、修改官方数据,或对案件作出决定。

Try 30 days free

30 days free, no credit card.

作者 Pilotiko editorial team · 更新于

要点

  • 监督意味着可以授权、确认、修改、暂停或拒绝。
  • 具有重大影响的操作,须在执行前经过确认。
  • 形式化的监督,如果不提供判断所需的信息,就不算数。
  • 在魁北克,完全由自动化作出的决定,必须告知相关当事人。

具体来说,监督AI是什么意思?

魁北克的智能体式AI指南把人工监督定义为一种干预,使人可以对智能体提出或已执行的操作进行授权、确认、修改、暂停或拒绝。其指导原则之一是:敏感操作必须继续接受事先的人工确认[1]。

该指南清楚列出了必须监督的情形:智能体修改官方数据、在系统中触发操作、产生涉及个人的建议、使用个人信息、与第三方沟通、产生支出,或处理含糊不清的个案[1]。

它同时提醒要防止走过场式的监督:负责人必须掌握足够的信息来理解所提出的操作,然后接受、修改、拒绝或上报[1]。

事前、事中还是事后:该选哪种监督形式?

魁北克指南所描述的三个监督时点
时点适用场景服务型中小企业示例
执行前确认具有重大影响的操作向客户确认价格或预约
执行中监控可以中途打断的进行中任务跟进次日排班的准备工作
事后复查内部的、可撤销的、低影响的操作复核当天的请求分类结果

该指南把事后复查仅限于内部的、可撤销的、低影响的操作[1]。

加拿大和魁北克的规定怎么说?

联邦政府的《自动化决策指令》按影响程度对系统分级。在I级和II级,系统可以在没有员工直接参与的情况下作出决定;在III级和IV级,最终决定必须由员工作出[2]。该指令针对联邦各部门,但其分级方式对企业来说是很好的参照。

对魁北克的私营企业而言,经Loi 25修订的《私营部门个人信息保护法》第12.1条,适用于完全基于对个人信息的自动化处理而作出决定的情形。企业最迟应在向当事人告知该决定时一并告知这一点,并应当事人要求,向其说明所使用的信息和主要因素。当事人还必须能够向有权复核该决定的员工陈述意见[3]。

审批队列会拖慢团队吗?

哪些错误会让审批变得毫无意义?

  • 不看内容就批量批准:等于不声不响地回到完全自动化。
  • 只给审批人一份过于简短、不足以判断的摘要,而不提供所用的数据。
  • 把审核环节放在发给客户之后,而不是之前。
  • 让智能体修改自己的规则:魁北克指南要求智能体绝不能绕过既定的确认环节[1]。
  • 对所有事情都要求审批,哪怕是没有风险的内部任务:团队最后只会不看就点击。请只把审批用在敏感操作上,其余交给简单的自动化。

Pilotiko如何落实人工审批?

这是Pilotiko的一条设计规则:AI智能体读取企业的真实数据并准备工作,但凡涉及客户、资金或发送的操作,都要等人同意。因此,可能出现的幻觉只会停留在草稿阶段。撰写的内容同样遵循这一规则:未经您的批准,不会发布任何内容。

Pilotiko通过电子邮件和短信发送预约提醒。AI前台接待员已可使用。

常见问题

human-in-the-loop用中文怎么说?

这个说法指的是人处于自动化系统的决策回路之中。在中文里,根据介入的时点,可以称为人工审批、人工确认或人工监督。魁北克的智能体式AI指南主要使用“人工监督”和“人工确认”。

需要审批AI智能体的每一项操作吗?

不需要。魁北克指南建议按风险程度确定监督力度:具有重大影响的操作在执行前确认,内部的、可撤销的、低影响的操作则事后复查。关键在于把操作分好类。

法律是否要求中小企业必须有人参与决策环节?

在魁北克,企业如作出完全基于对个人信息的自动化处理的决定,必须告知当事人,并让其能向有权复核该决定的员工陈述意见。至于如何适用于您的具体情况,请咨询法律专业人士。

如果获批的操作有误,谁来负责?

无论操作来自员工还是智能体,企业都要对自己发出或作出的决定负责。魁北克指南也提醒,机构仍要对与智能体相关的操作负责。因此,务必向审批人提供全部有用的信息。

如何避免审批成为瓶颈?

把审批集中到同一个队列中,在固定时间处理,并按紧急程度排序。事先确认只用于敏感操作。先用几周时间衡量实际审批耗时,再进行调整。

资料来源

  1. Ministère de la Cybersécurité et du Numérique (Gouvernement du Québec), Guide sur l'utilisation responsable de l'intelligence artificielle agentique (查阅于 2026年10月15日).
  2. Secrétariat du Conseil du Trésor du Canada, Directive sur la prise de décisions automatisée (查阅于 2026年10月15日).
  3. LégisQuébec, Loi sur la protection des renseignements personnels dans le secteur privé (RLRQ, c. P-39.1) (查阅于 2026年10月15日).

Your whole business, on one screen.

Each department is a room. Pilotiko prepares the work; you approve with one click.

Try 30 days free

The Pilotiko office of a sample company: each department is a room.
  • Call answered
  • Appointment confirmed
  • Email reply ready
  • Invoice prepared

和您的团队一起试用办公室

免费 30 天。

免费试用 30 天