Pilotiko feature : 已上线

中小企业AI代理的人工审批:哪些操作必须经人确认

AI代理可以独自起草回复、报价或排班表,但凡涉及客户、资金或对外发送的操作,都应由人工批准。按风险为操作分级,明确谁批准什么,并确保审核是真正的审核,而不是机械点击。

Read the full guideTry 30 days free

作者 Pilotiko editorial team · 更新于

要点

  • 按风险为代理的每项操作分级:内部、可撤销、具约束力或不可撤销。
  • 在魁北克,私营部门法第12.1条对完全基于自动化处理作出的决定作出了规范。
  • 加拿大自愿性生成式AI行为准则强调人工监督以及部署后的跟踪。
  • 每条已起草消息审核20秒,成本很低;而一个错误发给数百位客户,代价却很高。

人工审批具体指什么?

这是一个停止点:代理起草操作并将其置于待处理状态,在指定人员接受、修改或拒绝之前,什么都不会发出。

AI代理读取您的数据(日程、客户档案、历史记录)并提出一项操作。没有停止点,操作会直接执行;有了停止点,操作会进入待办队列,并附上代理看到了什么、为什么这样建议。负责人一键批准、修改文字或拒绝。

停止点不必处处设置。起草内部报告或重新排列任务清单的代理几乎没有风险;发送报价或批准抵扣额的代理则不然。关键在于把审批放在合适的位置。

AI代理的哪些操作需要审批?

凡是离开公司对外发出的,或涉及资金的操作都需要。内部且可撤销的操作可以自动执行,并留有日志。

针对AI代理操作的建议风险分级表
代理的操作风险等级建议的审批方式
在内部档案中总结一次上门服务内部,可撤销无需审批;日志可查
为一次服务电话推荐技师内部,可撤销由负责派单的人确认
起草给客户的回复对外发送前审批
准备含价格的报价对外,涉及价格承诺由有权定价的人审批
排期发布社交媒体帖子对外,公开发布前审批
向客户名单群发消息对外,群发审批并抽样复核
批准退款或抵扣额涉及资金,不可撤销仅限人工;代理可准备档案
拒绝为客户提供服务影响个人的决定仅限人工

Pilotiko提出的参考分级表。受影响的人数越多、错误越难纠正,风险等级就越高。

Loi 25对自动化决定有何规定?

第12.1条规定,当涉及某人的决定完全基于自动化处理时,必须告知该人,并让其有机会向能够复核该决定的人陈述意见。

私营部门个人信息保护法第12.1条适用于任何使用个人信息、作出完全基于自动化处理的决定的企业[1]。企业须最迟在通知当事人该决定时,同时告知其这一情况。应当事人要求,还须告知其使用了哪些信息、决定的理由和主要因素,以及其要求更正这些信息的权利[1]。

此外,当事人还必须有机会向有权复核该决定的员工陈述意见[1]。信息获取委员会(Commission d'accès à l'information)把这一规则列为Loi 25带来的主要变化之一[3]。在决定被告知之前进行真正的人工审批,实际上可避免该决定属于“完全”自动化。关于该法的其余内容,请参阅服务型中小企业的Loi 25指南。

加拿大的生成式AI准则有何建议?

ISDE于2023年9月发布的自愿性准则包含六项原则,其中包括人工监督与跟踪:部署后持续监督系统的使用,并在必要时加以纠正。

《先进生成式AI系统负责任开发与管理自愿性行为准则》首先面向开发或运营这类系统的企业[2]。其六项原则对使用这类系统的中小企业同样有用:问责、安全、公平公正、透明、人工监督与跟踪、有效性与稳健性[2]。

在内容方面,Google也提醒,AI生成的任何内容在发布前,包括标题和描述,都必须人工核实事实[4]。由代理起草的客户消息同样适用这一原则。

人工审核要花多长时间?

如果由代理完成准备工作,花不了多少时间。审阅一条现成的消息只需几秒钟;自己撰写则要几分钟。

如何避免机械式审批?

限制每人的审批量,展示代理决策所依据的内容,对群发邮件抽样检查,并跟踪修改率。

  • 展示来源。 审批界面应显示代理读取过的数据:客户档案、预约、价格。能够核实的内容,才能批得更好。
  • 跟踪修改率。 若连续数周降为零,要么是代理表现极佳,要么是已经没人在看。请做一次突击检查。
  • 限制队列长度。 连续审批几十条之后,注意力就会下降。请分配给两个人。
  • 对群发抽样检查。 向300位客户发送一条消息时,请审阅模板以及至少五个个性化版本。
  • 保留日志。 谁在何时批准了什么:出错之后,正是靠它来修正规则。

中小企业如何建立审批机制?

  1. 1

    盘点操作

    列出您的代理或工具已经或可能执行的所有操作:撰写、排期、发送、开票、退款。

  2. 2

    按风险分级

    把每项操作放入分级表:内部、对外、涉及价格、资金,或影响个人的决定。

  3. 3

    指定审批人

    为每个等级指定可以审批的人。报价和上门服务摘要不应由同一个人审批。

  4. 4

    告知客户

    如果某项决定可能完全基于自动化处理,请准备第12.1条要求的告知,并指定可复核该决定的人员。

  5. 5

    每月复盘

    查看修改率和避免的错误。根据观察结果放宽或收紧分级表。

Pilotiko如何落实人工审批?

这是产品的基本规则:AI代理读取您的数据并准备工作;凡涉及客户、资金或对外发送的事项,都要等待人工同意。

Pilotiko的AI代理在虚拟办公室中工作,每个部门就是一个房间。它们准备的内容会出现在相应的房间里,等待决定。内容撰写遵循同样的规则:帖子由代理起草并排期,再由您批准。

想把审批放进完整的自动化项目中,请阅读服务型中小企业自动化指南。想通过提醒减少爽约,请参阅减少客户爽约。要比较各套餐,请查看价格。

常见问题

AI代理可以不经审批就发送电子邮件吗?

技术上可以,但对于任何对公司有约束力的消息都不建议这样做。几秒钟的审批就能避免错误发到数百位客户手中。在Pilotiko中,所有发送都要等待人工同意。

人工审批会拖慢客户服务吗?

会略微慢一点,前提是在营业时间内有人盯着待处理队列。节省下来的撰写时间远超几分钟的等待。遇到紧急情况,请安排一名值班人员优先审批。

谁应该审批智能体的操作?

如果没有智能体,本来由谁来做这项工作,就由谁审批;风险较高的操作则交给其负责人。报价单要交给有权定价的人,退款则要交给有权动用公司资金的人。

《Loi 25》(第25号法案)禁止使用 AI 智能体吗?

不禁止。它规范的是完全基于自动化处理作出的决定、个人信息的使用,以及向魁北克以外的传输。由智能体准备、由人来决定的做法,仍然符合这些规定。

需要告知客户回复是由 AI 智能体准备的吗?

如果涉及客户的决定完全基于自动化处理,第12.1条要求告知客户。其他情况下,保持透明依然是良好做法,加拿大自愿性准则也同样建议这样做。

如果智能体在审批之后仍然出错,该怎么办?

先向客户更正,然后查看日志:哪条数据有误、缺少哪条规则、审核为什么没有发现错误。要调整风险评估表或数据,而不只是修改文字。

资料来源

  1. LégisQuébec, Loi sur la protection des renseignements personnels dans le secteur privé (RLRQ, c. P-39.1) (查阅于 2026年10月15日).
  2. Innovation, Science and Economic Development Canada, Voluntary Code of Conduct on the Responsible Development and Management of Advanced Generative AI Systems (septembre 2023) (查阅于 2026年10月15日).
  3. Commission d'accès à l'information du Québec, Principaux changements apportés par la Loi 25 (查阅于 2026年10月15日).
  4. Google Search Central, Utiliser du contenu généré par IA (查阅于 2026年10月15日).

延伸阅读

Your whole business, on one screen.

Each department is a room. Pilotiko prepares the work; you approve with one click.

Try 30 days free

The Pilotiko office of a sample company: each department is a room.
  • Call answered
  • Appointment confirmed
  • Email reply ready
  • Invoice prepared

和您的团队一起试用办公室

免费 30 天。

免费试用 30 天