Pilotiko feature : disponible

Aprobación humana de agentes IA: qué debe validar una pyme

Un agente IA puede preparar por sí solo una respuesta, una cotización o un horario, pero una persona debe aprobar toda acción que afecte a un cliente, dinero o un envío. Se clasifican las acciones por riesgo, se define quién aprueba qué y se verifica que la revisión siga siendo real y no mecánica.

Read the full guideTry 30 days free

Por Pilotiko editorial team · Actualizado el

En resumen

  • Clasifique cada acción de un agente según su riesgo: interna, reversible, que compromete o irreversible.
  • En Quebec, el artículo 12.1 de la ley sobre el sector privado regula las decisiones basadas exclusivamente en un tratamiento automatizado.
  • El código de conducta voluntario canadiense sobre IA generativa incluye la supervisión humana y el seguimiento posterior a la implementación.
  • Una revisión de 20 segundos por mensaje preparado cuesta poco; un error enviado a cientos de clientes cuesta mucho.

¿Qué es, en concreto, una aprobación humana?

Es un punto de control: el agente prepara la acción, la deja en espera y nada se envía hasta que una persona designada la acepte, la corrija o la rechace.

Un agente IA lee sus datos (agenda, fichas de clientes, historial) y propone una acción. Sin punto de control, la acción se ejecuta. Con punto de control, aparece en una cola de espera, con lo que el agente vio y por qué propone eso. La persona aprueba con un clic, modifica el texto o rechaza.

El punto de control no tiene que estar en todas partes. Un agente que prepara un informe interno o que reordena una lista de tareas casi no presenta riesgo. Un agente que envía una cotización o que concede un crédito, sí. Todo el arte consiste en poner la aprobación en el lugar adecuado.

¿Qué acciones de un agente IA deben ser aprobadas?

Todas las que salen de la empresa o que comprometen dinero. Las acciones internas y reversibles pueden ejecutarse solas, con un registro.

Matriz de riesgo propuesta para las acciones de un agente IA
Acción del agenteNivel de riesgoAprobación recomendada
Resumir una visita en el expediente internoInterna, reversibleNinguna; registro consultable
Proponer un técnico para una llamada de servicioInterna, reversibleValidación por la persona que asigna el trabajo
Redactar una respuesta a un clienteExternaAprobación antes del envío
Preparar una cotización con un precioExterna, compromete un precioAprobación por una persona autorizada para fijar precios
Programar una publicación en redes socialesExterna, públicaAprobación antes de la publicación
Enviar un mensaje a una lista de clientesExterna, masivaAprobación + revisión de una muestra
Conceder un reembolso o un créditoDinero, irreversibleSolo un humano; el agente puede preparar el expediente
Rechazar un servicio a un clienteDecisión que afecta a la personaSolo un humano

Matriz indicativa propuesta por Pilotiko. El nivel aumenta con el número de personas afectadas y la dificultad de corregir el error.

¿Qué dice la Loi 25 sobre las decisiones automatizadas?

El artículo 12.1 obliga a informar a la persona cuando una decisión que la concierne se basa exclusivamente en un tratamiento automatizado, y a permitirle ser escuchada por alguien que pueda revisar la decisión.

El artículo 12.1 de la Ley sobre la protección de los datos personales en el sector privado se aplica a toda empresa que utilice datos personales para tomar una decisión basada exclusivamente en un tratamiento automatizado [1]. Debe informar a la persona a más tardar cuando le comunique la decisión. A solicitud, también debe indicarle qué datos se utilizaron, las razones y los principales factores de la decisión, y su derecho a hacerlos rectificar [1].

Por último, la persona debe tener la oportunidad de presentar sus observaciones a un miembro del personal en condiciones de revisar la decisión [1]. La Commission d'accès à l'information presenta esta regla entre los principales cambios introducidos por la Loi 25 [3]. Una aprobación humana real, antes de que se comunique la decisión, evita en la práctica que esta sea «exclusivamente» automatizada. Para el resto de la ley, vea Loi 25 para pymes de servicios.

¿Qué recomienda el código canadiense sobre IA generativa?

El código voluntario publicado por ISDE en septiembre de 2023 establece seis principios, entre ellos la supervisión humana y el seguimiento: el uso del sistema se supervisa tras su implementación y se corrige cuando es necesario.

El Código de conducta voluntario sobre el desarrollo y la gestión responsables de los sistemas avanzados de IA generativa se dirige en primer lugar a las empresas que desarrollan u operan estos sistemas [2]. Sus seis principios son útiles para una pyme que los utiliza: responsabilidad, seguridad, justicia y equidad, transparencia, supervisión humana y seguimiento, validez y robustez [2].

En cuanto al contenido, Google recuerda por su parte que es esencial verificar manualmente los hechos de todo contenido generado por IA antes de publicarlo, incluidos los títulos y las descripciones [4]. La misma disciplina vale para un mensaje a un cliente preparado por un agente.

¿Cuánto tarda la revisión humana?

Poco, si el agente hace el trabajo de preparación. Releer un mensaje listo toma unos segundos; escribirlo toma unos minutos.

¿Cómo evitar la aprobación mecánica?

Limitando el volumen por persona, mostrando lo que el agente utilizó para decidir, tomando muestras de los envíos masivos y siguiendo la tasa de correcciones.

  • Mostrar las fuentes. La pantalla de aprobación debe mostrar los datos que el agente leyó: ficha del cliente, cita, precio. Se aprueba mejor lo que se puede verificar.
  • Seguir la tasa de correcciones. Si cae a cero durante semanas, o el agente es excelente o ya nadie lee. Haga un control sorpresa.
  • Limitar la cola. Pasadas unas decenas de aprobaciones seguidas, la atención baja. Repártalas entre dos personas.
  • Tomar muestras de los envíos masivos. Para un mensaje a 300 clientes, revise la plantilla y al menos cinco versiones personalizadas.
  • Llevar un registro. Quién aprobó qué y cuándo: es lo que permite corregir una regla después de un error.

¿Cómo implementar aprobaciones en una pyme?

  1. 1

    Inventariar las acciones

    Enumere todo lo que sus agentes o sus herramientas hacen o podrían hacer: escribir, programar, enviar, facturar, reembolsar.

  2. 2

    Clasificar por riesgo

    Ubique cada acción en la matriz: interna, externa, compromete un precio, dinero o decisión que afecta a una persona.

  3. 3

    Nombrar a los aprobadores

    Para cada nivel, designe quién puede aprobar. Una cotización no la aprueba la misma persona que un resumen de visita.

  4. 4

    Informar a los clientes

    Si una decisión puede basarse únicamente en un tratamiento automatizado, prevea el aviso exigido por el artículo 12.1 y la persona que puede revisarla.

  5. 5

    Revisar cada mes

    Observe la tasa de correcciones y los errores evitados. Flexibilice o endurezca la matriz según lo que observe.

¿Cómo aplica Pilotiko la aprobación humana?

Es una regla básica del producto: los agentes IA leen sus datos y preparan el trabajo; todo lo que afecta a un cliente, dinero o un envío espera la autorización de una persona.

Los agentes IA de Pilotiko trabajan en la oficina virtual, donde cada departamento es una sala. Lo que preparan aparece en la sala correspondiente, a la espera de una decisión. La redacción de contenido sigue la misma regla: las publicaciones se redactan y se programan, y luego usted las aprueba.

Para situar la aprobación dentro de un proyecto de automatización completo, lea Automatizar una pyme de servicios. Para reducir las ausencias con recordatorios, vea Reducir las citas perdidas. Para comparar las ofertas, vea las tarifas.

Preguntas frecuentes

¿Puede un agente IA enviar correos electrónicos sin aprobación?

Técnicamente sí, pero no se recomienda para ningún mensaje que comprometa a la empresa. Una aprobación de unos segundos evita que un error llegue a cientos de clientes. En Pilotiko, todo envío espera la autorización de una persona.

¿La aprobación humana ralentiza el servicio al cliente?

Un poco, si la cola de espera se supervisa durante el horario de atención. El tiempo que se ahorra en la redacción compensa con creces unos minutos de espera. Para las urgencias, prevea una persona de guardia que apruebe en prioridad.

¿Quién debería aprobar las acciones de un agente?

La persona que habría realizado la tarea sin el agente, o su responsable cuando las acciones son más riesgosas. Una cotización corresponde a alguien que pueda fijar un precio. Un reembolso corresponde a alguien que pueda comprometer el dinero de la empresa.

¿La Loi 25 (Ley 25) prohíbe los agentes de IA?

No. Regula las decisiones basadas exclusivamente en un tratamiento automatizado, el uso de los datos personales y las transferencias fuera de Quebec. Un agente que prepara y una persona que decide siguen siendo compatibles con estas reglas.

¿Hay que informar al cliente de que un agente de IA preparó la respuesta?

Si la decisión que le concierne se basa exclusivamente en un tratamiento automatizado, el artículo 12.1 exige informarle de ello. En los demás casos, la transparencia sigue siendo una buena práctica, recomendada también por el código voluntario canadiense.

¿Qué hacer si un agente se equivoca a pesar de la aprobación?

Corrija ante el cliente y luego revise el registro: qué dato era falso, qué regla faltaba, por qué la revisión no detectó el error. Ajuste la matriz de riesgo o los datos, no solo el texto.

Fuentes

  1. LégisQuébec, Loi sur la protection des renseignements personnels dans le secteur privé (RLRQ, c. P-39.1) (consultado el 15 de octubre de 2026).
  2. Innovation, Science and Economic Development Canada, Voluntary Code of Conduct on the Responsible Development and Management of Advanced Generative AI Systems (septembre 2023) (consultado el 15 de octubre de 2026).
  3. Commission d'accès à l'information du Québec, Principaux changements apportés par la Loi 25 (consultado el 15 de octubre de 2026).
  4. Google Search Central, Utiliser du contenu généré par IA (consultado el 15 de octubre de 2026).

Your whole business, on one screen.

Each department is a room. Pilotiko prepares the work; you approve with one click.

Try 30 days free

The Pilotiko office of a sample company: each department is a room.
  • Call answered
  • Appointment confirmed
  • Email reply ready
  • Invoice prepared

Pruebe la oficina con su equipo

30 días gratis.

Pruebe 30 días gratis