Human in the loop: cómo supervisar las acciones de la IA

Haz que una persona revise la acción de la IA antes de ejecutarla si un error puede salir caro o ser difícil de reparar. Human in the loop permite situar la revisión humana en 3 momentos: aprobar antes de ejecutar, revisar una muestra del trabajo terminado o tomar el control cuando se deriva un caso. Decide qué revisión necesita cada acción y reduce las aprobaciones rutinarias solo cuando haya evidencia que justifique ese cambio concreto.

¿Qué es human in the loop en IA?

La revisión humana define quién tiene autoridad: ¿qué acciones puede ejecutar el sistema sin que una persona dé antes su consentimiento? En una misma conversación, un agente de atención al cliente puede consultar un pedido, redactar una respuesta, modificar un registro y emitir un reembolso. Cada acción necesita permisos distintos.

Imagina un jardín con alguien a cargo de la entrada. Esa persona no vigila cada paso: controla el acceso donde los daños serían difíciles de reparar, revisa después las tareas habituales y atiende una llamada cuando ocurre algo fuera de lo normal. La pregunta útil es dónde colocar ese punto de control.

¿Qué significa human in the loop?

Human in the loop, normalmente abreviado como HITL, significa que las personas participan en el funcionamiento de un sistema de IA aportando comentarios, interviniendo o tomando decisiones. Es un concepto amplio que va más allá de un botón de aprobación. En la operación de una empresa, debe traducirse en una responsabilidad concreta: alguien aprueba una acción propuesta, revisa trabajo terminado o resuelve una excepción. Definición de Stanford HAI.

El término también abarca el etiquetado de datos de entrenamiento, la corrección de las respuestas del modelo y la orientación de su aprendizaje. Son usos válidos, pero que alguien apruebe un reembolso hoy no significa que el modelo se reentrene automáticamente para mañana. La revisión operativa genera evidencia; mejorar un modelo o un flujo de trabajo exige un proceso aparte y deliberado. Explicación de Google Cloud.

Cómo se aplica a los agentes de IA

Un agente de IA es un programa que utiliza un modelo para elegir los pasos que seguirá y llamar a herramientas, por ejemplo, para consultar un pedido o enviar un mensaje. La revisión humana debe situarse justo antes de la llamada a una herramienta cuya acción pueda tener consecuencias importantes. Aprobar el plan inicial del agente no permite saber qué destinatario, importe o registro elegirá más adelante.

Define con claridad cómo se coordinan esos pasos. La guía sobre orquestación de agentes de IA explica cómo encajan el estado guardado, la asignación de responsabilidades y los traspasos en el trabajo de un agente.

IA con supervisión humana: tres momentos para intervenir

La aprobación permite impedir una acción concreta; el muestreo ayuda a detectar patrones en el trabajo terminado; y la derivación permite resolver casos que exceden la autoridad del agente. Estos controles pueden convivir en un mismo flujo de trabajo.

Antes de actuar: aprobación

El sistema prepara una propuesta de acción exacta y espera. Quien revisa ve el destinatario o registro, el cambio propuesto, la evidencia pertinente y la regla que activó la revisión. La aprobación permite ejecutar esa acción; el rechazo la impide.

Utiliza este mecanismo para un reembolso, una respuesta delicada a un cliente o una eliminación irreversible. Una pantalla que solo pregunta «¿Permitir la herramienta de atención al cliente?» oculta la decisión de negocio. «Reembolsar este pedido al medio de pago original por este motivo» sí ofrece algo concreto que revisar.

Después de actuar: revisión por muestreo

El sistema actúa dentro de unos límites previamente autorizados y una persona revisa después una selección de resultados. Este enfoque encaja con acciones de bajo impacto cuyos errores ocasionales se puedan detectar y tolerar, como clasificar solicitudes de atención o elaborar resúmenes internos.

El muestreo no puede evitar un error que ya se ha cometido. Si se trata de un mensaje a un cliente, una corrección puede reconducir la conversación, pero no hacer que el cliente deje de haber leído el original. Incluye ese daño residual al decidir si automatizas la acción.

Utiliza una muestra aleatoria para conocer la calidad del trabajo habitual y otra muestra dirigida para los casos atípicos. Revisar solo las quejas permite conocer los fallos denunciados, pero no la calidad de todo el trabajo terminado.

Cuando hay una excepción: derivación a una persona

Un caso se deriva cuando al agente le faltan pruebas, permisos o una regla aplicable. Puede ocurrir si hay versiones contradictorias sobre la titularidad de una cuenta, faltan datos del pedido, se plantea una excepción a la política o el cliente pide expresamente hablar con una persona.

Entrega a quien recibe el caso la evidencia, las acciones intentadas, la pregunta pendiente y el estado actual. Mantén en espera la acción que requiere criterio humano. Otras tareas expresamente consideradas seguras, como preparar un resumen interno, pueden continuar si la política lo permite.

Qué implica human over the loop

Cuando aparezca esta expresión, entiéndela como la capa de gobierno: la persona que fija las reglas, modifica los permisos y puede detener el sistema. La terminología varía, así que describe la responsabilidad en lugar de confiar solo en la etiqueta. Quien supervisa el rendimiento no necesariamente revisa cada transacción.

Por el mismo motivo, distingue la aprobación in the loop del seguimiento on the loop. Un panel puede mostrar un problema rápidamente; para que el sistema se detenga antes de la siguiente acción, hay que implementar esa pausa.

Decide según el costo del error y la posibilidad de revertirlo

Exige aprobación cuando el daño plausible supere lo que estás dispuesto a asumir antes de detectar el error y recuperarte. La confianza del modelo, por sí sola, no responde a esa pregunta.

Evalúa cada acción desde estas perspectivas:

• Consecuencias: ¿Podría revelar información privada, mover dinero, asumir un compromiso o afectar el acceso a una cuenta?
• Recuperación: ¿Es posible restablecer el estado anterior por completo, con rapidez y sin pedir al cliente que repare el error?
• Alcance: ¿La acción afecta a un borrador interno, a un cliente o a todo un lote de registros?
• Evidencia: ¿La identidad, los datos de origen y la política están suficientemente claros para tomar la decisión?
• Detección: ¿Sabrás que algo salió mal antes de que se acumulen acciones similares?

Un cambio reversible en un campo de la base de datos puede desencadenar un efecto irreversible más adelante. Modificar una dirección de envío puede ser fácil de deshacer hasta que empieza la preparación del pedido. Evalúa todas las consecuencias, no solo si la base de datos permite deshacer el cambio.

Recurre al muestreo cuando la acción tenga límites definidos, la evidencia sea fiable y el daño restante resulte aceptable. Exige aprobación previa si la acción tiene consecuencias importantes o hay pocas posibilidades de recuperación. Deriva el caso cuando falte un dato o una regla necesarios. Si una acción está prohibida, bloquéala: la cola de aprobaciones no debe convertirse en una vía para eludir la política.

Los controles de seguridad de IA, que comprueban automáticamente las entradas, las salidas y las llamadas a herramientas, refuerzan este diseño. Pueden rechazar una solicitud mal formada o un destino no autorizado antes de que alguien dedique tiempo a revisarlos. Reserva el criterio humano para la ambigüedad legítima que quede por resolver.

Ejemplos de human in the loop en atención al cliente

Separa los permisos del agente de atención al cliente según el tipo de acción. La siguiente tabla muestra una política inicial hipotética para una empresa que incorpora un agente a la atención de pedidos. Es un ejemplo de diseño, no la configuración predeterminada de un proveedor ni un informe de resultados medidos.

Supongamos que un cliente afirma que su pedido nunca llegó y solicita un reembolso. El agente puede consultar el pedido y el estado del envío con el transportista, y después preparar una recomendación. Si la evidencia de entrega contradice el relato del cliente, deriva la decisión en lugar de inventar una solución.

Si la evidencia justifica un reembolso según la política, el agente prepara el pedido, el importe, el destino y el motivo exactos para su aprobación. El componente que ejecuta la acción comprueba la aprobación y el estado actual del reembolso antes de llamar al sistema de pagos. Después registra el comprobante de la transacción. Solo entonces puede el agente afirmar que el reembolso se completó.

Aprobar un reembolso y aprobar una respuesta son permisos distintos. Autorizar la operación financiera no permite inventar una promesa de entrega en el correo que la acompaña. Del mismo modo, aprobar un mensaje tranquilizador no autoriza un reembolso oculto en la siguiente llamada a una herramienta.

Aplica la misma distinción a los correos comerciales: la redacción puede ser automática, mientras que el envío a una nueva lista de destinatarios requiere revisión. Si se modifican datos, revisa la diferencia real entre los valores anteriores y los propuestos, no un resumen que diga «se depuraron los registros».

Cómo organizar una cola de revisión que funcione

Quien revisa necesita toda la información para decidir, un plazo y autoridad para rechazar. Añadir un botón de aprobación en un canal de chat solo resuelve la notificación.

La solicitud de revisión debe mostrar la acción exacta, el cliente o registro afectado, los argumentos propuestos, la evidencia de origen, la regla de la política que corresponde al caso y los datos pendientes de aclarar. Muestra el valor anterior junto al cambio propuesto. Incluye enlaces a las fuentes para que la persona pueda verificar la explicación del agente sin reconstruir toda la conversación.

Asigna un revisor principal y un responsable de respaldo. Separa las derivaciones urgentes de las aprobaciones rutinarias. Cuando venza el plazo de revisión, mantén en espera o cancela la acción pendiente y avisa al responsable de respaldo. El silencio no debe convertirse en permiso.

La capacidad de revisión impone un límite real. En una cola hipotética, 24 solicitudes por hora × 3 minutos de revisión = 72 minutos de trabajo de revisión por hora. Una sola persona dispone de apenas 60 minutos, sin contar otras tareas. La cola crecerá aunque todas las decisiones sean correctas. Reduce las aprobaciones innecesarias, limita el alcance del agente o asigna más personal antes de prometer un tiempo de respuesta.

Vincula la aprobación al contenido y los argumentos exactos que se revisaron. Si cambian el destinatario, el importe del reembolso, la versión del registro o el mensaje, invalida la decisión y solicita una nueva revisión. Antes de ejecutar, vuelve a comprobar los datos que podrían haber cambiado durante la espera, como si otro operador ya reembolsó el pedido.

Recibir dos veces una decisión de revisión también debe ser seguro. Usa un identificador estable para la acción, aplica la decisión una sola vez y protege la escritura en el sistema externo frente a duplicados. Una acción es idempotente cuando ejecutarla varias veces produce el mismo efecto que ejecutarla una sola vez. Si una solicitud de reembolso agota el tiempo de espera, verifica su estado antes de intentar otro pago.

Cómo pausan el trabajo los agentes human in the loop en las herramientas actuales

Cada herramienta ofrece mecanismos de pausa distintos; las reglas de decisión siguen siendo responsabilidad de tu empresa. Las descripciones siguientes se verificaron en la documentación publicada por sus creadores el 21 de octubre de 2026. Recogen el comportamiento documentado, no pruebas prácticas de los productos.

OpenAI Agents SDK: aprobar la llamada pendiente a una herramienta

OpenAI Agents SDK, una biblioteca para crear agentes en el código de una aplicación, permite exigir aprobación para una herramienta mediante needs_approval=True en Python o needsApproval: true en JavaScript. Una llamada sujeta a aprobación devuelve una interrupción y un estado desde el que se puede reanudar la ejecución. La aplicación aprueba o rechaza el elemento pendiente y después reanuda esa misma ejecución; el estado puede serializarse para tomar la decisión más adelante. Documentación de aprobaciones de OpenAI.

En una aplicación de atención al cliente, sitúa el control en la herramienta de reembolsos o de envío. Diseña la interfaz de revisión en torno a la acción pendiente. El ejemplo breve de la documentación aprueba por código las interrupciones que recibe; copiar ese bucle de aprobación incondicional no crea una revisión humana. Tu aplicación debe obtener primero la decisión de la persona.

LangGraph: interrumpir y reanudar el trabajo guardado

LangGraph, una biblioteca para flujos de agentes que conservan su estado, utiliza interrupt() para pausar la ejecución a la espera de una entrada externa. Configura un checkpointer persistente, el componente que guarda el estado de ejecución, y un thread_id estable. Reanuda con Command(resume=...) utilizando ese mismo hilo. Documentación de interrupciones de LangGraph.

La documentación señala una particularidad importante para producción: al reanudar, el nodo interrumpido vuelve a ejecutarse desde el principio. El código anterior a la interrupción puede ejecutarse de nuevo. Sitúa las operaciones con efectos externos después del punto de revisión y haz que puedan repetirse sin causar problemas; la documentación también recomienda separar esas operaciones en nodos propios. Una interrupción puede esperar indefinidamente, así que añade el plazo de revisión de tu empresa y la gestión de derivaciones necesarias.

n8n: añadir revisión humana a herramientas concretas

n8n, una plataforma visual de automatización de flujos de trabajo, permite añadir revisión humana a determinadas herramientas conectadas a un nodo AI Agent. El flujo documentado se pausa, muestra la herramienta propuesta y sus parámetros, y después ejecuta la llamada con los datos especificados por la IA si se aprueba, o cancela la acción si se rechaza. Guía de revisión humana de n8n.

Abre el conector Tools del agente, elige un canal en Human review y conecta a ese paso las herramientas que requieran revisión. La guía incluye n8n Chat y Slack entre los canales disponibles, y documenta $tool.name y $tool.parameters para construir el mensaje de revisión.

Aprovecha ese mensaje para mostrar con precisión qué está aprobando la persona. La guía describe cómo aprobar y rechazar; no des por hecho que también ofrece un formulario editable de reembolsos. Si quien revisa pide cambios, devuelve la propuesta para que se modifique y se someta de nuevo a aprobación.

Anthropic Claude Code: los permisos controlan el acceso a las herramientas

Claude Code, el agente de programación de Anthropic, documenta distintos modos de permisos para sus herramientas. default, identificado como Manual, solicita permisos salvo en las operaciones y reglas ya autorizadas. acceptEdits permite automáticamente editar archivos y ejecutar determinados comandos del sistema de archivos en los directorios de trabajo permitidos. plan explora sin editar los archivos de código fuente. Documentación de permisos de Claude Code.

El modo auto utiliza un clasificador en segundo plano para acciones como comandos de shell y solicitudes de red. Esa revisión es una decisión automatizada. bypassPermissions omite las solicitudes de permisos, salvo para las acciones documentadas que ningún modo aprueba automáticamente. Ninguno de estos modos demuestra que una persona haya revisado cada acción.

Estas opciones gobiernan los permisos de Claude Code durante la ejecución. Un servicio de atención al cliente sigue necesitando sus propias reglas sobre reembolsos, destinatarios y acceso a datos. La guía específica sobre dangerously skip permissions en Claude explica los límites operativos de ese modo.

Qué datos registrar

Conserva suficiente evidencia estructurada para reconstruir quién autorizó cada acción y qué ocurrió después. Una transcripción por sí sola dificulta esa tarea, sobre todo cuando un caso se pausa o cambia de responsable.

Registra estos campos como eventos separados, vinculados mediante los identificadores del caso y de la acción:

• Propuesta: tipo de acción, destino, argumentos exactos, versión o huella digital del contenido, valores anteriores y referencias a las fuentes que la respaldan. La huella digital identifica el contenido revisado.
• Ruta de decisión: versión de la política, regla aplicada, requisito de aprobación o muestreo, motivo de derivación y resultados de las validaciones pertinentes.
• Decisión humana: revisor autenticado, autoridad que tiene para esa acción, aprobación o rechazo, cambios solicitados, motivo, marca de tiempo y vencimiento.
• Ejecución: identificador de la acción aprobada, versiones del flujo de trabajo y de la configuración del modelo, identificador del intento, resultado de la herramienta, comprobante externo y estado final. Distingue entre fallo, éxito y resultado desconocido.
• Revisión de calidad: cómo se seleccionó el caso para la muestra, tipo de error observado, gravedad, medida correctiva y si cambió la regla de permisos.
• Estado de la cola: hora de llegada, responsable asignado, tiempo de espera, tiempo efectivo de revisión, cumplimiento o vencimiento del plazo y resultado del traspaso.

Restringe el acceso a la evidencia sensible, oculta los secretos y establece reglas de conservación. Siempre que sea posible, enlaza a un registro de origen protegido en lugar de copiar todos los datos de cada cliente en todos los registros de actividad. Guarda motivos de decisión breves y la evidencia correspondiente; no necesitas el razonamiento oculto de un modelo para auditar una aprobación.

Recoge la asignación de responsables, las acciones prohibidas y las responsabilidades de derivación en la política de uso aceptable de IA. El registro de actividad permite saber si se cumplió esa política; no puede sustituir una política que nadie redactó.

Reduce la revisión por tipo de acción

Automatiza la ejecución de capacidades concretas que ya hayan demostrado funcionar; mantén bajo revisión las acciones nuevas o con consecuencias importantes. Una puntuación global de «precisión del agente» mezcla riesgos distintos y ofrece una base débil para cambiar permisos.

1. 1

   Empieza por las propuestas

   Deja que el agente prepare las acciones mientras las personas deciden. Clasifica los errores: destinatario incorrecto, afirmación sin respaldo, importe equivocado, falta de evidencia o derivación innecesaria. Construye con esos casos un conjunto de evaluación representativo y aplica los controles de acceso adecuados.

2. 2

   Exige aprobación dentro de un alcance limitado

   Habilita la ejecución solo después de la aprobación. Comprueba que el rechazo impida la acción, que modificar los argumentos invalide la aprobación y que recibir una decisión duplicada no repita la escritura. Prueba los tiempos de espera agotados y los resultados inciertos de sistemas externos antes de ampliar el acceso.

3. 3

   Pasa al muestreo las acciones adecuadas

   Elige una categoría concreta, como las respuestas rutinarias sobre el estado de un pedido con datos verificados. Define un umbral de aceptación, un método de selección de muestras, un responsable de revisión y una condición de parada antes de consultar los resultados. Mantén activos los criterios que obligan a derivar un caso.

4. 4

   Restablece la revisión cuando cambien las condiciones

   Considera cualquier cambio de modelo, prompt, política, herramienta o fuente de datos como un motivo para reevaluar el permiso afectado. Un incidente grave o el deterioro de los resultados de las muestras deben llevar a restablecer la aprobación correspondiente mientras se investiga.

Haz seguimiento, por categoría de acción, de los errores que causan daño, las correcciones de los revisores, las derivaciones omitidas y el esfuerzo de recuperación. Separa los cambios de estilo de los que evitaron un perjuicio. Registra tanto el número de acciones revisadas como el total de acciones elegibles. Calcula la tasa de error de la muestra sobre las acciones revisadas y mantén separadas las muestras aleatorias y las dirigidas: unos pocos casos revisados con éxito no demuestran la fiabilidad de todo el sistema.

La tasa de aprobación no basta. Una persona puede aprobar porque el trabajo es bueno, porque la información para decidir es insuficiente o porque la cola la desborda. Revisa periódicamente las propias decisiones de revisión. La intervención humana ofrece una oportunidad para detectar errores, no una garantía.

Qué promesas conviene cuestionar

«Hay una persona en el circuito» es una afirmación incompleta hasta saber qué ve esa persona y qué puede detener. Recibir una notificación después de que se haya emitido un reembolso es supervisión, no aprobación previa.

«Aprobar todo hasta ganar confianza» también es una propuesta incompleta. Sin criterios claros, el proceso fomenta la fatiga y hace que los permisos se amplíen por impaciencia. La confianza debe apoyarse en evidencia específica de cada acción y en mecanismos fiables de recuperación.

Por último, los comentarios de las personas no mejoran el sistema por sí solos. Alguien debe convertir las correcciones en mejores datos de origen, reglas más claras, prompts revisados o cambios del modelo que se hayan evaluado. Incluye ese trabajo al asignar un responsable de la revisión humana.

Por dónde empezar el lunes

Los responsables de operaciones deben inventariar las acciones que puede ejecutar el agente y asignar a cada una el momento de revisión adecuado. Empieza por la tabla de atención al cliente, identifica a quien realmente aprueba y confirma que haya alguien a cargo de la cola durante el horario de servicio prometido.

Los desarrolladores deben hacer cumplir la regla en el momento de ejecutar. Guarda la acción propuesta, vincula la aprobación a su versión y verifica el comportamiento ante rechazos, vencimientos, decisiones duplicadas y cambios de argumentos. Impide que el modelo se conceda su propia aprobación.

Quienes fundan empresas o compran estas soluciones deben pedir una demostración de una acción rechazada y de una revisión cuyo plazo vence sin que nadie la atienda. Esos casos muestran si el sistema tiene controles operativos o solo una notificación de aprobación.

Actúa ya si un agente puede enviar mensajes, mover dinero o modificar datos de clientes sin límites definidos. Espera para ampliar su autonomía si aún no se han resuelto la política o la capacidad de revisión. Un asistente interno que solo prepara borradores y no puede actuar sobre sistemas externos puede necesitar una revisión editorial habitual en lugar de un nuevo sistema de aprobaciones.

Preguntas frecuentes sobre la revisión humana

¿Qué es human in the loop en IA?

Significa que una persona participa en el funcionamiento de un sistema de IA mediante revisión, comentarios o decisiones. En los agentes que realizan trabajo empresarial, especifica si la persona aprueba antes de actuar, revisa una muestra del trabajo terminado o resuelve excepciones.

¿Qué implica mantener a una persona en el circuito?

Implica que el criterio humano forma parte explícita del proceso. Una implementación útil identifica al revisor, la decisión que le corresponde, la evidencia que ve y lo que hace el sistema mientras espera.

¿Human in the loop es lo mismo que la IA agéntica?

Puede utilizarse con IA agéntica, pero son conceptos distintos. Un agente elige los pasos y utiliza herramientas; human in the loop describe dónde influyen las personas en ese trabajo o lo autorizan.

¿Cómo mantener la intervención humana en la IA?

Exige aprobación para las llamadas a herramientas con consecuencias importantes, asigna personal a la vía de derivación y revisa una muestra definida del trabajo terminado que cumpla los criterios. Registra la decisión y el resultado; después ajusta los permisos con la evidencia de cada categoría de acción.

¿Por qué la IA se queda atrapada en un bucle?

En un flujo de agentes, los reintentos repetidos, la selección reiterada de herramientas o los traspasos sin resolver pueden impedir el avance. Define condiciones de parada y un responsable de las derivaciones. Ese bucle de fallo es distinto del circuito deliberado de revisión humana que se explica aquí.

Para recibir guías prácticas sobre cómo incorporar la IA a los procesos de una empresa, suscríbete al boletín.