Humano en el bucle (human-in-the-loop)
Última actualización
Humano en el bucle significa que una persona revisa o aprueba en puntos fijados antes de que actúe un sistema automatizado. Dónde encaja en la programación con IA y cómo lo aplica AI CodeOps.
Humano en el bucle (human-in-the-loop, HITL) describe un sistema en el que una persona interviene en puntos de decisión definidos: revisa, aprueba, corrige o rechaza lo que propone un sistema automatizado antes de que tenga efecto. La automatización hace el trabajo; una persona conserva la autoridad sobre las acciones con consecuencias.
Qué es
El patrón se sitúa en un espectro. En un extremo, una persona aprueba cada acción. En el otro, el sistema actúa solo y las personas solo auditan después («human-on-the-loop», humano sobre el bucle). La mayoría de los sistemas prácticos eligen puntos de control concretos: las acciones caras, irreversibles o arriesgadas pasan por una persona, y el resto se ejecuta por su cuenta.
Dos propiedades hacen que un punto de control sea real y no un mero trámite. El aprobador tiene que ver lo que aprueba, y la aprobación tiene que corresponder exactamente a lo que se entrega: si el trabajo cambia después, la aprobación no debería mantenerse.
Por qué importa
Los agentes de IA pueden producir código plausible que es incorrecto de formas que las pruebas no detectan. Un punto de control humano antes de la fusión asigna la responsabilidad a una persona con nombre, detecta problemas que la automatización no puede juzgar, como la intención del producto, y da a los auditores un registro claro de quién decidió. Además, es lo que muchos controles de gestión de cambios ya exigen a los cambios escritos por personas.
En AI CodeOps
El punto de control está antes del pull request. Cuando una sesión termina con un diff, AI CodeOps abre una solicitud de revisión en Review & Gate → Approvals:
- Elige Review the proposed changes para leer el diff, junto a los hallazgos y los resultados de las pruebas.
- Elige Approve (con una nota opcional) o Reject (hace falta un motivo). La página de la ejecución ofrece lo mismo como Accept changes y Reject.
- Al aprobar se abre el pull request, si también se supera el control de calidad.
Las reglas que lo mantienen honesto:
approvers owners, admins, security admins, or a role with approval:decide
two-person rule the person who launched the session can't approve while
someone else in the workspace can
rejection one reject ends the request
edits editing the change after approval resets it to pending
expiry code-change reviews 7 days; held session starts 3 days
Las reglas de política pueden añadir puntos de control antes. Una decisión ask sobre workflow.dispatch o agent.dispatch retiene una sesión hasta que alguien la aprueba; un ask sobre diff.apply o github.push exige una revisión aprobada antes del pull request. Consulta el motor de políticas.
Cada decisión se registra en el registro de auditoría como approval.decided, y la aprobación y cada voto entran en el paquete de evidencias firmado del cambio.
Términos relacionados
- Motor de políticas: decide cuándo hace falta una persona.
- Control de acceso basado en roles (RBAC): decide quién puede ser esa persona.
- Sistema multiagente: el trabajo automatizado que revisa una persona.
Preguntas frecuentes
¿Puede una sesión de IA en AI CodeOps abrir un pull request sin una persona?
No. Cada sesión que produce un cambio de código abre una solicitud de revisión, y el pull request solo se abre después de que una persona lo apruebe y se supere el control de calidad.
¿Puedo aprobar un cambio de una sesión que lancé yo?
No mientras otra persona del espacio de trabajo pueda aprobar. Un espacio de trabajo de una sola persona puede aprobar su propio cambio.
¿Qué pasa si nadie decide?
Una revisión de un cambio de código caduca a los 7 días y el cambio sigue bloqueado. Elige Request approval again en la página de la ejecución para reabrirla.