Dónde poner las aprobaciones humanas en un flujo de trabajo de programación con IA
Última actualización
Qué momentos de la entrega asistida por IA necesitan la aprobación de una persona, cómo funciona la separación de funciones cuando un agente escribe el código y cómo evitar aprobar sin mirar.
En esta página
Las aprobaciones humanas van en los puntos en los que el trabajo de un agente de IA se vuelve difícil de deshacer o empieza a afectar a otras personas: antes de que un cambio se fusione en la rama principal, antes de que se despliegue a producción y antes de que los agentes empiecen tipos de trabajo arriesgados, como cambios de infraestructura o de dependencias. Todo lo demás puede ejecutarse automáticamente detrás de controles. Para que una aprobación signifique algo, tiene que venir de alguien distinto de quien pidió el cambio, tiene que hacerse con las evidencias a la vista y tiene que aplicarse a la versión exacta que se entrega.
Esta página profundiza en la sección sobre el humano en el bucle de ¿Cómo encajan los agentes de IA en el ciclo de vida del software?.
En el bucle, sobre el bucle, fuera del bucle
Conviene distinguir tres niveles de participación humana, porque los equipos a menudo dicen uno y quieren decir otro.
| Nivel | Lo que hace la persona | Adecuado para |
|---|---|---|
| En el bucle | Aprueba antes de que el trabajo del agente tenga efecto | Fusiones, despliegues a producción, cambios de infraestructura y de acceso |
| Sobre el bucle | Observa cómo actúa el agente y puede detenerlo o revertirlo | Automatización de bajo riesgo con buena monitorización y rollback sencillo |
| Fuera del bucle | Solo revisa después, si es que revisa | Trabajo cuyos resultados se comprueban por otros medios, como borradores |
La mayor parte del trabajo de programación con IA los combina: los agentes planifican, escriben y prueban por su cuenta, las personas aprueban en unos pocos puntos definidos y todo el proceso queda registrado para revisarlo después.
Qué decisiones necesitan a una persona
Una prueba útil es preguntarse qué pasa si el agente se equivoca y nadie se da cuenta durante una semana. Si la respuesta es «nada grave» o «lo revertimos», basta con automatización y controles. Si la respuesta tiene que ver con clientes, datos, dinero, seguridad o un incidente, pon a una persona delante.
Decisiones que suelen necesitar una aprobación:
- Fusionar en la rama principal. A partir de ese momento, otras personas construyen sobre el cambio.
- Desplegar a producción. Sobre todo cuando el rollback es lento o hay migraciones de datos.
- Cambiar la infraestructura, los pipelines de CI o el control de acceso. Tienen un alcance que va más allá de la aplicación.
- Añadir o actualizar dependencias. Cada paquete nuevo es un proveedor nuevo.
- Empezar trabajo caro o de larga duración, como grandes refactorizaciones o jobs programados en muchos repositorios.
- Cualquier cosa que envíe datos fuera de la organización.
Decisiones que normalmente no la necesitan: qué archivos lee un agente, cómo estructura su plan, qué pruebas escribe o si reintenta un paso fallido. Aprobar esto añade fricción sin añadir seguridad.
Separación de funciones cuando un agente escribe el código
La separación de funciones es un control antiguo: la persona que hace un cambio no debería ser la única que lo aprueba. Con los agentes de IA, la pregunta es quién cuenta como autor.
Al agente no se le pueden pedir cuentas de nada, así que el autor es la persona que le dio la tarea. Eligió el objetivo, el alcance y a menudo el enfoque, y es quien más tiende a creer que el resultado es correcto. Su aprobación aporta poca independencia.
En la práctica:
- Quien pide el cambio no debería ser el único aprobador cuando otra persona puede aprobar.
- Las aprobaciones deberían contarse por persona, para que una persona que vota dos veces no cuente como dos aprobaciones.
- Las rutas sensibles pueden designar aprobadores concretos, por ejemplo un revisor de seguridad para el código de autenticación.
- Los desarrolladores que trabajan solos son un caso real. Un equipo de una persona no puede separar funciones, y el proceso debería permitir ahí la autoaprobación en lugar de forzar un apaño, dejando constancia de que ocurrió.
Lo que el aprobador necesita ver
Un aprobador al que se le pide decidir sin contexto acabará bloqueándolo todo o aprobándolo todo. Pon las evidencias junto a la decisión:
- la tarea que se le dio al agente, para que el aprobador pueda juzgar si el cambio hace lo que se pidió;
- el propio diff, no un resumen;
- los resultados de las pruebas de esta versión exacta, incluido lo que se omitió o no se ejecutó;
- los hallazgos de revisión y cómo se pasó cada uno por triaje;
- cualquier decisión de política, como una ruta protegida que exigió esta aprobación.
Si falta alguna evidencia, el aprobador debería ver que falta.
Cómo evitar la fatiga de aprobación
Las aprobaciones pierden su valor cuando hay demasiadas. Quien aprueba decenas de cambios triviales al día deja de leer, y sus aprobaciones se convierten en un trámite.
- Aprueba menos cosas y más significativas. Usa la política para decidir qué cambios necesitan a una persona, y deja que los controles se encarguen del resto.
- Mantén los cambios pequeños. Un cambio acotado se puede leer; uno disperso se lee por encima.
- Haz que rechazar salga barato. Con agentes, un cambio rechazado se puede rehacer con una tarea mejor. Los aprobadores deberían sentirse libres de decir que no.
- Exige un motivo para rechazar. Mejora el siguiente intento y deja constancia de lo que el equipo no va a aceptar.
- Haz que las aprobaciones caduquen. Una solicitud que espera semanas se aprueba contra una base de código que ya ha cambiado.
Vincular las aprobaciones a las versiones
Una aprobación es una declaración sobre un cambio concreto. Si el cambio se edita después de aprobarse, ya sea una persona o una ejecución de seguimiento de un agente, la aprobación debería reiniciarse. Si no, un cambio revisado se puede sustituir por uno sin revisar después de la decisión.
Lo mismo vale para las evidencias. Los resultados de las pruebas y los hallazgos de revisión deberían pertenecer a la versión para la que se produjeron, de modo que las evidencias del aprobador y el código entregado coincidan.
Registrar la decisión
Cada aprobación debería dejar un registro: quién aprobó o rechazó, cuándo, qué versión, con qué nota y qué evidencias había disponibles. Ese registro es lo que buscará un auditor, una revisión de incidentes o un futuro responsable del código cuando pregunte cómo llegó un cambio a producción.
Cómo lo hace AI CodeOps
En AI CodeOps, cada cambio de código de una sesión necesita una revisión aprobada antes de que se abra su pull request, sea cual sea el ajuste de confianza del espacio de trabajo. La persona que inició la sesión no puede aprobar su cambio mientras otra persona del espacio de trabajo pueda hacerlo; un espacio de trabajo de una sola persona puede aprobar su propio trabajo. Los roles Owner, Admin y Security Admin pueden aprobar por defecto, se puede dar el permiso a un rol personalizado, y una solicitud puede designar aprobadores concretos. Las aprobaciones se cuentan por persona distinta.
Un solo rechazo termina la solicitud, y un rechazo necesita un motivo. Las revisiones de cambios de código caducan a los 7 días. Editar un cambio después de aprobarlo devuelve su aprobación a pendiente.
Las reglas de política añaden puntos de control anteriores. Una regla ask sobre workflow.dispatch retiene una sesión antes de que empiece, por ejemplo en cada actualización de dependencias, y esa solicitud caduca a los 3 días. Una regla ask sobre diff.apply con una ruta como infra/** exige una revisión aprobada para los cambios en esos archivos. Cada decisión se registra en el registro de auditoría, y las aprobaciones y cada voto forman parte del paquete de evidencias firmado del cambio.
Consulta Aprobaciones y políticas para las reglas completas, la entrada del glosario humano en el bucle y Registros de auditoría, roles y políticas para la visión general.
Preguntas frecuentes
¿Qué diferencia hay entre humano en el bucle y humano sobre el bucle?
En el bucle, el trabajo del agente no tiene efecto hasta que una persona lo aprueba. Sobre el bucle, el agente actúa por su cuenta y una persona supervisa y puede intervenir. Fuera del bucle, nadie mira hasta que algo sale mal.
¿Puede aprobar su cambio la persona que dio las instrucciones a un agente de IA?
Solo cuando no puede hacerlo nadie más. La persona que escribió la tarea es, en la práctica, la autora del cambio, así que su aprobación es la autora dándose la razón a sí misma. Un desarrollador que trabaja solo no tiene alternativa, y el registro debería mostrarlo.
¿Cuántos aprobadores necesita un cambio escrito por IA?
Lo habitual es un aprobador independiente como mínimo antes de fusionar. Añade un segundo, o un aprobador concreto como un revisor de seguridad, para las rutas sensibles como la autenticación, los pagos o la infraestructura.
¿Qué debería pasar si un cambio se edita después de aprobarse?
La aprobación debería dejar de contar. Se aplicaba a la versión que vio el aprobador, así que la versión editada necesita una decisión nueva.
Relacionado
- ¿Cómo encajan los agentes de IA en el ciclo de vida del software?
- Aprobaciones y políticas
- Humano en el bucle (human-in-the-loop)
- Paquetes de evidencias
- Registros de auditoría, roles y políticas para programar con IA
- Plantilla de política de programación con IA para equipos de ingeniería (gratis)
- Todo el centro de aprendizaje