Humain dans la boucle (human-in-the-loop)
Mis à jour le
L'humain dans la boucle signifie qu'une personne relit ou approuve à des points définis avant qu'un système automatisé agisse. Sa place dans le codage par IA, et son application dans AI CodeOps.
L'humain dans la boucle (human-in-the-loop, HITL) désigne un système dans lequel une personne intervient à des points de décision définis : elle relit, approuve, corrige ou rejette ce que propose un système automatisé avant que cela prenne effet. L'automatisation fait le travail ; un humain garde l'autorité sur les actions lourdes de conséquences.
Définition
Le modèle se situe sur un continuum. À un extrême, une personne approuve chaque action. À l'autre, le système agit seul et les personnes se contentent d'auditer après coup (« human-on-the-loop », l'humain en supervision). La plupart des systèmes concrets choisissent des points de contrôle précis : les actions coûteuses, irréversibles ou risquées passent par une personne, le reste s'exécute seul.
Deux propriétés font d'un point de contrôle une réalité plutôt qu'une formalité. L'approbateur doit voir ce qu'il approuve, et l'approbation doit porter sur exactement ce qui est livré : si le travail change ensuite, l'approbation ne doit pas être reportée.
Pourquoi c'est important
Les agents IA peuvent produire du code plausible mais faux d'une manière que les tests ne détectent pas. Un point de contrôle humain avant la fusion attribue la responsabilité à une personne nommée, détecte des problèmes que l'automatisation ne sait pas juger, comme l'intention produit, et donne aux auditeurs une trace claire de qui a décidé. C'est aussi ce que de nombreux contrôles de gestion des changements exigent déjà pour les changements écrits par des humains.
Dans AI CodeOps
Le point de contrôle se situe avant la pull request. Lorsqu'une session se termine avec un diff, AI CodeOps ouvre une demande de revue sous Review & Gate → Approvals :
- Choisissez Review the proposed changes pour lire le diff, à côté des constats et des résultats de tests.
- Choisissez Approve (avec une note facultative) ou Reject (un motif est obligatoire). La page d'exécution propose la même chose avec Accept changes et Reject.
- L'approbation ouvre la pull request, si la barrière qualité est elle aussi franchie.
Les règles qui en garantissent la sincérité :
approvers owners, admins, security admins, or a role with approval:decide
two-person rule the person who launched the session can't approve while
someone else in the workspace can
rejection one reject ends the request
edits editing the change after approval resets it to pending
expiry code-change reviews 7 days; held session starts 3 days
Des règles de politique peuvent ajouter des points de contrôle plus tôt. Une décision ask sur workflow.dispatch ou agent.dispatch retient une session jusqu'à ce que quelqu'un l'approuve ; un ask sur diff.apply ou github.push exige une revue approuvée avant la pull request. Consultez le moteur de politiques.
Chaque décision est enregistrée dans le journal d'audit sous approval.decided, et l'approbation ainsi que chaque vote figurent dans le dossier de preuves signé du changement.
Termes associés
- Moteur de politiques : décide quand une personne est nécessaire.
- Contrôle d'accès basé sur les rôles (RBAC) : décide qui peut être cette personne.
- Système multi-agents : le travail automatisé qu'une personne relit.
Questions fréquentes
Une session IA d'AI CodeOps peut-elle ouvrir une pull request sans une personne ?
Non. Chaque session qui produit un changement de code ouvre une demande de revue, et la pull request ne s'ouvre qu'après l'approbation d'une personne et le passage de la barrière qualité.
Puis-je approuver un changement issu d'une session que j'ai lancée ?
Pas tant que quelqu'un d'autre dans l'espace de travail peut approuver. Un espace de travail d'une seule personne peut approuver son propre changement.
Que se passe-t-il si personne ne décide ?
Une revue de changement de code expire au bout de 7 jours et le changement reste bloqué. Choisissez Request approval again sur la page d'exécution pour la rouvrir.