AI CodeOps

Humain dans la boucle (human-in-the-loop)

Mis à jour le

L'humain dans la boucle signifie qu'une personne relit ou approuve à des points définis avant qu'un système automatisé agisse. Sa place dans le codage par IA, et son application dans AI CodeOps.

L'humain dans la boucle (human-in-the-loop, HITL) désigne un système dans lequel une personne intervient à des points de décision définis : elle relit, approuve, corrige ou rejette ce que propose un système automatisé avant que cela prenne effet. L'automatisation fait le travail ; un humain garde l'autorité sur les actions lourdes de conséquences.

Définition

Le modèle se situe sur un continuum. À un extrême, une personne approuve chaque action. À l'autre, le système agit seul et les personnes se contentent d'auditer après coup (« human-on-the-loop », l'humain en supervision). La plupart des systèmes concrets choisissent des points de contrôle précis : les actions coûteuses, irréversibles ou risquées passent par une personne, le reste s'exécute seul.

Deux propriétés font d'un point de contrôle une réalité plutôt qu'une formalité. L'approbateur doit voir ce qu'il approuve, et l'approbation doit porter sur exactement ce qui est livré : si le travail change ensuite, l'approbation ne doit pas être reportée.

Pourquoi c'est important

Les agents IA peuvent produire du code plausible mais faux d'une manière que les tests ne détectent pas. Un point de contrôle humain avant la fusion attribue la responsabilité à une personne nommée, détecte des problèmes que l'automatisation ne sait pas juger, comme l'intention produit, et donne aux auditeurs une trace claire de qui a décidé. C'est aussi ce que de nombreux contrôles de gestion des changements exigent déjà pour les changements écrits par des humains.

Dans AI CodeOps

Le point de contrôle se situe avant la pull request. Lorsqu'une session se termine avec un diff, AI CodeOps ouvre une demande de revue sous Review & Gate → Approvals :

  1. Choisissez Review the proposed changes pour lire le diff, à côté des constats et des résultats de tests.
  2. Choisissez Approve (avec une note facultative) ou Reject (un motif est obligatoire). La page d'exécution propose la même chose avec Accept changes et Reject.
  3. L'approbation ouvre la pull request, si la barrière qualité est elle aussi franchie.

Les règles qui en garantissent la sincérité :

approvers        owners, admins, security admins, or a role with approval:decide
two-person rule  the person who launched the session can't approve while
                 someone else in the workspace can
rejection        one reject ends the request
edits            editing the change after approval resets it to pending
expiry           code-change reviews 7 days; held session starts 3 days

Des règles de politique peuvent ajouter des points de contrôle plus tôt. Une décision ask sur workflow.dispatch ou agent.dispatch retient une session jusqu'à ce que quelqu'un l'approuve ; un ask sur diff.apply ou github.push exige une revue approuvée avant la pull request. Consultez le moteur de politiques.

Chaque décision est enregistrée dans le journal d'audit sous approval.decided, et l'approbation ainsi que chaque vote figurent dans le dossier de preuves signé du changement.

Questions fréquentes

Une session IA d'AI CodeOps peut-elle ouvrir une pull request sans une personne ?

Non. Chaque session qui produit un changement de code ouvre une demande de revue, et la pull request ne s'ouvre qu'après l'approbation d'une personne et le passage de la barrière qualité.

Puis-je approuver un changement issu d'une session que j'ai lancée ?

Pas tant que quelqu'un d'autre dans l'espace de travail peut approuver. Un espace de travail d'une seule personne peut approuver son propre changement.

Que se passe-t-il si personne ne décide ?

Une revue de changement de code expire au bout de 7 jours et le changement reste bloqué. Choisissez Request approval again sur la page d'exécution pour la rouvrir.