Pourquoi chaque changement de l'IA doit franchir une barrière
Matt · · Mis à jour le · 7 min de lecture · Ingénierie
L'IA écrit vite du code plausible, donc rien n'est livré sur sa parole. Ce que vérifie la barrière de livraison, nos failles, et pourquoi elle reste fermée.
Sur cette page
Dans AI CodeOps, aucun changement écrit par l'IA n'est fusionné parce que l'IA a déclaré l'avoir terminé : il doit passer une barrière de livraison qui lit de vraies exécutions de tests, les constats de revue et l'approbation d'une personne. La barrière reste fermée en cas d'erreur : une preuve manquante retient le changement au lieu de le laisser passer.
Un modèle d'IA peut écrire en une minute un changement qui a l'air de fonctionner. C'est la partie utile. La partie dangereuse, c'est qu'il écrit aussi en une minute un changement cassé qui a l'air parfaitement correct, et que les deux se lisent de la même façon. Le code compile, le résumé est assuré, les noms de variables sont bien choisis. Rien dans la sortie ne vous dit lequel des deux vous avez obtenu.
Dans AI CodeOps, aucun changement écrit par une IA n'atteint donc votre branche principale parce que l'IA a dit qu'il était terminé. Il doit franchir une barrière. Cet article explique ce que vérifie la barrière, pourquoi nous l'avons construite ainsi, et les erreurs que nous y avons trouvées en chemin.
Ce qui se passe une fois qu'une session a écrit le code
Une session, c'est une équipe d'agents qui travaille sur une tâche dans un projet. Quand elle a produit un diff, trois choses se passent avant que quiconque puisse ouvrir une pull request.
- Vos tests s'exécutent sur le changement. L'étape verify (vérification) exécute la propre suite de tests du projet sur le code que la session vient d'écrire, dans un bac à sable isolé, et enregistre le résultat comme une véritable exécution de tests. Si le projet n'a pas de commande de test, ou si les dépendances refusent de s'installer, nous n'enregistrons rien plutôt qu'un résultat rouge. « Nous n'avons pas pu vérifier » ne doit jamais ressembler à « le changement échoue ». Cela ne ressemble pas non plus à une réussite : la barrière de livraison refuse un changement de code sans résultat de test, sauf si vous désactivez les tests pour ce projet.
- Un relecteur IA lit le diff. Pas le plan, pas la transcription : le diff. Ses constats sont enregistrés avec une gravité, et ils apparaissent sur la session, dans le tableau de bord Security et dans la barrière.
- Une approbation s'ouvre. Le changement attend sous Review & Gate → Approvals qu'une personne disposant des droits d'approbation décide. Des politiques peuvent aussi retenir une session en attente d'approbation avant qu'elle ne démarre, et une règle
asksur un chemin protégé enregistre une décision de politique, qui nomme la règle, quand un changement touche ce chemin.
Ensuite, au moment où le changement va être fusionné, la barrière de livraison examine tout cela ensemble. Votre CI peut poser la même question via l'API : telle pull request, ou tel commit, est-il prêt ? La réponse est un oui ou un non, avec les raisons, et un job de CI qui la pose peut devenir une vérification de statut requise sur votre hébergeur Git.
Ce que vérifie la barrière de livraison
Par défaut, un changement est refusé si l'une de ces conditions est vraie :
- Un constat ouvert de gravité high ou supérieure le concerne encore. Un constat cesse de bloquer dès qu'il est trié comme fixed, won't fix, false positive ou duplicate (corrigé, ne sera pas corrigé, faux positif ou doublon).
- Une exécution de tests sur ce changement comporte des échecs.
- Il a modifié du code et n'a aucun résultat de test avec des décomptes, alors que les tests ne sont pas désactivés pour le projet.
- Un workflow dont il dépend a échoué, ou aucune exécution le concernant n'est terminée.
- Sa revue par IA ne s'est pas terminée.
Une vérification de CI peut en exiger davantage : un pourcentage minimal de couverture, une liste de licences qui ne doivent pas figurer dans le SBOM du projet, des workflows qui doivent avoir réussi, et une règle de promotion qui impose qu'un changement ait été déployé en staging avant de pouvoir aller en production. Le guide des barrières qualité donne le détail.
Pourquoi le code écrit par l'IA en a plus besoin que le code humain
La revue de code humaine suppose que l'auteur a compris ce qu'il a écrit et qu'il en répondra. Avec du code écrit par l'IA, cette hypothèse tombe de deux façons.
D'abord, le volume. Une équipe qui relisait cinq pull requests par jour peut désormais en générer cinquante. Les relecteurs se fatiguent, et un relecteur fatigué approuve. Une barrière ne se fatigue pas.
Ensuite, l'assurance n'est pas une preuve. Un modèle vous dira qu'il a ajouté des tests et qu'ils réussissent. Parfois, c'est vrai. La barrière ne lit pas ce que le modèle a dit. Elle lit l'enregistrement de l'exécution de tests et la table des constats.
C'est aussi pourquoi la barrière est conçue pour rester fermée en cas d'erreur, le principe que l'OWASP appelle failing securely (échouer de façon sûre). Chaque règle est formulée « refuser sauf preuve positive », et non « autoriser tant qu'on ne voit pas de problème ». Fail-open ou fail-closed : les barrières qualité face aux erreurs détaille ce compromis.
Les failles que nous avons trouvées
Nous n'avons pas tout réussi du premier coup. Voici quelques-unes des failles que nous avons comblées cet automne, parce qu'elles montrent ce que « rester fermée en cas d'erreur » veut dire en pratique :
- L'inachevé comptait comme réussi. Une vérification de CI lancée quelques secondes après un push pouvait obtenir « release ready » alors que la seule exécution était encore en cours. Une exécution non terminée n'est pas un résultat : désormais, au moins une exécution doit être terminée.
- Une revue illisible comptait comme une revue au vert. Si le relecteur IA répondait par de la prose, par un message vide ou par une réponse coupée à la limite de tokens, nous l'interprétions comme « aucun constat ». Depuis le 14 octobre, tout ce qui n'est pas une liste lisible est une revue en échec, et la barrière retient le changement.
- D'anciens tests jugeaient du nouveau code. Si quelqu'un modifiait le code de l'IA après l'exécution de ses tests, la barrière continuait d'utiliser les anciens résultats. Désormais, des tests ne comptent que pour la version exacte sur laquelle ils ont tourné, et un changement modifié est considéré comme non testé.
- Les modifications conservaient l'ancienne approbation. Une approbation porte sur un diff précis. Modifier le code, restaurer un point de contrôle (checkpoint) ou filtrer des hunks rouvre désormais l'approbation, dans la même transaction que le changement.
- Un échec bloquait pendant deux semaines. Le problème inverse : la barrière bloquait sur n'importe quelle exécution en échec dans sa fenêtre, si bien qu'un changement corrigé et relancé restait bloqué. Désormais, chaque workflow est jugé sur sa dernière exécution terminée.
Dans chacun de ces cas, la barrière affirmait quelque chose que les preuves ne permettaient pas d'affirmer. Le changelog en donne la liste complète.
La revue à deux personnes
La dernière pièce, ce sont les personnes. L'approbation d'un changement de l'IA acceptait auparavant le vote de toute personne disposant des droits d'approbation, y compris celle qui avait lancé la session. Un Admin pouvait, à lui seul, lancer une session, l'approuver et ouvrir la pull request.
Depuis le 11 octobre, dès qu'un espace de travail compte une deuxième personne capable d'approuver, l'approbation de la personne qui a lancé la session ne compte plus. Quelqu'un d'autre doit regarder. Une équipe d'une seule personne conserve l'auto-approbation, faute de quoi rien ne pourrait jamais être livré, et le rejet est toujours permis. Un seul rejet suffit à arrêter le changement. Le guide des approbations et politiques explique qui peut approuver quoi.
Ce que cela vous coûte
Une barrière crée de la friction, et nous ne prétendons pas le contraire. Les changements attendent un relecteur. Un test instable bloque une fusion jusqu'à ce que vous le relanciez. Un modèle qui renvoie une revue confuse vous coûte une revue de plus.
Nous pensons que ce compromis est le bon pour du code que personne n'a tapé. Le but d'AI CodeOps n'est pas de rendre les changements de l'IA plus rapides à fusionner. Il est de les rendre sûrs à fusionner, et de garder une trace de la raison pour laquelle chacun a été autorisé. Pour voir comment fonctionne le volet revue, la page sur la revue de code multi-agents va plus loin.
À retenir
- Aucun changement de l'IA n'est fusionné sur la parole de l'IA : la barrière de livraison lit les exécutions de tests, les constats de revue et les approbations.
- Par défaut, un changement est refusé en cas de constat ouvert de gravité high, de tests en échec, d'exécution inachevée ou en échec, ou de revue incomplète.
- La barrière reste fermée en cas d'erreur : sans preuve, pas de fusion.
- Les tests et les approbations ne comptent que pour la version exacte du changement qu'ils ont vue.
- Avec un deuxième approbateur dans l'espace de travail, la personne qui a lancé une session ne peut pas l'approuver seule.
Voir aussi
- Barrières qualité
- Des barrières qualité pour le code IA, fermées en cas d'erreur
- Approbations et politiques
- Une revue de code par IA qui bloque les mauvaises fusions
- Dossiers de preuves signés : prouver le parcours du code de l'IA
- Outils de revue de code par IA en 2026 : le comparatif honnête
- Tous les articles du blog