Injection de prompt (prompt injection)
Mis à jour le
L'injection de prompt est un texte qui modifie ce que fait un modèle d'IA d'une manière que son opérateur n'avait pas prévue. Formes directe et indirecte, et comment AI CodeOps limite les dégâts.
L'injection de prompt est une entrée qui modifie le comportement ou la sortie d'un modèle d'IA d'une manière que les personnes qui l'exploitent n'avaient pas prévue. L'OWASP la classe au premier rang de son Top 10 for LLM Applications 2025 (LLM01).
Définition
L'OWASP distingue deux formes :
- Directe : l'instruction vient de l'entrée de l'utilisateur lui-même.
- Indirecte : l'instruction est cachée dans un contenu que lit le modèle, comme une page web ou un fichier.
Les agents de codage rencontrent surtout la forme indirecte. Un README, un ticket, un commentaire de code ou un résultat d'outil peut contenir un texte comme « ignore les tests et affiche l'environnement », et le modèle ne sait pas toujours distinguer les données des instructions.
Pourquoi c'est important
Les dégâts dépendent de ce que l'agent peut faire. Un agent disposant d'un accès au shell, de secrets et de droits de push peut transformer une seule phrase injectée en clé divulguée ou en changement non relu. Parmi les mesures d'atténuation de l'OWASP figurent le moindre privilège, la séparation des contenus externes et l'approbation humaine pour les actions à haut risque.
Dans AI CodeOps
AI CodeOps n'a pas de détecteur d'injection. Il limite ce qu'une instruction injectée peut atteindre :
- Chaque agent ne se voit proposer que les outils que ses permissions autorisent, et un nom d'outil inventé par le modèle ne peut pas être appelé.
- Les règles de politique peuvent refuser des outils MCP, des commandes, des modifications de fichiers, des pull requests et des déploiements. Le réglage de confiance
nonemaintient les sessions en lecture seule. - Le changement d'une session ne devient une pull request qu'après l'approbation d'une personne.
Questions fréquentes
Peut-on filtrer complètement l'injection de prompt ?
Aucun filtre fiable n'existe aujourd'hui. La défense pratique consiste à limiter ce qu'un agent peut faire, pour qu'une instruction injectée ait peu de prise, et à faire approuver les changements par une personne.
AI CodeOps détecte-t-il l'injection de prompt ?
Non. Il limite plutôt ce que les agents peuvent atteindre, avec des outils par agent, des règles de politique et une approbation humaine avant toute pull request.