Guide
Sortie d'un LLM non validée : XSS, SQL et fuite par image
Une réponse de modèle de langage qui part vers un navigateur, une base ou un terminal sans contrôle devient une faille. Les parades de l'OWASP 2026.
Mis à jour le
Une réponse de modèle de langage n'est pas une donnée de confiance. Si votre application la transmet telle quelle à un navigateur, à une base de données, à un terminal ou à un autre outil, elle devient une porte d'entrée. Le Top 10 de l'OWASP 2026 (fondation qui publie des référentiels de sécurité applicative), dont la page de présentation est datée du 03/08/2026, la classe en dixième position sous le nom LLM10 « Improper Output Handling ». C'est la plus grande chute de la liste : cinquième en 2025. L'OWASP précise toutefois que l'entrée couvre désormais aussi le code non sûr produit par les assistants de programmation.
Si votre application consomme des réponses d’ALMA, commencez par la documentation API pour identifier les champs reçus. Traitez ensuite le contenu selon sa destination réelle : affichage, stockage ou action, avec une validation propre à ce parcours.
La logique
Le contenu généré par le modèle dépend de ce qui lui est fourni, donc de ce qu'un utilisateur ou un document tiers y a glissé. Laisser sa sortie atteindre un autre composant revient à donner à cette personne un accès indirect à ses fonctions. L'OWASP cite parmi les conséquences : scripts malveillants dans un navigateur (XSS) ou requêtes forgées (CSRF), appels de serveur détournés (SSRF), élévation de privilèges et exécution de code sur les serveurs.
Les conditions qui aggravent l'impact, selon la liste : des droits trop larges donnés au modèle, une sensibilité à l'injection indirecte, des entrées d'outils tiers non validées, l'absence d'encodage adapté au contexte (HTML, JavaScript, SQL), une surveillance insuffisante des sorties, et des clients d'affichage qui chargent seuls des ressources externes citées dans la réponse.
Sept manières de se faire piéger
| Où part la sortie | Ce qui peut mal tourner |
|---|---|
| Une fonction système de type exécution de commande | Exécution de code à distance |
| Une page web qui affiche du JavaScript ou du Markdown généré | Script exécuté dans le navigateur de la victime (XSS) |
| Une requête SQL écrite par le modèle sans paramétrage | Injection SQL, suppression ou lecture de tables |
| Un chemin de fichier construit à partir de la sortie | Accès à des fichiers hors du dossier prévu |
| Un modèle de mail généré sans échappement | Hameçonnage |
| Un terminal, un journal ou un éditeur qui interprète les caractères de contrôle | Affichage falsifié, détournement du presse-papiers |
| Un chat qui affiche automatiquement les images ou aperçus de liens | Fuite de la conversation par l'adresse de l'image |
Ce dernier cas mérite un arrêt, parce que l'utilisateur ne voit qu'une image. Dans l'un des scénarios de l'OWASP, un assistant qui résume une page web reçoit d'elle une consigne cachée lui demandant de récupérer du contenu sensible, puis de l'encoder et de l'envoyer vers un serveur contrôlé par l'attaquant : sans filtre sur la sortie, la fuite s'accomplit. Pour la partie entrante, voyez l'injection de prompt.
Les parades de l'OWASP
- Traiter le modèle comme un utilisateur quelconque (approche « zéro confiance ») et valider chaque réponse avant toute fonction en aval.
- S'appuyer sur la norme de vérification de la sécurité applicative de l'OWASP (ASVS) pour la validation et le nettoyage.
- Encoder la sortie selon sa destination : encodage HTML pour une page web, encodage JavaScript pour un script du navigateur.
- Utiliser des requêtes paramétrées pour toute opération de base de données qui touche une sortie de modèle.
- Appliquer une politique de sécurité du contenu (CSP) stricte pour limiter les attaques XSS.
- Journaliser et surveiller les sorties pour repérer des motifs inhabituels.
- Neutraliser les caractères de contrôle (séquences ANSI, retour chariot, etc.) avant écriture dans un terminal ou un journal.
- Dans les interfaces, empêcher les requêtes sortantes automatiques : désactiver par défaut l'affichage automatique des images Markdown, aperçus de liens et cadres intégrés ; si l'affichage est nécessaire, le limiter à une liste d'origines ou le faire passer par un serveur qui retire les paramètres porteurs de données.
Essayer l’affichage avant la fin de la réponse
La fiche de prévention des injections de l’OWASP signale aussi les risques du Markdown rendu pendant la réception du texte. Vérifier seulement la réponse complète laisse donc une question ouverte : le navigateur a-t-il déjà demandé une image ou ouvert un aperçu avant ce contrôle ?
Voici un essai proposé pour une interface de test, avec des marqueurs entièrement fictifs et un serveur de réception maîtrisé par l’équipe. Préparez une réponse contenant un lien ordinaire, une image et du texte qui ressemble à une balise. Faites-la arriver en plusieurs fragments, notamment en coupant la syntaxe au milieu d’une adresse. Observez les requêtes réseau dès le premier fragment, puis après la fin de la réponse et après un éventuel clic volontaire.
| Observation | Décision à documenter |
|---|---|
| Une requête part avant validation | Empêcher ce chargement dans le rendu intermédiaire |
| L’adresse contient le marqueur fictif | Vérifier quelles données seraient transmises au destinataire |
| Le texte final paraît neutre mais un appel est déjà parti | Corriger le parcours d’affichage, pas seulement le résultat final |
| L’export réactive un contenu neutralisé à l’écran | Appliquer les protections propres au format exporté |
Conservez la version du composant d’affichage et les étapes qui reproduisent le résultat. Rejouez le même exemple lors d’un changement de bibliothèque Markdown. Une capture de la réponse finale ne suffit pas à démontrer l’absence d’appel réseau pendant sa construction. Ce protocole ne nécessite ni données de client ni adresse contrôlée par un tiers.
Ce que cela change dans un projet
Si votre assistant produit du texte lu par un humain, vérifiez surtout l'affichage (points 3, 5 et 8). S'il produit des appels de fonction, des requêtes ou des fichiers, imposez un format de sortie strict et validez-le par du code avant usage : c'est ce que détaille la page guardrails d'entrée et de sortie. La validation d'un format de sortie en pratique est expliquée sur valider la sortie d'un LLM avec Pydantic.
Le cas de l'image ou du lien qui emporte des données dans son adresse est détaillé dans fuite par image Markdown.
Questions fréquentes
Quelle différence entre injection de prompt et mauvaise gestion des sorties ?
L'injection de prompt concerne ce qui entre dans le modèle. La gestion des sorties (LLM10) concerne ce qui sort et part vers d'autres composants. Les deux s'additionnent : une injection réussie est bien plus grave si la sortie est utilisée sans contrôle.
Pourquoi couper l'affichage automatique des images dans un chat ?
Parce qu'un client qui charge automatiquement une image citée dans la réponse envoie une requête vers son adresse. Si l'adresse contient des extraits de la conversation, ils partent chez l'attaquant. L'OWASP demande de désactiver par défaut ce chargement ou de le limiter à une liste d'origines autorisées.
Que faire d'une requête SQL écrite par le modèle ?
L'OWASP demande des requêtes paramétrées pour toute opération sur une base qui touche une sortie de modèle, et de traiter le modèle comme n'importe quel autre utilisateur, sans confiance a priori.
Références du carnet
Pages consultées pour écrire cet article :