Aller au contenu

Cercle IA .tech · Technique

Cercle IA TechSécurité

Guide

Chaîne d'approvisionnement de l'IA : modèles et paquets

Modèles, adaptateurs, jeux de données, paquets : où une chaîne d'approvisionnement d'IA peut être piégée, et les sept mesures de l'OWASP 2026.

Mis à jour le

La chaîne d'approvisionnement d'une IA, ce sont tous les éléments tiers qui entrent dans votre système avant même qu'un utilisateur le touche : modèle pré-entraîné, jeux de données, adaptateurs d'affinage, outils de conversion, paquets logiciels, serveur d'inférence. Un seul élément piégé suffit. Le Top 10 de l'OWASP 2026 (fondation qui publie des référentiels de sécurité applicative) en fait l'entrée LLM04 « Supply Chain », au quatrième rang, après le troisième en 2025. Pour les serveurs MCP et les registres d'outils d'agents, l'OWASP renvoie à son Top 10 des applications agentiques.

La référence MCP d’ALMA permet d’examiner un composant de connexion dans la chaîne de votre agent. Relevez le serveur visé, les autorisations demandées et les outils exposés avant d’ajouter cette dépendance à votre inventaire.

Ce qui est en jeu

Un logiciel classique risque surtout des défauts de code et de dépendances. Pour l'IA, l'OWASP ajoute les modèles, jeux de données et artefacts de modèle, qui peuvent être manipulés, empoisonnés ou remplacés par un fichier malveillant. Les adaptateurs légers (LoRA) partagés sur des plateformes publiques, les conversions de format et les fusions de modèles sont désormais des surfaces d'attaque à part entière, comme les modèles embarqués sur des appareils.

Sept situations à risque

  1. Composants périmés ou vulnérables : paquets, serveurs d'inférence, modèles. Variante propre à l'IA : les assistants de code inventent des noms de paquets plausibles mais inexistants ; un attaquant peut les enregistrer à l'avance (« slopsquatting ») pour que la dépendance suggérée mène à du code malveillant.
  2. Licences : jeux de données et logiciels imposent des conditions d'usage et de diffusion, d'où une exposition juridique si elles ne sont pas suivies.
  3. Modèle pré-entraîné vulnérable ou trafiqué : l'analyse statique ne suffit pas à établir sa sûreté. Quitter les formats de sérialisation dangereux réduit le risque sans le supprimer. Détail du côté fichiers sur la sécurité d'un modèle téléchargé.
  4. Provenance faible : une fiche de modèle décrit, elle ne prouve rien ; un compte de fournisseur compromis ou une imitation peut publier sous un nom de confiance. Les chaînes qui récupèrent un modèle par une étiquette mouvante (« latest ») plutôt que par une empreinte immuable sont les plus exposées.
  5. Adaptateurs, conversion, fusion, quantification : un adaptateur malveillant peut altérer le modèle de base. Un modèle peut même paraître sain en pleine précision et se comporter autrement une fois compressé.
  6. Modèles embarqués : processus de fabrication ou système d'appareil compromis, applications reconditionnées.
  7. Conditions d'utilisation et politique de données floues chez l'opérateur du modèle : des données de l'application peuvent servir à l'entraînement et ressortir ensuite.

Des cas cités par l'OWASP

  • Une dépendance malveillante publiée sur un registre public a pris la place d'une dépendance légitime d'un outil d'IA en décembre 2022 et a fait sortir des données.
  • Un modèle aux paramètres modifiés a diffusé de la désinformation tout en passant les évaluations courantes (démonstration de recherche).
  • Une organisation qui déployait un modèle par son seul identifiant public a récupéré celui d'un attaquant : le compte d'origine avait été supprimé et le nom ré-enregistré.
  • Des scanners de modèles et des options de chargement réputées sûres ont eu des contournements : l'OWASP les traite comme des couches de défense, pas comme des garanties.
  • Un pipeline de construction compromis publie des artefacts que ses propres contrôles jugent légitimes, puisqu'ils sortent de l'infrastructure de l'organisation.

Les sept mesures de l'OWASP

  1. Évaluer fournisseurs et sources de données, conditions d'utilisation comprises, et réexaminer à chaque changement.
  2. Appliquer la gestion des composants vulnérables : analyse, correctifs, vérification que les dépendances suggérées par l'IA existent et sont bien celles voulues.
  3. Tester les modèles tiers par des attaques simulées (red teaming) avant de les retenir, puis détecter les anomalies en production.
  4. Tenir un inventaire signé et à jour (SBOM étendu aux modèles, adaptateurs et données), licences comprises.
  5. N'utiliser que des modèles de source vérifiable : empreintes, signatures, références immuables, politique de mise en production.
  6. Surveiller les environnements de développement collaboratif et traiter conversion et fusion comme des points de passage à risque.
  7. Chiffrer les modèles embarqués et contrôler leur intégrité.

Pour une PME qui n'entraîne rien, l'essentiel tient en trois gestes : un inventaire des modèles et paquets utilisés, une version figée pour chacun, et une vérification des noms de paquets proposés par un assistant de code (voir sécurité du code généré par IA). Le cas des données d'entraînement piégées est traité dans l'empoisonnement de données.

Les connecteurs dépendent aussi de logiciels ordinaires

Le fait. L’alerte PHP du CERT-FR, publiée le 21/10/2026 et mise à jour le 27/10, décrit des vulnérabilités permettant l’exécution de code à distance. Elle signale des tentatives d’exploitation visant certains déploiements et renvoie aux correctifs applicables. Ce bulletin ne démontre pas une causalité entre l’IA et une hausse globale des attaques.

Notre lecture. Un agent relié à un ancien portail dépend aussi de la sécurité de ce portail. Changer de modèle ne corrige pas son moteur web. Pour une petite entreprise, l’inventaire doit relier chaque outil de l’agent au logiciel réellement joint, à son responsable et à sa politique de maintenance.

Cette semaine. Repérez les portails appelés par vos automatisations et faites vérifier leurs versions par la personne chargée de leur exploitation. Préparez sauvegarde, essai du correctif et retour arrière. Si un service doit être isolé, désactivez aussi le chemin qui permet à l’agent de l’appeler et prévoyez la reprise manuelle du travail.

Pour figer une image par son empreinte et vérifier signature et SBOM, voir épingler et vérifier ses dépendances IA.

Questions fréquentes

Qu'est-ce que la chaîne d'approvisionnement d'un système d'IA ?

L'OWASP y range les données d'entraînement, les modèles, les adaptateurs, les chaînes de conversion et les plateformes de déploiement, avec les paquets logiciels qui les entourent. Chacun peut être altéré avant d'arriver chez vous.

Un modèle signé est-il sûr ?

Non. Selon l'OWASP, la signature prouve l'intégrité et l'origine, pas l'innocuité : un modèle correctement signé par un fournisseur compromis peut contenir une porte dérobée. Il faut y ajouter références immuables, évaluation du comportement et validation continue.

Qu'est-ce qu'un SBOM d'IA ?

C'est l'inventaire signé des composants d'un logiciel (SBOM), étendu aux modèles, adaptateurs et jeux de données. L'OWASP cite les formats CycloneDX ML-BOM et AIBOM.

Références du carnet

Pages consultées pour écrire cet article :

  1. https://cert.cyber.gouv.fr/alerte/CERTFR-2026-ALE-014/
  2. Site d’ALMA : référence MCP
  3. https://genai.owasp.org/download/56857/?tmstv=1785822482
  4. https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/

À lire aussi