Les cadres qui structurent la sécurité des LLM.

Publié par la Cloud Security Alliance, MAESTRO (Multi-Agent Environment, Security, Threat, Risk, and Outcome) est un framework de threat modeling conçu spécifiquement pour les systèmes d'agents IA — là où les frameworks généralistes plus anciens (STRIDE, PASTA, LINDDUN, OCTAVE, Trike) peinent à couvrir des risques propres à l'IA comme les attaques adverses, l'empoisonnement de données ou la nature autonome et imprévisible des agents.

MAESTRO découpe un système agentique en sept couches, chacune avec son propre paysage de menaces :

• 1. Foundation Models — le modèle IA sous-jacent (exemples adverses, vol de modèle, backdoors, membership inference, empoisonnement à l'entraînement).
• 2. Data Operations — traitement et stockage des données (bases vectorielles, pipelines RAG, empoisonnement de corpus).
• 3. Agent Frameworks — les frameworks utilisés pour construire les agents (toolkits conversationnels, orchestrateurs).
• 4. Deployment and Infrastructure — l'infrastructure d'exécution (cloud, on-premise, conteneurs).
• 5. Evaluation and Observability — outils de suivi de la performance et du comportement des agents.
• 6. Security and Compliance — couche transversale qui traverse toutes les autres pour garantir des contrôles de sécurité cohérents.
• 7. Agent Ecosystem — la place de marché où les agents interagissent avec des applications et utilisateurs réels.

MAESTRO documente aussi des menaces inter-couches (une compromission de l'infrastructure en couche 4 qui permet ensuite d'empoisonner les données de la couche 2, par exemple) et des patterns d'architecture agentique (agent unique, multi-agents, agents hiérarchiques), chacun avec ses propres scénarios de menace — la manipulation d'objectif pour un agent seul, l'attaque du canal de communication ou l'usurpation d'identité pour un système multi-agents.

Cadre publié par le NIST (États-Unis), volontaire et non contraignant, organisé autour de quatre fonctions : Govern (gouvernance du risque IA à l'échelle de l'organisation), Map (cartographier le contexte et les risques), Measure (analyser et suivre les risques), Manage (allouer les ressources pour les traiter).

Le NIST a complété l'AI RMF par un profil génératif (Generative AI Profile) qui détaille les risques propres aux LLM : confabulation (hallucination), contenu toxique, fuite de données d'entraînement, atteinte à la propriété intellectuelle.

Première norme internationale certifiable de système de management de l'IA (AIMS), sur le modèle d'ISO 27001 pour la sécurité de l'information. Elle impose un processus continu d'identification et de traitement des risques IA (biais, sécurité, transparence) plutôt qu'une liste de contrôles techniques figée.

À suivre : ISO/IEC 27090 (en cours d'élaboration), qui vise spécifiquement la sécurité de l'IA et devrait couvrir en détail les menaces adverses contre le machine learning.

Le règlement européen sur l'IA n'est pas un référentiel de sécurité technique, mais impose pour les systèmes d'IA à haut risque des obligations qui recoupent la sécurité LLM : tests de robustesse face aux tentatives de manipulation (biais adverses, prompt injection incluse), gestion des risques tout au long du cycle de vie, et transparence sur les limites connues du système.