OWASP Top 10 for LLM 2026, MITRE ATLAS et AI Act : la checklist
Qui sécurise votre IA doit savoir répondre à quelques questions précises : quels systèmes d'IA sont utilisés (inventaire et shadow AI), comment prompts et réponses sont contrôlés, comment les données envoyées aux modèles sont protégées, comment agents et copilotes sont surveillés, quelle évaluation a été menée au regard de l'OWASP Top 10 for LLM et de MITRE ATLAS, et quelles obligations de l'AI Act vous concernent. Ce guide aligne les références et se termine par une checklist de dix questions.
Les dix entrées de l’OWASP Top 10 for LLM, édition 2026
L’édition 2026 du Top 10 for LLM Applications a été publiée le 3 août 2026. La référence est le document de cette édition, pas la page d’accueil du projet, qui s’arrête encore à la version 2025. Les dix entrées, en bref :
- Prompt Injection. Des instructions hostiles, directes ou cachées dans les contenus que le modèle lit, orientent le comportement de l’application.
- Sensitive Information Disclosure. Le modèle restitue des données confidentielles présentes dans l’entraînement, dans le contexte ou dans les outils connectés.
- Excessive Agency. L’agent reçoit des permissions, des outils ou une autonomie au-delà du nécessaire.
- Supply Chain. Modèles, jeux de données, plugins et composants tiers compromis ou non vérifiés.
- Data and Model Poisoning. Données ou poids manipulés pour altérer le comportement du modèle.
- Unbounded Consumption. Usage incontrôlé des ressources : coûts qui s’emballent, déni de service, extraction du modèle.
- Misinformation. Réponses plausibles mais fausses, sur lesquelles l’entreprise fonde des décisions.
- Hidden Context Exposure. Instructions système et contexte caché qui peuvent être extraits.
- Vector and Embedding Weaknesses. Faiblesses des systèmes de retrieval : index partagés sans contrôle d’accès, embeddings manipulés.
- Improper Output Handling. Sortie du modèle utilisée sans validation par d’autres systèmes, avec des effets en aval.
L’ordre et la numérotation officiels sont à vérifier sur le document de l’OWASP avant de les citer dans une évaluation : c’est pourquoi les entrées ne portent pas de numéro ici.
Un fil conducteur les traverse : l’application traite instructions et données dans le même canal. C’est pourquoi notre ligne est de détecter et de contenir, non de promettre l’élimination. Le tableau opérationnel est sur la page AI Security.
Top 10 for Agentic Applications 2026
En 2026, l’OWASP a aussi publié un Top 10 pour les applications agentiques, avec des entrées de ASI01 à ASI10. Les agents ajoutent des risques propres : identité, permissions, chaînes d’outils et décisions prises sans humain entre les deux. Il se lit avec le Top 10 for LLM, non à sa place.
MITRE ATLAS
MITRE ATLAS est une base de connaissances de tactiques et techniques employées contre les systèmes d’IA, construite dans l’esprit d’ATT&CK et fondée sur des cas observés. Elle sert à deux choses : raisonner comme l’adversaire pendant une évaluation, et donner un nom commun aux techniques lors de la rédaction d’une détection. Là où un SOC travaille déjà avec ATT&CK, ATLAS s’intègre à la même façon de travailler.
AI Act : le calendrier après le Digital Omnibus
Le règlement (UE) 2026/1744, publié au Journal officiel le 24 juillet 2026 et en vigueur depuis le 27 juillet 2026, a réécrit le calendrier de l’AI Act (règlement (UE) 2024/1689). Les dates à retenir :
| Obligation | Date |
|---|---|
| Modèles d’IA à usage général (GPAI) | à partir du 2 août 2025, avec sanctions à partir du 2 août 2026 |
| Transparence, article 50 | à partir du 2 août 2026 |
| Nouvelles interdictions de l’article 5 | à partir du 2 décembre 2026 |
| Systèmes à haut risque de l’annexe III | à partir du 2 décembre 2027 |
| Systèmes à haut risque de l’annexe I | à partir du 2 août 2028 |
Pour la sécurité, la référence est l’article 15 : exactitude, robustesse et cybersécurité des systèmes à haut risque tout au long du cycle de vie. Les organisations qui ne développent ni n’intègrent de systèmes à haut risque ont d’autres obligations, mais doivent tout de même savoir quel rôle elles tiennent, fournisseur ou déployeur.
Le secteur financier
Dans le crédit, l’évaluation de la solvabilité des personnes physiques (credit scoring) est un usage à haut risque au titre de l’annexe III, point 5 b), de l’AI Act lui-même, hors systèmes servant à détecter la fraude financière. La note de l’ABE du 21 novembre 2025 met en regard les exigences de l’AI Act et celles déjà applicables aux banques, mais ne classe aucun système. Pour ce que les superviseurs comme l’ACPR et l’AMF demandent sur l’IA aux banques et aux assureurs, voir cybersécurité pour la banque et la finance.
Autorités nationales
Chaque État membre désigne ses propres autorités pour l’AI Act, et pour les entités financières il s’agit en général des superviseurs existants. Vérifiez la désignation dans le pays où vous opérez : le texte de la loi nationale prévaut sur tout résumé. Pour la sécurité des systèmes d’IA générative, l’ANSSI publie des recommandations, et la CNIL est la référence pour les données personnelles.
ISO/IEC 42001 et le NIST AI RMF
Ce sont des référentiels de gouvernance volontaires. L’ISO/IEC 42001 définit un système de management de l’IA ; le NIST AI RMF offre une méthode structurée pour cartographier, mesurer et gérer le risque. Aucun des deux n’est une obligation, aucun ne remplace les contrôles techniques : ils les encadrent. Fortgale n’atteste la conformité à aucun des deux. Les preuves techniques produites par le service peuvent alimenter le processus qui les adopte.
La checklist : ce qu’il faut demander à qui sécurise votre IA
Dix questions au prestataire, interne ou externe, à qui vous confiez la sécurité des systèmes d’IA :
- Existe-t-il un inventaire des systèmes d’IA utilisés, y compris les applications adoptées par des services isolés (shadow AI) ?
- Comment prompts et réponses sont-ils contrôlés, et que se passe-t-il quand un contenu hostile est détecté ?
- Quelles permissions ont agents et copilotes, et qui les a approuvées ?
- Comment sont protégées les données envoyées aux modèles, et celles que les modèles peuvent restituer ?
- Les identités des agents et les jetons OAuth sont-ils surveillés comme les identités humaines ? Voir Protection de l’identité.
- Permissions et classification des données sont-elles en ordre dans l’environnement Microsoft 365 où travaille Copilot ? Voir Sécurité Microsoft 365.
- Les applications LLM internes ont-elles été évaluées au regard de l’OWASP Top 10 for LLM et de MITRE ATLAS ?
- Qui surveille les alertes de ces systèmes, à quelles heures, et avec quels délais de détection et de confinement ?
- Quelles obligations de l’AI Act vous concernent, dans quel rôle, et qui en répond dans l’entreprise ?
- Que vous remet-on : des preuves techniques vérifiables ou une promesse de conformité ?
Pour savoir comment l’IA entre plutôt dans le travail du SOC et du MDR, lisez L’IA dans la cyberdéfense.
Un cadre est utile quand il devient une question à laquelle quelqu'un sait répondre. Posez ces dix questions à qui sécurise votre IA : les réponses disent où vous en êtes.
Questions fréquentes.
L'AI Act s'applique-t-il aux entreprises qui utilisent Copilot ?
Cela dépend de votre rôle. Une organisation qui utilise un système d'IA sous sa propre autorité est un déployeur, avec des obligations propres : par exemple la transparence pour les usages visés par l'article 50 et, si le système est à haut risque, les obligations de l'annexe III. Un assistant généraliste au bureau n'est pas à haut risque en soi, mais il vaut la peine de recenser ce qui est utilisé, et à quelle fin, avant de conclure que le règlement ne vous concerne pas.
L'OWASP Top 10 for LLM est-il une norme obligatoire ?
Non. C'est une référence de la profession, pas une règle : aucune loi ne l'impose. Elle sert de langage commun pour les risques des applications fondées sur des modèles de langage et de trame pour une évaluation. Les obligations contraignantes viennent de la loi, par exemple de l'AI Act.
Que change l'édition 2026 ?
L'édition 2026 du Top 10 for LLM Applications, publiée le 3 août 2026, remplace celle de 2025. Pour une évaluation, il faut utiliser la version en vigueur et vérifier la liste et l'ordre des entrées sur le document officiel, car ils changent d'une édition à l'autre.
MITRE ATLAS et OWASP sont-ils des alternatives ?
Non, ils se complètent. L'OWASP liste les catégories de risque des applications LLM ; MITRE ATLAS décrit les tactiques et techniques employées contre les systèmes d'IA, dans l'esprit d'ATT&CK. Le premier aide à choisir ce qu'il faut vérifier, le second à raisonner sur la façon d'agir d'un adversaire.
Fortgale certifie-t-elle la conformité à l'AI Act ?
Non. Fortgale fournit des preuves techniques sur la sécurité des systèmes d'IA, restituées dans le portail. L'appréciation de la conformité et de l'adéquation reste à votre direction et à vos fonctions de contrôle.
De la théorie à une opération réelle.
Ce que vous lisez ici, Fortgale le met en œuvre chaque jour avec un SOC européen 24·7·365 : 287 outils et acteurs profilés, <30 min de confinement médian. Voir le service : AI Security.
Ressources liées : L'IA dans la cyberdéfense · Sécurité Microsoft 365 · Pourquoi la protection de l'identité (ITDR)
Une conversation technique, pas un funnel.
Laissez vos coordonnées : un analyste vous rappelle sous un jour ouvré. SOC européen, même fuseau horaire, intelligence propriétaire sur les acteurs actifs dans l'UE.