01 ·
IA fantôme
Assistants, extensions et agents adoptés par les équipes sans passer par la DSI. Pas d'inventaire, aucun contrôle sur les données qui partent et leur destination.
Sécurité IA pour les entreprises : Copilot, chatbots, agents et IA fantôme sous contrôle.
Quand l'IA entre dans l'entreprise, elle apporte des données, des accès et de l'autonomie. Fortgale intègre des technologies de sécurité de l'IA dans le cycle MDR et SOC : les alertes sont traitées 24·7·365 par les analystes à Milan, et la posture est restituée dans la Fortgale Defence Platform.
Références
AI Act
ISO/IEC 42001
NIST AI RMF
MITRE ATLAS
OWASP Top 10 pour les LLM
Deux choses différentes
Protéger l'IA et défendre avec l'IA.
Ce sont deux problèmes distincts. Défendre avec l'IA, c'est l'utiliser dans le travail du SOC et du MDR : nous le traitons dans l'IA dans la cyberdéfense. Protéger l'IA, c'est sécuriser les systèmes que l'entreprise adopte : c'est le sujet de cette page.
Le problème
Ce qui casse quand l'IA entre dans l'entreprise.
Quatre façons dont un système d'IA devient une surface d'attaque ou un canal de fuite de données.
02 ·
Injection de prompt directe et indirecte
Un utilisateur, mais aussi un document, une page web ou un e-mail, peut porter des instructions que le modèle exécute comme si elles étaient légitimes.
03 ·
Fuite de données vers les LLM
Données personnelles, code et documents confidentiels collés dans des outils externes, ou récupérés par un assistant doté de permissions trop larges.
04 ·
Excessive Agency
Un agent avec plus d'accès, d'outils et d'autonomie que sa tâche n'en exige : s'il dévie, il dévie les clés en main.
Le périmètre
Le périmètre que nous protégeons : modèles, agents et outils génératifs.
Un modèle d'intégration général, valable pour les technologies que l'entreprise a déjà adoptées comme pour celles que nous choisissons avec vous.
01 ·
Inventaire et IA fantôme
Un recensement des systèmes d'IA utilisés, officiels ou non, et des données qu'ils touchent.
02 ·
Prompts et réponses
Contrôles sur ce qui entre dans les modèles et sur ce qui en sort : instructions hostiles, contenus sensibles, réponses hors politique.
03 ·
Données à destination des modèles
Protection des données qui atteignent les modèles, internes ou externes, et des sources où les assistants récupèrent l'information.
04 ·
Agents et copilotes
Surveillance de ce que font les agents, avec quelles identités et quelles permissions.
05 ·
Microsoft 365 et Copilot
Permissions, classification et politiques de l'environnement dans lequel l'assistant travaille.
06 ·
Applications LLM internes
Applications construites en interne sur un modèle : entrées, intégrations, accès aux données et aux outils.
Notre façon de faire
Technologies intégrées au cycle MDR et SOC.
Fortgale sélectionne et intègre au cycle de défense des technologies tierces de sécurité de l'IA. Comme pour le MDR bâti sur la technologie du client, la technologie peut être celle déjà en place ou une technologie choisie par Fortgale, et le SOC l'exploite : les alertes sont traitées 24·7·365 par les analystes à Milan, avec la même méthode que le MDR et le SOC. La posture des systèmes d'IA est restituée dans la Fortgale Defence Platform : le livrable est le tableau de bord dans le portail.
Trois niveaux
Découvrir, Protéger, Vérifier.
01 · Découvrir
Inventaire et IA fantôme
Ce qui est utilisé et ce qui est exposé, avec Exposure et Cloud Posture : services d'IA atteignables, configurations faibles, accès oubliés.
02 · Protéger
Identité, données, détection
Identités des agents et jetons OAuth avec l'ITDR. Données avec les politiques Microsoft 365, voir la sécurité de Microsoft 365. Détection dans le SOC géré.
03 · Vérifier
Évaluation et red teaming
Évaluation selon MITRE ATLAS et l'OWASP Top 10 pour les LLM 2026. Le red teaming des systèmes d'IA passe par le conseil en cybersécurité.
Gouvernance
AI Act, ISO/IEC 42001, NIST AI RMF.
Un tableau de références, pas de promesses : Fortgale n'atteste aucune conformité et ne promet aucune certification. Nous fournissons des preuves techniques qui alimentent votre processus de gouvernance. Le calendrier de l'AI Act, les entrées OWASP et une liste de contrôle figurent dans OWASP Top 10 pour les LLM 2026, MITRE ATLAS et l'AI Act.
| Référence | À quoi elle sert |
|---|---|
| Règlement (UE) 2024/1689 · AI Act | Le cadre européen sur l'IA. Article 15 : exactitude, robustesse et cybersécurité pour les systèmes à haut risque. Annexe III à partir du 2 décembre 2027. |
| ISO/IEC 42001 | Norme pour un système de management de l'IA. Une référence de gouvernance : nos preuves techniques peuvent l'alimenter. |
| NIST AI RMF | Cadre de gestion des risques de l'IA (Govern, Map, Measure, Manage). Utile pour structurer l'évaluation. |
| MITRE ATLAS | Matrice de tactiques et de techniques contre les systèmes d'IA, dans l'esprit d'ATT&CK. Base des scénarios et de la détection. |
| OWASP Top 10 pour les LLM 2026 | Liste des risques les plus fréquents des applications fondées sur des LLM. Base des évaluations. |
Entités supervisées
Pour les entités supervisées : ACPR, AMF, ANSSI et CNIL.
Le 7 juillet 2026, la BCE a écrit aux banques sur « Addressing AI-enabled cybersecurity threats », et le cadre DORA s'applique aussi aux systèmes d'IA en exploitation : l'ACPR et l'AMF en sont les autorités en France. Les deux sujets sont traités dans DORA et dans la cybersécurité pour la banque et la finance. L'ANSSI est la référence technique sur la sécurité des systèmes d'IA, et la CNIL pour les données personnelles que traitent les assistants. Les preuves que nous fournissons sont techniques ; l'évaluation de l'adéquation et la conformité à l'AI Act restent du ressort du conseil d'administration et des fonctions de contrôle.
Notre ligne
Injection de prompt : détecter et contenir, sans promettre d'éliminer.
Qui promet d'éliminer l'injection de prompt promet ce que personne ne peut livrer aujourd'hui. Notre ligne est autre : réduire les permissions des agents au nécessaire, contrôler prompts et réponses, surveiller ce que fait l'agent et contenir en quelques minutes lorsqu'il dévie, avec le même cycle de détection et de réponse que sur le reste de la défense.
FAQ
Questions fréquentes sur AI Security.
Qu'est-ce que l'IA fantôme ?
L'IA fantôme est l'usage d'outils d'IA générative, d'assistants, d'extensions et d'agents que l'entreprise n'a ni inventoriés, ni approuvés, ni placés sous contrôle. Le risque est double : des données de l'entreprise partent vers des modèles externes, et des systèmes agissent avec des accès que personne ne gouverne. Tout commence par un inventaire : on ne protège pas ce que l'on ne sait pas avoir.
L'injection de prompt peut-elle être éliminée ?
Non. Tant qu'un modèle traite instructions et données dans le même canal textuel, un contenu hostile peut l'influencer. On la détecte et on la contient : les permissions des agents sont limitées, les prompts et les réponses contrôlés, l'activité de l'agent surveillée, et la réponse est rapide lorsqu'il dévie. C'est la ligne de Fortgale : détecter et contenir, sans promettre d'éliminer.
Copilot est-il sûr ?
Cela dépend de la configuration de l'environnement dans lequel il travaille. Copilot agit avec les permissions de l'utilisateur : si les permissions sur les documents sont trop larges, l'assistant facilite la découverte de ce qui était déjà accessible par erreur. Ce qui compte, ce sont les permissions, la classification des données, les politiques Microsoft 365 et la surveillance de l'usage.
L'AI Act nous impose-t-il aussi des obligations de cybersécurité ?
Pour les systèmes d'IA à haut risque, l'article 15 du règlement (UE) 2024/1689 exige exactitude, robustesse et cybersécurité sur tout le cycle de vie. Selon le calendrier, les obligations pour les systèmes de l'annexe III s'appliquent à partir du 2 décembre 2027. Si vous ne développez ni n'intégrez de systèmes à haut risque, vos obligations sont autres : vérifiez votre rôle (fournisseur, déployeur) avant de supposer que l'article vous concerne. Le calendrier à jour figure dans le guide OWASP Top 10 pour les LLM 2026, MITRE ATLAS et l'AI Act.
Pour aller plus loin
Ressources et services associés.
Ressource
L'IA dans la cyberdéfense
Comment l'IA entre dans le travail du SOC et du MDR, et où elle s'arrête.
Lire →Service
Protection de l'identité · ITDR
Identités des agents, jetons OAuth et sessions.
Découvrir l'ITDR →Service
Phishing AiTM
Phishing rédigé avec des modèles de langage, et vol de session.
Découvrir →Service
Brand & Social Intelligence
Deepfakes et usurpation visant votre marque et vos dirigeants.
Découvrir →Ressource
OWASP, ATLAS et l'AI Act
Les dix entrées OWASP pour les applications LLM, MITRE ATLAS et le calendrier de l'AI Act.
Lire →Ressource
Sécurité Microsoft 365
Permissions, politiques et surveillance de l'environnement dans lequel Copilot travaille.
Lire →
Par où commencer
D'abord l'inventaire. Ensuite les contrôles.
Une évaluation AI Security montre quels systèmes d'IA sont utilisés, quelles données ils touchent et où les contrôles manquent. SOC à Milan, actif depuis 2017, 24·7·365.