01 ·
Shadow AI
Assistenti, estensioni e agenti adottati dai team senza passare dall'IT. Nessun inventario, nessun controllo su quali dati finiscono dove.
Sicurezza dei sistemi di IA per le aziende: Copilot, chatbot, agenti e shadow AI sotto controllo.
Quando l'IA entra in azienda entra con dati, accessi e autonomia. Fortgale integra tecnologie di sicurezza dell'IA nel ciclo MDR e SOC: gli alert sono gestiti 24·7·365 dagli analisti di Milano, la postura è riportata nella Fortgale Defence Platform.
Riferimenti
AI Act
ISO/IEC 42001
NIST AI RMF
MITRE ATLAS
OWASP Top 10 for LLM
Due cose diverse
Proteggere l'IA e difendersi con l'IA.
Sono due problemi distinti. Difendersi con l'IA significa usarla nel lavoro di SOC e MDR: ne parliamo in IA nella difesa. Proteggere l'IA significa mettere in sicurezza i sistemi che l'azienda adotta: è il tema di questa pagina.
Il problema
Cosa si rompe quando l'IA entra in azienda.
Quattro modi in cui un sistema di IA diventa una superficie d'attacco o un canale di fuga di dati.
02 ·
Prompt injection diretta e indiretta
Un utente, ma anche un documento, una pagina web o una email, può contenere istruzioni che il modello esegue come se fossero legittime.
03 ·
Fuga di dati verso LLM
Dati personali, codice e documenti riservati incollati in strumenti esterni o recuperati da un assistente con permessi troppo larghi.
04 ·
Excessive Agency
Un agente con più accessi, strumenti e autonomia di quanto serva al suo compito: se devia, devia con le chiavi in mano.
Il perimetro
Il perimetro che proteggiamo: modelli, agenti e strumenti generativi.
Un modello di integrazione generale, valido per le tecnologie che l'azienda ha già adottato come per quelle che scegliamo con voi.
01 ·
Inventario e shadow AI
Censimento dei sistemi di IA in uso, ufficiali e non, e dei dati che toccano.
02 ·
Prompt e risposte
Controlli su ciò che entra e ciò che esce dai modelli: istruzioni ostili, contenuti sensibili, risposte fuori policy.
03 ·
Dati verso i modelli
Protezione dei dati che raggiungono i modelli, interni o esterni, e delle fonti da cui gli assistenti recuperano informazioni.
04 ·
Agenti e copilot
Monitoraggio di ciò che gli agenti fanno, con quali identità e quali permessi.
05 ·
Microsoft 365 e Copilot
Permessi, classificazione e policy sull'ambiente in cui l'assistente lavora.
06 ·
Applicazioni LLM interne
Le applicazioni costruite in casa sopra un modello: input, integrazioni, accessi ai dati e agli strumenti.
Come lo facciamo
Tecnologie integrate nel ciclo MDR e SOC.
Fortgale seleziona e integra tecnologie di sicurezza dell'IA di terze parti nel ciclo di difesa. Come per gli MDR costruiti sulla tecnologia del cliente, la tecnologia può essere quella già in uso oppure una scelta da Fortgale, e la opera il SOC: gli alert sono gestiti 24·7·365 dagli analisti di Milano, con lo stesso metodo di MDR e SOC. La postura dei sistemi di IA è riportata nella Fortgale Defence Platform: il deliverable è la dashboard nel portale.
Tre livelli
Scoprire, Proteggere, Verificare.
01 · Scoprire
Inventario e shadow AI
Che cosa è in uso e che cosa è esposto, con Exposure e Cloud Posture: servizi di IA raggiungibili, configurazioni deboli, accessi dimenticati.
02 · Proteggere
Identità, dati, detection
Identità degli agenti e token OAuth con ITDR. Dati con le policy di Microsoft 365, vedi sicurezza Microsoft 365. Detection nel SOC gestito.
03 · Verificare
Assessment e red teaming
Assessment secondo MITRE ATLAS e OWASP Top 10 for LLM 2026. Il red teaming dei sistemi di IA passa dalla Cybersecurity Advisory.
Governance
AI Act, ISO/IEC 42001, NIST AI RMF.
Una tabella di riferimenti, non di promesse: Fortgale non attesta conformità né promette certificazioni. Fornisce evidenze tecniche che alimentano il vostro processo di governance. Calendario dell'AI Act, voci OWASP e checklist sono in OWASP Top 10 for LLM 2026, MITRE ATLAS e AI Act.
| Riferimento | A che cosa serve |
|---|---|
| Regolamento (UE) 2024/1689 · AI Act | Quadro europeo sull'IA. Art. 15: accuratezza, robustezza e cybersecurity per i sistemi ad alto rischio. Allegato III dal 2 dicembre 2027. |
| ISO/IEC 42001 | Standard per un sistema di gestione dell'IA. Riferimento di governance: le nostre evidenze tecniche possono alimentarlo. |
| NIST AI RMF | Quadro di gestione del rischio dell'IA (Govern, Map, Measure, Manage). Utile per strutturare la valutazione. |
| MITRE ATLAS | Matrice di tattiche e tecniche contro i sistemi di IA, nel solco di ATT&CK. Base per scenari e detection. |
| OWASP Top 10 for LLM 2026 | Elenco dei rischi più frequenti delle applicazioni basate su LLM. Base degli assessment. |
Soggetti vigilati
Per i soggetti vigilati: Banca d'Italia, BCE, IVASS.
Le richieste 2026 dei supervisori sull'IA sono lette nella pagina dedicata: Banca d'Italia, resilienza operativa e IA. Per banche e assicurazioni, la parte tecnica descritta qui è il materiale da cui nascono le evidenze. Le evidenze che forniamo sono tecniche; la valutazione di adeguatezza e la conformità all'AI Act restano del CdA e delle funzioni di controllo.
La nostra linea
Prompt injection: rilevare e contenere, non eliminare.
Chi promette di eliminare la prompt injection promette ciò che oggi nessuno può mantenere. La nostra linea è un'altra: ridurre i permessi degli agenti al necessario, controllare prompt e risposte, osservare ciò che l'agente fa e contenere in minuti quando devia, con lo stesso ciclo di rilevazione e risposta che usiamo sul resto della difesa.
FAQ
Domande frequenti sull'AI Security.
Che cos'è lo shadow AI?
Lo shadow AI è l'uso di strumenti di IA generativa, assistenti, estensioni e agenti senza che l'azienda li abbia censiti, autorizzati o messi sotto controllo. Il rischio è doppio: dati aziendali che escono verso modelli esterni e sistemi che agiscono con accessi che nessuno governa. Si affronta partendo dall'inventario: non si può proteggere ciò che non si sa di avere.
La prompt injection si può eliminare?
No. Finché un modello tratta istruzioni e dati nello stesso canale di testo, un contenuto ostile può influenzarlo. Si rileva e si contiene: si limitano i permessi dell'agente, si controllano prompt e risposte, si monitora ciò che fa e si risponde in fretta quando devia. È la linea Fortgale: rilevare e contenere, non promettere di eliminare.
Copilot è sicuro?
Dipende da come è configurato l'ambiente in cui opera. Copilot lavora con i permessi dell'utente: se i permessi sui documenti sono troppo larghi, l'assistente rende più facile trovare ciò che era già accessibile per errore. Contano permessi, classificazione dei dati, policy di Microsoft 365 e monitoraggio dell'uso.
L'AI Act impone obblighi di cybersecurity anche a noi?
Per i sistemi di IA ad alto rischio l'art. 15 del Regolamento (UE) 2024/1689 chiede accuratezza, robustezza e cybersecurity lungo il ciclo di vita. Il calendario applica gli obblighi dei sistemi dell'Allegato III dal 2 dicembre 2027. Se non sviluppate né integrate sistemi ad alto rischio, gli obblighi sono diversi: conviene verificare il vostro ruolo (fornitore, deployer) prima di dedurre che l'articolo vi riguardi. Il calendario aggiornato è nella guida OWASP Top 10 for LLM 2026, MITRE ATLAS e AI Act.
Approfondimenti
Risorse e servizi collegati.
Risorsa
IA nella difesa
Come l'IA entra nel lavoro di SOC e MDR, e dove si ferma.
Leggi →Servizio
Protezione Identità · ITDR
Identità degli agenti, token OAuth e sessioni.
Scopri ITDR →Servizio
Phishing AiTM
Il phishing scritto con i modelli linguistici e i furti di sessione.
Scopri →Servizio
Brand & Social Intelligence
Deepfake e impersonificazioni contro il vostro marchio e i vostri dirigenti.
Scopri →Risorsa
OWASP, ATLAS e AI Act
Le dieci voci OWASP per le applicazioni LLM, MITRE ATLAS e il calendario dell'AI Act.
Leggi →Risorsa
Sicurezza Microsoft 365
Permessi, policy e monitoraggio dell'ambiente in cui lavora Copilot.
Leggi →
Da dove partire
Prima l'inventario. Poi i controlli.
Un assessment AI Security mostra quali sistemi di IA sono in uso, quali dati toccano e dove i controlli mancano. SOC di Milano, attivo dal 2017, 24·7·365: il team italiano risponde entro un giorno lavorativo.