01 ·
Schatten-KI
Assistenten, Erweiterungen und Agenten, die Teams ohne die IT einführen. Kein Inventar, keine Kontrolle darüber, welche Daten wohin gelangen.
KI-Sicherheit für Unternehmen: Copilot, Chatbots, Agenten und Schatten-KI unter Kontrolle.
Wenn KI ins Unternehmen kommt, bringt sie Daten, Zugriffe und Autonomie mit. Fortgale integriert Technologien für KI-Sicherheit in den MDR- und SOC-Zyklus: Alarme bearbeiten 24·7·365 die Analysten in Mailand, und die Lage wird in der Fortgale Defence Platform dargestellt.
Referenzen
KI-Verordnung
ISO/IEC 42001
NIST AI RMF
MITRE ATLAS
OWASP Top 10 für LLM
Zwei verschiedene Dinge
KI schützen und mit KI verteidigen.
Das sind zwei getrennte Probleme. Mit KI verteidigen heißt, sie in der Arbeit von SOC und MDR einzusetzen: Das behandeln wir in KI in der Cyberabwehr. KI schützen heißt, die Systeme abzusichern, die das Unternehmen einführt: Darum geht es auf dieser Seite.
Das Problem
Was bricht, wenn KI ins Unternehmen kommt.
Vier Wege, auf denen ein KI-System zur Angriffsfläche oder zum Kanal für Datenabfluss wird.
02 ·
Direkte und indirekte Prompt Injection
Ein Nutzer, aber auch ein Dokument, eine Webseite oder eine E-Mail kann Anweisungen enthalten, die das Modell ausführt, als wären sie legitim.
03 ·
Datenabfluss an LLMs
Personenbezogene Daten, Code und vertrauliche Dokumente, die in externe Werkzeuge eingefügt oder von einem Assistenten mit zu weit gefassten Berechtigungen abgerufen werden.
04 ·
Excessive Agency
Ein Agent mit mehr Zugriff, Werkzeugen und Autonomie, als seine Aufgabe braucht: Weicht er ab, weicht er mit den Schlüsseln in der Hand ab.
Der Umfang
Der Umfang, den wir schützen: Modelle, Agenten und generative Werkzeuge.
Ein allgemeines Integrationsmodell, gültig für die Technologien, die das Unternehmen bereits eingeführt hat, ebenso wie für die, die wir gemeinsam mit Ihnen auswählen.
01 ·
Inventar und Schatten-KI
Eine Erfassung der genutzten KI-Systeme, offizieller wie inoffizieller, und der Daten, die sie berühren.
02 ·
Prompts und Antworten
Kontrollen dessen, was in die Modelle hineingeht und aus ihnen herauskommt: feindliche Anweisungen, sensible Inhalte, richtlinienwidrige Antworten.
03 ·
Daten auf dem Weg zu den Modellen
Schutz der Daten, die die Modelle erreichen, interner wie externer, und der Quellen, aus denen Assistenten Informationen abrufen.
04 ·
Agenten und Copiloten
Überwachung dessen, was Agenten tun, mit welchen Identitäten und welchen Berechtigungen.
05 ·
Microsoft 365 und Copilot
Berechtigungen, Klassifizierung und Richtlinien der Umgebung, in der der Assistent arbeitet.
06 ·
Interne LLM-Anwendungen
Im eigenen Haus auf einem Modell aufgebaute Anwendungen: Eingaben, Integrationen, Zugriff auf Daten und Werkzeuge.
Wie wir vorgehen
Technologien, integriert in den MDR- und SOC-Zyklus.
Fortgale wählt und integriert Technologien Dritter für KI-Sicherheit in den Verteidigungszyklus. Wie beim MDR auf der Technologie des Kunden kann die Technologie die bereits genutzte sein oder eine von Fortgale gewählte, und das SOC betreibt sie: Alarme bearbeiten 24·7·365 die Analysten in Mailand, mit derselben Methode wie bei MDR und SOC. Die Lage der KI-Systeme wird in der Fortgale Defence Platform dargestellt: Das Ergebnis ist das Dashboard im Portal.
Drei Stufen
Entdecken, Schützen, Verifizieren.
01 · Entdecken
Inventar und Schatten-KI
Was genutzt wird und was exponiert ist, mit Exposure und Cloud Posture: erreichbare KI-Dienste, schwache Konfigurationen, vergessene Zugänge.
02 · Schützen
Identität, Daten, Erkennung
Identitäten der Agenten und OAuth-Token mit ITDR. Daten mit Microsoft-365-Richtlinien, siehe Microsoft-365-Sicherheit. Erkennung im Managed SOC.
03 · Verifizieren
Assessment und Red Teaming
Assessment gegen MITRE ATLAS und die OWASP Top 10 für LLM 2026. Red Teaming von KI-Systemen läuft über Cybersecurity Advisory.
Governance
KI-Verordnung, ISO/IEC 42001, NIST AI RMF.
Eine Tabelle von Referenzen, nicht von Versprechen: Fortgale bescheinigt keine Konformität und verspricht keine Zertifizierungen. Wir liefern technische Nachweise, die Ihren Governance-Prozess speisen. Zeitplan der KI-Verordnung, OWASP-Einträge und eine Checkliste stehen in OWASP Top 10 für LLM 2026, MITRE ATLAS und die KI-Verordnung.
| Referenz | Wozu sie dient |
|---|---|
| Verordnung (EU) 2024/1689 · KI-Verordnung | Der europäische Rahmen für KI. Artikel 15: Genauigkeit, Robustheit und Cybersicherheit für Hochrisiko-Systeme. Anhang III ab dem 2. Dezember 2027. |
| ISO/IEC 42001 | Norm für ein KI-Managementsystem. Eine Governance-Referenz: Unsere technischen Nachweise können sie speisen. |
| NIST AI RMF | Rahmenwerk für das KI-Risikomanagement (Govern, Map, Measure, Manage). Nützlich, um die Bewertung zu strukturieren. |
| MITRE ATLAS | Matrix von Taktiken und Techniken gegen KI-Systeme, nach dem Vorbild von ATT&CK. Grundlage für Szenarien und Erkennung. |
| OWASP Top 10 für LLM 2026 | Liste der häufigsten Risiken LLM-basierter Anwendungen. Grundlage der Assessments. |
Beaufsichtigte Unternehmen
Für beaufsichtigte Unternehmen: BaFin, EZB und die Vorgaben 2026 zur KI.
Am 7. Juli 2026 hat sich die EZB mit dem Schreiben «Addressing AI-enabled cybersecurity threats» an die Banken gewandt; in Deutschland ist die BaFin die zuständige Aufsicht, und der DORA-Rahmen gilt auch für KI-Systeme im Einsatz. Beides lesen Sie in DORA und in Cybersecurity für Banken und Finanzwesen. Die hier beschriebene Technik ist das Material, aus dem die Nachweise stammen. Die Nachweise, die wir liefern, sind technisch; die Bewertung der Angemessenheit und die Konformität mit der KI-Verordnung bleiben beim Vorstand und bei den Kontrollfunktionen.
Unsere Linie
Prompt Injection: erkennen und eindämmen, nicht versprechen zu beseitigen.
Wer verspricht, Prompt Injection zu beseitigen, verspricht etwas, das heute niemand liefern kann; das BSI beschreibt Indirect Prompt Injection als eigenständiges Risiko von LLM-Anwendungen. Unsere Linie ist eine andere: Berechtigungen der Agenten auf das Nötige begrenzen, Prompts und Antworten prüfen, beobachten, was der Agent tut, und innerhalb von Minuten eindämmen, wenn er abweicht, mit demselben Zyklus aus Erkennung und Reaktion wie in der übrigen Verteidigung.
FAQ
Häufige Fragen zu AI Security.
Was ist Schatten-KI?
Schatten-KI ist die Nutzung generativer KI-Werkzeuge, Assistenten, Erweiterungen und Agenten, die das Unternehmen nicht inventarisiert, freigegeben oder unter Kontrolle gebracht hat. Das Risiko ist doppelt: Unternehmensdaten verlassen das Haus in Richtung externer Modelle, und Systeme handeln mit Zugriffen, die niemand steuert. Am Anfang steht ein Inventar: Was Sie nicht kennen, können Sie nicht schützen.
Lässt sich Prompt Injection beseitigen?
Nein. Solange ein Modell Anweisungen und Daten im selben Textkanal verarbeitet, kann feindlicher Inhalt es beeinflussen. Prompt Injection wird erkannt und eingedämmt: Die Berechtigungen der Agenten werden begrenzt, Prompts und Antworten geprüft, das Handeln des Agenten überwacht, und die Reaktion erfolgt schnell, wenn er abweicht. Das ist die Linie von Fortgale: erkennen und eindämmen, nicht versprechen, zu beseitigen.
Ist Copilot sicher?
Das hängt davon ab, wie die Umgebung konfiguriert ist, in der er arbeitet. Copilot arbeitet mit den Berechtigungen des Nutzers: Sind die Dokumentenberechtigungen zu weit gefasst, erleichtert der Assistent das Auffinden dessen, was ohnehin versehentlich zugänglich war. Entscheidend sind Berechtigungen, Datenklassifizierung, Microsoft-365-Richtlinien und die Überwachung der Nutzung.
Gilt die KI-Verordnung auch für uns?
Für Hochrisiko-KI-Systeme verlangt Artikel 15 der Verordnung (EU) 2024/1689 Genauigkeit, Robustheit und Cybersicherheit über den gesamten Lebenszyklus. Nach dem Zeitplan gelten die Pflichten für Systeme nach Anhang III ab dem 2. Dezember 2027. Wenn Sie keine Hochrisiko-Systeme entwickeln oder integrieren, sind Ihre Pflichten andere: Prüfen Sie Ihre Rolle (Anbieter, Betreiber), bevor Sie annehmen, dass der Artikel für Sie gilt. Der aktuelle Zeitplan steht im Leitfaden OWASP Top 10 für LLM 2026, MITRE ATLAS und die KI-Verordnung.
Zum Weiterlesen
Verwandte Ressourcen und Leistungen.
Ressource
KI in der Cyberabwehr
Wie KI in die Arbeit von SOC und MDR einzieht und wo sie endet.
Lesen →Leistung
Identitätsschutz · ITDR
Identitäten der Agenten, OAuth-Token und Sitzungen.
ITDR entdecken →Leistung
AiTM-Phishing
Mit Sprachmodellen geschriebenes Phishing und Sitzungsdiebstahl.
Entdecken →Leistung
Brand & Social Intelligence
Deepfakes und Imitation gegen Ihre Marke und Ihre Führungskräfte.
Entdecken →Ressource
OWASP, ATLAS und die KI-Verordnung
Die zehn OWASP-Einträge für LLM-Anwendungen, MITRE ATLAS und der Zeitplan der KI-Verordnung.
Lesen →Ressource
Microsoft-365-Sicherheit
Berechtigungen, Richtlinien und Überwachung der Umgebung, in der Copilot arbeitet.
Lesen →
Wo Sie anfangen
Zuerst das Inventar. Dann die Kontrollen.
Ein AI-Security-Assessment zeigt, welche KI-Systeme genutzt werden, welche Daten sie berühren und wo Kontrollen fehlen. SOC in Mailand, seit 2017, 24·7·365.