Von Tool zu Akteur
Wir haben den Punkt überschritten, wo KI ein Experiment ist. Organisationen nutzen KI täglich — für Textproduktion, Code-Reviews, Datenanalyse, Kundensupport und Sicherheitsüberwachung. Was sich in letzter Zeit verändert hat, ist nicht nur die Verbreitung, sondern der Charakter.
Mit Agentic AI — KI-Systemen, die autonom handeln, Entscheidungen treffen und mit anderen Systemen interagieren — verlagert sich die Frage von “wie nutzen wir KI?” zu “wer kontrolliert, was KI tut?”. Das ist eine Governance-Frage, keine Technologiefrage. Und es ist eine Frage, die die Geschäftsleitung, nicht die IT-Abteilung, besitzen muss.
Hinweis: Dieser Artikel behandelt Governance und Führungsverantwortung — nicht technische KI-Bedrohungen wie Prompt Injection oder Data Poisoning. Wenn Sie sich in KI-Sicherheitsbedrohungen vertiefen möchten, lesen Sie unseren Leitfaden zur KI-Sicherheit für Organisationen.
KI-Governance ist keine separate Spur
Der häufigste Fehler, den ich sehe, ist, dass Organisationen KI als eigenständiges Thema behandeln — ein “KI-Projekt” neben der gewöhnlichen Sicherheitsarbeit. Das führt zu Doppelarbeit, unklarer Verantwortung und Richtlinien, die nicht mit der Realität zusammenhängen.
KI-Governance ist eine Erweiterung Ihrer bestehenden Informationssicherheitsarbeit. KI-Tools verarbeiten Ihre Informationswerte. Sie sollten in dieselbe Risikoanalyse einbezogen, von denselben Zugriffskontrollprinzipien umfasst und von denselben Managemententscheidungen wie alles andere gesteuert werden.
Die Verbindung zum NIS2UmsuCG
Das NIS-2-Umsetzungs- und Cybersicherheitsstärkungsgesetz (NIS2UmsuCG) verlangt, dass Organisationen Risiken für ihre Netzwerk- und Informationssysteme bewältigen. KI-Tools, die Organisationsdaten verarbeiten, sind Teil dieses Systems — unabhängig davon, ob sie intern oder als externe Cloud-Services betrieben werden.
Das bedeutet, dass KI-Tools:
- In die Risikoanalyse einbezogen werden sollten
- Von Zugriffskontrolle umfasst sein sollten
- Klare Eigentümer und Verantwortliche haben sollten
- In die Lieferantenbewertung einbezogen werden sollten (falls sie externe Services sind)
Shadow AI: Das Risiko, das Sie nicht sehen
57% der Mitarbeiter in wissensintensiven Organisationen geben sensible Unternehmensinformationen in private KI-Konten ein. Sie tun das, weil es praktisch ist, weil es sie produktiver macht und weil niemand gesagt hat, dass sie es nicht tun sollen.
Das Problem ist, dass die Organisation die Kontrolle darüber verliert, wo die Informationen landen. Kundendaten, Geschäftspläne, Vertragsentwürfe, Quellcode, Personalinformationen — alles kann in einen externen KI-Service eingegeben werden, wo die Organisation weder Einblick noch Kontrolle hat.
Shadow AI ist kein Technologieproblem. Es ist ein Governance-Vakuum. Mitarbeiter lösen ihre alltäglichen Probleme mit den verfügbaren Tools. Wenn die Organisation keine genehmigten Alternativen und klaren Richtlinien anbietet, werden Mitarbeiter eigene Wege finden.
Organisationen, die KI-Tools vollständig verbieten, treiben die Nutzung in den Untergrund. Mitarbeiter setzen fort — sie erzählen nur nichts davon. Kontrollierte Nutzung mit klaren Rahmen ist immer besser als Verbote, die niemand befolgt.
Geben Sie Mitarbeitern KI-Tools mit Enterprise-Verträgen, die sicherstellen, dass Daten nicht für Training verwendet werden, dass Protokollierung vorhanden ist und dass die Organisation die Kontrolle behält. Machen Sie es einfacher, das Richtige zu tun.
Die meisten Mitarbeiter verstehen, dass sie keine Passwörter teilen sollen. Weniger verstehen, dass ein Vertragsentwurf oder eine Kundenliste in einem KI-Chat genauso sensibel sein kann. Konkrete Beispiele funktionieren besser als abstrakte Richtlinien.
KI-Tools sollten in Ihre IAM-Strategie (Identity and Access Management) einbezogen werden. Wer hat Zugang zu welchen KI-Services und welche Berechtigungsstufen gelten?
Agentic AI: Die nächste Governance-Herausforderung
Was mit Chatbots begann, entwickelt sich schnell zu autonomen KI-Agenten, die selbstständig handeln können — Meetings buchen, E-Mails senden, Datenbankabfragen ausführen, Code ausführen. Das stellt neue Fragen zur Zugriffskontrolle und Berechtigungssteuerung.
Wenn ein KI-Agent berechtigt ist, im Namen eines Mitarbeiters zu handeln — wer ist verantwortlich, wenn der Agent eine fehlerhafte Entscheidung trifft? Wenn der Agent Zugang zu sensiblen Systemen hat — wie stellen Sie sicher, dass er nicht mehr als beabsichtigt tut?
Das sind Fragen, die bevor Agentic AI breit in der Organisation implementiert wird, nicht danach, adressiert werden müssen.
Drei Fragen, die die Geschäftsleitung beantworten können sollte
- Welche KI-Tools werden in der Organisation verwendet? Nicht nur die offiziell beschafften — auch die, die Mitarbeiter eigenständig nutzen. Eine Inventarisierung der tatsächlichen KI-Nutzung ist der erste Schritt zur Kontrolle.
- Welche Daten werden in die KI-Tools eingegeben? Klassifizieren Sie, welche Art von Information verarbeitet wird. Personenbezogene Daten? Geschäftsgeheimnisse? Kundendaten? Die Antwort bestimmt, welche Schutzmaßnahmen erforderlich sind und welche Tools akzeptabel sind.
- Wer ist verantwortlich? Nicht "die IT-Abteilung" — sondern eine benannte Person mit Mandat, Entscheidungen über KI-Nutzung zu treffen, Risiken an die Geschäftsleitung zu eskalieren und Richtlinien im Takt der Technologieentwicklung zu aktualisieren.
AI Act: Die regulatorische Landschaft wächst
Der EU AI Act führt Anforderungen während 2026 schrittweise ein. Auch wenn die meisten Organisationen keine Hochrisiko-KI entwickeln, betrifft die Verordnung alle, die KI-Systeme nutzen, die als Hochrisiko klassifiziert sind. Das umfasst Rekrutierungstools, Kreditbewertung, biometrische Identifizierung und andere Anwendungen.
KI-Governance handelt nicht nur von interner Risikoverwaltung — es geht auch um regulatorische Bereitschaft. Organisationen, die bereits eine klare KI-Policy und ein Governance-Modell haben, haben einen bedeutenden Vorteil, wenn neue Anforderungen kommen.
Beginnen Sie mit der Kartierung
KI-Governance muss nicht kompliziert sein. Es muss systematisch sein. Beginnen Sie damit zu kartieren, welche Daten wohin fließen — einschließlich durch KI-Tools. Das gibt Ihnen das Bild, das Sie brauchen, um informierte Entscheidungen über Policy, Risiken und Investitionen zu treffen.
Securapilots Informationsflussanalyse hilft Ihnen dabei zu kartieren, wie sich Informationen durch die Organisation bewegen — einschließlich durch externe Tools und Services. Das ist die Grundlage sowohl für KI-Governance als auch für die Anforderungen des NIS2UmsuCG.
Häufig gestellte Fragen
Was ist KI-Governance?
KI-Governance definiert, wie die Organisation KI-Tools nutzt, kontrolliert und dafür verantwortlich ist. Es umfasst Richtlinien, Risikobewertung, Zugriffskontrolle und Verantwortlichkeiten — nicht nur technische Implementierung.
Was ist Shadow AI?
Shadow AI sind KI-Tools, die Mitarbeiter ohne Organisationsgenehmigung nutzen — oft private Konten bei ChatGPT, Claude, Gemini oder anderen Diensten. Das Risiko besteht darin, dass sensible Unternehmensinformationen die Kontrolle der Organisation verlassen.
Wie verknüpft sich KI-Governance mit NIS2 und dem NIS2UmsuCG?
KI-Tools verarbeiten Ihre Informationswerte und sollten in Ihre Risikoanalyse nach den Anforderungen des NIS2UmsuCG einbezogen werden. Unkontrollierte KI-Nutzung kann ein Risiko für die Informationssicherheit darstellen, das bewältigt werden muss.
Was sollte eine KI-Policy enthalten?
Genehmigte Tools, welche Daten eingegeben werden dürfen, Zugriffskontrolle, Verantwortlichkeiten, Anforderungen für Protokollierung und Auditierung sowie Schulungsanforderungen. Die Policy sollte konkret genug sein, um Orientierung für alltägliche Entscheidungen zu geben.
