5 Sicherheitsrisiken generativer KI, die Compliance-Teams kennen sollten

Mon, 27 Jul 2026 10:01:02 Z

Ihre Mitarbeitenden nutzen KI-Tools nicht, um Compliance-Vorfälle zu verursachen. Sie möchten ihre Arbeit schneller erledigen. Laut einer BCG-Umfrage aus dem Jahr 2026 nutzen inzwischen 74 % der Mitarbeitenden im operativen Bereich generative KI täglich oder mehrmals pro Woche. Wenn ein Mitarbeitender einen KI-Assistenten im Unternehmen nutzt, um vor einem Meeting einen Kundenvertrag zusammenzufassen, ein anderer Anwendungsprotokolle zur Fehlerbehebung in ein öffentliches generatives KI-Tool einfügt oder ein Entwickler auf einen KI-Coding-Assistenten zurückgreift, der mit einer internen Wissensdatenbank verbunden ist, gelangen mit jeder dieser Handlungen Unternehmensdaten in eine neue Verarbeitungspipeline, für deren Governance herkömmliche Sicherheits- und Datenschutzprogramme nicht ausgelegt waren.

Anders als herkömmliche Anwendungen rufen generative KI-Prozesse Unternehmensdaten ab, halten Kontext vor, erstellen neue Inhalte und können Interaktionen zu Verbesserungs- oder Prüfzwecken protokollieren. Jede dieser Phasen schafft einen potenziellen Expositionspunkt und vergrößert die Angriffsfläche Ihres Unternehmens.

Für Datenschutz- und Compliance-Teams wirft der Einsatz generativer KI am Arbeitsplatz neue Fragen auf, die sie bei Ihrer nächsten Anfrage oder Prüfung möglicherweise nicht ohne Weiteres beantworten können, etwa: Wer hat dieses KI-Tool autorisiert, diese Daten zu verarbeiten, wohin sind sie geflossen und wie lange wurden sie aufbewahrt? Für CISOs und Datenschutzbeauftragte entstehen Sicherheitsrisiken generativer KI genau in dieser Lücke zwischen dem, was Mitarbeitende tun, und dem, was aktuelle Governance-Programme abdecken. Es geht nicht mehr darum, ob KI eingeführt werden soll, sondern ob Unternehmen verstehen, wohin ihre Daten gelangen, sobald KI Teil des Workflows wird.

Welche Sicherheitsrisiken birgt generative KI?

Generative KI ist mehr als nur eine weitere Unternehmensanwendung. Sie verändert, wie Unternehmensdaten abgerufen, interpretiert, geteilt und aufbewahrt werden. Generative KI-Systeme interagieren mit Prompts, internen Repositorys, Gesprächskontexten und generierten Ausgaben. Dadurch entstehen neue Expositionspunkte, wenn diese Interaktionen nicht angemessen gesteuert werden.

Zu den wichtigsten Sicherheitsrisiken zählen:

Abfluss sensibler Daten: Mitarbeitende können vertrauliche Informationen, Quellcode, Kundendatensätze oder geistiges Eigentum versehentlich mit Shadow-AI-Tools teilen, die nicht für die Verarbeitung dieser Daten freigegeben sind.
Prompt-Injection-Angriffe: Bösartige Prompts oder verborgene Anweisungen können das KI-Verhalten manipulieren, Schutzmaßnahmen umgehen, nicht autorisierte Informationen abrufen oder irreführende Antworten erzeugen.
Nicht autorisierter Datenabruf: Wenn Wissensquellen zu weitreichende oder falsch konfigurierte Berechtigungen haben, können KI-Anwendungen Dokumente offenlegen, auf die Benutzer keinen Zugriff haben sollten.
Kontext- und Gesprächslecks: Ohne Sitzungsisolation und Speicherkontrollen können sensible Informationen, die in einer Interaktion geteilt wurden, später im selben Gespräch erneut auftauchen oder künftige Antworten beeinflussen.
Schwache Protokollierungs- und Aufbewahrungskontrollen: Prompts und Ausgaben können sensible Geschäfts- oder personenbezogene Daten enthalten. Ohne definierte Aufbewahrung, Maskierung und Zugriffskontrollen können Protokolle zu neuen Repositorys regulierter Informationen werden.

Diese Risiken mögen technisch erscheinen, sind aber in erster Linie Governance-Herausforderungen. Generative KI verstärkt bestehende Lücken bei Datenklassifizierung, Identity and Access Management, Monitoring und Information Governance. Unternehmen, die wissen, wo sensible Daten liegen, wer darauf zugreifen kann und wie sie geschützt werden sollten, sind besser aufgestellt, um KI sicher einzuführen.

Wie generative KI den Datenschutz beeinflusst

Generative KI verändert, wie Unternehmen Daten erheben, verarbeiten, speichern und teilen. Anders als herkömmliche Anwendungen mit definierten Verarbeitungspfaden interpretieren generative KI-Systeme Prompts, rufen Informationen aus mehreren Quellen ab, erzeugen neue Inhalte und können Interaktionen für Monitoring, Audits oder Serviceverbesserungen aufbewahren. Dadurch erweitern sich die Wege, auf denen sensible Daten durch das Unternehmen fließen.

Zu den wichtigsten Datenschutzherausforderungen zählen:

Größere Exposition personenbezogener und vertraulicher Daten: Mitarbeitende können personenbezogene Daten, Kundendatensätze, Finanzdaten oder geistiges Eigentum in Prompts einfügen und diese Daten dadurch möglicherweise außerhalb der direkten Kontrolle des Unternehmens bewegen.
Erweiterter Verarbeitungsumfang: KI-Anwendungen kombinieren Prompts häufig mit Daten aus internen Repositorys und Geschäftssystemen. Das wirft Fragen zu Zweckbindung, Datenminimierung und Zugriffs-Governance auf.
Neue Aufbewahrungspflichten: Prompts, Ausgaben und Systemprotokolle können regulierte oder vertrauliche Daten enthalten und erfordern klare Regeln für Aufbewahrung, Zugriff und sichere Löschung.
Höheres Risiko nicht autorisierter Offenlegung: Schwache Zugriffskontrollen, Prompt Injection oder zu weit gefasste Abrufmechanismen können Informationen offenlegen, die Benutzer nie verarbeiten sollten.

Generative KI verändert die Grundprinzipien des Datenschutzes nicht; sie erschwert jedoch deren konsequente Anwendung. Datenminimierung, Zweckbindung, Transparenz, Sicherheit der Verarbeitung und Rechenschaftspflicht müssen sich nun über den gesamten KI-Datenlebenszyklus erstrecken.

Die fünf Datenflussrisiken, die durch generative KI entstehen

1. Abfluss von Trainingsdaten

Wenn Mitarbeitende öffentliche KI-Tools mit vertraulichen Preisen, Kundendatensätzen, Quellcode oder internen Dokumenten nutzen, können sensible Daten die gesteuerte Umgebung des Unternehmens verlassen. Selbst wenn der Anbieter die Daten nicht für Trainingszwecke verwendet, kann das Unternehmen die Transparenz darüber verlieren, wie diese Informationen verarbeitet, aufbewahrt oder geteilt werden. Die Frage für die Unternehmensführung ist einfach: Hätten diese Daten überhaupt in ein KI-System gelangen dürfen?

2. Prompt Injection

Prompt Injection ermöglicht es, das KI-Verhalten durch bösartige Anweisungen zu beeinflussen, die in Prompts, Dokumenten oder Webinhalten verborgen sind. Für Unternehmen besteht das Risiko darin, dass ein KI-Assistent, der mit internen Wissensquellen verbunden ist, vorgesehene Schutzmaßnahmen umgeht, sensible Informationen offenlegt oder irreführende Ausgaben erzeugt. Dies erfordert KI-spezifisches Monitoring, Tests und Leitplanken, die über herkömmliche Eingabevalidierung hinausgehen.

3. Exfiltration über das Kontextfenster

KI-Systeme speichern Gesprächskontext, um Kontinuität zu verbessern. Genau dieses Gedächtnis kann jedoch sensible Informationen über ihren vorgesehenen Zweck hinaus offenlegen. Beispielsweise können vertrauliche HR-, Rechts- oder Kundendetails, die für eine Aufgabe geteilt wurden, später in derselben Sitzung erneut auftauchen. Unternehmen müssen Sitzungsisolation, Speicherbegrenzungen und klare Kontrollen für sensible Workflows sicherstellen.

4. Überberechtigung beim RAG-Abruf

Retrieval-Augmented Generation macht Unternehmens-KI nützlicher, indem Modelle mit internen Wissensquellen verbunden werden. Sind Berechtigungen jedoch zu weit gefasst oder falsch konfiguriert, kann KI Dokumente anzeigen, auf die Benutzer keinen Zugriff haben sollten – etwa Rechtsakten, Vergütungsdaten der Geschäftsleitung oder eingeschränkte HR-Datensätze. Eine starke Identity Governance und Repository-Audits sind unerlässlich, bevor KI breit skaliert wird.

5. Protokollierung und Aufbewahrung von Ausgaben

KI-Prompts und -Antworten können lange nach Ende des ursprünglichen Geschäftszwecks in Protokollen, Monitoringsystemen, Backups oder Analyseplattformen gespeichert bleiben. Wenn diese Aufzeichnungen personenbezogene, Kunden- oder regulierte Daten enthalten, entstehen neue Governance-Pflichten. Unternehmen sollten Regeln für Aufbewahrung, Speicherung, Zugriff, Maskierung und Löschung von KI-generierten Inhalten definieren.

Wie Unternehmen den Datenschutz beim Einsatz generativer KI sicherstellen können

Beim Schutz der Privatsphäre in generativer KI geht es nicht darum, Innovation zu bremsen. Es geht darum, zu steuern, wie Daten durch Prompts, abgerufenes Wissen, Modellausgaben, Gesprächskontexte und KI-generierte Inhalte fließen.

Zu den grundlegenden Praktiken gehören:

Daten vor der KI-Nutzung klassifizieren: Identifizieren Sie personenbezogene Daten, Finanzunterlagen, geistiges Eigentum und regulierte Daten, bevor sie in KI-Systeme gelangen. Geben Sie Mitarbeitenden klare Leitlinien dazu, was geteilt werden darf und was nicht.
Grenzüberschreitende Datenflüsse verstehen und steuern: Generative KI bringt zusätzliche Risiken bei grenzüberschreitenden Datenübertragungen mit sich, die Unternehmen verstehen und bewerten müssen, bevor sie Datenquellen, Wissensrepositorys oder KI-Dienste von Drittanbietern anbinden.
Least-Privilege-Zugriff durchsetzen: Stellen Sie sicher, dass KI-Anwendungen nur die Informationen abrufen, für deren Zugriff ein Benutzer bereits autorisiert ist – insbesondere wenn sie beispielsweise mit RAG-basierten Wissensrepositorys verbunden sind.
Prompts und Ausgaben steuern: Definieren Sie Richtlinien für Protokollierung, Monitoring, Aufbewahrung, Speicherung, Maskierung, Zugriff und sichere Löschung von KI-Interaktionen.
Datenschutz in das KI-Design integrieren: Berücksichtigen Sie Privacy by Design und Privacy by Default, Datenminimierung, Maskierung und menschliche Aufsicht bereits beim KI-Design und bei der Bereitstellung – nicht erst nach der Implementierung.
Mitarbeitende im verantwortungsvollen KI-Einsatz schulen: Nutzen Sie Awareness-Schulungen und Acceptable-Use-Richtlinien, um versehentliche Offenlegungen durch gut gemeinte KI-Nutzung zu reduzieren.

Letztlich kann Technologie allein den Datenschutz in der KI nicht gewährleisten. Eine sichere Einführung erfordert Governance über Sicherheits-, Datenschutz-, Rechts-, Compliance- und Produktteams hinweg. Wenn Unternehmen KI-Datenflüsse verstehen und in jeder Phase Kontrollen anwenden, können sie generative KI nutzen und gleichzeitig sensible Informationen schützen, Vertrauen erhalten und regulatorische Pflichten erfüllen.

Regulatorischer Rahmen: DSGVO, CCPA und die EU-KI-Verordnung

Sicherheitsvorfälle im Zusammenhang mit generativer KI bleiben selten reine Sicherheitsvorfälle. Sobald personenbezogene Daten oder vertrauliche Informationen offengelegt werden, müssen Unternehmen auch ihre Datenschutz- und regulatorischen Pflichten berücksichtigen. Anstatt völlig neue Compliance-Anforderungen einzuführen, verstärkt generative KI die Notwendigkeit, bestehende Datenschutzprinzipien konsequent auf neue KI-gestützte Datenflüsse anzuwenden.

Die folgende Tabelle ordnet häufige Risiken generativer KI den Pflichten zu, die sie am wahrscheinlichsten auslösen.

Risikobereich	Geschäftliche Auswirkungen	Regulatorischer Schwerpunkt	Maßnahme der Unternehmensführung
Abfluss von Trainingsdaten	Sensible Daten verlassen gesteuerte Umgebungen und können extern wiederverwendet oder aufbewahrt werden.	Datenminimierung, rechtmäßige Nutzung, Transparenz und Verantwortlichkeit von Anbietern.	KI-Nutzungsrichtlinien genehmigen, öffentliche Tools einschränken und Kontrollen von Anbietern validieren.
Prompt Injection	Bösartige Anweisungen können Schutzmaßnahmen umgehen und sensible Informationen offenlegen.	Sichere Verarbeitung, Zugriffskontrollen, Risikomanagement und Incident Response.	KI-Bedrohungsmonitoring, Tests und Kontrollen zur Prompt-Filterung finanzieren.
Exfiltration über das Kontextfenster	Sensible Details können über ihren vorgesehenen Zweck hinaus während einer Sitzung sichtbar bleiben.	Vertraulichkeit, Zweckbindung, Datenminimierung sowie Privacy by Design und Privacy by Default.	Sitzungsisolation, Speicherbegrenzungen und klare Kontrollen für sensible Workflows verlangen.
RAG-Überberechtigung	KI kann Dokumente anzeigen, für die Benutzer nicht zugriffsberechtigt sind.	Least Privilege, Zugriffs-Governance, Rechenschaftspflicht und menschliche Aufsicht.	IAM-Abstimmung, Repository-Audits und regelmäßige Berechtigungsprüfungen vor der KI-Skalierung vorschreiben.
Protokollierung und Aufbewahrung von Ausgaben	Prompts und Ausgaben können zu unverwalteten Speichern regulierter Daten werden.	Aufbewahrung, Löschung, Auditierbarkeit, Records Management und Rechte betroffener Personen.	Aufbewahrungsstandards festlegen, KI-Protokolle schützen und Ausgaben in Lösch-Workflows einbeziehen.

Bei allen fünf Risiken ist Governance das zentrale Thema. Aufsichtsbehörden erwarten von Unternehmen, dass sie verstehen, wie personenbezogene und sensible Daten durch KI-Systeme fließen, wirksame Kontrollen anwenden und Rechenschaft ablegen können, wenn diese Kontrollen versagen. Die EU-KI-Verordnung unterstreicht diese Erwartung, indem sie Transparenz, Risikomanagement, menschliche Aufsicht und Rechenschaftspflicht über den gesamten KI-Lebenszyklus hinweg betont.

KI schafft keine völlig neuen Datenschutzprinzipien; sie legt bestehende Governance-Lücken offen und verstärkt sie. Anstatt ein separates KI-Compliance-Programm aufzubauen, sollten Unternehmen aktuelle Datenschutz- und Sicherheitskontrollen auf KI-Workflows ausweiten. Ein praktischer Ausgangspunkt sind folgende Fragen:

Haben wir definiert, welche Daten und Datenquellen Mitarbeitende mit KI-Systemen nutzen dürfen?
Rufen KI-Anwendungen nur Informationen ab, für deren Zugriff Benutzer autorisiert sind?
Sind Prompts, Antworten und KI-Protokolle durch Aufbewahrungs- und Schutzrichtlinien abgedeckt?
Können wir erklären und auditieren, wie Daten durch unsere KI-Anwendungen fließen?

Wenn die Antwort ja lautet, verfügt das Unternehmen über eine solide Grundlage für eine verantwortungsvolle KI-Einführung. Wenn nicht, sind dies die Governance-Lücken, die geschlossen werden müssen, bevor KI im gesamten Unternehmen skaliert wird.

Steuern Sie KI dort, wo Ihre Daten fließen

Unternehmen müssen die KI-Einführung nicht verlangsamen, um Risiken zu managen. Sie müssen die Kontrollen, denen sie bereits vertrauen – Datenklassifizierung, Zugriffs-Governance, Monitoring, Aufbewahrung, Speicherung und funktionsübergreifende Prüfung – auf die KI-Workflows ausweiten, in denen sich sensible Informationen heute bewegen.

Beginnen Sie mit fünf praktischen Maßnahmen:

1. Sensible Daten klassifizieren: Wissen Sie, welche Daten niemals in öffentliche oder nicht freigegebene KI-Tools gelangen sollten.

2. Mit KI verbundene Wissensquellen absichern: Wenden Sie Least-Privilege-Zugriff an, bevor Sie interne Repositorys mit KI-Assistenten verbinden.

3. Freigegebene KI-Nutzung definieren: Machen Sie deutlich, welche Tools Mitarbeitende nutzen dürfen und welche Arten von Daten diese Tools verarbeiten dürfen.

4. KI-Aktivitäten überwachen: Überwachen Sie Prompts, Ausgaben und Nutzungsmuster auf die Offenlegung sensibler Daten oder ungewöhnliche Aktivitäten.

5. KI-Aufzeichnungen steuern: Legen Sie Regeln für Aufbewahrung, Speicherung, Löschung, Maskierung und Zugriff für Prompts, Antworten, Protokolle und generierte Inhalte fest.

Diese Schritte erfordern keine neue Compliance-Funktion und keine separate KI-Governance-Bürokratie. Sie erfordern, dass die gleichen Sicherheits- und Datenschutzgrundlagen, die Unternehmen bereits nutzen, konsequent auf KI-Systeme, KI-Benutzer und KI-generierte Daten angewendet werden.

Vertrauenswürdige KI beginnt mit praktischer Governance. Das operative Prinzip ist einfach: Steuern Sie KI an den Punkten, an denen Daten eingehen, sich bewegen und gespeichert werden. Generative KI verändert, wie Informationen im Unternehmen fließen, aber sie verändert nicht, was Führungskräfte managen müssen: Transparenz, Zugriff, Rechenschaftspflicht und Kontrolle.

Beginnen Sie noch heute damit, Ihre KI-Datenflüsse abzubilden. Unternehmen, die den größten Nutzen aus KI ziehen, werden diejenigen sein, die verstehen, wohin ihre Daten gelangen, zulässige Nutzung definieren und Governance in alltägliche KI-Workflows einbetten, statt sie erst nachträglich zu prüfen. Der nächste Schritt besteht darin, mit den Datenflüssen zu beginnen, die Sie heute sehen können, offensichtliche Lücken zu schließen und Kontrollen mit zunehmender KI-Einführung auszuweiten.

Ivanti Blog: Beiträge von