DSGVO und KI-Tools: Was Teams wissen müssen

Jede Eingabe in ein KI-Tool ist eine Datenverarbeitung. Wenn das Tool in den USA gehostet wird, ist es auch ein Drittlandtransfer. Und wenn ein Mitarbeiter Kundendaten in die kostenlose ChatGPT-Version tippt, passiert beides ohne Auftragsverarbeitungsvertrag, ohne Datenschutz-Folgenabschätzung und ohne Information der Betroffenen. Das sind drei DSGVO-Verstöße auf einmal.

Trotzdem ist KI im Unternehmen kein Compliance-Problem, das man vermeiden sollte, sondern ein Compliance-Thema, das man lösen muss. Die Tools sind da, die Teams nutzen sie (ob erlaubt oder nicht), und die Frage ist nicht ob, sondern wie.

Was die DSGVO verlangt

Die DSGVO verbietet zunächst jede Verarbeitung personenbezogener Daten und verlangt für jede Ausnahme eine Rechtsgrundlage nach Artikel 6. Für KI-Tools im Unternehmenseinsatz kommen drei Grundlagen in Frage: Einwilligung der Betroffenen, Erfüllung eines Vertrags oder berechtigte Interessen des Unternehmens. In der Praxis stützen sich die meisten Unternehmen auf berechtigte Interessen, was eine saubere Interessenabwägung und Dokumentation voraussetzt.

Dazu kommt die Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO. Sie ist nicht pauschal für jeden KI-Einsatz Pflicht, aber in der Praxis fast immer: Die DSK-Orientierungshilfe verweist auf die "Muss-Liste" der Datenschutzkonferenz, und KI-Anwendungen fallen regelmäßig darunter, wenn sie personenbezogene Daten in großem Umfang verarbeiten oder automatisierte Entscheidungen mit erheblicher Wirkung auf Betroffene treffen. Eine DSFA beschreibt, wie die KI funktioniert, welche Risiken entstehen (Diskriminierung, Datenverlust, unbeabsichtigte Profilbildung) und welche Schutzmaßnahmen greifen. Bei hohem Restrisiko muss die Aufsichtsbehörde konsultiert werden.

Und dann ist da Privacy by Design: Datenschutz muss von Anfang an eingebaut sein, nicht nachträglich draufgeschraubt. Die Datenschutzkonferenz hat 2024 eine Orientierungshilfe KI und Datenschutz veröffentlicht, die das für KI konkretisiert.

Die drei größten Risiken

Datenabfluss ins Modelltraining

In der kostenlosen Version von ChatGPT und bei ChatGPT Plus werden Gespräche standardmäßig zum Training verwendet. Was Mitarbeiter dort eingeben, kann in zukünftigen Antworten an andere Nutzer auftauchen. Ein Training-Opt-out ist möglich, aber nur auf Enterprise-Ebene standardmäßig deaktiviert.

Bei Claude ist die Lage besser: Commercial-Pläne (Claude for Work, API) nutzen Eingaben nicht fürs Training. Aber der kostenlose Plan und der Pro-Plan schon, zumindest ohne explizites Opt-out.

Google Gemini im Workspace-Business-Plan nutzt Eingaben nicht fürs Training und verarbeitet Daten in EU-Rechenzentren.

USA-Transfer

Daten, die an ChatGPT, Claude oder Gemini gehen, werden in der Regel auf US-Servern verarbeitet. Das EU-U.S. Data Privacy Framework sichert diesen Transfer seit Juli 2023 ab. Aber das Abkommen ist politisch umstritten und könnte wie seine Vorgänger (Safe Harbor, Privacy Shield) kippen. Wer langfristig plant, sollte das einkalkulieren.

Shadow AI

Das größte Risiko ist nicht das Tool, das das Unternehmen offiziell einsetzt. Es sind die Tools, die Mitarbeiter auf eigene Faust nutzen. Laut einer Gartner-Befragung von Cybersecurity-Führungskräften haben 69 Prozent Hinweise darauf oder den Verdacht, dass Mitarbeiter öffentliche GenAI-Tools dienstlich nutzen. Gartner prognostiziert, dass bis 2030 über 40 Prozent der Unternehmen weltweit Sicherheits- oder Compliance-Vorfälle durch nicht autorisierte KI-Tools erleben werden.

Das Problem: Wenn ein Mitarbeiter Kundendaten in ein privates ChatGPT-Konto eingibt, gibt es keinen AVV, keine DSFA, keine Rechtsgrundlage. Das Unternehmen haftet trotzdem.

ChatGPT, Claude, Gemini im Vergleich

Kein KI-Tool ist automatisch DSGVO-konform. Es kommt auf den Plan und die Konfiguration an (eine ausführliche Gegenüberstellung bietet der Proliance DSGVO-Vergleich).

ChatGPT (OpenAI): Die kostenlose Version und Plus sind nicht für den Unternehmenseinsatz mit personenbezogenen Daten geeignet (Details dazu im Leitfaden der Datenschutzkanzlei). Erst ab Enterprise gibt es einen AVV, Training-Opt-out als Standard und konfigurierbare Löschfristen. OpenAI hat sich dem Data Privacy Framework angeschlossen, der Datentransfer in die USA ist damit aktuell abgesichert.

Claude (Anthropic): Die Commercial-Pläne (Claude for Work, API) bieten einen AVV und nutzen Eingaben nicht fürs Training. Claude hat von den drei Anbietern den stärksten Fokus auf Safety-by-Design. Aber: Der Team-Plan reicht nicht für volle DSGVO-Konformität, dafür braucht es den Enterprise-Plan oder die API mit eigenem AVV.

Google Gemini: Im Workspace-Business-Plan mit Datenverarbeitungsvertrag ist Gemini eine solide Option. Daten bleiben in EU-Rechenzentren, werden nicht fürs Training genutzt, und Google hat die umfangreichste Compliance-Dokumentation der drei Anbieter.

Was Teams konkret tun sollten

Vor dem Einsatz die Basics klären: Gibt es einen Auftragsverarbeitungsvertrag? Welche Sub-Prozessoren sind eingebunden? Wo werden Daten gespeichert? Wie lange? Wie wird gelöscht? Diese Fragen müssen beantwortet und dokumentiert sein, bevor das Tool an Mitarbeiter ausgerollt wird. Der Assecor-Leitfaden bietet dafür eine brauchbare Checkliste.

Geprüfte Tools bereitstellen. Wer seinen Mitarbeitern keine offiziellen KI-Tools gibt, sorgt dafür, dass sie inoffizielle nutzen. Shadow AI lässt sich nicht verbieten, nur kanalisieren. Die Governance muss klar regeln, welche Tools für welche Zwecke freigegeben sind.

Datensparsamkeit als Grundregel: Keine personenbezogenen Daten in Free-Tier-Tools. Bei Enterprise-Tools erst anonymisieren oder mit Dummy-Daten arbeiten, wo immer möglich. "Schreib mir eine E-Mail an Herrn Müller, Kontonummer 12345" ist ein DSGVO-Verstoß. "Schreib mir eine E-Mail an einen Kunden wegen einer offenen Rechnung" nicht.

Mitarbeiter schulen. Seit Februar 2025 gilt die KI-Kompetenzpflicht aus der KI-Verordnung. Mitarbeiter müssen wissen, welche Daten sie eingeben dürfen und welche nicht. Das ist keine einmalige Schulung, sondern ein laufender Prozess, weil sich Tools und Regeln ständig ändern.

Für jedes KI-Tool, das personenbezogene Daten verarbeitet, eine Datenschutz-Folgenabschätzung (DSFA) erstellen und aktuell halten. Das ist Aufwand, aber er schützt im Ernstfall.

Muster-Formulierungen

Die folgenden Textbausteine sind Beispiele, keine Rechtsberatung. Sie müssen an den konkreten Einsatz, die verwendeten Tools und die Verarbeitungszwecke angepasst werden. Die Pflichtangaben orientieren sich an Art. 13 DSGVO und den Empfehlungen der Datenschutzkonferenz. Ein bloßer Verweis auf die Datenschutzrichtlinie des KI-Anbieters reicht nicht aus (vgl. Datenschutzkanzlei-Leitfaden).

Datenschutzerklärung: KI-Chatbot auf der Website

Auf unserer Website setzen wir einen KI-gestützten Chatbot ein, der auf der Technologie von Anbietername, z.B. OpenAI / Anthropic basiert. Der Chatbot ist ein KI-System; Sie kommunizieren nicht mit einem Menschen. Er verarbeitet Ihre Eingaben, um Ihre Anfragen zu beantworten.

Rechtsgrundlage ist Art. 6 Abs. 1 lit. f DSGVO (berechtigtes Interesse an effizienter Kundenkommunikation). Sie können der Verarbeitung jederzeit widersprechen (Art. 21 DSGVO), indem Sie den Chatbot nicht nutzen oder uns unter Kontaktadresse kontaktieren.

Ihre Eingaben werden an Anbietername als Auftragsverarbeiter übermittelt (Auftragsverarbeitungsvertrag nach Art. 28 DSGVO). Anbietername verarbeitet die Daten auf Servern in den USA / der EU. Bei USA-Transfer: Die Übermittlung in die USA erfolgt auf Grundlage des EU-U.S. Data Privacy Framework (Angemessenheitsbeschluss der EU-Kommission vom 10.07.2023). / Alternativ: auf Grundlage von Standardvertragsklauseln nach Art. 46 Abs. 2 lit. c DSGVO. Ihre Eingaben werden nicht zum Training von KI-Modellen verwendet.

Die Chat-Verläufe werden nach Zeitraum, z.B. 30 Tagen gelöscht. Sie haben das Recht auf Auskunft (Art. 15 DSGVO), Berichtigung (Art. 16 DSGVO), Löschung (Art. 17 DSGVO) und Einschränkung der Verarbeitung (Art. 18 DSGVO). Beschwerden können Sie an die zuständige Aufsichtsbehörde richten. Fragen zum Datenschutz richten Sie an unseren Datenschutzbeauftragten: Name/E-Mail.

Bitte geben Sie keine sensiblen Daten (Gesundheitsdaten, Finanzdaten, Passwörter) in den Chat ein.

Datenschutzerklärung: KI-generierte Inhalte

Teile der Inhalte auf dieser Website werden mit Unterstützung von KI-Tools erstellt oder überarbeitet. Dabei werden keine personenbezogenen Daten unserer Nutzer verarbeitet. Die KI-Unterstützung betrifft ausschließlich die redaktionelle Erstellung und Bearbeitung von Texten. Alle Inhalte werden vor der Veröffentlichung redaktionell geprüft und verantwortet.

Datenschutzerklärung: KI-gestützte Datenverarbeitung (z.B. Support, Analyse)

Wir setzen KI-Systeme ein, um Zweck, z.B. Support-Anfragen zu kategorisieren und Antwortvorschläge zu erstellen. Dabei werden folgende Daten verarbeitet: Datenarten, z.B. Name, E-Mail-Adresse, Inhalt der Anfrage.

Rechtsgrundlage ist Art. 6 Abs. 1 lit. b DSGVO (Vertragserfüllung) bzw. Art. 6 Abs. 1 lit. f DSGVO (berechtigtes Interesse an konkretes Interesse, z.B. effizienter Bearbeitung von Kundenanfragen). Automatisierte Einzelentscheidungen im Sinne von Art. 22 DSGVO finden nicht statt; alle Entscheidungen, die Sie betreffen, werden von Mitarbeitern getroffen. Falls doch automatisierte Entscheidungen: Sofern automatisierte Entscheidungen im Sinne von Art. 22 Abs. 1 DSGVO stattfinden, haben Sie das Recht auf Anfechtung der Entscheidung, auf Darlegung des eigenen Standpunkts und auf Erwirkung des Eingreifens einer Person seitens des Verantwortlichen.

Auftragsverarbeiter ist Anbietername mit Sitz in Land. Bei USA-Transfer: Die Datenübermittlung erfolgt auf Grundlage von Standardvertragsklauseln (Art. 46 Abs. 2 lit. c DSGVO) / des EU-U.S. Data Privacy Framework. Die Daten werden nach Zeitraum gelöscht. Ihre Rechte auf Auskunft, Berichtigung, Löschung, Einschränkung und Widerspruch (Art. 15-21 DSGVO) bleiben unberührt.

Interne KI-Richtlinie: Muster-Grundsätze

Das folgende Beispiel zeigt, wie eine interne KI-Richtlinie aufgebaut sein kann. Die Struktur orientiert sich an Empfehlungen von Datenschutzkanzleien (vgl. SRD Rechtsanwälte, caralegal). Die Formulierungen sind bewusst konkret gehalten, damit sie als Ausgangspunkt dienen.

1. Geltungsbereich Diese Richtlinie gilt für alle Mitarbeiter, Praktikanten und externen Dienstleister, die im Rahmen ihrer Tätigkeit für Unternehmen KI-Tools nutzen. Sie ist verbindlich und wird durch Unterschrift oder digitale Kenntnisnahme bestätigt.

2. Zugelassene Tools und Freigabeprozess Für den dienstlichen Einsatz sind ausschließlich folgende KI-Tools freigegeben: Tool-Liste mit Plan-Angabe, z.B. "ChatGPT Enterprise", "Claude for Work", "GitHub Copilot Business". Die Nutzung privater Konten oder nicht freigegebener KI-Tools für dienstliche Zwecke ist untersagt. Neue Tools werden erst nach Prüfung durch IT-Sicherheit / Datenschutzbeauftragter und Abschluss eines Auftragsverarbeitungsvertrags freigegeben. Anfragen zur Freigabe neuer Tools sind an Stelle/E-Mail zu richten.

3. Datenklassifikation Vor jeder Eingabe in ein KI-Tool ist zu prüfen, welche Daten betroffen sind:

• Öffentliche Daten (Stufe 1): dürfen ohne Einschränkung eingegeben werden.
• Interne Daten (Stufe 2): dürfen nur in freigegebene Enterprise-Tools eingegeben werden.
• Personenbezogene Daten (Stufe 3): nur anonymisiert oder pseudonymisiert eingeben. Namen, E-Mail-Adressen, Kundennummern oder andere identifizierende Merkmale vorher entfernen oder durch Platzhalter ersetzen.
• Vertrauliche Daten (Stufe 4): dürfen nicht in externe KI-Tools eingegeben werden. Dazu gehören: Passwörter, Zugangsdaten, Gesundheitsdaten, Finanzdaten, Geschäftsgeheimnisse, Quellcode mit Sicherheitsrelevanz.

Im Zweifel gilt die höhere Stufe. Wer unsicher ist, fragt vor der Eingabe bei Datenschutzbeauftragter / Vorgesetzter nach.

4. Transparenz und Kennzeichnung Systeme, die direkt mit Personen interagieren (z.B. Chatbots), müssen als KI erkennbar sein (Art. 50 Abs. 1 AI Act). KI-generierte Texte, die der öffentlichen Information dienen, müssen als solche gekennzeichnet werden (Art. 50 Abs. 4 AI Act). Für interne Entwürfe und Zusammenfassungen ist keine Kennzeichnung nötig.

5. Verantwortlichkeit und Prüfpflicht Wer ein KI-Tool nutzt, bleibt für das Ergebnis verantwortlich. KI-generierte Texte, Code oder Analysen sind vor der Verwendung auf Richtigkeit, Urheberrechtsverletzungen und unbeabsichtigte Offenlegung vertraulicher Informationen zu prüfen. "Die KI hat das so geschrieben" ist keine Entlastung.

6. Meldepflicht Verdacht auf Datenschutzverstöße im Zusammenhang mit KI-Tools (z.B. versehentliche Eingabe personenbezogener Daten, unerwartete Ausgaben mit sensiblen Inhalten, ungewöhnliches Modellverhalten) sind unverzüglich an Datenschutzbeauftragter / IT-Sicherheit zu melden. Das gilt auch für Fälle, in denen Dritte über KI-generierte Inhalte an Informationen gelangen, die nicht für sie bestimmt waren.

7. Verstöße Vorsätzliche oder grob fahrlässige Verstöße gegen diese Richtlinie können arbeitsrechtliche Konsequenzen nach sich ziehen. Bei Verstößen durch externe Dienstleister behält sich Unternehmen vertragliche Maßnahmen vor.

Was sich 2026 ändert

Die Hochrisiko-Regulierung des EU AI Act wird schrittweise wirksam. Für KI-Systeme in Bereichen wie Beschäftigung, Kreditscoring oder Bildung kommen zusätzliche Pflichten: Grundrechtsfolgenabschätzung, technische Dokumentation, menschliche Aufsicht. Die Bußgelder addieren sich: bis zu 20 Millionen Euro nach DSGVO plus bis zu 35 Millionen Euro nach KI-Verordnung.

Das EDPB arbeitet mit der EU-Kommission an gemeinsamen Leitlinien zum Zusammenspiel von AI Act und DSGVO, die 2026 verabschiedet werden sollen. Bis dahin gilt: Wer die DSGVO-Basics bei KI-Tools sauber umsetzt, hat die Grundlage für die zusätzlichen AI-Act-Pflichten bereits gelegt.

Was heißt das für meine Rolle?

Was das für DACH-Teams heißt

Die Hürde ist nicht die Technik. Enterprise-Pläne, AVVs und EU-Hosting gibt es bei allen großen Anbietern. Die Hürde ist die Organisation: Wer entscheidet, welche Tools erlaubt sind? Wer führt die DSFA durch? Wer schult die Mitarbeiter? Wer kontrolliert, dass sich alle daran halten?

Wer diese Fragen beantwortet hat, kann KI-Tools DSGVO-konform einsetzen. Wer sie ignoriert, sammelt Compliance-Schulden, die irgendwann fällig werden. Und "das haben wir nicht gewusst" schützt vor der Aufsichtsbehörde nicht.