DSGVO-konforme KI: Praxisleitfaden 2026 für Unternehmen
Quick Answer: Was ist eine DSGVO-konforme KI?
Eine KI ist DSGVO-konform, wenn sie personenbezogene Daten unter kumulativer Beachtung der DSGVO (Rechtmäßigkeit, Datenminimierung, Transparenz, Sicherheit) und — seit 2024 — der KI-Verordnung der Europäischen Union (KI-VO) verarbeitet. Konkret verlangt das sechs Dinge:
- Eine identifizierte Rechtsgrundlage für jede Verarbeitung (Einwilligung, berechtigtes Interesse, Vertragserfüllung, rechtliche Verpflichtung).
- Effektive Datenminimierung: keine personenbezogenen Daten an eine generative KI senden, wenn anonymisierte oder aggregierte Daten ausreichen.
- Eine dokumentierte Datenschutz-Folgenabschätzung (DSFA), sobald eine KI-Nutzung ein hohes Risiko aufweist: HR, Kreditscoring, Biometrie, kritische Infrastruktur.
- Einen soliden vertraglichen Rahmen mit dem Modellanbieter: Auftragsverarbeitungsvertrag (AVV), Liste der Unterauftragsverarbeiter, Hosting-Standort, Löschbedingungen.
- Eine klare Unterscheidung zwischen Endnutzer-Tools, Enterprise-Tools und Installation auf eigenen Servern (»On-Premise«).
- Eine Schulung der Teams zur KI-Nutzung, gemäß Artikel 4 der KI-VO verpflichtend.
Eine »DSGVO-Zertifizierung« eines Modells existiert nicht — konform oder nicht ist die Nutzung, nicht das Tool isoliert betrachtet. Ein ohne Rahmen genutztes Mistral Le Chat Enterprise kann gegen die DSGVO verstoßen; ein mit Sorgfalt eingesetztes ChatGPT Enterprise kann konform sein. Der entscheidende Faktor ist die Governance, nicht die Marke.
Warum dieses Thema, jetzt
Drei Verschiebungen zwischen 2024 und 2026 haben die KI-DSGVO-Konformität operativ statt theoretisch werden lassen.
Verschiebung 1 — Die KI-Verordnung gilt schrittweise seit Februar 2025. Erstmals wird KI nicht mehr nur durch die DSGVO reguliert (die für personenbezogene Daten gilt), sondern auch durch eine spezifische Verordnung für KI-Systeme. Beide Rahmen kumulieren sich — keine Option, das eine ohne das andere zu erfüllen.
Verschiebung 2 — Die Sanktionen sind aktiv. Das Garante (Italien) hat OpenAI im Dezember 2024 mit 15 Millionen Euro sanktioniert wegen fehlender dokumentierter Analyse und Unrichtigkeit der erzeugten Inhalte. Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) sowie mehrere Landesdatenschutzbeauftragte (LfDI Baden-Württemberg, BayLDA, HmbBfDI, BlnBDI) haben 2024-2026 KI als Prüfschwerpunkt benannt. Das BayLDA hat bereits mehrere Bußgelder im hohen sechsstelligen Bereich gegen Unternehmen verhängt, die ChatGPT ohne Auftragsverarbeitungsvertrag in HR-Prozessen einsetzten. Die EDSA-Stellungnahme 28/2024 hat die Erwartungen der europäischen Aufsichtsbehörden geklärt. Das Sanktionsrisiko materialisiert sich — nicht morgen, heute.
Verschiebung 3 — Die Tools sind gereift, also auch die Erwartungen. 2023 hielt das Argument »wir lernen, wir entdecken«. 2026 existieren die Enterprise-Angebote (ChatGPT Enterprise, Mistral Le Chat Enterprise, Claude für Unternehmen) lange genug, um als Standard zu gelten. Sie nicht gewählt zu haben, die zugehörige Dokumentation nicht zu besitzen, keine Richtlinie und Schulung zu haben — das ist nun ein Verstoß, keine Ausrede mehr.
Die Rechnung hat sich geändert: KI-DSGVO-Konformität ist kein »irgendwann zu prüfendes« Thema mehr, sondern ein erwartetes Lieferobjekt im Prüfungsfall.
Der Rechtsrahmen: ein Stapel DSGVO + KI-Verordnung + TTDSG
Die Compliance eines KI-Systems in Deutschland fällt nicht mehr unter einen einzigen Text. Drei Rahmen überlagern sich und greifen ineinander.
Die DSGVO (Verordnung (EU) 2016/679) bleibt das Fundament für jede Verarbeitung personenbezogener Daten, einschließlich in einem KI-System. Alle klassischen Pflichten gelten: Rechtsgrundlage, Datenminimierung, Richtigkeit, Speicherbegrenzung, Sicherheit, Transparenz, Betroffenenrechte (Auskunft, Berichtigung, Widerspruch, Löschung, Datenübertragbarkeit). KI ist kein Ausnahmeregime — sie ist ein DSGVO-Anwendungsfall mit technischen Besonderheiten. Hinzu kommt das Bundesdatenschutzgesetz (BDSG), das die DSGVO insbesondere im Beschäftigtendatenschutz konkretisiert (§ 26 BDSG zum Beschäftigtendatenschutz).
Die KI-Verordnung (Verordnung (EU) 2024/1689, »KI-VO«) gilt schrittweise seit Februar 2025. Sie klassifiziert KI-Systeme in vier Risikokategorien (inakzeptabel, hoch, begrenzt, minimal), verhängt spezifische Pflichten an Anbieter und Betreiber und führt für Organisationen die Pflicht zur KI-Kompetenz ein. Die Sanktionen können bei verbotenen Praktiken 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes erreichen.
Das Telekommunikation-Telemedien-Datenschutz-Gesetz (TTDSG) regelt weiterhin den Einsatz von Cookies und den Zugriff auf Endgeräte. Für die meisten KI-Anwendungsfälle hat es geringe direkte Auswirkungen, außer auf damit verbundene Analytics-Schichten.
Praktische Verzahnung: Die DSGVO legt fest, was mit personenbezogenen Daten getan werden darf, die KI-VO legt die spezifischen Anforderungen an KI-Systeme fest, das TTDSG rahmt die technischen Schichten ein. Alle drei gelten gleichzeitig — keine Hierarchie, die von einem Text befreien würde.
Zuständigkeiten in Deutschland
Im Gegensatz zu Frankreich (CNIL) oder Italien (Garante) ist die Datenschutzaufsicht in Deutschland föderal organisiert:
- BfDI (Bundesbeauftragter für den Datenschutz und die Informationsfreiheit): zuständig für Bundesbehörden und Telekommunikations-/Postanbieter
- LfDI / Landesbeauftragte: 16 Landesbehörden (LfDI Baden-Württemberg, BayLDA Bayern, BlnBDI Berlin, HmbBfDI Hamburg, LDI NRW etc.) — zuständig für Privatunternehmen je nach Hauptniederlassung
- DSK (Datenschutzkonferenz): Koordinationsgremium der Bundes- und Länderbehörden, veröffentlicht Beschlüsse und Muss-Listen für DSFA
Für die KI-Verordnung wird die Bundesnetzagentur als zentrale Marktaufsichtsbehörde benannt, koordiniert mit den Datenschutzaufsichtsbehörden für die personenbezogenen Datenaspekte.
Vier Hauptrisiken personenbezogener Daten in generativen KIs
Vor den Best Practices: die konkreten Risiken verstehen. Vier stechen heraus.
1. Der Trainings-Leak
Endnutzer-KIs (kostenloses ChatGPT oder Plus, kostenloses Claude, Endnutzer-Gemini) nutzen Konversationen standardmäßig zur Verbesserung ihrer Modelle. Eine in einer Anfrage (»Prompt«) gesendete personenbezogene Information kann so in das Modell integriert werden, theoretisch durch andere Nutzende über Angriffstechniken (»Jailbreak«, »Model Inversion«) extrahierbar.
DSGVO-Konsequenz: unkontrollierte Übermittlung und Verarbeitung personenbezogener Daten ohne Rechtsgrundlage und ohne vertraglichen Rahmen. Unmittelbares Bußgeldrisiko bei einer Prüfung durch die Aufsichtsbehörde.
Mitigation: durch verbindliche KI-Richtlinie förmlich verbieten, eine offizielle Enterprise-Alternative bereitstellen.
2. Die unzulässige Aufbewahrung
Selbst bei Enterprise-Angeboten (ChatGPT Team/Enterprise, Mistral Le Chat Enterprise) werden ausgetauschte Daten auf den Servern des Anbieters für variable Zeiträume aufbewahrt (30 Tage Standard bei OpenAI, verhandelbare Dauern bei Mistral). Diese Aufbewahrung muss:
- Im Verzeichnis von Verarbeitungstätigkeiten dokumentiert sein
- Mit der nach DSGVO vorgesehenen Speicherdauer übereinstimmen
- Durch einen unterzeichneten Auftragsverarbeitungsvertrag (AVV nach Art. 28 DSGVO) abgedeckt sein
Andernfalls liegt ein Verstoß gegen Art. 5 Abs. 1 lit. e DSGVO vor (Speicherbegrenzung).
3. Der Drittstaaten-Transfer
In den USA gehostete LLMs (OpenAI, Anthropic, Google) verarbeiten Daten standardmäßig jenseits des Atlantiks. Das Data Privacy Framework (DPF) legalisiert technisch diesen Transfer seit Juli 2023, bleibt aber rechtlich umstritten. Eine deutsche Organisation, die ihre KI-Strategie allein auf das DPF stützt, setzt sich einem »Schrems III« aus, der diese Datenflüsse über Nacht ungültig machen könnte. Der BfDI hat 2025 ausdrücklich vor einer ausschließlichen Berufung auf das DPF gewarnt und empfiehlt zusätzliche Garantien (Standardvertragsklauseln plus Transfer Impact Assessment, Pseudonymisierung in der Vorstufe).
Mitigation: die Wahl eines europäischen Anbieters (Mistral, Aleph Alpha) oder einer On-Premise-Lösung beseitigt dieses Risiko schlicht und einfach, anstatt es vertraglich zu mitigieren. Siehe unseren Leitfaden zur souveränen KI.
4. Die algorithmische Unrichtigkeit
Generative KIs »halluzinieren« — sie produzieren plausible, aber falsche Aussagen, ohne die Unsicherheit zu signalisieren. Wenn diese Aussagen eine identifizierbare Person betreffen (ein zu Unrecht als ungeeignet bewerteter Bewerber, ein mit erfundenen Elementen beschriebener Kunde), liegt ein direkter Verstoß gegen Art. 5 Abs. 1 lit. d DSGVO (Richtigkeit) vor. Die italienische Aufsichtsbehörde Garante hat OpenAI 2024 auf diesem Grund sanktioniert.
Mitigation: systematische Verifikationspolitik für Inhalte, die identifizierbare Personen betreffen, vor effektiver Verwendung.
DSFA: wann ist sie für eine KI-Nutzung verpflichtend?
Die DSFA ist verpflichtend für jede Verarbeitung, »die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat« (Art. 35 DSGVO). Für eine KI-Nutzung haben die DSK und der EDSA die Fälle systematischer Erforderlichkeit präzisiert.
DSFA verpflichtend für folgende KI-Nutzungen:
- Profiling im großen Stil, das zu einer Entscheidung führt (Kreditscoring, Versicherungsscoring, Sozialleistungsbewilligung)
- Systematische Überwachung in öffentlich zugänglichen Bereichen (Gesichtserkennung, Verhaltensbiometrie)
- Verarbeitung sensibler Daten im Sinne von Art. 9 DSGVO (Gesundheit, politische Meinungen, Herkunft, sexuelle Orientierung, identifizierende Biometrie) im großen Stil
- Automatisierte Entscheidungen mit rechtlicher Wirkung oder erheblicher Beeinträchtigung der Person (Art. 22 DSGVO)
- Systematische Bewertung Beschäftigter durch ein KI-System (HR, Produktivität, People Analytics) — besonders sensibel angesichts der Mitbestimmungsrechte aus dem Betriebsverfassungsgesetz (BetrVG)
- Datenverknüpfung aus mehreren Quellen zur Profilbildung
DSFA nicht verpflichtend, aber empfohlen für:
- Schreibassistenz auf Geschäftsdaten (interne Notizen, Projekte, Sitzungsprotokolle)
- Dokumentensynthese auf nicht-personenbezogenen Dokumenten
- Automatische Übersetzung veröffentlichter Inhalte
- Generierung von Marketing-Inhalten
Bewertungskriterien im Einzelfall: Die DSK empfiehlt, Datenvolumen, Sensibilität, Vulnerabilität der Personen (Minderjährige, Beschäftigte, Patienten), innovative Natur der Verarbeitung und Automatisierungsgrad zu berücksichtigen.
Die DSFA muss vor der Implementierung erstellt, in einem Register aufbewahrt und bei jeder wesentlichen Änderung aktualisiert werden. Siehe unseren DSFA-Leitfaden für KI-Projekte für die vollständige Methodik.
Beschäftigtendatenschutz: die deutsche Besonderheit
Wo die DSGVO einen einheitlichen Rahmen festlegt, fügt das deutsche Recht eine substantielle Schicht hinzu, die der KI-Nutzung im HR-Bereich strengere Grenzen setzt als anderen europäischen Ländern.
§ 26 BDSG verlangt eine besondere Rechtsgrundlage für die Verarbeitung von Beschäftigtendaten und schränkt das berechtigte Interesse als Grundlage stark ein. Für KI-gestützte Personalauswahl ist die Einwilligung des Bewerbers erforderlich, aber unter Vorbehalt: Sie muss freiwillig sein, was im hierarchischen Kontext fragwürdig ist.
Das Betriebsverfassungsgesetz (BetrVG) verankert Mitbestimmungsrechte des Betriebsrats (§ 87 Abs. 1 Nr. 6 BetrVG): jede Einführung eines technischen Überwachungssystems oder einer KI, die Beschäftigtendaten verarbeitet (Performance-Tracking, Lebenslauf-Screening, automatisierte Beurteilung), erfordert eine Betriebsvereinbarung vor Inbetriebnahme. Ohne diese ist die Implementierung rechtlich nichtig, selbst wenn DSGVO und KI-VO im Übrigen eingehalten werden.
In der Praxis: Vor jedem KI-HR-Projekt zwingend Betriebsrat einbeziehen, eine Betriebsvereinbarung über KI-Nutzung im Personalwesen aushandeln (Anwendungsbereich, Datenarten, Aufbewahrungsdauer, Rechte der Beschäftigten, menschliche Aufsicht), die DSFA als Anlage zur Vereinbarung beifügen. Diese Sequenz unterscheidet sich wesentlich von der französischen oder italienischen Praxis und erklärt, warum mehrere KI-HR-Projekte 2024-2025 in Deutschland trotz auf Konzernebene geschlossener Verträge ins Stocken gerieten.
7 Best Practices der KI-DSGVO-Konformität
Sieben konkrete Praktiken, die eine vorbereitete Organisation von einer risikoreichen unterscheiden.
1. Durchsetzbare KI-Richtlinie. Kurzes Dokument (3-5 Seiten), das festlegt: welche Tools genehmigt sind, auf welchen Datenarten, mit welchen Pflichten (Verifikation, Nachvollziehbarkeit, Vorfallmeldung). An alle Mitarbeitenden verteilt, in die Arbeitsanweisung oder Betriebsvereinbarung integriert. Ohne Richtlinie ist es unmöglich, im Prüfungsfall einen Compliance-Ansatz nachzuweisen. Siehe unseren Leitfaden zur KI-Charta im Unternehmen.
2. Kartierung der KI-Nutzungen im Verzeichnis von Verarbeitungstätigkeiten. Jeder KI-Anwendungsfall, der personenbezogene Daten verarbeitet, muss als eigenständige Verarbeitung erscheinen, mit: Zweck, Rechtsgrundlage, verarbeiteten Daten, Auftragsverarbeiter, Aufbewahrungsfristen, Empfängern, Drittstaaten-Transfers, Sicherheitsmaßnahmen.
3. Mit dem Modellanbieter unterzeichneter AVV. Für OpenAI, Anthropic, Google: Standard-AVV, aber mit deren Unterauftragsverarbeitern zu validieren. Für Mistral: AVV nativ verfügbar. Für intern bereitgestellte offene Modelle: kein AVV mit einem Editor, da kein Auftragsverarbeiter, der die Daten verarbeitet — aber der Hosting-Anbieter und der eventuelle Managed Service Provider (MSP) müssen einen AVV unterzeichnen.
4. Systematische Pseudonymisierung vor Versand. Wann immer möglich, Namen, Identifikatoren, Kontakte vor dem Senden eines Textes an ein LLM entfernen oder ersetzen. Eine gute KI muss nicht wissen, wer betroffen ist, um eine Synthese oder Zusammenfassung zu erstellen. Siehe unseren Leitfaden zur Anonymisierung und NER durch KI.
5. Menschliche Aufsicht über automatisierte Entscheidungen. Art. 22 DSGVO untersagt, vorbehaltlich Ausnahmen, Entscheidungen, »die ausschließlich auf einer automatisierten Verarbeitung beruhen«. Für jeden KI-Anwendungsfall, der eine Empfehlung mit rechtlicher oder erheblicher Wirkung produziert, eine dokumentierte menschliche Überprüfung vorsehen.
6. Transparente Information der Personen. Art. 13/14 DSGVO: über den Einsatz eines KI-Systems, die zugrunde liegende Logik und mögliche Konsequenzen informieren. Diese Information muss zu den bestehenden Datenschutzhinweisen und Datenschutzerklärungen hinzugefügt werden.
7. Nachvollziehbarkeit von Prompts und Ausgaben. Für sensible Nutzungen ein Protokoll der gesendeten Prompts und erhaltenen Ausgaben mit Zeitstempel und Nutzer aufbewahren. Unverzichtbar bei einer Untersuchung der Aufsichtsbehörde oder einem Auskunftsersuchen einer betroffenen Person.
Public Cloud vs. On-Premise: die Entscheidungsmatrix
Eine der strukturierendsten Entscheidungen in der KI-Compliance ist der Bereitstellungsmodus. Drei Optionen, drei Risikoexpositionsstufen.
| Kriterium | LLM für Endnutzer (kostenloses ChatGPT/Claude/Gemini) | Enterprise-SaaS-LLM (ChatGPT Enterprise, Mistral Le Chat) | On-Premise-LLM (Mistral, Llama, Qwen auf interner Infra) |
|---|---|---|---|
| Daten zum Training genutzt | Ja (Standard) | Nein (AVV) | Nein |
| AVV verfügbar | Nein | Ja | N/A |
| Hosting | Hauptsächlich USA | EU (Mistral) oder regionale Wahl (OpenAI) | Intern oder souveräne Cloud |
| DPF / Cloud Act-Risiko | Sehr hoch | Mittel (EU) bis hoch (US) | Null |
| Geeignet für nicht-sensible personenbezogene Daten | ❌ | ✅ mit AVV | ✅ |
| Geeignet für sensible Daten (Gesundheit, Biometrie) | ❌ | ⚠️ DSFA erforderlich + souveräne Cloud (C5/IT-Grundschutz) | ✅ empfohlen |
| Bereitstellungskosten | Niedrig | Mittel (15-60 €/Nutzer/Monat) | Hoch initial (Hardware + Integration) |
| Reversibilität | Niedrig | Mittel | Total |
Einfache Regel: Endnutzer-Tools nur für komplett nicht-personenbezogene Nutzungen (Marketing-Texte, öffentliche Übersetzung, Prototyping). Enterprise-SaaS für die meisten Geschäftsnutzungen. On-Premise sobald die verarbeiteten Daten sensibel sind, einem Berufsgeheimnis unterliegen oder die Servicekritikalität es erfordert. Für deutsche Behörden und kritische Infrastrukturen: BSI-C5-Zertifizierung oder IT-Grundschutz-Konformität für die Cloud-Schicht prüfen.
Siehe unseren Leitfaden zu lokalen LLMs im Unternehmen für die Details der On-Premise-Bereitstellung.
Sanktionen und aktuelle Rechtsprechung
Mehrere Fälle veranschaulichen, wie die deutschen und europäischen Aufsichtsbehörden den KI-DSGVO-Rahmen anwenden.
Garante (Italien) — OpenAI, März 2023 und Dezember 2024. Erste europäische Aufsichtsbehörde, die OpenAI sanktioniert hat: vorübergehende Sperrung von ChatGPT in Italien Anfang 2023, dann Bußgeld von 15 Millionen Euro im Dezember 2024 wegen fehlender Rechtsgrundlage, mangelnder Transparenz bei der Datenerhebung, fehlender Altersverifikation und Unrichtigkeit der über identifizierbare Personen erzeugten Inhalte. Diese Entscheidung wird vom BfDI als Bezugspunkt für deutsche Verfahren herangezogen.
BayLDA (Bayern) — KI-HR-Tools, 2025. Das Bayerische Landesamt für Datenschutzaufsicht hat 2025 mehrere Bußgelder gegen mittelständische Unternehmen verhängt, die generative KI für Lebenslauf-Screening ohne Betriebsvereinbarung, ohne DSFA und mit Übermittlung personenbezogener Daten an US-Anbieter ohne Pseudonymisierung einsetzten. Sanktionen zwischen 200.000 € und 1,2 Mio. €.
HmbBfDI (Hamburg) — Cookie- und Tracking-Verstöße, 2024-2025. Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit hat mehrere Hamburger Unternehmen wegen Einsatzes von Tracking-Tools mit unzureichender Einwilligung sanktioniert — eine Linie, die er nun auf KI-Analytics-Anwendungen ausdehnt, die Nutzerdaten ohne valide Rechtsgrundlage verarbeiten.
LfDI Baden-Württemberg — KI-Leitlinien, 2025. Die baden-württembergische Aufsichtsbehörde war eine der ersten in Deutschland, die einen detaillierten KI-Leitfaden veröffentlichte, mit klaren Erwartungen: dokumentierte Rechtsgrundlage, vorab-DSFA für hohe Risiken, Pseudonymisierung als Standard, kein Einsatz von US-LLMs für sensible Daten ohne zusätzliche Garantien.
EDSA — Stellungnahme 28/2024. Der EDSA hat im Dezember 2024 eine Stellungnahme zu KI-Modellen und personenbezogenen Daten veröffentlicht, die klärt: (1) ein KI-Modell kann auch nach dem Training personenbezogene Daten verarbeiten (die Modellgewichte können identifizierbare Information enthalten); (2) die Rechtsgrundlage muss für Training, Inferenz und Ausgabe einzeln beurteilt werden; (3) berechtigtes Interesse ist kein Freibrief — es erfordert einen dokumentierten dreistufigen Test.
Die gemeinsame Botschaft dieser Entscheidungen: Die deutschen und europäischen Aufsichtsbehörden akzeptieren KI-Innovation, fordern aber einen dokumentierten und nachweisbaren Compliance-Ansatz. Guter Glaube ohne Dokumentation schützt nicht im Audit.
Was wir nicht versprechen werden
Drei wiederkehrende Antipattern, die wir bei DPLIANCE vermeiden, wenn wir eine KI-Lösung für eine Kundenorganisation rahmen.
»Wir lösen alles, indem wir ChatGPT Enterprise unterzeichnen.« Falsch. Der Vertrag reicht nicht aus. Es braucht zusätzlich: die durchsetzbare KI-Richtlinie, die Schulung der Nutzenden (Art. 4 KI-VO), die Aufnahme in das VVT, die DSFA falls anwendbar, das Vorfallverfahren, die vorgelagerte Pseudonymisierung bei sensiblen Nutzungen, die Beteiligung des Betriebsrats falls HR-Kontext. Ohne diese Bausteine ist der Vertrag allein ein Papier, das im Prüfungsfall nicht standhält.
»Wir können alle Geschäftsdaten an das LLM senden, es ist sicher.« Falsch. Bei SaaS verlassen die Daten Ihren Perimeter — selbst mit AVV, selbst mit »Zero Retention«. Der richtige Reflex: minimieren. In der Vorstufe pseudonymisieren, wann immer möglich. Die richtige Tool-Stufe je nach Sensibilität wählen (souveräne Cloud für ernsthafte personenbezogene Daten, On-Premise für sensible Daten).
»DPLIANCE wird meine DSGVO-Compliance machen.« Nein. DPLIANCE ist ein Software-Editor. Wir entwerfen maßgeschneiderte KI-Lösungen, die sich in den von Ihrem Datenschutzbeauftragten definierten DSGVO-Rahmen einfügen. Wir produzieren die technische Dokumentation (Architektur, Modellwahl, Hosting, Sicherheitsmaßnahmen), die Ihr DSB in seine DSFA und sein VVT integrieren kann. Der DSB bleibt Herr der Compliance; wir liefern ihm das verlässliche Material. Für eine vollständige DSGVO-Inkonformitätskorrektur (Audit, VVT, DSFA) ist das ein anderes Handwerk.
FAQ
Darf ChatGPT im Unternehmen ohne DSGVO-Risiko genutzt werden?
Ja, unter Bedingungen. Die Team- oder Enterprise-Version (mit AVV, deaktiviertem Training auf Konversationen, Kontokontrolle durch die Organisation) ist für nicht-sensible Geschäftsdaten nutzbar. Die kostenlose oder Plus-Version (persönliches Konto) ist nie konform für die Verarbeitung personenbezogener Daten im beruflichen Kontext — die Daten fließen in das Modell, verlassen den vertraglichen Rahmen und sind nicht mehr nachvollziehbar. Für sensible Daten (Gesundheit, Berufsgeheimnis, identifizierende HR-Daten) reicht selbst die Enterprise-Version nicht aus: On-Premise oder eine souveräne Alternative werden empfohlen.
Ist Mistral automatisch DSGVO-konform?
Nein — kein Tool ist automatisch konform. Mistral Le Chat Enterprise bietet einen nativen DSGVO-Rahmen (EU-Hosting bei Scaleway, AVV, kein Training auf Konversationen), der die Compliance erheblich erleichtert — er beseitigt insbesondere das Risiko durch DPF/Cloud Act. Aber das Tool allein schafft keine Konformität: Es braucht eine durchsetzbare KI-Richtlinie, ein aktuelles VVT, die Einhaltung des Grundsatzes der Datenminimierung, eine DSFA für Verarbeitungen mit hohem Risiko und die Schulung der Beschäftigten. Mistral ist ein guter Ausgangspunkt, keine vollständige Antwort.
Brauche ich eine DSFA, um ein LLM intern zu nutzen?
Nicht systematisch. Die DSFA ist nach Art. 35 DSGVO und der Muss-Liste der DSK für Verarbeitungen mit voraussichtlich hohem Risiko erforderlich. Eine generische Nutzung (Texterstellung, Zusammenfassung, Übersetzung) auf pseudonymisierten Geschäftsdaten erfordert keine (wird aber für die interne Dokumentation empfohlen). HR-Anwendungsfälle, Scoring, Beschäftigtenüberwachung, identifizierende Gesundheitsdaten oder automatisierte Entscheidungen mit rechtlicher Wirkung: ja, DSFA verpflichtend und vorab. Siehe unseren DSFA-Leitfaden für KI-Projekte.
Gelten an ein LLM gesendete Konversationen als personenbezogene Daten?
Ja, sobald sie Daten enthalten, die eine Person direkt oder indirekt identifizieren. Dies umfasst offensichtlich einen Namen, aber auch einen ausreichend präzisen Kontext (»der Vertriebsleiter, der ACME im März 2025 verlassen hat«), eine seltene Kombination von Attributen (Alter + Stadt + Beruf) oder interne Referenzen (Aktenzeichen, Kunden-ID). In der Praxis verarbeitet ein großer Teil professioneller Prompts personenbezogene Daten, ohne dass die Nutzenden sich dessen bewusst sind — daher die Bedeutung von KI-Richtlinie und Schulung.
Macht das DPF (Data Privacy Framework) die Nutzung eines US-LLM rechtssicher?
Das DPF macht den EU-US-Transfer zu einem zertifizierten Anbieter technisch rechtmäßig — im April 2026 sind OpenAI, Anthropic, Google und Microsoft Mitglieder. Aber das DPF bleibt rechtlich umstritten (Latombe-Klage vor dem EuGH, NOYB-Wachsamkeit) und mehrere europäische Aufsichtsbehörden (BfDI, Garante) empfehlen trotz Annahme zusätzliche Maßnahmen (Transfer Impact Assessment, vorgelagerte Pseudonymisierung, Ende-zu-Ende-Verschlüsselung). Für eine strategische KI-Nutzung ist es vorsichtiger, sich nicht allein auf das DPF zu verlassen — entweder durch Wahl eines souveränen Anbieters oder durch On-Premise-Bereitstellung.
Was verlangt die KI-Verordnung bezüglich Mitarbeiterschulung?
Artikel 4 der KI-Verordnung verlangt von Organisationen sicherzustellen, dass Personen, die ein KI-System im beruflichen Kontext nutzen, über ein »ausreichendes Maß an KI-Kompetenz« verfügen, angepasst an Nutzungskontext und Systemtyp. Diese Pflicht gilt seit Februar 2025 für die meisten Systeme. In der Praxis: eine KI-Richtlinie, eine zugehörige Schulung (Workshop von mindestens 30-60 Minuten pro Nutzer), ein jährliches Auffrischungsmodul. Ohne diese Bausteine verstößt die Organisation direkt gegen Art. 4 KI-VO, unabhängig von der DSGVO-Konformität.
Was tun, wenn eine Person die Löschung ihrer von einem LLM verarbeiteten Daten verlangt?
Liegen die Daten in einem SaaS-System mit konfigurierbarer Aufbewahrung (ChatGPT Enterprise, Mistral Le Chat Enterprise), ist die Löschung in der Regel über die Administrator-API oder den Anbieter-Support innerhalb der DSGVO-Fristen (ein Monat) durchführbar. Hat die Daten zum Training eines Modells beigetragen, ist die Löschung im strengen Sinn technisch unmöglich (Modellgewichte können nicht ohne prohibitiven Aufwand »rückwärts trainiert« werden). Der EDSA toleriert alternative Maßnahmen (Output-Filterung, periodisches Re-Training, Deaktivierung der Ausgabe zur betroffenen Person) unter der Bedingung, deren dokumentierte Wirksamkeit nachzuweisen.
Darf generative KI für HR-Verarbeitungen (Lebenslauf, Beurteilung) eingesetzt werden?
Ja, unter strengen Bedingungen. Artikel 22 DSGVO untersagt — vorbehaltlich Ausnahmen — Entscheidungen, die »ausschließlich auf einer automatisierten Verarbeitung beruhen« und rechtliche Wirkung entfalten oder die Person erheblich beeinträchtigen (Ablehnung einer Einstellung, Sanktion, Ablehnung einer Beförderung). In der Praxis: KI darf bei der Vorauswahl helfen, aber die Letztentscheidung muss menschlich und dokumentiert bleiben. DSFA verpflichtend (hohes Risiko), dokumentierte Bias-Tests, vorherige Information der Bewerbenden, Widerspruchsrecht, menschliche Überprüfung. Das Ganze im Rahmen der KI-Richtlinie und nach Beteiligung des Betriebsrats gemäß § 87 BetrVG. Ohne diese Schutzmaßnahmen ist die Nutzung offenkundig nicht konform.
Quellen: Verordnung (EU) 2016/679 (DSGVO); Verordnung (EU) 2024/1689 (KI-Verordnung), insbesondere Artikel 4, 9, 35; Bundesdatenschutzgesetz (BDSG); Betriebsverfassungsgesetz (BetrVG); BfDI, Empfehlungen zu KI und personenbezogenen Daten (bfdi.bund.de); LfDI Baden-Württemberg, KI-Leitfaden 2025; BayLDA, Tätigkeitsbericht 2024-2025; DSK, Beschlüsse zu KI-Systemen; EDSA, Stellungnahme 28/2024 zu KI-Modellen und der DSGVO; Garante per la protezione dei dati personali — OpenAI-Entscheidungen 2023 und 2024; EuGH, Schrems-II-Urteil vom 16. Juli 2020 (C-311/18); Europäische Kommission, Angemessenheitsbeschluss Data Privacy Framework, 10. Juli 2023.
Zur Rahmung der Compliance eines KI-Projekts in Ihrer Organisation — Architekturwahl, souveränes oder lokales Modell, IT-Integration, technische Dokumentation für die DSFA — siehe unseren DSFA-Leitfaden für KI-Projekte, unseren Leitfaden zur souveränen KI, unseren Leitfaden zur KI-Charta im Unternehmen, oder kontaktieren Sie uns über unsere maßgeschneiderten KI-Lösungen.