DSGVO-konforme KI im Unternehmen einführen

Die Einführung eines KI-Werkzeugs ist datenschutzrechtlich zunächst nichts anderes als die Einführung jeder anderen Software, die personenbezogene Daten verarbeitet. Die Datenschutz-Grundverordnung (DSGVO) kennt keine Sonderregeln für Künstliche Intelligenz. Besonders ist allerdings, wie leicht personenbezogene Daten in ein Sprachmodell gelangen: in Eingaben, in hochgeladenen Dokumenten, in angebundenen Postfächern und Dateiablagen. Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden (DSK) hat dazu am 6. Mai 2024 eine Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht, die für die folgenden Punkte den Maßstab bildet.

Die Checkliste richtet sich an Geschäftsführung, Datenschutzbeauftragte und IT-Verantwortliche mittelständischer Unternehmen. Sie ersetzt keine Rechtsberatung, ordnet aber die Pflichten in der Reihenfolge, in der sie in einem Einführungsprojekt anfallen.

Die Prüfung beginnt vor der Auswahl des Werkzeugs

Die DSK empfiehlt, bereits bei der Auswahl einer KI-Anwendung festzulegen, für welche Zwecke sie eingesetzt werden soll und ob dafür überhaupt personenbezogene Daten erforderlich sind. Aus der Zweckbestimmung ergeben sich Rechtsgrundlage, Risikoeinschätzung und Anforderungen an den Anbieter. Wer erst nach dem Kauf prüft, stellt häufig fest, dass sich zentrale Anforderungen mit dem gewählten Produkt nicht umsetzen lassen, etwa der Ausschluss der Eingaben vom Modelltraining oder die Verarbeitung ausschließlich in der EU.

Checkliste in zehn Punkten

1. Verarbeitungsverzeichnis ergänzen

Nach Artikel 30 DSGVO führt jeder Verantwortliche ein Verzeichnis seiner Verarbeitungstätigkeiten. Das KI-Werkzeug erhält dort einen eigenen Eintrag oder wird in bestehende Einträge aufgenommen, mit Zweck, Kategorien betroffener Personen und Daten, Empfängern, Drittlandübermittlungen, Löschfristen und technischen und organisatorischen Maßnahmen. Die Ausnahme in Artikel 30 Absatz 5 für Unternehmen mit weniger als 250 Beschäftigten greift nur bei gelegentlicher Verarbeitung ohne Risiko und ohne besondere Datenkategorien. Nach dem Positionspapier der Artikel-29-Gruppe, das der Europäische Datenschutzausschuss übernommen hat, ist eine Verarbeitung nur dann „gelegentlich“, wenn sie außerhalb des regulären Geschäftsbetriebs stattfindet; regelmäßig genutzte Werkzeuge fallen nicht darunter.

2. Rechtsgrundlage bestimmen

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Artikel 6 Absatz 1 DSGVO. Für die Nutzung eines KI-Werkzeugs im Unternehmen kommen je nach Zweck vor allem die Vertragserfüllung (Buchstabe b), etwa bei der Bearbeitung von Kundenanfragen, und das berechtigte Interesse (Buchstabe f) in Betracht. Beim berechtigten Interesse ist eine dokumentierte Abwägung erforderlich. Für Beschäftigtendaten ist § 26 Bundesdatenschutzgesetz zu prüfen. Werden besondere Kategorien nach Artikel 9 verarbeitet, etwa Gesundheitsdaten in einer Arztpraxis, gelten zusätzliche Anforderungen. Die DSK weist darauf hin, dass für jede Verarbeitungsphase eine eigene Rechtsgrundlage vorliegen muss, also auch für ein etwaiges Training mit Eingabedaten.

3. Auftragsverarbeitungsvertrag abschließen

Wird das Werkzeug als Cloud-Dienst eines externen Anbieters genutzt, handelt dieser nach Einschätzung der DSK in der Regel als Auftragsverarbeiter. Dann ist ein Vertrag nach Artikel 28 Absatz 3 DSGVO erforderlich. Er muss unter anderem festlegen, dass der Anbieter nur auf dokumentierte Weisung verarbeitet, sein Personal zur Vertraulichkeit verpflichtet, die Sicherheitsmaßnahmen nach Artikel 32 umsetzt, Unterauftragsverarbeiter nur mit Genehmigung einsetzt, bei Betroffenenrechten und bei der Datenschutz-Folgenabschätzung unterstützt, Daten nach Vertragsende löscht oder zurückgibt und Nachweise sowie Überprüfungen ermöglicht. Prüfen Sie zusätzlich die Liste der Unterauftragsverarbeiter: Dort zeigt sich häufig, dass ein europäischer Anbieter die eigentliche Modellinferenz an einen Dienst außerhalb der EU weitergibt. Eine gemeinsame Verantwortlichkeit nach Artikel 26 kann nach der DSK vorliegen, wenn Anbieter und Kunde gemeinsam über Zwecke und Mittel entscheiden, etwa bei kooperativem Training.

4. Datenschutz-Folgenabschätzung prüfen

Artikel 35 Absatz 1 DSGVO verlangt eine Datenschutz-Folgenabschätzung (DSFA), wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Absatz 3 nennt Regelbeispiele: systematische und umfassende Bewertung persönlicher Aspekte mit Rechtswirkung, umfangreiche Verarbeitung besonderer Datenkategorien und systematische umfangreiche Überwachung öffentlicher Bereiche. Die Aufsichtsbehörden veröffentlichen nach Absatz 4 sogenannte Muss-Listen; die DSK-Liste für den nichtöffentlichen Bereich stammt vom 17. Oktober 2018. Die Leitlinien der Artikel-29-Gruppe (WP 248) nennen neun Kriterien, darunter die Verwendung neuer Technologien, die Verarbeitung sensibler Daten und die Bewertung oder Einstufung von Personen; treffen zwei davon zu, ist in der Regel eine DSFA durchzuführen. Die DSK hält fest, dass beim Einsatz von KI-Anwendungen „dies vielfach der Fall sein“ wird. Ein KI-Chat zur Textformulierung ohne Bezug zu Personen löst regelmäßig keine DSFA aus; ein Werkzeug, das Bewerbungen vorsortiert oder Kundenanfragen nach Bonität bewertet, in der Regel schon. Dokumentieren Sie in jedem Fall die Vorabprüfung.

5. Drittlandtransfer klären

Werden Daten in Länder außerhalb der EU und des EWR übermittelt, gelten die Artikel 44 bis 49 DSGVO. Für die USA besteht seit dem Durchführungsbeschluss (EU) 2023/1795 der Kommission vom 10. Juli 2023 ein Angemessenheitsbeschluss für Unternehmen, die nach dem EU-US Data Privacy Framework zertifiziert sind. Das Gericht der Europäischen Union hat die Klage gegen diesen Beschluss am 3. September 2025 abgewiesen (Rechtssache T-553/23); das dagegen eingelegte Rechtsmittel ist beim Gerichtshof anhängig (C-703/25 P). Der Beschluss gilt damit derzeit, seine Zukunft ist offen. Ohne Zertifizierung des Empfängers sind Standardvertragsklauseln mit einer dokumentierten Prüfung des Zielland-Rechts erforderlich. Anbieter, die Modelle und Anwendung vollständig in deutschen Rechenzentren betreiben, vereinfachen diesen Punkt erheblich. Wie vector zero das umsetzt, beschreibt die Seite Sicherheit.

6. Modelltraining mit Kundendaten ausschließen

Die DSK verlangt zu prüfen, ob Ein- und Ausgabedaten für das Training des Modells verwendet werden, ob darüber ausreichend informiert wird und ob sich die Nutzung ausschließen lässt. Ist ein Ausschluss nicht möglich und sind personenbezogene Daten betroffen, braucht das Training eine eigene Rechtsgrundlage. Die DSK bezeichnet Anwendungen, die Ein- und Ausgabedaten nicht zu Trainingszwecken verwenden, als „datenschutzrechtlich vorzugswürdig“. Der Europäische Datenschutzausschuss hat in seiner Stellungnahme 28/2024 vom 18. Dezember 2024 ergänzt, dass ein rechtswidrig trainiertes Modell die Rechtmäßigkeit seines späteren Einsatzes beeinträchtigen kann. Lassen Sie sich den Trainingsausschluss vertraglich zusichern und stellen Sie die Einstellung in Unternehmenskonten bereits bei der Einrichtung entsprechend ein.

7. Löschkonzept festlegen

Artikel 5 Absatz 1 Buchstabe e DSGVO begrenzt die Speicherung auf die Dauer, die für den Zweck erforderlich ist; Artikel 17 gibt betroffenen Personen ein Recht auf Löschung. Für KI-Werkzeuge sind drei Datenbestände zu regeln: die Eingabe-Historie der Nutzenden, hochgeladene oder angebundene Dokumente und Protokolldaten des Anbieters. Die DSK empfiehlt, die Eingabe-Historie in Unternehmenskonten so voreinzustellen, dass sie nicht über die Sitzung hinaus gespeichert wird, oder den Nutzenden die Wahl zu lassen. Legen Sie Fristen fest, benennen Sie Verantwortliche und prüfen Sie, wie der Anbieter Löschanfragen technisch umsetzt.

8. Betriebsrat beteiligen

Nach § 87 Absatz 1 Nr. 6 Betriebsverfassungsgesetz (BetrVG) hat der Betriebsrat mitzubestimmen bei der Einführung und Anwendung technischer Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Arbeitnehmer zu überwachen. Das Bundesarbeitsgericht lässt dafür die objektive Eignung zur Überwachung genügen, eine Überwachungsabsicht ist nicht erforderlich (Beschluss vom 13. Dezember 2016, 1 ABR 7/15). Ein KI-Werkzeug mit personenbezogenen Unternehmenskonten, das Eingaben protokolliert, erfüllt diese Voraussetzung in der Regel. Das Arbeitsgericht Hamburg hat mit Beschluss vom 16. Januar 2024 (24 BVGa 1/24) ein Mitbestimmungsrecht nur für den Sonderfall verneint, in dem Beschäftigte private Konten im Browser nutzten und der Arbeitgeber keinen Zugriff auf Daten hatte. Für die betriebliche Einführung mit Unternehmenskonten ist daher von einer Mitbestimmungspflicht auszugehen. Unabhängig davon ist der Betriebsrat nach § 90 Absatz 1 Nr. 3 BetrVG über die Planung von Arbeitsverfahren „einschließlich des Einsatzes von Künstlicher Intelligenz“ rechtzeitig zu unterrichten, und nach § 80 Absatz 3 Satz 2 BetrVG gilt die Hinzuziehung eines Sachverständigen als erforderlich, wenn er den Einsatz von KI beurteilen muss. Eine Betriebsvereinbarung regelt zulässige Zwecke, Auswertungsverbote, Protokollierung und Löschfristen in einem Dokument; die DSK empfiehlt diesen Weg ausdrücklich.

9. Interne KI-Richtlinie erlassen

Die DSK empfiehlt „klare interne Weisungen“, ob, unter welchen Voraussetzungen und zu welchen Zwecken welche KI-Anwendungen genutzt werden dürfen, ergänzt um konkrete Beispiele zugelassener und untersagter Einsatzszenarien. Eine Richtlinie sollte mindestens regeln: freigegebene Werkzeuge und Konten, das Verbot privater Konten für dienstliche Zwecke, welche Daten eingegeben werden dürfen und welche nicht, die Pflicht zur Prüfung von Ausgaben vor der Weiterverwendung, den Umgang mit Geschäftsgeheimnissen und Mandanten- oder Patientendaten, Kennzeichnungspflichten sowie Ansprechpersonen für Fragen und Vorfälle. Die DSK empfiehlt zudem, für Konten Funktions-E-Mail-Adressen statt personenbezogener Adressen zu verwenden, sofern die Anwendung nicht auf eigenen Servern läuft.

10. Beschäftigte schulen

Die DSK hält fest, dass Beschäftigte „durch Schulungen, Leitfäden und Gespräche“ dafür sensibilisiert werden sollten, ob und wie sie KI-Anwendungen nutzen dürfen. Seit dem 2. Februar 2025 verlangt zudem Artikel 4 der KI-Verordnung (EU) 2024/1689 von Betreibern Maßnahmen zur KI-Kompetenz ihres Personals. Beide Pflichten lassen sich in einer Schulung zusammenführen, die Funktionsweise und Grenzen der Werkzeuge, die interne Richtlinie und die datenschutzrechtlichen Grundregeln vermittelt. Dokumentieren Sie Teilnahme und Inhalte. Ein Schulungsangebot mit Nachweis finden Sie unter vector zero Learn.

Reihenfolge in einem Einführungsprojekt

Phase	Aufgaben	Beteiligte
Vorbereitung	Zwecke festlegen, Rechtsgrundlage bestimmen, Vorabprüfung zur DSFA, Anforderungen an Anbieter formulieren	Fachbereich, Datenschutzbeauftragte
Auswahl	Verarbeitungsort, Trainingsausschluss, Unterauftragsverarbeiter, Löschfunktionen prüfen, AVV verhandeln	IT, Einkauf, Datenschutzbeauftragte
Beteiligung	Betriebsrat unterrichten, Betriebsvereinbarung verhandeln, KI-Richtlinie abstimmen	Geschäftsführung, Betriebsrat, Personal
Einrichtung	Unternehmenskonten anlegen, Voreinstellungen zu Training und Historie setzen, Verarbeitungsverzeichnis ergänzen, DSFA abschließen	IT, Datenschutzbeauftragte
Betrieb	Schulung durchführen, Nutzung überprüfen, Löschkonzept anwenden, Rechtsentwicklung verfolgen	Fachbereich, Datenschutzbeauftragte

Was die Auswahl des Anbieters erleichtert

Mehrere Punkte der Checkliste hängen weniger von Ihrer Organisation als vom Anbieter ab: Verarbeitungsort, Trainingsausschluss, Unterauftragsverarbeiter und Löschfunktionen. Ein Anbieter, der Anwendung und Sprachmodelle in deutschen Rechenzentren betreibt, keine Eingaben zum Training verwendet und die Datenquellen des Unternehmens über eine geregelte Anbindung einbezieht, reduziert den Prüfaufwand bei Drittlandtransfer, Training und AVV deutlich. Die vector zero App erfüllt diese Anforderungen; die Einzelheiten stehen auf der Seite Sicherheit und in der Übersicht der Plattform. Für eine Einschätzung Ihres konkreten Vorhabens vereinbaren Sie eine Demo.

Quellen

• Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Artikel 5, 6, 9, 17, 26, 28, 30, 35 und 44 bis 49, Europäisches Parlament und Rat, 27. April 2016, dsgvo-gesetz.de
• Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0, Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK), 6. Mai 2024, datenschutzkonferenz-online.de
• Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist (nichtöffentlicher Bereich), Version 1.1, DSK, 17. Oktober 2018, datenschutzkonferenz-online.de
• Leitlinien zur Datenschutz-Folgenabschätzung (WP 248 rev.01), Artikel-29-Datenschutzgruppe, 4. Oktober 2017, vom Europäischen Datenschutzausschuss bestätigt, ec.europa.eu
• Position Paper on the derogations from the obligation to maintain records of processing activities pursuant to Article 30(5) GDPR, Artikel-29-Datenschutzgruppe, April 2018, edpb.europa.eu
• Stellungnahme 28/2024 zu bestimmten Datenschutzaspekten der Verarbeitung personenbezogener Daten im Zusammenhang mit KI-Modellen, Europäischer Datenschutzausschuss, 18. Dezember 2024, edpb.europa.eu
• Durchführungsbeschluss (EU) 2023/1795 über die Angemessenheit des Schutzniveaus nach dem Datenschutzrahmen EU-USA, Europäische Kommission, 10. Juli 2023, eur-lex.europa.eu
• Urteil des Gerichts der Europäischen Union vom 3. September 2025, Latombe gegen Kommission, T-553/23, dejure.org
• Betriebsverfassungsgesetz, §§ 80, 87 und 90, in der Fassung des Betriebsrätemodernisierungsgesetzes vom 14. Juni 2021 (BGBl. I S. 1762), dejure.org
• Beschluss des Bundesarbeitsgerichts vom 13. Dezember 2016, 1 ABR 7/15, dejure.org
• Beschluss des Arbeitsgerichts Hamburg vom 16. Januar 2024, 24 BVGa 1/24, besprochen von Gleiss Lutz, gleisslutz.com
• Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 4, Europäisches Parlament und Rat, 13. Juni 2024, eur-lex.europa.eu