KI datenschutzkonform einsetzen: DSGVO bei KI-Tools, AVV mit KI-Anbietern und KI-Richtlinie im Unternehmen
Auf den Punkt: KI-Tools lassen sich datenschutzkonform einsetzen – aber nur, wenn drei Dinge stimmen: eine Rechtsgrundlage nach Artikel 6 DSGVO für jede Verarbeitung personenbezogener Daten, ein Auftragsverarbeitungsvertrag mit dem Anbieter, sobald dieser personenbezogene Daten in Ihrem Auftrag verarbeitet, und klare interne Regeln, die festlegen, was Mitarbeitende mit welchen Daten in welches Tool eingeben dürfen. Die Datenschutzkonferenz hat dafür im Mai 2024 eine Orientierungshilfe veröffentlicht, an der sich Unternehmen verlässlich orientieren können.
Wenn Beschäftigte ChatGPT, Copilot oder ein anderes KI-Tool im Arbeitsalltag nutzen, fließen schnell personenbezogene Daten hinein – ein Kundenname in einer E-Mail, eine Bewerbung zur Zusammenfassung, ein Gesprächsprotokoll. Sobald das geschieht, gilt die DSGVO in vollem Umfang. Der EU AI Act regelt zusätzlich das KI-System selbst, ersetzt aber den Datenschutz nicht. Beide Regelwerke gelten parallel. Dieser Leitfaden zeigt, wie Sie KI rechtssicher in den Betrieb bringen, ohne Innovation auszubremsen.
Wann greift die DSGVO beim KI-Einsatz überhaupt?
Die DSGVO ist immer dann einschlägig, wenn personenbezogene Daten verarbeitet werden – also alle Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen. Tippt ein Mitarbeiter eine anonyme Frage in ein KI-Tool, ist der Datenschutz nicht berührt. Lädt er dagegen eine Kundenliste, einen Lebenslauf oder ein Meeting-Transkript hoch, liegt eine Verarbeitung personenbezogener Daten vor – mit allen Pflichten.
Die Datenschutzkonferenz (DSK), das Gremium der deutschen Aufsichtsbehörden, empfiehlt in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom 6. Mai 2024 daher als ersten Schritt, vor dem Einsatz festzulegen, für welche Einsatzfelder ein KI-Tool vorgesehen ist – und ob sich der Zweck nicht auch ohne personenbezogene Daten erreichen lässt. Datenminimierung ist hier kein Lippenbekenntnis, sondern der wirksamste Hebel: Was gar nicht erst in das System gelangt, muss auch nicht abgesichert werden.
Ein zweiter Punkt aus der Orientierungshilfe wird oft übersehen: die Klärung der eigenen Rolle. Sind Sie für die Verarbeitung Verantwortlicher, oder verarbeiten Sie Daten im Auftrag eines anderen? Davon hängt ab, welche Pflichten Sie treffen und welche Verträge nötig sind. Die DSK rät zudem ausdrücklich davon ab, personenbezogene Daten in offene, frei zugängliche KI-Systeme einzugeben, bei denen unklar ist, was mit den Eingaben geschieht. Für sensible Verarbeitungen sind geschlossene oder lokal betriebene Lösungen vorzuziehen.
Die richtige Rechtsgrundlage nach Artikel 6 DSGVO
Jede Verarbeitung braucht eine Rechtsgrundlage. Beim KI-Einsatz kommen in der Praxis vor allem drei in Betracht:
- Vertragserfüllung (Art. 6 Abs. 1 lit. b): wenn die KI-Verarbeitung unmittelbar nötig ist, um einen Vertrag mit der betroffenen Person zu erfüllen.
- Berechtigtes Interesse (Art. 6 Abs. 1 lit. f): häufig die Grundlage für interne Effizienz-Anwendungen – setzt aber eine dokumentierte Abwägung gegen die Interessen der Betroffenen voraus.
- Einwilligung (Art. 6 Abs. 1 lit. a): erforderlich, wenn keine andere Grundlage trägt – sie muss freiwillig, informiert und widerrufbar sein.
Wichtig: Auch bei vorhandener Rechtsgrundlage bleiben Transparenzpflichten bestehen. Nach Artikel 13 und 14 DSGVO müssen betroffene Personen über die Verarbeitung – und damit auch über einen KI-Einsatz – informiert werden. In der Datenschutzerklärung und in internen Verarbeitungsverzeichnissen sollte der KI-Einsatz daher abgebildet sein.
AVV mit dem KI-Anbieter: Wann er Pflicht ist
Verarbeitet ein KI-Anbieter personenbezogene Daten in Ihrem Auftrag und nach Ihren Weisungen, handelt es sich um eine Auftragsverarbeitung. Dann verlangt Artikel 28 DSGVO einen Auftragsverarbeitungsvertrag (AVV). Ohne ihn ist der Einsatz rechtswidrig – unabhängig davon, wie gut das Tool funktioniert. Der AVV legt unter anderem fest, dass der Anbieter die Daten ausschließlich nach Ihren Weisungen verarbeitet, sie nicht für eigene Zwecke nutzt, zur Vertraulichkeit verpflichtet ist und geeignete Schutzmaßnahmen ergreift. Er ist kein bürokratisches Beiwerk, sondern das vertragliche Rückgrat des gesamten Einsatzes.
Der entscheidende Prüfpunkt: Nutzt der Anbieter Ihre Eingaben, um eigene Modelle zu trainieren? Dann verarbeitet er die Daten zu eigenen Zwecken und ist insoweit kein reiner Auftragsverarbeiter mehr – eine Konstellation, die datenschutzrechtlich deutlich heikler ist. Viele Anbieter bieten inzwischen Geschäfts- oder Enterprise-Versionen an, bei denen das Training mit Eingaben abgeschaltet ist und ein AVV bereitsteht. Worauf Sie achten sollten:
| Prüfpunkt | Was Sie sicherstellen müssen |
|---|---|
| AVV nach Art. 28 | Schriftlicher Vertrag liegt vor und ist gegengezeichnet |
| Training mit Eingaben | Vertraglich ausgeschlossen (oder ausdrücklich erlaubt mit Rechtsgrundlage) |
| Drittlandtransfer | Standardvertragsklauseln bzw. Angemessenheitsbeschluss vorhanden |
| Subunternehmer | Liste offengelegt, Zustimmungsregelung geklärt |
| Löschung & Rückgabe | Verfahren nach Vertragsende geregelt |
| TOM | Technische und organisatorische Maßnahmen dokumentiert |
Die interne KI-Richtlinie: Klare Regeln statt Bauchgefühl
Verträge mit Anbietern allein genügen nicht, wenn im Alltag jede Abteilung eigene Tools nutzt. Eine interne KI-Richtlinie schafft verbindliche Leitplanken und schützt Mitarbeitende vor unbeabsichtigten Verstößen. Sie muss kein dickes Regelwerk sein – entscheidend ist, dass sie verständlich und gelebt ist. Eine gute Richtlinie regelt mindestens:
- Erlaubte Tools: Welche KI-Anwendungen sind freigegeben – und welche ausdrücklich nicht?
- Datenkategorien: Welche Daten dürfen eingegeben werden, welche nie (z. B. Gesundheitsdaten, vollständige Kundendatensätze, Geschäftsgeheimnisse)?
- Kennzeichnung: Wie werden KI-generierte Inhalte intern und gegenüber Kunden gekennzeichnet?
- Verantwortlichkeiten: Wer gibt neue Tools frei, wer ist Ansprechpartner bei Fragen?
- Kontrolle durch Menschen: KI-Ergebnisse werden vor Verwendung geprüft, nicht ungeprüft übernommen.
Flankiert wird die Richtlinie idealerweise durch kurze Schulungen. Das ist nicht nur Datenschutz-Hygiene, sondern erfüllt zugleich die Pflicht zur KI-Kompetenz nach Artikel 4 des EU AI Act, die seit Februar 2025 gilt. Wer beides zusammen denkt, vermeidet Doppelarbeit.
In der Praxis bewährt sich ein einfacher Reflex, den Sie Ihren Teams mitgeben können: Im Zweifel keine personenbezogenen oder vertraulichen Daten in ein KI-Tool eingeben – sondern erst nachfragen oder pseudonymisieren. Namen durch Platzhalter ersetzen, Kundenbezüge entfernen, nur das Nötigste übermitteln. Solche Mikro-Routinen verhindern die häufigsten Pannen wirksamer als jede lange Regel, die niemand liest. Wichtig ist außerdem, die Richtlinie lebendig zu halten: Der KI-Markt verändert sich monatlich, freigegebene Tools und Versionen gehören regelmäßig auf den Prüfstand.
Externe Unterstützung: Wann sie sich lohnt
Viele Geschäftsführer unterschätzen, wie viele Fäden beim datenschutzkonformen KI-Einsatz zusammenlaufen: Rechtsgrundlage, AVV-Prüfung, Verarbeitungsverzeichnis, Datenschutz-Folgenabschätzung bei hohem Risiko, interne Richtlinie und Schulung. Ein externer Datenschutzbeauftragter bündelt diese Aufgaben und sorgt dafür, dass nichts durchrutscht. Lösungen wie Hugo DSB kombinieren die Rolle des externen Datenschutzbeauftragten mit einer Plattform, über die Verzeichnisse, AVVs und Schulungen strukturiert verwaltet werden – gerade für kleine und mittlere Unternehmen ein pragmatischer Weg, ohne eigene Datenschutzabteilung rechtssicher zu bleiben.
FAQ
Darf ich ChatGPT im Unternehmen einfach nutzen?
Für allgemeine, anonyme Anfragen ja. Sobald personenbezogene Daten eingegeben werden, brauchen Sie eine Rechtsgrundlage und – bei Auftragsverarbeitung – einen AVV. Empfehlenswert sind die Geschäftsversionen, bei denen das Training mit Eingaben abgeschaltet ist und ein AVV bereitsteht.
Brauche ich für jedes KI-Tool einen AVV?
Immer dann, wenn der Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet (Art. 28 DSGVO). Verarbeitet das Tool gar keine personenbezogenen Daten oder läuft es vollständig lokal in Ihrer Infrastruktur, kann ein AVV entbehrlich sein. Im Zweifel prüfen lassen.
Was muss in eine KI-Richtlinie?
Mindestens: erlaubte Tools, verbotene Datenkategorien, Kennzeichnung von KI-Inhalten, Verantwortlichkeiten und die Pflicht zur menschlichen Kontrolle der Ergebnisse. Sie sollte kurz, verständlich und im Alltag tatsächlich anwendbar sein.
Gilt für KI-Einsatz eine Datenschutz-Folgenabschätzung?
Wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten betroffener Personen birgt – etwa bei umfangreichem Profiling –, verlangt Artikel 35 DSGVO eine Datenschutz-Folgenabschätzung vor dem Einsatz.
Fazit
KI datenschutzkonform einzusetzen ist kein Hexenwerk, aber auch kein Selbstläufer. Wer für jede Verarbeitung eine Rechtsgrundlage hat, mit den Anbietern saubere AVVs schließt und im Haus eine klare KI-Richtlinie etabliert, kann die Vorteile von KI nutzen, ohne den Datenschutz zu riskieren. Die Orientierungshilfe der Datenschutzkonferenz liefert dafür den verlässlichen Rahmen. Fangen Sie mit einer ehrlichen Bestandsaufnahme an: Welche Tools laufen bereits, welche Daten fließen hinein – und wo fehlt noch ein Vertrag oder eine Regel? Aus dieser Liste wird schnell ein umsetzbarer Plan.
