Kundendaten in ChatGPT & Co.: Was ist nach DSGVO erlaubt?

Gilt die DSGVO auch für KI-Werkzeuge?

Ja, ohne Einschränkung. Die Datenschutzbehörde verweist auf Art. 2 Abs. 7 der KI-Verordnung: Die DSGVO bleibt neben dem AI Act anwendbar, sobald personenbezogene Daten verarbeitet werden. Die DSGVO ist technologieneutral; für KI gelten dieselben Grundsätze wie für jede andere Verarbeitung. Und auch wer ein KI-System nicht selbst entwickelt hat, ist in der Regel Verantwortlicher, sobald er es einsetzt und über Zweck und Mittel entscheidet.

Daneben gelten die Pflichten aus dem AI Act, vor allem die Förderung der KI-Kompetenz im Team. Den Überblick gibt AI Act für KMU.

Was sind personenbezogene Daten im Alltag?

Personenbezogen sind alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen (Art. 4 Z 1 DSGVO). Im Betrieb sind das nicht nur Name und E-Mail-Adresse, sondern auch Telefonnummer, Kundennummer, Adresse einer Baustelle, ein Foto vom Bad mit Familienbildern an der Wand, die Rechnung eines Einzelunternehmers oder ein Freitext, in dem jemand von seiner Scheidung erzählt.

Pseudonymisierte Daten, bei denen Namen durch Platzhalter ersetzt sind, bleiben personenbezogen, solange sich die Person mit Zusatzwissen wieder zuordnen lässt. Sie senken aber das Risiko deutlich. Erst wirklich anonyme Daten fallen aus der DSGVO heraus.

Fünf Fragen vor jeder Eingabe

1. Rechtsgrundlage: Für jede Verarbeitung braucht es einen Erlaubnistatbestand nach Art. 6 Abs. 1 DSGVO. Eine Kundenanfrage zu beantworten, kann etwa der Vertragsanbahnung dienen. Eine Einwilligung ist nicht für jeden KI-Einsatz nötig, aber die Verarbeitung muss zum Zweck passen, für den die Daten erhoben wurden.
2. Zweck und Datenminimierung: Braucht das Modell für einen Antwortentwurf wirklich Namen, Telefonnummer und Geburtsdatum? Meist reichen Anliegen und Leistung (Art. 5 Abs. 1 DSGVO).
3. Auftragsverarbeitung: Verarbeitet ein Anbieter Daten in Ihrem Auftrag, braucht es einen Vertrag nach Art. 28 DSGVO, der unter anderem Weisungsbindung, Vertraulichkeit, Sicherheitsmaßnahmen und Löschung regelt.
4. Drittland: Gehen Daten in die USA oder ein anderes Land außerhalb des EWR, braucht es eine Grundlage nach Kapitel V DSGVO, etwa einen Angemessenheitsbeschluss der Kommission oder Standardvertragsklauseln. Prüfen Sie, worauf sich der Anbieter in seinem Vertrag stützt.
5. Information: Kundinnen und Kunden müssen erfahren, dass und wie ihre Daten verarbeitet werden, in der Regel über die Datenschutzerklärung (Art. 13 DSGVO).

Dazu kommt das Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO. Betriebe mit weniger als 250 Beschäftigten sind davon zwar teilweise ausgenommen, aber nicht, wenn die Verarbeitung nicht nur gelegentlich erfolgt, ein Risiko für die Betroffenen birgt oder besondere Kategorien von Daten betrifft (Art. 30 Abs. 5). Wer Kundenanfragen jeden Tag mit einem KI-Dienst bearbeitet, verarbeitet nicht nur gelegentlich. Tragen Sie den KI-Einsatz also mit Zweck, Datenarten, Empfängern und Löschfristen ins Verzeichnis ein.

Denken Sie auch an das Löschen. Daten, die in einem KI-Werkzeug liegen, unterliegen denselben Löschpflichten wie Daten in Ihrer Kundenkartei. Laut OpenAI werden in ChatGPT Business gelöschte Gespräche innerhalb von 30 Tagen aus den Systemen entfernt. Legen Sie fest, wer Gespräche mit Kundendaten wann löscht, und halten Sie das in der KI-Richtlinie fest.

Welche ChatGPT-Variante passt für Firmendaten?

Am Beispiel OpenAI, nach den Angaben auf dessen eigenen Seiten, Stand Oktober 2026. Für Microsoft, Google und andere Anbieter gelten eigene Bedingungen; prüfen Sie dort dieselben Punkte.

Daraus folgt eine einfache Regel: Mitarbeiter sollten Kundendaten nicht in private Gratis- oder Plus-Konten kopieren. Wer ChatGPT im Team nutzt, sollte einen Firmenplan mit Vertrag zur Auftragsverarbeitung abschließen und intern festlegen, welche Daten hinein dürfen. Für automatisierte Abläufe ist die API mit eigenem Vertrag der übliche Weg. Was die Pläne kosten, steht im Ratgeber GPT-6 im Unternehmen.

Besondere Kategorien: Gesundheit, Religion und mehr

Für Daten zu Gesundheit, ethnischer Herkunft, politischen Meinungen, religiösen oder weltanschaulichen Überzeugungen, Gewerkschaftszugehörigkeit, genetischen und biometrischen Daten zur Identifizierung sowie zum Sexualleben gilt Art. 9 DSGVO. Ihre Verarbeitung ist grundsätzlich verboten, außer eine der Ausnahmen in Art. 9 Abs. 2 greift, etwa eine ausdrückliche Einwilligung.

Für Arztpraxen und Gesundheitsbetriebe heißt das: Patientendaten gehören nicht in ein allgemeines Chat-Werkzeug. Auch in Kanzleien und Beratungsbetrieben kommen zur DSGVO berufliche Verschwiegenheitspflichten dazu. Und wo KI Entscheidungen mit erheblicher Wirkung für Menschen automatisch trifft, etwa beim Aussortieren von Bewerbungen, ist zusätzlich Art. 22 DSGVO zu prüfen.

Eine KI-Richtlinie für das Team

Die RTR beschreibt in ihren Hinweisen zur KI-Kompetenz genau dieses Problem: Ein Betrieb, der seinen Beschäftigten einen Chatbot zur Verfügung stellt, muss darauf achten, dass keine personenbezogenen Daten oder Geschäftsgeheimnisse unrechtmäßig an den Anbieter gelangen, etwa durch Verträge, eigene Server oder Schulungen. Eine kurze Richtlinie schafft Klarheit:

• Welche KI-Werkzeuge sind freigegeben, mit welchem Konto?
• Was darf hinein: Texte ohne Personenbezug, eigene Vorlagen, öffentliche Informationen.
• Was nur pseudonymisiert hinein darf: Kundenanliegen ohne Namen, Adressen und Kontaktdaten.
• Was nie hinein darf: Gesundheitsdaten, Passwörter, Bankdaten, Personalakten, Geschäftsgeheimnisse von Kunden.
• Ergebnisse prüfen: KI-Texte können falsch sein. Die Datenschutzbehörde weist ausdrücklich darauf hin, dass generierende Systeme wahrscheinliche, aber nicht unbedingt richtige Ergebnisse liefern.
• Ansprechperson: Wer entscheidet über neue Werkzeuge, wer beantwortet Fragen?

Pseudonymisieren und Datensparsamkeit in der Praxis

In automatisierten Abläufen lässt sich das technisch absichern: Ein vorgeschalteter Schritt entfernt Namen, Telefonnummern und Adressen, bevor ein Text das Modell erreicht, und setzt sie in der fertigen Antwort wieder ein. Wie Abläufe mit eigenen Unterlagen funktionieren, beschreibt RAG-Pipeline erklärt, ein Praxisbeispiel ist Kundenanfragen mit KI vorbereiten.

Was droht bei Verstößen?

Betroffene können sich bei der Datenschutzbehörde beschweren, wenn sie meinen, dass beim Einsatz eines KI-Systems gegen die DSGVO verstoßen wurde. Für Verstöße etwa gegen die Grundsätze, die Rechtsgrundlage, die Regeln für sensible Daten oder für Übermittlungen in Drittländer sieht Art. 83 Abs. 5 DSGVO Geldbußen bis 20 Mio. € oder 4 % des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Die Behörde entscheidet im Einzelfall nach Art, Schwere und Dauer des Verstoßes. Ein Verstoß kann laut Datenschutzbehörde auch dazu führen, dass ein KI-System in dieser Form nicht weiter verwendet werden darf.

Wie Astra IT Solutions KI-Projekte datenschutzgerecht baut

Die Datenschutzbewertung gehört bei uns zu jedem KI-Projekt: Wir prüfen, ob Hosting und Verarbeitung in der EU möglich sind, halten die Daten so knapp wie möglich, schließen Verträge zur Auftragsverarbeitung mit den beteiligten Anbietern und setzen, wo nötig, lokal betriebene Modelle ein. Wir legen fest, welche Felder ein Modell überhaupt sieht, und protokollieren, was gesendet wurde. Mehr dazu auf der Seite KI & Prozessautomatisierung. Konten, Zugriffe und Geräte sichern wir im Rahmen der IT-Sicherheit für KMU ab. Was auf Ihrer Website datenschutzrechtlich zu beachten ist, zeigt die Checkliste für eine datenschutzkonforme Website.

Nächster Schritt

Fragen Sie im Team nach, welche KI-Werkzeuge mit welchen Konten genutzt werden. Erfahrungsgemäß sind es mehr als gedacht. Danach entscheiden Sie, welches Werkzeug offiziell freigegeben wird. Der KI-Potenzial-Check hilft zu sortieren, wo KI sinnvoll ist. Für einen Ablauf, bei dem Kundendaten automatisiert und mit Vertrag verarbeitet werden, schicken Sie uns eine kurze Beschreibung über das Anfrageformular.