Zum Inhalt
KI-MitarbeiterSchulung

Start ChatGPT und Datenschutz

ChatGPT und Datenschutz: was Unternehmen regeln müssen

Die Frage nach dem Datenschutz entscheidet, ob ChatGPT im Unternehmen offen genutzt wird oder heimlich mit privaten Konten. Diese Seite stützt sich auf zwei Quellen: die Orientierungshilfe der deutschen Datenschutzaufsichtsbehörden und die Angaben von OpenAI. Was wir bei OpenAI nicht im Original sichern konnten, ist gelb markiert.

Kurz gesagt

Für ChatGPT im Unternehmen verlangt die Datenschutzkonferenz klare Zwecke, eine Rechtsgrundlage für personenbezogene Daten, betriebliche statt privater Konten, interne Regeln und geschulte Beschäftigte. OpenAI unterscheidet zwischen Einzelplänen, deren Inhalte standardmäßig ins Training fließen, und Business und Enterprise, für die es das nach eigenen Angaben nicht tut.

Stand 14.11.2026, geprüft an Orientierungshilfe der Datenschutzkonferenz und Angaben von OpenAI

Was sagen die Datenschutzbehörden zu ChatGPT im Unternehmen?

Die Datenschutzkonferenz, das Gremium der deutschen Datenschutzaufsichtsbehörden, hat im Mai 2024 eine Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht. Sie richtet sich an Unternehmen und Behörden, die KI-Anwendungen wie Sprachmodelle einsetzen, und gliedert die Pflichten in drei Phasen: Auswahl, Einführung und Nutzung.

Zusammenfassung der DSK-Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024.
PhaseWas die Datenschutzkonferenz empfiehlt
AuswahlEinsatzfelder und Zwecke vorher festlegen; prüfen, ob personenbezogene Daten überhaupt nötig sind; Rechtsgrundlage für jeden Verarbeitungsschritt; keine automatisierte Letztentscheidung mit Rechtswirkung (Art. 22 DSGVO); geschlossene Systeme sind vorzugswürdig; Anwendungen ohne Training mit Ein- und Ausgaben sind vorzugswürdig.
EinführungVerantwortlichkeit festlegen; interne Regeln mit Beispielen für erlaubte und verbotene Einsätze; Risiko vorab bewerten, oft Datenschutz-Folgenabschätzung; betriebliche Geräte und Konten statt privater; datenschutzfreundliche Voreinstellungen wie kein Training und keine Eingabe-Historie; Beschäftigte sensibilisieren.
NutzungVorsicht bei personenbezogenen Daten in Eingabe und Ausgabe; besondere Vorsicht bei Gesundheits- und anderen besonderen Daten; Ergebnisse auf Richtigkeit und Diskriminierung prüfen.

Dazu kommt ein Satz, der für jede Einführung gilt: Datenschutzbeauftragte sollen eingebunden werden, und die Beteiligung von Betriebs- oder Personalrat ist zu prüfen. Die Orientierungshilfe nennt außerdem Dienst- oder Betriebsvereinbarungen als Weg, einen klaren Rahmen zu setzen.

Warum sind private ChatGPT-Konten im Betrieb ein Problem?

Weil dort andere Bedingungen gelten und weil Profile über die Beschäftigten entstehen können. Die Datenschutzkonferenz empfiehlt ausdrücklich, dass Arbeitgeber Geräte und Accounts für die berufliche Nutzung bereitstellen. Konten sollen nicht den Namen einzelner Beschäftigter tragen, wenn die Anwendung nicht auf eigenen Servern läuft; für die Registrierung nennt sie eine Funktions-E-Mail-Adresse des Unternehmens.

OpenAI trennt Einzelpläne von Plänen für Organisationen. Welche Inhalte zum Training verwendet werden, welche Einstellungen gelten und welche vertraglichen Zusagen bestehen, hängt vom gewählten Plan und dem aktuellen Vertragsstand ab. Prüfen Sie deshalb vor dem Einsatz die offiziellen Vertrags- und Datenschutzhinweise für den konkreten Arbeitsbereich.

Die Datenschutzkonferenz rät, die Voreinstellungen von Beginn an datenschutzfreundlich zu wählen: keine Nutzung der Eingaben für das Training und keine Eingabe-Historie über die Sitzung hinaus, wo das möglich ist. Ob und wie ein bestimmter ChatGPT-Plan das erlaubt, prüft Ihre IT im Arbeitsbereich.

Welche Daten dürfen in einen Prompt?

Nur die, für die es einen Zweck, eine Rechtsgrundlage und eine Erlaubnis Ihres Unternehmens gibt. Die Datenschutzkonferenz macht zwei Punkte, die in Schulungen oft überraschen:

Namen streichen reicht nicht

Der Personenbezug ergibt sich oft aus dem Zusammenhang. Ihr Beispiel: „Entwirf ein Arbeitszeugnis im befriedigenden Bereich für einen Kundenberater im Autohaus X.“ Die Eingabe kann Personenbezug haben, wenn erkennbar ist, aus welchem Unternehmen sie zu welchem Zeitpunkt kam.

Auch Ausgaben zählen

Eine KI kann personenbezogene Angaben ausgeben, obwohl keine eingegeben wurden. Dann kann ebenfalls eine Rechtsgrundlage nötig sein, und es ist zu prüfen, ob die betroffenen Personen nach Art. 14 DSGVO zu informieren sind.

Für besondere Kategorien wie Gesundheitsdaten, religiöse Überzeugungen oder Gewerkschaftszugehörigkeit gilt Art. 9 DSGVO: Die Verarbeitung ist grundsätzlich verboten und nur ausnahmsweise erlaubt. Praktisch heißt das für die meisten Büros: solche Angaben gar nicht in ein Chatfenster. Prompt-Vorlagen mit Platzhaltern statt echter Daten finden Sie unter ChatGPT-Prompts mit Platzhaltern.

Darf ChatGPT über Menschen entscheiden?

Nein. Entscheidungen mit Rechtswirkung dürfen nach Art. 22 Absatz 1 DSGVO grundsätzlich nur Menschen treffen, mit wenigen Ausnahmen. Die Datenschutzkonferenz bringt ein Beispiel, das direkt aus dem Personalbereich stammt: Eine KI wertet alle Bewerbungen aus und verschickt selbstständig die Einladungen zum Vorstellungsgespräch. Das ist nach ihrer Bewertung ein Verstoß gegen Art. 22 Absatz 1 DSGVO.

Wichtig ist auch der Zusatz der Behörden: Eine nur formale Beteiligung eines Menschen genügt nicht. Wer Vorschläge der KI übernimmt, braucht echten Entscheidungsspielraum, und Zeitdruck darf nicht dazu führen, dass Ergebnisse ungeprüft übernommen werden. Ergebnisse sind außerdem auf Diskriminierung zu prüfen; die Orientierungshilfe nennt dazu das Allgemeine Gleichbehandlungsgesetz.

Welche ChatGPT-Regeln brauchen Teams?

Teams brauchen wenige, klare Regeln, die sie ohne Nachschlagen anwenden können, mit Beispielen für erlaubte und verbotene Einsätze, wie es die Datenschutzkonferenz empfiehlt. Die genaue Fassung legt Ihr Unternehmen mit Datenschutz und gegebenenfalls Betriebsrat fest; dieses Gerüst hat sich in Schulungen bewährt:

  1. Nur das Firmenkonto

    ChatGPT für die Arbeit nur im Arbeitsbereich des Unternehmens, nie im privaten Konto.

  2. Zweck vor Daten

    Erst klären, wofür ChatGPT genutzt wird; dann nur die Daten, die dafür nötig und erlaubt sind.

  3. Keine besonderen Daten

    Gesundheit, Religion, Gewerkschaft, Personalakten: nicht in ein Chatfenster.

  4. Keine Entscheidungen über Menschen

    Bewerbungen, Leistung, Kündigung: Vorschläge höchstens als Vorarbeit, die ein Mensch wirklich prüft.

  5. Ergebnisse prüfen

    Fakten, Zahlen und Quellen kontrollieren, bevor etwas das Haus verlässt.

Für Microsoft Copilot gelten dieselben Grundsätze mit anderen Herstellerzusagen; die stehen unter Copilot, DSGVO und EU-Datengrenze. Den Rahmen für die Pflichtschulung nach Art. 4 KI-Verordnung beschreibt DSGVO und KI auf ki-kompetenz-unternehmen.de.

Datenschutzregeln für ChatGPT besprechenZum ChatGPT-Kurs

30 Minuten per Microsoft Teams, kostenfrei und unverbindlich.

Was fragen Unternehmen zu ChatGPT und Datenschutz?

Wie sicher ist ChatGPT beim Datenschutz?

Das hängt vor allem vom Konto und von Ihren Regeln ab. In privaten Plänen wie Free oder Plus nutzt OpenAI Inhalte laut Preisseite zum Training, wenn man sich nicht abmeldet; für Business und Enterprise gibt OpenAI an, standardmäßig nicht mit Ihren Daten zu trainieren. Ob der Einsatz rechtmäßig ist, entscheiden Zweck, Rechtsgrundlage und die Daten, die Sie eingeben.

Wie geht ChatGPT mit Datenschutz um?

OpenAI unterscheidet zwischen Einzelplänen und Unternehmensplänen: Bei Free, Go, Plus und Pro ist die Nutzung für das Training voreingestellt mit Abmeldemöglichkeit, für Business und Enterprise verweist OpenAI auf seine Enterprise-Privacy-Zusagen. Prüfen Sie vor dem Einsatz die aktuellen Vertrags- und Datenschutzhinweise des gewählten Plans.

Ist ChatGPT Business DSGVO-konform?

Das kann kein Plan allein sein: Ob Ihr Einsatz die DSGVO einhält, hängt von Zweck, Rechtsgrundlage, Vertrag zur Auftragsverarbeitung und Ihren Regeln ab. OpenAI gibt an, Daten aus Business- und Enterprise-Arbeitsbereichen standardmäßig nicht zum Training zu verwenden; die Prüfung bleibt bei Ihrer Datenschutzberatung.

Darf ich personenbezogene Daten in ChatGPT eingeben?

Nur mit Rechtsgrundlage und nach den Regeln Ihres Unternehmens. Die Datenschutzkonferenz weist darauf hin, dass es nicht reicht, Namen und Anschriften zu entfernen, weil sich der Personenbezug oft aus dem Zusammenhang ergibt. Besondere Kategorien wie Gesundheitsdaten sind nach Art. 9 DSGVO grundsätzlich verboten und nur ausnahmsweise erlaubt.

Braucht man für ChatGPT eine Datenschutz-Folgenabschätzung?

Oft ja, wenn personenbezogene Daten verarbeitet werden. Nach der Orientierungshilfe der Datenschutzkonferenz ist vorab das Risiko zu bewerten; bei voraussichtlich hohem Risiko ist eine Folgenabschätzung nach Art. 35 DSGVO nötig, und das werde beim Einsatz von KI-Anwendungen vielfach der Fall sein.

Dürfen Mitarbeitende ChatGPT mit dem privaten Konto nutzen?

Für die Arbeit nicht. Die Datenschutzkonferenz empfiehlt, dass Arbeitgeber Geräte und Accounts bereitstellen; Beschäftigte sollen nicht mit privaten Konten arbeiten müssen, weil so Profile über sie entstehen können. Für Registrierungen nennt sie eine Funktions-E-Mail-Adresse statt des eigenen Namens.

Werden meine Eingaben in ChatGPT zum Training genutzt?

In den Einzelplänen Free, Go, Plus und Pro ja, solange Sie sich nicht abmelden; so steht es in der Vergleichstabelle der OpenAI-Preisseite. Für Business und Enterprise sagt OpenAI zu, standardmäßig nicht mit den Daten des Arbeitsbereichs zu trainieren.

Diese Seite gibt die Orientierungshilfe der Datenschutzkonferenz vom Mai 2024 und allgemeine Herstellerangaben wieder und ist keine Rechtsberatung. Prüfen Sie vor einer Einführung, ob inzwischen neuere Vorgaben Ihrer zuständigen Aufsichtsbehörde veröffentlicht wurden.

Quellen: Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0, 6. Mai 2024, OpenAI: Pläne und Preise für ChatGPT, OpenAI: Enterprise Privacy, OpenAI Help Center: ChatGPT Business, Verordnung (EU) 2016/679 (DSGVO). Abruf am 13.11.2026. Hersteller ändern Namen, Funktionen und Lizenzen oft; maßgeblich ist deren aktuelle Seite. Diese Seite ist keine Rechtsberatung.

Wie kommt Ihr Team zu einer passenden Schulung?

Im Erstgespräch klären wir, welche Werkzeuge Ihr Team nutzt, welche Lizenzen vorhanden sind und welche Arbeitsschritte geübt werden sollen. Danach bekommen Sie einen Vorschlag für Inhalt, Form und Aufwand.

  1. Gespräch30 Minuten per Microsoft Teams: Werkzeuge, Lizenzen, Aufgaben, Teamgröße.
  2. VorschlagInhalte, Dauer, online oder vor Ort, mit Übungen aus Ihrem Alltag.
  3. SchulungÜben am eigenen Arbeitsschritt, mit Unterlagen zum Nachschlagen.

ChatGPT-Regeln im Gespräch klären

Lieber direkt schreiben? info@ki-mitarbeiter-schulung.com

Was Sie bereithalten sollten, steht unter Vorbereitung auf das Erstgespräch. Die Terminbuchung öffnet Microsoft Bookings; diese Website selbst speichert keine Angaben.

Weiterlesen

ErstgesprächE-Mail