Wie sicher ist ChatGPT im Unternehmen, und was gilt beim Datenschutz?

Vorweg: Das hier ist eine Erklärung, keine Rechtsberatung. Ob ein bestimmter Einsatz bei Ihnen zulässig ist, hängt von Ihren Daten, Ihrem Zweck und Ihren Verträgen ab. Das klären Sie im Zweifel mit Ihrem Datenschutzbeauftragten oder einer Anwältin. Ich helfe Ihnen, die richtigen Fragen zu stellen und die Antworten im Alltag umzusetzen.

Wenn Geschäftsführer nach der Sicherheit von ChatGPT fragen, meinen sie meist zwei Dinge. Landen unsere Daten irgendwo, wo sie nicht hingehören? Und können wir uns auf die Antworten verlassen?

Was macht ChatGPT mit meinen Daten?

Was Sie in ChatGPT eintippen oder hochladen, geht an die Server von OpenAI und wird dort verarbeitet. Der Chat bleibt in der Regel im Verlauf gespeichert, bis Sie ihn löschen. Für Unternehmen ist aber eine andere Frage entscheidend: Darf OpenAI Ihre Eingaben nutzen, um seine Modelle zu verbessern?

Das hängt am Konto. So steht es im Help Center von OpenAI, abgerufen am 1. November 2026:

• Private Konten (Free, Plus, Pro): Die Freigabe fürs Modelltraining ist standardmäßig eingeschaltet. Abschalten lässt sie sich in den Einstellungen unter „Datenkontrollen“.
• Geschäftliche Konten (Business, Enterprise, Edu): Inhalte nutzt OpenAI laut eigener Aussage standardmäßig nicht zum Training.

Wer sich also irgendwann ein Gratis-Konto angelegt und nie in die Einstellungen geschaut hat, gibt seine Eingaben womöglich bis heute fürs Training frei. Auch die Kundenmail, die er letzte Woche dort umformuliert hat.

	Privat (Free, Plus, Pro)	Firmenkonto (Business, Enterprise)
Modelltraining ab Werk	an, abschaltbar	aus
Vertrag mit Ihrem Unternehmen	nein	ja
AVV nach Art. 28 DSGVO	in der Regel nicht	in der Regel möglich, vorher prüfen
Zugänge verwaltet	die Person selbst	das Unternehmen
Wenn jemand geht	Verlauf bleibt bei der Person	Zugang lässt sich entziehen

ChatGPT-Datenschutz-Einstellungen: Was Sie selbst umstellen können

Solange es noch kein Firmenkonto gibt, helfen zwei Dinge:

1. Training abschalten. In den Einstellungen unter „Datenkontrollen“ lässt sich die Freigabe für die Modellverbesserung ausschalten.
2. Temporären Chat nutzen. Ein temporärer Chat erscheint nicht im Verlauf, und laut OpenAI werden solche Chats nicht zum Training verwendet. Praktisch für einzelne Fragen, die nicht im Verlauf landen sollen.

Beides hilft, ein Firmenkonto ersetzt es aber nicht. Der Vertrag mit Ihrem Unternehmen fehlt weiter, und das Konto gehört weiter der Person. Mein Rat: Kundendaten und Personaldaten gehören nicht in ein privates Konto, auch nicht mit allen Schaltern auf „aus“.

Privates Konto oder geschäftliches Konto

Das ist der wichtigste Unterschied.

Beim privaten Konto meldet sich eine Mitarbeiterin mit ihrer eigenen E-Mail-Adresse an, oft kostenlos. Das Unternehmen weiß nicht, was dort eingegeben wird, und hat keinen Vertrag mit dem Anbieter. Verlässt sie das Unternehmen, bleibt der Verlauf in ihrem Konto.

Beim geschäftlichen Konto schließt das Unternehmen den Vertrag, verwaltet die Zugänge zentral und legt Einstellungen für alle fest. Je nach Anbieter heißen solche Tarife Team, Business oder Enterprise. In der Regel gibt es erst hier die Möglichkeit, einen Vertrag zur Auftragsverarbeitung abzuschließen.

Die Datenschutzkonferenz, kurz DSK, ist das gemeinsame Gremium der unabhängigen Datenschutzaufsichtsbehörden von Bund und Ländern. In ihrer Orientierungshilfe zu KI empfiehlt sie, dass Arbeitgeber für die berufliche Nutzung eigene Geräte und Accounts bereitstellen. Beschäftigte sollen nicht mit privaten Accounts arbeiten müssen.

Was ein AVV ist und warum er zählt

Personenbezogene Daten sind alle Angaben, die sich einem Menschen zuordnen lassen: ein Name, eine E-Mail-Adresse, eine Telefonnummer oder eine Reklamation mit Unterschrift. Verarbeitet ein Dienstleister solche Daten in Ihrem Auftrag, brauchen Sie mit ihm einen Vertrag nach Art. 28 DSGVO. Dieser Vertrag heißt Auftragsverarbeitungsvertrag, kurz AVV. Er regelt, was der Anbieter mit den Daten tun darf und was nicht.

Nutzt ein Unternehmen einen KI-Dienst aus der Cloud, sieht die DSK darin häufig genau so ein Auftragsverhältnis. Private Gratis-Konten bieten einen AVV in der Regel nicht. Ob und wie Sie bei einem geschäftlichen Tarif einen AVV abschließen, steht in den Vertragsunterlagen des Anbieters. Schauen Sie sie gemeinsam mit Ihrem Datenschutzbeauftragten an.

Wichtig: Ein AVV allein macht den Einsatz noch nicht zulässig. Es braucht außerdem einen klaren Zweck und eine Rechtsgrundlage für die Verarbeitung. Ohne AVV fehlt aber ein Grundstein.

ChatGPT DSGVO-konform nutzen: Diese Fragen kläre ich vorher

Ob ein Einsatz DSGVO-konform ist, entscheidet sich im Einzelfall. Die Orientierungshilfe der DSK vom Mai 2024 ist ein guter Leitfaden für die Auswahl und Nutzung von KI. Viele der folgenden Fragen stehen dort ebenfalls:

1. Welches Konto? Geschäftlich und zentral verwaltet, nicht privat.
2. Gibt es einen AVV? Und hat Ihr Datenschutzbeauftragter ihn gesehen?
3. Wird mit Ihren Eingaben trainiert? Die DSK rät zu prüfen, ob Ein- und Ausgaben zum Training des Modells verwendet werden und ob man das ausschließen kann. Bei ChatGPT hängt das am Tarif, siehe oben.
4. Wo werden Daten gespeichert und wie lange? Dazu gehört auch der Chatverlauf.
5. Welche Daten dürfen hinein? Eine einfache Regel hilft: Kundendaten, Personaldaten und Geschäftsgeheimnisse nur in freigegebene Werkzeuge und nur, wenn es wirklich nötig ist.
6. Wer prüft die Ergebnisse? KI kann sich irren und klingt dabei sehr überzeugt. Was rausgeht, liest vorher ein Mensch.
7. Ist Ihr Team geschult? Nach Art. 4 KI-Verordnung ergreifen Unternehmen, die KI-Systeme beruflich einsetzen, Maßnahmen, um die KI-Kompetenz ihres Personals zu unterstützen. Ein Zertifikat ist laut EU-Kommission nicht vorgeschrieben. Wie ich das angehe, steht unter KI-Schulungen.

Diese Regeln gehören aufgeschrieben, am besten in eine kurze KI-Richtlinie. Eine Gliederung als Muster steht in der Antwort auf Brauchen wir eine KI-Richtlinie? Die rechtlichen Grundlagen in kurzen Sätzen finden Sie unter Sicherer KI-Einsatz.

Und wenn es nicht ChatGPT sein soll? Es gibt andere Anbieter und auch Lösungen, die in der EU oder auf eigenen Servern laufen. Die Fragen oben bleiben dieselben.

Wenn im Team schon private Konten laufen

Damit sind Sie nicht allein. Laut einer Befragung des IW Köln von 2026 nutzen 29,1 % der Beschäftigten, die beruflich KI einsetzen, Tools, die ihr Arbeitgeber nicht bereitgestellt hat. Das ist eine Selbstauskunft, und „nicht bereitgestellt“ heißt nicht zwingend heimlich. Wie Sie ohne Überwachung herausfinden, was genutzt wird, und wie Sie es ordnen, steht unter Schatten-KI und in der Antwort auf Nutzen meine Mitarbeiter KI ohne mein Wissen?

Der Einstieg dafür ist das Paket KI-Startklar: Bestandsaufnahme, Datenschutz-Check mit Ihrem Datenschutzverantwortlichen und der Entwurf einer KI-Richtlinie.

Praxisbeispiel

Erfundenes Beispiel. Tom aus dem Kundenservice kopiert eine Reklamation samt Name, Adresse und Bestellnummer in sein privates ChatGPT, um schneller eine freundliche Antwort zu formulieren. Gut gemeint, aber das Unternehmen hat dafür keinen Vertrag mit dem Anbieter und keinen Überblick. Und weil Tom nie in die Einstellungen geschaut hat, ist die Freigabe fürs Training noch an. Die Lösung ist kein Verbot. Das Team bekommt ein geschäftliches Konto mit AVV und eine einfache Regel: Name und Adresse werden vor dem Einfügen entfernt, oder man nutzt den freigegebenen Assistenten mit den Antwortvorlagen. Abgeschickt wird die Antwort weiter von Tom, nachdem er sie gelesen hat.