Suche
Suche Warenkorb 0

Veröffentlicht von Markus Wals

KI und Datenschutz im Unternehmen: Was du vor ChatGPT, Copilot und Claude klären musst

Auftragsverarbeitung ChatGPT Claude Copilot DSGVO KI und Datenschutz

KI-generierte Illustration: Checkliste mit vier Zeilen für Vertrag, Training, Speicherort und Zugriff, daneben ein großes Schloss. Überschrift: KI und Datenschutz im Unternehmen

Kurz gesagt: Bevor dein Team ChatGPT, Claude oder Copilot mit Firmendaten nutzt, klärst du vier Dinge: Vertrag mit Auftragsverarbeitung, Training mit deinen Daten, Speicherort samt Drittlandübermittlung und Zugriffsrechte. Business-Verträge der großen Anbieter schließen das Training standardmäßig aus, private Abos nicht automatisch.

Dieser Artikel ist für Geschäftsführung und IT-Leitung, die KI im Unternehmen erlauben wollen, ohne Kunden- und Geschäftsdaten aus der Hand zu geben. Eine häufige Frage von Geschäftsführungen lautet: Werden unsere Daten außerhalb gespeichert oder zum Training verwendet? Hier stehen die Antworten je Anbieter mit Primärquelle, die Daten, die nicht in einen KI-Chat gehören, und eine Checkliste für die Einführung. Lokale KI ist dabei eine Option, aber keine Voraussetzung für Datenschutz.

Das Wichtigste in Kürze

  • Das Abo-Modell entscheidet, nicht das Werkzeug. ChatGPT Business, Claude Team und Enterprise sowie Microsoft 365 Copilot laufen unter Unternehmensbedingungen, private Abos unter Verbraucherbedingungen.
  • Training ist bei den Business-Angeboten standardmäßig aus. Bei privaten Abos hängt es von einer Einstellung ab, die bei ChatGPT Free, Plus und Pro ab Werk eingeschaltet ist.
  • Für Firmendaten brauchst du in der Regel einen Vertrag zur Auftragsverarbeitung. OpenAI und Anthropic bieten ihn für ihre Business-Angebote an; bei Microsoft 365 Copilot gilt das Data Protection Addendum.
  • Übermittlung in die USA ist nicht automatisch verboten. Sie braucht eine Grundlage nach der DSGVO, etwa den Angemessenheitsbeschluss zum EU-US Data Privacy Framework oder Standardvertragsklauseln.
  • Personenbezogene Daten gehören nur in einen KI-Chat, wenn es dafür eine Rechtsgrundlage gibt. Namen zu streichen reicht laut Datenschutzkonferenz meist nicht.

Privates Abo oder Business-Vertrag: Wo liegt der Unterschied?

Ein privates ChatGPT- oder Claude-Abo ist ein Vertrag zwischen einer Person und dem Anbieter. Für das Unternehmen gibt es dann keinen Vertrag zur Auftragsverarbeitung, keine Verwaltung der Zugänge und keinen Überblick, welche Daten wohin gehen. Ein Business-Vertrag läuft dagegen auf das Unternehmen: Admins verwalten die Zugänge, und der Anbieter verarbeitet die Daten als Auftragsverarbeiter.

Ein gemeinsamer Zugang für das ganze Team heißt: keine Zuordnung, wer was eingegeben hat, keine Rechte je Person und kein Überblick über die Daten. Er läuft meist über ein privates Abo, und beim Ausscheiden einer Person bleibt der Verlauf im Konto. Eine häufige Frage dazu lautet: Wir haben ja nur einen ChatGPT-Zugang, reicht das nicht? In der Regel nein. Wer KI im Team ernsthaft nutzen will, braucht eigene Zugänge je Person unter einem Unternehmensvertrag.

Fazit: Der Vertrag entscheidet über Auftragsverarbeitung, Zugänge und Überblick, nicht das Werkzeug.

Werden deine Daten zum Training verwendet?

Grafik: Training mit deinen Daten. Ein KI-Chat im Business-Tarif nutzt deine Daten standardmäßig nicht zum Training und bietet einen Vertrag zur Auftragsverarbeitung. KI im Büro-Paket nutzt Prompts und Antworten nicht für Basismodelle, das Data Protection Addendum ist Teil deines Vertrags. Beim privaten Abo hängt das Training an einer Einstellung, eine Auftragsverarbeitung nennen die Quellen nicht.

Das hängt vom Vertrag ab, nicht vom Modell. Die Anbieter sagen dazu Folgendes, Stand der Quellen siehe unten:

Anbieter und Angebot Training mit deinen Daten Vertrag zur Auftragsverarbeitung
OpenAI: ChatGPT Business, Enterprise, API standardmäßig nicht, außer du gibst Daten ausdrücklich frei (OpenAI Enterprise Privacy) Data Processing Addendum über ein Formular von OpenAI
OpenAI: ChatGPT Free, Plus, Pro Einstellung „Improve the model for everyone“, ab Werk eingeschaltet, abschaltbar (OpenAI Data Controls) in den Quellen nur für Business-Angebote genannt
Anthropic: Claude Team, Enterprise, API (Anthropic nennt die kommerziellen Produkte auch „Claude for Work“) „Anthropic may not train models on Customer Content from Services.“ (Commercial Terms) Data Processing Addendum, Teil der Commercial Terms, mit Standardvertragsklauseln
Anthropic: Claude Free, Pro, Max abhängig von der Einstellung „Model Improvement“ in den Datenschutzeinstellungen (Anthropic Privacy Center) in den Quellen nur für Business-Angebote genannt
Microsoft 365 Copilot Prompts, Antworten und Daten aus Microsoft Graph werden nicht zum Training der Basismodelle genutzt (Microsoft Learn) Data Protection Addendum, Teil deines Microsoft-Vertrags (Microsoft Products and Services DPA)

Die Orientierungshilfe der Datenschutzkonferenz nennt dieselben Prüfpunkte: Werden Eingaben und Antworten zum Training genutzt, und lässt sich das ausschließen? Anwendungen ohne Training mit deinen Daten bezeichnet sie als vorzugswürdig. Bei Dienstkonten für Mitarbeitende rät sie, Training und Verlauf so einzustellen, dass keine Eingaben zu Trainingszwecken verarbeitet werden.

Fazit: Bei Business-Angeboten ist das Training aus, bei privaten Konten hängt es an einer Einstellung.

Gibt es einen AVV für ChatGPT, Claude und Copilot?

Für die Business-Angebote von OpenAI und Anthropic ja; bei Microsoft 365 Copilot gilt das Data Protection Addendum, das Teil deines Microsoft-Vertrags ist. Nutzt du einen externen KI-Dienst mit personenbezogenen Daten, liegt laut Datenschutzkonferenz häufig eine Auftragsverarbeitung nach Art. 28 DSGVO vor, und du schließt mit dem Anbieter eine Vereinbarung nach Art. 28 Abs. 3.

Bei Anthropic ist das Data Processing Addendum Teil der Commercial Terms, gilt also mit dem Unternehmensvertrag. OpenAI schließt das Addendum für ChatGPT Business, Enterprise und die API über ein eigenes Formular ab. Microsoft verweist für Copilot auf seine Product Terms und das Data Protection Addendum; ob die Fassung zu deinem Vertrag passt, prüfst du an deinem Lizenzvertrag.

Für private Konten nennen die Anbieter in den gelesenen Quellen keine Auftragsverarbeitung. Das ist der Hauptgrund, warum Firmendaten nicht in private Konten gehören.

Fazit: Für Firmendaten brauchst du ein Konto, für das ein Vertrag zur Auftragsverarbeitung gilt.

Wo liegen die Daten, und was gilt bei Übermittlung in die USA?

Grafik: Daten in den USA, was trägt. Drei Wege: der Angemessenheitsbeschluss zum EU-US Data Privacy Framework seit Juli 2023, dessen Rechtsstand offen ist, Standardvertragsklauseln als zweites Standbein und der eigene Betrieb der KI, bei dem die Daten das Haus gar nicht verlassen.

Das hängt vom Anbieter und vom Tarif ab; die großen KI-Anbieter sitzen in den USA. Eine Übermittlung personenbezogener Daten in ein Drittland ist nach Art. 44 ff. DSGVO erlaubt, wenn eine der dort genannten Grundlagen greift. Für die USA gibt es seit Juli 2023 den Angemessenheitsbeschluss zum EU-US Data Privacy Framework: Daten dürfen an US-Unternehmen fließen, die am Framework teilnehmen.

Der Beschluss ist gerichtlich angegriffen. Das Gericht der EU hat die Klage Latombe (T-553/23) am 03.09.2025 abgewiesen, das Rechtsmittel C-703/25 P liegt seit 31.10.2025 beim EuGH (Amtsblatt C/2025/6610). Standardvertragsklauseln, die Anthropic zum Beispiel in sein Data Processing Addendum aufgenommen hat, sind deshalb ein sinnvolles zweites Standbein. Wie der US-amerikanische CLOUD Act in diese Frage hineinspielt, erklärt Europäische KI und CLOUD Act.

Auch bei EU-Angeboten lohnt der Blick auf Ausnahmen. Microsoft hält den Datenverkehr von Copilot für EU-Kund:innen innerhalb der EU Data Boundary, nimmt aber Modelle von Anthropic als Unterauftragnehmer davon derzeit ausdrücklich aus. Solche Details stehen in den Datenschutzseiten der Anbieter, nicht im Marketing. Eine häufige Sorge ist, dass in den Daten auch Adressen von Privatpersonen stehen, die nicht nach Amerika gehen sollen. Beantworten lässt sie sich nur mit dem konkreten Vertrag und der Liste der Unterauftragnehmer.

Wer sicher gehen will, dass Daten das Haus gar nicht verlassen, betreibt die KI selbst; das ist ein eigener Weg mit eigenem Aufwand, den lokale KI im Unternehmen samt Eignungs-Check beschreibt. Wer erst einmal Orientierung will, findet im AI-Enablement-Workshop einen kleinen nächsten Schritt.

Fazit: Der Weg in die USA ist mit Grundlage möglich; der Rechtsstand beim Data Privacy Framework ist offen, Standardvertragsklauseln sichern ab.

Welche Daten gehören nicht in einen KI-Chat?

Grafik: Was nicht in einen KI-Chat gehört. Personenbezogene Daten wie Namen, Adressen und Personal nur mit Rechtsgrundlage. Geschäftsgeheimnisse wie Kalkulation, Verträge und Angebote nur im Firmenkonto unter Vertrag. Zugangsdaten wie Passwörter und API-Schlüssel nie. Namen zu streichen reicht laut Datenschutzkonferenz meist nicht.

Drei Arten von Daten gehören nur unter Bedingungen oder gar nicht in einen KI-Chat:

  • Personenbezogene Daten nur mit Rechtsgrundlage. Kundennamen, Adressen und Personaldaten brauchen eine Rechtsgrundlage nach der DSGVO, und die Datenschutzkonferenz erinnert an die Informationspflichten gegenüber den Betroffenen. Laut Datenschutzkonferenz reicht es meist nicht, Namen und Adressen zu streichen, um den Personenbezug zu entfernen. Für Gesundheitsdaten und andere besondere Kategorien gilt nach Art. 9 DSGVO ein grundsätzliches Verarbeitungsverbot mit engen Ausnahmen.
  • Geschäftsgeheimnisse nur in Konten unter Unternehmensvertrag. Kalkulationen, Verträge und Angebote haben in privaten Konten nichts zu suchen.
  • Zugangsdaten nie. Passwörter, API-Schlüssel und Kontodaten gehören in keinen Chat, auch nicht „nur kurz“.

Speichert ChatGPT alles, was du eingibst? Normale Chats bleiben im Verlauf, bis du sie löschst. Temporäre Chats erscheinen nicht im Verlauf, werden nicht zum Training genutzt und laut OpenAI bis zu 30 Tage für Sicherheitszwecke aufbewahrt. In ChatGPT Business und Enterprise legen Admins die Aufbewahrung fest; gelöschte Unterhaltungen entfernt OpenAI innerhalb von 30 Tagen, sofern keine gesetzliche Pflicht entgegensteht.

Setzt du KI so ein, dass sie Verhalten oder Leistung von Mitarbeitenden auswerten kann, hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mitzubestimmen, soweit es einen gibt.

Fazit: Personenbezug braucht eine Rechtsgrundlage, Geschäftsgeheimnisse ein Firmenkonto, Zugangsdaten gehören nie in den Chat.

Wenn die KI an dein ERP angeschlossen ist

Grafik: Die KI erbt die Rechte des Zugangs. Zu weite Rollen im ERP gibt die KI weiter. Aufgeräumte Rechte heißt: ein eigener Zugang je Anbindung, Rechte je Datenart, Start im lesenden Modus mit gesperrtem Mailversand. Schreiben schaltest du nur für klare Abläufe frei.

Sobald ein KI-Assistent nicht nur Text bekommt, sondern direkt im ERP liest und schreibt, kommt eine dritte Frage dazu: Wer darf was? Bei wals.pro AI for weclapp verbindet sich dein KI-Client unter deinem eigenen Vertrag mit dem Anbieter; die Plattform dazwischen läuft in der EU, wendet die Rolle der Person an, speichert keine Inhalte deiner Datensätze (nur Protokolldaten) und lässt Änderungen nur nach Vorschau und Freigabe zu. Was der Assistent aus weclapp liest, verarbeitet dein KI-Anbieter nach seinen Bedingungen, deshalb gelten die Punkte oben auch hier.

Die KI erbt die Rechte des Zugangs, über den sie angebunden ist. In Einführungsprojekten hat sich deshalb bewährt, Rollen im ERP vorher aufzuräumen, denn zu weite Rollen gibt sonst auch die KI weiter. Dazu kommen ein eigener Zugang je Anbindung, Rechte je Datenart (lesen, anlegen, ändern, löschen), ein gesperrter Mailversand und ein Start im lesenden Modus. Schreiben schaltest du danach nur für klar abgegrenzte Abläufe frei.

Wie sich das für ChatGPT, Claude und Copilot einrichten lässt und worauf du bei MCP-Servern achtest, steht in Sind MCP-Server sicher?.

Fazit: Die KI sieht und darf nur, was ihr Zugang hergibt; räum die Rechte vor der Anbindung auf.

Checkliste: Vor dem Einsatz klären

Diese Punkte klärst du, bevor dein Team KI mit Firmendaten nutzt:

  1. Welche KI-Werkzeuge sind erlaubt, und laufen sie unter einem Unternehmensvertrag statt unter privaten Abos?
  2. Ist der Vertrag zur Auftragsverarbeitung abgeschlossen und abgelegt?
  3. Ist das Training mit euren Daten vertraglich oder per Einstellung ausgeschlossen, und habt ihr die Datenkontrollen im Konto gemeinsam geprüft und notiert?
  4. Wo werden die Daten verarbeitet, welche Unterauftragnehmer sind beteiligt, und auf welcher Grundlage gehen Daten in Drittländer?
  5. Hat jede Person einen eigenen Zugang mit eng geschnittenen Rechten, und lassen sich Zugänge beim Ausscheiden sperren?
  6. Gibt es eine Datenregel vorab, welche Daten in welches Werkzeug dürfen, statt Einzelfallentscheidungen?
  7. Sind Aufbewahrung und Verlauf so eingestellt, wie ihr es braucht?
  8. Sind Datenschutzerklärung und Auftragsverarbeitung geprüft, bevor die KI an Kundendaten kommt? Schon ein möglicher Zugriff kann dokumentationspflichtig sein.
  9. Ist geprüft, ob die KI-Nutzung ins Verzeichnis der Verarbeitungstätigkeiten gehört?

Die Datenregel aus Punkt 6 gehört in eure KI-Richtlinie und in die Schulung des Teams; wie das aussieht, steht in KI-Kompetenz und Schatten-KI.

Fazit: Neun Fragen, vor dem ersten Einsatz geklärt und notiert, ersparen dir die Nacharbeit.

Quellen und Grenzen

Stand: 07.11.2026. Der Artikel beschreibt die Bedingungen der Anbieter so, wie sie auf deren Seiten stehen; Tarife und Bedingungen ändern sich, prüfe sie vor einer Entscheidung neu. Er bewertet keine Anbieter und sagt nicht, dass ein Werkzeug „DSGVO-konform“ ist, denn das hängt von deinem Einsatz ab. Branchenregeln wie Berufsgeheimnisse und die Pflichten aus der KI-Verordnung behandelt er nicht. Das ersetzt keine Rechtsberatung.

Häufige Fragen

Kann man ChatGPT vertrauliche Daten geben?

In der Regel nur unter einem Unternehmensvertrag wie ChatGPT Business oder Enterprise, mit Vertrag zur Auftragsverarbeitung und ausgeschlossenem Training. Ob der Einsatz zulässig ist, hängt von deinen Daten und deiner Rechtsgrundlage ab; Zugangsdaten gehören nie in einen Chat.

Speichert ChatGPT alles, was ich eingebe?

Normale Chats bleiben im Verlauf, bis du sie löschst. Temporäre Chats werden laut OpenAI bis zu 30 Tage für Sicherheitszwecke aufbewahrt und nicht zum Training genutzt; in Business und Enterprise legen Admins die Aufbewahrung fest.

Gibt es einen AVV für Claude oder ChatGPT?

Ja, für die Business-Angebote. Bei Anthropic ist das Data Processing Addendum Teil der Commercial Terms, OpenAI schließt es für ChatGPT Business, Enterprise und die API über ein Formular ab. Für private Konten nennen die Anbieter keinen.

Reicht ein gemeinsamer ChatGPT-Zugang fürs Team?

In der Regel nein. Ein geteilter Zugang läuft meist über ein privates Abo ohne Vertrag zur Auftragsverarbeitung, und niemand kann nachvollziehen, wer was eingegeben hat. Jede Person braucht einen eigenen Zugang unter einem Unternehmensvertrag.

Darf die KI Bestellungen mit Namen und Adressen sehen?

Das sind personenbezogene Daten, also brauchst du eine Rechtsgrundlage, einen Vertrag zur Auftragsverarbeitung mit dem KI-Anbieter und eine angepasste Datenschutzerklärung, bevor die KI darauf zugreift. Starte am besten mit Test- oder Beispieldaten, vergib nur lesende Rechte und prüfe Training und Datenkontrollen gemeinsam vorab.

Brauche ich eine Datenschutz-Folgenabschätzung?

Das hängt vom Einsatz ab. Nach Art. 35 DSGVO ist sie nötig, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen mit sich bringt, vor allem bei neuen Technologien. Ein Chat ohne Personenbezug löst sie in der Regel nicht aus; werten Assistenten viele personenbezogene oder besondere Daten aus, lohnt die Prüfung mit der Datenschutzbeauftragten.

Muss KI lokal laufen, damit der Datenschutz stimmt?

Nein. Cloud-Dienste können mit Unternehmensvertrag, Auftragsverarbeitung und klaren Regeln rechtskonform genutzt werden; das hängt vom konkreten Einsatz ab. Lokale KI ist sinnvoll, wenn Daten das Haus gar nicht verlassen sollen, und bringt dafür eigenen Betriebsaufwand mit.