ChatGPT und Co. DSGVO-konform nutzen: Leitfaden für KMU

Warum das Thema drängt: Schatten-KI ist verbreitet

Die Zahlen sprechen eine klare Sprache. Laut einer Bitkom-Befragung vom Sommer 2025 nutzen Beschäftigte in 8 Prozent der Unternehmen verbreitet private KI-Konten für die Arbeit, doppelt so viele wie im Vorjahr; in weiteren 17 Prozent kommt das in Einzelfällen vor, und weitere 17 Prozent vermuten es. Gleichzeitig hatten nur 23 Prozent der Unternehmen Regeln zur KI-Nutzung, und nur 26 Prozent stellten ihren Beschäftigten offiziell generative KI bereit. Seitdem ist die Nutzung weiter gestiegen: Im Sommer 2026 setzten laut Bitkom 57 Prozent der Unternehmen ab 20 Beschäftigten KI ein. Die weltweite KPMG-Studie mit der Universität Melbourne (2025) ergänzt das Bild: 57 Prozent der Beschäftigten, die KI bei der Arbeit nutzen, verbergen das und geben KI-Ergebnisse als eigene aus, und in Deutschland verwenden 43 Prozent der Befragten KI-Tools, ohne die Ergebnisse zu hinterfragen.

Was die Datenschutzbehörden sagen

Die maßgeblichen Referenzen in Deutschland sind die Orientierungshilfen der Datenschutzkonferenz (DSK). Die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom 6. Mai 2024 richtet sich an Verantwortliche, die KI-Anwendungen einsetzen. Die Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei der Entwicklung und beim Betrieb von KI-Systemen vom Juni 2025 richtet sich vor allem an Hersteller und Entwickler. Seit Oktober 2025 gibt es zudem eine Orientierungshilfe zu KI-Systemen mit RAG-Methode, also mit Anbindung an eigene Dokumente. Wer sich an diesen Papieren entlanghangelt, hat den Erwartungshorizont der Aufsichtsbehörden auf dem Tisch.

• Rechtsgrundlage klären: Für die Verarbeitung personenbezogener Daten in KI-Werkzeugen braucht es eine Rechtsgrundlage nach Art. 6 DSGVO, im Unternehmensalltag häufig die Vertragserfüllung oder das berechtigte Interesse mit dokumentierter Abwägung. Für besondere Kategorien wie Gesundheitsdaten gelten zusätzlich die strengeren Regeln des Art. 9.
• Datenminimierung ernst nehmen: Nicht jeder Prompt braucht Klarnamen. Wo möglich, personenbezogene Daten weglassen oder pseudonymisieren.
• Betroffenenrechte mitdenken: Auskunft, Berichtigung und Löschung müssen auch dann funktionieren, wenn Daten durch KI-Werkzeuge geflossen sind.
• Keine automatisierte Letztentscheidung: Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung trifft grundsätzlich ein Mensch (Art. 22 DSGVO). Eine nur formale Beteiligung reicht laut DSK nicht.
• Folgenabschätzung prüfen: Bei umfangreicher oder sensibler Verarbeitung kann eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig sein.

Der Auftragsverarbeitungsvertrag: was Sie schriftlich brauchen

Sobald ein KI-Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, verlangt Art. 28 DSGVO einen Auftragsverarbeitungsvertrag (AVV) mit den gesetzlichen Mindestinhalten. Die großen Anbieter sehen ihn für ihre Geschäftskunden vor: OpenAI schließt für ChatGPT Business, Enterprise und die API ein Data Processing Addendum ab, bei Anthropic ist es Teil der kommerziellen Bedingungen, bei Microsoft das Data Protection Addendum. Prüfen Sie dabei drei Punkte:

• Training ausgeschlossen: Der Tarif muss zusichern, dass Ihre Eingaben standardmäßig nicht zum Training der Modelle verwendet werden. OpenAI, Anthropic und Microsoft sagen das für ihre Business-Angebote zu; Ausnahmen gelten etwa für Inhalte, die Sie ausdrücklich als Feedback teilen. Bei Consumer-Tarifen und Privatkonten gilt das oft nicht, genau deshalb sind sie für Firmendaten tabu.
• Unterauftragnehmer: Der AVV listet, welche Dienstleister der Anbieter einsetzt und wo verarbeitet wird.
• Verarbeitungsort und Transfermechanismus: Bei US-Anbietern braucht es zusätzlich eine Grundlage für den Drittlandtransfer, derzeit meist das EU-US Data Privacy Framework, gegen dessen Bestätigung ein Rechtsmittel beim Europäischen Gerichtshof anhängig ist, oder Standardvertragsklauseln. Die Alternative ist eine echte EU-Verarbeitung.

EU-Hosting-Optionen im Vergleich

Wer die Drittland-Diskussion entschärfen will, wählt Angebote, bei denen die Verarbeitung nachweislich in der EU stattfindet. Die wichtigsten Optionen, Stand September 2026:

Schatten-KI in den Griff bekommen: Angebot schlägt Verbot

• Offizielles Werkzeug bereitstellen: ein Business-Tarif mit AVV und Trainingsausschluss für alle, die KI im Alltag brauchen. Die DSK empfiehlt betriebliche Konten, bei externen Diensten möglichst ohne Namen einzelner Beschäftigter und mit abgeschaltetem Training und abgeschalteter Eingabehistorie. Das nimmt der Schatten-Nutzung den Grund.
• Privatkonten ausdrücklich ausschließen: Firmendaten gehören nie in private KI-Konten, das muss schriftlich und begründet kommuniziert werden.
• Prüfen statt blind übernehmen: KI-Ergebnisse sind Entwürfe. Wer sie ungeprüft weiterverwendet, riskiert Fehler mit Außenwirkung; die 43 Prozent aus der KPMG-Studie sind eine Warnung.
• KI-Kompetenz aufbauen: Seit Februar 2025 gilt die Pflicht zur KI-Kompetenz nach Art. 4 EU AI Act. Seit dem Digitalen Omnibus zur KI (27. Juli 2026) verlangt sie Maßnahmen zur Förderung der KI-Kompetenz statt eines sichergestellten Niveaus; ein Zertifikat ist nicht nötig. Eine kurze, wiederkehrende Schulung ist der naheliegende Weg und senkt das Risiko.

Die KI-Richtlinie fürs Unternehmen: 10 Punkte, die hineingehören

• 1. Welche KI-Werkzeuge und Tarife offiziell freigegeben sind, inklusive Konfigurationsstand.
• 2. Dass private KI-Konten für Firmendaten ausnahmslos tabu sind.
• 3. Welche Datenarten in KI-Werkzeuge dürfen und welche nie (etwa Gesundheitsdaten, Zugangsdaten, Geschäftsgeheimnisse).
• 4. Dass personenbezogene Daten nach Möglichkeit weggelassen oder pseudonymisiert werden.
• 5. Dass KI-Ergebnisse vor der Weiterverwendung fachlich geprüft werden, mit klarer Verantwortung.
• 6. Wann KI-Einsatz gegenüber Kunden oder Empfängern offengelegt wird, inklusive der Informations- und Kennzeichnungspflichten nach Art. 50 AI Act, die seit dem 2. August 2026 gelten.
• 7. Wer im Unternehmen für KI-Fragen und Freigaben zuständig ist.
• 8. Wie neue KI-Werkzeuge beantragt und geprüft werden (AVV, Trainingsausschluss, Verarbeitungsort).
• 9. Was bei Pannen passiert: Meldung an die zuständige Stelle im Unternehmen, gegebenenfalls Datenschutzvorfall-Prozess.
• 10. Dass die Richtlinie regelmäßig überprüft wird, denn Tarife, Modelle und Rechtslage ändern sich schnell.

Was der EU AI Act zusätzlich verlangt: der Kurzstand

Die DSGVO ist die eine Hälfte, der EU AI Act die andere. Kurzfassung für KI-Nutzer nach dem Digitalen Omnibus zur KI, der seit dem 27. Juli 2026 in Kraft ist: Verbote und die Pflicht zur KI-Kompetenz gelten seit Februar 2025, Letztere seit dem Omnibus als Pflicht, Maßnahmen zu ergreifen. Die Transparenz- und Kennzeichnungspflichten nach Art. 50 gelten seit dem 2. August 2026 (Anbieter bereits vermarkteter generativer Systeme haben für die maschinenlesbare Markierung bis zum 2. Dezember 2026 Zeit), und die Hochrisiko-Pflichten wurden auf den 2. Dezember 2027 beziehungsweise den 2. August 2028 verschoben. Die DSGVO selbst gilt unverändert; die Änderungen, die die Kommission im November 2025 vorgeschlagen hat, sind Stand September 2026 nicht beschlossen. Die vollständige Zeitleiste mit allen Pflichten steht im Beitrag EU AI Act für KMU.

Und wenn die Anforderungen an den Datenschutz besonders hoch sind, lohnt der Blick auf ein Setup, bei dem die Daten das Haus gar nicht erst verlassen: Der Kostenvergleich lokale KI gegen Cloud-KI zeigt, ab wann sich ein eigener KI-Server rechnet. Beides, sauber konfigurierte Cloud-KI und lokale Setups, baue ich im Rahmen der KI-Automatisierung auf.