Datenverarbeitung, AVV, Training, Zugriff, Datenpanne — ein praxisnaher Leitfaden, damit Sie nicht unvorbereitet haften.
KI-Tools sind längst in deutschen Büros angekommen — als Chat-Assistenten, E-Mail-Helfer oder Dokumentenzusammenfasser. Doch viele Unternehmen starten, ohne die richtigen Fragen gestellt zu haben. Das Ergebnis: Datenschutzverstöße, fehlende Verträge und im schlimmsten Fall Bußgelder. Dieser Leitfaden gibt Ihnen genau fünf Fragen, die Sie vor dem ersten produktiven Einsatz klären müssen.
Das klingt banal, ist aber der erste entscheidende Schritt. Wenn Sie ChatGPT, Claude.ai, Gemini oder ähnliche Consumer-Produkte nutzen, landen Ihre Eingaben auf Servern in den USA — unabhängig davon, wo Sie sitzen und was in den Nutzungsbedingungen steht.
Das Problem: Die USA gelten nach DSGVO-Maßstäben nicht als sicheres Drittland. Zwar gibt es seit 2023 das EU-US Data Privacy Framework (DPF) als Rechtsbasis für bestimmte Übertragungen — aber dieses Abkommen ist politisch fragil und wurde von Datenschutzbehörden bereits kritisch bewertet. Wer auf der sicheren Seite sein will, verarbeitet personenbezogene Daten ausschließlich auf EU-Servern, idealerweise in Deutschland.
Konkretes Risiko: Verarbeiten Sie Kunden-, Mitarbeiter- oder Gesundheitsdaten auf einem US-System, kann allein das einen Datenschutzverstoß darstellen — auch ohne Hack oder Datenpanne.
Was Sie konkret prüfen: Fragen Sie Ihren Anbieter nach dem Serverstandort und lassen Sie sich die Rechenzentrumsregion schriftlich bestätigen. "Wir sind DSGVO-konform" ist keine Antwort — Serverstandort EU ist eine.
Wer als Unternehmen personenbezogene Daten an einen Dienstleister weitergibt — und das ist bei jedem KI-Tool der Fall, sobald Sie etwa Kundennamen, E-Mail-Adressen oder interne Dokumente eingeben — braucht zwingend einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO.
Viele Anbieter bieten einen AVV erst in teuren Enterprise-Tarifen an oder verstecken ihn in den allgemeinen Geschäftsbedingungen. Achtung: AGB-Klauseln ersetzen keinen vollwertigen AVV. Ein ordentlicher AVV muss unter anderem den Zweck der Verarbeitung, die Datenkategorien, die Sicherheitsmaßnahmen, Unterauftragnehmer und Ihre Weisungsrechte gegenüber dem Anbieter klar regeln.
Fehlt ein AVV, haften Sie als Verantwortlicher persönlich — auch wenn der Anbieter das Problem verursacht hat.
Was ein AVV mindestens enthalten muss: Gegenstand und Dauer der Verarbeitung, Art und Zweck der Daten, Pflichten des Auftragnehmers, Liste aller Unterauftragnehmer, Regelungen zu technischen und organisatorischen Maßnahmen (TOM), Weisungsrecht, Rückgabe und Löschung nach Vertragsende.
Falle "Standard-TOS": Consumer-Produkte wie Claude.ai, ChatGPT Free oder Google Gemini haben schlicht keinen AVV — das ist kein Versehen, sondern Absicht. Sie sind nicht für den Einsatz mit personenbezogenen Unternehmensdaten konzipiert.
Hier besteht ein riesiger Unterschied zwischen Consumer-Produkten und API-Zugängen — und viele Nutzer kennen ihn nicht.
Consumer-Produkte (kostenlos oder günstige Abos) nutzen Ihre Eingaben in der Regel zur Modellverbesserung — also für das Training zukünftiger KI-Versionen. Das bedeutet: Alles, was Sie eingeben, kann theoretisch in das Modell einfließen und damit in irgendeiner Form für andere Nutzer zugänglich werden. Sie können das in den Einstellungen oft abwählen, aber die Standardeinstellung ist meist "Training erlaubt".
API-Zugänge — wie sie Anbieter wie euhub.ai bereitstellen — verwenden Ihre Daten standardmäßig nicht zum Training. Ihre Eingaben werden verarbeitet, eine Antwort wird generiert, und danach werden die Daten nach definierten Fristen gelöscht. Das ist der datenschutzrechtlich saubere Weg.
Was Sie prüfen: Suchen Sie in den Nutzungsbedingungen nach "Training", "model improvement" oder "data use". Ist API-Zugang im Spiel, fragen Sie explizit, ob Ihre Daten für Training genutzt werden — und lassen Sie sich das im AVV oder einem separaten Dokument schriftlich bestätigen.
Zur Einordnung: Anthropic (Anbieter von Claude) schließt bei API-Nutzung über qualifizierte Anbieter ein Training mit Kundendaten ausdrücklich aus. Für direkte Consumer-Nutzung auf Claude.ai gilt das ohne Opt-out nicht.
Nur weil Sie einem Anbieter vertrauen, heißt das nicht, dass niemand sonst Zugang zu Ihren Daten hat. Hinter jedem KI-Dienst steckt eine komplexe Infrastruktur aus Unterauftragnehmern: Cloud-Anbieter, CDN-Anbieter, Support-Systeme, Monitoring-Tools.
Besonders kritisch: In den USA gilt der CLOUD Act (Clarifying Lawful Overseas Use of Data Act). Er erlaubt US-Behörden, bei amerikanischen Cloud-Anbietern Zugriff auf Daten zu verlangen — auch wenn diese auf europäischen Servern liegen. Wenn Ihr KI-Anbieter ein US-Unternehmen ist, greift der CLOUD Act grundsätzlich.
Im AVV müssen alle Unterauftragnehmer (Sub-Processors) aufgelistet sein. Überprüfen Sie diese Liste: Welche Firmen sind involviert, wo sitzen sie, welchen Zugang haben sie zu Ihren Daten?
Was Sie prüfen: Sub-Processor-Liste im AVV, Standort aller Unterauftragnehmer, Regelungen zu Support-Zugriffen (darf ein Mitarbeiter des Anbieters Ihre Konversationen lesen?), Behördenzugriffsklauseln.
CLOUD Act ist real: Ein AVV schützt Sie nicht vor dem CLOUD Act. Schutz bietet nur ein Anbieter, der selbst kein US-Unternehmen ist und ausschließlich europäische Sub-Processors nutzt.
Datenpannen passieren — auch bei sorgfältig ausgewählten Anbietern. Entscheidend ist, was danach passiert. Hier kommen zwei Aspekte ins Spiel: die gesetzliche Meldepflicht und die vertragliche Haftungsregelung.
72-Stunden-Meldepflicht: Nach Art. 33 DSGVO müssen Sie als Verantwortlicher eine Datenpanne innerhalb von 72 Stunden bei der zuständigen Datenschutzbehörde melden — sofern sie voraussichtlich ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt. Dafür müssen Sie aber überhaupt erst wissen, dass eine Panne stattgefunden hat. Ihr Anbieter muss Sie also unverzüglich informieren.
Benachrichtigungspflicht im AVV: Ein ordentlicher AVV legt fest, dass der Auftragnehmer Sie "ohne unangemessene Verzögerung" über Datenpannen informiert. Was das konkret bedeutet — in Stunden? in Tagen? — sollte klar definiert sein.
Haftung: Bei einem Verstoß haften in der Regel sowohl Sie als Verantwortlicher als auch der Anbieter als Auftragnehmer — gesamtschuldnerisch gegenüber betroffenen Personen. Intern regelt der AVV die Haftungsverteilung. Prüfen Sie, ob Ihr Anbieter Haftungsausschlüsse eingebaut hat, die Sie im Ernstfall allein stehen lassen.
Was Sie prüfen: Meldepflicht des Anbieters im AVV (Frist und Form), Incident-Response-Prozess, Haftungsklauseln, ob der Anbieter eine Cyberversicherung hat, und ob Sie im Ernstfall einen direkten Ansprechpartner erreichen.
Praxis-Tipp: Fragen Sie Ihren potenziellen KI-Anbieter direkt: "Wie haben Sie zuletzt auf einen Sicherheitsvorfall reagiert, und in welchem Zeitrahmen?" Seriöse Anbieter haben darauf eine klare Antwort.
Diese fünf Fragen schützen Sie nicht nur vor Bußgeldern — sie machen Sie auch gegenüber Ihren Kunden, Ihrem Datenschutzbeauftragten und Ihrem Betriebsrat glaubwürdig. KI-Nutzung im Unternehmen ist machbar und legal. Sie müssen nur das richtige Werkzeug wählen.
Wer alle fünf Fragen mit einem klaren "Ja" beantworten kann, ist auf dem richtigen Weg. Wer nicht — dem hilft euhub.ai.
EU-Server in Frankfurt, AVV nach Art. 28, kein Training mit Ihren Daten, kein US-Anbieter in der Kette, klare Incident-Response. Claude von Anthropic — aber so, wie er in deutschen Unternehmen laufen darf.
Kein Kreditkarte · Keine Kündigung nötig · Setup in 24 Stunden