Chatbot-Anbieter prüfen: AVV, Unterauftragsverarbeiter und Drittlandtransfers

Ein Chatbot-Anbieter kann eine überzeugende Demo, eine EU-Region und einen fertigen Auftragsverarbeitungsvertrag vorweisen – und trotzdem bleiben entscheidende Fragen offen. Denn nicht nur der sichtbare Chatbot verarbeitet Daten. Häufig sind Modell-APIs, Hosting, Vektordatenbanken, Fehleranalyse, Support-Werkzeuge, E-Mail-Dienste und Backups an der Leistung beteiligt. Für Websitebetreiber zählt deshalb die nachprüfbare Verarbeitungskette, nicht das Datenschutz-Schlagwort auf einer Verkaufsseite.

Diese Checkliste hilft bei einer strukturierten Anbieterprüfung vor Einkauf und Go-live. Sie ist eine praktische Orientierung und keine Rechtsberatung. Rollen, Rechtsgrundlagen, Informationspflichten und Transfermechanismen müssen für den konkreten Einsatz geprüft werden; bei erhöhtem Risiko, besonderen Datenkategorien oder offenen Vertragsfragen sollten Datenschutzbeauftragte beziehungsweise qualifizierte Rechtsberatung einbezogen werden.

Erst den Datenfluss verstehen, dann den Vertrag bewerten

Die zentrale Frage lautet nicht nur „Wo steht der Server?“, sondern: Welche personenbezogenen Daten gelangen wann zu welcher juristischen Person, aus welchem Grund und wie lange? Ein Besucher kann im Chat Namen, E-Mail-Adressen, Kundennummern oder freie Texte eingeben. Zusätzlich entstehen IP-Adressen, Zeitstempel, Geräteinformationen, Sitzungskennungen, Gesprächsverläufe, Bewertungen und technische Protokolle. Auch aus einer angeblich anonymen Unterhaltung kann durch Kombination mehrerer Merkmale ein Personenbezug entstehen.

Zeichnen Sie deshalb vor der Vertragsprüfung eine einfache Datenflusskarte. Sie sollte mindestens Browser-Widget, Chatbot-Plattform, Wissensbasis, Modellanbieter, Analyse- und Fehlerdienste, Supportzugriffe, Backups sowie Löschpfade enthalten. Für jede Station werden Betreiber, Land, Zweck, Datenkategorien, Speicherdauer und mögliche Fernzugriffe erfasst. Eine „EU-Hosting“-Aussage beantwortet beispielsweise nicht, ob ein Supportteam außerhalb des Europäischen Wirtschaftsraums auf produktive Protokolle zugreifen kann.

Datenschutzrollen je Zweck bestimmen

Ob ein Anbieter Auftragsverarbeiter oder für einzelne Zwecke selbst Verantwortlicher ist, ergibt sich aus der tatsächlichen Tätigkeit. Die Leitlinien 07/2020 des Europäischen Datenschutzausschusses erläutern die Abgrenzung. Ein Anbieter kann etwa Gesprächsdaten auf dokumentierte Weisung verarbeiten, für bestimmte eigene Sicherheits-, Abrechnungs- oder Produktzwecke aber eine andere Rolle beanspruchen. Lassen Sie jeden Zweck, die jeweilige Rolle und die Rechtsgrundlage ausdrücklich zuordnen. Ein AVV deckt nicht automatisch eigenständige Zwecke des Anbieters ab.

AVV prüfen: Pflichtinhalte müssen zum realen Dienst passen

Artikel 28 DSGVO verlangt, dass Verantwortliche nur Auftragsverarbeiter einsetzen, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten. Der Vertrag muss unter anderem Gegenstand und Dauer, Art und Zweck, Datenarten, Kategorien betroffener Personen sowie Rechte und Pflichten des Verantwortlichen festlegen. Hinzu kommen dokumentierte Weisungen, Vertraulichkeit, Sicherheit, Unterstützung bei Betroffenenrechten und Datenschutzpflichten, Löschung oder Rückgabe sowie Informationen und Mitwirkung für Prüfungen.

Vergleichen Sie den AVV nicht nur mit einer Musterliste, sondern mit Ihrer Datenflusskarte und dem tatsächlich gebuchten Tarif. Ein guter Vertrag benennt den Chatbetrieb, das Training beziehungsweise die Indexierung der Wissensbasis, Protokollierung, Supportzugriffe und optionale Funktionen verständlich. Unklare Sammelbegriffe wie „Serviceverbesserung“ sollten auf konkrete Daten, Zwecke, Wahlmöglichkeiten und Rollen heruntergebrochen werden.

• Weisung: Ist klar, dass Inhalte und Metadaten nur für dokumentierte Zwecke des Kunden verarbeitet werden? Welche Konfiguration gilt als Weisung?
• Nutzung für Modelle: Werden Prompts, Antworten oder hochgeladene Inhalte für allgemeines Modelltraining oder Produktverbesserung verwendet? Wenn nein, sollte dies vertraglich und technisch nachvollziehbar sein; wenn ja, müssen Rolle und Rechtsgrundlage gesondert bewertet werden.
• Löschung: Gibt es konkrete Fristen für Gesprächsverläufe, Logs, Vektorindizes, Backups und Supportkopien? Was passiert nach Vertragsende?
• Sicherheit: Sind Zugriffskontrollen, Mandantentrennung, Verschlüsselung, Protokollierung, Schwachstellenmanagement und Incident-Prozesse beschrieben?
• Unterstützung: Regelt der AVV Exporte, Berichtigung, Löschung, Auskunft, Sicherheitsvorfälle und gegebenenfalls Datenschutz-Folgenabschätzungen praktisch?
• Nachweise: Sind Auditberichte, Zertifizierungen oder andere belastbare Belege verfügbar und gelten sie für genau die eingesetzten Dienste und Standorte?

Zertifikate und Prüfberichte können wichtige Hinweise liefern, ersetzen aber weder die Prüfung des konkreten Verarbeitungsvorgangs noch passende Vertragsklauseln. Auch ein standardisierter AVV ist nur so gut wie seine ausgefüllten Anhänge und die Übereinstimmung mit der technischen Realität.

Unterauftragsverarbeiter: Namen, Aufgaben und Änderungen kontrollieren

Nach Artikel 28 Absatz 2 DSGVO darf ein Auftragsverarbeiter weitere Auftragsverarbeiter nicht ohne vorherige spezifische oder allgemeine schriftliche Genehmigung einsetzen. Bei einer allgemeinen Genehmigung muss er über beabsichtigte Ergänzungen oder Ersetzungen informieren und eine Widerspruchsmöglichkeit geben. Die Fragen und Antworten der Europäischen Kommission zu Standardvertragsklauseln stellen zudem klar, dass bloße Kategorien nicht genügen: Die einzelnen Unterauftragsverarbeiter müssen benannt werden.

Verlangen Sie eine aktuelle, exportierbare Liste mit juristischem Namen, Land, konkreter Leistung und betroffenen Daten. Prüfen Sie außerdem, ob ein Unternehmen nur Vertragspartner ist oder tatsächlich an mehreren Standorten verarbeitet. Besonders relevant sind Modell- und Embedding-Anbieter, Cloud-Hosting, Datenbanken, CDN, Monitoring, Fehleranalyse, Support, E-Mail und Backup. Für jeden Eintrag muss erkennbar sein, ob Daten gespeichert, nur übertragen oder durch Personal eingesehen werden können.

Der Änderungsprozess gehört ebenfalls in die Bewertung: Wie werden Kunden benachrichtigt, wie lang ist die Vorlaufzeit und was geschieht bei einem begründeten Widerspruch? Eine E-Mail am Tag der Umstellung ohne technisch oder vertraglich nutzbare Reaktion ist wenig wert. Klären Sie, ob eine alternative Konfiguration, die Deaktivierung der Funktion oder notfalls eine geordnete Beendigung samt Datenexport möglich ist. Für nachgelagerte Unterauftragsverarbeiter müssen dieselben Datenschutzpflichten weitergegeben werden; der erste Auftragsverarbeiter bleibt gegenüber dem Verantwortlichen für deren Pflichterfüllung verantwortlich.

Drittlandtransfers: Mechanismus und tatsächliche Wirkung prüfen

Kapitel V der DSGVO gilt für Übermittlungen personenbezogener Daten in Drittländer und für Weiterübermittlungen. Ein Transfer kann nicht nur durch dauerhafte Speicherung entstehen; auch ein administrativer Zugriff, Supportzugriff oder Abruf durch einen Dienst außerhalb des EWR kann relevant sein. Ordnen Sie deshalb jedem Pfeil in der Datenflusskarte ein Zielland, einen Empfänger und einen Transfermechanismus zu.

1. Angemessenheitsbeschluss: Prüfen Sie auf der laufend aktualisierten Liste der Europäischen Kommission, ob Beschluss, Gebiet, Sektor und konkreter Empfänger erfasst sind. Bei beschränkten Rahmenwerken genügt die bloße Niederlassung in einem Land nicht.
2. Geeignete Garantien: Fehlt ein passender Angemessenheitsbeschluss, kommen je nach Konstellation Instrumente nach Artikel 46 DSGVO in Betracht. Häufig werden die Standardvertragsklauseln der Europäischen Kommission verwendet. Modul, Parteien, Anhänge, Transferbeschreibung und technische Maßnahmen müssen zur realen Kette passen.
3. Wirksamkeitsprüfung: Ein unterschriebenes SCC-Dokument beendet die Prüfung nicht automatisch. Die finalen EDPB-Empfehlungen 01/2020 beschreiben einen risikobasierten Prozess: Transfers kennen, Instrument bestimmen, Recht und Praxis des Drittlands bewerten, gegebenenfalls ergänzende Maßnahmen festlegen, formale Schritte erledigen und regelmäßig neu bewerten.

Ergänzende technische Maßnahmen müssen zum konkreten Risiko passen. Verschlüsselung ist beispielsweise nur aussagekräftig, wenn Schlüsselverwaltung, Zugriffsrechte und der Verarbeitungszweck berücksichtigt werden. Ein Modellanbieter, der Klartext verarbeiten muss und selbst auf die Schlüssel zugreifen kann, ist eine andere Situation als ein reiner verschlüsselter Backup-Speicher. Pauschale Aussagen wie „AES-256“ oder „DSGVO-konform“ ersetzen diese Betrachtung nicht. Ausnahmen nach Artikel 49 DSGVO sind ebenfalls kein bequemer Standardweg für planmäßige, wiederkehrende SaaS-Verarbeitung.

Praxisbeispiel: EU-Region mit globaler Dienstkette

Angenommen, ein Chatbot speichert seine Hauptdatenbank in Frankfurt. Die Antworten erzeugt jedoch eine Modell-API eines US-Unternehmens, Fehlerberichte gehen an einen weiteren Dienst, und ein globales Supportteam kann bei Eskalationen Gesprächsprotokolle öffnen. „Datenhaltung in der EU“ beschreibt dann nur einen Teil des Systems.

Die Due Diligence trennt vier Fragen: Welche Inhalte verlassen den EWR zur Modellerzeugung? Werden dort Prompts gespeichert oder für andere Zwecke genutzt? Enthalten Fehlerberichte Klartext, Kennungen oder nur minimierte technische Daten? Unter welchen Bedingungen kann Support außerhalb des EWR zugreifen? Erst danach lassen sich Transferinstrument, ergänzende Maßnahmen und Restunsicherheit bewerten.

Technisch kann der Websitebetreiber das Risiko häufig reduzieren: unnötige Logfelder abschalten, Eingaben vor externen Aufrufen redigieren, kurze Aufbewahrungsfristen setzen, sensible Bereiche vom öffentlichen Bot trennen, Wissensquellen mandantenbezogen isolieren und Supportzugriffe freigabepflichtig protokollieren. Wie ein öffentlicher Bot und ein Kundenportal sauber getrennt werden, zeigt der Beitrag Öffentlicher KI-Chatbot vs. Kundenportal. Für hochgeladene Dateien ergänzt die Checkliste zu Dateiprüfung, Datenschutz und Handoff die Anbieterprüfung.

Entscheidung mit Ampel statt Bauchgefühl

Prüfpunkt	Grün	Gelb	Rot
Datenfluss	Vollständig, aktuell und tarifbezogen	Einzelne Zugriffe oder Speicherorte offen	Nur Marketingaussage zur EU-Region
AVV	Zwecke, Daten, Fristen und Hilfen konkret	Ergänzungen vor Go-live nötig	Keine klare Weisungsbindung oder Löschung
Unterauftragsverarbeiter	Namentliche Liste mit Land und Aufgabe	Änderungsprozess unpraktisch	Nur Kategorien oder unbekannte Kette
Drittlandtransfer	Mechanismus, Umfang und Bewertung belegt	Maßnahmen noch zu verifizieren	„EU-Server“ soll alle Transfers erklären
Betrieb	Owner, Review-Termin und Exit getestet	Nachweise ohne festen Review	Kein Monitoring nach Vertragsabschluss

Ein gelber Punkt muss nicht automatisch gegen den Anbieter sprechen. Er braucht aber einen Verantwortlichen, eine Frist und ein überprüfbares Abnahmekriterium. Ein roter Punkt in einer zentralen Verarbeitungskette sollte den produktiven Start blockieren, bis Vertrag, Konfiguration oder Anbieterwahl angepasst sind. Dokumentieren Sie auch akzeptierte Restrisiken und die Person, die diese Entscheidung getroffen hat.

Kompakte Go-live-Checkliste für Websitebetreiber

• Datenflusskarte und Rollen je Zweck sind freigegeben.
• AVV und Anlagen entsprechen Tarif, Funktionen, Datenarten und Aufbewahrungsfristen.
• Alle Unterauftragsverarbeiter sind namentlich mit Land, Aufgabe und Änderungsweg dokumentiert.
• Jeder Drittlandtransfer hat einen passenden, aktuell geprüften Mechanismus und gegebenenfalls ergänzende Maßnahmen.
• Modelltraining oder andere Eigennutzung von Chatdaten ist geklärt und wie vereinbart konfiguriert.
• Protokollierung, Supportzugriff, Datenexport, Löschung und Vertragsende wurden praktisch getestet.
• Datenschutzhinweise und Chat-Oberfläche erklären die Verarbeitung verständlich; Nutzer werden nicht zur Eingabe unnötiger sensibler Daten verleitet.
• Es ist geprüft, ob für den konkreten Einsatz eine Datenschutz-Folgenabschätzung erforderlich ist.
• Ein Owner überwacht Änderungen bei Unterauftragsverarbeitern, Transfermechanismen, Funktionen und Sicherheitsnachweisen.

Ergänzend lohnt sich ein Abgleich mit der grundlegenden Übersicht KI-Chatbot und DSGVO sowie mit der Anleitung für datensparsame Chatbot-Analytics. Damit werden Beschaffung, technische Konfiguration und laufender Betrieb nicht als getrennte Projekte behandelt.

Nach Vertragsabschluss weiterprüfen

Due Diligence ist kein einmaliger PDF-Ordner. Legen Sie mindestens einen festen Review-Rhythmus und ereignisbasierte Prüfungen fest. Auslöser sind neue Unterauftragsverarbeiter, ein anderer Modellanbieter, neue Produktfunktionen, geänderte Speicherorte, ein Sicherheitsvorfall, ablaufende Nachweise oder Änderungen an einem Angemessenheitsbeschluss. Die aktuelle Subprozessorliste und zentrale Vertragsversionen sollten mit Datum archiviert werden, damit spätere Änderungen nachvollziehbar bleiben.

Der praktische Maßstab ist einfach: Kann Ihr Team für jeden relevanten Datenfluss erklären, wer was warum verarbeitet, wo dies geschieht, wie lange Daten bleiben, welche Schutzmaßnahme greift und wie ein Ausstieg funktioniert? Wenn diese Antworten belegt sind, wird aus einer allgemeinen Datenschutzbehauptung eine belastbare Beschaffungsentscheidung. Bleiben zentrale Stationen unbekannt, sollte der Chatbot noch nicht mit echten Besucherdaten arbeiten.