sensible-ki

Checkliste

KI-Anbieter prüfen: Checkliste für DSGVO und AI Act

Von der Redaktion sensible-ki.de (neXenio GmbH) · Veröffentlicht 29.10.2026 · Aktualisiert 29.10.2026 · 7 Min. Lesezeit

Herstellerneutrale Checkliste für die Anbieterwahl: Datenstandort, AVV, Drittlandtransfer, Training, Logs, Zertifizierungen, AI-Act-Pflichten und Exit. Mit kopierbarem Fragenkatalog.

Ob ein KI-Dienst datenschutzkonform nutzbar ist, entscheidet sich nicht an Produktnamen oder Siegeln, sondern an Vertrag, Konfiguration und Nachweisen. Weil sich Tarife, Regionen und Bedingungen laufend ändern, finden Sie hier bewusst keine Anbieterliste, sondern die Fragen, die Sie jedem Anbieter stellen sollten, und die Unterlagen, die Sie sich dazu geben lassen.

Wichtig: Verantwortlicher im Sinne der DSGVO bleiben Sie. Der Anbieter ist in der Regel Auftragsverarbeiter, doch die Pflicht, ihn sorgfältig auszuwählen und das nachzuweisen (Art. 5 Abs. 2, Art. 24 und Art. 28 Abs. 1 DSGVO), liegt bei Ihnen. Prüfen Sie immer das konkrete Produkt im konkreten Tarif; Verbraucher-, Business- und API-Angebot desselben Herstellers unterscheiden sich oft erheblich.

1. Datenstandort und Unterauftragnehmer

Warum das wichtig ist

„EU-Region“ heißt nicht automatisch „alles bleibt in der EU“. Bei manchen Anbietern ist EU-Verarbeitung nur über Partner-Clouds möglich, bei anderen nur auf Antrag oder gegen Aufpreis, und regionale Endpunkte können Funktionen oder Modelle einschränken. Dazu kommen Unterauftragnehmer und Supportzugriffe.

Fragen an den Anbieter

  • Wo werden Eingaben verarbeitet, wo werden Daten gespeichert (inklusive Zwischenspeicher und Logs)?
  • Ist die EU-Option verbindlich zugesichert oder nur Voreinstellung? Gilt sie für alle genutzten Modelle und Funktionen?
  • Wer sind die Unterauftragnehmer, und wie werden wir über Änderungen informiert?
  • Kann Support-Personal aus Drittländern auf unsere Daten zugreifen?

Diese Nachweise anfordern

  • Aktuelle Liste der Unterauftragnehmer mit Standorten
  • Dokumentation der Regions- und Residenzoptionen, gegebenenfalls als Vertragszusatz

Warnsignale

  • Standortzusage nur in Werbetexten, nicht im Vertrag
  • Der Standard-Endpunkt verarbeitet „global“, und das wird nicht klar benannt

2. Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO

Warum das wichtig ist

Sobald personenbezogene Daten in den Dienst fließen, ist ein AVV Pflicht. Er muss unter anderem Gegenstand und Dauer, Weisungsbindung, Vertraulichkeit, Sicherheitsmaßnahmen, Unterauftragsverarbeitung, Unterstützung bei Betroffenenrechten und Löschung regeln.

Fragen an den Anbieter

  • Gibt es einen AVV, der für unser Produkt und unseren Tarif gilt, und wie wird er abgeschlossen?
  • Darf der Anbieter Daten über unsere Weisungen hinaus für eigene Zwecke verarbeiten?
  • Welche Fristen gelten für die Meldung von Datenpannen?

Diese Nachweise anfordern

  • Unterschriebener oder elektronisch geschlossener AVV
  • Anlage mit technischen und organisatorischen Maßnahmen (TOM)

Warnsignale

  • AVV gilt nur für ein anderes Produkt oder nur für Enterprise-Verträge
  • Weitreichende Rechte zur Nutzung Ihrer Daten für „eigene Zwecke“

3. Drittlandtransfer: Data Privacy Framework, SCC und TIA

Warum das wichtig ist

Sitzt der Anbieter oder ein Unterauftragnehmer außerhalb des EWR, oder greift Personal von dort zu, liegt ein Drittlandtransfer nach Kapitel V DSGVO vor. Stand Oktober 2026 trägt das EU-US Data Privacy Framework (Angemessenheitsbeschluss 2023) Übermittlungen an zertifizierte US-Unternehmen. Das Gericht der EU hat die Klage dagegen am 3. September 2025 abgewiesen (T-553/23); die Berufung (C-703/25 P) ist beim EuGH anhängig. Planen Sie deshalb eine Rückfalllösung ein.

Fragen an den Anbieter

  • Ist der Anbieter unter dem Data Privacy Framework zertifiziert, und gilt das für unsere Datenkategorien?
  • Sind Standardvertragsklauseln (SCC) Teil des Vertrags?
  • Gibt es ein Transfer Impact Assessment (TIA), oder unterstützt der Anbieter uns dabei?
  • Wie geht der Anbieter mit Auskunftsersuchen von Behörden um?

Diese Nachweise anfordern

  • Eintrag im Verzeichnis des Data Privacy Framework (dataprivacyframework.gov)
  • SCC mit Anhängen, TIA oder Transparenzbericht

Warnsignale

  • Verweis ausschließlich auf das Data Privacy Framework, ohne SCC als Rückfalllösung
  • Keine Aussage zum Umgang mit Behördenzugriffen

4. Training mit Kundendaten und Opt-out

Warum das wichtig ist

Ob Eingaben zur Verbesserung von Modellen genutzt werden, hängt häufig vom Angebot ab: Bei Business- und API-Tarifen ist das oft ausgeschlossen, bei kostenlosen und Verbraucherangeboten dagegen häufig nicht, teils mit Opt-out. Mitarbeitende, die privat ein kostenloses Konto nutzen, umgehen Ihre Absicherung.

Fragen an den Anbieter

  • Werden Eingaben, Ausgaben oder Feedback für Training oder Evaluierung genutzt? Gilt das für unseren Tarif?
  • Ist ein Opt-out nötig, und wo wird er eingestellt (Konto, Organisation, Vertrag)?
  • Gibt es Ausnahmen, etwa für gemeldetes Feedback oder Missbrauchsfälle?

Diese Nachweise anfordern

  • Vertragsklausel oder Produktdokumentation zur Datennutzung für den gebuchten Tarif
  • Screenshot oder Export der aktiven Einstellungen

Warnsignale

  • Zusage nur in Blogbeiträgen oder FAQ, nicht in den Vertragsunterlagen
  • Opt-out muss von jedem Nutzer einzeln gesetzt werden

5. Speicherung, Logs und Missbrauchserkennung

Warum das wichtig ist

Auch wenn nicht trainiert wird, können Eingaben gespeichert werden, etwa zur Missbrauchserkennung, im Zwischenspeicher oder in Verlaufsfunktionen. Maßgeblich sind Dauer, Zweck und die Frage, wer die Inhalte lesen darf.

Fragen an den Anbieter

  • Wie lange werden Prompts und Ausgaben gespeichert, und lässt sich das verkürzen (Zero Data Retention)?
  • Können Mitarbeitende des Anbieters Inhalte einsehen, und unter welchen Bedingungen?
  • Lässt sich die Aufbewahrung zur Missbrauchserkennung abschalten, und gibt es dafür ein Freigabeverfahren?

Diese Nachweise anfordern

  • Dokumentation der Aufbewahrungsfristen
  • Schriftliche Bestätigung bestehender Ausnahmen

Warnsignale

  • Zero Data Retention nur auf Nachfrage und ohne schriftliche Zusage
  • Keine Angabe, wer Protokolle einsehen kann

6. Sicherheit und Zertifizierungen

Warum das wichtig ist

ISO 27001 oder ein BSI-C5-Testat sind sinnvolle Indizien, aber kein Freifahrtschein. Entscheidend ist, ob der Geltungsbereich genau den Dienst umfasst, den Sie nutzen, und wie aktuell die Prüfung ist. Prüfen Sie den Bericht, nicht nur das Logo.

Fragen an den Anbieter

  • Welche Zertifikate oder Testate gibt es, und was ist der genaue Geltungsbereich (Standorte, Dienste)?
  • Wie aktuell ist die Prüfung, und welche Abweichungen wurden festgestellt?
  • Wie sind Verschlüsselung, Zugriffskontrolle und Mandantentrennung umgesetzt?

Diese Nachweise anfordern

  • Zertifikat samt Geltungsbereich (Statement of Applicability)
  • Bei BSI C5 der Prüfbericht mit Angabe des Prüfzeitraums

Warnsignale

  • Das Zertifikat deckt nur das Rechenzentrum, nicht den KI-Dienst ab
  • Der Prüfbericht wird auch unter Vertraulichkeitsvereinbarung verweigert

7. AI-Act-Rollen und Pflichten

Warum das wichtig ist

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) haben seit 2. August 2025 eigene Pflichten, darunter technische Dokumentation und Informationen für nachgelagerte Anbieter. Als Betreiber haben Sie eigene Pflichten, etwa zur KI-Kompetenz (Art. 4) und zur Transparenz (Art. 50). Einen Überblick gibt der Ratgeber zum EU AI Act; Ihre Rolle klärt der Selbstcheck.

Fragen an den Anbieter

  • Welche Rolle nimmt der Anbieter nach dem AI Act ein, und welche Unterlagen stellt er Betreibern bereit?
  • Wie unterstützt er uns bei Kennzeichnung und Transparenz nach Art. 50?
  • Falls das System als Hochrisiko-KI gelten kann: Liegt eine Gebrauchsanweisung vor, und wie sind Konformitätsnachweise geregelt?

Diese Nachweise anfordern

  • Modell- oder Systemdokumentation, Gebrauchsanweisung
  • Schriftliche Einstufung des Systems durch den Anbieter

Warnsignale

  • Keine Auskunft zur eigenen Einstufung
  • Pflichten werden pauschal auf den Kunden abgewälzt

8. Exit, Löschung und Portabilität

Warum das wichtig ist

Eine Anbieterwahl ist selten endgültig. Klären Sie vor Vertragsabschluss, wie Sie Ihre Daten wieder herausbekommen und wie die Löschung nachweisbar wird.

Fragen an den Anbieter

  • In welchen Formaten und innerhalb welcher Frist können wir Daten und Konfigurationen exportieren?
  • Wann und wie werden Daten nach Vertragsende gelöscht, und gibt es eine Löschbestätigung?
  • Welche Kündigungsfristen gelten, und was geschieht mit Backups?

Diese Nachweise anfordern

  • Löschkonzept und Löschfristen im AVV
  • Beschreibung der Exportfunktionen oder Schnittstellen

Warnsignale

  • Kein Export oder nur proprietäre Formate
  • Löschung „nach Ermessen“ des Anbieters

Fragenkatalog zum Kopieren

Alle Kernfragen in einem Text, den Sie direkt an Vertrieb, Datenschutzteam oder Rechtsabteilung des Anbieters senden können.

Fragenkatalog an Ihren KI-Anbieter
Fragenkatalog zur Prüfung eines KI-Dienstes (Datenschutz und AI Act)

Produkt / Tarif: ______________________
Ansprechpartner Anbieter: ______________________
Datum: ______________________

Datenstandort und Unterauftragnehmer
1. Wo werden Eingaben verarbeitet und wo gespeichert (inklusive Zwischenspeicher und Logs)?
2. Ist die EU-Verarbeitung vertraglich zugesichert, und gilt sie für alle von uns genutzten Modelle und Funktionen?
3. Welche Unterauftragnehmer sind beteiligt, und wie werden wir über Änderungen informiert?
4. Können Support-Mitarbeitende aus Drittländern auf unsere Daten zugreifen?

AVV (Art. 28 DSGVO)
5. Gibt es einen AVV für genau dieses Produkt und diesen Tarif? Bitte um Zusendung samt TOM-Anlage.
6. Darf der Anbieter unsere Daten für eigene Zwecke verarbeiten?

Drittlandtransfer
7. Auf welcher Grundlage werden Daten in Drittländer übermittelt (Data Privacy Framework, Standardvertragsklauseln)?
8. Stellen Sie ein Transfer Impact Assessment bereit oder unterstützen Sie uns dabei?

Training und Speicherung
9. Werden unsere Eingaben, Ausgaben oder Feedback zum Training oder zur Evaluierung genutzt? Wo ist das vertraglich festgehalten?
10. Wie lange werden Eingaben und Ausgaben gespeichert, und ist eine kürzere Aufbewahrung oder Zero Data Retention möglich?
11. Wer kann beim Anbieter Inhalte einsehen (z. B. zur Missbrauchserkennung), und unter welchen Bedingungen?

Sicherheit
12. Welche Zertifizierungen oder Testate liegen vor (ISO 27001, BSI C5), und was ist ihr genauer Geltungsbereich?
13. Können Sie uns den aktuellen Prüfbericht bzw. das Statement of Applicability zur Verfügung stellen?
14. Wie sind Verschlüsselung, Zugriffskontrolle und Mandantentrennung umgesetzt?

AI Act
15. Welche Rolle nehmen Sie nach dem EU AI Act ein, und wie stufen Sie das System ein?
16. Welche Dokumentation (z. B. Modell- und Systemdokumentation, Gebrauchsanweisung) stellen Sie Betreibern bereit?
17. Wie unterstützen Sie uns bei Transparenz- und Kennzeichnungspflichten (Art. 50)?

Exit
18. In welchen Formaten und Fristen können wir Daten exportieren, und wie wird die Löschung nach Vertragsende bestätigt?

Dokumentieren Sie Antworten und erhaltene Unterlagen mit Datum. Sie sind Ihr Nachweis gegenüber Aufsicht und Kunden und die Grundlage für das Verzeichnis von Verarbeitungstätigkeiten und eine mögliche Datenschutz-Folgenabschätzung. Wie sich die Anbieterprüfung in den Gesamtprozess einfügt, beschreibt der Ratgeber KI DSGVO-konform einsetzen; interne Regeln für die Nutzung finden Sie in der Vorlage für eine KI-Richtlinie.