Sie nutzen KI-Tools für Kundenservice, Analysen oder andere Geschäftsprozesse. Doch mit KI kommen neue rechtliche Pflichten: Seit August 2024 gilt der EU AI Act, parallel dazu bleibt die Datenschutz-Grundverordnung (DSGVO) in Kraft.

Besonders wichtig wird dies, wenn personenbezogene Daten verarbeitet werden, etwa bei der Nutzung externer KI-Tools oder Cloud-Dienste. Dann ist ein Auftragsverarbeitungsvertrag (AVV) bzw. Data Processing Agreement (DPA) erforderlich. Beide Begriffe bezeichnen dasselbe: einen Vertrag, der regelt, wie der Dienstleister mit Ihren Daten umgehen muss.

Dieser Artikel erklärt, wie AI Act und DSGVO zusammenspielen, wann Sie einen AVV/DPA benötigen und worauf Sie bei KI-Verträgen achten müssen. 

Bitte beachten Sie, dass dieser Artikel keine Rechtsberatung ersetzt und es sich hier ausschließlich um Empfehlungen und unsere Tipps handelt.

Data Processing Agreement (DPA/AVV)

DSGVO und Auftragsverarbeitung: AVV und DPA im Überblick

Sie nutzen ein CRM-System mit KI-Funktionen wie Salesforce oder HubSpot. Das System speichert Ihre Kundendaten, wertet sie aus und gibt Ihnen Empfehlungen, welche Kunden Sie als nächstes ansprechen sollten. Die Daten liegen dabei nicht auf Ihrem eigenen Server, sondern beim Anbieter in der Cloud.

Rechtlich gesehen bleiben Sie der Verantwortliche für diese Daten. Der Anbieter verarbeitet sie lediglich nach Ihren Vorgaben und handelt als Dienstleister. Genau für diese Konstellation verlangt die DSGVO einen schriftlichen Vertrag, der klar regelt, wie der Anbieter mit Ihren Daten umgehen muss.

Dieser Vertrag heißt:

  • AVV (Auftragsverarbeitungsvertrag) – so nennen ihn deutsche Anbieter
  • DPA (Data Processing Agreement) – so heißt er bei internationalen Anbietern

Beides ist das Gleiche, nur unterschiedliche Bezeichnungen. Der Vertrag schützt nicht nur die Rechte Ihrer Kunden, sondern auch Ihr Unternehmen vor Bußgeldern und Schadenersatzforderungen.

Warum ist das wichtig?

Falls etwas schiefgeht, z.B. durch ein Datenleck oder weil der Anbieter Ihre Kundendaten unbefugt nutzt, tragen Sie die Verantwortung und damit auch die Konsequenzen. Nicht nur der Anbieter, sondern auch Sie als Verantwortlicher. Das kann richtig teuer werden: Bußgelder von Datenschutzbehörden, Schadenersatzforderungen von Kunden, Imageschaden.

Ein sauberer AVV/DPA schützt Sie und Ihre Kunden und zeigt der Datenschutzbehörde, dass Sie Ihre Hausaufgaben gemacht haben.

Was Unternehmen bei KI-Verträgen beachten müssen

Nicht jede Nutzung eines KI-Tools erfordert einen AVV. Entscheidend ist, ob der Anbieter personenbezogene Daten im Auftrag des Unternehmens verarbeitet. 

  • AVV erforderlich: Ein Unternehmen nutzt ein KI-gestütztes CRM-Tool, das Kundendaten analysiert. Der Anbieter verarbeitet die Daten nach Weisung des Unternehmens → Auftragsverarbeitung.
  • Kein AVV erforderlich: Ein Unternehmen nutzt ein KI-Tool zur Texterstellung, ohne personenbezogene Daten einzugeben (z. B. anonyme Prompts) → keine Auftragsverarbeitung.
  • Gemeinsame Verantwortlichkeit: Ein Unternehmen und ein KI-Anbieter entscheiden gemeinsam über Zwecke und Mittel der Verarbeitung (z. B. gemeinsame Entwicklung eines KI-Modells) → Joint Controllership, kein AVV, sondern Vereinbarung nach Art. 26 DSGVO.

In der Praxis empfiehlt es sich, bei jedem externen KI-Tool zu prüfen: Werden personenbezogene Daten übermittelt? Verarbeitet der Anbieter diese nach unserer Weisung? Falls ja, ist ein AVV/DPA zwingend.

Inhalte eines datenschutzkonformen AVV/DPA

Ein rechtssicherer AVV/DPA muss die Vorgaben von Art. 28 Abs. 3 DSGVO erfüllen. Wesentliche Bestandteile:

  • Gegenstand und Dauer: Welche Verarbeitung erfolgt, für welchen Zeitraum?
  • Art und Zweck der Verarbeitung: Welche Daten werden verarbeitet (z. B. Kundendaten, Mitarbeiterdaten), zu welchem Zweck (z. B. KI-gestützte Analyse)?
  • Kategorien betroffener Personen: Kunden, Mitarbeiter, Lieferanten etc.
  • Weisungsbefugnis: Der Auftragsverarbeiter darf Daten nur nach dokumentierten Weisungen verarbeiten.
  • Vertraulichkeit: Verpflichtung der Mitarbeiter des Dienstleisters auf Vertraulichkeit.
  • Technische und organisatorische Maßnahmen (TOMs): Verschlüsselung, Zugriffskontrolle, Protokollierung etc.
  • Unterauftragsverarbeiter: Regelung, ob und wie der Dienstleister Subunternehmer einsetzen darf (inkl. Informationspflicht).
  • Unterstützung bei Betroffenenrechten: Der Dienstleister muss bei Auskunfts-, Lösch- und Berichtigungsanfragen unterstützen.
  • Löschung und Rückgabe: Nach Vertragsende müssen Daten gelöscht oder zurückgegeben werden.
  • Nachweispflichten: Der Dienstleister muss Compliance nachweisen (z. B. durch Audits, Zertifikate).

Bei internationalen Anbietern (Drittstaaten) müssen zusätzlich Standardvertragsklauseln oder andere Garantien (z. B. Binding Corporate Rules) vereinbart werden.

Muster_zur_Auftragsverarbeitung.pdf

Besonderheiten bei KI-Systemen: AI Act und AVV kombinieren

Wenn ein KI-System unter den AI Act fällt, insbesondere bei Hochrisiko-Systemen, reicht ein Standard-AVV nicht aus. Unternehmen sollten zusätzlich prüfen:

  • Konformität des Anbieters: Erfüllt der Anbieter die Anforderungen des AI Act (z. B. CE-Kennzeichnung, technische Dokumentation, Risikomanagementsystem)?
  • Transparenz: Stellt der Anbieter Informationen über das KI-Modell, Trainingsdaten und Funktionsweise bereit?
  • Menschliche Aufsicht: Ist eine angemessene Überwachung durch das Unternehmen möglich?
  • Protokollierung: Werden Nutzungsdaten und Entscheidungen des KI-Systems ausreichend dokumentiert?

In der Praxis empfiehlt es sich, den AVV/DPA um AI-Act-spezifische Klauseln zu ergänzen oder eine separate Vereinbarung zu treffen, die die Pflichten beider Parteien nach dem AI Act regelt. Beispielsweise kann der Anbieter verpflichtet werden, regelmäßig über Updates, Risikobewertungen und Konformität zu berichten.

Haftung und Verantwortung: Wer haftet bei Verstößen?

Ein häufiges Missverständnis: Der AVV/DPA entbindet das Unternehmen nicht von seiner Verantwortung. Nach Art. 82 DSGVO haften Verantwortlicher und Auftragsverarbeiter gesamtschuldnerisch für Schäden, die durch Datenschutzverstöße entstehen. Das bedeutet: Auch wenn der Dienstleister einen Fehler macht, kann das Unternehmen von Betroffenen in Anspruch genommen werden.

Der AI Act führt ein ähnliches Prinzip ein: Betreiber von Hochrisiko-KI-Systemen können für Schäden haften, die durch den Einsatz entstehen – etwa bei Diskriminierung oder fehlerhaften Entscheidungen. Eine sorgfältige Auswahl und Überwachung des Anbieters ist daher essenziell.

Fazit 

Der Einsatz von KI-Systemen erfordert ein Zusammenspiel von Datenschutz und KI-Regulierung. Unternehmen, die externe KI-Tools nutzen, müssen sowohl die DSGVO als auch den EU AI Act beachten – und die Verantwortlichkeiten vertraglich klar regeln.

Die wichtigsten Punkte im Überblick:

  1. AVV/DPA ist Pflicht: Sobald ein KI-Anbieter personenbezogene Daten im Auftrag verarbeitet, ist ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO zwingend erforderlich.
  2. AI Act erweitert Pflichten: Bei Hochrisiko-KI-Systemen müssen Unternehmen zusätzlich Anforderungen des AI Act erfüllen – etwa Risikomanagementsysteme, menschliche Aufsicht und Transparenz.
  3. Verantwortung bleibt beim Unternehmen: Ein AVV/DPA entbindet nicht von der Haftung. Unternehmen müssen Anbieter sorgfältig auswählen, überwachen und dokumentieren.
  4. Drittstaatentransfers absichern: Bei Anbietern außerhalb der EU sind Standardvertragsklauseln oder andere Garantien erforderlich – besonders kritisch bei sensiblen Daten.
  5. Dokumentation ist essentiell: Verzeichnis von Verarbeitungstätigkeiten, AVV-Archiv, DSFA und AI-Act-Dokumentation schaffen Rechtssicherheit und erleichtern Audits.

Unternehmen, die diese Grundsätze beachten, minimieren rechtliche Risiken, stärken das Vertrauen ihrer Kunden und nutzen die Chancen der KI verantwortungsvoll. Bei Unsicherheiten, insbesondere bei Hochrisiko-Systemen oder komplexen Datenflüssen – empfiehlt sich die Konsultation eines spezialisierten Rechtsanwalts oder Datenschutzbeauftragten.