Die DSGVO für KI-Agenten gilt in dem Moment, in dem Ihr Agent personenbezogene Daten über Menschen in der EU verarbeitet, auch wenn Ihr Unternehmen in Tunis, Kairo oder Dubai sitzt. Der AI Act der EU kommt als zweite Ebene hinzu, verlangt von den meisten Agenten im Unternehmen aber wenig: Machen Sie transparent, dass Menschen mit KI zu tun haben, und sorgen Sie dafür, dass Ihre Mitarbeitenden die Tools verstehen. Die schweren Pflichten greifen erst, wenn der Agent über Arbeitsplätze, Kredite oder den Zugang zu grundlegenden Diensten entscheidet.
Dieser Artikel gehört zu unserem Leitfaden KI-Agenten für Unternehmen. Er bietet allgemeine Informationen und ist keine Rechtsberatung. Für Ihren konkreten Fall ziehen Sie Ihren Datenschutzbeauftragten (DSB) oder eine Anwältin bzw. einen Anwalt hinzu.
Unser durchgehendes Beispiel: ein Finanzagent, der Lieferantenrechnungen liest, etwa eine Rechnung über 8.960 € zur Bestellung 4471, und sie zur Freigabe vorbereitet. (Zahlen zur Veranschaulichung, kein Kundenfall.)
Wann die DSGVO für KI-Agenten in Ihrem Unternehmen gilt
Die DSGVO, die Datenschutz-Grundverordnung der EU, schützt personenbezogene Daten: alle Informationen über eine identifizierbare Person. Lieferantenrechnungen enthalten meist welche: Name und E-Mail-Adresse einer Ansprechperson und bei Einzelunternehmern oft ein privates Bankkonto.
Der Firmensitz schützt Sie nicht. Art. 3 DSGVO erfasst Unternehmen außerhalb der EU, wenn sie Personen in der EU Waren oder Dienstleistungen anbieten oder beobachten, wie sich diese Personen dort verhalten. Wenn Sie ein Unternehmen in Marokko oder Kenia mit europäischen Kunden führen und Ihr Agent Daten über deren Personal verarbeitet, planen Sie so, als ob die DSGVO gilt.
Der Verantwortliche entscheidet, warum und wie Daten verwendet werden: bei Ihren eigenen Rechnungen sind das Sie. Ein Auftragsverarbeiter verarbeitet die Daten in Ihrem Auftrag: Ihr Cloud-Hoster, Ihre Buchhaltungssoftware und, ja, auch das Unternehmen hinter dem KI-Modell.
Die Checkliste für KI und Datenschutz nach DSGVO
Eine Rechtsgrundlage für jede Verarbeitung
Sie brauchen einen rechtmäßigen Grund für die Verarbeitung, aus der Liste in Art. 6 DSGVO. Bei Rechnungen ist das meist die Erfüllung eines Vertrags, eine rechtliche Verpflichtung wie die Aufbewahrung von Buchhaltungsunterlagen oder Ihr berechtigtes Interesse, Lieferanten effizient zu bezahlen. Halten Sie es schriftlich fest, Sie werden es brauchen. „Wir haben KI eingeführt“ ist keine neue Rechtsgrundlage, aber ein neuer Zweck kann eine erfordern.
Ein Auftragsverarbeitungsvertrag mit jedem Anbieter
Ein Auftragsverarbeitungsvertrag (AVV) ist der Vertrag, der einem Auftragsverarbeiter vorgibt, was er mit Ihren Daten tun darf und was nicht. Art. 28 DSGVO schreibt ihn vor. Er regelt Gegenstand, Dauer, Art und Zweck der Verarbeitung sowie die Art der betroffenen Daten.
Den Anbieter des KI-Modells vergessen viele. Wenn Rechnungstext an ein KI-Modell geht, ist dieser Anbieter ein Auftragsverarbeiter und braucht einen AVV. Die großen Anbieter stellen für ihre Business-Angebote Standardverträge bereit, zum Beispiel OpenAIs Data Processing Addendum. Schließen Sie diese ab und prüfen Sie dabei auch, ob Ihre Daten zum Training der Modelle verwendet werden dürfen.
Datenminimierung
Nach Art. 5 DSGVO müssen Daten auf das für den Zweck notwendige Maß beschränkt sein. Für unseren Agenten heißt das: Er sieht die Rechnung und die Bestellung 4471, nicht den gesamten Lieferantenstamm und nicht den Personalordner. Das ist auch günstiger, denn weniger Text bedeutet weniger Token, wie wir in Token-Kosten von KI-Agenten gezeigt haben. Und es ist sicherer, worum es in Sicherheitsrisiken von KI-Agenten geht.
Übermittlungen in Drittländer
Personenbezogene Daten dürfen den Europäischen Wirtschaftsraum (EWR) verlassen, aber nur unter bestimmten Bedingungen. Am einfachsten ist ein Angemessenheitsbeschluss: Die Europäische Kommission hat eine Liste von Ländern anerkannt, die ein angemessenes Schutzniveau bieten, darunter das Vereinigte Königreich, Japan und US-Unternehmen im EU-US Data Privacy Framework. Andernfalls brauchen Sie Garantien wie die Standardvertragsklauseln der Kommission. Fragen Sie jeden Anbieter, wo die Daten verarbeitet werden und was davon gilt.
Eine DSFA bei hohem Risiko
Eine Datenschutz-Folgenabschätzung (DSFA) ist eine schriftliche Prüfung vor dem Start, was für die betroffenen Personen schiefgehen könnte. Art. 35 DSGVO verlangt sie, wenn eine Verarbeitung voraussichtlich ein hohes Risiko mit sich bringt, zum Beispiel bei einer systematischen Bewertung von Personen auf Grundlage automatisierter Verarbeitung. Ein einfacher Rechnungsagent braucht oft keine. Ein Agent, der Bewerbungen sichtet, fast sicher schon.
Vorsicht bei automatisierten Entscheidungen
Art. 22 DSGVO gibt Menschen das Recht, keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Eine Rechnung zu bezahlen ist keine solche Entscheidung. Einen Bewerber abzulehnen schon. Binden Sie bei solchen Entscheidungen eine Person ein, die das Ergebnis tatsächlich ändern kann.
Der AI Act der EU in einfachen Worten
Der AI Act der EU (die KI-Verordnung) ordnet KI-Systeme nach ihrem Risiko ein. Stellen Sie sich vier Stufen vor:
- Verboten. Praktiken wie manipulative Techniken, die Schaden verursachen, oder Social Scoring. Diese Verbote gelten seit dem 2. Februar 2025.
- Hochrisiko. Systeme in sensiblen Bereichen, aufgeführt in Anhang III. Für sie gelten die schweren Pflichten.
- Transparenzpflichten. Systeme, die mit Menschen interagieren oder Inhalte erzeugen, müssen das offenlegen.
- Alles andere. Die meisten Business-Tools. Keine besonderen Pflichten außer der KI-Kompetenz.
Auch der AI Act reicht über die EU hinaus. Art. 2 erfasst Anbieter und Betreiber in anderen Ländern, wenn die Ausgabe des Systems in der Union verwendet wird. Ein Anbieter entwickelt das KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr. Ein Betreiber ist das Unternehmen, das es einsetzt.
Wann ein KI-Agent nach dem AI Act als Hochrisiko gilt
Anhang III umfasst KI, die zur Einstellung oder Auswahl von Personen eingesetzt wird, auch zum Filtern von Bewerbungen und zur Bewertung von Kandidaten. Dazu kommen Entscheidungen über Beförderung, Kündigung oder Aufgabenzuweisung am Arbeitsplatz, die Prüfung der Kreditwürdigkeit und Kreditscores von Privatpersonen sowie der Zugang zu grundlegenden öffentlichen und privaten Diensten. Unser Rechnungsagent steht nicht auf dieser Liste, ebenso wenig die meisten Agenten, die Dokumente lesen oder E-Mails entwerfen.
Wenn Sie ein Hochrisiko-System einsetzen, gehört zu Ihren Pflichten als Betreiber, die menschliche Aufsicht geschulten Personen mit echter Entscheidungsbefugnis zu übertragen, die Protokolle des Systems aufzubewahren und die Beschäftigten vor dem Einsatz am Arbeitsplatz zu informieren. Den Großteil des Rests trägt der Anbieter, etwa Risikomanagement und Tests.
Zwei Pflichten, die fast alle betreffen
Offenlegen, dass Menschen mit KI zu tun haben. Nach Art. 50 müssen Systeme, die direkt mit Menschen interagieren, so gestaltet sein, dass diese Menschen wissen, dass sie mit einem KI-System sprechen, es sei denn, das ist ohnehin offensichtlich. Wenn Ihr Agent Lieferanten per E-Mail an eine fehlende Bestellnummer erinnert, schreiben Sie dazu, dass es sich um einen automatisierten Assistenten handelt. Auch KI-generierte Inhalte und Deepfakes müssen gekennzeichnet werden.
KI-Kompetenz. Art. 4 in seiner geänderten Fassung verlangt von Anbietern und Betreibern, Maßnahmen zu ergreifen, um die KI-Kompetenz der Mitarbeitenden zu fördern, die in ihrem Auftrag KI nutzen. Kein Zertifikat, kein festgelegtes Niveau. In der Praxis: eine kurze Schulung dazu, was der Agent tut, wo er Fehler macht und wann man ihn übersteuert.
Der Zeitplan nach dem Digital Omnibus
Der Digital Omnibus zur KI, Verordnung (EU) 2026/1744, ist am 27. Juli 2026 in Kraft getreten und hat mehrere Fristen verschoben (die Zusammenfassung von Orrick bietet einen gut lesbaren Überblick, auf Englisch):
| Datum | Was gilt |
|---|---|
| 2. Februar 2025 | Verbotene Praktiken untersagt |
| August 2025 | Regeln für KI-Modelle mit allgemeinem Verwendungszweck, also die großen Modelle von OpenAI und anderen |
| 2. August 2026 | Transparenzpflichten nach Art. 50. Anbieter inhaltsgenerierender Systeme, die schon vor diesem Datum auf dem Markt waren, haben für die Kennzeichnung KI-generierter Inhalte bis zum 2. Dezember 2026 Zeit |
| 2. Dezember 2027 | Hochrisiko-Pflichten für Anwendungen nach Anhang III, etwa Personalauswahl und Kreditscoring (vor dem Omnibus war es der 2. August 2026) |
| 2. August 2028 | Hochrisiko-KI in regulierten Produkten, etwa Maschinen oder Medizinprodukten |
Wie hoch die Bußgelder ausfallen
Nach Art. 99 des AI Act können verbotene Praktiken bis zu 35 Millionen € oder 7 % des weltweiten Jahresumsatzes kosten. Verstöße gegen andere Pflichten, auch gegen Art. 50, können bis zu 15 Millionen € oder 3 % kosten, irreführende Angaben gegenüber Behörden bis zu 7,5 Millionen € oder 1 %. Für KMU gilt jeweils der niedrigere der beiden Beträge. Die DSGVO reicht bis zu 20 Millionen € oder 4 % des Umsatzes.
Das sind Obergrenzen, keine Preisschilder. Aufsichtsbehörden berücksichtigen etwa Vorsatz, Schaden und das, was Sie zur Vermeidung unternommen haben. Deshalb lohnt sich eine dokumentierte Checkliste: Sie ist Ihr Nachweis.
Zwei Agenten, zwei sehr unterschiedliche Checklisten
Der Rechnungsagent:
- Rechtsgrundlage für die Rechnungsdaten schriftlich festgehalten.
- Ein AVV mit dem KI-Anbieter, dem Hosting-Anbieter und jedem Konnektor-Dienst.
- Übermittlungen außerhalb des EWR durch Angemessenheitsbeschluss oder Standardvertragsklauseln abgedeckt.
- Zugriff beschränkt auf Rechnungen, Bestellungen und Wareneingänge.
- Eine Person gibt jede Zahlung frei.
- Nachrichten an Lieferanten weisen aus, dass sie von einem automatisierten Assistenten stammen.
- Mitarbeitende in der Finanzabteilung sind geschult, wie der Agent arbeitet und wann sie ihn übersteuern.
Ein Agent für die Bewerbervorauswahl:
- Alles oben Genannte, und zusätzlich:
- Eine DSFA vor dem Go-live.
- Bewerberinnen und Bewerber werden informiert, dass KI beteiligt ist, und eine Person prüft und entscheidet jede Absage.
- Behandlung als Hochrisiko-System nach dem AI Act: ein Anbieter, der seine Konformitätsunterlagen vorlegen kann, geschulte Personen für die menschliche Aufsicht, aufbewahrte Protokolle und informierte Arbeitnehmervertretung, bereit für den 2. Dezember 2027.
- Regelmäßige Prüfungen, dass der Agent keine Gruppe von Bewerbern unfair behandelt.
Wenn Sie überlegen, wo Sie anfangen sollen, wählen Sie den Workflow mit der kürzeren Liste. Unsere KI-Beratung priorisiert mögliche Workflows genau so, unser Service für KI-Agenten baut sie mit diesen Kontrollen, und unsere Integrationsarbeit hält jede Verbindung auf das Nötigste beschränkt. Für die Systemseite lesen Sie KI-Agenten mit ERP und CRM verbinden und unseren Leitfaden zur Wissensdatenbank für KI-Agenten.
FAQ
Gilt die DSGVO für einen KI-Agenten, den ein Unternehmen außerhalb der EU betreibt?
Das kann sein. Die DSGVO erfasst Unternehmen außerhalb der EU, wenn sie Personen in der EU Waren oder Dienstleistungen anbieten oder deren Verhalten dort beobachten. Ein Unternehmen in Tunesien, Ägypten oder den VAE, das Daten über Mitarbeitende oder Kunden seiner europäischen Auftraggeber verarbeitet, sollte davon ausgehen, dass die DSGVO gilt, und die Einzelheiten mit einer Anwältin oder einem Anwalt klären.
Brauchen wir einen Auftragsverarbeitungsvertrag mit OpenAI oder einem anderen KI-Anbieter?
Ja, wenn der Agent personenbezogene Daten an diesen Anbieter sendet. Nach Art. 28 DSGVO braucht ein Anbieter, der personenbezogene Daten in Ihrem Auftrag verarbeitet, einen Vertrag, der festlegt, was er mit den Daten tun darf. Die großen KI-Anbieter stellen für ihre Business-Angebote Standardverträge zur Auftragsverarbeitung bereit.
Ist unser KI-Agent nach dem AI Act der EU ein Hochrisiko-System?
Die meisten Agenten im Unternehmen sind es nicht. Ein Agent, der Rechnungen verarbeitet, interne Fragen beantwortet oder E-Mails entwirft, fällt in der Regel nicht unter die Hochrisiko-Liste. Agenten, die Bewerbungen sichten, Mitarbeitende bewerten, die Kreditwürdigkeit prüfen oder über den Zugang zu grundlegenden Diensten entscheiden, sind Hochrisiko-Systeme. Diese Pflichten gelten ab dem 2. Dezember 2027.
Was müssen wir nach dem AI Act der EU jetzt schon tun?
Für fast jedes Unternehmen zählen zwei Dinge. Sorgen Sie dafür, dass Menschen wissen, wenn sie es mit einem KI-System statt mit einer Person zu tun haben, und ergreifen Sie Maßnahmen, damit Ihre Mitarbeitenden die KI-Tools verstehen, die sie nutzen. Verbotene Praktiken, etwa manipulative Systeme oder Social Scoring, sind seit dem 2. Februar 2025 untersagt.
Nicht sicher, welche Regeln für den Agenten gelten, den Sie planen? Buchen Sie ein Gespräch, und wir prüfen ihn gemeinsam mit Ihnen anhand von DSGVO und AI Act.
