EU AI Act und DSGVO für selbst gehostete LLMs

Ein LLM auf eigener Infrastruktur ist weder von der EU-KI-Verordnung noch von der DSGVO ausgenommen. Die KI-Verordnung regelt bestimmte KI-Systeme und KI-Modelle mit allgemeinem Verwendungszweck (GPAI) und verteilt Pflichten nach Rollen. Die DSGVO gilt, wenn personenbezogene Daten verarbeitet werden. Prompts und Ausgaben können solche Daten enthalten, müssen es aber nicht.¹² Lokales Hosting kann externe Datenübermittlungen verringern. Welche Pflichten gelten, entscheiden der vorgesehene Einsatz, die beteiligten Akteure und die tatsächlichen Datenflüsse.

Mit Einsatz und Rolle beginnen

Ein LLM ist nicht automatisch ein Hochrisiko-KI-System. Nach Art. 6 und Anhang III können etwa Personalgewinnung oder Beschäftigtenmanagement, Bildung und bestimmte Bonitätsprüfungen darunter fallen. Art. 6 Abs. 1 erfasst außerdem Sicherheitskomponenten oder Produkte nach bestimmten Rechtsakten aus Anhang I. Art. 6 Abs. 3 enthält eine begrenzte Ausnahme für manche Anhang-III-Systeme ohne erhebliches Risiko. Ein Anbieter, der sich darauf beruft, muss seine Beurteilung nach Art. 6 Abs. 4 dokumentieren.³ Ein allgemeiner Programmierassistent und ein LLM zur Auswahl von Bewerbern brauchen deshalb getrennte Prüfungen, auch wenn sie dieselben Gewichte nutzen.

Getrennt zu bestimmen sind:

• Anbieter eines GPAI-Modells: der Akteur, der ein solches Modell entwickelt oder unter eigenem Namen in Verkehr bringt.
• Anbieter eines KI-Systems: der Akteur, der ein System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt.
• Betreiber: der Akteur, der ein KI-System in eigener Verantwortung verwendet, ausgenommen rein persönliche, nicht berufliche Nutzung.⁴

Ein Unternehmen kann mehrere Rollen zugleich haben. Wer fremde Modellgewichte selbst hostet, wird dadurch nicht in jedem Fall Anbieter des GPAI-Modells. Wer ein eigenes System baut und unter eigenem Namen in Betrieb nimmt, kann jedoch Systemanbieter sein. Auch eine Zweckänderung oder wesentliche Veränderung eines fremden Hochrisiko-Systems kann nach Art. 25 Anbieterpflichten auslösen. Entscheidend ist die konkrete Konstellation, nicht der Serverstandort.

Termine nach dem Digital Omnibus

Die Verordnung (EU) 2026/1744 gilt. Sie verschob Kapitel III, Abschnitte 1–3 für Hochrisiko-Systeme nach Anhang III auf den 2. Dezember 2027 und für solche nach Anhang I auf den 2. August 2028.⁵ Art. 4 zur KI-Kompetenz und die meisten Verbote nach Art. 5 gelten seit dem 2. Februar 2025; die zwei neuen Art.-5-Verbote gelten ab dem 2. Dezember 2026. Das GPAI-Kapitel gilt seit dem 2. August 2025, vorbehaltlich Übergangsregeln. Art. 50 zur Transparenz gilt seit dem 2. August 2026. Der neue Art. 111 Abs. 4 gibt Anbietern generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, bis zum 2. Dezember 2026 Zeit für Art. 50 Abs. 2.⁵ Eine detaillierte Zeitleiste erläutert die Unterschiede.

Pflichten für Open-Source-Modelle getrennt betrachten

Art. 53 Abs. 2 nimmt bei qualifizierenden freien und quelloffenen GPAI-Modellen, deren Parameter, Architektur- und Nutzungsinformationen öffentlich verfügbar sind, nur die Pflichten zu technischer Dokumentation und Informationen für nachgelagerte Anbieter aus Art. 53 Abs. 1 Buchst. a–b aus. Das Konzept zur Einhaltung des EU-Urheberrechts und die öffentliche Zusammenfassung der Trainingsinhalte nach Art. 53 Abs. 1 Buchst. c–d bleiben relevant. Für GPAI-Modelle mit systemischem Risiko gilt die Ausnahme nicht.⁶ Diese Pflichten treffen den GPAI-Modellanbieter, nicht automatisch jedes Unternehmen, das offene Gewichte einsetzt. Bei Veröffentlichung eines Fine-Tunes sind Lizenz, Änderungen und Form der Veröffentlichung zu prüfen. „Open Weights“ allein beweist keine nach Art. 53 Abs. 2 geeignete Lizenz.

Art. 50: Absatz und Adressat zuordnen

Nach Art. 50 Abs. 1 müssen Anbieter von Systemen für die direkte Interaktion mit natürlichen Personen diese so gestalten, dass die Betroffenen über die KI-Interaktion informiert werden, sofern sie nicht ohnehin offensichtlich ist. Nach Abs. 2 müssen Anbieter generativer Systeme die maschinenlesbare Kennzeichnung und Erkennbarkeit synthetischer Audio-, Bild-, Video- oder Textausgaben sicherstellen; die dortigen Ausnahmen und der Vorbehalt technischer Machbarkeit gelten. Nach Abs. 4 müssen Betreiber bestimmte Deepfakes und KI-generierte Texte über Angelegenheiten von öffentlichem Interesse offenlegen; dafür gelten eigene Ausnahmen.⁷ Eine öffentliche Veröffentlichung ist keine generelle Voraussetzung für die Prüfung von Abs. 2. Sie ist für die besondere Pflicht zu Texten über öffentliche Angelegenheiten in Abs. 4 relevant. Ein Hintergrundsystem ohne direkte Interaktion mit Bewerbern fällt nicht allein wegen der Bewerbungsbearbeitung unter Abs. 1.

Art. 4 verlangt Maßnahmen zur Förderung der KI-Kompetenz von Beschäftigten und anderen Personen, die im Auftrag von Anbietern oder Betreibern mit dem Betrieb oder der Nutzung von KI befasst sind. Die geänderte Formulierung und der Organisationskontext zählen; die Verordnung schreibt weder ein einheitliches Zertifikat noch eine feste Schulungspräsentation vor.⁸

DSGVO: Den tatsächlichen Datenfluss verfolgen

Wenn Prompts, Ausgaben, Logs oder Retrieval-Dokumente Informationen über identifizierbare Personen enthalten, sind Zweck und Rechtsgrundlage zu dokumentieren, Daten zu minimieren, Aufbewahrungsfristen festzulegen, Zugriffe zu schützen und Betroffenenrechte zu erfüllen. Das Unternehmen, das Zwecke und Mittel festlegt, wird regelmäßig Verantwortlicher sein. Ein Infrastrukturanbieter, der in dessen Auftrag Daten verarbeitet, kann Auftragsverarbeiter sein und einen Vertrag nach Art. 28 benötigen. Die Rollen folgen Vertrag und Praxis, nicht der Bezeichnung „selbst gehostet“.²

Hosting im EWR kann eine Übermittlung an eine Modell-API vermeiden. Es beweist aber nicht, dass keine Drittlandübermittlung stattfindet. Fernwartung, Unterauftragsverarbeiter, Monitoring, Backups und Administratorzugriffe müssen geprüft werden. Bei Übermittlungen personenbezogener Daten außerhalb des EWR sind das Instrument nach Kapitel V und gegebenenfalls zusätzliche Schutzmaßnahmen zu prüfen. Die Wiederverwendung von Prompts zum Training oder Fine-Tuning ist eine eigene Verarbeitungsfrage und braucht eine dokumentierte Prüfung von Zweck und Rechtsgrundlage. Die Stellungnahme 28/2024 des EDSA behandelt Datenschutzfragen zu KI-Modellen, liefert aber keine pauschale Rechtsgrundlage für alle LLM-Einsätze.⁹

Arbeitscheckliste

1. Vorgesehenen Einsatz, Systemanbieter, Betreiber und Anbieter des zugrunde liegenden GPAI-Modells festhalten.
2. Bereits geltende Art.-5-Verbote, Maßnahmen nach Art. 4 und jeden einschlägigen Absatz von Art. 50 prüfen.
3. Bei möglichem Art.-6-/Anhang-I- oder -III-Bezug die Einstufung dokumentieren und die betroffene Kapitel-III-Arbeit auf 2027 oder 2028 planen.
4. Prompt-, Ausgabe-, Retrieval- und Logdaten erfassen; DSGVO-Rollen, Zweck, Rechtsgrundlage, Aufbewahrung, Sicherheit und Drittlandübermittlungen dokumentieren.
5. Modelllizenz und Quelldokumentation prüfen, bevor für ein veröffentlichtes Modell die Ausnahme nach Art. 53 Abs. 2 angenommen wird.

Rechtsstand geprüft am 29. September 2026. Dies ist eine allgemeine Information, keine individuelle Rechtsberatung.