Ob ein KI-System rechtlich und organisatorisch tragfähig ist, entscheidet sich oft an den Daten, nicht erst am Ergebnis. Wer Trainingsdaten einsetzt, einkauft oder indirekt nutzt, berührt schnell Datenschutz, Urheberrecht, Geschäftsgeheimnisse und Grundrechte zugleich.
Für KMU, Behörden und andere Betreiber liegt das Kernproblem darin, dass viele Modelle auf Datenbeständen beruhen, deren Herkunft, Rechtsgrundlage und Löschbarkeit nur begrenzt transparent sind. Genau deshalb wird die Frage nach Datenherkunft, Betroffenenrechten und Dokumentation im KI-Einsatz zu einem praktischen Compliance-Thema.
Warum Trainingsdaten bei KI rechtlich wichtiger sind als viele Ausgaben des Systems
Die größte rechtliche Unsicherheit liegt oft vor dem ersten Prompt. Wenn Daten für Entwicklung, Feinabstimmung oder Bewertung eines Systems genutzt werden, entsteht der eigentliche Risikokern häufig bereits in dieser Phase.
Bei generativer KI wird schnell über Halluzinationen, Deepfakes oder fehlerhafte Antworten gesprochen. Für die Rechtslage ist aber oft entscheidender, ob im Hintergrund personenbezogene Daten verarbeitet wurden, ob diese Daten aus öffentlich zugänglichen Quellen stammen oder aus internen Beständen, und ob die Verarbeitung mit der DSGVO vereinbar ist. Das betrifft nicht nur Modellanbieter, sondern auch Unternehmen, die Modelle weiter anpassen oder mit eigenen Daten trainieren.
Ein typischer Irrtum lautet, dass nur der ursprüngliche Entwickler Verantwortung trägt. Tatsächlich können auch Betreiber, die ein Modell mit Kundendaten, Beschäftigtendaten oder Bürgerdaten weitertrainieren, selbst datenschutzrechtlich Verantwortliche sein. Dann greifen klassische Pflichten wie Zweckbindung, Datenminimierung, Transparenz und gegebenenfalls Datenschutz-Folgenabschätzung.
Gerade im Mittelstand ist die Lage oft unübersichtlich, weil KI-Funktionen in Softwareprodukten mitgeliefert werden. Dann ist nicht immer sofort erkennbar, ob Eingaben nur kurzfristig verarbeitet, für Qualitätssicherung genutzt oder in spätere Modellverbesserungen übernommen werden. Die reine Nutzung eines Tools sagt deshalb noch wenig darüber aus, welche Datenrisiken tatsächlich entstehen.
Auch der EU AI Act ändert daran nichts Grundsätzliches. Er ergänzt den bestehenden Rechtsrahmen, ersetzt aber Datenschutzrecht nicht. Wo personenbezogene Daten verarbeitet werden, bleibt die DSGVO parallel relevant; bei sensiblen Einsatzfeldern kommen je nach Kontext zusätzliche Pflichten aus Arbeitsrecht, Vergaberecht oder sektorspezifischen Vorgaben hinzu.
Welche Fragen Unternehmen und Behörden zu Datenherkunft und Rechtsgrundlage klären müssen
Bevor ein System beschafft oder trainiert wird, muss geklärt werden, woher die Daten stammen und wofür sie verwendet werden dürfen. Ohne diese Einordnung bleibt jede spätere Risikoabwägung lückenhaft.
Die erste Kernfrage ist, ob überhaupt personenbezogene Daten im Spiel sind. Das ist schneller der Fall als viele annehmen: Namen, E-Mail-Adressen, Bewerbungsunterlagen, Support-Tickets, Chatverläufe, Gerätekennungen oder Kombinationen mehrerer Merkmale können einen Personenbezug herstellen. Auch pseudonymisierte Daten sind nicht automatisch aus dem Datenschutz herausgelöst.
Die zweite Frage betrifft die Rechtsgrundlage. Öffentliche Verfügbarkeit allein macht eine Nutzung nicht automatisch zulässig. Wer etwa Webinhalte, Forenbeiträge oder Social-Media-Texte sammelt, muss trotzdem prüfen, ob die Verarbeitung für das konkrete Trainingsziel rechtmäßig, transparent und verhältnismäßig ist. Das gilt besonders dann, wenn aus großen Datenmengen neue Profile, Wahrscheinlichkeiten oder Verhaltensmuster abgeleitet werden.
Die dritte Frage lautet, ob der ursprüngliche Zweck mit dem neuen KI-Zweck vereinbar ist. Daten, die einmal für Vertragserfüllung, Personalverwaltung oder Bürgerkommunikation erhoben wurden, dürfen nicht beliebig in Trainingspipelines wandern. Genau an dieser Stelle überschätzen Organisationen häufig den Spielraum interner Weiterverwendung.
Praktisch hilft eine kurze Vorprüfung entlang weniger Punkte:
- Ist nachvollziehbar dokumentiert, aus welchen Quellen die Daten stammen?
- Ist klar abgegrenzt, ob die Daten für Inferenz, Feinabstimmung oder echtes Training genutzt werden?
- Enthalten die Bestände besondere Kategorien personenbezogener Daten, etwa Gesundheits- oder Beschäftigtendaten?
- Ist die vorgesehene Nutzung mit dem ursprünglichen Erhebungszweck vereinbar?
- Bestehen vertragliche oder gesetzliche Lösch- und Aufbewahrungspflichten, die einem Training entgegenstehen?
- Kann gegenüber Betroffenen verständlich erklärt werden, was mit ihren Daten geschieht?
Wo diese Fragen unbeantwortet bleiben, ist das Risiko nicht abstrakt, sondern unmittelbar organisatorisch: Auskunftsersuchen, Widersprüche, fehlende Löschbarkeit oder unklare Verantwortlichkeiten können Projekte erheblich verzögern. In solchen Fällen wird oft sichtbar, dass nicht das Modell, sondern das Datenmanagement die Schwachstelle ist.
Wann Betroffenenrechte bei KI-Training praktisch zum Problem werden
Betroffenenrechte sind bei KI nicht nur ein formaler Anhang der DSGVO. Sie werden vor allem dann schwierig, wenn Daten in komplexe Modell- und Lieferketten eingehen und später kaum noch trennscharf zugeordnet werden können.
Auskunft, Berichtigung, Löschung und Widerspruch lassen sich in klassischen Datenbanken meist klarer umsetzen als in Trainings- und Feinabstimmungsprozessen. Wenn Daten aus vielen Quellen zusammengeführt, bereinigt, annotiert und in verschiedenen Versionen eines Systems genutzt wurden, stellt sich schnell die Frage, was eine Löschung praktisch bedeutet. Geht es um die Rohdaten, um Zwischenspeicher, um Evaluationssätze oder auch um ein bereits angepasstes Modell?
Genau hier zeigt sich ein Spannungsverhältnis zwischen technischer Realität und rechtlicher Erwartung. Nicht jede Information lässt sich nachträglich aus einem trainierten Modell einfach entfernen. Das entbindet Verantwortliche aber nicht von der Pflicht, ihre Prozesse so zu gestalten, dass Betroffenenrechte wenigstens nachvollziehbar bearbeitet werden können. Wer diese Frage erst nach Produktivstart stellt, hat den falschen Zeitpunkt gewählt.
Für Betreiber generativer Systeme ist außerdem relevant, dass Eingaben von Nutzenden selbst personenbezogene Daten enthalten können. Dann geht es nicht nur um historische Trainingsdaten, sondern auch um laufende Nutzungsdaten. Besonders heikel wird das in Support, Personalwesen, Gesundheitsbezug oder Verwaltung, wo Beschäftigte oder Bürger häufig Informationen eingeben, die sie für den Zweck der Anfrage preisgeben, nicht für spätere Modellverbesserungen.
Die organisatorische Folge ist klar: Verantwortlichkeiten müssen schon vor dem Einsatz zwischen Anbieter und Betreiber sauber abgegrenzt sein. Wer ein System nutzt, ohne Datenflüsse, Speicherorte und Weiterverarbeitungen zu verstehen, kann Betroffenenrechte kaum belastbar erfüllen. Ähnliche Probleme zeigen sich auch dort, wo inoffiziell genutzte KI-Dienste ohne Freigabe in Fachabteilungen landen.
Wie EU AI Act, DSGVO und Sicherheitsanforderungen zusammenwirken
Der EU AI Act schafft keinen datenschutzfreien Sonderraum. Er legt zusätzliche Pflichten für bestimmte KI-Systeme fest, während Datenschutz- und Sicherheitsrecht parallel weitergelten.
Für viele Organisationen ist wichtig zu verstehen, dass verschiedene Regelwerke unterschiedliche Risiken adressieren. Der AI Act ordnet Systeme nach Risikoklassen, verlangt je nach Fall Transparenz, Risikomanagement, menschliche Aufsicht oder technische Dokumentation. Die DSGVO fokussiert dagegen auf den Umgang mit personenbezogenen Daten. NIS-2 und Informationssicherheitsstandards richten den Blick stärker auf Resilienz, Zugriffsschutz, Lieferketten und Vorfallmanagement.
Gerade bei Trainingsdaten überschneiden sich diese Ebenen. Ein Datensatz kann datenschutzrechtlich problematisch sein, zugleich sicherheitsrelevant und bei bestimmten Einsatzfeldern auch für die Einstufung als Hochrisiko-KI bedeutsam werden. Das betrifft etwa Systeme in Bildung, Beschäftigung, Zugang zu Leistungen oder sicherheitsrelevanten Umgebungen. Dort ist Datenqualität nicht nur eine Gütefrage, sondern Teil des regulatorischen Kerns.
| Rechtsrahmen | Worauf er bei Trainingsdaten vor allem schaut | Praktische Folge |
|---|---|---|
| DSGVO | Rechtsgrundlage, Transparenz, Zweckbindung, Betroffenenrechte | Datenquellen und Verarbeitungszwecke müssen nachvollziehbar dokumentiert sein |
| EU AI Act | Risikomanagement, Daten-Governance, Dokumentation, Einsatzkontext | Vor allem bei regulierten oder risikoreichen Anwendungen steigen die Nachweispflichten |
| NIS-2 / Sicherheitsstandards | Schutz von Systemen, Lieferketten, Zugriffen und Vorfällen | Trainings- und Betriebsdaten brauchen technische und organisatorische Schutzmaßnahmen |
Für die Praxis heißt das: Ein datenschutzkonformer Datenbestand ist noch nicht automatisch AI-Act-tauglich, und ein sicher betriebenes System ist nicht automatisch datenschutzkonform. Wer die Regelwerke getrennt betrachtet, übersieht oft ihre Wechselwirkungen. Das gilt besonders dann, wenn intern bereits strukturierte Vorprüfungen fehlen.
Welche typischen Fehlannahmen bei feinabgestimmten und eingekauften Modellen auftreten
Viele Risiken entstehen nicht beim eigenen Grundlagentraining, sondern bei scheinbar kleineren Anpassungen. Feinabstimmung, Retrieval-Anbindung und eingekaufte KI-Funktionen werden oft unterschätzt, obwohl genau dort sensible Daten in Systeme gelangen.
Ein verbreiteter Fehler ist die Gleichsetzung von Retrieval und Training. Wenn ein System auf interne Dokumente zugreift, werden diese Inhalte nicht automatisch Teil des Modells. Das senkt bestimmte Risiken, beseitigt sie aber nicht. Denn auch bei Retrieval-Augmented Generation können personenbezogene Daten verarbeitet, protokolliert, zwischengespeichert oder an Dritte übertragen werden.
Ebenso problematisch ist die Annahme, dass ein Auftragsverarbeitungsvertrag jede Datenfrage löst. Verträge sind wichtig, ersetzen aber keine technische und organisatorische Prüfung. Wenn ein Anbieter Eingaben für eigene Modellverbesserung nutzt oder Unterauftragsverarbeiter in Drittstaaten einbindet, entsteht eine deutlich andere Risikolage als bei rein abgeschotteter Verarbeitung.
Ein Fall aus der Praxis: Ein Unternehmen möchte ein Sprachmodell mit historischen Support-Tickets an den eigenen Schreibstil anpassen. Die Tickets enthalten Namen, Kontaktdaten, Beschwerden, Vertragsinformationen und teilweise Gesundheitsbezüge. Selbst wenn das Ziel nur bessere Antwortentwürfe sind, berührt das Vorhaben sofort Datenschutz, Löschfristen, Vertraulichkeit und mögliche Diskriminierungseffekte. Wird ein solcher Datenbestand ungeprüft für Feinabstimmung genutzt, liegt das Problem nicht erst in einer falschen Ausgabe, sondern bereits in der vorgelagerten Zweckverschiebung.
Gerade deshalb wirkt eine Einsatzentscheidung nur dann belastbar, wenn auch angrenzende Risiken mitgedacht werden. Das gilt etwa für manipulierbare Eingabeketten, aber auch für unklare Verantwortlichkeiten gegenüber Anbietern und Integratoren.
Woran sich ein belastbarer Umgang mit Trainingsdaten erkennen lässt
Ein belastbarer Umgang mit Trainingsdaten zeigt sich nicht an einem einzelnen Formular, sondern an nachvollziehbaren Entscheidungen über Herkunft, Zweck, Zugriff und Löschbarkeit. Gute Praxis ist vor allem dokumentierte Begrenzung, nicht maximale Datensammlung.
Organisationen sollten trennen, welche Daten für welchen Zweck nötig sind: Entwicklung, Test, Evaluierung, Feinabstimmung und produktiver Betrieb haben unterschiedliche Anforderungen. Wer diese Phasen sauber voneinander abgrenzt, reduziert das Risiko, dass Daten unbemerkt in ungeeignete Verarbeitungen übergehen. Das ist besonders wichtig, wenn mehrere Dienstleister oder Fachabteilungen beteiligt sind.
Ein weiterer Marker ist die Fähigkeit, kritische Datentypen früh herauszufiltern. Dazu gehören besondere Kategorien personenbezogener Daten, Minderjährigendaten, interne Geheimnisse, Beschäftigtendaten und Daten aus asymmetrischen Situationen, in denen Betroffene kaum mit einer KI-Nutzung rechnen. Wo solche Bestände unvermeidbar sind, steigen Begründungs- und Schutzanforderungen deutlich.
Praktisch belastbar wirkt ein Vorgehen meist dann, wenn folgende Punkte erkennbar erfüllt sind:
- Es gibt ein Dateninventar für KI-nahe Verarbeitungen statt nur allgemeiner Verzeichnisse.
- Training, Test, Evaluierung und produktiver Einsatz sind organisatorisch getrennt beschrieben.
- Zugriffe auf sensible Daten sind begrenzt und protokolliert.
- Lösch- und Berichtigungspflichten sind technisch mitgedacht, nicht nur vertraglich erwähnt.
- Anbieterangaben zu Datennutzung, Unterauftragnehmern und Speicherorten wurden geprüft.
- Bei risikoreichen Anwendungen sind Datenschutz-, Compliance- und Fachseite gemeinsam eingebunden.
- Für Beschäftigten- oder Bürgerdaten ist geklärt, ob zusätzliche Schutzanforderungen greifen.
Wo diese Basis fehlt, geraten auch Transparenz und Aufsicht unter Druck. Im Arbeitskontext wird das besonders sichtbar, wenn beobachtungsnahe KI-Nutzung mit umfangreichen Datensätzen verbunden wird.
Was noch offen ist und warum die Debatte nicht nur juristisch geführt wird
Bei Trainingsdaten bleiben zentrale Fragen offen, obwohl die Richtung regulatorisch klar ist. Die Praxis ringt weiterhin mit der Frage, wie weit Transparenz, Löschbarkeit und Zweckbindung in großen KI-Systemen tatsächlich reichen müssen.
Offen ist zum Beispiel, wie detailliert Anbieter ihre Datensammlungen offenlegen können oder müssen, ohne Geschäftsgeheimnisse preiszugeben. Ebenso ungeklärt ist in vielen Einzelfällen, welche technischen Maßnahmen als ausreichend gelten, wenn personenbezogene Daten in komplexen Modellpipelines verarbeitet wurden. Behörden, Gerichte und Standardisierungsgremien werden diese Fragen schrittweise präzisieren.
Hinzu kommt, dass das Thema nicht nur juristisch ist. Datenqualität beeinflusst auch Verzerrungen, Fehlklassifikationen und Ausschlüsse. Schlechte oder unausgewogene Trainingsdaten können Diskriminierung verstärken, auch wenn formal eine Rechtsgrundlage behauptet wird. Deshalb berührt die Debatte zugleich Datenschutz, Grundrechte, Sicherheit und Qualitätsmanagement.
Für Unternehmen und öffentliche Stellen ist die nüchterne Einordnung wichtiger als pauschale Skepsis. Nicht jede Nutzung von Trainingsdaten ist unzulässig, aber jede ernsthafte KI-Strategie braucht eine belastbare Antwort auf Herkunft, Zweck und Kontrolle der Daten. Wer diese Ebene sauber klärt, reduziert rechtliche und organisatorische Risiken deutlich, ohne den Blick auf reale Einsatzchancen zu verlieren.
Trainingsdaten sind bei KI häufig der Punkt, an dem sich technische Machbarkeit und rechtliche Tragfähigkeit trennen. Entscheidend ist weniger, ob ein Modell beeindruckende Ergebnisse liefert, sondern ob Herkunft, Zweck und Rechte an den zugrunde liegenden Daten nachvollziehbar geregelt sind. Für KMU und öffentliche Stellen liegt der praktisch größte Hebel deshalb in dokumentierter Datengovernance, nicht in möglichst schneller Einführung. Wo Datenflüsse unklar bleiben, wird aus einem KI-Projekt schnell ein Datenschutz- und Compliance-Problem.
Hinweis: Dieser Beitrag bietet allgemeine Information zu KI-Risiken und Regulierung und ersetzt keine Rechtsberatung. Konkrete Pflichten, Bußgeldhöhen und Geltungstermine können sich ändern und im Einzelfall abweichen. Für verbindliche Auskünfte ist eine fachkundige Prüfung durch Anwält:innen oder Datenschutzbeauftragte erforderlich. Der Artikel wurde mit KI-Unterstützung erstellt und redaktionell geprüft.
