Synthetische Medien sind rechtlich meist kein Sonderfall, sondern ein Bündel aus bekannten Pflichten zu Transparenz, Sicherheit und Rechtsdurchsetzung. Der DSA regelt dabei nicht die Technologie selbst, sondern vor allem, wie Plattformen mit Risiken, illegalen Inhalten und manipulativen Formaten umgehen müssen.
Was der DSA bei synthetischen Medien tatsächlich regelt
Der DSA (Digital Services Act) ist kein allgemeines KI-Gesetz, sondern ein Regelwerk für digitale Vermittlungsdienste. Für synthetische Medien ist er relevant, weil Deepfakes, KI-Stimmen oder automatisiert erzeugte Inhalte über Plattformen verbreitet, beworben, empfohlen und moderiert werden.
Die Kernaussage lautet: Der DSA verpflichtet Plattformen vor allem zu Verfahren. Im Mittelpunkt stehen Melde- und Abhilfeprozesse, Transparenz über Moderation und Werbung, Schutzmechanismen für Nutzer:innen sowie bei sehr großen Plattformen und Suchmaschinen eine Bewertung systemischer Risiken.
Für die Praxis ist wichtig, zwischen drei Ebenen zu unterscheiden. Erstens geht es um illegale Inhalte, etwa wenn ein KI-Video Persönlichkeitsrechte verletzt, Betrug vorbereitet oder strafbare Täuschung unterstützt. Zweitens geht es um legale, aber potenziell manipulative Inhalte, die gesellschaftliche Risiken erhöhen können. Drittens geht es um die Funktionsweise der Plattform selbst, also Empfehlungslogik, Reichweite, Meldewege und Reaktionsfähigkeit.
Damit ergänzt der DSA andere Regelwerke, ersetzt sie aber nicht. Wenn personenbezogene Daten betroffen sind, bleibt die DSGVO zentral; bei bestimmten KI-Systemen kann zusätzlich der EU AI Act relevant werden; und bei Sicherheitsvorfällen kann auch betriebliche Resilienz eine Rolle spielen.
Wann synthetische Medien zum Rechts- und Reputationsrisiko werden
Synthetische Medien werden dann riskant, wenn sie Täuschung erleichtern, Grundrechte beeinträchtigen oder Schutzmechanismen unterlaufen. Nicht jede KI-Erzeugung ist problematisch, aber Kombinationen aus Realitätsnähe, Reichweite und fehlender Einordnung können schnell rechtlich relevant werden.
Besonders kritisch sind Konstellationen, in denen Identitäten imitiert werden. Dazu gehören gefälschte Stimmen von Führungskräften, täuschend echte Bewerbungsunterlagen, manipulierte Produktbewertungen oder Videos, die einer realen Person Aussagen zuschreiben, die nie gefallen sind. In Unternehmen ist das nicht nur ein Kommunikationsproblem, sondern oft auch ein Risiko für Betrugsprävention, Datenschutz und Incident Response.
Für Plattformen verschärft sich die Lage, wenn Inhalte algorithmisch verstärkt werden. Dann geht es nicht mehr nur um ein einzelnes Posting, sondern um die Frage, ob Design und Empfehlungssysteme schädliche Verbreitung begünstigen. Genau an dieser Stelle setzt der DSA an, vor allem bei sehr großen Online-Plattformen, die systemische Risiken für öffentliche Debatten, Grundrechte oder den Schutz Minderjähriger bewerten und mindern müssen.
Auch für Organisationen, die keine Plattform betreiben, ist die Einordnung relevant. Wer mit synthetischen Medien arbeitet, etwa im Marketing, in der internen Kommunikation oder im Kundensupport, sollte prüfen, ob Kennzeichnung, Freigaben und dokumentierte Prozesse vorhanden sind. Das reduziert Konflikte mit täuschungsnahen Medienformaten und macht spätere Beschwerden belastbarer.
- Ist erkennbar, ob Bild, Audio oder Video ganz oder teilweise künstlich erzeugt oder verändert wurde?
- Gibt es einen dokumentierten Prozess für Beschwerden, Löschung, Gegendarstellung oder Sperrung?
- Werden besonders sensible Formate wie politische Kommunikation, Kinderinhalte oder Finanzwerbung gesondert geprüft?
- Ist geregelt, wann menschliche Prüfung statt rein automatisierter Moderation erforderlich ist?
- Sind Identitätsmissbrauch, Persönlichkeitsrechte und Markenmissbrauch in der Risikobewertung enthalten?
- Werden Reichweitenmechanismen analysiert, wenn Inhalte trotz Meldungen stark verstärkt werden?
Wer vom DSA besonders betroffen ist und wer nur mittelbar
Der DSA richtet sich primär an Vermittlungsdienste, also Hosting-Dienste, Online-Plattformen und in besonderer Form an sehr große Plattformen und Suchmaschinen. Für klassische Unternehmen gilt er meist nicht direkt, mittelbar aber sehr wohl, weil ihre Inhalte, Werbekampagnen und Krisenfälle über diese Infrastrukturen verbreitet werden.
Entscheidend ist daher die Rollenfrage. Wer eine Plattform mit nutzergenerierten Inhalten betreibt, muss sich mit DSA-Pflichten unmittelbar befassen. Wer nur Inhalte veröffentlicht oder Werbung schaltet, fällt eher über andere Rechtsgebiete auf, etwa Datenschutz-, Verbraucher-, Medien- oder Persönlichkeitsrecht. In beiden Fällen bleibt aber relevant, wie synthetische Inhalte gekennzeichnet und wie Beschwerden bearbeitet werden.
Bei sehr großen Diensten kommen zusätzliche Pflichten hinzu. Dazu zählen Risikoanalysen, externe Prüfungen, mehr Transparenz über Empfehlungs- und Werbesysteme sowie Zugangsmöglichkeiten für Aufsicht und Forschung in dem gesetzlich vorgesehenen Rahmen. Synthetische Medien sind hier kein isoliertes Thema, sondern Teil eines größeren Risikobilds aus Desinformation, Manipulation, Betrug und Grundrechtsbeeinträchtigung.
Für kommunale Einrichtungen, Bildungsträger oder Kammern ist die Lage meist indirekt, aber praktisch relevant. Sie werden häufig mit gefälschten Behördenansprachen, manipulierten Bürgerinformationen oder irreführenden Audio- und Videoformaten konfrontiert. Interne Regeln zu Freigabe, Authentifizierung und Krisenkommunikation sind deshalb nicht nur organisatorisch sinnvoll, sondern können bei Beschwerden und Nachweisen entscheidend sein.
| Akteur | Typische Rolle | Worauf es bei synthetischen Medien ankommt |
|---|---|---|
| Online-Plattform | Hosting, Verbreitung, Moderation | Meldewege, Abhilfe, Transparenz, Umgang mit illegalen Inhalten |
| Sehr große Plattform oder Suchmaschine | Systemische Reichweite | Risikobewertung, Risikominderung, Audit, Transparenz über Systeme |
| Werbetreibendes Unternehmen | Verbreitet eigene Inhalte | Kennzeichnung, Irreführungsverbot, Persönlichkeits- und Markenrechte |
| Behörde oder öffentliche Stelle | Informations- und Vertrauensadressat | Missbrauchsprävention, Authentizität, Beschwerde- und Krisenprozesse |
Reicht eine Kennzeichnung von KI-Inhalten aus?
Eine Kennzeichnung ist oft sinnvoll, aber rechtlich und praktisch selten ausreichend. Sie kann Transparenz schaffen, beseitigt jedoch nicht automatisch Risiken wie Identitätsmissbrauch, Irreführung, Diskriminierung oder rechtswidrige Verbreitung.
In der Debatte wird Kennzeichnung häufig als einfache Lösung behandelt. Tatsächlich hilft sie vor allem dort, wo der Inhalt an sich zulässig ist, aber ohne Hinweis missverständlich wirken könnte. Sobald ein synthetisches Medium Rechte verletzt oder in betrügerischer Absicht eingesetzt wird, steht nicht mehr die Transparenz, sondern die Rechtswidrigkeit im Vordergrund. Dann geht es um Entfernung, Beweissicherung, Sperrung von Accounts oder weitere Maßnahmen.
Hinzu kommt, dass Kennzeichnungen technisch und organisatorisch fragil sein können. Metadaten lassen sich entfernen, Screenshots und Reuploads lösen Kontext aus dem Ursprung, und Audio- oder Videoausschnitte zirkulieren oft ohne ursprüngliche Beschreibung. Plattformen müssen deshalb nicht nur Labels anzeigen, sondern auch Prozesse für Wiedererkennung, Meldung und Priorisierung aufbauen.
Für Anbieter generativer Systeme und für Plattformen überlagern sich zudem verschiedene Transparenzdebatten. Der EU AI Act enthält für bestimmte KI-Anwendungen eigene Transparenzpflichten; der DSA adressiert dagegen Plattformverantwortung und Risikosteuerung. Wer beide Ebenen verwechselt, unterschätzt oft die operative Frage, wie Beschwerden, Eskalationen und Nachweise im Alltag funktionieren. Eine belastbare Governance wirkt meist besser, wenn saubere Daten- und Dokumentationspraxis bereits vorhanden ist.
Wo Kennzeichnung typischerweise an Grenzen stößt
Problematisch wird es vor allem bei komprimierten oder weiterverbreiteten Formaten. Ein kurzer Videoausschnitt in einem Messenger, ein geschnittenes Audio in sozialen Netzwerken oder ein Bild in einem Blog-Kommentar verlieren oft den ursprünglichen Kontext. Dann bleibt vom Transparenzhinweis wenig übrig, während die Täuschungswirkung bestehen kann.
Auch in betrieblichen Prozessen hilft ein bloßes Label kaum. Wenn Mitarbeitende eine synthetische Stimme für echt halten und darauf Zahlungen freigeben oder vertrauliche Daten teilen, ist der Schaden bereits entstanden. Hier zählt weniger die Kennzeichnung des Ausgangsmaterials als die Absicherung der Entscheidungskette.
Wie der DSA mit Grundrechten, Desinformation und Manipulation zusammenhängt
Der DSA ist kein Wahrheitsgesetz, aber er behandelt Risiken für Grundrechte und öffentliche Kommunikation als Governance-Thema. Bei synthetischen Medien ist das zentral, weil dieselbe Technik sowohl legitime Kreativität als auch gezielte Irreführung ermöglichen kann.
Rechtlich relevant wird dieser Zusammenhang besonders bei sehr großen Plattformen. Sie müssen systemische Risiken bewerten, darunter Beeinträchtigungen der Meinungsfreiheit, Diskriminierung, Schutz von Minderjährigen oder Gefahren für demokratische Prozesse. Synthetische Medien sind dabei nicht allein wegen ihres KI-Ursprungs problematisch, sondern wegen ihrer Wirkung in skalierenden Plattformumgebungen.
Das bedeutet auch: Nicht jeder falsche oder manipulative Inhalt wird automatisch rechtswidrig. Plattformen müssen daher zwischen klar illegalen Inhalten und schwierigen Abwägungsfällen unterscheiden. Zu harte automatisierte Moderation kann legitime Rede unterdrücken; zu lasche Verfahren können Betrug, Belästigung oder Desinformationskampagnen fördern. Diese Spannung erklärt, warum der DSA so stark auf Verfahren, Transparenz und Rechenschaft setzt.
Für Organisationen außerhalb des Plattformsektors folgt daraus eine praktische Lehre. Wer synthetische Medien einsetzt oder von ihnen betroffen sein kann, sollte nicht nur auf technische Erkennung setzen. Nötig sind auch Freigaben, Eskalationswege, medienrechtliche Einordnung und ein Blick auf Grundrechtsrisiken. Gerade bei Personal, Bildung oder öffentlicher Kommunikation wird diese Perspektive robuster, wenn diskriminierungsrelevante Verzerrungen mitgedacht werden.
Was Plattformen und Organisationen jetzt organisatorisch klären sollten
Die wichtigste Aufgabe besteht nicht in einem einzelnen Tool, sondern in klaren Zuständigkeiten. Wer synthetische Medien ernsthaft einordnen will, braucht Prozesse für Erkennung, Bewertung, Eskalation und Kommunikation.
Dazu gehört zunächst ein realistisches Inventar: Welche Formate werden selbst erzeugt, wo werden Nutzerinhalte angenommen, welche externen Plattformen sind geschäftskritisch, und welche Missbrauchsszenarien sind plausibel? Darauf aufbauend lassen sich Prüfpfade definieren, etwa für Wahlwerbung, Recruiting, Vorstandsansprachen, Kundenservice oder behördliche Mitteilungen. Ein wichtiger Punkt ist die Abgrenzung zwischen inhaltlicher Freigabe, rechtlicher Bewertung und IT-Sicherheitsreaktion.
Ebenso relevant ist die Dokumentation. Wenn Inhalte gemeldet, entfernt, gesperrt oder wiederhergestellt werden, braucht es nachvollziehbare Gründe und konsistente Standards. Das ist nicht nur für Aufsicht und Beschwerden wichtig, sondern auch für interne Lernprozesse. Gerade bei synthetischen Medien verändern sich Angriffs- und Missbrauchsmuster schnell.
Schließlich sollte die Kommunikation nach außen vorbereitet sein. Bei Fälschungen von Identitäten, Behördenhinweisen oder Unternehmensaussagen zählt Zeit. Vorformulierte Hinweise, verifizierte Kanäle und definierte Verantwortlichkeiten begrenzen Folgeschäden oft stärker als eine nachträgliche juristische Aufarbeitung.
Gilt der DSA auch für jedes Unternehmen, das KI-Inhalte postet?
Nein. Der DSA richtet sich vor allem an Vermittlungsdienste und Plattformen, nicht an jedes Unternehmen als bloßen Inhaltsanbieter. Unternehmen bleiben aber über andere Rechtsgebiete gebunden, etwa Datenschutz, Lauterkeitsrecht, Persönlichkeitsrecht oder Vertragsrecht.
Sind Deepfakes nach dem DSA generell verboten?
Nein. Der DSA verbietet nicht pauschal Deepfakes oder andere synthetische Medien. Entscheidend ist, ob Inhalte rechtswidrig sind, welche Risiken sie auf Plattformen erzeugen und ob die jeweiligen Anbieter wirksame Verfahren für Meldung, Abhilfe und Transparenz eingerichtet haben.
Wer entscheidet, ob ein synthetischer Inhalt entfernt werden muss?
Das hängt von Inhalt, Kontext und Plattformrolle ab. Plattformen müssen rechtskonforme Verfahren für Meldungen und Entscheidungen vorhalten; in Streitfällen können Aufsichtsbehörden oder Gerichte relevant werden. Technische Erkennung allein ersetzt diese Bewertung nicht.
Synthetische Medien sind kein Randthema mehr, sondern ein Prüfstein für digitale Governance. Der DSA schafft dafür vor allem Verfahrenspflichten: Transparenz, Risikobewertung, Meldewege und nachvollziehbare Moderation. Für Unternehmen und öffentliche Stellen liegt der praktische Schwerpunkt weniger auf der Frage, ob KI genutzt wird, sondern ob Identität, Reichweite und Beschwerdeprozesse belastbar organisiert sind.
Hinweis: Dieser Beitrag bietet allgemeine Information zu KI-Risiken und Regulierung und ersetzt keine Rechtsberatung. Konkrete Pflichten, Bußgeldhöhen und Geltungstermine können sich ändern und im Einzelfall abweichen. Für verbindliche Auskünfte ist eine fachkundige Prüfung durch Anwält:innen oder Datenschutzbeauftragte erforderlich. Der Artikel wurde mit KI-Unterstützung erstellt und redaktionell geprüft.
