Wenn ein KI-System einen Schaden mitverursacht, geht es rechtlich nicht nur um den Modellfehler selbst, sondern um das gesamte Produkt, den Einsatzkontext und die getroffenen Sicherungen. Für Unternehmen ist die Haftungsfrage deshalb vor allem eine Frage von Einordnung, Dokumentation und Risikosteuerung. Wer KI in Produkte, Portale oder interne Prozesse einbettet, sollte Haftung nicht erst dann prüfen, wenn bereits etwas schiefgelaufen ist.
Warum Produkthaftung bei KI anders wirkt als klassische Softwarehaftung
Bei KI verschiebt sich das Haftungsrisiko von der einzelnen Fehlfunktion hin zur Frage, ob ein System im realen Einsatz ausreichend sicher war. Entscheidend ist also nicht nur, ob ein Modell „falsch“ lag, sondern ob vorhersehbare Risiken erkannt und begrenzt wurden.
Klassische Software folgt in vielen Fällen festen Regeln. Generative und lernende Systeme reagieren dagegen probabilistisch, also auf Wahrscheinlichkeiten gestützt. Das erhöht das Risiko für unerwartete Ausgaben, falsche Empfehlungen oder problematische Automatismen. Typische Beispiele sind fehlerhafte Assistenzsysteme, unzureichend geprüfte Entscheidungsunterstützung oder irreführende Inhalte in Kundenportalen.
Für die Haftung ist wichtig, dass KI selten isoliert betrieben wird. Meist steckt sie in einem Produkt, einer Fachanwendung oder einem digitalen Service. Damit rückt die Gesamtkonstruktion in den Mittelpunkt: Eingabedaten, Benutzeroberfläche, menschliche Aufsicht, Freigabeprozesse und Warnhinweise können haftungsrelevant werden. Ein und dasselbe Modell kann in einem Spielzeug, in einer Behörde oder in einem medizinischen Umfeld sehr unterschiedliche Risiken auslösen.
Genau deshalb reicht die technische Aussage „Das Modell macht gelegentlich Fehler“ nicht aus. Unternehmen müssen klären, welche Fehlertypen erwartbar sind, wie hoch ihre Folgen sein können und welche Sicherungen zumutbar sind. Wer das überspringt, verlagert ein technisches Risiko in ein juristisches und organisatorisches Problem.
Wer kann bei KI-Schäden überhaupt betroffen sein?
Haftung bei KI verteilt sich oft auf mehrere Beteiligte. Betroffen sein können Hersteller, Anbieter, Integratoren, Betreiber und in manchen Fällen auch Importeure oder Händler.
In der Praxis kommt es darauf an, wer welche Rolle tatsächlich ausübt. Wer ein fremdes Modell nur testet, trägt andere Risiken als ein Unternehmen, das daraus ein eigenes Produkt baut und unter eigener Marke anbietet. Noch einmal anders liegt der Fall, wenn eine Organisation ein Standardprodukt einkauft, aber durch eigene Konfiguration, Trainingsdaten oder Schnittstellen tief in die Funktionsweise eingreift.
Für Sachschäden oder Personenschäden kann das klassische Produkthaftungsrecht relevant werden. Daneben spielen vertragliche Ansprüche, deliktische Haftung und branchenspezifische Pflichten eine Rolle. Bei KI kommen zudem Datenschutzverstöße, Diskriminierungsrisiken und Dokumentationsmängel hinzu, die nicht immer denselben Rechtsweg betreffen, aber wirtschaftlich eng zusammenhängen.
Gerade im Mittelstand wird oft unterschätzt, dass auch der Betreiber ein erhebliches Risiko trägt. Wer ein System produktiv einsetzt, obwohl bekannte Fehlermuster, unklare Zuständigkeiten oder fehlende Kontrollschritte bestehen, kann sich nicht ohne Weiteres darauf zurückziehen, dass die eigentliche KI von einem Drittanbieter stammt. Das ist besonders heikel, wenn Entscheidungen faktisch automatisiert werden und menschliche Letztprüfung nur auf dem Papier existiert.
| Akteur | Typische Rolle | Mögliche Haftungsnähe |
|---|---|---|
| Anbieter | Entwickelt oder vertreibt das KI-System | Fehler im Produkt, fehlende Warnhinweise, unzureichende Dokumentation |
| Integrator | Baut das Modell in ein eigenes Produkt oder einen Prozess ein | Fehlerhafte Einbindung, ungeeignete Einsatzgrenzen, fehlende Absicherung |
| Betreiber | Nutzt das System im Alltag | Unsachgemäßer Einsatz, fehlende Kontrolle, Missachtung bekannter Risiken |
| Importeur/Händler | Bringt ein Produkt in Verkehr oder vertreibt es weiter | Informations- und Sorgfaltspflichten je nach Konstellation |
Wann wird ein KI-Fehler zum Haftungsfall?
Nicht jeder falsche Output führt automatisch zu Haftung. Ein Haftungsfall entsteht erst dann, wenn ein rechtlich relevanter Schaden vorliegt und sich dieser dem Produkt, seiner Integration oder seinem Betrieb zurechnen lässt.
Das klingt abstrakt, lässt sich aber gut an typischen Szenarien erklären. Ein Chatbot in einem Kundenportal gibt eine falsche Sicherheitsanweisung und ein Gerät wird beschädigt. Ein Assistenzsystem in einer Fachanwendung empfiehlt eine objektiv unplausible Maßnahme, die ungeprüft übernommen wird. Oder ein KI-gestütztes Prüfwerkzeug übersieht systematisch Fehler, weil Trainingsdaten Lücken hatten und niemand die Leistungsgrenzen dokumentiert hat.
In solchen Fällen stellen sich immer ähnliche Fragen: War der Fehler vorhersehbar? Gab es Warnhinweise oder Einsatzgrenzen? War menschliche Kontrolle vorgesehen und tatsächlich wirksam? Wurde das System in einem Umfeld eingesetzt, für das es nach seiner Auslegung gar nicht gedacht war? Und war die technische Dokumentation belastbar genug, um Entscheidungen im Nachhinein nachvollziehen zu können?
Hier berührt sich Produkthaftung mit dem EU AI Act. Der AI Act ist kein klassisches Haftungsgesetz, schafft aber für bestimmte Systeme klare Anforderungen an Risikomanagement, Daten-Governance, menschliche Aufsicht und Dokumentation. Wenn diese Bausteine fehlen, steigt das praktische Haftungsrisiko deutlich. Besonders eng wird es dort, wo Betriebspflichten für sensible Systeme mit echten Schadensfolgen zusammenfallen.
Welche Rechtsrahmen spielen zusammen?
Bei KI-Schäden greift selten nur ein einziges Gesetz. Meist entsteht ein Bündel aus Produkthaftung, Vertragsrecht, Datenschutz, IT-Sicherheitsanforderungen und sektorspezifischen Regeln.
Für Personen- und Sachschäden bleibt das Produkthaftungsrecht zentral. Parallel kann das allgemeine Zivilrecht relevant sein, etwa bei Pflichtverletzungen aus Verträgen, mangelhaften Liefergegenständen oder fehlerhaften Dienstleistungsbeziehungen. Für digitale Produkte und vernetzte Systeme wird zudem wichtig, ob Sicherheitsupdates, Fehlerkorrekturen und Nutzungsbeschränkungen angemessen umgesetzt wurden.
Der EU AI Act ergänzt diese Lage, indem er für bestimmte KI-Systeme organisatorische und technische Anforderungen festlegt. Dazu gehören je nach Risikoklasse etwa ein Risikomanagementsystem, technische Dokumentation, Protokollierung, Qualitätsanforderungen an Daten und Maßnahmen zur menschlichen Aufsicht. Ob ein System unter Hochrisiko-KI fällt, ist damit nicht nur regulatorisch relevant, sondern auch für die spätere Frage, ob ein Unternehmen sorgfältig gehandelt hat.
Hinzu kommt die DSGVO, wenn personenbezogene Daten verarbeitet werden. Ein KI-Fehler kann dann nicht nur einen Produktmangel, sondern zugleich einen Datenschutzverstoß darstellen, etwa bei unzulässigem Profiling, fehlerhaften Wahrscheinlichkeitsaussagen oder mangelnder Transparenz. Das Zusammenspiel wird besonders deutlich, wenn datenschutzgerechte Modellnutzung von Anfang an fehlt und Fehler deshalb in sensible Datenverarbeitung hineinwirken.
Auch Cybersicherheit darf nicht getrennt betrachtet werden. Manipulierbare Systeme, unsichere Schnittstellen oder schlecht abgesicherte Modellzugriffe können Schadensfälle verschärfen. Wo Angriffe, Missbrauch oder Sabotage realistisch sind, werden Maßstäbe aus BSI-Empfehlungen, ENISA-Berichten oder etablierten Rahmenwerken wie dem NIST AI RMF für die Sorgfaltsfrage praktisch bedeutsam.
Was Gerichte und Aufsicht voraussichtlich besonders interessieren
Im Streitfall zählt meist weniger die Marketingbeschreibung eines KI-Produkts als die konkrete Beherrschbarkeit des Risikos. Dokumentierte Entscheidungen, Einsatzgrenzen und Kontrollmechanismen dürften deshalb oft wichtiger sein als die reine Modellleistung in Demos.
Besonders kritisch sind Black-Box-Konstellationen, in denen Unternehmen wesentliche Risiken nicht erklären können. Vollständige Erklärbarkeit ist bei komplexen Modellen nicht immer realistisch. Erwartbar ist aber, dass Organisationen ihre Auswahl, Tests, Grenzwerte, Monitoring-Prozesse und Eskalationswege nachvollziehbar festhalten. Wer ein System in einem sensiblen Umfeld nutzt, braucht also keine absolute Vorhersagbarkeit, wohl aber eine belastbare Governance.
Behörden und Gerichte werden außerdem darauf achten, ob bekannte Risiken branchentypisch waren. Halluzinationen, Bias, Datenlecks, Prompt Injection oder missverständliche Benutzeroberflächen sind keine exotischen Randphänomene mehr. Wenn solche Risiken bekannt sind, wird es schwerer zu begründen, warum keine Gegenmaßnahmen getroffen wurden. Im Sicherheitskontext kann etwa abgesicherte Eingabesteuerung entscheidend dafür sein, ob ein Vorfall als unvermeidbar oder als vermeidbar gilt.
- Ist klar dokumentiert, wofür das System verwendet werden darf und wofür nicht?
- Gibt es Testprotokolle für typische Fehlermuster und Grenzfälle?
- Wurden menschliche Kontrollpunkte nicht nur beschrieben, sondern organisatorisch verankert?
- Sind Logdaten, Freigaben und Modellversionen im Nachhinein nachvollziehbar?
- Existieren Prozesse für Updates, Incident-Handling und das Abschalten problematischer Funktionen?
- Ist geregelt, wer intern für Fachprüfung, Datenschutz, IT-Sicherheit und Beschwerdebearbeitung zuständig ist?
Diese Punkte wirken unspektakulär, entscheiden aber oft darüber, ob ein Unternehmen ein Risiko beherrscht hat oder nur darauf vertraut hat, dass schon nichts passieren werde.
Ein typischer Fall aus der Praxis: nicht defekt, aber trotzdem riskant
Viele Haftungsprobleme entstehen nicht durch einen offensichtlichen Defekt, sondern durch eine unpassende Einbettung. Gerade bei generativer KI ist das ein häufiger und unterschätzter Ausgangspunkt.
Ein mittelständischer Anbieter integriert ein Sprachmodell in sein Support-Portal. Die KI soll technische Fragen vorsortieren und Standardantworten formulieren. In der Praxis nutzen Kundinnen und Kunden das System aber auch für sicherheitsrelevante Bedienhinweise. Das Modell gibt in Einzelfällen plausibel klingende, aber falsche Anleitungen aus. Intern war bekannt, dass das Modell halluzinieren kann, doch die Hinweise dazu stehen nur in einer allgemeinen Produktbeschreibung. Eine verpflichtende Freigabe durch Fachpersonal gibt es nicht, und die Benutzeroberfläche vermittelt den Eindruck verbindlicher Auskunft.
Rechtlich kann das mehrere Ebenen öffnen. Es geht um das Produktdesign, weil die Ausgabe zu autoritativ wirkt. Es geht um Betriebsorganisation, weil keine wirksame Kontrolle vorgesehen wurde. Und es geht um Dokumentation, weil das bekannte Fehlerrisiko zwar theoretisch erwähnt, aber praktisch nicht abgesichert war. Falls dabei Personen- oder Sachschäden entstehen, wird die Verteidigung schwierig. Das Problem ist dann nicht nur der einzelne falsche Satz, sondern die vorhersehbare Fehlverwendung eines Systems mit offenem Risikoprofil.
Solche Konstellationen zeigen, dass Risikomanagement nicht erst für regulierte Branchen relevant ist. Auch allgemeine digitale Dienste können in haftungsträchtige Situationen geraten, wenn Nutzerinnen und Nutzer den Ausgaben mehr Verbindlichkeit beimessen, als technisch gerechtfertigt ist.
Wie Unternehmen Haftungsrisiken vor dem Produktivstart senken
Die wirksamste Haftungsprävention beginnt vor dem Einkauf und vor der Integration. Unternehmen sollten nicht zuerst nach Funktionen fragen, sondern nach Schadensbildern, Zuständigkeiten und Nachweisen.
Ein realistischer Startpunkt ist die Unterscheidung zwischen Komfortfunktion und kritischer Funktion. Eine Textzusammenfassung für interne Notizen ist anders zu bewerten als ein System, das Personalentscheidungen vorbereitet, Bürgeranliegen vorsortiert oder technische Anweisungen formuliert. Je höher die mögliche Schadenswirkung, desto weniger genügt Vertrauen in den Anbieter.
Vertraglich wichtig sind klare Leistungsbeschreibungen, zugesicherte Einsatzgrenzen, Update- und Supportpflichten, Reaktionszeiten bei Sicherheitsvorfällen sowie Dokumentations- und Mitwirkungspflichten. Organisatorisch sollte festgelegt sein, wer Modelländerungen freigibt, wie Beschwerden geprüft werden und wann ein System ausgesetzt wird. Fachlich ist eine saubere Abgrenzung nötig, wann Ergebnisse nur unterstützen und wann sie Entscheidungen faktisch prägen. Gerade an dieser Stelle wird strukturierte Vorabprüfung oft zum entscheidenden Qualitätsmerkmal.
Technisch helfen konservative Voreinstellungen, Eingabegrenzen, Logging, Versionskontrolle, missbrauchsresistente Benutzerführung und stichprobenartige Qualitätskontrollen. Wo sensible Daten oder sicherheitsrelevante Abläufe betroffen sind, sollten Datenschutz, Informationssicherheit und Fachbereich gemeinsam prüfen. Das reduziert nicht jedes Risiko, verbessert aber die Nachweisbarkeit verantwortlicher Entscheidungen deutlich.
Bleiben noch offene Fragen?
Ja. Gerade bei moderner KI ist vieles im Fluss, weil Regulierung, Marktpraktiken und Rechtsprechung noch zusammenwachsen müssen. Offen ist oft nicht, ob Risiken existieren, sondern wie Gerichte sie in einzelnen Konstellationen gewichten werden.
Unklarheiten betreffen etwa die Zurechnung bei komplexen Lieferketten, die Abgrenzung zwischen Produktfehler und Fehlgebrauch sowie die Frage, wie viel Erklärbarkeit bei komplexen Modellen praktisch verlangt werden kann. Auch neue europäische Regeln zur Produkthaftung und zu digitalen Produkten verändern das Umfeld schrittweise. Für Unternehmen bedeutet das aber nicht, auf spätere Klarheit zu warten. Im Gegenteil: Wer heute sauber dokumentiert, Verantwortlichkeiten trennt und bekannte Risiken ernst nimmt, steht auch unter künftigen Maßstäben meist besser da.
KI macht Haftung nicht automatisch unbeherrschbar, aber sie verschiebt die Anforderungen an Produktverantwortung deutlich. Relevant ist weniger die abstrakte Frage, ob ein Modell Fehler macht, sondern ob Organisation, Design und Kontrolle zu den vorhersehbaren Risiken passen. Genau dort entscheidet sich, ob aus einem technischen Problem ein teurer Haftungsfall wird.
Hinweis: Dieser Beitrag bietet allgemeine Information zu KI-Risiken und Regulierung und ersetzt keine Rechtsberatung. Konkrete Pflichten, Bußgeldhöhen und Geltungstermine können sich ändern und im Einzelfall abweichen. Für verbindliche Auskünfte ist eine fachkundige Prüfung durch Anwält:innen oder Datenschutzbeauftragte erforderlich. Der Artikel wurde mit KI-Unterstützung erstellt und redaktionell geprüft.
