KI-Fehler führen nicht zu einer einzigen neuen Haftungsregel, sondern berühren mehrere bestehende Rechtsrahmen zugleich. Je nach Fall können Vertragsrecht, Deliktsrecht, Produkthaftung, Datenschutzrecht oder sektorale Sicherheitsvorgaben relevant werden. Für Unternehmen zählt deshalb vor allem, an welcher Stelle ein Schaden entsteht, wer das System kontrolliert und wie gut Risiken vorab dokumentiert wurden.
Warum KI-Haftung selten nur eine Technikfrage ist
Ob ein Unternehmen für Schäden durch KI einstehen muss, entscheidet sich meist nicht am Schlagwort „künstliche Intelligenz“, sondern an bekannten Haftungslogiken. Relevant sind vor allem Produktfehler, Organisationsmängel, Aufsichtspflichten, unzureichende Prüfungen und fehlerhafte Verarbeitung personenbezogener Daten.
Das ist für viele Organisationen ungewohnt, weil Anbieter von KI-Diensten gern mit Automatisierung werben, die Verantwortung aber nicht vollständig übernehmen. Wer ein System auswählt, in Prozesse einbindet und Ergebnisse nutzt, schafft eine eigene Risikosphäre. Das gilt besonders dann, wenn die KI über Einstellungen, Trainingsdaten, Schwellenwerte oder Freigaben an den eigenen Zweck angepasst wird.
In der Praxis entstehen Haftungsfragen oft in vier typischen Lagen: Eine generative KI halluziniert Fakten und ein Unternehmen veröffentlicht sie ungeprüft. Ein Bewertungssystem benachteiligt Bewerber:innen systematisch. Ein Assistenzsystem in der Produktion gibt fehlerhafte Hinweise und verursacht Sachschäden. Oder ein Chatbot verarbeitet personenbezogene Daten rechtswidrig und verletzt Betroffenenrechte. Die rechtliche Bewertung ist jeweils unterschiedlich, aber nie rein technisch.
Hinzu kommt: Nicht jede falsche Ausgabe ist automatisch ein haftungsrelevanter Fehler. Viele KI-Systeme arbeiten probabilistisch, also wahrscheinlichkeitsbasiert, und erzeugen keine garantiert richtigen Ergebnisse. Haftungsrelevant wird es dort, wo eine berechtigte Sicherheitserwartung verletzt wird, wo Prüfpflichten missachtet werden oder wo ein Produkt beziehungsweise Dienst nicht das leistet, was vernünftigerweise erwartet werden durfte.
Für Unternehmen ist deshalb eine nüchterne Einordnung wichtiger als das Versprechen „Die KI hat entschieden“. Wer Verantwortung auf ein Modell abschiebt, reduziert das eigene Risiko nicht. Eher wird die Lage schwieriger, wenn Rollen, Freigaben und Dokumentation unklar bleiben.
Welche Rechtsrahmen bei KI-Schäden typischerweise zusammenwirken
Haftung bei KI verteilt sich auf mehrere Rechtsgebiete, die sich überschneiden können. Gerade deshalb ist es sinnvoll, Vorfälle nicht nur als Compliance-Thema, sondern auch als Produkt-, Datenschutz- und Sicherheitsfrage zu betrachten.
Auf zivilrechtlicher Ebene geht es häufig um Vertragsverletzungen oder um Schadensersatz wegen Pflichtverletzungen. Wenn ein Unternehmen KI-Ergebnisse gegenüber Kund:innen als belastbar darstellt, obwohl keine ausreichende Prüfung stattfindet, kann das vertragliche Ansprüche auslösen. Im B2B-Kontext spielen dabei Servicebeschreibungen, Gewährleistungsklauseln, Haftungsbegrenzungen und dokumentierte Leistungszusagen eine große Rolle.
Daneben kommt deliktische Haftung in Betracht, also Haftung wegen rechtswidriger Schädigung außerhalb eines Vertrags. Das wird relevant, wenn Dritte betroffen sind, etwa bei Diskriminierung, Rufschädigung, fehlerhaften Empfehlungen oder Sicherheitsmängeln. Auch das allgemeine Organisationsverschulden eines Unternehmens kann dann wichtig werden: Wurden Risiken erkannt, geprüft und mit angemessenen Kontrollen abgesichert?
Ein weiterer Baustein ist die Produkthaftung. Sie zielt auf Schäden durch fehlerhafte Produkte und entwickelt sich im digitalen Umfeld weiter. Für KI-nahe Konstellationen ist besonders wichtig, dass nicht nur klassische Hardware, sondern auch softwarebezogene Elemente und Sicherheitsmängel in die Betrachtung einbezogen werden können. Maßgeblich ist dabei nicht jede beliebige Fehlfunktion, sondern ob ein Produkt die berechtigterweise erwartbare Sicherheit bietet.
Zusätzlich greift häufig die DSGVO, wenn personenbezogene Daten verarbeitet werden. Falsche Profile, unzulässige Trainingsdaten, mangelhafte Transparenz oder unzureichende Rechtsgrundlagen können eigenständige Ansprüche und behördliche Maßnahmen auslösen. Wer sich im Einsatz generativer Systeme auf interne Prüfungen verlässt, reduziert Reibung oft nur dann spürbar, wenn saubere Datenrollen von Anfang an geklärt sind.
Der EU AI Act ist wiederum nicht primär ein Haftungsgesetz, aber er beeinflusst die Erwartung an Sorgfalt, Risikomanagement und Dokumentation. Wenn ein System in eine regulierte Kategorie fällt, kann die Einhaltung oder Missachtung solcher Pflichten später auch für Haftungsfragen praktisch bedeutsam werden. Gerade bei sensiblen Anwendungen wirkt nachvollziehbare Aufsicht belastbarer, wenn menschliche Kontrolle nicht nur auf dem Papier existiert.
| Rechtsrahmen | Typische KI-Frage | Praktische Folge |
|---|---|---|
| Vertragsrecht | Wurde eine zugesagte Leistung nicht erbracht? | Gewährleistung, Schadensersatz, Nachbesserung |
| Deliktsrecht | Wurde ein Dritter rechtswidrig geschädigt? | Außervertragliche Haftung, Organisationsprüfung |
| Produkthaftung | Lag ein sicherheitsrelevanter Produktfehler vor? | Haftung für Personen- oder Sachschäden |
| Datenschutzrecht | Wurden personenbezogene Daten unzulässig verarbeitet? | Behördliche Maßnahmen, Ansprüche Betroffener |
| IT-Sicherheitsrecht | Waren Systeme und Prozesse unzureichend abgesichert? | Melde-, Schutz- und Governance-Folgen |
Wer trägt Verantwortung: Anbieter, Betreiber oder integrierendes Unternehmen?
Verantwortung bei KI ist fast immer verteilt. Anbieter, Betreiber, Integratoren und einsetzende Organisationen können parallel Pflichten haben, auch wenn Verträge etwas anderes suggerieren.
Ein Anbieter haftet typischerweise für Mängel des bereitgestellten Produkts oder Dienstes, für irreführende Leistungsangaben oder für unzureichende Sicherheitsmaßnahmen. Das gilt aber nicht grenzenlos. Viele Standardverträge schränken Haftung ein, unterscheiden zwischen Testfunktionen und produktiven Funktionen und verlagern Prüfpflichten auf Kund:innen. Solche Klauseln sind nicht automatisch unwirksam, aber sie lösen das Problem der tatsächlichen Verantwortlichkeit im Schadensfall nicht vollständig.
Das einsetzende Unternehmen bleibt regelmäßig verantwortlich für den konkreten Anwendungskontext. Wer eine KI im Recruiting, in der Kundenkommunikation oder bei Bonitätsentscheidungen nutzt, entscheidet über Zweck, Datenfluss, Freigaben und Eskalationswege. Damit wird das Unternehmen selbst zum zentralen Risikoträger, selbst wenn das Modell extern gehostet ist oder als API eingekauft wird.
Besonders heikel sind Integrationsfälle. Sobald ein Unternehmen ein Basismodell mit eigenen Daten, Prompts, Plug-ins, Schnittstellen oder nachgelagerten Regeln erweitert, entsteht eine Mischverantwortung. Dann lässt sich ein Schaden oft nicht mehr sauber einem einzigen Akteur zuordnen. Praktisch zählt deshalb, wer welche Entscheidung beeinflusst hat und wer welche Kontrollen unterlassen hat.
Das zeigt sich auch bei Sicherheitsvorfällen. Wenn ein interner Assistent durch manipulierte Eingaben vertrauliche Informationen preisgibt, kann ein Modellanbieter betroffen sein. Zugleich stellt sich aber die Frage, warum das Unternehmen keine Segmentierung, keine Rechtesteuerung und keine Ausgabeprüfung vorgesehen hat. Haftung wird dann schnell zur Frage unzureichender Gesamtarchitektur.
- Ist schriftlich dokumentiert, wer das KI-System auswählt, konfiguriert und freigibt?
- Gibt es klare Regeln, welche Entscheidungen automatisiert und welche nur assistiert getroffen werden?
- Sind Leistungszusagen des Anbieters mit dem realen Einsatzfall abgeglichen?
- Bestehen Prüf- und Freigabeschritte für sensible Ausgaben?
- Sind Vorfälle, Fehlentscheidungen und Beschwerden nachvollziehbar protokolliert?
- Wurden Sicherheits- und Datenschutzrisiken vor dem Rollout bewertet?
Welche Schäden durch KI in der Praxis besonders haftungsträchtig sind
Haftungsrelevant werden vor allem Schäden, die vorhersehbar waren und mit angemessenen Mitteln hätten begrenzt werden können. Unternehmen sollten deshalb nicht nur auf spektakuläre Fälle schauen, sondern auf alltägliche Schadensmuster.
Fehlerhafte Entscheidungen mit realen Folgen
Besonders sensibel sind Systeme, die über Menschen mitentscheiden oder Empfehlungen mit hohem Gewicht aussprechen. Dazu gehören Recruiting, Kreditvergabe, Versicherungsbewertung, Leistungsgewährung oder Risikoscoring. Wenn ein System fehlerhafte oder diskriminierende Ergebnisse liefert und diese praktisch ungeprüft übernommen werden, sind Schadensersatzforderungen, aufsichtsrechtliche Prüfungen und Reputationsschäden denkbar. Im Umfeld solcher Systeme ist systematische Verzerrung kein Randthema, sondern ein klarer Risikofaktor.
Falsche Inhalte und irreführende Kommunikation
Generative Modelle erzeugen Texte, Bilder oder Zusammenfassungen, die plausibel wirken, aber sachlich falsch sein können. Im Marketing, im Support oder in öffentlichen Stellungnahmen kann das zu Falschinformationen, Wettbewerbsproblemen oder Haftungsfällen führen, wenn Dritte auf diese Aussagen vertrauen. Entscheidend ist dann, ob eine Prüfung zumutbar gewesen wäre und welche Qualität das Unternehmen nach außen zugesichert hat.
Datenschutz- und Geheimnisschäden
Ein häufiger Auslöser sind Eingaben in externe Systeme, die personenbezogene Daten, Geschäftsgeheimnisse oder vertrauliche Vorgänge enthalten. Gelangen solche Inhalte unzulässig in Trainings- oder Protokollierungsprozesse oder werden sie durch Fehlkonfiguration offengelegt, drohen nicht nur Datenschutzfolgen. Auch arbeitsrechtliche, vergaberechtliche oder vertragliche Fragen können sich anschließen, etwa wenn sensible Informationen aus Verwaltungen oder aus dem Gesundheitsumfeld betroffen sind.
Sicherheitsmängel und missbrauchbare Systeme
KI kann selbst Angriffsfläche sein oder Angriffe verstärken. Unsichere Schnittstellen, Modell-Exfiltration, fehlende Filter oder unzureichende Rechtekonzepte können Schäden an Infrastruktur, Datenbeständen oder betrieblichen Abläufen auslösen. Wo KI in kritische oder wesentliche Prozesse eingebunden ist, wird die Einordnung robuster, wenn Sicherheitsgovernance nicht isoliert, sondern systemweit verstanden wird.
Was Gerichte und Aufsichtsbehörden voraussichtlich besonders interessiert
Im Streitfall zählt nicht nur, ob ein Fehler passiert ist, sondern ob ein Unternehmen den Einsatz nachvollziehbar beherrscht hat. Dokumentation, Risikobewertung und Aufsicht werden deshalb oft wichtiger sein als nachträgliche Erklärungen.
Gerichte und Behörden schauen typischerweise darauf, ob ein System für den konkreten Zweck geeignet war. Ein KI-Tool, das als allgemeiner Textassistent beworben wird, ist nicht automatisch für sensible Personal-, Verwaltungs- oder Sicherheitsentscheidungen geeignet. Wird ein solches Tool dennoch in kritische Abläufe eingebunden, steigt die Anforderung an interne Prüfungen deutlich.
Zweitens ist die Frage zentral, ob Menschen die Ergebnisse sinnvoll kontrollieren konnten. Menschliche Aufsicht ist nur dann belastbar, wenn sie mehr ist als ein formaler Freigabeklick. Wer in kurzer Taktung Hunderte KI-Vorschläge abzeichnen soll, übt faktisch kaum Kontrolle aus. In solchen Konstellationen kann ein Gericht eher annehmen, dass eine vermeintlich menschliche Endentscheidung die Risiken nicht wirklich neutralisiert hat.
Drittens wird relevant sein, welche Informationen ein Anbieter bereitgestellt hat und wie das Unternehmen sie genutzt hat. Fehlende Warnhinweise des Anbieters können ein Faktor sein. Ebenso belastend ist es aber, wenn ein Unternehmen bekannte Grenzen ignoriert, etwa Halluzinationen, Datendrift oder fehlende Eignung für Hochrisiko-Anwendungen.
Viertens spielt der Umgang mit Vorfällen eine große Rolle. Wurden Beschwerden ernst genommen, Systeme angepasst, Protokolle gesichert und Betroffene informiert, wo das erforderlich war? Oder lief der Betrieb trotz erkennbarer Probleme einfach weiter? Gerade im Spannungsfeld von Grundrechten, Datenschutz und automatisierten Entscheidungen wird die organisatorische Reife häufig zum entscheidenden Indiz für Sorgfalt oder Nachlässigkeit.
Wie Unternehmen Haftungsrisiken praktisch senken können
Haftungsrisiken lassen sich nicht vollständig ausschließen, aber deutlich strukturieren. Wirksam sind vor allem Maßnahmen, die Technik, Organisation, Beschaffung und Rechtsprüfung verbinden.
Am Anfang steht eine ehrliche Zweckbestimmung. Unternehmen sollten festlegen, ob eine KI nur assistiert, ob sie priorisiert oder ob sie faktisch Entscheidungen vorbereitet, die nur noch oberflächlich geprüft werden. Je stärker das System reale Folgen für Personen, Vermögen oder Sicherheit hat, desto höher müssen Prüfstandard, Freigaben und Nachvollziehbarkeit sein.
Ebenso wichtig ist die Auswahl des Systems. Dazu gehören Aussagen des Anbieters zu Grenzen, Testverfahren, Sicherheitsmechanismen, Datenverarbeitung, Logging und Änderungsmanagement. Wer nur auf Funktionsumfang und Kosten schaut, übersieht oft genau die Punkte, die später in Haftungsfällen relevant werden.
Im laufenden Betrieb zählen belastbare Kontrollen. Dazu gehören Vier-Augen-Prinzipien bei sensiblen Anwendungen, Stichproben, Eskalationswege, Sperrregeln, Rollentrennung und klare Dokumentation von Korrekturen. Bei personenbezogenen oder grundrechtsnahen Anwendungen ist zusätzlich zu prüfen, ob eine Datenschutz-Folgenabschätzung oder eine weitergehende KI-Folgenbetrachtung angemessen ist.
Hilfreich ist außerdem eine Trennung nach Risikostufen. Ein interner Textentwurf für unkritische Marketingbausteine braucht andere Kontrollen als ein System, das Sozialleistungen priorisiert oder Wartungsentscheidungen in einer kritischen Anlage beeinflusst. Diese Differenzierung macht Governance glaubwürdiger und verhindert, dass jede KI entweder überreguliert oder unkontrolliert eingesetzt wird.
- Systemzweck und Einsatzgrenzen schriftlich festlegen.
- Verträge auf Leistungszusagen, Haftungsgrenzen und Supportpflichten prüfen.
- Für sensible Anwendungsfälle menschliche Kontrolle praktisch belastbar ausgestalten.
- Ausgaben stichprobenartig und bei Risiken anlassbezogen überprüfen.
- Vorfälle, Beschwerden und Korrekturen revisionsfähig dokumentieren.
- Datenflüsse, Rollen und Zugriffe vor produktiver Nutzung klären.
- Sicherheitsanforderungen mit dem übrigen IT-Risikomanagement abstimmen.
Gilt für KI bald ein eigenes Haftungsregime?
Die regulatorische Richtung ist klar: KI soll nicht in einem rechtsfreien Raum operieren. Dennoch bleibt die Haftung auf absehbare Zeit ein Zusammenspiel aus bestehendem Zivilrecht, Produktsicherheitslogik, Datenschutz und sektoralen Vorgaben.
In der politischen und rechtlichen Debatte wird seit Längerem darüber gesprochen, ob Beweislastfragen, Transparenzpflichten und digitale Produktkonzepte stärker auf KI zugeschnitten werden müssen. Gerade bei komplexen Modellen ist für Geschädigte oft schwer nachweisbar, warum ein Fehler entstanden ist und welcher Akteur ihn verursacht hat. Diese Nachweisprobleme sind real, auch wenn sie nicht automatisch zu einer völlig neuen Sonderhaftung führen.
Für Unternehmen bedeutet das vor allem: Die praktische Haftungslage wird schon heute durch Dokumentation, Sicherheitsniveau und Governance geprägt. Wer den Einsatz einer KI nicht erklären, abgrenzen und überwachen kann, steht im Streitfall schwächer da als eine Organisation mit klaren Prozessen. Regulierung wie der AI Act verschiebt diese Erwartung eher in Richtung mehr Nachweisbarkeit, nicht in Richtung weniger Verantwortung.
Unklar bleibt in vielen Einzelfällen, wie Gerichte die Rolle generativer Modelle, lernender Systeme und mehrstufiger Lieferketten genau gewichten werden. Offen ist auch, wie stark neue europäische Produkthaftungs- und Produktsicherheitslogiken KI-spezifische Streitfragen praktisch verändern. Schon jetzt ist aber erkennbar: Die zentrale Frage lautet selten, ob KI beteiligt war, sondern ob der Einsatz beherrschbar und zumutbar abgesichert war.
KI-Haftung ist für Unternehmen weniger ein Sonderfall des Zukunftsrechts als eine verdichtete Form bekannter Verantwortung. Wer KI in sensible Prozesse einbindet, muss mit denselben Grundfragen rechnen wie bei anderen risikoreichen Technologien: Eignung, Aufsicht, Sicherheit, Transparenz und Dokumentation. Neu ist vor allem die Geschwindigkeit, mit der Systeme breit eingesetzt werden, obwohl ihre Grenzen oft nur grob verstanden sind. Genau deshalb wird Haftung dort konkret, wo Organisationen die Kontrolle über Zweck, Daten und Freigaben nicht sauber definieren.
Hinweis: Dieser Beitrag bietet allgemeine Information zu KI-Risiken und Regulierung und ersetzt keine Rechtsberatung. Konkrete Pflichten, Bußgeldhöhen und Geltungstermine können sich ändern und im Einzelfall abweichen. Für verbindliche Auskünfte ist eine fachkundige Prüfung durch Anwält:innen oder Datenschutzbeauftragte erforderlich. Der Artikel wurde mit KI-Unterstützung erstellt und redaktionell geprüft.
