Haftung für KI-Fehler: Produkthaftung, Vertrag und Delikt auf dem Stand 2026

Wer haftet, wenn die KI irrt? Kaum eine Frage wird in Geschäftsleitungssitzungen und in Verhandlungen über Softwareverträge derzeit häufiger gestellt – und kaum eine wird häufiger falsch beantwortet. Die verbreitete Vorstellung, der Einsatz künstlicher Intelligenz führe in ein haftungsrechtliches Niemandsland, trifft nicht zu: Das geltende Recht hält mit Vertrag, Delikt und Produkthaftung ein dichtes Netz bereit, das durch die neue Produkthaftungsrichtlinie (EU) 2024/2853 gerade noch enger gezogen wird. Die Beratungspraxis zeigt allerdings, dass die Risiken selten dort liegen, wo Unternehmen sie vermuten – nicht im spektakulären Einzelfehler des Systems, sondern in unklaren Leistungsbeschreibungen, unwirksamen Haftungsklauseln und fehlender Organisation des laufenden Betriebs. Dieser Beitrag ordnet die drei Haftungsregime auf dem Stand des Jahres 2026, erläutert die Übergangslage bis zur Umsetzung der neuen Richtlinie und zeigt, wie sich Haftung in der Lieferkette vom Anbieter über den Integrator bis zum Betreiber sachgerecht verteilen lässt.

Vertragliche Haftung: Die Leistungsbeschreibung entscheidet

Im Verhältnis zwischen Anbieter und Kunde ist der Vertrag die erste und wichtigste Haftungsordnung. Nach § 280 Abs. 1 BGB haftet, wer eine Pflicht aus dem Schuldverhältnis verletzt – die eigentliche juristische Arbeit steckt deshalb in der Frage, was überhaupt geschuldet ist. KI-Systeme arbeiten probabilistisch: Sie liefern statistisch gute, aber nicht deterministisch richtige Ergebnisse. Wer im Vertrag eine bestimmte Trefferquote, ein „zutreffendes" Analyseergebnis oder eine verlässliche Auskunft als Beschaffenheit vereinbart, haftet für deren Ausbleiben nach Gewährleistungsrecht; wer die Leistung als Bereitstellung eines Werkzeugs mit dokumentierten Grenzen beschreibt, verlagert das Ergebnisrisiko weitgehend auf den Anwender. Die Leistungsbeschreibung ist damit kein Formalakt, sondern Haftungssteuerung im Kernbereich. In der Beratungspraxis bewährt es sich, die bestimmungsgemäße Nutzung, bekannte Fehlerklassen – etwa Halluzinationen generativer Systeme –, Aktualitätsgrenzen der Trainingsdaten und die Notwendigkeit menschlicher Kontrolle ausdrücklich in die Leistungsbeschreibung aufzunehmen. Das gehört dorthin und nicht in die Haftungsklauseln: Was echte Leistungsbeschreibung ist, unterliegt nicht der Inhaltskontrolle, während leistungsbeschränkende und haftungsbegrenzende Klauseln in vollem Umfang an §§ 305 ff. BGB gemessen werden.

Die Grenzen der Klauselgestaltung: §§ 305 ff. BGB

Haftungsausschlüsse in Allgemeinen Geschäftsbedingungen unterliegen strenger Kontrolle. § 309 Nr. 7 lit. a BGB verbietet den Ausschluss der Haftung für die Verletzung von Leben, Körper und Gesundheit, lit. b den Ausschluss für grobes Verschulden; diese Wertungen gelten über § 307 Abs. 1 und Abs. 2 BGB im Kern auch im unternehmerischen Verkehr. Hinzu tritt die gefestigte Linie der Rechtsprechung zu den wesentlichen Vertragspflichten: Die Haftung für die Verletzung von Pflichten, deren Erfüllung die ordnungsgemäße Durchführung des Vertrags überhaupt erst ermöglicht, kann auch für einfache Fahrlässigkeit nicht vollständig ausgeschlossen, sondern nur auf den vertragstypischen, vorhersehbaren Schaden begrenzt werden. Für KI-Verträge bedeutet das: Der pauschale Ausschluss „jeder Haftung für Ergebnisse des KI-Systems" wird in AGB regelmäßig scheitern. Tragfähig sind dagegen betragsmäßige Höchstgrenzen in angemessener Relation zum Vertragsvolumen, der Ausschluss mittelbarer Schäden in den Grenzen des § 307 BGB und sauber formulierte Mitwirkungspflichten des Kunden – etwa die Pflicht, Ergebnisse vor kritischen Verwendungen fachlich zu prüfen. Verstößt der Kunde dagegen, hilft dem Anbieter § 254 BGB. Wer wirklich weitgehende Haftungsverteilungen benötigt, muss den Weg der Individualvereinbarung gehen, die deutlich mehr Spielraum lässt.

Deliktische Haftung: § 823 BGB, Verkehrssicherungspflichten, Organisationsverschulden

Außerhalb des Vertrags haftet nach § 823 Abs. 1 BGB, wer rechtswidrig und schuldhaft absolute Rechtsgüter verletzt – Leben, Körper, Gesundheit, Eigentum. Reine Vermögensschäden erfasst die Norm nicht; sie bleiben dem Vertrag und § 823 Abs. 2 BGB in Verbindung mit Schutzgesetzen vorbehalten. Ob einzelne Pflichten der KI-Verordnung Schutzgesetzcharakter haben, wird diskutiert und wird die Instanzgerichte in den kommenden Jahren beschäftigen. Praktisch bedeutsamer ist die Fallgruppe der Verkehrssicherungspflichten: Wer eine Gefahrenquelle eröffnet oder unterhält, muss die zumutbaren Vorkehrungen treffen, um Schäden Dritter zu verhindern. Übertragen auf den KI-Einsatz heißt das: sorgfältige Auswahl eines für den Zweck geeigneten Systems, Einweisung der Nutzer, laufende Beobachtung des Systemverhaltens – Stichwort Modelldrift –, wirksame Eingriffs- und Abschaltmöglichkeiten sowie unverzügliche Reaktion auf bekannt gewordene Fehler. Die Betreiberpflichten des Art. 26 der KI-Verordnung (Verordnung (EU) 2024/1689) – Verwendung nach Betriebsanleitung, menschliche Aufsicht, Kontrolle der Eingabedaten, Aufbewahrung von Protokollen – werden diesen Sorgfaltsmaßstab absehbar konkretisieren, auch dort, wo sie noch nicht unmittelbar gelten. Fehlt es an Strukturen, die solche Vorkehrungen sicherstellen, haftet das Unternehmen unter dem Gesichtspunkt des Organisationsverschuldens; das Verhalten seiner Organe wird ihm über § 31 BGB zugerechnet.

§ 831 BGB: Warum die KI kein Verrichtungsgehilfe ist

Verlockend erscheint manchem der Gedanke, die KI wie einen Mitarbeiter zu behandeln – mit der Folge, dass sich das Unternehmen nach § 831 Abs. 1 S. 2 BGB durch den Nachweis sorgfältiger Auswahl und Überwachung entlasten könnte. Dieser Weg ist versperrt. Verrichtungsgehilfe ist nach gefestigtem Verständnis eine weisungsabhängige Person; Software ist keine Person, und ihr „Verhalten" ist keine unerlaubte Handlung im Rechtssinne, die dem Geschäftsherrn zugerechnet werden könnte. Das hat zwei Konsequenzen. Erstens: Der Einsatz von KI führt nicht zu einer milderen Haftung mit Exkulpationsmöglichkeit – das Unternehmen haftet vielmehr unmittelbar aus § 823 BGB für die Verletzung eigener Verkehrs- und Organisationspflichten beim Einsatz des Werkzeugs. Zweitens: Wo Menschen KI fehlerhaft bedienen oder deren Ergebnisse ungeprüft weiterreichen, bleibt es bei den klassischen Zurechnungsnormen – § 278 BGB im Vertragsverhältnis, § 831 BGB im Deliktsrecht, jeweils bezogen auf den handelnden Menschen. Die rechtspolitische Diskussion um eine eigene „elektronische Person" hat der Gesetzgeber nicht aufgegriffen; Haftungssubjekte bleiben die Unternehmen und die Menschen dahinter.

Die neue Produkthaftungsrichtlinie (EU) 2024/2853: Software wird Produkt

Der gewichtigste Umbruch kommt aus Brüssel. Die neue Produkthaftungsrichtlinie (EU) 2024/2853 ist seit Dezember 2024 in Kraft und von den Mitgliedstaaten bis zum 9.12.2026 umzusetzen – also binnen weniger Monate. Sie erklärt Software und KI-Systeme ausdrücklich zu Produkten und unterwirft damit erstmals zweifelsfrei auch eigenständige Software der verschuldensunabhängigen Herstellerhaftung. Für KI besonders relevant ist der modernisierte Fehlerbegriff: In die Beurteilung der Fehlerhaftigkeit fließen unter anderem unterlassene Sicherheitsupdates und die Fähigkeit des Systems zum Weiterlernen ein – ein Produkt kann danach auch nach dem Inverkehrbringen fehlerhaft werden, solange der Hersteller die Kontrolle behält. Hinzu kommen prozessuale Neuerungen: Offenlegungspflichten für Beweismittel und Beweiserleichterungen zugunsten Geschädigter in technisch komplexen Fällen, die die faktische Beweisnot gegenüber intransparenten Systemen abmildern sollen. Bis zur Umsetzung gilt in Deutschland das Produkthaftungsgesetz bisheriger Prägung fort, dessen Anwendung auf reine Software seit jeher umstritten ist – eine Übergangsphase mit gespaltenem Regime, die bei der Vertragsgestaltung schon heute mitgedacht werden muss. Eine KI-spezifische Verschuldenshaftung auf europäischer Ebene kommt dagegen vorerst nicht: Den Entwurf der KI-Haftungsrichtlinie (AILD) hat die EU-Kommission Anfang 2025 zurückgezogen. Es bleibt insoweit bei den allgemeinen Regeln des nationalen Rechts.

Haftung in der Lieferkette: Anbieter, Integrator, Betreiber – und die Versicherungsfrage

KI-Wertschöpfung ist arbeitsteilig: Am Anfang steht der Modell- oder Systemanbieter im Sinne des Art. 3 Nr. 3 der KI-Verordnung, dazwischen häufig ein Integrator, am Ende der Betreiber nach Art. 3 Nr. 4, der das System eigenverantwortlich verwendet. Zivilrechtlich haftet zunächst jeder seinem Vertragspartner; dem Geschädigten gegenüber steht praktisch oft der Betreiber in der ersten Reihe und muss Regress in der Kette suchen. Umso wichtiger sind konsistente Back-to-back-Regelungen: Garantien des Anbieters zur Rechtskonformität von Modell und Trainingsprozess, Freistellungen für Schutzrechtsverletzungen, Mitwirkungspflichten bei der Sachverhaltsaufklärung, Audit- und Informationsrechte. Zu beachten ist dabei eine Falle der KI-Verordnung: Wer ein System unter eigenem Namen vermarktet oder wesentlich verändert, kann selbst in die Anbieterrolle mit deutlich erweitertem Pflichtenprogramm hineinwachsen. Für die Versicherbarkeit gilt: Betriebs- und Produkthaftpflicht, IT- und Cyberdeckungen sowie Vermögensschadenhaftpflicht decken KI-Risiken grundsätzlich ab, doch der Markt differenziert 2026 spürbar. Versicherer fragen KI-Governance, Monitoring und menschliche Aufsicht inzwischen gezielt ab; wer sie nachweisen kann, erhält Deckung zu tragfähigen Bedingungen, wer nicht, sieht sich Ausschlüssen und Obliegenheiten gegenüber, die im Schadenfall die Deckung kosten können.

Praxisempfehlungen: Beherrschbarkeit organisieren

Was folgt daraus für die Praxis? Erstens: Verträge auf beiden Seiten der Lieferkette überprüfen – Leistungsbeschreibungen präzisieren, Haftungsklauseln an der AGB-Kontrolle messen, Regressketten schließen, die Umsetzungsfrist der neuen Produkthaftungsrichtlinie zum 9.12.2026 in Übergangsklauseln abbilden. Zweitens: menschliche Aufsicht organisieren – kritische Entscheidungen dürfen nicht ungeprüft auf Systemergebnissen beruhen, Freigabe- und Eskalationswege gehören schriftlich fixiert. Drittens: Monitoring etablieren – Fehlerraten, Beschwerden und Modellverhalten laufend beobachten und auf Auffälligkeiten dokumentiert reagieren. Viertens: Dokumentation als Beweisvorsorge begreifen – wer Auswahlentscheidung, Einweisung, Tests und laufende Kontrolle belegen kann, wird sowohl den deliktischen Sorgfaltsvorwurf als auch künftige Offenlegungspflichten deutlich gelassener sehen. Die Erfahrung lehrt: Gehaftet wird selten für den einzelnen Fehler eines Systems, fast immer für den unorganisierten Umgang mit ihm.

Häufige Fragen

Wer haftet dem Geschädigten, wenn ein zugekauftes KI-System einen Schaden verursacht? Gegenüber dem eigenen Vertragspartner haftet das einsetzende Unternehmen nach § 280 Abs. 1 BGB, gegenüber Dritten nach § 823 BGB, wenn es seine Verkehrssicherungspflichten beim Einsatz verletzt hat. Der Anbieter haftet daneben vertraglich im Innenverhältnis und künftig verschuldensunabhängig nach den Regeln der neuen Produkthaftungsrichtlinie. Entscheidend ist deshalb, den Regress in der Lieferkette vertraglich zu sichern.

Gilt die neue Produkthaftungsrichtlinie (EU) 2024/2853 schon heute? Sie ist seit Dezember 2024 in Kraft, entfaltet ihre Wirkung aber erst mit der nationalen Umsetzung, die bis zum 9.12.2026 erfolgen muss. Bis dahin gilt das Produkthaftungsgesetz bisheriger Prägung, dessen Anwendung auf reine Software umstritten ist. Verträge mit längerer Laufzeit sollten die neue Rechtslage bereits jetzt berücksichtigen.

Lässt sich die Haftung für KI-Fehler in AGB vollständig ausschließen? Nein. Die Haftung für Vorsatz, grobe Fahrlässigkeit und die Verletzung von Leben, Körper und Gesundheit ist nicht abdingbar, und bei wesentlichen Vertragspflichten bleibt auch für einfache Fahrlässigkeit mindestens die Haftung auf den vertragstypischen, vorhersehbaren Schaden bestehen. Gestaltbar sind Haftungshöchstbeträge, Mitwirkungspflichten und eine präzise Leistungsbeschreibung, die überzogene Erwartungen gar nicht erst zur geschuldeten Beschaffenheit macht.

Dieser Beitrag gibt einen allgemeinen Überblick auf dem Rechtsstand 2026 und ersetzt keine Rechtsberatung im Einzelfall. Für eine Einschätzung Ihres konkreten Anliegens vereinbaren Sie gern ein Erstgespräch mit KALER.