Wenn die KI irrt, haftet der Mensch – und muss es beweisen

Die Verteidigung klang plausibel. Der Chatbot, so trug die Beklagte vor, arbeite als KI-System in dem ihm gesetzten Rahmen autonom, werde nicht im Einzelnen gesteuert oder kontrolliert, seine Äußerungen ließen sich nicht auf eine menschliche Willensentschließung zurückführen. Und weil das System als Black Box operiere, sei nicht einmal feststellbar, ob die konkrete Falschaussage auf die Fragestellung, auf Trainingsdaten oder auf fehlende Sicherungsmaßnahmen zurückgehe.

Das Oberlandesgericht Hamm ist dem am 12. Mai 2026 nicht gefolgt (Az. 4 UKl 3/25). Damit ist eine Frage entschieden, die viele Unternehmen intuitiv für offen halten: Die Aussagen eines eingesetzten KI-Systems sind Handlungen des Betreibers. Nicht die eines Dritten, nicht die eines eigenständigen Akteurs.

Interessanter ist, was danach kommt. Wenn die Zurechnung feststeht, verschiebt sich das Problem von der Haftungsfrage zur Beweisfrage. Und dort steht ein Satz im Aktiengesetz, der die Beweislast umkehrt. Wer als Organ in Anspruch genommen wird, muss die eigene Sorgfalt nachweisen. Eine Sorgfalt, die sich nicht belegen lässt, ist haftungsrechtlich keine.

Dieser Beitrag behandelt nicht den Anwendungsbereich der KI-Verordnung und nicht die Fristen – dazu finden Sie das Wesentliche in unserem Beitrag zum Stichtag 2. August 2026. Es geht hier um die Frage danach: Welches Dokument liegt im Streitfall auf dem Tisch?

Der Fall und die drei Sätze, die zählen

Geklagt hatte ein qualifizierter Verbraucherverband, eingetragen in die Liste nach § 4 UKlaG. Beklagte war eine Gesellschaft, die minimalinvasive ästhetische Behandlungen anbietet. Auf ihrer Website beantwortete ein Chatbot Besucherfragen in Echtzeit und bot zugleich Terminbuchungen an. Auf die Frage nach der Facharztqualifikation ihrer beiden ärztlich tätigen Geschäftsführer gab das System an, beide seien Fachärzte für plastische und ästhetische Chirurgie. In weiteren Antworten erfand es die Bezeichnungen „Facharzt für ästhetische Medizin” und „Facharzt für ästhetische Behandlungen”. Keine dieser Angaben traf zu; die letzten beiden Bezeichnungen existieren nicht.

Prozessual ist der Fall ungewöhnlich: Das OLG Hamm entschied erstinstanzlich. Für Verbandsklagen nach dem UKlaG ist nach § 6 Abs. 1 Satz 1 UKlaG das Oberlandesgericht ausschließlich zuständig, in dessen Bezirk die Beklagte ihre Niederlassung hat. Die Revision hat der Senat wegen grundsätzlicher Bedeutung zugelassen; eine Entscheidung des BGH steht aus.

Drei Feststellungen der Entscheidungsgründe sollten Sie kennen.

Der Chatbot ist kein Dritter

Das Gericht ordnete die Antworten als geschäftliche Handlungen der Beklagten nach § 2 Abs. 1 Nr. 2 UWG ein und stützte sich dabei auf die BGH-Entscheidung zum Vertragsdokumentengenerator (Urteil vom 09.09.2021, I ZR 113/20). Auch dort erzeugte eine Software ihre Ergebnisse eigenständig, ohne menschlichen Willensentschluss im Einzelfall. Entscheidend ist nicht die Steuerung der Einzelausgabe, sondern die Herrschaft über das System.

Das Black-Box-Argument ändert daran nichts. Der Senat hielt fest, dass sich der Chatbot in rechtlicher Hinsicht nicht wesentlich vom Dokumentengenerator unterscheidet: Der grundsätzliche Einsatz in seiner konkreten Ausgestaltung beruht auf der Willensentschließung des Betreibers. Wer ein System in Gang setzt und dessen Tätigkeitsrahmen festlegt, kommuniziert mit diesem System.

Der nachträgliche Fix bewies die Zumutbarkeit

Dies ist der Satz, den Sie sich merken sollten, weil er das Gegenteil dessen bewirkt, was Unternehmen im Vorfallsfall üblicherweise anstreben.

Nach der Abmahnung hatte die Beklagte den Bot deaktiviert und anschließend überarbeitet: eine Prompt-Anweisung zur neutralen Antwort bei Fragen mit dem Begriff „Facharzt”, dazu ein nachgelagerter Keyword-Filter. Nach wenigen Tagen war das Problem behoben.

Genau diese Schnelligkeit wurde ihr zum Verhängnis. Das Gericht zog daraus zwei Schlüsse. Erstens belegte sie die erforderliche Steuerungsgewalt und damit die Zurechnung überhaupt. Zweitens: Weil die Umprogrammierung „ein Leichtes” gewesen sei, sei es der Beklagten auch zumutbar gewesen, dies bereits vor der ersten Inbetriebnahme sicherzustellen.

Jede Schutzmaßnahme, die sich nach einem Vorfall in Tagen nachrüsten lässt, hätte in die Inbetriebnahme gehört. Der schnelle Fix ist der Beweis, dass die Kontrolle vorher möglich war.

Für die Governance-Praxis heißt das: Ein Deployment ohne dokumentierte Vorabprüfung erzeugt seinen eigenen Belastungsbeweis.

Automation Bias ist gerichtlich festgestellt

Die Beklagte argumentierte, den Falschaussagen fehle die geschäftliche Relevanz, weil Verbraucher um die Fehleranfälligkeit von KI-Antworten wüssten und diese ohnehin gegenprüften. Der Senat verneinte einen solchen Erfahrungssatz ausdrücklich. Im Gegenteil vertraue ein Großteil der Angesprochenen der computergenerierten Antwort in besonderer Weise, weil Maschinen allgemein als weniger fehleranfällig wahrgenommen würden. Andernfalls, so das Gericht trocken, hätte die Beklagte den Chatbot wohl gar nicht erst eingesetzt.

Was in der Fachliteratur als Automation Bias diskutiert wird, ist damit keine kognitionspsychologische Randnotiz mehr, sondern eine gerichtliche Feststellung. Sie entlastet niemanden. Sie belastet den Betreiber, der sich auf die Skepsis seiner Nutzer verlassen wollte.

Der Frageraum ist ein Prüfgegenstand

Die vierte Feststellung ist die praktisch folgenreichste. Das Gericht hielt der Beklagten vor, sie hätte als umsichtiger und gewissenhafter Marktakteur antizipieren können und müssen, dass sich potenzielle Patienten mit der Frage nach der Facharztqualifikation an ihren Chatbot wenden – und dass dieser darauf unzutreffende Antworten halluzinieren könnte. Verschärfend kam hinzu, dass im Gesundheitsbereich wegen der Tragweite für die Betroffenen besonders strenge Anforderungen an das Marktverhalten gelten.

Übersetzt in die Sprache eines Managementsystems verlangt das eine Risikoanalyse über den erwartbaren Frageraum: Welche Fragen werden erkennbar gestellt, welche davon berühren Angaben, die falsch sein können, welche Schutzmaßnahme folgt daraus, und welcher Testfall belegt ihre Wirksamkeit vor der Freigabe. Das ist methodisch nichts Exotisches, sondern eine Gefährdungsbetrachtung mit anderem Betrachtungsgegenstand.

Eine Flanke ließ der Senat ausdrücklich offen: Ob anderes gilt, wenn eine Falschaussage durch tendenziöse oder suggestive Fragestellung des Nutzers provoziert wurde. Im Streitfall war das nicht so. Für Betreiber folgt daraus ein unterschätztes Nachweiserfordernis – ohne Protokollierung der tatsächlichen Nutzereingabe lässt sich diese Verteidigungslinie im Ernstfall nicht führen.

Der Schnitt, den man ziehen muss

An dieser Stelle ist Präzision angebracht, weil die aktuelle Berichterstattung sie häufig vermissen lässt.

Das Hamm-Urteil ist eine wettbewerbsrechtliche Entscheidung zur Außenhaftung des Unternehmens. Es äußert sich nicht zu § 93 AktG, nicht zur Business Judgment Rule und nicht zur Innenhaftung von Organmitgliedern. Wer von der Zurechnung eines Chatbot-Fehlers unmittelbar auf die persönliche Managerhaftung schließt, überträgt. Übertragungen sind zulässig, aber sie gehören gekennzeichnet.

Die Übertragung trägt gleichwohl. Was einem Unternehmen zugerechnet wird, landet über die Organisationspflicht bei demjenigen, der die Organisation zu verantworten hat. Wer ein System einführt, ohne Zuständigkeiten, Eskalationswege und Vorabprüfungen zu regeln, begeht ein Organisationsverschulden, unabhängig davon, ob er in die konkrete Fehlausgabe eingebunden war.

Methodisch gestützt wird das durch einen Beschluss des Kammergerichts vom 20. November 2025 (Az. 17 WF 144/25). Eine Rechtsanwältin hatte einen Schriftsatz mit KI-Unterstützung verfasst und die enthaltenen Rechtsprechungszitate nicht überprüft; sie existierten nicht. Der Leitsatz formuliert eine eigenständige Prüfpflicht für KI-generierte Inhalte. Was für den Anwalt als Organ der Rechtspflege gilt, lässt sich auf denjenigen übertragen, der KI-Ergebnisse in Entscheidungsvorlagen überführt.

Randnotiz zur Zitierdisziplin: In mehreren Fachbeiträgen wird dieser Beschluss unter dem Aktenzeichen 130 F 12281/25 geführt. Das ist das Aktenzeichen der Vorinstanz, AG Berlin-Kreuzberg. In einem Text über Prüfpflichten bei KI-Output ist das eine unfreiwillig passende Pointe.

Die eigentliche Norm: § 93 Abs. 2 Satz 2 AktG

Die Business Judgment Rule des § 93 Abs. 1 Satz 2 AktG schützt unternehmerische Entscheidungen, wenn das Organ vernünftigerweise annehmen durfte, auf Grundlage angemessener Information zum Wohle der Gesellschaft zu handeln. Über § 116 Satz 1 AktG gilt das für Aufsichtsratsmitglieder, über § 43 GmbHG sinngemäß für Geschäftsführer.

Der praktisch entscheidende Satz steht aber zwei Absätze weiter. Nach § 93 Abs. 2 Satz 2 AktG wird pflichtwidriges Verhalten zunächst vermutet. Das Organmitglied muss beweisen, dass es die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters angewandt hat. Nicht der Kläger muss Fahrlässigkeit belegen, sondern der Beklagte seine Sorgfalt.

Das verändert die Governance-Frage grundlegend. Sie lautet nicht mehr, ob ein Unternehmen KI-Governance betreibt. Sie lautet: Welches Dokument legen Sie vor, wenn Sie eine Entscheidung rechtfertigen müssen, die vor achtzehn Monaten auf Basis eines KI-Outputs getroffen wurde?

Daneben tritt § 130 OWiG. Wer die gehörige Aufsicht unterlässt und dadurch eine Zuwiderhandlung ermöglicht, haftet bußgeldrechtlich, mit Anknüpfung an das Unternehmen über § 30 OWiG.

Für besonders wichtige und wichtige Einrichtungen im Sinne des BSIG kommt § 38 hinzu. Absatz 1 verpflichtet die Geschäftsleitung, die Risikomanagementmaßnahmen nach § 30 BSIG umzusetzen und ihre Umsetzung zu überwachen – zwei Pflichten, nicht eine. Absatz 3 verlangt die regelmäßige Teilnahme an Schulungen, damit die Geschäftsleitung Risiken und Risikomanagementpraktiken selbst erkennen und bewerten kann.

Bemerkenswert ist Absatz 2. Für den Schadensersatz schafft das BSIG kein eigenes Regime, sondern verweist auf die Regeln des Gesellschaftsrechts in der jeweiligen Rechtsform; eigenständig greift die Haftung nur, wo dort keine Regelung besteht. Für eine kommunale GmbH heißt das: Der BSIG-Pfad mündet in § 43 GmbHG – und damit in dieselbe Beweislastsituation, die oben beschrieben ist. Wer KI-Systeme im Anwendungsbereich des § 30 BSIG betreibt, hat also keine zweite Baustelle, sondern denselben Nachweisbedarf aus einer weiteren Richtung.

Für die Geschäftsleitung eines regulierten Betreibers laufen damit zwei Kompetenzpflichten parallel: Art. 4 KI-VO, gerichtet auf das Verständnis der eingesetzten KI-Systeme, und § 38 Abs. 3 BSIG, gerichtet auf Risikomanagement in der Informationstechnik. Unterschiedlicher Gegenstand, überschneidender Personenkreis. Ein gemeinsamer Schulungsnachweis ist möglich, aber er muss beide Lernziele erkennbar abdecken.

Von der Norm zum Nachweisartefakt

Die folgende Matrix liest sich von links nach rechts als Kausalkette: Welche Norm verlangt welchen Nachweis, der im Streitfall als welches Artefakt vorgelegt wird, und an welcher Stelle des Managementsystems dieses Artefakt im Regelbetrieb entsteht.

Die vierte Spalte verweist auf den Anhang A der ISO/IEC 42001:2023. Die Zuordnung ist unsere eigene und nicht normativ – sie zeigt, an welcher Stelle eines KI-Managementsystems das jeweilige Artefakt im Regelbetrieb entsteht, und ersetzt nicht die Arbeit am Normtext. Ein Hinweis zur Vorsicht: In frei verfügbaren Mappings kursieren abweichende Nummernzuordnungen, teils mit Beständen aus unterschiedlichen Normfassungen nebeneinander. Wer Anhang A zitiert, sollte gegen die Norm selbst prüfen. Das gilt auch für diesen Beitrag.

Drei Zeilen verdienen eine Erläuterung.

Die Beweislastumkehr ist die anspruchsvollste. Sie verlangt nicht nur die Aufbewahrung von Dokumenten, sondern die Rekonstruierbarkeit eines technischen Zustands. Dazu unten mehr.

Artikel 4 KI-VO gilt seit dem 2. Februar 2025 und ist die einzige Pflicht dieser Liste, die unabhängig von jeder Risikoklassifizierung greift. Der übliche Nachweis – eine Teilnahmeliste einer einstündigen Awareness-Session – trägt nicht, weil die Norm auf die Fähigkeit zielt, die Grenzen des eingesetzten Systems zu verstehen. Rollenbezogen heißt: Wer Outputs verifiziert, braucht anderes als wer Investitionen freigibt. Das lässt sich prüfen, und es wird geprüft werden.

Die UWG-Zeile bindet an den Ausgangsfall zurück. Was das OLG Hamm verlangt hat, ist im Kern eine Risikoanalyse über den erwartbaren Frageraum, mit dokumentierter Ableitung von Schutzmaßnahmen und einem Testprotokoll, das ihre Wirksamkeit belegt. Wer das nicht hat, hat keinen Nachweis, sondern eine Erklärung.

Delta: Was ein bestehendes ISMS bereits trägt

Für Unternehmen mit ISO-27001-Zertifikat – Stadtwerke, Netzbetreiber, regulierte Dienstleister – lautet die entlastende Nachricht: Es entsteht kein zweites Managementsystem. ISO 42001 folgt derselben Harmonized Structure. Kontext, Führung, Planung, Bewertung und Verbesserung sind vorhanden. Vorhanden sind auch Lieferantensteuerung, Änderungsmanagement, Protokollierung, Awareness und Vorfallbehandlung.

Wirklich neu sind vier Dinge.

Die Blickrichtung der Risikobewertung. Ein ISMS fragt nach Schutzzielen für Assets. Ein KI-Managementsystem fragt nach Auswirkungen auf betroffene Personen und Gruppen und darüber hinaus auf die Gesellschaft; Anhang A führt dafür einen eigenen Abschnitt zur Folgenabschätzung. Das ist kein Detail, sondern ein anderes Bewertungsobjekt – und die Schnittstelle zu Art. 22 DSGVO und zur Datenschutz-Folgenabschätzung.

Daten als Qualitätsgegenstand. Herkunft, Qualität, Beschaffung und Aufbereitung der Trainings- und Retrieval-Daten sind im Anhang A ein eigener Themenblock. Im ISMS kommen Daten fast ausschließlich als Vertraulichkeits- und Integritätsobjekt vor, nicht als Qualitätsobjekt mit nachweisbarer Provenienz.

Der Modelllebenszyklus. Anforderungen, Design, Verifikation und Validierung, Deployment, Betrieb und Überwachung, technische Dokumentation und Ereignisprotokolle. Hier liegt das Problem, das man Wartungsillusion nennen könnte: Ein System, das im Januar korrekte Ergebnisse lieferte, ist im Mai nicht deshalb korrekt. Prompts altern, Marktbedingungen ändern sich, das Modell erfährt davon nichts. Parallel erodiert bei den Nutzern die Fähigkeit zur kritischen Prüfung, gerade weil das System bisher zuverlässig war.

Output-Verifikation als benannter Regelprozess. Nicht als Haltung, sondern mit zugewiesener Verantwortung. Die Frage, wer dauerhaft für die Qualität der KI-Outputs zuständig ist, wird in den meisten Organisationen nicht beantwortet, weil sie niemand stellt.

Das NIST AI Risk Management Framework taugt als Denkrahmen und als Strukturhilfe. Es ist nicht zertifizierbar und als Entlastungsargument vor deutschen Gerichten schwächer als eine akkreditierte Konformitätsbescheinigung.

Was ein Zertifikat nicht leistet

Ein ISO-42001-Zertifikat bescheinigt ein Managementsystem, in einem definierten Geltungsbereich, auf Basis von Stichproben, zu einem Stichtag. Es bescheinigt nicht die einzelne Entscheidungsvorlage.

Wer zertifiziert ist und dennoch einen halluzinierten Output ungeprüft in eine Vorlage übernimmt, hat kein Entlastungsargument gewonnen. Er hat eine dokumentierte Abweichung von seinem eigenen Verfahren produziert, und die wiegt im Zweifel schwerer als das Fehlen eines Verfahrens.

Der Wert liegt an anderer Stelle. Ein gelebtes Managementsystem erzeugt die Nachweise fortlaufend und vor dem Schadensfall. Genau darauf zielt die Beweislastumkehr. Dokumentation, die erst entsteht, wenn der Anspruch im Raum steht, ist als Beweismittel wenig wert und als Signal verheerend.

Der blinde Fleck: Rekonstruierbarkeit

Eine Frage entscheidet in der Praxis über die Belastbarkeit der gesamten Nachweiskette: Können Sie den Zustand des Systems zum Entscheidungszeitpunkt rekonstruieren? Modellversion, Systemprompt, Wissensbasis, Retrieval-Stand.

Bei gehosteten Foundation Models, die der Anbieter im Hintergrund aktualisiert, lautet die Antwort meist nein. Damit fehlt der Anker für jede Aussage darüber, was das System zum fraglichen Zeitpunkt tatsächlich getan hat und warum.

Die Wahl des KI-Systems ist deshalb keine reine Technologieentscheidung, sondern eine Nachweisentscheidung. Je undurchsichtiger das System, desto schwerer die Darlegung, nicht schuldhaft gehandelt zu haben. Vier Punkte gehören in den Vertrag, nicht ins Wunschkonzert:

• Versionsbindung, damit ein bestimmter Modellstand über die Vertragslaufzeit adressierbar bleibt.
• Ankündigungsfristen für Modell- und Verhaltensänderungen, mit Gelegenheit zur erneuten Validierung.
• Informations- und Auditrechte gegenüber dem Anbieter, ohne die sich die nach Art. 14 KI-VO geforderte wirksame Aufsicht bei extern betriebenen Systemen nicht herstellen lässt.
• Klare Verantwortungsabgrenzung zwischen Anbieter, Integrator und Betreiber. Über § 8 Abs. 2 UWG wurde im Hamm-Fall auch das beauftragte IT-Unternehmen dem Betreiber zugerechnet; die Auslagerung der Entwicklung verlagert die Verantwortung nicht.

Abgrenzung und Fazit

Ob im konkreten Fall eine Pflichtverletzung vorliegt, ob eine bestehende D&O-Police KI-spezifische Deckungslücken aufweist und wie ein Anbietervertrag im Einzelnen zu gestalten ist – das sind Rechtsfragen und gehören in anwaltliche Hände. Wir empfehlen ausdrücklich, die haftungsrechtliche Bewertung mit einem spezialisierten Rechtsbeistand zu führen.

Was Compliance-Beratung beisteuert, ist die andere Hälfte: die Nachweisfähigkeit, auf die sich eine solche Bewertung überhaupt erst stützen kann. Beides greift ineinander. Wer nur eines hat, steht im Streitfall mit zu wenig da.

Das Autonomie-Argument ist gescheitert, und es wird nicht wiederkommen. Gerichte behandeln KI-Systeme als Werkzeuge ihres Betreibers, in Deutschland wie in Kanada. Was daraus folgt, ist keine neue Managementdisziplin, sondern eine alte in neuem Anwendungsfeld: Verantwortlichkeiten zuweisen, Prüfungen vor der Inbetriebnahme durchführen, Ergebnisse belegen. Entscheidend ist nicht, ob ein Unternehmen die Einführung seiner KI-Systeme verantwortet hat. Entscheidend ist, ob es nachweislich und dauerhaft für ihre Qualität zuständig ist.

Die Revision gegen das Hamm-Urteil ist zugelassen. Die Entscheidung des BGH dürfte für den Umgang mit KI-generierten Inhalten wegweisend werden. An der Nachweisfrage wird sie nichts ändern.

Stand: 7. September 2026. Die Revision gegen OLG Hamm, Urt. v. 12.05.2026 – 4 UKl 3/25, ist anhängig; dieser Beitrag wird nach der Entscheidung des BGH nachgeführt.

Sie setzen KI-Systeme ein und wissen nicht, ob Ihre Dokumentation im Streitfall trägt? Kontaktieren Sie uns für eine unverbindliche Ersteinschätzung.