Neue Haftungsregeln für KI-Systeme in der EU geplant

Christian Thomas

Die Europäische Kommission hat am 28. September 2022 den Entwurf einer Richtlinie zur Harmonisierung der nationalen Haftungsvorschriften für künstliche Intelligenz (KI) vorgelegt. Damit sollen bestehende mitgliedstaatliche Vorschriften zur außervertraglichen zivilrechtlichen Haftung für durch KI-Systeme verursachte Schäden harmonisiert und inhaltlich verschärft werden. Die geplante KI-Haftungsrichtlinie steht im Zusammenhang mit der grundlegenden Novellierung der Produkthaftungsrichtlinie und soll die ebenfalls geplante KI-Verordnung aus haftungsrechtlicher Sicht ergänzen.

1. Ziel der KI-Haftungsrichtlinie

Die nun im Entwurf vorliegende KI-Haftungsrichtlinie soll die auf mitgliedstaatlicher Ebene bestehenden zivilrechtlichen Haftungsregelungen an die fortschreitende Digitalisierung und insbesondere an technische Entwicklungen im Bereich KI anpassen.

 

Die aktuellen Vorschriften zur verschuldensunabhängigen Haftung des Herstellers eines fehlerhaften Produkts gelten seit 1986 in im Wesentlichen unveränderter Form. Die Digitalisierung und Automatisierung von Produkten haben aber dazu geführt, dass dieses Regime für die Bewertung von Schadensfällen systematisch an seine Grenzen kommt. So ist bei digitalen Produkten nicht abschließend geklärt, ob und ggf. in welchem Umfang sie als Produkt im Sinne des Produkthaftungsrechts gelten. Auch wird diskutiert, ob über produkthaftungsrechtliche Instrumente Ersatz für Schäden, die durch Datenverluste/Datenschutzverletzungen etc. entstehen, gewährt wird. Während sich der Unionsgesetzgeber mit diesen spannenden Rechtsfragen im Rahmen der Überarbeitung der Produkthaftungsrichtlinie befasst (ein gesonderter Beitrag hierzu folgt kurzfristig), soll die KI-Haftungsrichtlinie vor allem dem Umstand Rechnung tragen, dass es die Komplexität digitaler Produkte für Geschädigte schwierig (teilweise unmöglich) macht, den haftungsrechtlich Verantwortlichen zu identifizieren und vor allem einen verschuldensabhängigen Anspruch erfolgreich geltend zu machen.

 

2. Wesentlicher Inhalt des Richtlinienvorschlags

Schaut man sich den – inhaltlich durchaus überschaubaren – Entwurf der KI-Haftungsrichtlinie an, fällt zunächst einmal auf, dass dieser – anders als der Name erwarten lässt – gerade keine neue Anspruchsgrundlage enthält. Es wird also keine verschuldensunabhängige KI-Produkthaftung eingeführt. Insofern bleibt es vielmehr bei der Anwendbarkeit der allgemeinen außervertraglichen Haftungsregeln. Konkret sollen die Regelungen der KI-Haftungsrichtlinie an die existierenden mitgliedstaatlichen Vorschriften zur verschuldensabhängigen Haftung andocken – in Deutschland etwa an die deliktische Produzentenhaftung des § 823 Abs. 1 BGB – und sollen deren Harmonisierung herbeiführen.

 

Nach den Grundsätzen der deutschen Produzentenhaftung (sowie generell der außervertraglichen, verschuldensabhängigen Haftung) ist grundsätzlich der Anspruchsteller verpflichtet, darzulegen und zu beweisen, durch eine bestimmte pflichtwidrig begangene Handlung oder Unterlassung des rechtlich Verantwortlichen (z. B. des Herstellers) geschädigt worden zu sein. Diese Darlegungs- und Beweispflicht stellt Geschädigte häufig schon bei technisch einfacheren Produkten vor eine erhebliche Herausforderung. Den Beweis der konkreten Schadensursächlichkeit eines KI-Systems kann der durchschnittliche Verbraucher praktisch kaum erbringen. An dieser Stelle knüpft der Entwurf der KI-Richtlinie an und sieht insofern insbesondere zwei Haftungsregelungen vor, um Geschädigten einen niederschwelligen Zugang zu Schadenersatz zu ermöglichen.

 

a. Kausalitätsvermutung zur Beweiserleichterung

Der Richtlinienvorschlag sieht Beweiserleichterungen für Anspruchsteller vor. Konkret soll eine Kausalitätsvermutung für jene Fälle greifen, in denen das Verschulden eines KI-Anwenders gegen eine rechtliche (Sorgfalts-)Pflicht (zunächst abstrakt) festgestellt wurde und vernünftigerweise von einem ursächlichen Zusammenhang zwischen diesem Pflichtverstoß und dem letztlich vom KI-System hervorgebrachten Schaden ausgegangen werden kann. Das Gericht kann dann von der Verursachung des Schadens aufgrund des Pflichtverstoßes ausgehen, wodurch der Wirtschaftsakteur, der gegen die Pflicht verstoßen hat, einer Haftung unterliegt. Der Geschädigte wird somit davon befreit, den konkreten Kausalzusammenhang zwischen seinem Schaden und einem bestimmten Handeln/Unterlassen zu beweisen. Diese Kausalitätsvermutung kann wiederum von dem Anspruchsgegner etwa durch den Nachweis, dass der Schaden eine andere Ursache hatte, widerlegt werden.

 

b. Offenlegungspflichten

Zudem soll Geschädigten der Zugang zu Beweismitteln im Zusammenhang mit KI-Systemen erleichtert werden. Die KI-Haftungsrichtlinie statuiert dazu bestimmte Offenlegungspflichten. Konkret kann danach auf Antrag bei Gericht die Offenlegung von bestimmten Informationen (z. B. Daten der technischen Dokumentation, Aufzeichnungen aus dem Qualitätsmanagementsystem und über ergriffene Korrekturmaßnahmen) über sog. Hochrisiko-KI-Systeme – dies gilt also nicht für alle KI-Systeme – vom Betreiber, Hersteller oder Nutzer von Hochrisiko-KI verlangt werden. Dadurch sollen Geschädigte einfacheren Zugang zu einschlägigen Beweismitteln erhalten, die sich in der Sphäre des Herstellers/Betreibers des KI-Systems befinden und die zur Geltendmachung eines Anspruchs notwendig sind. Sensible Informationen wie Geschäftsgeheimnissen sind geschützt und müssen nicht offengelegt werden. Wird hingegen die Herausgabe von zur Anspruchsstellung notwendigen und nicht besonders geschützten Informationen unrechtmäßig verweigert, greift die Vermutung, dass die verlangten Informationen den Anspruch begründet hätten. Eine mögliche Verweigerung wäre daher im Zweifel im Detail zu prüfen.

 

3. Fazit und Ausblick

Sollte die KI-Haftungsrichtlinie mit dem Inhalt der aktuellen Entwurfsfassung Geltung erlangen, ginge damit eine deutliche Belastung der Wirtschaftsakteure einher. Insofern ist es im ersten Schritt wichtig, Betriebs- und Geschäftsgeheimnisse sowie sonstige schützenswerte Rechte unternehmensintern klar zu definieren und diese generell von einer Offenlegung auszunehmen. Ohnehin werden betroffene Unternehmen durch die Kausalitätsvermutung, die sich in der Praxis zumindest als Beweislastumkehr light darstellen wird, deutlich in eine defensive Position gedrängt. Hingegen wird aber auch durch das Zugänglichmachen von Beweismitteln durch den Hersteller längst nicht gewährleistet, dass der Geschädigte hiermit für seinen Anspruch auch etwas anfangen kann. Schließlich wird kaum ein Anspruchsteller ohne sachverständige Hilfe in der Lage sein, Daten von KI-Systemen auszuwerten. Somit ist es durchaus denkbar, dass den Wirtschaftsakteuren weitreichende Pflichten auferlegt werden, die den Anspruchstellern aber praktisch jedenfalls nicht so helfen, wie vom Gesetzgeber intendiert. Damit wäre schließlich niemandem gedient.

 

Auch wenn bis zu einem möglichen Inkrafttreten der KI-Haftungsrichtlinie und ihrer Umsetzung in nationales Recht noch einige Zeit vergehen wird – der Kommissionsvorschlag muss als nächstes vom Europäischen Parlament und vom Rat angenommen werden –, ist bereits jetzt deutlich abzusehen, dass damit eine erhebliche Verschärfung der Haftungssituation für alle Unternehmen, die KI einsetzen, einhergeht. Insofern kann diesen nur geraten werden, ihrer generellen Produktverantwortung nachzukommen und zudem möglichst frühzeitig ggf. zusätzliche Maßnahmen zur Haftungsreduzierung zu ergreifen.

YouTube

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren

Video laden

PGlmcmFtZSB0aXRsZT0iSW1hZ2VmaWxtIHwgSG9mZm1hbm4gTGllYnMiIHdpZHRoPSI4MDAiIGhlaWdodD0iNDUwIiBzcmM9Imh0dHBzOi8vd3d3LnlvdXR1YmUtbm9jb29raWUuY29tL2VtYmVkLzdxamlPXzBaSWhvP2ZlYXR1cmU9b2VtYmVkJnJlbD0wJmVuYWJsZWpzYXBpPTEmb3JpZ2luPWh0dHBzJTI1M0ElMjUyRiUyNTJGd3d3LmhvZmZtYW5ubGllYnMuZGUmY29udHJvbHM9MSIgZnJhbWVib3JkZXI9IjAiIGFsbG93PSJhY2NlbGVyb21ldGVyOyBhdXRvcGxheTsgY2xpcGJvYXJkLXdyaXRlOyBlbmNyeXB0ZWQtbWVkaWE7IGd5cm9zY29wZTsgcGljdHVyZS1pbi1waWN0dXJlIiBhbGxvd2Z1bGxzY3JlZW4+PC9pZnJhbWU+