Die Nutzung Künstlicher Intelligenz (KI) in der Vertragsgestaltung gewinnt zunehmend an Bedeutung. Unternehmen setzen verstärkt auf KI-basierte Tools, um Verträge effizienter zu erstellen, Risiken zu analysieren und rechtliche Prozesse zu automatisieren.
Die Vorteile liegen vermeintlich auf der Hand: Zeitersparnis, Kosteneffizienz und eine schnelle Bearbeitung großer Datenmengen.
Doch mit diesen technologischen Fortschritten gehen auch neue rechtliche Herausforderungen einher. Insbesondere stellt sich die Frage, welche Haftungsrisiken für Geschäftsleitungen und verantwortliche Mitarbeiterinnen und Mitarbeiter bestehen, wenn durch den Einsatz von KI-Fehler in Verträgen entstehen.
KI-Systeme, die für die Vertragsgestaltung verwendet werden, arbeiten auf der Grundlage von Algorithmen und maschinellem Lernen. Sie analysieren große Datenmengen, um Muster zu erkennen und eigenständig Entscheidungen zu treffen, die normalerweise menschliche Intelligenz erfordern.
Im Bereich der Vertragsgestaltung neigen KI-Systeme dazu, Verträge basierend auf bestehenden Mustern zu standardisieren. Dies birgt jedoch Risiken: Spezifische Vertragsbedingungen, die für einen Einzelfall entscheidend sein könnten, werden möglicherweise nicht hinreichend berücksichtigt. Statt auf jeweilige Erfahrung juristischer Beraterinnen und Berater wird nur auf das beschränkte, gespeicherte Wissen zurückgegriffen.
Das Kernproblem liegt in der Intransparenz der Entscheidungsprozesse – der sogenannten Black-Box-Problematik. Da viele KI-Systeme, insbesondere im Bereich des Deep Learning, komplexe Entscheidungen treffen, deren innere Abläufe von außen kaum nachvollziehbar sind, ist die Identifikation potenzieller Fehlerquellen erheblich erschwert. Diese Intransparenz kann zu schwerwiegenden rechtlichen Konsequenzen führen, vor allem dann, wenn fehlerhafte Vertragsklauseln zu finanziellen Schäden führen.
Eine der wesentlichen Verpflichtungen der Geschäftsleitung besteht darin, ihre Tätigkeit stets gesetzeskonform und im Rahmen der rechtlichen Vorgaben auszuüben. Dabei ist sie verpflichtet, die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters zu wahren, vgl. §§ 93 Abs. 1 AktG, 43 Abs. 1 GmbHG. Mit der Business Judgement Rule (§ 93 Abs. 2 AktG) steht der Geschäftsleitung jedoch ein gerichtlich nicht überprüfbarer Ermessensspielraum zu, der die Haftung insoweit einschränkt, als die Entscheidung auf einer sorgfältigen Abwägung und zum Wohle der Gesellschaft getroffen wurde.
Im Kontext des Einsatzes von KI-Systemen in der Vertragsgestaltung stellt sich daher die Frage, welcher Sorgfaltsmaßstab hier anzuwenden ist und inwieweit der Beurteilungsspielraum der Geschäftsleitung durch die spezifischen Risiken und Anforderungen von KI beeinflusst wird.
Nach der strengen Rechtsprechung des BGH ist eine sorgfältige Vorbereitung unverzichtbar für eine ordnungsgemäße Ermessensentscheidung des Geschäftsführers oder der Geschäftsführerin. In jeder konkreten Situation hat dieser alle verfügbaren Informationsquellen – sowohl tatsächlicher als auch rechtlicher Art – umfassend zu nutzen und die Vor- und Nachteile der möglichen Handlungsalternativen sorgfältig abzuwägen. Dabei sind die erkennbaren Risiken angemessen zu berücksichtigen und eine fundierte Entscheidung zu treffen. Der Umfang der notwendigen Vorbereitung richtet sich stets nach den spezifischen Umständen des Einzelfalls.
Wie eingangs dargestellt, birgt die Gestaltung von Verträgen durch KI mehrere Risiken, die bereits im Kontext der globalen Finanzmarktkrise 2007-2009 auftraten, als es um das Vertrauen von Bankvorständen in die Urteile von Rating-Agenturen ging. Damals war unklar, ob sich ein Vorstand auf Bewertungen verlassen durfte, deren Zustandekommen er nicht durchdringen konnte und die möglicherweise von den Eigeninteressen der Rating-Agenturen beeinflusst waren. In einer Entscheidung vom OLG Düsseldorf (Beschluss vom 09.12.2009 – 6 W 45/09) wurden dem Vorstand die Haftungsprivilegien der Business Judgement Rule gem. § 93 Abs. 2 AktG mit der Begründung versagt, dass dem Vorstand keine ausreichende Informationsquelle zur Verfügung stand.
Die Grundsätze aus dieser Entscheidung lassen sich auf den Einsatz von KI übertragen. Anders als bei menschlichen Entscheidungsprozessen bleibt häufig unklar, auf welcher Grundlage die KI zu ihren Ergebnissen kommt. Dies führt dazu, dass Geschäftsleitungen, die auf KI vertrauen, die Entscheidungswege und Bewertungsmethoden der Technologie – wie bei Rating-Urteilen – nur schwer nachvollziehen oder kontrollieren können. Dies kann besonders kritisch werden, wenn die KI auf veralteten oder fehlerhaften Daten basiert, die zu falschen oder unpassenden Vertragsklauseln führen.
Da KI-Systeme in der Regel von Drittanbietern entwickelt und bereitgestellt werden, können deren kommerzielle Interessen oder Prioritäten die Funktionsweise und Leistung der KI beeinflussen – etwa durch voreingestellte Standardklauseln, die den Vertragspartnern nicht immer offengelegt werden. Dies ist besonders problematisch, da es für die Geschäftsführung schwer erkennbar ist, inwieweit diese Eigeninteressen die Entscheidungsfindung der KI tatsächlich beeinflussen.
Wie bei den Rating-Agenturen, die keine Verantwortung für ihre Urteile übernehmen, schließen auch KI-Anbieter häufig jede Haftung für die von ihren Systemen erstellten Ergebnisse aus. Damit wird die Verantwortung für eventuelle Fehler oder unzureichende Verträge vollständig auf die Geschäftsführung übertragen.
Daraus folgt, dass KI in potenziell geschäftskritischen Bereichen keine hinreichende Informationsgrundlage für fundierte Entscheidungen darstellt. Insbesondere sind KI-generierte Empfehlungen nicht als ausreichende Entscheidungsbasis anzusehen und die eigenständige Entscheidungsfindung in diesen sensiblen Bereichen nicht der KI zu überlassen.
Der Einsatz von KI in der Vertragsgestaltung bietet zweifellos Vorteile, bringt aber auch ganz erhebliche Haftungsrisiken mit sich. Geschäftsführer/-innen und verantwortliche Bereichsleiter/-innen müssen sicherstellen, dass die eingesetzten Systeme ordnungsgemäß funktionieren, auf aktuellen Daten basieren und regelmäßig überprüft werden und wirklich menschlichen Bearbeitungsstandard entsprechen, was aktuell selten bis nie der Fall sein dürfte.
Nur so können Haftungsrisiken minimiert und das Unternehmen rechtlich abgesichert werden. Geschäftsführungen sollten daher im Hinblick auf Ihre persönliche Haftung den Einsatz von KI in Rechtsangelegenheiten des Unternehmens, insbesondere der Vertragsgestaltung sehr genau überlegen.
Zukünftige Entwicklungen, wie eine potenzielle Haftung von KI-Systemen selbst, bleiben von Interesse und könnten das rechtliche Umfeld in diesem Bereich maßgeblich verändern.
Kontakt
Goltsteinstraße 14 | 40211 Düsseldorf
Tel: +49 2 11 5 18 82-0 | Fax: +49 2 11 5 18 82-100
E-Mail: duesseldorf@hoffmannliebs.de
Partnerschaften
Informationen
© 2024 Hoffmann Liebs Partnerschaft von Rechtsanwälten mbB
Wir benötigen Ihre Zustimmung, bevor Sie unsere Website weiter besuchen können. Wenn Sie unter 16 Jahre alt sind und Ihre Zustimmung zu freiwilligen Diensten geben möchten, müssen Sie Ihre Erziehungsberechtigten um Erlaubnis bitten. Wir verwenden Cookies und andere Technologien auf unserer Website. Einige von ihnen sind essenziell, während andere uns helfen, diese Website und Ihre Erfahrung zu verbessern. Personenbezogene Daten können verarbeitet werden (z. B. IP-Adressen), z. B. für personalisierte Anzeigen und Inhalte oder Anzeigen- und Inhaltsmessung. Weitere Informationen über die Verwendung Ihrer Daten finden Sie in unserer Datenschutzerklärung. Sie können Ihre Auswahl jederzeit unter Einstellungen widerrufen oder anpassen.
Wenn Sie unter 16 Jahre alt sind und Ihre Zustimmung zu freiwilligen Diensten geben möchten, müssen Sie Ihre Erziehungsberechtigten um Erlaubnis bitten. Wir verwenden Cookies und andere Technologien auf unserer Website. Einige von ihnen sind essenziell, während andere uns helfen, diese Website und Ihre Erfahrung zu verbessern. Personenbezogene Daten können verarbeitet werden (z. B. IP-Adressen), z. B. für personalisierte Anzeigen und Inhalte oder Anzeigen- und Inhaltsmessung. Weitere Informationen über die Verwendung Ihrer Daten finden Sie in unserer Datenschutzerklärung. Hier finden Sie eine Übersicht über alle verwendeten Cookies. Sie können Ihre Einwilligung zu ganzen Kategorien geben oder sich weitere Informationen anzeigen lassen und so nur bestimmte Cookies auswählen.