Rechtliche Herausforderungen von KI in Verbraucherverträgen

17.05.2024

Rechtliche Herausforderungen von KI in Verbraucherverträgen

Von Dr. Benedikt M. Quarch, M.A.

Die zunehmende Integration von Künstlicher Intelligenz (KI) in den Alltag wirft komplexe rechtliche Fragen auf, insbesondere im Bereich der Verbraucherverträge. Verbraucher interagieren häufig mit KI-gesteuerten Systemen wie Chatbots, die in der Lage sind, autonom auf Anfragen zu reagieren und vertragliche Verpflichtungen zu initiieren. Trotz der technischen Fortschritte bleiben die rechtlichen Rahmenbedingungen oft unklar und bieten zahlreiche Herausforderungen.

 

Die Zurechnung von (Willens-)Erklärungen, die von einem KI-System abgegeben werden, ist ein Kernproblem. Rechtlich gesehen wird es de lege lata wohl dabei bleiben, dass ein (Verbraucher-)Vertrag nur durch menschliche Erklärungen oder zumindest durch menschliche Zustimmung zu von KI generierten Vorschlägen geschlossen werden kann. Doch die Frage, wie automatisierte Erklärungen rechtlich zu behandeln sind, bleibt umstritten: Einerseits können sie als Willenserklärungen des Betreibers angesehen werden, andererseits als eigenständige Erklärungen des Systems.

Anfechtbarkeit von KI-generierten Erklärungen

Ein weiterer kritischer Bereich ist das Anfechtungsrecht. Fehler in der KI-Programmierung oder in den Trainingsdaten können zu unerwünschten oder fehlerhaften Vertragserklärungen führen, deren Anfechtung rechtlich schwierig zu begründen ist. Da KI-Systeme auf Algorithmen basieren, fehlt oft der für eine Anfechtung erforderliche subjektive Tatbestand eines Irrtums.

Im Bereich des Verbraucherschutzes stehen besonders die Regelungen zu digitalen Produkten und Dienstleistungen im Fokus. Der Gesetzgeber hat mit den §§ 327 ff. BGB Normen geschaffen, die die Besonderheiten digitaler Inhalte adressieren. Diese beinhalten spezifische Verbraucherrechte und Pflichten für Anbieter, die digitale Inhalte wie KI-Systeme bereitstellen.

Zusätzlich stellt der Einsatz von KI in Verbraucherverträgen hohe Anforderungen an die Transparenz und die Informationspflichten der Anbieter. Verbraucher müssen über die Funktionsweise und mögliche Risiken der genutzten KI ausreichend informiert werden, um fundierte Entscheidungen treffen zu können.

Haftungsregelungen bei fehlerhaften KI-Entscheidungen

Ein weiterer bedeutender Aspekt in der rechtlichen Behandlung von KI-basierten Verbraucherverträgen ist die Problematik der Haftung. Durch die autonome Arbeitsweise von KI-Systemen können Fehlentscheidungen und technische Fehler zu Schäden führen, für die traditionelle Haftungsregelungen möglicherweise nicht ausreichend sind. Diese Systeme operieren oft auf der Basis komplexer Algorithmen, deren Ergebnisse nicht immer vorhersehbar sind. Daher ist die Frage der Haftungszuweisung besonders kritisch, insbesondere wenn es um Schäden geht, die aus fehlerhaften oder irreführenden KI-Entscheidungen resultieren.

Abschließend ist festzuhalten, dass die rechtliche Auseinandersetzung mit KI im Verbraucherrecht dynamisch und komplex ist. Die Technologie entwickelt sich rasant weiter und die Rechtsprechung muss Schritt halten, um sowohl Verbraucherschutz als auch Innovationsförderung zu gewährleisten.


Dr. Benedikt Quarch ist Unternehmer und Jurist. Seit dem Jahr 2017 ist er Co-Gründer und Geschäftsführer des LegalTech-Unternehmens RightNow mit Sitz in Düsseldorf. Forbes zeichnete ihn 2020 als einen von „Forbes 30 unter 30“ aus, Juve nahm ihn 2023 in die Liste „40 unter 40“ auf und die Wirtschaftswoche kürte ihn 2023 zum „Best of Legal – Future Leader“. Gemeinsam mit Prof. Dr. Martin Ebers gibt er die LegalTech-Zeitschrift bei Nomos und das „Rechtshandbuch ChatGPT“ heraus. Zudem ist er Lehrbeauftragter der Universität zu Köln, der EBS Universität und der HWZ Zürich.

 

Hinweis zur Vertiefung:

Eine detaillierte Behandlung dieser und weiterer Themen zu KI und ChatGPT finden Sie im „Rechtshandbuch ChatGPT“ von Prof. Dr. Martin Ebers und Dr. Benedikt Quarch und im NomosWebinar „ChatGPT und KI in der Anwaltspraxis“ am 12.9.2024 (15-17 Uhr).