Am 28. September 2022 hat die EU-Kommission zwei neue Richtlinien-Entwürfe vorgestellt. Sie will Rechtssicherheit für Unternehmen und eine angemessene Entschädigung für Geschädigte bei durch KI verursachte Schäden schaffen. Doch was konkret enthalten die beiden Entwürfe? Auf welche Fragen will die EU-Kommission antworten? Und findet sie die passenden Antworten?
Autoren: Rechtsanwältin Dr. Nastasia Achilles und Rechtsanwalt Dr. Stefan Dittmer, Dentons, Berlin
Künstliche Intelligenz kommt: Ob in der Logistik, in der Medizin, im Automobil, im Bewerbungsverfahren oder in der Kunden-Kommunikation – Die KI-Technologie hält Einzug in die Arbeitsprozesse der Unternehmen und mancher Verwaltungen. Nach einer nicht-repräsentativen Umfrage der Wirtschaftskanzlei Dentons über die Nutzung von KI, an der sich 209 Führungskräfte weltweit beteiligten und in die weitere 698 Rückmeldungen aus LinkedIn-Umfragen einflossen, setzen 60% der Befragten KI als Technologie ein. Tendenz steigend. Denn: KI gilt als effizienter (94%), weniger fehleranfällig (89%) und preiswerter (88%) als ihr menschliches Pendant – und dabei wird die Technologie immer menschenähnlicher.
Ahmt die KI-Technologie aktuell noch menschliches Verhalten aufgrund spezifischer Vorgaben nach, um konkrete Aufgaben zu meistern („schwache KI“ oder „Narrow AI“), soll sie schon um das Jahr 2050 ähnliche intellektuelle Fähigkeiten wie Menschen besitzen („starke KI“ oder „General AI“), also eigenständig lernen, neue Sachverhalte und Aufgaben selbständig erfassen und autonome Entscheidungen treffen können; die menschliche Intelligenz übertreffende KI („Artificial Superintelligence“) ist bis auf weiteres Science Fiction und wird noch länger auf sich warten lassen.
Was aber, wenn ein KI-System oder ein KI-basiertes Produkt Entscheidungen einmal nicht optimal trifft und einen Schaden anrichtet? Bei 75% der Teilnehmer an der Dentons-Umfrage herrscht an dieser Stelle Rechtsunsicherheit.
Berücksichtigung der AI-spezifischen Anforderungen
Die Unsicherheit hat ihre Ursache darin, dass es aktuell kein gültiges Regelungswerk gibt, dass KI-spezifische Anforderungen adressiert – weder auf EU- noch auf nationaler Ebene. Das Fehlen von Regeln führt nicht zu einem Ausschluss der Haftung für KI-verursachte Schäden. Für die Beteiligten ist nur schwer vorhersehbar, wer nach den ohne weiteres anwendbaren Vorschriften des Zivilrechts unter welchen Voraussetzungen wie haftet. Die Vorschriften betreffen ein durch Menschen verschuldetes Fehlverhalten, z.B. aufgrund einer fehlerhaften Programmierung oder Wartung, oder die verschuldensunabhängige Haftung des Herstellers oder Importeurs für Schäden infolge von Fehlern eines Produkts.
Nicht geregelt ist der Fall, dass ein KI-System den Schaden verursacht hat. Denn: Ist das KI-System überhaupt ein „Produkt“? An wen soll sich ein Geschädigter wenden, um etwaige Ansprüche geltend zu machen? Die KI selbst hat keine Rechtspersönlichkeit. Und wenn der Verdacht naheliegt, ein KI-System hat den Schaden verursacht, wie kann der Geschädigte dies nachweisen? Die Funktionsweise der KI-Technologie ist komplex und für die meisten Menschen unverständlich und undurchsichtig, was auch die Skepsis begründet, der die Technologie außerhalb technik-affiner Kreise immer noch begegnet.
EU-Kommission schlägt Regelungen zur KI-Haftung vor
Die Kommission der Europäischen Union veröffentlichte am 28. September 2022 erstmals konkrete Lösungsvorschläge für außervertragsrechtliche Ansprüche: Die Richtlinie über Produkthaftung (KOM(2022)495) und die Richtlinie über KI-Haftung (KOM(2022)496).
Die Richtlinie über Produkthaftung aktualisiert die Produkthaftungsrichtlinie aus dem Jahr 1985. Sie stellt nun klar, dass auch unkörperliche Sachen wie Software und KI-Systeme „Produkte“ im Sinne der Richtlinie sein und Fehler solcher Systeme oder Komponenten die verschuldensunabhängige Produkthaftung auslösen können. Zudem soll ein Produkt künftig auch als fehlerhaft gelten, wenn es nicht die Sicherheit bietet, die die Allgemeinheit unter Berücksichtigung aller Umstände erwarten darf, einschließlich etwaiger Auswirkungen einer eventuellen Lernfähigkeit. Die Richtlinie stellt klar, dass „Hersteller“ im Sinne der Richtlinie auch die Entwickler der Software oder des KI-Systems sind.
Ziel des Richtlinienentwurfs ist es zudem, dem Geschädigten in komplexen Fällen („Blackbox“-Phänomen) die Darlegung- und den Beweis zu erleichtern, dass die Software oder das KI-System ursächlich für den eingetretenen Schaden war. Wenn ein Kausalzusammenhang mit dem Einsatz des KI-Systems hinreichend wahrscheinlich erscheint, kann zu Gunsten des Geschädigten eine widerlegbare Kausalitätsvermutung zum Tragen kommen.
Die Richtlinie über KI-Haftung betrifft hingegen die Haftung für Ansprüche außerhalb des Anwendungsfelds der Produkthaftungsrichtlinie, also die „normale“ verschuldensabhängige Haftung gegenüber jedermann, außerdem die Haftung, wenn der Schaden nicht unmittelbar durch ein Produkt, sondern durch fehlerhaftes Verhalten, z.B. Diskriminierung im Rahmen eines KI-gestützten Auswahlverfahrens, verursacht wird.
Wesentliche Elemente der Richtlinie über KI-Haftung sind wiederum widerlegbare Kausalitätsvermutungen, zudem eine Verpflichtung des möglichen Schädigers zur Offenlegung von Information, wenn Hochrisiko-KI den Schaden verursacht haben könnte. Die Richtlinie schlägt damit eine Brücke zu dem schon 2021 veröffentlichten Entwurf einer KI-Verordnung, der KI-Systeme unterschiedlichen Risikoklassen zuordnet und vor allem die Hochrisiko-KI strengen Zulassungs- und Dokumentationsregeln unterwirft.
EU-Vorschläge zur aktuellen Rechtslage
Bisher haben die beiden Vorschläge der EU-Kommission erstaunlich wenig mediale Aufmerksamkeit erhalten, was vielleicht daran liegt, dass derzeit andere Themen (Lieferketten, ESG) die wirtschafts- und rechtspolitische Berichterstattung überlagern.
Zu erwarten ist, dass im weiteren Prozess der Verordnungs- und Richtliniengebung, insbesondere die Beweiserleichterungen und Offenlegungspflichten, noch kontrovers diskutiert werden. Schon jetzt gibt es den Vorwurf, dass diese Hebel die Anspruchsgläubiger einseitig begünstigen. Tatsächlich kann vor allem die Offenlegungspflicht zu einem Problem werden. KI-Systeme, etwa die darin zum Einsatz kommenden Algorithmen, dürften im Regelfall dem Geschäftsgeheimnisschutz unterliegen. Eine verpflichtende Offenlegung kann diesen Schutz zunichtemachen.
Der Beklagte hat in diesen Fällen möglicherweise nur die Wahl, den Prozess zu verlieren, weil er die Offenlegung verweigert, oder das Geschäftsgeheimnis zu verlieren, um den Prozessverlust abzuwenden. Die Unternehmen können sich nicht darauf verlassen, dass die aus den Diskussionsprozessen hervorgehenden Richtlinien oder die Umsetzungen in das jeweilige nationale Recht die Gewichtung der Interessen noch spürbar verändern werden, sondern müssen überlegen, wie sie mit diesem Dilemma umgehen. Vertragliche Regeln über Haftung und Regress innerhalb der Lieferkette sind ein weiteres Thema, das Unternehmensjuristen und beratende Anwälte beschäftigen wird. (ch)
