Die europäische Verordnung über künstliche Intelligenz (KI-Verordnung) ist in Kraft getreten. Sie ist die weltweit erste umfassende Rechtsvorschrift im Bereich der Künstlichen Intelligenz. Mit der KI-Verordnung soll sichergestellt werden, dass in der EU entwickelte und verwendete KI vertrauenswürdig ist und Vorkehrungen zum Schutz der Grundrechte der Menschen bietet. Die Verordnung soll dem Aufbau eines harmonisierten Binnenmarkts für KI in der EU dienen, die Einführung von KI-Technik fördern und ein günstiges Umfeld für Innovation und Investitionen schaffen.
Mit der KI-Verordnung werde, so die EU-Kommission, eine zukunftsgewandte Begriffsbestimmung für KI eingeführt, die auf dem Konzept der Produktsicherheit und einem risikobasierten Ansatz in der EU beruhe:
- Minimales Risiko: Die meisten KI-Systeme, wie z. B. KI-gestützte Empfehlungssysteme und Spamfilter, fallen in diese Kategorie. Solche Systeme unterliegen wegen ihres geringen Risikos für die Rechte und die Sicherheit der Bürgerinnen und Bürger im Rahmen der KI-Verordnung keinen besonderen Verpflichtungen. Unternehmen können aber freiwillig zusätzliche Verhaltenskodizes aufstellen.
- Besondere Transparenzverpflichtungen: KI-Systeme wie Chatbots müssen ihre Nutzer deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben. Bestimmte durch KI erzeugte Inhalte wie Deepfakes müssen als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn Systeme zur biometrischen Kategorisierung oder Emotionserkennung verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Inhalte (wie Audio-, Video-, Text- und Bildinhalte) in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert gekennzeichnet werden und als solche erkannt werden können.
- Hohes Risiko: Für KI-Systeme, die als hochriskant eingestuft werden, gelten strenge Anforderungen z. B. im Hinblick auf Risikominderungssysteme, hochwertige Datensätze, die Protokollierung der Vorgänge, die genaue Dokumentation, klare Informationen für die Nutzer, die menschliche Aufsicht sowie ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Reallabore werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen Hochrisiko-KI-Systemen gehören beispielsweise KI-Systeme, die bei der Personaleinstellung verwendet, mit denen bewertet wird, ob jemand kreditwürdig ist, oder mit denen autonome Roboter betrieben werden.
- Unannehmbares Risiko: KI-Systeme, die als klare Bedrohung für die Grundrechte der Menschen gelten, werden ganz verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert, oder Systeme, die den Behörden oder Unternehmen eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen), sowie bestimmte Anwendungen der vorausschauenden polizeilichen Überwachung. Darüber hinaus werden einige Verwendungsarten biometrischer Systeme verboten, z. B. Emotionserkennungssysteme am Arbeitsplatz und einige Systeme zur Kategorisierung von Menschen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken im öffentlich zugänglichen Raum (mit eng abgesteckten Ausnahmen).
Zur Ergänzung dieses Systems werden mit der KI-Verordnung auch Vorschriften für sogenannte KI-Modelle mit allgemeinem Verwendungszweck eingeführt. Dabei handelt es sich um hochleistungsfähige KI-Modelle, die so konzipiert sind, dass sie eine Vielzahl von Aufgaben erfüllen können, darunter z. B. die menschenähnliche Generierung von Texten. KI-Modelle mit allgemeinem Verwendungszweck werden zunehmend als Bestandteile von KI-Anwendungen eingesetzt. Die KI-Verordnung soll zudem für Transparenz entlang der Wertschöpfungskette sorgen und mögliche systemische Risiken im Zusammenhang mit den leistungsfähigsten Modellen mindern helfen.
Anwendung und Durchsetzung der KI-Vorschriften
Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, um ihre zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme beaufsichtigen und die Marktüberwachung wahrnehmen werden. Das bei der Kommission angesiedelte KI-Amt werde die wichtigste Stelle für die Durchführung der KI-Verordnung auf EU-Ebene sein und auch für die Durchsetzung der für KI-Modelle mit allgemeinem Verwendungszweck geltenden Vorschriften sorgen.
Drei Beratungsgremien sollen die Anwendung der Vorschriften unterstützen: Das Europäische Gremium für künstliche Intelligenz soll für eine einheitliche Anwendung der KI-Verordnung in allen EU-Mitgliedstaaten sorgen und als wichtigstes Forum für die Zusammenarbeit zwischen der Kommission und den Mitgliedstaaten dienen. Ein wissenschaftliches Gremium unabhängiger Sachverständiger werde technische Beratung leisten und zur Durchsetzung der Vorschriften beitragen. Dieses Gremium könne insbesondere das KI-Amt vor Risiken im Zusammenhang mit KI-Modellen mit allgemeinem Verwendungszweck warnen. Darüber hinaus könne das KI-Amt von einem Beratungsforum, das sich aus einer Vielzahl von Interessenträgern zusammensetzt, Orientierungen erhalten.
Unternehmen, die die Vorschriften nicht einhalten, sollen mit Geldstrafen belegt werden. Die Geldstrafen können bis zu 7 % des weltweiten Jahresumsatzes bei Verstößen im Zusammenhang mit verbotenen KI-Anwendungen, bis zu 3 % bei Verstößen gegen andere Verpflichtungen und bis zu 1,5 % wegen Übermittlung unrichtiger Informationen betragen.
Nächste Schritte
Die meisten Vorschriften der neuen KI-Verordnung sollen ab dem 2. August 2026 gelten. Verbote von KI-Systemen, bei denen davon ausgegangen wird, dass sie ein unannehmbares Risiko darstellen, gelten jedoch bereits nach sechs Monaten, wogegen die Vorschriften für sogenannte KI-Modelle mit allgemeinem Verwendungszweck nach zwölf Monaten gelten werden.
Um den Übergangszeitraum bis zur vollständigen Anwendung zu überbrücken, hat die Kommission den KI-Pakt auf den Weg gebracht. Mit dieser Initiative werden KI-Entwickler aufgefordert, die wichtigsten Verpflichtungen der KI-Verordnung schon vor Ablauf der gesetzlichen Fristen freiwillig einzuhalten.
Außerdem arbeitet die Kommission derzeit Leitlinien aus, um festzulegen und zu präzisieren, wie die KI-Verordnung anzuwenden ist, und um die Schaffung von Koregulierungsinstrumenten wie Normen und Verhaltenskodizes zu erleichtern. Die Kommission veröffentlichte eine Aufforderung zur Interessenbekundung für die Mitarbeit an einem ersten Verhaltenskodex für KI mit allgemeinem Verwendungszweck sowie eine Konsultation vieler verschiedener Interessenträger, die allen Interessenten die Möglichkeit bieten soll, sich zu dem ersten Verhaltenskodex im Rahmen der KI-Verordnung zu äußern. (ah)
