VO (EU) 2024/1689

Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)

Informationen

Ausfertigungsdatum13.01.2024

Alle Normen

Präambel

KAPITEL I

ALLGEMEINE BESTIMMUNGEN

KAPITEL II

VERBOTENE PRAKTIKEN IM KI-BEREICH

Artikel 5

Verbotene Praktiken im KI-Bereich

KAPITEL III

HOCHRISIKO-KI-SYSTEME

ABSCHNITT 1

Einstufung von KI-Systemen als Hochrisiko-KI-Systeme

Artikel 6

Einstufungsvorschriften für Hochrisiko-KI-Systeme

Artikel 7

Änderungen des Anhangs III

ABSCHNITT 2

Anforderungen an Hochrisiko-KI-Systeme

Artikel 8

Einhaltung der Anforderungen

Artikel 9

Risikomanagementsystem

Artikel 10

Daten und Daten-Governance

Artikel 11

Technische Dokumentation

Artikel 12

Aufzeichnungspflichten

Artikel 13

Transparenz und Bereitstellung von Informationen für die Betreiber

Artikel 14

Menschliche Aufsicht

Artikel 15

Genauigkeit, Robustheit und Cybersicherheit

ABSCHNITT 3

Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter

Artikel 16

Pflichten der Anbieter von Hochrisiko-KI-Systemen

Artikel 17

Qualitätsmanagementsystem

Artikel 18

Aufbewahrung der Dokumentation

Artikel 19

Automatisch erzeugte Protokolle

Artikel 20

Korrekturmaßnahmen und Informationspflicht

Artikel 21

Zusammenarbeit mit den zuständigen Behörden

Artikel 22

Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen

Artikel 23

Pflichten der Einführer

Artikel 24

Pflichten der Händler

Artikel 25

Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26

Pflichten der Betreiber von Hochrisiko-KI-Systemen

Artikel 27

Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme

ABSCHNITT 4

Notifizierende Behörden und notifizierte Stellen

Artikel 28

Notifizierende Behörden

Artikel 29

Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30

Notifizierungsverfahren

Artikel 31

Anforderungen an notifizierte Stellen

Artikel 32

Vermutung der Konformität mit den Anforderungen an notifizierte Stellen

Artikel 33

Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen

Artikel 34

Operative Pflichten der notifizierten Stellen

Artikel 35

Identifizierungsnummern und Verzeichnisse notifizierter Stellen

Artikel 36

Änderungen der Notifizierungen

Artikel 37

Anfechtungen der Kompetenz notifizierter Stellen

Artikel 38

Koordinierung der notifizierten Stellen

Artikel 39

Konformitätsbewertungsstellen in Drittländern

ABSCHNITT 5

Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40

Harmonisierte Normen und Normungsdokumente

Artikel 41

Gemeinsame Spezifikationen

Artikel 42

Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43

Konformitätsbewertung

Artikel 44

Bescheinigungen

Artikel 45

Informationspflichten der notifizierten Stellen

Artikel 46

Ausnahme vom Konformitätsbewertungsverfahren

Artikel 47

EU-Konformitätserklärung

KAPITEL IV

TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME

Artikel 50

Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

KAPITEL V

KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK

ABSCHNITT 1

Einstufungsvorschriften

Artikel 51

Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko

Artikel 52

Verfahren

ABSCHNITT 2

Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Artikel 53

Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Artikel 54

Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

ABSCHNITT 3

Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

Artikel 55

Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

ABSCHNITT 4

Praxisleitfäden

Artikel 56

Praxisleitfäden

KAPITEL VI

MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG

Artikel 57

KI-Reallabore

Artikel 58

Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise

Artikel 59

Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor

Artikel 60

Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren

Artikel 61

Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren

Artikel 62

Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen

Artikel 63

Ausnahmen für bestimmte Akteure

KAPITEL VII

GOVERNANCE

ABSCHNITT 1

Governance auf Unionsebene

Artikel 64

Büro für Künstliche Intelligenz

Artikel 65

Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz

Artikel 66

Aufgaben des KI-Gremiums

Artikel 67

Beratungsforum

Artikel 68

Wissenschaftliches Gremium unabhängiger Sachverständiger

Artikel 69

Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten

ABSCHNITT 2

Zuständige nationale Behörden

Artikel 70

Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle

KAPITEL VIII

EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME

Artikel 71

EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme

KAPITEL IX

BEOBACHTUNG NACH DEM INVERKEHRBRINGEN, INFORMATIONSAUSTAUSCH UND MARKTÜBERWACHUNG

ABSCHNITT 1

Beobachtung nach dem Inverkehrbringen

Artikel 72

Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme

ABSCHNITT 2

Austausch von Informationen über schwerwiegende Vorfälle

Artikel 73

Meldung schwerwiegender Vorfälle

ABSCHNITT 3

Durchsetzung

Artikel 74

Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75

Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck

Artikel 76

Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden

Artikel 77

Befugnisse der für den Schutz der Grundrechte zuständigen Behörden

Artikel 78

Vertraulichkeit

Artikel 79

Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen

Artikel 80

Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden

Artikel 81

Schutzklauselverfahren der Union

Artikel 82

Konforme KI-Systeme, die ein Risiko bergen

Artikel 83

Formale Nichtkonformität

Artikel 84

Unionsstrukturen zur Unterstützung der Prüfung von KI

ABSCHNITT 4

Rechtsbehelfe

Artikel 85

Recht auf Beschwerde bei einer Marktüberwachungsbehörde

Artikel 86

Recht auf Erläuterung der Entscheidungsfindung im Einzelfall

Artikel 87

Meldung von Verstößen und Schutz von Hinweisgebern

ABSCHNITT 5

Aufsicht, Ermittlung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Artikel 88

Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Artikel 89

Überwachungsmaßnahmen

Artikel 90

Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken

Artikel 91

Befugnis zur Anforderung von Dokumentation und Informationen

Artikel 92

Befugnis zur Durchführung von Bewertungen

Artikel 93

Befugnis zur Aufforderung zu Maßnahmen

Artikel 94

Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck

KAPITEL X

VERHALTENSKODIZES UND LEITLINIEN

Artikel 95

Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen

Artikel 96

Leitlinien der Kommission zur Durchführung dieser Verordnung

KAPITEL XI

BEFUGNISÜBERTRAGUNG UND AUSSCHUSSVERFAHREN

Artikel 97

Ausübung der Befugnisübertragung

Artikel 98

Ausschussverfahren

KAPITEL XII

SANKTIONEN

Artikel 99

Sanktionen

Artikel 100

Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union

Artikel 101

Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

KAPITEL XIII

SCHLUSSBESTIMMUNGEN

Artikel 102

Änderung der Verordnung (EG) Nr. 300/2008

Artikel 103

Änderung der Verordnung (EU) Nr. 167/2013

Artikel 104

Änderung der Verordnung (EU) Nr. 168/2013

Artikel 105

Änderung der Richtlinie 2014/90/EU

Artikel 106

Änderung der Richtlinie (EU) 2016/797

Artikel 107

Änderung der Verordnung (EU) 2018/858

Artikel 108

Änderungen der Verordnung (EU) 2018/1139

Artikel 109

Änderung der Verordnung (EU) 2019/2144

Artikel 110

Änderung der Richtlinie (EU) 2020/1828

Artikel 111

Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck

Artikel 112

Bewertung und Überprüfung

Artikel 113

Inkrafttreten und Geltungsbeginn

Schlussformel (nicht amtlich)

ANHANG I

Liste der Harmonisierungsrechtsvorschriften der Union

ANHANG II

Liste der Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii

ANHANG III

Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2

ANHANG IV

Technische Dokumentation gemäß Artikel 11 Absatz 1

ANHANG V

EU-Konformitätserklärung

ANHANG VI

Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle

ANHANG VII

Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation

ANHANG VIII

Bei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen

ANHANG IX

Bezüglich Tests unter Realbedingungen gemäß Artikel 60 bei der Registrierung von in Anhang III aufgeführten Hochrisiko-KI-Systemen bereitzustellende Informationen

ANHANG X Rechtsvorschriften der Union über IT-Großsysteme im Raum der Freiheit, der Sicherheit und des Rechts

ANHANG XI

Technische Dokumentation gemäß Artikel 53 Absatz 1 Buchstabe a technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

ANHANG XII

Transparenzinformationen gemäß Artikel 53 Absatz 1 Buchstabe b technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck für nachgelagerte Anbieter, die das Modell in ihr KI-System integrieren

ANHANG XIII

Kriterien für die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko gemäß Artikel 51