Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)

<p>Für die Meldung von Verstößen gegen diese Verordnung und den Schutz von Personen, die solche Verstöße melden, gilt die Richtlinie (EU) 2019/1937.</p>

Meldung von Verstößen und Schutz von Hinweisgebern

ALLGEMEINE BESTIMMUNGEN

KAPITEL I

Gegenstand

Anwendungsbereich

Begriffsbestimmungen

KI-Kompetenz

VERBOTENE PRAKTIKEN IM KI-BEREICH

KAPITEL II

Verbotene Praktiken im KI-Bereich

HOCHRISIKO-KI-SYSTEME

KAPITEL III

Einstufung von KI-Systemen als Hochrisiko-KI-Systeme

ABSCHNITT 1

Einstufungsvorschriften für Hochrisiko-KI-Systeme

Änderungen des Anhangs III

Anforderungen an Hochrisiko-KI-Systeme

ABSCHNITT 2

Einhaltung der Anforderungen

Risikomanagementsystem

Daten und Daten-Governance

Technische Dokumentation

Aufzeichnungspflichten

Transparenz und Bereitstellung von Informationen für die Betreiber

Menschliche Aufsicht

Genauigkeit, Robustheit und Cybersicherheit

Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter

ABSCHNITT 3

Pflichten der Anbieter von Hochrisiko-KI-Systemen

Qualitätsmanagementsystem

Aufbewahrung der Dokumentation

Automatisch erzeugte Protokolle

Korrekturmaßnahmen und Informationspflicht

Zusammenarbeit mit den zuständigen Behörden

Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen

Pflichten der Einführer

Pflichten der Händler

Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Pflichten der Betreiber von Hochrisiko-KI-Systemen

Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme

Notifizierende Behörden und notifizierte Stellen

ABSCHNITT 4

Notifizierende Behörden

Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Notifizierungsverfahren

Anforderungen an notifizierte Stellen

Vermutung der Konformität mit den Anforderungen an notifizierte Stellen

Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen

Operative Pflichten der notifizierten Stellen

Identifizierungsnummern und Verzeichnisse notifizierter Stellen

Änderungen der Notifizierungen

Anfechtungen der Kompetenz notifizierter Stellen

Koordinierung der notifizierten Stellen

Konformitätsbewertungsstellen in Drittländern

Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

ABSCHNITT 5

Harmonisierte Normen und Normungsdokumente

Gemeinsame Spezifikationen

Vermutung der Konformität mit bestimmten Anforderungen

Konformitätsbewertung

Bescheinigungen

Informationspflichten der notifizierten Stellen

Ausnahme vom Konformitätsbewertungsverfahren

EU-Konformitätserklärung

CE-Kennzeichnung

Registrierung

TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME

KAPITEL IV

Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK

KAPITEL V

Einstufungsvorschriften

Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko

Verfahren

Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

Praxisleitfäden

MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG

KAPITEL VI

KI-Reallabore

Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise

Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor

Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren

Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren

Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen

Ausnahmen für bestimmte Akteure

GOVERNANCE

KAPITEL VII

Governance auf Unionsebene

Büro für Künstliche Intelligenz

Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz

Aufgaben des KI-Gremiums

Beratungsforum

Wissenschaftliches Gremium unabhängiger Sachverständiger

Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten

Zuständige nationale Behörden

Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle

EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME

KAPITEL VIII

EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme

BEOBACHTUNG NACH DEM INVERKEHRBRINGEN, INFORMATIONSAUSTAUSCH UND MARKTÜBERWACHUNG

KAPITEL IX

Beobachtung nach dem Inverkehrbringen

Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme

Austausch von Informationen über schwerwiegende Vorfälle

Meldung schwerwiegender Vorfälle

Durchsetzung

Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck

Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden

Europäisches Sekundärrecht

Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Recht auf Erläuterung der Entscheidungsfindung im Einzelfall

Artikel 87 VO (EU) 2024/1689

Meldung von Verstößen und Schutz von Hinweisgebern