Durchsetzung der KI-VO auf europäischer Ebene: Das EU AI Office
Berlin, Mai 2024 - (von Björn Herbers und David Rappenglück) Das Europäische Parlament hat am 13. März 2024 die "Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz" (KI-VO) verabschiedet. Nach Feinschliff durch den juristischen Dienst ist der Gesetzgebungsprozess im Europäischen Parlament mit Annahme des sog. "Korrigendums" am 23. April 2024 abgeschlossen worden. Als letzter formeller Schritt muss nun noch der Rat der Europäischen Union zustimmen, da aber eine politische Einigung bereits seit dem Dezember 2023 vorliegt, ist davon auszugehen, dass die KI-VO in der nun vorliegenden Form im Laufe des Frühsommers 2024 in Kraft treten wird.
Die KI-VO wird als europäische Verordnung unmittelbar in allen 27 Mitgliedstaaten gelten und soll einen wesentlichen Beitrag zur Erreichung der europäischen Digitalstrategie (A Europe fit for the digital age) leisten.
Bereits am 24. Januar 2024 – also noch vor der Verabschiedung der KI-VO durch das Europäischen Parlament – wurde das Europäische Amt für Künstliche Intelligenz (EU AI Office) durch Beschluss der Kommission (Gründungsbeschluss) gegründet.
Das EU AI Office wird eine Reihe von zentralen Aufgaben im Rahmen der KI-Strategie der EU wahrnehmen und soll Zentrum der KI-Expertise der EU werden. Von besonderer Bedeutung ist dabei die Zuständigkeit des EU AI Office für die Regulierung von KI-Modellen mit allgemeinem Verwendungszweck (GPAI-Modelle) und KI-Systemen, die auf einem GPAI-Modell basieren und von demselben Anbieter entwickelt wurden. Darüber hinaus wird das EU AI Office eine wichtige Rolle beim Erlass von KI-Verhaltenskodizes, technischen Vorschriften und Standards spielen.
EU AI Office als Teil der EU-Kommission
Organisatorisch ist das EU AI Office Teil der Verwaltungsstruktur der Generaldirektion Kommunikationsnetze, Inhalte und Technologien (DG Connect) der Europäischen Kommission, wobei die Finanzierung des EU AI Office aus dem Förderprogramm "Digitales Europa" erfolgen wird. Das EU AI Office soll mit zunächst bis zu 100 Mitarbeitern* ausgestattet werden. Hierfür werden derzeit intern wie extern neben Juristen* und Experten* für Digitalpolitik auch explizit KI-Ingenieure* gesucht.
EU AI Office ist zuständig für die Durchsetzung der GPAI-Vorschriften
Die endgültige KI-VO enthält Regelungen, die im ursprünglichen Vorschlag der Europäischen Kommission vom April 2021 nicht enthalten waren. Dazu gehören Vorschriften für GPAI-Modelle und KI-Systeme, die auf einem GPAI-Modell basieren, sowie eine Governance-Struktur zur Überwachung dieser Vorschriften.
Zentrales Element dieser Governance-Struktur ist das EU AI Office, das als Marktüberwachungsbehörde für GPAI-Modelle und KI-Systeme, die auf einem GPAI-Modell basieren und von demselben Anbieter entwickelt wurden, fungiert. Die Überwachung der übrigen nach der KI-VO regulierten KI-Systeme obliegt dagegen den nationalen Marktüberwachungsbehörden.
Bei der Durchsetzung der Vorschriften über GPAI-Modelle ist das EU AI Office – im Unterschied zu den für die Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt zuständigen nationalen Behörden – nicht auf die in der Verordnung (EU) 2019/1020 ("EU-Marküberwachungsverordnung") vorgesehenen Maßnahmen beschränkt. Vielmehr stellt Artikel 89 Abs. 1 KI-VO klar, dass das EU AI Office zur Durchsetzung der GPAI-Model Vorschriften "die erforderlichen Maßnahmen" treffen kann.
Es ist deshalb auch möglich dass das EU AI Office über die Marktüberwachung hinaus Maßnahmen wie z.B. kartellrechtliche Untersuchungen durchführt und hierbei nach Artikel 5 des Gründungsbeschlusses mit der Generaldirektion Wettbewerb zusammenarbeitet.
Hinsichtlich der Durchsetzung von Vorschriften für KI-Systeme, die auf einem GPAI-Modell basieren, ist das EU AI Office hingegen nach Art. 75 Abs. 1 KI-VO auf die Befugnisse einer Marktüberwachungsbehörde im Sinne der EU-Marküberwachungsverordnung beschränkt.
Die Verhängung von Geldbußen (bei Verstößen gegen die GPAI-Vorschriften der KI-VO bis zu 3% des weltweiten Vorjahresumsatzes oder 15 Mio. EUR) erfolgt zwar nach Art. 101 Abs. 1 KI-VO durch "die Kommission" und das genaue Verfahren ist noch durch einen Durchführungsrechtsakt näher auszugestalten. Naheliegend ist es aber, dass dem EU AI Office hier eine besondere Rolle im Sinne einer Vollzugsbehörde zukommen wird. Dies entspricht organisatorisch einer Ausgestaltet wie sie bereits heute, etwa in der Generaldirektion Wettbewerb oder der Generaldirektion Handel vorhanden ist.
Die Prioritäten des EU AI Office werden durch in den ersten Monaten nach Inkrafttreten der KI-VO durch deren ambitionierten Zeitplan bestimmt sein. Der Schwerpunkt wird daher zunächst auf der Unterstützung der Europäischen Kommission bei der Erarbeitung der insgesamt 84 Begleitmaßnahmen zur KI-Verordnung (wie etwa Leitlinien, Verhaltenskodizes und Durchführungsrechtsakte) liegen.
Abgrenzung der Zuständigkeit von nationalen Behörden
Für Durchsetzungsmaßnahmen in Bezug auf KI-Systeme, bei denen es sich nicht um GPAI-Modelle handelt oder die nicht unmittelbar vom Anbieter selbst aus GPAI-Modellen entwickelt wurden, sind die nationalen Behörden der Mitgliedstaaten zuständig. Wie aus Erwägungsgrund 7 des Gründungsbeschlusses hervorgeht, werden diese Zuständigkeiten durch die Errichtung des EU AI Office nicht berührt.
Die für die Durchsetzung der KI-VO zuständigen nationalen Behörden müssen innerhalb von zwölf Monaten ab Inkrafttreten der KI-VO benannt werden. Art und Umfang der Durchsetzungsmaßnahmen bestimmen sich hierbei gemäß Artikel 74 Abs. 1 KI-VO im Wesentlichen nach der Verordnung EU-Marküberwachungsverordnung.
Wie die Durchsetzung der KI-VO auf Ebene der Mitgliedstaaten administrativ organisiert wird, bleibt den Mitgliedstaaten überlassen. So können diese hierfür eine neue Behörde einrichten oder eine bestehende Behörde um eine KI-Amt erweitern. Während Spanien beispielsweise mit der Agencia Española de Supervisión de la Inteligencia Artificial eine eigenständige Behörde ins Leben gerufen hat, setzt Österreich mit der KI-Servicestelle auf eine der Rundfunk- und Telekom Regulierungs-GmbH nachgeordnete Stelle.
Deutschland hat – wie viele andere Mitgliedstaaten – bisher noch keine Behörde benannt. Allerdings hat die Bundesregierung in einer Antwort auf eine kleine Anfrage. angekündigt, zu diesem Zweck einen Entwurf für ein Durchführungsgesetz zur KI-VO in den Bundestag einzubringen.
Mitwirkung bei der Standardisierung und dem Erlass technischer Vorschriften
Gemäß dem Gründungsbeschluss hat das EU AI Office eine unterstützende Funktion bei der Entwicklung technischer Normen und Standards für KI-Systeme. Im Wesentlichen soll es die Europäische Kommission bei der Ausarbeitung von Normungsaufträgen, der Überprüfung bestehender Normen und der Entwicklung gemeinsamer Spezifikationen unterstützen, die für die Umsetzung der KI-VO erforderlich sind.
Ferner ist das EU AI Office befugt, auf Anfrage der Europäischen Kommission oder auf eigene Initiative Empfehlungen und schriftliche Stellungnahmen zu allen relevanten Aspekten im Zusammenhang mit der Umsetzung der KI-VO und ihrer kohärenten und effektiven Anwendung abzugeben. Dies umfasst technische Spezifikationen und die Überprüfung bestehender Normen im Hinblick auf die Anforderungen der KI-VO sowie die Verwendung harmonisierter Normen oder gemeinsamer Spezifikationen im Rahmen des Normungsmandats der Standardisierungsorganisationen CEN und CENELEC.
Weitere Aufgaben des EU AI Office
Neben der oben geschilderten Funktion als Marktüberwachungsbehörde mit weitreichenden Durchsetzungskompetenz, kommen dem EU AI Office auch Aufgaben im Bereich der Innovationsförderung zu. So soll das EU AI Office als "Zentrum der KI-Expertise in der gesamten EU" fungieren und hierfür unter anderem mit nationalen, europäischen und internationalen Organisationen zusammenarbeiten.
Zudem überwacht des EU AI Office den KI-Pakt, eine Initiative, die es Unternehmen ermöglicht, mit der Kommission und anderen Interessengruppen zusammenzuarbeiten, bevor die KI-VO in Kraft tritt.
Weiteren Aufgaben des EU AI Office umfassen die Entwicklung von "Verhaltenskodizes" und die Unterstützung der Europäischen Kommission bei der Ausarbeitung von Durchführungsrechtsakten und delegierten Rechtsakten zur Umsetzung der KI-VO.
EU AI Office hat weitreichende Kompetenzen bei der Durchsetzung der KI-VO
Mit der Einrichtung des EU AI Office hat die Kommission eine Behörde mit weitreichenden Kompetenzen zur Durchsetzung der GPAI-Bestimmungen nach der KI-VO geschaffen. Durch die Zuweisung der Durchsetzung der Vorschriften für andere KI-Systeme an nationale Behörden, entwickelt die EU eine duale Struktur für die Durchsetzung der KI-VO.
Mit der Durchsetzung der GPAI-Bestimmungen durch das EU AI Office obliegt der Europäischen Kommission hierbei die Durchsetzung des "regulatorischen Herzstücks" der KI-VO. Durch die Vielzahl weiterer Aufgaben des EU AI Office – sei es im Rahmen der KI-Innovationsförderung oder der Ausgestaltung der in der KI-VO Verhaltenskodizes- behält sich die EU-Kommission zudem die weitere Steuerung der europäischen KI-Kompetenz vor.
