Entwurf eines Gesetzes zur Durchführung der Verordnung (EU)2024/1689
Vorschläge zum Durchführungsgesetz der KI-Verordnung
10. Oktober 2025
Vorbemerkung
Der Einsatz von Künstlicher Intelligenz (KI) ist ein entscheidender Wettbewerbsfaktor, mit dem sich dem Fachkräftemangel begegnen lässt und Ressourcen wirtschaftlicher genutzt werden können. Die Verordnung (EU) 2024/1689 (im Folgenden „KI-VO“) ist in diesem Zusammenhang von großer volkswirtschaftlicher Relevanz Um Unternehmen Rechtssicherheit im Umgang mit KI zu bieten, ist es von herausragender Bedeutung, dass der vorliegende Entwurf zur Durchführung der KI-VO (im Folgenden „KI-VO-DG-E“) das Gesetzgebungsverfahren zügig durchläuft. Dabei ist nach Überzeugung des BDI zuvorderst eine harmonisierte, schlanke und nutzerorientierte Durchsetzungsstruktur sicherzustellen, um die Innovationskraft und die internationale Wettbewerbsfähigkeit der deutschen Industrie zu stärken. Damit KI-gestützte Innovationen vorangetrieben werden, muss die Aufsichtsstruktur transparent und stakeholderinklusiv ausgestaltet sein, indem etwa relevante Stakeholder frühzeitig einbezogen werden. Kleinteilige Strukturen und konkurrierende Aktivitäten verschiedener Ressorts behindern eine weitsichtige institutionelle Zuständigkeitsklärung für Künstliche Intelligenz.
Darüber hinaus muss die Durchführung der Verordnung eng durch sektorspezifische technische Leitlinien begleitet werden, die auch neue technologische Entwicklungen spiegeln und, wo nötig, entsprechend ohne langwierige Gesetzgebungsverfahren angepasst werden. Eine sich rasant entwickelnde Technologie wie Künstliche Intelligenz muss sich institutionell in agiler Gesetzgebung niederschlagen.
Damit nationale Aufsichtsbehörden gelingen können, sollten diese aus Sicht der Industrie nicht nur Sanktionsfunktionen erfüllen. Die nationale Aufsicht über die KI-VO muss das Schaffen eines gemeinsamen Binnenmarktes für KI, Innovations- und Investitionsförderung sowie die Förderung der allgemeinen Nutzung von KI in Wirtschaft und Forschung sicherstellen. Zudem sind die Vorgaben des AI Acts insbesondere für bereits stark regulierte Bereiche (Annex I) im Zuge des Simplification-Prozesses zu vereinfachen und bürokratische Hürden abzubauen.
Zu § 2 KI-VO-DG-E Marktüberwachungsbehörden
Kurzfristig befürworten wir die Benennung der BNetzA als zentrale Aufsichtsbehörde. Gegeben der Kürze der Umsetzungsfristen wurde hier insgesamt ein pragmatischer Ansatz gewählt. Mittelfristig muss jedoch klar das Ziel sein, die Kompetenzen der BNetzA als Koordinierungs- und Kompetenzzentrum, Anlauf- und Beschwerdestelle sowie Marktüberwachungsbehörde für die Bereiche 1, 3, 4, 5 a) und d), 6, 7 und 8 in Anhang III der KI-VO in eine neu zu schaffende Digitalaufsicht zu überführen.
Politische Verantwortung und fachliche Zuständigkeit müssen Hand in Hand gehen. Das Digitalministerium benötigt daher eine neu zu schaffende Digitalaufsicht als eigene nachgeordnete Behörde mit entsprechender Budgethoheit. Diese Digitalaufsicht würde eine kohärente und effiziente GovernanceStruktur für die Digitalwirtschaft in Deutschland etablieren und den regulatorischen Herausforderungen der Digitalisierung ganzheitlich begegnen. Zudem könnte die Digitalaufsicht als zentraler Ansprechpartner für die Datenschutzbehörden fungieren. Ein entsprechender Vorsatz könnte bereits im Durchführungsgesetz verankert werden.
In jedem Fall muss langfristig die Finanzierung eines solchen Single Point of Contact geklärt werden Auch kurzfristig muss die BNetzA zur Erfüllung Ihrer Aufgaben mit ausreichend fachlich qualifizierten personellen Kapazitäten ausgestattet werden
Ungeachtet dessen begrüßt der BDI, dass sektoral zuständige Behörden nach Anhang I der KI-VO weiterhin für die Marktüberwachung zuständig bleiben und von der BNetzA durch Koordination und Bereitstellung von Expertise unterstützt werden (s. dazu ausführlich § 5 KI-VO-DG-E). So bleibt Domänenwissen weiterhin Teil der Entscheidungspraxis und festgelegte Kompetenzen und Zuständigkeiten werden nicht untergraben Für die erfolgreiche Durchsetzung der KI-VO ist eine zielgruppenspezifische Kommunikation und Abstimmung der Aufsichtsbehörden entscheidend, da aufgrund der komplex verteilten Verantwortlichkeiten entlang der Wertschöpfungskette für Unternehmen, insbesondere für KMU, Unklarheiten über die Rolle eines Unternehmens als Provider, Deployer oder User bestehen.
Der BDI begrüßt es, dass eine Unabhängige KI-Marktüberwachungskammer (UKIM) eingerichtet wird, welche gem. § 2 Abs. 5 KI-VO-DG-E die Marktüberwachung für grundrechtssensible Bereiche übernimmt. Eine solche Stelle bei der BNetzA zu errichten ist nach Ansicht des BDI einer Marktüberwachung durch die Datenschutzbehörden zu bevorzugen, welche keine Erfahrung in der Produktregulierung vorweisen und sich nicht als innovationsfreundlich erwiesen haben.
In das bei der BNetzA vorgesehene wissenschaftliche Gremium (§ 2 Abs. 6 KI-VO-DG-E) sollten Branchenexpertinnen und -experten als Sachverständige in relevantem Maße eingebunden werden, um die Arbeit der zentralen Aufsichtsbehörde fachlich zu begleiten. Auf diese Weise würde sichergestellt, dass praktisches Erfahrungswissen systematisch in die Beurteilung von technischer Fragestellung einfließt.
Der Vorsatz, die Zuständigkeit für die Aufsicht und Zulassung von KI-Systemen, die unter Anhang I Abschnitt B fallen, bei den dort bereits bestehenden sektorspezifischen Aufsichtsstrukturen zu belassen, ist bereits im Begründungsteil des Referentenentwurfs (S. 20) als Zukunftsklausel angelegt. Angesichts der Bedeutung dessen, Doppelstrukturen zu vermeiden, sollte diese Zukunftsklausel jedoch ausdrücklich im Gesetzestext selbst, beispielsweise in § 2 Abs 2 KI-VO-DG-E, verankert werden. Beispielsweise sollte das Kraftfahrt-Bundesamt (KBA) sowohl für die Marktzulassung als auch für die Marktüberwachung im Automobilbereich zuständig bleiben.
Ebenso sollten unklare Aufsichtsstrukturen vermieden werden, indem für Konstellationen, in welchen die Zuständigkeit klärungsbedürftig ist, frühzeitig die jeweils zuständige Behörde klargestellt wird. Eine solche Konstellation besteht etwa, wenn ein Automotive-KI-System unter Annex I Abschnitt A und Annex I Abschnitt B fällt (Radarsensor), oder unter Annex III und Annex I Abschnitt B (Biometrie im Fahrzeug), wobei in dem benannten Beispiel das KBA zuständig sein sollte.Wir begrüßen ausdrücklich, dass die Aufsicht über Hochrisiko-KI-Systeme, die in direktem Zusammenhang mit der Erbringung von Finanz- und Versicherungsdienstleistungen durch Finanz- und Versicherungsinstitute stehen (KI-Verordnung, Anhang III 5 b) und c)), der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) übertragen werden soll. Dabei sollte jedoch berücksichtigt werden, dass Hochrisiko-KI-Systeme im Bereich der Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen (Anhang III 5 b)) sowie im Bereich der Lebens- und Krankenversicherung (Anhang III 5 c)) zwar überwiegend, aber nicht ausschließlich im Finanz- und Versicherungssektor eingesetzt werden.
Um Doppelstrukturen zu vermeiden und bestehende Fachkompetenz zu bündeln, sollte daher auch der Einsatz von Hochrisiko-KI-Systemen unter Anhang III 5 b) und c) außerhalb des Finanz- und Versicherungssektors unter die Aufsicht der BaFin fallen. Dies sollte ausdrücklich im Durchführungsgesetz festgelegt werden.
Kritisch sehen wir, dass Marktüberwachungsbehörden das Recht erhalten, eigenständig über die Einstufung als Hochrisiko-KI zu entscheiden – auch abweichend von Herstellerangaben. Dies kann die ohnehin schon schwierige Abgrenzung von Hochrisiko-KI unnötig verkomplizieren. Wir appellieren hier an einen pragmatischen Vollzug, der im Dialog mit allen beteiligten Stakeholdern erfolgen sollte.
Zu § 3 KI-VO-DG-E Notifizierende Behörden und Akkreditierung
Die BNetzA grundsätzlich als zuständige notifizierende Behörde zu benennen ist im Sinne einer harmonisierten, schlanken und nutzerorientierten Durchsetzungsstruktur und wird daher ebenso vom BDI begrüßt, wie die Rücksichtnahme auf etablierte sektorale Strukturen. Damit es nicht zu Engpässen oder Verzögerungen kommt, ist die BNetzA mit ausreichend fachlich qualifiziertem Personal und Know-how auszustatten
Zu § 5 KI-VO-DG-E Koordinierungs- und Kompetenzzentrum
Der BDI betont, dass es zwischen den deutschen Bundesländern nicht zu gravierenden Auslegungsunterschieden und Verantwortungsdiffusion bei der Umsetzung der KI-VO kommen darf bzw. unklare oder Doppelstrukturen vermieden werden müssen, da dies zu Rechtsunklarheit führen würde und nicht effizient wäre Insofern begrüßt der BDI, dass bei der BNetzA ein Koordinierungs- und Kompetenzzentrum (KoKIVO) eingerichtet werden soll, welches in komplexen Entscheidungen als Ansprechpartner für die nach § 2 und § 3 KI-VO-DG-E zuständigen Behörden dient, Koordinationsstelle für die zuständigen Behörden ist und auf eine einheitliche Beantwortung horizontaler Rechtsfragen hinwirkt, sowie bei der Aufstellung von Verhaltenskodizes mitwirkt. Langfristig jedoch, sollte die einheitliche Beantwortung horizontaler Rechtsfragen durch Bündelung zentraler Aufsichtsbehörden sichergestellt werden, wobei sektoralen Besonderheiten Raum gegeben werden muss.
Um eine erfolgreiche Koordination zu gewährleisten, sollten die Erfahrungswerte der Industrie miteingebunden werden. Eine Beteiligung der Industrie ist essenziell, um praxisnahe Regeln für KI-Systeme und KI-Anwendungen zu entwickeln. Die Bedarfe der Industrie sollten über institutionalisierte Kanäle in den Prozess einfließen. Daher sollte zusätzlich ein Industrie-Expertenrat geschaffen werden, um
agile Feedbackstrukturen aufzubauen, die den Wissenstransfer aus der Praxis in die Regulierungslandschaft garantiert
Weiterhin ist es für die Wettbewerbsfähigkeit des Standorts Deutschland notwendig, dass in Deutschland ansässige Unternehmen nicht strenger geprüft und überwacht werden als Unternehmen in anderen EU-Staaten Eine derartige Inländerdiskriminierung sollte verhindert werden und ließe sich dem Aufgabenbereich der KoKIVO hinzufügen
Die KoKIVO sollte die Kompetenz haben, im Streitfall eine einheitliche Interpretation herbeiführen und durchsetzen zu können
Zu § 12 KI-VO-DG-E Innovationsfördernde Maßnahmen
Im Rahmen ihrer Aufgabe, innovationsfördernde Maßnahmen durchzuführen, ist technische Expertise und Verständnis für industrielle Produktionsprozesse und Anwendungen auf Seiten der BNetzA, wie z. B. Edge AI Anwendungen oder Standardisierungs- und Interoperabilitätsvorgaben, unerlässlich. Entscheidend für innovationsfördernde Maßnahmen ist der interdisziplinäre, kollaborative Ansatz und die engagierte Repräsentation von Anliegen in Brüssel.
Darüber hinaus sollte die Möglichkeit eines strukturierten Austauschs zwischen Unternehmen und der Behörde zu Fragen neuer und kommender Produkte geschaffen werden – selbstverständlich unter Wahrung von Geschäftsgeheimnissen und Vertraulichkeit. Ein solcher Dialog könnte Genehmigungs, Zertifizierungs- und Real-Labor-Verfahren effizienter und schneller gestalten und zugleich zum Knowhow-Aufbau auf beiden Seiten beitragen.
Die KI-Verordnung betont, dass die begrenzten Ressourcen von KMU und Start-ups bei Prüfungen durch notifizierte Stellen besonders zu berücksichtigen sind (s. Erwägungsgrund 143 KI-VO). Zudem werden die Mitgliedstaaten aufgefordert, gemeinsam mit der Europäischen Kommission Maßnahmen zu ergreifen, um die Kosten freiwilliger Prüfungen durch Dritte zu senken (s. Erwägungsgrund 143 KIVO). Vor diesem Hintergrund sollte das Durchführungsgesetz eine unbürokratische finanzielle Förderung externer Konformitätsbewertungen von KMU und Start-ups vorsehen Der Fokus auf kleine und mittlere Unternehmen sowie Startups ist zu begrüßen, die Unterstützungsmaßnahmen dürfen aber nicht auf diese beschränkt sein, da auch große Unternehmen vor großen Abgrenzungsherausforderungen, insbesondere im Hinblick auf Hoch-Risiko-KI und einen potenziellen Rollentausch (Provider, Deployer, User) vor allem im Zuge der Nutzung von Generativer KI in kundenfokussierten Produkten.
Zu § 13 KI-VO-DG-E KI-Reallabore
Der BDI erachtet KI-Reallabore als sehr wichtiges und sinnvolles Instrument um in verschiedenen Industriebereichen innovative Technologien, Produkte, Diensleistungen oder Verfahrensansätze unter realen Bedingungen zu erproben.1 Der Zugang zu dem KI-Reallabor sollte niederschwellig und möglichst unbürokratisch sein. Wir sprechen uns für digitale Antrags- und Administrationsprozesse mit maximalen Antwortzeiten von 30 Tagen aus. Für die Interaktion mit relevanten Behörden im Rahmen des KI-Reallabors sollte die BNetzA im Sinne eines echten One-Stop Shop als fester Ansprechpartner für
1 Vgl BDI, Stellungnahme zum Referentenentwurf des Bundesministeriums für Wirtschaft und Klimaschutz Reallabor-Gesetz BDI (Oktober 2024)
Unternehmen mit schneller, unbürokratischer und kostenfreier Interaktion zuständig sein. Damit die Chancen, welche mit KI-Reallaboren verbunden sind, zeitnah realisiert werden können, sollte eine „Experimentierklausel“ ergänzt werden, welche die rechtssichere Nutzung von KI-Reallaboren ermöglicht, solange das Reallabore-Gesetz noch nicht in Kraft getreten ist
Evaluierung des Durchsetzungsgesetzes
Eine explizite Evaluierung der nationalen Behörden- und Aufsichtsstrukturen ist nach Abschnitt A VIII des allgemeinen Teils spätestens in drei Jahren vorgesehen, was der BDI vor dem Hintergrund der rasanten Entwicklung im Bereich der künstlichen Intelligenz jedoch als zu spät erachtet. Es bedarf vielmehr einen Mechanismus zur laufenden Optimierung, wozu ein agiles Governance-Modell gewählt werden sollte, in welchem die Industrie frühzeitig eingebunden wird
Entwurf eines Gesetzes zur Durchführung der Verordnung
Impressum
Bundesverband der Deutschen Industrie e.V. (BDI)
Breite Straße 29, 10178 Berlin www.bdi.eu
T: +49 30 2028-0
Redaktion
Polina Khubbeeva
Senior Manager Digitalisation and Innovation
T: +49 30 2028-1586 p.khubbeeva@bdi.eu
Florian Pühl
Studentische Hilfskraft für Digitalisierung und Innovation
T: +49 30 2028-1603 f.puehl@ifg.bdi.eu
Lobbyregisternummer: R000534
BDI Dokumentennummer: D2166