Die 2024 verabschiedete Verordnung (EU) 2024/1689 (im Folgenden: AI Act) verpflichtet die Mitgliedstaaten, im Rahmen der nationalen Umsetzung des AI Act drei Arten von Behörden zu benennen oder einzurichten, vgl. Art. 70 und Art. 77 AI Act. Der AI Act lässt den Mitgliedstaaten einen Ermessensspielraum in Bezug auf die Struktur und Gestaltung dieser drei Arten von Behörden.
Was die Behörden zum Schutz der Grundrechte betrifft, so waren die Mitgliedstaaten gemäß Art. 77 Abs. 2 AI Act verpflichtet, bis zum 2. November 2024 eine Liste dieser Behörden zu veröffentlichen. Die Mitgliedstaaten sollten gemäß Art. 113 lit. b) AI Act bis zum 2. August 2025 mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde als zuständige nationale Behörden errichten oder benennen. Hier setzt der Referentenentwurf eines Gesetzes zur Durchführung der KI-Verordnung (EU) 2024/1689 (im Folgenden: Referentenentwurf) an. Diese Frist ist von Deutschland bereits überschritten worden, sodass das Weizenbaum-Institut die Veröffentlichung des Referentenentwurfes und die geplante zügige Verabschiedung des Umsetzungsgesetzes begrüßt.
Diese Stellungnahme greift maßgebliche Aspekte des Entwurfs auf und analysiert sie. Ein Schwerpunkt der Betrachtung liegt auf der Stellung der Bundesnetzagentur als zentrale Durchsetzungsbehörde. Ziel der Stellungnahme ist es, sowohl aus juristischer Perspektive (Rechtsstaatlichkeit, Grundrechte, Governance) als auch aus wissenschaftlicher Perspektive (Gesellschaftliche Auswirkungen, Partizipation) zentrale Regelungen kritisch zu beleuchten.