Die Künstiliche Intelligenz findet immer weiter Einzug in den Arbeitsalltag, dabei sind einige gesetzliche Anforderungen durch Handwerksbetriebe zu berücksichtigen. Durch die Durchfürungsverordnung wurden nunmehr auch die für die Marktüberwachung zuständigen Behörden festgelegt.
Transparenzpflicht nach Art. 50 KI-Verordnung
Aus der Verordnung (EU) 2024/1689 (KI-VO) ergeben sich für Anbieter und Betreiber von KI-Systemen eine Vielzahl von Verpflichtungen. Handwerksbetriebe werden i. d. R. Betreiber sein. Besonders im Vordergrund steht dabei die Wahrung der Transparenzpflicht. KI-Systeme müssen so konzipiert sein, dass deren Betrieb hinreichend transparent und die Ausgaben nachvollziehbar sind.
Eine Kennzeichnungspflicht gegenüber Dritten besteht:
- wenn KI-Inhalte erzeugt oder manipuliert werden, sodass sie echt oder irreführend wirken könnten (Deepfakes). Dies betrifft insbesondere Bilder und Videos, die mit KI erstellt oder umfangreich nachbearbeitet wurden.
- beim Einsatz von KI-Chatbots auf Webseiten oder in der KI-Telefonkommunikation/Sprachassistenz.
Die Kennzeichnungspflicht nach außen entfällt, bei Marketingtexten, wesentlicher Erstellung, umfassender Überprüfung und Übernahme der redaktionellen Verantwortung durch einen Menschen und bei lediglich leichter Nachbearbeitung echter Fotos und Videos.
Die Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen unterstützen bei der Einschätzung.
Schulungsobliegenheit für Betreiber nach Art. 4 KI-Verordnung
Hinzu kommt die allgemeine KI-Kompetenzpflicht. Diese wird im Rahmen von Schulungen des Personals zu den grundlegenden Kenntnissen über die Funktionsweise, möglichen Risiken und Grenzen von KI-Systemen sichergestellt. Diese verpflichtet Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI‑Kompetenz zu garantieren; die technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Fortbildung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden, werden bei der Schulung jedoch berücksichtigt.
Gesetz zur Durchführung der Verordnung über künstliche Intelligenz
Das Gesetz zur Durchführung der Verordnung über künstliche Intelligenz, auch bekannt als KI-Marktüberwachungs-und-Innovationsförderungsgesetz (KI-MIG), trat am 29.Juli 2026 in Kraft. Es regelt die nationale Durchführung der Verordnung (EU) 2024/1689 (KI-VO), benennt die zuständigen Behörden sowie Regelungen zu Verfahren und Sanktionen. Darüber hinaus werden insbesondere die Marktüberwachungs- und Aufsichtsstrukturen durch das Gesetz präzisiert.
Zuständigkeit
Die Bundesnetzagentur (BNetzA) fungiert als zentrale Aufsichtsbehörde. Zu ihren Aufgaben zählen insbesondere die zentrale Marktüberwachung für KI-Systeme, sowie die Koordinierung und Überwachung anderer Marktüberwachungsbehörden. Auch für die Aufsicht und Marktüberwachung von Handwerksbetrieben beim Einsatz von KI-Systemen ist grundsätzlich die BNetzA zuständig. Dies gilt, sofern keine spezialgesetzlichen oder landesrechtlichen Sonderzuständigkeiten bestehen.
Kritik und weiteres Vorgehen
Von Länderseite wurde im weiteren parlamentarischen Verfahren kritisiert, dass die Marktüberwachung von KI-Systemen, für die die Landesbehörden zuständig sind, den nach Landesrecht zu bestimmenden zuständigen Behörden übertragen werden soll. Daraufhin wurde zwischen Bund und Ländern die Vereinbarung getroffen, die Marktaufsicht auch dahingehend bei der Bundesnetzagentur zu konzentrieren. Dies soll eine uneinheitliche Anwendung der Regelungen durch die Länder verhindern und wird zeitnah im Rahmen einer Verwaltungsvereinbarung geregelt.