Im Mai 2024 hat die Europäische Union den AI Act verabschiedet – das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Ziel ist es, den Einsatz von KI sicher und transparent zu gestalten, ohne Innovation auszubremsen. Besonders für die öffentliche Verwaltung in Deutschland bringt das neue Regelwerk konkrete Pflichten und tiefgreifende Veränderungen mit sich.
Was steckt im EU AI Act?
Der AI Act folgt einem risikobasierten Ansatz. Je nach potenzieller Gefahr für die Gesellschaft werden KI-Systeme in vier Kategorien eingeteilt:
- Verbotene Anwendungen: Systeme, die Grundrechte verletzen oder diskriminieren, sind künftig untersagt.
- Hochrisiko-KI: Etwa im Gesundheitswesen, der Justiz oder der Verwaltung. Hier gelten strenge Regeln, etwa zu Transparenz, Kontrollierbarkeit und Risikoabschätzungen.
- Begrenzte Risiken: Hier geht es vor allem um klare Kennzeichnungen, etwa bei KI-generierten Inhalten.
- Minimale Risiken: Für unkritische Systeme gibt es keine besonderen Vorgaben.
Was heißt das für Behörden in Deutschland?
1. Neue Pflichten und Prozesse
Bis August 2025 müssen alle eingesetzten KI-Systeme erfasst und eingeordnet werden. Vor allem bei Hochrisiko-Anwendungen gelten klare Vorgaben:
- Grundrechtsfolgeabschätzungen müssen durchgeführt werden.
- Es braucht transparente Dokumentation und Nachvollziehbarkeit.
- KI-Systeme sollen von Anfang an so gestaltet sein, dass sie rechtskonform arbeiten.
- Risiken müssen regelmäßig neu bewertet werden.
2. Aufbau von Wissen und Fähigkeiten
Behörden brauchen künftig mehr technisches Know-how. Beschäftigte, die mit KI zu tun haben, müssen geschult werden – in Entwicklung, Nutzung und Kontrolle. Weiterbildungen werden Pflicht, um die Systeme verantwortungsvoll einzusetzen.
3. Prozesse neu denken
KI kann dabei helfen, Routineaufgaben effizienter zu erledigen. Aber alle Abläufe müssen so angepasst werden, dass sie mit den Vorgaben des AI Acts zusammenpassen – zum Beispiel im Hinblick auf Datenschutz oder ethische Standards.
4. Neue Kontrollstellen
Deutschland muss mindestens zwei zentrale Stellen einrichten: eine für die Marktüberwachung, eine weitere für die technische Prüfung und Registrierung. Eine zentrale Bundesbehörde wird empfohlen, um klare Zuständigkeiten zu schaffen und Doppelarbeit zu vermeiden.
5. Bestehende Gesetze einbinden
Der AI Act steht nicht allein. Er muss mit anderen Vorgaben wie der DSGVO oder dem Data Act abgestimmt werden. Ziel ist, Überschneidungen zu vermeiden und mehr Rechtssicherheit zu schaffen.
Was jetzt zu tun ist
Für die öffentliche Verwaltung ergibt sich ein klarer Handlungsrahmen:
- KI-Systeme im Einsatz erfassen und bewerten
- Mitarbeitende qualifizieren (über den Nds. Städtetag / NST Wissenstransfer in Kooperation mit OptiSo möglich: https://www.wissenstransfer.info/)
- Prozesse für Compliance und Dokumentation einführen
- Technische und organisatorische Abläufe anpassen
- Zusammenarbeit mit den Aufsichtsstellen vorbereiten
- Zeit und Budget für die Umsetzung einplanen
Fazit
Der AI Act ist ein Meilenstein – auch für Behörden in Deutschland. Er stellt klare Anforderungen, eröffnet aber auch Chancen. Wer sich frühzeitig vorbereitet, kann nicht nur Risiken vermeiden, sondern Vertrauen schaffen und moderne Technologien verantwortungsvoll einsetzen.
