In der öffentlichen Verwaltung stehen wir an einem entscheidenden Wendepunkt der Digitalisierung. Während führende KI-Entwickler das Bild einer weitgehend autonomen Behörde zeichnen, die komplexe Projekte und Analysen eigenständig steuert, zeigt die empirische Forschung ein deutlich nüchterneres Bild (Kemper, 2026; Kirgis et al., 2026). Für Führungskräfte im öffentlichen Sektor bedeutet dies, Erwartungshaltungen an den Reifegrad von KI-Systemen anzupassen und Strategien realistisch auszurichten.
Die Lektion der Forschung: Engineering vs. Urteilsvermögen
Eine aktuelle Untersuchung zur Leistung von Frontier-Modellen (u. a. Claude Opus und GPT-5.6 Sol) liefert zentrale Belege für die Grenzen autonomer KI-Agenten (Kirgis et al., 2026). In einer sogenannten Shadow Evaluation verarbeiteten KI-Agenten komplexe, noch unveröffentlichte Forschungsfragen. Die Ergebnisse verdeutlichen ein klares Verhaltensmuster:
- Hohe Kompetenz im Research Engineering: Die Systeme bewältigen rein technische Aufgaben hervorragend. Sie führen umfassende Literaturrecherchen durch, korrigieren Programmiercode, verarbeiten große Datensätze und strukturieren finale Dokumente (Kemper, 2026; Kirgis et al., 2026).
- Defizite bei Urteilsvermögen und Strategie: Sobald Aufgaben ein breites wissenschaftliches oder strategisches Abwägen verlangen, scheitern die Systeme systematisch. Den Modellen fehlt die Fähigkeit zur Abduktion – der kreative Gedankensprung, um bei unerwarteten Problemen neuartige Ursachen und Lösungsansätze zu entwickeln (Zahavy, 2026, zit. nach Kemper, 2026).
Die Forscher identifizierten unter anderem ein verfrühtes Aufgeben komplexer Absichten, ineffizientes Ressourcenmanagement sowie den sogenannten Instruction Drift – das schrittweise „Vergessen“ zentraler Steuerungsanweisungen bei langen Kontexten (Kirgis et al., 2026).
Was bedeutet das für die Arbeitsabläufe der Verwaltung?
Für die praktische Prozessoptimierung und Automatisierung in Behörden leitet sich aus diesen Befunden ab: Die Vision der vollautonomen Sachbearbeitung ist derzeit nicht tragfähig; der Fokus muss auf intelligenter Assistenz liegen (Human-in-the-Loop).
1. Hohe Automatisierungspotenziale (Engineering-Ebene)
In streng regelbasierten und datenintensiven Prozessschritten lässt sich KI bereits heute gewinnbringend als Hilfsmittel einsetzen:
- Dokumenten-Synthese und -Entwurf: Vorbereitung von Bescheid-Entwürfen, Zuarbeit bei Berichten und Zusammenfassung umfangreicher Akteninhalte.
- Recherchen in Regelwerken: Durchsuchen großer Rechts- und Verwaltungsdatenbanken nach relevanten Präzedenzfällen oder Vorschriften.
- Standardisierte Bürgerkommunikation: Erstellung von Antwortentwürfen auf wiederkehrende Anfragen.
2. Grenzen der Automatisierung (Urteils-Ebene)
In Übereinstimmung mit den Befunden von Kirgis et al. (2026) bleiben Kernfunktionen der Verwaltung menschlichen Entscheidungsträgern vorbehalten:
- Ermessensentscheidungen und Rechtswürdigung: Die Abwägung konkurrierender Rechtsgüter und schutzwürdiger Interessen im Einzelfall erfordert Kontextverständnis, das KI-Agenten nicht besitzen.
- Prozess- und Projektsteuerung: Da KI-Agenten bei unerwarteten Hürden dazu neigen, Aufgaben vorzeitig abzubrechen oder ineffiziente Pfade einzuschlagen (Kirgis et al., 2026), verbleiben Zieldefinition und Steuerung beim Personal.
- Ethische Bewertung und Stakeholder-Einbindung: Die politische Dimension von Entscheidungen und die Vertretung gemeinwohlorientierter Interessen lassen sich nicht mathematisch optimieren.
Empfehlungen für Führungskräfte
- Mensch-Maschine-Kopplung verankern: KI-Anwendungen sollten stets als Vorbereitungssysteme konzipiert werden, deren Arbeitsergebnisse von Fachkräften geprüft und freigegeben werden.
- Modulare Teilautomatisierung bevorzugen: Anstatt End-to-End-Prozesse abgeben zu wollen, sollten klar abgegrenzte Teilprozesse (z. B. Datenextraktion) punktuell automatisiert werden.
- Prozessanweisungen präzisieren: Um Phänomenen wie dem Instruction Drift (Kirgis et al., 2026) entgegenzuwirken, müssen Prompts und Schnittstellen rigoros strukturiert und überwacht werden.
Fazit
KI ist kein Ersatz für fachliche Expertise, juristische Würdigung oder strategische Führung. Sie ist ein Werkzeug zur Beschleunigung der kognitiven Routinearbeit. Die primäre Aufgabe von Führungskräften bei der Verwaltungsmodernisierung besteht darin, diese Assistenzsysteme so in die Prozesse einzubinden, dass Effizienzgewinne realisiert werden, ohne die Rechtsstaatlichkeit und Entscheidungssicherheit der Verwaltung zu gefährden.
Verwendete Literatur
Kirgis, P., et al. (2026). Evaluating autonomous AI research agents through shadow evaluations of unpublished papers [Unveröffentlichtes Manuskript / Preprint]. (Referenziert in Kemper, 2026).
Kemper, J. (2026, 14. August). Studie widerspricht Anthropic und OpenAI: Autonome KI-Forschung ist noch weit entfernt. THE DECODER. https://the-decoder.de/studie-widerspricht-anthropic-und-openai-autonome-ki-forschung-ist-noch-weit-entfernt/
